La IA podría ser el primer paso hacia nuestra extinción, según los expertos
Voces autorizadas comienzan a avisar del peligro de las modernas inteligencias artificiales.
Llevamos meses alucinando con las posibilidades que nos ofrece la inteligencia artificial, ya sea mediante modelos de lenguaje conversacionales como ChatGPT o con generadores de imágenes tan espectaculares como Stable Diffusion. Sin embargo, parece que poco a poco se va extendiendo la idea de que estas inteligencias deben ser reguladas o llegará el momento en que sus virtudes se conviertan en amenazas para nuestra sociedad.
La declaración de los riesgos de la inteligencia artificial
Existe una plataforma denominada Centro por la Seguridad de la IA, que recientemente ha publicado un manifiesto en favor de la regulación de esta tecnología para reducir los riesgos que su uso conlleva. En este caso, bajo el título de 'Mitigar el riesgo de extinción por parte de la IA debería ser una prioridad global, además de otros riesgos de escala social como pandemias o guerras nucleares'. No estamos hablando de cuatro ciudadanos descontentos con la inteligencia artificial, sino que expertos en la materia, además de personajes relevantes en compañías del sector, han firmado ya el manifiesto.
We’ve released a statement on the risk of extinction from AI.
— Center for AI Safety (@ai_risks) May 30, 2023
Signatories include:
- Three Turing Award winners
- Authors of the standard textbooks on AI/DL/RL
- CEOs and Execs from OpenAI, Microsoft, Google, Google DeepMind, Anthropic
- Many morehttps://t.co/mkJWhCRVwB
Demis Hassabis, responsable de Google DeepMind, y Sam Altman, CEO de OpenAI, son algunas de las personas que están a favor de dicho manifiesto, en el que se abordan posibles escenarios para la humanidad si no se consigue atajar el lado oscuro de la inteligencia artificial. Entre los peligros futuros se encuentra un uso indebido de la IA y la concentración de uso en cada vez menos manos, lo que supondría una vigilancia y opresión sin precedentes.
Además, las diversas IA podrían ser utilizadas como armas, ayudando a fabricar armamento químico, generar desinformación para desestabilizar a la sociedad o un uso cada vez más intensivo podría acabar por dejarnos una dependencia similar, esto son palabras textuales, 'como el escenario retratado en la película Wall-E'.
Sin embargo, algunos expertos aún no creen que las actuales IA estén preparadas para asolar a nuestra sociedad. Por ejemplo, Arvind Narayanan, científico informático de la Universidad de Princeton, ha asegurado en el medio BBC que 'la IA moderna no está cerca de ser capaz de materializar estos riesgos, sino que está distrayendo la atención de sus peligros a corto plazo'.
Es más que evidente que cualquier tipo de tecnología que pueda suponer un cambio de paradigma debe ser observada, legislada y vigilada, pero de ahí a que nos vaya a dominar en el futuro hay un camino muy largo. O eso queremos pensar.