Antiguos empleados de OpenAI piden poder ser críticos con la inteligencia artificial sin consecuencias

La inteligencia artificial ha quedado para quedarse, pero lo cierto es que ahora se están planteando posibles límites a su uso. Esta tecnología puede tener un avance significativo en nuestras vidas, pero también puede plantear nuevos riesgos en determinados casos. Ahora, una carta emitida por un equipo de exempleados de Google DeepMind y OpenAI muestra por qué aún desconocemos múltiples secretos que podrían estar asociados a esta innovación. Veamos por qué está siendo objeto de polémica este mensaje colectivo.

La IA en el foco de la polémica: esto piensan algunos extrabajadores del sector

La misiva en cuestión ha sido firmada por los exempleados de OpenAI (Jacob Hilton, Daniel Kokotajlo, William Saunders, Carroll Wainwright y Daniel Zieglerm) y Google DeepMind (Ramana Kumar y Neel Nanda). La denominada cláusula de no menosprecio no es otra que el establecimiento de una serie de límites para evitar que cualquier empleado de la firma pueda hablar despectivamente de la empresa respecto a la IA. La eliminación de este punto es lo que ha permitido que estas líneas hayan podido salir a la luz.

Las personas firmantes de este anuncio han querido enfatizar los múltiples beneficios que puede tener la IA en la vida cotidiana de las personas, pero también ha querido mostrar el lado negativo que podría haber detrás del desarrollo de determinados algoritmos. La creación de un modelo basado en el aprendizaje profundo podría producir, en determinados casos, un crecimiento y establecimiento de desigualdades sociales, así como la manipulación de noticias y la desinformación o la pérdida de control de los sistemas autónomos de IA.

Por este motivo, en determinados países o áreas comunes ha entrado en juego determinadas políticas que tienen como objetivo regular la IA. En la Unión Europea, por ejemplo, entrará en vigor próximamente la Ley de Inteligencia Artificial, por lo que las empresas deberán informar sobre la naturaleza de los proyectos que están llevándose a cabo, así como presentar cuáles serán los límites que se establecerán y los objetivos que habrá detrás de su creación. De esta forma, habrá un mayor control sobre los programas de investigación que se están realizando en territorio europeo.

OpenAI fue una de las empresas pioneras en la materia a través del lanzamiento de ChatGPT. Desde entonces, empresas como Meta y Alphabet han mostrado al público sus propios avances en la materia. Se están realizando inversiones multimillonarias con el objeto de obtener una ventaja competitiva en este sector, una cuestión que puede ser particularmente comprometida en los próximos años si no se destina la financiación a crear tecnologías útiles para los seres humanos.