Los delirios de la IA son una “amenaza directa” para la ciencia, dicen los expertos

Si te decimos que la IA es una amenaza, quizás a tu mente vengan películas donde la inteligencia artificial es protagonista. Hoy en día, tenemos magníficas herramientas en la generación de lenguaje, como es el caso de ChatGPT o de Bing Chat, ahora renombrado a Copilot. Sin embargo, algunos expertos empiezan a advertir de la amenaza que supone la IA en sus respectivos campos.

La gran amenaza para la ciencia por parte de la IA

Científicos de la Universidad de Oxford han publicado un artículo en la revista Nature Human Behaviour en el que exponen los miedos e incertidumbres que supone el uso de la IA en el ámbito científico. Estamos hablando de la tendencia de los chatbots a responder todo tipo de preguntas, en ocasiones, incluso, utilizando respuestas falsas.

News release alert! Large Language Models pose risk to science with false answers, says Oxford AI experts @b_mittelstadt @SandraWachter5 @c_russl @oiioxford @oxsocsci @UniofOxford 1/3 #LLMs https://t.co/O6XCgBnFop

— Oxford Internet Institute (@oiioxford) November 20, 2023

Esas respuestas son más conocidas como alucinaciones o delirios en la comunidad tecnológica. Según los investigadores, una de las razones principales por las que las IA emiten datos falsos es porque las fuentes a las que acuden contienen datos falsos, además de opiniones o información no contrastada. Esto tiene una explicación bastante lógica, tal y como aclara Brent Mittelstadt, unos de los autores del estudio:

La gente que utiliza los LLM a menudo 'antropomorfizan' la tecnología (...) Esto es, en parte, debido al diseño de los modelos de lenguaje de gran tamaño como agentes serviciales que conversan con los usuarios y responden, aparentemente, cualquier pregunta de una manera segura, con textos bien redactados. El resultado es que los usuarios pueden ser convencidos fácilmente de que las respuestas son precisas, incluso cuando no tienen las bases de un hecho o cuando se les presenta la versión parcial o sesgada de la verdad.

Interesting article in @TheSun featuring a new @oiioxford paper which focuses on the threat Large Language Models pose to science, the paper was authored by @b_mittelstadt, @SandraWachter5 and @c_russl. Read the article here: https://t.co/AXHVuCafPD

— Oxford Internet Institute (@oiioxford) November 22, 2023

Los autores de la investigación proponen a quienes se encuentren dentro del ámbito científico que den un paso atrás, dado que los LLM no son más que meros voceros de la supuesta verdad online y que, además, cuentan con la curiosa capacidad de inventarse conceptos con los que no han sido entrenados.

Una de las soluciones propuestas por los científicos de la Universidad de Oxford es utilizar a estos modelos de lenguaje como traductores, es decir, entregares información verídica para que realicen tareas como resúmenes o conversión de datos en gráficos. De esta manera, el usuario se asegura que los datos que expone el chatbot de turno son verdaderos y no una mera ilusión inventada por la inteligencia artificial.