Los chatbots basados en IA son mentirosos compulsivos y los expertos aseguran que continuarán siéndolo
El problema de la falta de veracidad de estos modelos de lenguaje parece ser una de las grandes barreras de la IA.
Vivimos inmersos en la era de la inteligencia artificial y de las herramientas digitales que se aprovechan de sus avances para facilitarnos tareas que antes podrían resultar muy costosas. Anteriormente, te hemos hablado de los 4 mejores chatbots que puedes encontrar en la actualidad y de las 8 mejores herramientas de IA para investigación. Ahora, te contamos el porqué de la capacidad para mentir descaradamente de los chatbots.
Alucinaciones de inteligencia artificial
Expertos en este novedoso campo han hablado y no dejan en buen lugar a los principales modelos de lenguaje conocidos. Según la información publicada en Associated Press, el problema de las alucinaciones de la IA, un concepto que se refiere a la introducción de datos erróneos en las respuestas, es algo que todos los modelos padecen, dado que están programados para 'predecir la siguiente palabra y, por tanto, habrá momentos en que el modelo lo haga sin precisión'.
Spend enough time with ChatGPT and other artificial intelligence chatbots and it doesn't take long for them to spout falsehoods. https://t.co/BliNQscYlG
— The Associated Press (@AP) August 1, 2023
Algunas organizaciones, como sería el caso de Anthropic, están intentando minimizar este tipo de errores, pero parece que la tarea va a ser complicada, dado que según declara Emily Bender, profesora de lingüística en la Universidad de Washington, 'esto no es solucionable, ya que es inherente en la discordancia entre la tecnología y los casos propuestos'.
Y dado que la mayoría de herramientas de IA se basan en comandos de texto, el problema es importante. Por ejemplo, Ganesh Bagler, un científico informático indio, lleva años trabajando con modelos similares a ChatGPT para crear novedosas recetas de cocina. En este caso, que el modelo se invente un simple ingrediente o un paso desatinado, podría suponer la diferencia entre un plato rico o uno que habría que tirar directamente a la basura.
Para Sam Altman, estas alucinaciones podrían tener una solución parcial en pocos años, aunque su reflexión va mucho más allá, aludiendo a la capacidad de los futuros modelos y a si nuestras necesidades van más encaminadas a obtener respuestas exactas o dejar que la inteligencia artificial también tenga su dosis de creatividad. Evidentemente, una combinación de ambas sería el chatbot perfecto.
La mayoría de expertos coinciden en que las alucinaciones de la IA no podrán ser eliminadas por completo, sino que habrá que ser capaces o bien de convivir con ellas, quizás para empresas donde la creatividad es necesaria este sea un aspecto positivo, o reducirlas a la mínima expresión para poder obtener respuestas que un experto en una materia nos daría. Bill Gates, por ejemplo, ve el futuro de manera positiva:
Soy optimista en el sentido de que, con el tiempo, los modelos de inteligencia artificial podrán aprender a distinguir entre hechos y ficción.