Un dron militar controlado por IA se revela contra su operario e intenta matarlo
La simulación, por suerte, no se ha cobrado ninguna víctima, pero es un aviso muy crítico sobre el futuro de esta puntera tecnología.
Cualquier tecnología que se precie suele probarse antes de lanzarse al mercado o antes de ser vendida al mejor postor, como suele suceder en el entorno militar. En este caso, gracias a la información publicada en el medio Business Insider, hemos conocido cómo durante una prueba de simulación de una inteligencia artificial, ésta ha decidido que su desempeño en la misión estaba por encima de todas las cosas, incluso de la propia vida del operador que estaba a cargo de sus comandos.
Una simulación militar acaba con la rebelión de las máquinas
Este es el ejemplo perfecto para los más agoreros, y también para los amantes de algunos de los robots más alucinantes de la historia del cine, como podría ser el caso del famoso Terminator. Una IA que se revela contra sus creadores, para avanzar en su objetivo, cueste lo que cueste. El incidente ha sido confirmado por el coronel Tucker "Cinco" Hamilton, responsable de Operaciones y Pruebas de IA de la Fuerza Aérea de los Estados Unidos, en una reciente conferencia de la Royal Aeronautical Society.
Then they trained the AI not to kill its handlers:
— Make Peace Now; alternative news (@AlternatNews) June 2, 2023
“We trained the system – ‘Hey don’t kill the operator – that’s bad. You’re gonna lose points if you do that.’
So what does it start doing? It starts destroying the communication tower that the operator uses to communicate with…
La simulación donde ha tenido lugar el incidente pretendía ser un banco de pruebas para preparar drones con inteligencia artificial capaces de detectar misiles tierra-aire. Sin embargo, en dicha simulación las órdenes finalizaban con la detección, evitando atacar posiciones enemigas. ¿El problema? Dado que el dron ganaba puntos matando al enemigo, éste decidió no escuchar las órdenes del operador y atacarlo. Eso sí, a partir de aquí la historia se vuelve aún más peliaguda.
El equipo de ingenieros y programadores, a partir de este incidente, decidieron modificar esta IA para evitar ataques al operador, pero parece que la inteligencia tenía otros planes. En un giro de guion de lo más imprevisto, el dron atacó la torre de comunicación desde donde operaba el militar, dado que de esta manera éste no podría evitar que cumpliese el objetivo de acabar con el enemigo.
Eso sí, parece que la versión del coronel difiere con la de la portavoz de la Fuerza Aérea de los Estados Unidos. Ann Stefanek ha declarado al medio anteriormente mencionado que:
El Departamento de la Fuerza Aérea no ha llevado a cabo esas simulaciones de drones con IA y permanece comprometida con el uso ético y responsable de la tecnología de inteligencia artificial. Parece que los comentarios del coronel se sacaron de contexto y pretendían ser anecdóticos.