Desarrollan un virus gusano impulsado por IA que es capaz de robar datos en ChatGPT y Gemini
El objetivo del malware es poder extender su dominio por diversas herramientas basadas en IA generativa
Nos parece que en esta era donde la inteligencia artificial toca todo lo relacionado con la tecnología y los datos, su uso está más que justificado y pocas son las desventajas o problemas de ponernos en manos de la IA. Sin embargo, tres expertos en ciberseguridad han conseguido crear lo que podría calificarse como virus informático y que es capaz de replicarse y extenderse a través de diferentes modelos de inteligencia artificial generativa.
El peligro de Morris II
Tal y como muestran en la página web del estudio, los expertos en ciberseguridad Stav Cohen, Ron Bitton y Ben Nassi han publicado cómo han conseguido introducir un gusano informático en aplicaciones basadas en modelos de IA generativa.
Este gusano, por cierto, ha sido apodado Morris II, en honor al primer gusano digital del que se tiene constancia, que se denominó 'Morris Worm'. Hablamos del primer ejemplar de malware autorreplicable que afectó a Internet.
Adversarial self replicating prompt injection ai worms
— Nick Dobos (@NickADobos) March 2, 2024
Say hello to Morris II 🪱
Neat paper. Kinda a trivial example since they built their own email ai instead of hacking a real one. But a very cool proof of concept pic.twitter.com/DiJ4LY0WJy
La principal diferencia entre un virus convencional y un gusano es que el segundo no necesita de ningún programa host, con lo que explotan las debilidades de un sistema operativo, de una red o, como en este caso, de una aplicación y se copian y mueven entre distintos equipos de manera autónoma.
La particularidad de Morris II es que puede extenderse a través de aplicaciones que utilizan modelos de IA generativa, como podría ser ChatGPT o Gemini, pudiendo robar información de usuarios, propagando información falsa o enviando mensajes de spam. El principal objetivo de este gusano es atacar las redes de estos modelos y lo consiguen inyectando prompts maliciosos.
Researchers create AI worms that can spread from one system to another : https://t.co/5oMH3qx5cQ
— Binni Shah (@binitamshah) March 2, 2024
ComPromptMized : Unleashing Zero-click Worms that Target GenAI-Powered Applications : https://t.co/5oMH3qx5cQ
Paper : https://t.co/g1t0h2EFGw credits @ben_nassi pic.twitter.com/TqIHlNGyN9
Los creadores del estudio aseguran que Morris II es capaz de afectar a dos tipos de aplicaciones. Por un lado están aquellas que utilizan la técnica de generación aumentada de recuperación, que permite mejorar la calidad de la IA generativa.
Por otro lado aquellas que dependen de los resultados producidos por la IA generativa para funcionar correctamente. Los investigadores avisan en su artículo de los peligros de este malware:
Mientras esperamos que los hallazgos de este artículo prevengan la aparición de gusanos GenAI, creemos que los gusanos GenAI aparecerán en los próximos años en productos reales y desencadenarán resultados indeseados y significativos.