Un fallo de seguridad que podría permitir a la IA crear toxinas invisibles al control
El hallazgo no supone un riesgo inmediato, pero marca el comienzo de una nueva era de amenazas biológicas impulsadas por algoritmos
Durante años, la biotecnología ha vivido con una promesa y un riesgo: cualquier persona con un ordenador y una tarjeta de crédito puede pedir ADN sintético por Internet. Las empresas que fabrican estas secuencias genéticas incorporan potentes filtros de seguridad capaces de detectar si un cliente intenta encargar fragmentos que podrían formar parte de un virus, una bacteria peligrosa o una proteína tóxica. Sin embargo, un grupo de investigadores liderado por Microsoft acaba de descubrir que ese muro de contención tiene grietas. En un estudio publicado esta semana, el equipo afirma haber hallado lo que denominan un “día-cero biológico”, una vulnerabilidad nunca antes identificada en los sistemas que protegen al mundo de amenazas biológicas. El problema: los algoritmos de detección actuales pueden fallar ante toxinas diseñadas por inteligencia artificial.
El hallazgo no describe un ataque real, sino un riesgo emergente. Las herramientas de IA generativa, como las que diseñan proteínas, han alcanzado tal grado de sofisticación que son capaces de crear versiones alternativas de toxinas conocidas, suficientemente diferentes como para pasar desapercibidas ante los filtros que analizan los pedidos de ADN. Dicho de otro modo, un modelo de IA podría reinventar una sustancia peligrosa de forma que el software de control no la reconozca como tal, permitiendo que su secuencia fuera sintetizada sin activar ninguna alarma.
Los investigadores partieron de un ejemplo clásico: la ricina, un potente veneno de origen vegetal. Usando programas de diseño de proteínas basados en IA, generaron decenas de variantes de su secuencia y las sometieron a las mismas herramientas que utilizan las compañías de síntesis de genes para verificar los pedidos. Los resultados fueron inquietantes: algunos sistemas no detectaron las versiones alteradas. La situación se trató, en lenguaje cibernético, como un “cero-día”: una vulnerabilidad que nadie conocía y que, en teoría, podría ser explotada. Microsoft notificó de inmediato el hallazgo a los principales organismos de bioseguridad de Estados Unidos y al International Gene Synthesis Consortium, manteniendo la información en secreto hasta desarrollar parches que reforzaran los filtros.
Tras meses de trabajo conjunto, el equipo amplió el experimento. Analizaron 72 toxinas distintas y, con tres programas de código abierto, generaron 75 000 proteínas potencialmente peligrosas. Era imposible probarlas todas en laboratorio, así que usaron modelos informáticos para evaluar su estructura tridimensional y estimar su similitud con las toxinas originales. Después, enviaron las secuencias a los programas de detección de ADN. El resultado fue variado: dos de los filtros funcionaron bien, uno de forma irregular y otro dejó pasar la mayoría de las variantes. Tras el aviso, tres de los programas actualizaron sus algoritmos, mejorando notablemente su capacidad de detección.
Aun así, algunos diseños seguían colándose. Entre un 1 % y un 3 % de las proteínas con estructura muy parecida a la toxina original no fueron detectadas, incluso tras las actualizaciones. En la práctica, esto significa que un actor malicioso tendría que encargar decenas de secuencias para que alguna escapara al control, algo que inevitablemente levantaría sospechas y desencadenaría una revisión humana. Por ahora, el riesgo es más teórico que real.
Más allá del parche: el futuro de la bioseguridad digital
Aunque el estudio no demuestra un peligro inmediato, sí marca un antes y un después en la vigilancia biológica. Lo que hoy parece una curiosidad técnica podría convertirse mañana en una amenaza tangible. Los investigadores advierten de que el diseño de proteínas por IA está avanzando a gran velocidad. En la actualidad, ya existen modelos capaces de crear proteínas con funciones inéditas, sin basarse en ninguna molécula existente. Este salto plantea un desafío casi insoluble: ¿Cómo filtrar algo que no se parece a nada conocido?
El problema no se limita a las toxinas. En el futuro, una IA podría generar proteínas que actúen como catalizadores químicos, interfieran en procesos celulares o atraviesen membranas para liberar compuestos tóxicos. Aún estamos lejos de que eso sea posible, pero los expertos no descartan que ocurra en la próxima década. Microsoft y los organismos implicados ven este episodio como una advertencia temprana: la bioseguridad necesitará adoptar la mentalidad de la ciberseguridad, con actualizaciones constantes, auditorías independientes y sistemas de respuesta rápida ante vulnerabilidades imprevistas.
Por ahora, la “brecha biológica” ha servido para despertar a un sector que a menudo trabaja en silencio. Los filtros de ADN, invisibles para la mayoría, son una de las últimas barreras entre la biotecnología responsable y el bioterrorismo. La irrupción de la inteligencia artificial no elimina esa barrera, pero sí la pone a prueba. Y, como demuestra este “día-cero” biológico, incluso las defensas más sólidas necesitan reinventarse en la era de la IA.