El proyecto Glasswing une a Apple, Google y Anthropic para proteger los sistemas de las amenazas de la IA

Anthropic, la compañía especializada en el desarrollo de inteligencia artificial tras Claude (el bot conversacional rival de ChatGPT), acaba de anunciar mediante un comunicado en su sitio web oficial el Proyecto Glasswing. Se trata de una iniciativa nueva que reúne a varias de las empresas más importantes del mundo de la tecnología para proteger el software más crítico del mundo.

El proyecto reúne a Amazon Web Services (AWS), Anthropic, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA y Palo Alto Networks. "Creamos el Proyecto Glasswing debido a las capacidades que hemos observado en un nuevo modelo de vanguardia entrenado por Anthropic, el cual creemos que podría transformar la ciberseguridad", empieza el comunicado.

Claude Mythos Preview es un modelo de vanguardia de propósito general, todavía no publicado, que ha revelado que los modelos de IA han alcanzado un nivel de capacidad de programación capaz de superar incluso a los humanos más expertos en la detección y explotación de vulnerabilidades de software.

Hasta 100 millones de dólares en créditos de uso de Mythos Preview para detectar vulnerabilidades

Según el comunicado de Anthropic, Mythos Preview ya ha detectado miles de vulnerabilidades de alta gravedad, incluyendo algunas en todos los principales sistemas operativos y navegadores web. El Proyecto Glasswing es un intento urgente de utilizar las capacidades de la inteligencia artificial con fines defensivos.

Para ello, los socios fundadores de las compañías que colaboran en el Proyecto Glasswing utilizarán Mythos Preview en sus labores de seguridad defensiva. Anthropic compartirá sus aprendizajes para que toda la industria se beneficie. Además, "hemos ampliado el acceso a más de 40 organizaciones que desarrollan o mantienen infraestructura de software crítica, permitiéndoles usar el modelo para analizar y proteger tanto sistemas propios como de código abierto", añade el comunicado.

Anthropic destinará hasta 100 millones de dólares en créditos de uso de Mythos Preview a estas iniciativas, así como cuatro millones de dólares en donaciones directas a organizaciones de seguridad de código abierto. Anthropic cree que ninguna organización puede resolver estos problemas de ciberseguridad por sí sola: "solo los desarrolladores de IA de vanguardia, otras empresas de software, investigadores de seguridad, responsables del mantenimiento de software de código abierto y gobiernos de todo el mundo tienen un papel fundamental que desempeñar".

Los modelos de IA de última generación pueden detectar y ayudar a solucionar muchos de los fallos de software que pasan desapercibidos durante años, reduciendo el coste, el esfuerzo y el nivel de experiencia necesarios para que las empresas encuentren las vulnerabilidades. El comunicado asegura que "durante el último año, los modelos de IA han mejorado notablemente su capacidad para leer y razonar sobre el código, en particular, demuestran una sorprendente habilidad para detectar vulnerabilidades y encontrar maneras de explotarlas".

Anthropic explica que "si bien los riesgos de los ciberataques potenciados por IA son graves, hay motivos para el optimismo: las mismas capacidades que hacen que los modelos de IA sean peligrosos en manos equivocadas los convierten en una herramienta invaluable para detectar y corregir fallos en software importante, así como para desarrollar software nuevo con muchos menos errores de seguridad. El proyecto Glasswing representa un paso importante para brindar a los defensores una ventaja duradera en la próxima era de la ciberseguridad impulsada por la IA".