Anthropic utilizará su modelo de IA más grande y potente para proteger contra los ciberataques

Anthropic anunció el martes que está compartiendo una versión preliminar de su próximo modelo de IA como parte de una nueva iniciativa de ciberseguridad con una coalición de empresas tecnológicas para detectar y corregir vulnerabilidades en infraestructuras de software críticas.

La iniciativa Project Glasswing incluye a empresas tecnológicas de renombre como Amazon, Apple, Broadcom, Cisco, CrowdStrike, la Fundación Linux, Microsoft y Palo Alto Networks. Anthropic indicó que los socios utilizarán el modelo para tareas de seguridad defensiva y difundirán sus hallazgos en toda la industria. La compañía también está ampliando el acceso a aproximadamente 40 organizaciones adicionales que desarrollan o mantienen infraestructuras de software críticas.

Recientemente ha crecido la preocupación de que ciberdelincuentes puedan utilizar potentes modelos de IA para desarrollar ciberataques más sofisticados. “Defender la infraestructura cibernética mundial podría llevar años; es probable que las capacidades de IA de vanguardia avancen sustancialmente en los próximos meses”, afirmó Anthropic en una publicación de blog. “Para que los ciberdefensores tengan ventaja, debemos actuar ahora”.

Anthropic destinará hasta 100 millones de dólares en créditos de uso de modelos a la investigación en seguridad, y 4 millones de dólares en donaciones directas a organizaciones de seguridad de código abierto.

El nuevo modelo Mythos de Anthropic tiene potencial en la ciberseguridad

La compañía afirma haber descubierto importantes aplicaciones de seguridad en “Claude Mythos Preview” mientras entrenaba el modelo en habilidades de codificación y razonamiento. Añade que, con el tiempo, los usuarios tendrán acceso a otros modelos de la clase Mythos.

El modelo Mythos ya ha identificado miles de vulnerabilidades de día cero en las últimas semanas, muchas de ellas críticas, según Anthropic en una publicación de su blog. El modelo encontró un fallo de seguridad de 27 años de antigüedad en OpenBSD, un sistema operativo conocido por su seguridad. También descubrió una vulnerabilidad de 16 años de antigüedad en un software de vídeo muy utilizado que las herramientas de pruebas automatizadas no habían detectado.

Los investigadores de Anthropic afirman haber puesto a trabajar el modelo para encontrar y explotar vulnerabilidades en un conjunto de mil repositorios de software de código abierto. Calificaron la gravedad de estos fallos en una escala del uno al cinco, donde uno representa fallos básicos y cinco, secuestros completos del flujo de control. En la misma prueba, los predecesores de Mythos Preview —Sonnet 4.6 y Opus 4.6— generaron entre 150 y 175 fallos de nivel uno, 100 de nivel dos y solo uno de nivel tres.

Mythos Preview logró 595 fallos en los niveles uno y dos, algunos en los niveles tres y cuatro, y secuestros completos del flujo de control en 10 objetivos distintos, completamente parcheados (nivel cinco). Anthropic afirmó que Mythos no fue entrenado específicamente para ejecutar ninguno de estos exploits. Esta capacidad surgió como consecuencia de mejoras generales en la codificación, el razonamiento y la autonomía.

La compañía indicó que ha mantenido conversaciones con funcionarios del gobierno estadounidense sobre las capacidades cibernéticas ofensivas y defensivas del modelo. Anthropic calificó la iniciativa de urgente, argumentando que capacidades de IA similares pronto estarán al alcance de actores malintencionados.

Anthropic se vio envuelta en una disputa con el Pentágono el mes pasado por su oposición a los términos de un contrato de defensa que habrían permitido al gobierno usar su tecnología para vigilancia interna y armas autónomas. Esta disputa derivó en la ruptura, aún en curso, de su relación laboral.