Anthropic se alía con sus rivales para evitar que la IA lo hackee todo

Anthropic ha anunciado la creación de un consorcio industrial, denominado Proyecto Glasswing, con el objetivo de enfrentar los riesgos de ciberseguridad que plantea su último modelo de IA, Claude Mythos Preview. La iniciativa reúne a más de 45 organizaciones del sector tecnológico, entre ellas algunas de sus mayores competidoras, para probar y mitigar posibles vulnerabilidades antes de que el modelo sea puesto a disposición pública.

¿Qué es el Proyecto Glasswing y cuál es su propósito?

El consorcio nace a raíz del desarrollo de Mythos Preview, una versión avanzada del modelo de lenguaje Claude que ha demostrado una capacidad sobresaliente para identificar fallos de seguridad, generar exploits y elaborar pruebas de penetración automatizadas. Anthropic busca, a través de este proyecto, ofrecer a los fabricantes de infraestructura crítica y a los proveedores de plataformas base tiempo suficiente para integrar el modelo en sus entornos y corregir las vulnerabilidades que éste pueda descubrir.

Según Logan Graham, líder del equipo de pruebas de penetración de Anthropic, el avance de estas capacidades implica que "la seguridad tal como la conocemos cambiará radicalmente en los próximos 6, 12 o 24 meses". El proyecto pretende aplicar los principios de divulgación coordinada, permitiendo a los participantes corregir los problemas antes de que se publiquen de manera abierta.

Principales miembros del consorcio

• Microsoft
• Apple
• Google
• Amazon Web Services (AWS)
• Fundación Linux
• Cisco
• Nvidia
• Broadcom
• Más de 40 organizaciones adicionales de tecnología, ciberseguridad, infraestructuras críticas y finanzas

Todos los integrantes tendrán acceso privado a Claude Mythos Preview, lo que les permitirá evaluar la seguridad de sus sistemas, detectar configuraciones erróneas y analizar binarios sin necesidad de acceder al código fuente.

Capacidades de Claude Mythos Preview

• Descubrimiento de vulnerabilidades en código y configuraciones.
• Generación de posibles escenarios de ataque y pruebas de concepto.
• Desarrollo de exploits más avanzados y simulaciones de ataques dirigidos.
• Evaluación de la seguridad de puntos finales y de la infraestructura de red.
• Análisis de binarios de software sin requerir el código fuente.

Dario Amodei, CEO de Anthropic, explicó que el modelo no fue entrenado específicamente para ciberseguridad, sino para programación; sin embargo, esa especialización le confiere también habilidades sobresalientes en el ámbito de la seguridad informática. Amodei añadió que se esperan modelos aún más potentes tanto de Anthropic como de otros actores del sector, por lo que es necesario establecer planes de respuesta anticipada.

Reacciones de los socios tecnológicos

Representantes de Google, Microsoft y otras compañías han manifestado su apoyo al proyecto. La vicepresidenta de ingeniería de seguridad de Google destacó la importancia de una iniciativa intersectorial que aborde los nuevos retos que plantea la IA. El CISO global de Microsoft señaló que la colaboración permite identificar y mitigar riesgos de forma temprana, reforzando las soluciones de seguridad para proteger a sus clientes.

Graham subrayó que el éxito del proyecto dependerá de la participación amplia y continua de la industria. "Si solo un puñado de empresas utiliza el modelo, el impacto será limitado; necesitamos que el consorcio crezca y se convierta en un esfuerzo global", concluyó.

Mira tambien: