Anthropic investiga un posible acceso no autorizado a Mythos, su IA más potente y peligrosa

Anthropic, la empresa de inteligencia artificial responsable del modelo Claude Mythos, ha anunciado que está investigando un presunto acceso no autorizado a su IA más potente y controvertida. Según un informe de Bloomberg, integrantes de un foro privado en línea lograron ingresar al sistema empleando herramientas de análisis de internet de uso común y datos provenientes de un contratista externo de la compañía.

Detalles del presunto acceso no autorizado

El grupo habría obtenido acceso a Mythos el mismo día de su presentación pública, después de deducir la ubicación del servicio a partir de información filtrada tras una brecha de seguridad en la firma de análisis de datos Mercor. Los usuarios, que participan en un canal de Discord dedicado a la exploración de modelos de IA aún no disponibles al público, compartieron capturas de pantalla y un video en vivo que supuestamente muestra el uso del modelo.

Características de Claude Mythos

• Modelo de propósito general con avanzadas capacidades de razonamiento, autonomía y programación.
• Supera a versiones anteriores de Claude en generación y gestión de código.
• Capaz de identificar y explotar vulnerabilidades de día cero en sistemas operativos y navegadores web, incluso a petición de usuarios sin conocimientos técnicos.
• Puede generar exploits de forma autónoma y detectar fallas con varios años de antigüedad.

Respuesta de Anthropic

Anthropic ha emitido un comunicado confirmando que ya está investigando el caso, pero hasta el momento no dispone de evidencia que demuestre un acceso indebido ni que la supuesta actividad haya causado interrupciones en sus operaciones o en sus sistemas.

La compañía subraya que, debido al nivel de sofisticación de Mythos, su uso en manos de actores malintencionados podría representar una amenaza significativa para la economía, la seguridad pública y la seguridad nacional de cualquier país. Por ello, el acceso al modelo está limitado a poco más de 40 organizaciones dentro del proyecto “Glasswing”, una iniciativa enfocada en desarrollar aplicaciones de defensa cibernética frente a amenazas avanzadas.

Logan Graham, líder del equipo de pruebas de penetración de Anthropic, explicó que Mythos puede funcionar tanto como herramienta defensiva como potencial riesgo, y advirtió que en los próximos seis a veinticuatro meses estas capacidades podrían estar ampliamente disponibles. “Muchos de los supuestos sobre los que hemos construido los paradigmas modernos de seguridad podrían dejar de ser válidos”, afirmó.

El grupo que habría accedido al modelo asegura que su objetivo no es causar daño, sino experimentar con la tecnología. Sin embargo, la empresa mantiene la cautela y continúa evaluando el alcance de la supuesta vulneración.

Mira tambien: