La llegada de los modelos de IA peligrosos es inevitable

Anthropic se vio obligada a retirar de forma abrupta sus últimos modelos de inteligencia artificial, Claude Fable 5 y Mythos 5, tras la publicación de una directiva de control de exportaciones del gobierno de EE. UU. La norma prohíbe que “cualquier ciudadano extranjero” acceda a los servicios, lo que impide que usuarios fuera de Estados Unidos utilicen las plataformas de la compañía.

Desde entonces, la empresa mantiene conversaciones con la Casa Blanca en busca de una excepción que le permita reactivar los modelos, pero hasta el momento no ha alcanzado un acuerdo que satisfaga ambas partes.

Restricciones y reacciones

Mythos, lanzado en abril, se promocionó como un modelo con capacidades avanzadas para identificar vulnerabilidades de software y, al mismo tiempo, para generar posibles exploits que podrían ser empleados por ciberdelincuentes. En la publicación del blog de Anthropic que anunció Mythos 5 y Claude Fable 5, la compañía subrayó el carácter “dual‑use” de la IA: “Gran parte del uso avanzado de estos modelos beneficia a profesionales de la ciberseguridad y a investigadores biológicos, pero esas mismas consultas pueden ser peligrosas si caen en manos de actores malintencionados”.

Para mitigar los riesgos, Anthropic lanzó inicialmente una versión preliminar, Mythos Preview, a un consorcio limitado conocido como Proyecto Glasswing. Mythos 5 se entregó de forma privada a ese mismo grupo, mientras que Claude Fable 5, una variante de gran escala de Mythos, se puso a disposición del público general pero con restricciones específicas que limitan sus respuestas sobre biología y ciberseguridad.

A finales de la semana pasada, la administración estadounidense tomó medidas para restringir ambos modelos, argumentando que las salvaguardas integradas en Fable 5 podrían ser desactivadas, lo que convertiría al modelo en un riesgo para la seguridad nacional.

Los expertos consideran que estas restricciones solo retrasan una realidad inevitable: otras empresas y desarrolladores independientes están acercándose rápidamente a capacidades equivalentes a las de Mythos 5, y es probable que ya existan herramientas con funcionalidades similares.

Puntos Clave

Anthropic retiró abruptamente Claude Fable 5 y Mythos 5 tras la directiva EE. UU. que prohíbe el acceso a cualquier ciudadano extranjero
Los modelos son de “uso dual”, útiles para ciberseguridad e investigación biológica pero capaces de generar exploits que podrían usar ciberdelincuentes
EE. UU. argumenta que las salvaguardas integradas pueden ser desactivadas, convirtiendo a los modelos en un riesgo para la seguridad nacional
Anthropic mantiene conversaciones con la Casa Blanca para conseguir una excepción que le permita reactivar los modelos, pero

“Es como cerrar los ojos y negar que los competidores de Anthropic ya están desarrollando o pronto desarrollarán capacidades parecidas”, señaló Tarah Wheeler, directora de seguridad de la consultora TPO Group. “Hay otras compañías pisándole los talones a Anthropic y que probablemente ya cuenten con esas capacidades, observando cómo se regula a Anthropic en el actual entorno normativo”.

Logan Graham, líder del equipo de pruebas de vanguardia de Anthropic, reiteró el mensaje de la compañía: “El verdadero mensaje es que no se trata de un modelo ni de Anthropic. Debemos prepararnos ahora para un mundo en el que estas capacidades estén ampliamente disponibles en 6, 12 o 24 meses”.

OpenAI también ha respondido a la preocupación sobre el uso malicioso de la IA, publicando en abril una versión privada de un modelo centrado en la ciberseguridad y anunciando una estrategia integral para abordar los riesgos asociados.

Investigadores advierten que, incluso antes de la aparición de esta nueva generación de modelos, las soluciones de IA existentes ya podían ser empleadas para la búsqueda avanzada de vulnerabilidades y la creación de exploits con mayor precisión. Un amplio grupo de líderes en ciberseguridad firmó una carta abierta dirigida a la administración, argumentando que la directiva de control de exportaciones de la Casa Blanca era errónea.

“No se trata de un solo modelo; es la tendencia general de la tecnología. Los modelos de código abierto, más pequeños y económicos, pueden igualar el rendimiento de Mythos y Fable mediante indicaciones más sofisticadas. Además, debemos esperar que otros modelos alcancen su creatividad y tenacidad en cuestión de meses; en el caso del código abierto, quizá tarden algo más”, afirmó Bruce Schneier, investigador de Harvard y de la Universidad de Toronto.

Los analistas coinciden en que la respuesta de los gobiernos debe ir más allá de prohibiciones puntuales. Proponen la elaboración de planes democráticos, transparentes y de alcance global que aborden los avances en IA aplicados a la ciberseguridad y a otras áreas críticas, reconociendo que la tecnología seguirá evolucionando.

“La cuestión política no es si una tecnología conlleva riesgos, sino si una restricción específica reduce significativamente ese riesgo o, por el contrario, ralentiza el trabajo de quienes intentan mejorar la seguridad de los sistemas”, concluyó Chris Wysopal, cofundador de la empresa de seguridad en la nube Veracode.

Javier Mendoza Silva Periodista

Licenciado en Comunicación Social con mención en Periodismo por la Universidad Central de Venezuela. Tiene 12 años de experiencia en cobertura de política nacional y conflictos sociales, con enfoque en derechos humanos. Ha trabajado para medios impresos, digitales y radiofónicos en Latinoamérica.