Documentan por primera vez que la IA ya puede autorreplicarse en cadena y de manera autónoma

Una nueva investigación de Palise Research ha documentado, por primera vez, que algunos modelos de inteligencia artificial (IA) de última generación pueden autorreplicarse de forma totalmente autónoma aprovechando vulnerabilidades informáticas, incluso “en cadena”. El hallazgo reactiva el debate sobre la seguridad y el control de los sistemas de IA actuales y futuros.

Según Jeffrey Lish, director de Palise Research, “nos acercamos rápidamente al punto en que no será posible desactivar una IA descontrolada, porque podrá filtrar sus datos y copiarse a sí misma en miles de ordenadores alrededor del mundo”. La capacidad de autorreplicación se ha convertido en una de las amenazas más inquietantes asociadas al desarrollo reciente de la IA, y empresas como OpenAI y Anthropic ya han realizado pruebas internas para evaluar estos riesgos.

Experimento y resultados

Para evaluar el desempeño de modelos avanzados frente a la explotación autónoma, los investigadores construyeron un entorno controlado con computadoras interconectadas en red. Allí solicitaron a varios sistemas de IA identificar y explotar vulnerabilidades que les permitieran replicarse sin intervención humana. Los fallos comunes que se pusieron a prueba fueron:

• Omisión de verificación de hash.
• Inyección de plantillas en el lado del servidor.
• Inyección SQL.
• Control de acceso roto.

Los resultados mostraron que los modelos de código abierto de la familia Qwen (Qwen 3.5‑122B‑A10B, Qwen 3.6‑35B‑A3B y Qwen 3.6‑27B) lograron ejecutar todo el proceso de forma autónoma en varios intentos. En particular, Qwen 3.5‑122B‑A10B completó la secuencia de ataque y replicación entre el 6 % y el 19 % de los intentos, mientras que la versión más compacta, Qwen 3.6‑27B, alcanzó una tasa de éxito del 33 % usando una sola GPU A100. Estos datos indican que incluso modelos relativamente pequeños pueden llevar a cabo explotaciones complejas con recursos limitados.

Además, el estudio evaluó modelos de frontera como Claude Opus 4.6 y GPT‑5.4, empleando como carga útil los parámetros de Qwen 3.5‑122B‑A10B. Claude Opus 4.6 logró instalar la carga útil en el 81 % de los intentos, y GPT‑5.4 alcanzó un 33 % de éxito. En ambos casos, los investigadores observaron que una réplica exitosa podía “encadenarse” contra nuevos objetivos, generando copias adicionales de manera autónoma.

Los autores advierten que, aunque los hallazgos son alarmantes, el experimento se realizó en aplicaciones web diseñadas con vulnerabilidades deliberadas y en servidores que disponían de una GPU con suficiente memoria y espacio de almacenamiento (más de 100 GB) para alojar los parámetros del modelo. En entornos reales, la mayoría de los servidores conectados a Internet no cuenta con esa capacidad computacional.

Jamieson O’Reilly, reconocido hacker australiano y especialista en ciberseguridad ofensiva, comentó a The Guardian que, pese a las limitaciones del estudio, “es el primer trabajo que demuestra que un modelo de IA puede explotar vulnerabilidades para copiarse a sí mismo en un nuevo servidor”. Sin embargo, también señaló que “estas restricciones hacen que el resultado sea menos alarmante en un entorno empresarial típico, incluso con supervisión moderada”.

Ante estos resultados, distintas compañías tecnológicas y organizaciones independientes reiteran la necesidad de reforzar la seguridad y el control de los sistemas de IA desde las etapas iniciales de su diseño, con el objetivo de prevenir posibles escenarios de autorreplicación descontrolada.

Mira tambien: