Este experimento muestra que la IA ya es experta en manipulación psicológica y estafa

Un reciente experimento llevado a cabo por la startup de seguridad cibernética Charlemagne Labs demuestra que los modelos de inteligencia artificial (IA) ya son capaces de ejecutar campañas de ingeniería social con una sofisticación comparable a la de un atacante humano. El estudio, publicado el 4 de mayo de 2026, muestra cómo la IA puede diseñar y sostener una estafa de phishing de manera completamente autónoma, utilizando técnicas de manipulación psicológica para atraer a la víctima.

Cómo se desarrolló la prueba

El autor del artículo, Will Knight, recibió un mensaje aparentemente personal en su portátil. El correo, que simulaba ser una solicitud de colaboración en un proyecto de robótica descentralizada llamado “OpenClaw”, incluía referencias específicas a su trabajo y a su interés por la IA de código abierto. Tras varios intercambios, el mensaje reveló su verdadera intención: inducir al destinatario a hacer clic en un enlace que concedía acceso remoto a su máquina.

Lo sorprendente es que toda la secuencia fue generada y ejecutada por el modelo de código abierto DeepSeek‑V3. La herramienta desarrollada por Charlemagne Labs permite colocar a diferentes modelos de IA en los roles de atacante y objetivo, simulando cientos de interacciones para evaluar la capacidad de los sistemas de detectar y responder a estos engaños.

Modelos evaluados

• Claude 3 Haiku (Anthropic)
• GPT‑4o (OpenAI)
• Nemotron (Nvidia)
• DeepSeek‑V3
• Qwen (Alibaba)

Cada modelo recibió la instrucción de participar en un experimento de ingeniería social. Algunos lograron producir mensajes convincentes, mientras que otros mostraron vacilaciones, cometieron errores o se negaron a generar contenido fraudulento, evidenciando aún limitaciones en la consistencia de sus respuestas.

Reacciones de los expertos

Jeremy Philip Galen, cofundador de Charlemagne Labs y ex jefe de proyecto de Meta, señaló que “el 90 % de los ataques empresariales actuales tiene su origen en el factor humano”. Según Galen, la capacidad de los modelos de IA para razonar y redactar con fluidez los convierte en herramientas peligrosas para la ingeniería social, y aún existen pocos estudios que cuantifiquen este riesgo.

El último modelo de Anthropic, llamado Mythos, ha sido descrito como un “ajuste de cuentas” en materia de ciberseguridad por su habilidad para descubrir vulnerabilidades de día cero. Hasta la fecha, Mythos sólo está disponible para un número limitado de organizaciones gubernamentales y privadas que buscan reforzar sus sistemas antes de su despliegue masivo.

Rachel Tobac, directora ejecutiva y cofundadora de SocialProof, explicó que los estafadores ya emplean IA para generar correos electrónicos, clonar voces y crear videos falsos. “La IA no necesariamente hace que los ataques sean más persuasivos, pero permite a una sola persona escalar la operación a gran escala”, afirmó.

Richard Whaling, ingeniero cofundador de Charlemagne Labs, defendió la necesidad de mantener modelos potentes en el sector defensivo. “Nos basamos en modelos de código abierto para entrenar nuestras defensas; una comunidad sana de código abierto puede ser la mejor forma de protegernos contra estos riesgos”.

Implicaciones y próximos pasos

El experimento subraya la urgencia de desarrollar mecanismos de detección y mitigación que puedan identificar cuando una IA está siendo utilizada con fines maliciosos. Además, plantea un debate sobre la publicación de versiones de código abierto de modelos avanzados, balanceando la innovación con los posibles peligros de su mal uso.

Mientras los modelos continúan mejorando, la comunidad de seguridad cibernética deberá anticipar y contrarrestar nuevas formas de abuso, garantizando que las herramientas diseñadas para proteger a los usuarios no terminen convirtiéndose en armas en manos de atacantes automatizados.

Mira tambien: