La IA se está convirtiendo en un radar de largo alcance para los hackers

Hace una década los programas de recompensas por fallos comenzaron a popularizarse, marcando un cambio de paradigma en la forma en que las organizaciones gestionaban la seguridad: de una postura defensiva y hostil hacia la investigación, pasaron a reconocer la necesidad de recibir reportes y publicar correcciones. Cuando Apple anunció su primer programa en 2016, la recompensa máxima era de 200 000 USD; en 2019 se elevó a 1 millón y el año pasado alcanzó los 2 millones. Sin embargo, esos números están a punto de volver a modificarse.

Los modelos de IA generativa, cada vez más capaces de identificar vulnerabilidades y crear exploits de forma autónoma, están inundando los programas de divulgación con una cantidad de reportes sin precedentes. Esta abundancia está redefiniendo la economía de los bug bounties tanto para las empresas que solicitan informes como para los investigadores, muchos de los cuales viven de la caza de bugs o la complementan con ella.

Cómo la IA está transformando la dinámica de los bug bounties

Joseph Thacker, investigador de seguridad independiente que ha desarrollado herramientas de IA para buscar fallos, afirma: “Probablemente he reportado tres veces más errores que el año pasado a estas fechas; sospecho que una empresa como Google gastará entre dos y diez veces más en recompensas que el año anterior”. Thacker añade que, aunque las grandes tecnológicas pueden absorber esa presión, la mayoría de las compañías no lo hará, y prevé que en el futuro la calidad media y baja de los reportes disminuya porque muchos problemas ya serán descubiertos y parcheados.

Himanshu Anand, experto en seguridad, señaló a principios de mes que “el plazo de 90 días para la divulgación responsable se creó para un mundo en que los descubridores de fallos eran escasos y el desarrollo de exploits era lento. Ese mundo ya no existe. Los grandes modelos de lenguaje han comprimido ambos plazos”. La rapidez con la que la IA genera exploits podría obligar a los desarrolladores a publicar parches con mayor celeridad, poniendo a prueba los tradicionales límites de divulgación.

John Hultquist, analista jefe del Grupo de Inteligencia de Amenazas de Google, explicó que recientemente la compañía detectó a “actores de ciberdelincuencia intentando explotar una vulnerabilidad de día cero mediante herramientas de IA para eludir la autenticación de dos factores en una plataforma de código abierto”. Google notificó al proyecto afectado, que lanzó un parche rápidamente, pero el incidente ilustra cómo la IA está acelerando la cadena de ataque.

El impacto también se percibe en la gestión de los propios programas de recompensas. La herramienta de línea de comandos Curl cerró su programa gestionado por HackerOne en enero tras una avalancha de reportes de baja calidad generados por IA. En un comunicado, el equipo admitió que “las recompensas por fallos estaban incentivando a algunos usuarios a crear problemas de mala fe, lo que generaba sobrecarga y abuso”.

Sin embargo, la situación evolucionó rápidamente. Daniel Stenberg, fundador y principal desarrollador de Curl, comentó en LinkedIn que “en los últimos meses hemos dejado de recibir informes de seguridad sobre fallos de IA; en su lugar recibimos una cantidad cada vez mayor de reportes realmente buenos, casi todos con ayuda de la IA”. La diferencia radica en la madurez de los investigadores que saben combinar la potencia de la IA con juicio humano.

Google, por su parte, anunció en abril una revisión de sus programas de recompensas para Chrome y Android, reduciendo los pagos para ciertas clases de errores y aumentándolos para otros, con el objetivo de “recompensar las vulnerabilidades más desafiantes e impactantes”.

Linus Torvalds, creador del kernel de Linux, describió la lista de correo de seguridad como “casi totalmente inmanejable” debido al volumen y la duplicación de informes generados por IA, subrayando la necesidad de filtrar y priorizar los hallazgos.

Jonathan Dunn, investigador y “cazador” de recompensas, afirma que “los expertos en detección de errores que se encuentran entre el 10 % superior y poseen habilidades especiales siempre podrán encontrar vulnerabilidades y recibir recompensas de grandes empresas”. Dunn también advierte que, pese a la IA, es crucial seguir incentivando a los investigadores éticos para que apunten a infraestructura pública y sistemas críticos que a menudo quedan desatendidos.

Alex Zenla, director de tecnología de Edera, señala que “la mayoría de las organizaciones están dispuestas a probar todas las soluciones posibles para abordar el problema y los beneficios de la detección acelerada de errores. Esto está cambiando la dinámica del sector, pero sigue requiriendo tiempo humano”.

Anthropic, la empresa detrás del modelo Claude, lanzó recientemente una campaña de recompensas en HackerOne para que los investigadores reporten hallazgos en sus sistemas y modelos de IA, evidenciando que incluso los desarrolladores de IA están adoptando este enfoque.

Finalmente, Niels Provos, veterano ingeniero de seguridad, concluye que “no se puede salir de esta situación solo con parches. Hay que construir una infraestructura que haga irrelevantes tantos fallos como sea posible”. La visión a largo plazo apunta a diseñar sistemas que reduzcan la superficie de ataque en lugar de depender exclusivamente de correcciones puntuales.

Mira tambien: