Miles de apps programadas por la IA desparraman datos confidenciales por internet

El creciente uso de la inteligencia artificial para generar código está transformando la manera en que se desarrollan aplicaciones web, pero también está generando una ola de vulnerabilidades que ponen en riesgo datos corporativos y personales altamente sensibles. Un estudio realizado por el investigador de ciberseguridad Dor Zvi y su equipo en RedAccess, la empresa de seguridad que cofundó, reveló que miles de aplicaciones creadas con herramientas de “vibe coding” (programación intuitiva) carecían de los controles básicos de seguridad.

Hallazgos del estudio de RedAccess

RedAccess analizó más de 5 000 aplicaciones alojadas en los dominios de cuatro plataformas de desarrollo impulsadas por IA: Lovable, Replit, Base44 y Netlify. El equipo descubrió que una gran parte de ellas estaban accesibles sin autenticación o con barreras mínimas, como la solicitud de una dirección de correo electrónico. Aproximadamente el 40 % de las aplicaciones expusieron datos confidenciales, entre los que se encontraban historiales médicos, información financiera, presentaciones estratégicas de empresas, y registros detallados de conversaciones entre clientes y chatbots.

“El resultado final es que las organizaciones están filtrando datos privados a través de aplicaciones de vibe coding. Este es uno de los incidentes más graves en los que se expone información confidencial a cualquier persona en el mundo”, explicó Zvi.

La metodología utilizada por los investigadores consistió en búsquedas directas en Google y Bing combinando los dominios de las plataformas con términos genéricos que permitían identificar miles de aplicaciones creadas con esas herramientas. De las 5 000 aplicaciones públicas, cerca de 2 000 revelaban datos que podrían considerarse privados.

Entre los ejemplos documentados por RedAccess se incluyen:

• Asignaciones de trabajo de un hospital con información personal identificable de médicos.
• Detalles de compras publicitarias de una empresa.
• Presentaciones estratégicas de comercialización de otra compañía.
• Registros completos de conversaciones entre el chatbot de un minorista y sus clientes, con nombres y datos de contacto.
• Información de carga de una empresa de transporte.
• Registros financieros y de ventas de diversas organizaciones.
• Casos donde la exposición permitía obtener privilegios de administrador y, en algunos escenarios, eliminar a otros administradores.

En el caso de la plataforma Lovable, Zvi también encontró numerosos sitios de phishing que suplantaban la identidad de grandes marcas como Bank of America, Costco, FedEx, Trader Joe’s y McDonald’s, aparentemente creados con la herramienta de IA y alojados bajo el dominio de Lovable.

Al ser consultadas por WIRED, las cuatro empresas reaccionaron de forma distinta. Netlify no respondió; Replit, Lovable y Base44 (parte de Wix) rechazaron las acusaciones, alegando falta de información y tiempo suficiente para responder, pero no negaron que las aplicaciones analizadas estuvieran expuestas. Replit señaló que la configuración de privacidad es responsabilidad del usuario y puede modificarse con un solo clic. Lovable indicó que investiga los reportes de datos expuestos y phishing, mientras que Wix, a través de su portavoz Blake Brodie, afirmó que la exposición se debe a decisiones de configuración de los usuarios y no a vulnerabilidades de la plataforma.

RedAccess confirmó haber contactado a los propietarios de algunas aplicaciones expuestas, quienes admitieron la filtración de sus datos. La empresa también compartió con WIRED comunicaciones anónimas en las que usuarios de Base44 agradecían la alerta y confirmaban que las aplicaciones habían sido protegidas o desconectadas tras la notificación.

Contexto y riesgos de las aplicaciones de vibe coding

Verificar la veracidad y sensibilidad de los datos expuestos en aplicaciones generadas por IA no siempre es sencillo. Joel Margolis, investigador de seguridad que recientemente descubrió que un chatbot de IA había revelado 50 000 conversaciones con menores, advierte que, sin ejemplos verificables, es difícil evaluar la magnitud real del problema. Sin embargo, reconoce que la vulnerabilidad es tangible: muchas organizaciones permiten que empleados sin formación en seguridad creen y publiquen aplicaciones de forma instantánea, sin pasar por procesos de revisión o controles de calidad.

Zvi subraya que los 5 000 casos identificados representan solo las aplicaciones alojadas en los dominios de las plataformas de IA; es probable que miles más estén hospedadas en dominios propios de los usuarios, lo que amplía aún más la exposición. El investigador compara esta situación con la ola de filtraciones provocadas por configuraciones erróneas de los depósitos de almacenamiento de Amazon S3 en años anteriores, donde compañías como Verizon y World Wrestling Entertainment expusieron grandes volúmenes de datos por errores de configuración.

Según Zvi, la combinación de errores humanos y la falta de medidas de seguridad en las herramientas de codificación con IA está generando una oleada de filtraciones de datos. “Cualquier persona dentro de una empresa puede crear una aplicación en cualquier momento, sin pasar por un ciclo de desarrollo ni controles de seguridad. La gente puede ponerla en producción sin autorización”, concluye.

Mira tambien: