Meta vigila las computadoras de su personal para entrenar IA; una falla dejó esos datos al alcance de cualquier empleado

Una alerta interna de seguridad a la que tuvieron acceso WIRED y tres empleados de Meta reveló que la compañía había dejado accesibles, dentro de su propia red, datos potencialmente sensibles recopilados de las laptops de sus trabajadores en EE. UU. La información, obtenida como parte de una iniciativa controvertida para entrenar modelos de IA, incluía pulsaciones de teclado, clics del ratón y capturas del contenido mostrado en las pantallas de los ordenadores.

Ante la magnitud del hallazgo, Meta suspendió de forma indefinida el programa de recopilación de datos. La portavoz Tracy Clayton confirmó a WIRED que la empresa está investigando el incidente y que, aunque no hay indicios de accesos indebidos por parte de los empleados, el programa quedará detenido mientras se esclarecen los hechos.

Alcance de la exposición y respuesta interna

El aviso de seguridad indicaba que se habían expuesto “datos de empleados en 45 000 tablas de Hive”. Estas tablas contenían información detallada sobre la actividad de los trabajadores, como instrucciones y transcripciones completas, conversaciones privadas, datos personales y métricas de rendimiento. Según documentos consultados por WIRED, algunos empleados aprovecharon la vulnerabilidad, lo que confirmó las dudas que surgieron cuando, en abril, la empresa comenzó a rastrear las laptops corporativas bajo el proyecto “Model Capability Initiative”.

En los foros internos, los empleados discutieron la falla y preguntaron por qué las revisiones de privacidad de Meta no lograron prevenir la filtración. Uno de los mensajes incluyó un meme de la serie *The Office* con el personaje Jim Halpert sosteniendo un cartel que decía “0 días desde nuestra última tontería”.

Andrew Bosworth, director de tecnología de Meta, explicó que la implementación del programa de seguimiento no cumplió con los estándares de privacidad establecidos y que existían listas de control de acceso (ACL) mal configuradas, lo que dificultó rastrear cómo ocurrió el acceso no autorizado a los datos.

En comunicaciones anteriores, Bosworth había asegurado que el programa estaba “estrictamente controlado” y que utilizaba los mismos estándares de protección, sistemas de almacenamiento y controles de acceso que otros conjuntos de datos confidenciales.

Reacción del personal

• Más de 1 600 empleados firmaron una petición interna que denunciaba los riesgos de seguridad y regulatorios del proyecto, y criticaba la falta de medidas de protección.
• Un ingeniero publicó una nota interna describiendo la captura de la pantalla para entrenar IA sin consentimiento como una invasión de privacidad y una forma de explotación.
• Mark Zuckerberg, CEO de Meta, había defendido previamente la iniciativa diciendo que los modelos de IA aprenden observando a personas “realmente inteligentes” y que la inteligencia media de los empleados de Meta supera a la de los contratistas típicos.

Tras la presión de los empleados, Meta comenzó a ofrecer excepciones al monitoreo, permitiendo que el personal desactive temporalmente la vigilancia para realizar tareas delicadas, como concertar una cita personal. Sin embargo, algunos empleados siguen exigiendo la cancelación total del seguimiento.

El incidente llega en un momento de mayor escrutinio regulatorio. Meta está sujeta a un decreto de consentimiento de la Comisión Federal de Comercio de EE. UU., que vence en 2040 y exige mantener procesos para evitar filtraciones, aunque empleados actuales y antiguos consideran que dichos requisitos son insuficientes y obsoletos. La compañía también ha comenzado a delegar parte de la revisión de programas y funciones a la IA, aunque no está claro si la IA influyó en la falla de los controles de acceso.

El problema de seguridad podría agravar la crisis de moral interna en Meta, marcada por despidos masivos, reorganizaciones turbulentas y una presión implacable para desarrollar IA. En marzo, la empresa creó un nuevo equipo de IA aplicada y reasignó a unos 6 500 empleados a funciones centradas en la mejora de los modelos. Varios trabajadores describieron estos proyectos como tediosos y desmoralizantes.

En un memorándum enviado la semana pasada, Bosworth se disculpó por la “atroz” comunicación de la empresa sobre la reorganización de IA y prometió una comunicación más clara, así como la restitución de algunos beneficios de oficina.

Mira tambien: