España busca prohibir los deepfakes sexuales con su nueva ley de IA

El Consejo de Ministros aprobó el proyecto de Ley Orgánica para el Buen Uso y Gobernanza de la Inteligencia Artificial, que será remitido al Congreso para su revisión. Con esta iniciativa, España busca establecer un marco regulatorio que garantice la transparencia de los algoritmos, la responsabilidad de los directivos de las empresas que empleen herramientas prohibidas y la imposición de multas millonarias a quienes incumplan la normativa.

El ministro de Transformación Digital y de la Función Pública, Óscar López, declaró que la medida persigue “proteger los derechos humanos frente al avance tecnológico” y afirmó que “España es un país líder mundial en el desarrollo y la regulación de la IA”. Según sus palabras, el objetivo es crear un modelo de IA confiable que proteja los derechos de los ciudadanos y sitúe a España a la vanguardia global.

Principales disposiciones de la nueva Ley de IA

La propuesta adapta la legislación española a lo establecido por el Reglamento de Inteligencia Artificial (RIA) de la Unión Europea, vigente desde agosto de 2024, e introduce varias novedades específicas:

Prohibición de deepfakes sexuales y contenido de abuso infantil

• Se prohíbe la introducción, comercialización y uso de sistemas de IA capaces de generar deepfakes de naturaleza sexual.
• También se vedará cualquier IA que pueda emplearse para modificar o crear contenido relacionado con el abuso infantil.
• Esta disposición, que no figuraba inicialmente en el RIA, será incorporada al texto simplificado de la normativa digital comunitaria a petición de España y Francia.

Clasificación de riesgos y supervisión

• Se mantiene el esquema de clasificación de riesgo del RIA, que prohíbe modelos y aplicaciones que representen un peligro inaceptable para la seguridad o salud de las personas.
• Entre los sistemas prohibidos se incluyen aquellos que manipulan decisiones mediante técnicas subliminales, explotan vulnerabilidades relacionadas con edad, discapacidad o situación socioeconómica, emplean datos biométricos para clasificar usuarios o califican a personas según sus rasgos personales o conductas sociales.
• Los sistemas de IA permitidos estarán sujetos a supervisión permanente por la Agencia de Supervisión de Inteligencia Artificial, la Agencia Española de Protección de Datos y el Consejo General del Poder Judicial.

Obligaciones para empresas y responsables

• Las empresas que desarrollen o comercialicen algoritmos de IA deberán presentar informes periódicos para actualizar su clasificación de riesgo.
• Se responsabiliza tanto a la entidad infractora como a sus directivos por el uso de sistemas prohibidos.
• El régimen de sanciones sigue la tipología del RIA: infracciones muy graves, graves y leves, con multas de hasta 35 millones de euros o el 7 % del volumen global del negocio en los casos más severos, y hasta 500 000 euros o el 0,5 % de la facturación anual en los casos menos graves.
• Se contemplan reducciones de sanción por pronto pago, medidas correctoras y atenuantes basados en el tamaño de la empresa para proteger a pymes y startups.

Responsabilidad penal de plataformas

• La responsabilidad penal no recaerá exclusivamente en los usuarios que empleen IA para generar imágenes sensibles; también podría aplicarse a las plataformas que faciliten su difusión, como X, Meta y TikTok.

Uso ético de la IA en el sector público

• Se creará un inventario que registre todos los sistemas de IA utilizados en procedimientos administrativos, sin limitarse a los de alto riesgo.
• Se instaurará la figura del “delegado de inteligencia artificial”, encargado de coordinar la aplicación de la normativa, asesorar técnicamente en proyectos institucionales y supervisar la contratación pública de tecnología.
• Se reforzarán los programas de formación y concienciación dirigidos a los empleados públicos para asegurar una gestión responsable de la IA.

Según datos del Ministerio, el 77 % de la población española exige una mayor protección de sus derechos digitales frente a la inteligencia artificial. La aprobación de esta ley representa, según el propio ministro, una “tercera vía europea” que combina innovación, competitividad y defensa de los derechos.

Mira tambien: