Google es responsable de las declaraciones generadas por su IA: el precedente histórico creado en Alemania
Un tribunal regional de Múnich ha dictado un fallo preliminar que podría transformar la manera en que los motores de búsqueda y los chatbots basados en inteligencia artificial operan a nivel mundial. El Tribunal Regional de Múnich determinó que Google es responsable de una serie de declaraciones falsas generadas por su función “AI Overviews”, obligando a la compañía a impedir la difusión de afirmaciones erróneas o imprecisas a través de esta herramienta integrada en su motor de búsqueda.
El caso surge a partir de una denuncia presentada por dos editoriales que descubrieron que los resúmenes automáticos de Google los vinculaban, en determinadas búsquedas, con prácticas comerciales cuestionables, estafas y engaños relacionados con suscripciones, sin que existiera ningún fundamento para esas acusaciones.
A principios de este año, las empresas afectadas enviaron a Google una carta de cese y desistimiento. La compañía rechazó la responsabilidad argumentando que su función de resúmenes automáticos advierte a los usuarios de que la información puede contener errores y que debe ser verificada de manera independiente.
En su análisis, el tribunal concluyó que la IA de Google combinó información sobre otras compañías señaladas por posibles prácticas ilícitas con datos de los demandantes, creando asociaciones que no aparecen en ninguna de las fuentes enlazadas por el buscador.
Los autores del fallo consideran que, a diferencia de los motores de búsqueda tradicionales que se limitan a mostrar listas de enlaces con declaraciones elaboradas por terceros, la herramienta de Google produce “declaraciones independientes, nuevas y sustanciales” basadas en una interpretación equivocada de la información disponible en internet.
Implicaciones del fallo
El tribunal sostuvo que la protección que tradicionalmente se ha otorgado a los motores de búsqueda, al considerarse simples facilitadores de acceso a contenidos de terceros, deja de aplicarse cuando dichos motores incorporan sistemas de IA generativa. Según el razonamiento judicial, esta tecnología es capaz de crear afirmaciones inexistentes a partir de múltiples fuentes, y por tanto las empresas responsables de operarla deben asumir la responsabilidad por el contenido que produzcan.
Los jueces también señalaron que, aunque Google invita a los usuarios a verificar la información debido a las posibles “alucinaciones” propias de los modelos de IA, esa advertencia no exime a la compañía de su responsabilidad. De lo contrario, las víctimas de declaraciones falsas quedarían prácticamente indefensas, ya que las fuentes originales nunca realizaron esas afirmaciones y, por tanto, no podrían ser objeto de acciones legales.
Asimismo, el tribunal determinó que los resultados generados por un sistema de IA no pueden ampararse bajo los principios de libertad de expresión, al tratarse del producto de un algoritmo diseñado, entrenado y gestionado por una empresa, y no de la manifestación de una opinión individual.
Como medida cautelar, el dictamen obligó a Google a retirar la mayor parte de las afirmaciones consideradas difamatorias y a cubrir el 80 % de los costos judiciales derivados del proceso.
Un portavoz de Google, citado por Ars Technica, indicó que la decisión podría ser impugnada. El representante aseguró que la compañía “invierte significativamente en la calidad de los resúmenes generados por IA para garantizar que la gran mayoría de las respuestas proporcionen información precisa y reflejen el contenido disponible en la web. Estamos revisando cuidadosamente esta decisión, que aún no es definitiva”.
El fallo del tribunal alemán podría tener repercusiones globales para toda la industria de la inteligencia artificial. Empresas como OpenAI, Anthropic y Perplexity AI también advierten a sus usuarios que las respuestas generadas por sus sistemas pueden contener errores o resultar engañosas y recomiendan verificar la información antes de utilizarla. Sin embargo, este caso muestra que dichas advertencias no son suficientes para eximir de responsabilidad a los desarrolladores. La resolución sostiene que, cuando una IA produce afirmaciones nuevas que no aparecen de forma directa en sus fuentes originales, la empresa que diseña, entrena, opera y mantiene el sistema debe asumir la responsabilidad legal por los posibles daños ocasionados.
Deja una respuesta