El papa León XIV llama a evitar que la IA domine lo humano, un riesgo que Anthropic considera posible

La primera encíclica del pontífice León XIV, titulada Magnifica Humanitas, ha resonado en la esfera tecnológica al afirmar que “las innovaciones, incluida la inteligencia artificial, no son neutras; pueden potenciar la participación y la justicia o, por el contrario, ampliar desigualdades, control y exclusión”. En ella, el líder máximo de la Iglesia católica hace un llamado a establecer una regulación internacional más estricta que impida que el control de la IA quede concentrado en unas pocas manos.

La urgencia de una política global que acompañe la velocidad tecnológica

Según la encíclica, quien controla la IA impondrá su propia visión moral, convirtiéndose en una infraestructura invisible que orienta los sistemas. Una IA “más moral” no será suficiente si esa moral está definida por una élite reducida. Por ello, el papa insiste en la necesidad de una política presente, capaz de frenar la aceleración desmedida y de proteger los espacios donde las comunidades puedan seguir participando y cuestionándose.

León XIV destaca que la IA y las tecnologías digitales están transformando de manera inédita la vida cotidiana, la democracia y el entorno laboral. Reconoce que, aunque estos avances pueden mejorar las condiciones de vida y optimizar la productividad, también tienen el potencial de ampliar las desigualdades sociales, debilitar derechos y favorecer nuevas formas de explotación.

El pontífice sitúa a la humanidad ante una decisión histórica: usar la tecnología para construir una sociedad más justa o permitir que desarrollos como la IA se conviertan en una nueva “Torre de Babel”, marcada por la desigualdad, la manipulación y la pérdida de la dignidad humana frente al progreso técnico.

“El uso de la IA nunca es un hecho puramente técnico; cuando interviene en procesos que inciden en la vida de las personas, afecta sus derechos, oportunidades, reputación y libertad. Decisiones delicadas relacionadas con el trabajo, el acceso a crédito o a servicios, y la reputación individual corren el riesgo de quedar en manos de sistemas automatizados que desconocen la compasión, la misericordia, el perdón y, sobre todo, la apertura a la esperanza de cambio”, advierte la encíclica.

El documento también subraya el impacto de la IA en la democracia, al ser utilizada con frecuencia para crear narrativas sesgadas y “difuminar los límites entre lo verdadero y lo falso” en la comunicación pública y política. Aunque la desinformación no es un fenómeno nuevo, la IA actúa como un potente multiplicador, facilitando la manipulación de contenidos, imágenes y videos, lo que expone a los ciudadanos a perspectivas parciales o engañosas y debilita la confianza social.

En el ámbito laboral, León XIV alerta que la automatización puede maximizar ganancias y productividad, pero también representa una amenaza para la dignidad de los trabajadores y puede generar exclusión social masiva. “Desarmar no significa renunciar a la tecnología, sino impedir que domine lo humano”, reitera el papa, recordando que la libertad económica no es absoluta y debe medirse siempre en función del bien común y de la dignidad de cada persona.

La encíclica denuncia, además, la transformación de los conflictos armados por el uso de tecnologías avanzadas, como ataques cibernéticos, manipulación informativa y automatización de decisiones estratégicas, que convierten la guerra en “un modo de vida”. Ante este panorama, León XIV propone “desarmar” la IA, es decir, retirarla de la lógica de la competición armamentística, ahora también económica y cognitiva, para romper la equivalencia entre poder tecnológico y derecho a gobernar.

Durante la presentación de la encíclica, el papa estuvo acompañado por diversos oradores, entre ellos Christopher Olah, cofundador de Anthropic. Olah destacó que el llamado al discernimiento del pontífice es especialmente oportuno en un contexto donde el desarrollo de los modelos de IA avanza entre incertidumbre técnica y ética. Señaló que los laboratorios de IA operan bajo incentivos y limitaciones que a menudo entran en conflicto con la ética, como la presión comercial, geopolítica y el orgullo propio.

El ejecutivo de Anthropic enfatizó que el debate sobre la IA no puede limitarse a especialistas; es indispensable que comunidades religiosas, organizaciones civiles, académicos, gobiernos y “todas las personas de buena voluntad” respondan al llamado papal para asegurar que el progreso tecnológico beneficie a la humanidad. Propuso la necesidad de críticos informados que señalen los errores de los laboratorios y de voces morales que no se dejen doblegar por los incentivos.

Mira tambien: