Por qué la industria de la IA está reclutando filósofos

En la última década la inteligencia artificial ha pasado de ser una disciplina puramente técnica a un terreno donde convergen preguntas filosóficas sobre la mente, la agencia y la moralidad. Este cambio ha llevado a que las grandes empresas de IA, como Google DeepMind y Anthropic, empujen sus plantillas con profesionales formados en ética y filosofía de la mente, en un intento por anticipar y gestionar los riesgos que sus sistemas pueden generar.

El auge de los filósofos en la IA

Según Henry Ajder, estudiante de posgrado en filosofía que asesora al gobierno británico y a varias startups de IA, “probablemente este sea el mejor momento para ser filósofo desde que Aristóteles fue contratado como tutor de Alejandro Magno”. Aunque su comentario lleva un tono de humor, refleja la creciente demanda de expertos que puedan aportar una perspectiva crítica sobre los algoritmos emergentes.

DeepMind y Anthropic son los laboratorios que más se destacan en esta tendencia. DeepMind, bajo la dirección de Iason Gabriel, ha constituido un equipo interno de al menos diez filósofos, mientras que Anthropic cuenta con cuatro. Ambos laboratorios prefieren no revelar el número exacto de investigadores contratados, pero la presencia de estos especialistas ha quedado patente en la publicación de artículos académicos que citan su trabajo.

En DeepMind, la investigación se centra en la alineación de valores: cómo garantizar que los sistemas de IA actúen de manera beneficiosa y no generen daños inesperados. Gabriel explica que, con la llegada de los grandes modelos de lenguaje a principios de la década de 2020, “pudimos codificar un conjunto de valores mucho más rico”. Los filósofos del equipo analizan problemas como el sesgo algorítmico, la desinformación y el uso malintencionado de la tecnología, dedicando gran parte de su tiempo a riesgos inmediatos más que a la especulación sobre la conciencia artificial.

En Anthropic, la filósofa residente Amanda Askell ha asumido un papel más directo en el desarrollo de los modelos. Tras doctorarse en 2018 y pasar por OpenAI, se unió a Anthropic y ha sido la principal redactora de la “constitución” del modelo Claude, un documento que establece normas de comportamiento y valores para la IA. Askell describe esta tarea como “filosofía aplicada”, comparándola con la educación de una persona para que sea buena.

Otro caso relevante es el de Julia Haas, filósofa de la mente en DeepMind, quien ha coautorado un artículo publicado en Nature que propone un marco para evaluar la competencia moral de los grandes modelos de lenguaje. Su trabajo busca distinguir entre la mera imitación de comportamientos morales y la auténtica capacidad de juicio ético, un tema crucial para la integración segura de la IA en la vida cotidiana.

El reclutamiento de filósofos también está influyendo en la academia. Universidades de renombre están creando cursos y programas conjuntos de informática y filosofía, y muchos estudiantes ahora optan por especializarse en ética de la IA, impulsados por la demanda del sector privado.

Aunque la presencia de filósofos en los laboratorios parece aportar valor, existen críticas sobre la independencia académica de estos profesionales. Edward Harcourt, director del Instituto de Ética en IA de la Universidad de Oxford, advierte que la financiación por parte de empresas con fines de lucro podría comprometer la objetividad de la investigación. David Leslie, del Instituto Alan Turing, añade que “practicar la filosofía dentro de una gran empresa tecnológica es casi una contradicción”, pues el entorno corporativo puede limitar el alcance de las preguntas que los filósofos se sienten libres de plantear.

Los escépticos también temen que la contratación de filósofos sirva más como una estrategia de relaciones públicas que como una auténtica apuesta ética. Según Harcourt, la presencia de expertos en ética puede “ser muy positiva para la imagen pública de las empresas, creando la impresión de que están haciendo algo inusual y poderoso”.

Sin embargo, defensores como Alex Grzankowski, director del Instituto de Filosofía de Londres, sostienen que el acceso privilegiado a los modelos más avanzados permite a los filósofos ofrecer análisis más profundos y fundamentados. “Para ofrecer una opinión ética sólida, se necesita acceso a información de calidad”, afirma Gabriel.

En los últimos meses, DeepMind ha ampliado su equipo al incorporar a un investigador senior de la Universidad de Cambridge para abordar temas como la conciencia artificial y la preparación para la superinteligencia. El nuevo puesto lleva, literalmente, el título de “filósofo”.

Mira tambien: