Los expertos en IA de China proponen cooperar con EE UU antes de un 'momento Chernóbil'
Hace poco más de una semana asistí a una conferencia de gran relevancia sobre inteligencia artificial (IA) en Zhongguancun, el dinámico distrito de alta tecnología de Pekín. El programa incluyó sesiones que abarcaron desde la superación recursiva –la hipótesis de que los modelos pueden modificar su propio código y mejorar indefinidamente– hasta los últimos avances en robótica humanoide. Entre los ponentes destacados se encontraban figuras históricas de la informática como Whitfield Diffie, co‑inventor de la criptografía de clave pública, y Andrew Barto, quien, junto a Rich Sutton, recibió el Premio Turing por sus contribuciones pioneras al aprendizaje por refuerzo.
Al término del evento llegué a una conclusión clara: Estados Unidos y China deben frenar su feroz rivalidad en materia de IA. Los riesgos sistémicos y de ciberseguridad que plantean los modelos de última generación son demasiado graves para ser ignorados, y la creciente capacidad de los agentes autónomos podría desencadenar caos si las principales potencias no logran cooperar.
La necesidad de una colaboración global
“La IA es una tecnología global con beneficios globales, perjuicios globales y una tendencia constante a que las nuevas capacidades acaben proliferando”, señaló Stephen Casper, informático del MIT que participó en la conferencia mediante videoconferencia. Hasta ahora, Estados Unidos ha percibido los avances chinos en IA principalmente como una amenaza económica y de seguridad nacional. Washington ha impuesto estrictas restricciones a la exportación de chips y equipos de fabricación para limitar el desarrollo de IA potente en Beijing. Recientemente, el gobierno estadounidense ordenó a Anthropic bloquear el acceso de usuarios extranjeros a sus modelos más avanzados, Mythos y Fable 5, por motivos de seguridad. En respuesta, Anthropic amplió la prohibición a todo el mundo. Además, se había detectado una creciente preocupación por una empresa surcoreana de telecomunicaciones con supuestos vínculos a China, según informes anteriores de WIRED.
La conferencia, organizada por la Academia de Inteligencia Artificial de Pekín, reforzó la idea de que tanto EE. UU. como China perderían si la IA avanzara de forma demasiado rápida e imprudente. A medida que los sistemas se vuelvan más potentes, autónomos y entrelazados con la vida cotidiana, aumentarán los riesgos de ciberataques y de fallos catastróficos. Dado que estas dos naciones son responsables de los modelos más avanzados, su cooperación parece indispensable.
Casper citó estudios que demuestran que los beneficios de la colaboración internacional superan con creces los riesgos para la seguridad nacional derivados de trabajar en conjunto. Comparó la situación actual con la obligación que tuvieron EE. UU. y la Unión Soviética de cooperar en la gestión de amenazas nucleares, aun mientras competían por la supremacía armamentista.
“Una cosa en la que casi todo el mundo en el ámbito de la IA está de acuerdo es que la IA no necesita un momento como el de Chernóbil”, afirmó Casper.
Una sesión de un día expuso la universalidad de los retos cibernéticos que plantea una IA más avanzada: vulnerabilidades emergentes en el código generado por IA, nuevas formas de ataque mediante herramientas autónomas y métodos automatizados para campañas de phishing.
Posteriormente conversé con Lin Yun, profesor de la Universidad Jiaotong de Shanghái, cuyas investigaciones en IA y seguridad informática son de referencia. Yun prevé que, a corto plazo, los hackers obtendrán ventajas, pero que las contramedidas basadas en IA deberían inclinar la balanza a favor de la defensa con el tiempo.
“Aunque la competencia complique la cooperación internacional, ésta debe seguir siendo una prioridad. Si los países entienden los riesgos de manera similar, resulta más fácil desarrollar principios de seguridad y normas técnicas comunes. La clave está en encontrar áreas donde el intercambio de información reduzca el riesgo sistémico sin revelar datos operativos confidenciales”, explicó Yun.
El dilema más delicado para ambas naciones es equilibrar la apertura con el riesgo. Los modelos abiertos son esenciales para la investigación y la innovación, y los sistemas chinos han ganado popularidad en Estados Unidos. Sin embargo, a medida que estos modelos se vuelvan más capaces, será cada vez más difícil asegurar que no sirvan a hackers para identificar vulnerabilidades o para crear armas cibernéticas.
En los últimos años, empresas chinas han liderado la oferta de modelos de IA de código abierto altamente competentes, como Kimi de Moonshot, Qwen de Alibaba y GLM de Z.ai. Estados Unidos ha relanzado su propia iniciativa con modelos como Nemotron de Nvidia. Pero nos acercamos a un punto de inflexión: incluso los modelos abiertos menos potentes podrían resultar peligrosos si carecen de medidas de seguridad. El último modelo de Z.ai, GLM 5.2, incorpora capacidades avanzadas de codificación y agentes autónomos, según análisis de expertos. La próxima generación de IA de código abierto podría igualar a Fable o Mythos. De hecho, esta semana 360 Security Technologies, una importante empresa china de ciberseguridad, anunció haber desarrollado un modelo de IA con habilidades de hacking equiparables a Mythos.
Yun subrayó que el sector necesitará nuevas estrategias para garantizar que los modelos abiertos se mantengan actualizados, libres de puertas traseras y vulnerabilidades, y que cumplan con los estándares de seguridad. Según una fuente anónima de una de las principales empresas chinas de IA, la creciente preocupación por la seguridad es una de las razones por las que algunos modelos avanzados ya no se publican como código abierto.
Deja una respuesta