Advierten que la IA podría destruir a la humanidad: La carrera entre EU y China

El martes pasado, el CEO de Anthropic, la empresa dedicada al desarrollo de modelos de IA, Dario Amodei, publicó un extenso ensayo en el que advertía que la inteligencia artificial podría superar la inteligencia humana en múltiples ramas en uno o dos años. 

Amodei alertó sobre riesgos como el bioterrorismo, la pérdida de control de los sistemas y el desempleo masivo, proponiendo un enfoque de 'desarrollo pausado' y auditorías de terceros.  A este ensayo se suma un hilo de Jacob Coxon, investigador que trabajó recientemente en OpenIA y en Anthropic, y que junto con el anuncio de su renuncia, publicó en X un extenso hilo en el que expone la “falta de responsabilidad” de estas empresas para gestionar el avance de la IA.

LEE | Superinteligencia artificial: Innovación, pérdida de control y seguridad mundial

Y estima que los modelos podrían llegar a amenazar a la humanidad si no se regula la velocidad con la que progresan estos modelos. En su publicación, Jacob describe el avance de la IA diciendo que pronto podrían existir super sistemas capaces de hackear cualquier cosa y de realizar avances revolucionarios en cualquier campo de un día a otro.

Y añade que “podría llegar a matarnos para el final de la década”. Las palabras de Amodei fueron apoyadas por Evan Hubinger, actual líder de alineación científica en Anthropic. Quien confirma que en la empresa, la idea de que la IA podría extinguir a toda la humanidad es algo que tienen presente y que él personalmente estima “una posibilidad menor a un 10% de que esto suceda al final de la siguiente década.” Añade que desde Anthropic aún no tienen un plan para lidiar con una “Super Inteligencia Artificial” y que no parece ser algo que contemplen.

¿Cuál es la solución ante los riesgos de la IA?

Dentro de este contexto, la lucha entre los grandes "labs" de IA estadounidenses que abogan por modelos cerrados (Anthropic y OpenAI) y competidores chinos como DeepSeek, Moonshot, Alibaba o Zhipu que han apostado por el código abierto, una fórmula que permite a desarrolladores y compañías descargar, adaptar y desplegar sistemas de IA en sus propios servicios y tener solo como gran coste el de computación propia.

Este verano, Dario Amodei, consejero delegado de Anthropic, aseguró que su temor con los modelos abiertos es que sean los chinos los que consigan posicionarse como hegemónicos y que ese tipo de IA pueda usarse para ciberataques o ataques biológicos, ya que "es muy difícil aplicar barreras de seguridad o monitorear el uso".

Casualmente, después de que el exempleado de Anthropic y OpenAI Jacob Coxon alertara la semana pasada de la posibilidad de que la IA causara la extinción de la humanidad, Amodei publicó un ensayo en el que alertaba del riesgo de "perder el control de los sistemas de IA" y pedía un desarrollo más lento de esta tecnología, al que se sumaron Sam Altman (OpenAI), Elon Musk (xAI) y Demis Hassabis (Google DeepMind).

En la misma semana, Anthropic publicó un informe en el que revelaba que gracias a que sus modelos permiten monitorizar el uso que hacen sus usuarios -algo que el caso de OpenAI podría estar detrás de los hitos matemáticos presentados recientemente- detectaron intentos de desarrollo de armas biológicas, ataques terroristas u operaciones de desinformación orquestada por adversarios de EU.

Los modelos de código abierto podrían ser otra solución

El fundador Moonshot, Yang Zhilin, ha defendido en declaraciones a la prensa local el potencial de los modelos abiertos, asegurando que, "si los modelos pueden alcanzar el mismo nivel, el código abierto será una victoria absoluta", en un momento en el que algunos servicios chinos ya muestran un rendimiento casi similar al de los estadounidenses más avanzados, según comparativas especializadas.

En la misma línea, el directivo de la tecnológica Honor, Wang Ai, señaló que la industria transita hacia una "competencia de ecosistemas" y consideró que el código abierto "determinará el panorama competitivo en la era de la IA".

La política y su influencia en el desarrollo de la tecnología

La apuesta por modelos más eficientes está vinculada además a las limitaciones de China en capacidad de cálculo. El fundador de DeepSeek, Liang Wenfeng, ha afirmado que la mayor diferencia con EU no es de talento ni tecnológica, sino los recursos de computación, condicionados por las restricciones estadounidenses al acceso chino a chips avanzados.

No obstante, en EU también hay voces críticas sobre los modelos cerrados y la necesidad de promover sus propias arquitecturas de IA abierta, especialmente en el caso del CEO de Palantir, Alex Karp, que este lunes pidió no poner el freno al desarrollo de la IA, especialmente cuando hay rivalidades geopolíticas.

Karp defendió en una entrevista en CNBC la idea de modelos abiertos que rivalicen con los chinos, ya que tanto las empresas como el gobierno quieren mantener el control de su propiedad intelectual y su cadena de generación de valor a la par que generalizan el uso de la IA tanto para sus operaciones diarias como en la defensa del país.

El comunismo chino y la inteligencia artificial

En China, esta apertura en la arquitectura de los modelos convive con un estricto control estatal sobre los contenidos y, presumiblemente en última instancia, sobre su potencial y empleo, que es seguido de cerca por el gobernante Partido Comunista.

Desde la eclosión de los chatbots, las autoridades chinas han reforzado el marco regulatorio y subrayado que los servicios de IA generativa deben respetar los "valores socialistas fundamentales" y no generar contenidos que afecten a la seguridad nacional, la unidad territorial o la estabilidad social.

Ese control se ha extendido también al etiquetado de contenidos sintéticos y a los usos considerados lesivos: el Tribunal Supremo chino ha fijado criterios para supuestos en los que 'deepfakes' (ultrafalsos), alucinaciones o usos discriminatorios de algoritmos pueden acarrear responsabilidad legal.

En julio, el presidente chino, Xi Jinping, quien se espera que viaje a finales de mes a EU, donde se prevé que la IA sea uno de los temas centrales en su reunión con su par, Donald Trump, pidió una gobernanza "precisa y efectiva" de la inteligencia artificial y llamó a garantizar que esta tecnología permanezca "bajo control humano".

LEE: ¿Las IA se comunican entre sí? Esta es la situación de OpenAI y Hugging Face

Por su parte, el ministro chino de Seguridad del Estado, Chen Yixin, instó el pasado fin de semana a construir una "barrera de seguridad" para dicha tecnología ante los riesgos existentes.

Por otro lado, el diario Global Times, dependiente del Diario del Pueblo, órgano del Partido Comunista de China (PCCh), acusó recientemente a parte de la comunidad tecnológica estadounidense de utilizar las advertencias sobre los riesgos de la IA para "contener" a China.

Pekín rechaza asimismo las críticas estadounidenses contra empresas chinas como DeepSeek, Moonshot o Alibaba por supuesto uso de "destilación", una técnica que permite entrenar modelos más pequeños con respuestas de sistemas más avanzados, y sostiene que se trata de una "práctica común" en la industria.

TG