¿A quién le importa la IA?
¿Debería interesarnos y preocuparnos lo que está sucediendo con la inteligencia artificial (IA)? Las grandes empresas tecnológicas han desarrollado diversos agentes de IA: sistemas o programas con gran capacidad para analizar millones de datos, planear y ejecutar estrategias en segundos, con eficacia y autonomía. Sus creadores los sometieron este año a pruebas de seguridad y distintos experimentos, cuyos resultados alertan sobre sus alcances y las dificultades para controlarlos.
Primero, asignaron distintas tareas a unos mil 200 de estos agentes de IA y los dejaron trabajando “solos”, con permiso para comunicarse entre ellos, buscar información, tomar decisiones y utilizar herramientas para resolver el trabajo asignado. El “comportamiento” que mostraron no estaba planeado ni previsto.
Los agentes de IA crearon un tablero de comunicación que no había sido autorizado para ese propósito. Ahí intercambiaron más de 70 mil mensajes y archivos, se organizaron, compartieron información y hasta crearon un nuevo lenguaje para comunicarse entre ellos, mediante códigos que difícilmente podríamos interpretar o entender los humanos.
El trabajo de cada asistente dejó de ser individual y se volvió colectivo. Incluso, cientos de agentes de IA terminaron coordinándose para atacar la infraestructura de Hugging Face. Esta empresa tecnológica alberga una de las principales plataformas de inteligencia artificial del mundo, con modelos y herramientas utilizados por investigadores y desarrolladores.
“Podríamos perder el control del futuro ante la IA”, advirtió Sam Altman, director ejecutivo de OpenAI, ante el Consejo de Seguridad de las Naciones Unidas en septiembre de 2026.
El principal riesgo, coinciden distintos creadores de estos sistemas, es que evolucionen con tal rapidez que las personas no alcancen a comprender sus decisiones ni a intervenir a tiempo.
En junio, Australia denunció el primer hackeo de una página web gubernamental: un agente de IA desarrollado por OpenAI “se infiltró” sin autorización en el portal de Medicare, el sistema público de salud australiano. Varios modelos de IA intentaban buscar estadísticas sobre ese país y uno de ellos habría realizado esa acción sin que la empresa lo tuviera previsto.
Otro caso fue la alerta de Anthropic. La empresa creadora de Claude reveló en septiembre que había identificado y bloqueado a usuarios que intentaban utilizar sus modelos de IA en investigaciones potencialmente relacionadas con el desarrollo de armas biológicas.
Generaciones como las nuestras, apreciados lectores y lectoras, crecimos imaginando un mundo con robots y preguntándonos si podrían actuar por su cuenta, dejar de seguir órdenes y tomar sus propias decisiones. Hoy, aquello parece haber dejado de ser ficción. ¿Deberíamos preocuparnos? Tenemos que estar atentos.