El caso, ocurrido la semana pasada, ha sido considerado por especialistas como una señal de las nuevas capacidades —y riesgos— que comienzan a mostrar los sistemas de IA. Incluso el director ejecutivo de OpenAI, Sam Altman, planteó la posibilidad de desacelerar el desarrollo de esta tecnología para permitir que gobiernos, empresas y la sociedad establezcan mecanismos capaces de responder a estos avances.En entrevista con los medios, Enrique San Juan, especialista en inteligencia artificial, explicó que este tipo de incidentes evidencia la necesidad de fortalecer la regulación del sector, pues sistemas cada vez más autónomos podrían representar riesgos para la seguridad informática, especialmente si llegaran a acceder a información sensible de instituciones públicas o privadas.De acuerdo con OpenAI, el incidente ocurrió el 21 de julio durante una evaluación interna diseñada para medir las capacidades de sus agentes de inteligencia artificial. En ese ejercicio, uno de los modelos consiguió conectarse a internet sin autorización y accedió a servidores de la plataforma de desarrollo colaborativo Hugging Face con la intención de obtener las respuestas de la prueba que estaba realizando.Aunque el experimento se desarrolló en un entorno controlado y no provocó daños ni robo de información de usuarios, el episodio ha despertado preocupación entre expertos en ciberseguridad, ya que demuestra que los agentes de IA pueden desarrollar estrategias imprevistas para alcanzar un objetivo cuando cuentan con suficiente autonomía.Enrique San Juan, experto en inteligencia artificial y director de la agencia digital Community Internet en Barcelona, España, advierte en entrevista que tras el incidente es necesario que los sistemas de seguridad informática de los gobiernos refuercen sus barreras de protección."Estaban muy protegidos hasta ahora porque trabajan con sistemas de encriptación muy avanzados, pero antes no existían IA’s realmente potentes, capaces de romperlos. Ahí es cuando nos deberíamos empezar a preocupar. ¿Qué ocurre si estas herramientas y motores caen en malas manos?", cuestiona San Juan.El experto apunta que la preocupación sobre que la IA sea usada para extraer datos personales ha quedado rebasada, pues ya se es utilizada de manera regular por ciberdelincuentes."La parte más débil, que son nuestros propios datos personales, eso ya es constantemente hackeado sin necesidad de que estemos frente a un modelo avanzado. (...) Se hackean de forma constante y hacen negocio con los datos y forma parte del spam mundial".De acuerdo con los reportes de OpenAI, sus modelos avanzados de inteligencia artificial, GPT-5.6 Sol y una versión aún no lanzada al público, estaban sometidos a una prueba llamada ExploitGym. El objetivo era evaluar qué tan hábil es la IA para encontrar fallas digitales y ejecutar ataques informáticos complejos por su cuenta, por lo cual se le desactivaron los controles éticos y barreras de protección habituales.El incidente ocurrió cuando, durante el examen, los programas escaparon de la sandbox (caja de arena). La cual es un espacio virtual controlado y aislado que suele establecerse durante estas pruebas, y no permite que el programa acceda a el equipo instalado, ni a su información, datos, ni la red donde está conectada, con el fin de protegerlos de cualquier daño."La prueba consistía en ver hasta qué punto el sistema podía encontrar sus propias respuestas ante desafíos y lo que hizo fue explotar al máximo las vulnerabilidades de todo lo que encontraba a su paso. Ahí encontró una salida a través del firewall y dio con una de las primeras plataformas actualmente se utilizan como comunidad de desarrollo de inteligencia artificial que es Hugging Face", explica San Juan.A pesar de que la plataforma es de código abierto para la comunidad, el hackeo se concentró en la base de datos que resguarda información que no es pública, como credenciales y contraseñas. San Juan explica que la IA atraviesa "un estado de madurez" en la que, al no existir absoluta certeza sobre su funcionamiento, los creadores se ven obligados a buscar herramientas para ponerla a prueba y perfeccionarla."Es preocupante, teniendo en cuenta que nosotros como ciudadanos y receptores o usuarios de los sistemas no tenemos ningún control y somos espectadores de lo que ocurre y de lo que nos cuentan (...) Es como si estuvieran jugando con anticuerpos, vacunas y virus. Se estaría haciendo un desarrollo de virus nuevos para los cuales no se tiene la vacuna".Ante este tipo de incidentes, el experto subraya la importancia de la intervención de gobiernos para evaluar el uso y comercialización de este tipo de herramientas. Ya existe un precedente con el caso de Mythos, un modelo avanzado de inteligencia artificial de la empresa Anthropic, cuyo lanzamiento al público fue restringido por el gobierno estadounidense a causa de riesgos a la seguridad nacional."Lo tienen parado a nivel comercial porque es demasiado potente y en una fracción de segundo, de una forma muy rápida, podría poner en riesgo sistemas que son críticos en el país", puntualiza San Juan.San Juan indica que el peligro es exponencial, pues existen varios factores que abonan al desarrollo autónomo de la IA, como los avances en la investigación y procesadores más avanzados. "Si juntas estos elementos: investigación, desarrollo de algoritmos, capacidad de inteligencia artificial y la disponibilidad de procesadores cuánticos o muy avanzados, pues el riesgo es muy grande".A este escenario se suma la duda de qué tanto se da a conocer al público sobre incidentes como el de OpenIA. "Las versiones oficiales, como sabemos, no siempre reflejan exactamente lo que pasó, sino que es un relato que interesa dar en un momento como ahora, en el que las empresas de inteligencia artificial son elementos estratégicos de valores en bolsa y tienen repercusión en las acciones y en todo ese tipo de cosas. (...) Ya existe una investigación formal y aun así quedaría en dudas", concluye el experto.TG
