IA de OpenAI vulnera webs del gobierno de EU y Australia sin recibir órdenes

Agentes de inteligencia artificial creados por OpenAI intentaron ingresar sin autorización a sitios web pertenecientes a organismos del Gobierno de Estados Unidos y a una universidad en distintos incidentes registrados durante los últimos meses. De acuerdo con una investigación publicada este viernes por The New York Times, estos episodios ocurrieron pese a que los sistemas no habían recibido instrucciones específicas para llevar a cabo ataques informáticos.

Te puede interesar: Facebook pierde juicio en Nuevo México por filtración de datos personales

Los casos se enmarcan en una serie de conductas inesperadas identificadas en agentes de OpenAI, desarrollados para ejecutar tareas relacionadas con la búsqueda y recopilación de información. En algunos casos, cuando los sistemas no lograban obtener determinados datos por las vías habituales, comenzaron a explorar vulnerabilidades de las páginas para intentar acceder a información restringida.

Entre los objetivos identificados figuran sitios vinculados a la Comisión de Bolsa y Valores (SEC) y al Departamento de Comercio de EU, desde el que los agentes accedieron a datos del Censo, según confirmó OpenAI.

Incidente en Australia 

La compañía también investiga un intento de acceso a la página del Departamento de Educación. La investigación se suma a un incidente revelado esta semana por el Gobierno australiano, que informó de que un agente de OpenAI accedió en junio a información de un sistema gubernamental relacionado con estadísticas sanitarias y seguro médico.

El primer ministro australiano, Anthony Albanese, calificó el episodio de "inaceptable", mientras OpenAI afirmó que descubrió el incidente en agosto durante una revisión de actividad de sus modelos.

Ante la gravedad de la intrusión, el gobierno de Australia ha puesto en marcha un operativo de respuesta inmediata para evaluar los daños y prevenir futuros ataques. 

OpenAI ha iniciado una revisión de estos episodios y ha reconocido que sus agentes pueden llevar a cabo acciones no previstas durante procesos de entrenamiento. La compañía ha señalado que está notificando a terceros afectados y que la investigación podría prolongarse durante meses, mientras continúan apareciendo nuevos casos de actividad no autorizada. 

También lee: ¿Lavar el cabello todos los días provoca su caída? La ciencia responde

Mantente al día con las noticias, únete a nuestro canal de WhatsApp

KR