Líderes de 22 países e instituciones piden regulación y supervisión humana para la IA

En el marco de la Semana de Alto Nivel de la ONU que se celebra esta semana en Nueva York, veintidós líderes de países e instituciones firmaron un documento solicitando que la inteligencia artificial (IA) sea supervisada por humanos, y que la organización internacional establezca normas comunes para esta tecnología.

Entre los representantes que se manifestaron a favor de la regulación de la IA se encuentran el presidente del Gobierno español, Pedro Sánchez; la presidenta de la Comisión Europea, Ursula von der Leyen; el primer ministro de Canadá, Mark Carney; y el presidente de Finlandia, Alexander Stubb.

También figuran en la carta representantes políticos de Noruega, Australia, Irlanda, Baréin, Dinamarca, Estonia, Alemania, Islandia, Kazajistán, Kenia, Letonia, Moldavia, Países Bajos, Singapur, Sudáfrica, Turquía y Emiratos Árabes Unidos.

Te puede interesar: Irán amenaza a Estados Unidos con armas que "sorprenderán al mundo" y expandir el conflicto a nuevas zonas

Advierten de riesgos por desarrollo descontrolado de la IA

Aunque los firmantes reconocen que la IA tiene el potencial "de mejorar nuestras vidas, impulsar el avance científico y fortalecer nuestras economías", subrayan que su rápido desarrollo "plantea graves riesgos para la seguridad y la protección si no se gestiona adecuadamente".

La misiva cita episodios en los que sistemas de IA avanzados burlan las medidas de seguridad de otras compañías y entidades y obtienen acceso no autorizado a sistemas del mundo real.

"La IA debe permanecer bajo la dirección, la supervisión y el control humanos, y debe desarrollarse y utilizarse en conformidad con el derecho internacional", apuntan los suscritos.

Mira esto: Japón ordena evacuar a casi dos millones de personas por el tifón “Dujuan”

Por ello, piden a las empresas del sector que desarrollen protocolos de seguridad transparentes, con pruebas obligatorias previas a la implantación de los modelos de IA y una evaluación independiente.

Además, los firmantes instan a los gobiernos y a las organizaciones regionales a desarrollar y coordinar normas comunes, así como a reforzar su transparencia y garantizar que todos los países tengan acceso a capacidad científica, conocimientos especializados y evaluaciones fiables.

También animan a los Estados miembros de la ONU a aprovechar los mecanismos internacionales existentes y plantear la creación de una institución internacional que establezca normas, facilite la verificación y convoque a los países "cuando se superen los umbrales de capacidad".

La misiva llega en medio de advertencias por parte de desarrolladores e investigadores sobre los riesgos de la IA.

Figuras del sector como Dario Amodei (Anthropic), Sam Altman (OpenAI) y Elon Musk (xAI) también han manifestado su preocupación por el avance de esta tecnología, en una coincidencia poco habitual en el sector para exigir más regulaciones. 

Lee también: Tensión en Honduras: Reality show ligado a Salinas Pliego amenaza a una comunidad con despojo

***Mantente al día con las noticias, únete a nuestro canal de WhatsApp ***

MB