Carlos III advierte sobre los riesgos si la IA cae en manos equivocadas

El rey británico, Carlos III, advirtió este jueves contra los "riesgos existenciales" que se presentan si la inteligencia artificial (IA) "cae en manos equivocadas y termina siendo usada de formas potencialmente catastróficas".

Lee también: Microsoft advierte que entrenar a la IA con rasgos humanos podría dificultar su control

Carlos III explora los límites de la IA

El monarca reunió en Dumfries House (Escocia) a varios ejecutivos y líderes mundiales del sector en una especie de "cumbre" para explorar los límites de un uso de la IA que traiga beneficios a la sociedad, en un contexto en el que se multiplican las advertencias sobre un desarrollo incontrolado de sus capacidades.

Entre los invitados figuran representantes de Nvidia, Google DeepMind, OpenAI, Anthropic y otras empresas, así como representantes de China o del Vaticano y el secretario de Estado británico Kanishka Narayan.

"Quienes han creado estas tecnologías -recordó el monarca- advierten cada vez más de que la IA puede desarrollar capacidades más siniestras, e incluso potencialmente llevarse vidas (por delante)", señaló en su discurso de apertura a los ejecutivos.

Y les recordó que su trabajo no consiste solo en hacer avanzar la tecnología, sino "garantizar que sirve claramente a la humanidad, a las comunidades y al mundo natural".

Líderes y expertos en la IA difieren de la opinión de Carlos III

Sin embargo, no todos los asistentes parecieron alinearse con sus temores. Uno de los más destacados, el CEO de Nvidia, Jensen Huang, pidió que la IA no termine siendo regulada lo mismo que las redes sociales, ya que es "una tecnología" y no "un producto".

Según Huang, el papel de los gobiernos debe consistir en intervenir cuando el desarrollo de la IA "se tuerce", y recordó que ya existen leyes que regulan la salud, el transporte o el entretenimiento —ámbitos donde ya se aplica la IA—, y no hay que obsesionarse con añadir nuevas leyes salvo que sean necesarias.

En cuanto a los sistemas de control de la IA -añadió-, deben hacerse en laboratorios cerrados: "Es ingeniería de la antigua, de la clásica, ni más ni menos, para probar los productos antes de ser lanzados al público", mencionó.

Te puede interesar: Rey Carlos III envía mensaje a México por su Independencia

De hecho, Huang se ha unido a Mark Zuckerberg para tomar distancias de los llamamientos de otros 'gurús' de la IA, como los líderes de Anthropic, OpenAI y SpaceX, que han pedido ralentizar el desarrollo de esta tecnología. En uno de los debates de mayor trascendencia esta semana, en el que ha llegado a intervenir el propio presidente de EU, Donald Trump, él también es contrario a ralentizar el 'boom' de la IA.

Mantente al día con las noticias, únete a nuestro canal de WhatsApp.

AS