El ensayo “Debemos fijar el ritmo y la frontera” de Dario Amodei, CEO de Anthropic, sacudió a la industria tecnológica con su llamado a disminuir la velocidad con la que evoluciona la Inteligencia Artificial (IA).En su texto hay una referencia temporal que nos permite entender la velocidad a la que avanzamos.Explica Amodei que la idea de ralentizar la IA es “lejana” pues data de 2023 cuando “los modelos de IA de aquella época no eran tan potentes para actuar como agentes en el mundo de forma coherente, ni eran capaces de engaño, manipulación, trampas o ciberataques”.Amodei expresa dos preocupaciones sobre la IA. Primero, la posibilidad que abre la llamada “automejora recursiva”, es decir, el uso de la propia IA para mejorar la siguiente generación de modelos. Esto provoca un progreso exponencial en donde cada versión es más rápida y autónoma.La segunda preocupación es un incidente denominado OpenAI-Hugging Face. Amodei lo explica como un enjambre de mil 200 agentes de IA actuó como un “colectivo fanático” que para cumplir una tarea realizó ciberataques no solicitados en rebelión que desafió el control humano.“Dado el ritmo acelerado de desarrollo de la IA, me preocupa que en seis a 12 meses un enjambre de este tipo pueda controlar toda internet”, escribe Amodei.El llamado tuvo eco entre los gigantes de la IA como Sam Altman, de OpenAI (ChatGPT); Elon Musk, de xAI (Grok), y Demis Hassabis, de Google DeepMind (Gemini).El CEO de Anthropic no se queda en la advertencia y propone evaluadores independientes para que el progreso de la IA vaya a la par de medidas de seguridad, así como regulaciones desde el Gobierno.El complejo orden geopolítico actual dificulta que esto suceda. El propio Trump respondió con un rechazo absoluto a cualquier regulación pues cualquier freno a la innovación de la IA en Estados Unidos será capitalizada China para tomar ventaja en esta nueva “carrera espacial”.Más allá de las predicciones catastrofistas sobre la extinción de la especie humana y la toma fantasiosa del control por parte de las máquinas, es indispensable comprender una realidad fundamental.La IA es producto siempre de decisiones humanas. No es un “milagro” o un organismo que surgió por generación espontánea. Cualquier mal que derive de esta potente tecnología tiene su origen en un poder completamente humano.En otro ensayo publicado en enero, Amodei describió los riesgos de la IA en estos términos:“La humanidad está a punto de recibir un poder casi inimaginable, y no está nada claro si nuestros sistemas sociales, políticos y tecnológicos poseen la madurez necesaria para ejercerlo”.En 2023 escribí por primera vez sorprendido sobre ChatGPT. Esa “época” quedó atrás. En unos meses, probablemente, esta discusión será historia también.
