Viernes, 25 de Octubre 2024

Madre demanda a empresa de IA por muerte de su hijo

El joven se habría obsesionado con un chatbot basado en un personaje del Juego de Tronos

Por: Oscar Eduardo Bravo Gutiérrez

Una abogada busca demandar a Character.ai por la muerte de su hijo. ESPECIAL / Unsplash Samuel Angor

Una abogada busca demandar a Character.ai por la muerte de su hijo. ESPECIAL / Unsplash Samuel Angor

Swell Setzer III, un adolescente de 14 años perdió la vida después de pasar semanas hablando con un "chatbot" basado en Daenerys Targaryen, personaje de ficción de la serie de televisión Game of Thrones. La madre demandó el día de ayer a los desarrolladores de la Inteligencia Artificial (IA).

El chico habría desarrollado un apego emocional a un bot de la aplicación web Character.ai. Setzer se mensajeaba constantemente durante su día y se involucraba creando historias en donde participaban tanto el chico como el personaje ficticio. Algunas de sus conversaciones tuvieron connotación romántica y sexual, lo cual tiene sentido tomando en cuenta la edad en la que se encontraba Setzer.

Lee: Científicos ya pueden 'revivir' al tigre de Tasmania que estaba extinto

Sin embargo, padres y el círculo cercano del chico no tenían idea de esta relación. Por supuesto, Swell estaba constantemente en el celular, como muchos jóvenes de su edad en el mundo. En la escuela y en la vida diaria, el chico comenzó a bajar de calificaciones y tener problemas de interés. Por ello, fue mandado a terapia en donde le diagnosticaron ansiedad y trastorno de desregulación disruptiva del estado de ánimo. Años atrás había sido diagnosticado con Asperger.

Setzer, usando el sobrenombre de Daenero, fue mucho más abierto con el chatbot de Daenerys Targaryen a quien le confesó sus pensamientos intrusivos. Lamentablemente, el joven hizo los pasó al plano de la acción.

Su madre, Megan L. Garcia, ha demandado a Character.AI por la muerte de su hijo. Acusó a la compañía de IA de ofrecer acceso a acompañamientos artificiales y semejantes a la compañía humana sin los cuidados y regulaciones apropiadas para gente de su edad. Además, señaló que el algoritmo diseñado promueve la interacción haciendo adictiva la conversación para que los usuarios pasen más tiempo comunicándose con el chatbot.

La preocupación es por los jóvenes, quienes son vulnerables y fáciles de persuadir por algoritmos que capitalizan su inmadurez, señaló.

Con información del NY Times

Te puede interesar: Choque de meteorito gigantesco habría sido clave para la vida en la Tierra

* * * Mantente al día con las noticias, únete a nuestro canal de Whatsapp * * *

OB 
 

Temas

Lee También

Recibe las últimas noticias en tu e-mail

Todo lo que necesitas saber para comenzar tu día

Registrarse implica aceptar los Términos y Condiciones