Hice un experimento que me aterró. Le pregunté a mi madre qué quería hacer el fin de semana. Me contestó que deseaba ir al cine y comer tamal de elote dulce de La Muñeca, sus favoritos, ubicados junto al Templo Expiatorio.Le pregunté a una amiga si había escuchado de las “deepfake” y me respondió: “¿los queeé?”En un grupo familiar pedí prestados cinco mil pesos porque “estaba en un apuro”. Claramente hubo disposición de ayudar.Realicé todas estas consultas vía mensajes de WhatsApp. En cada una usé mi voz clonada con una herramienta gratuita de Inteligencia Artificial. Nadie distinguió que no era mi voz. Es decir, era mi voz pero simulada, o en otras palabras, convertida en una “deepfake”.¿Lo más inquietante? Necesité sólo 30 segundos de mi voz original y diez segundos más que tardó el software de Inteligencia Artificial en procesar y poner el archivo en mi teléfono.El término “deepfake” surge de la combinación de dos palabras: deep learning + fake. En español se traduciría como “profundamente falso”.Se trata de videos o audios generados por Inteligencia Artificial que parecen originales, auténticos y reales.En 2017 surgió un software capaz de intercambiar rostros en video, pero requería potentes computadoras. Hoy lo puedes realizar desde el celular.Con el boom de la Inteligencia Artificial, estas herramientas son más potentes, accesibles, gratuitas y con resultados cada vez más difíciles de distinguir de un audio o video real.Una de las primeras “deepfake” virales a principios de 2023 fue la imagen del Papa Francisco con un abrigo invernal blanco de la marca Balenciaga.La proliferación de estos contenidos es cada día más sofisticada. Hace un año recomendaban fijarse, en el caso de un video, en el parpadeo, las sombras, el cuello, la cara y el interior de la boca de un personaje para saber si era real. Hoy esos “candados” son insuficientes.¿Imaginan los riesgos y el potencial dañino de estas tecnologías ligadas al aprendizaje profundo de la Inteligencia Artificial?Riesgos para la población en general, empresas y gobiernos: desinformación, postverdad, infodemia, uso malicioso por parte de la delincuencia –este es todo un tema–, la difamación, el fraude y la manipulación del discurso político.¿Qué podemos hacer como ciudadanos ante este fenómeno? ¿Qué papel jugamos los medios y periodistas? ¿Qué herramientas están a nuestro alcance para minimizar los riesgos y daños de este problema?Comparto esta información con plena conciencia de que puede resultar delicada, pues documenta la existencia de herramientas sensibles. Sin embargo, dado que hoy están ampliamente difundidas y al alcance de cualquiera, resulta más útil y necesario abordarlas con sentido crítico.Abordaré algunas reflexiones en torno a este tema en la conferencia “Deepfakes, postverdad y periodismo: ¿ver para creer?” que impartiré este jueves 24 de abril a las 19:30 horas en Talent Land dentro del foro Business Land.Están todos y todas invitados. Me gustaría verles por allí.
