Pornografía deepfake: 1 de cada 10 adolescentes conoce a sus víctimas

Uno de cada ocho niños de entre 13 y 20 años, y uno de cada diez adolescentes de entre 13 y 17 años afirmaron conocer personalmente a alguien que ha sido víctima de imágenes de desnudos deepfakes, y uno de cada 17 ha sido víctima. Estos son algunos de los datos de Thorn, una organización estadounidense sin fines de lucro dedicada a la seguridad juvenil, que arroja luz sobre el creciente fenómeno de los deepfakes de desnudos, una subcategoría de los deepfakes.

Un software especial, como Clothoff, bloqueado por la Autoridad Italiana de Protección de Datos, puede desnudar a una persona, creando así una imagen desnuda artificialmente sin su consentimiento. Celebridades como Taylor Swift han sido víctimas (en 2014, millones de personas vieron una imagen pornográfica falsa de ella en redes sociales) y puede afectar a cualquiera. Según Graphika, empresa que analiza redes sociales, millones de personas visitan más de 100 sitios web de "desnudez" cada mes. Y, según una encuesta realizada en el Reino Unido por la empresa de seguridad Eset, una de cada diez mujeres ha sido víctima de pornografía deepfake.

Además de 'Clothoff', otras aplicaciones como BikiniOff y DeepNude manipulan fotos de personas y pueden recrear contenido pornográfico falso. La Autoridad de Protección de Datos italiana (Garante Privacy) abordó estos problemas en 2020 e inició una investigación sobre Telegram, el canal a través del cual se distribuían estos bots. Posteriormente, la Autoridad publicó una hoja informativa sobre los posibles riesgos del uso de estas tecnologías para concienciar a los usuarios.

Según la investigación de Thorn, el 13% de los adolescentes afirmó conocer a alguien que había utilizado inteligencia artificial para crear o redistribuir pornografía deepfake de menores. También ha habido noticias relacionadas con la pornografía deepfake en Italia. En 2023, dos estudiantes de secundaria en Roma fueron arrestados por publicar fotos de compañeras en redes sociales creadas con la aplicación BikiniOff. En 2024, en la provincia de Latina, cinco estudiantes menores de edad hicieron lo mismo al tomar y luego falsificar fotos de sus compañeros de clase en sus perfiles de Instagram.