Deepfake-Pornos: Jeder zehnte Teenager kennt Opfer

Jedes achte Kind zwischen 13 und 20 Jahren und jeder zehnte Teenager zwischen 13 und 17 Jahren gab an, „jemanden persönlich zu kennen“, der Ziel von Deepfakes mit Nacktbildern war, und jeder 17. war selbst schon einmal Opfer. Dies sind einige der Daten von Thorn, einer amerikanischen Non-Profit-Organisation, die sich für die Sicherheit von Jugendlichen einsetzt und Licht auf das wachsende Phänomen der Nackt-Deepfakes, einer Unterkategorie von Deepfakes, wirft.

Spezielle Software – wie Clothoff, die von der italienischen Datenschutzbehörde gesperrt wurde – kann ein Objekt entkleiden und so ein künstlich erstelltes Nacktbild ohne dessen Zustimmung erstellen. Prominente wie Taylor Swift sind Opfer geworden – 2014 wurde ein gefälschtes pornografisches Bild von ihr in den sozialen Medien von Millionen angesehen – und es kann jeden treffen. Laut Graphika, einem Unternehmen, das soziale Netzwerke analysiert, besuchen jeden Monat Millionen von Menschen über 100 Online-Seiten, auf denen Nacktbilder gezeigt werden. Und laut einer britischen Umfrage des Sicherheitsunternehmens Eset ist jede zehnte Frau Opfer von Deepfake-Pornografie geworden.

Neben „Clothoff“ manipulieren auch andere Apps wie BikiniOff und DeepNude Fotos von Personen und können gefälschte pornografische Inhalte nachbilden. Die italienische Datenschutzbehörde (Garante Privacy) befasste sich 2020 mit diesen Problemen und leitete eine Untersuchung gegen Telegram ein, den Kanal, über den diese Bots verbreitet wurden. Die Behörde veröffentlichte anschließend ein Informationsblatt über die potenziellen Risiken der Nutzung dieser Technologien, um die Nutzer zu sensibilisieren.

Laut Thorns Studie gaben 13 % der Jugendlichen an, jemanden zu kennen, der künstliche Intelligenz genutzt hat, um Deepfake-Pornografie von Minderjährigen zu erstellen oder zu verbreiten. Auch in Italien gab es Nachrichten über Deepfake-Pornos. Im Jahr 2023 wurden zwei Mittelschüler in Rom verhaftet, weil sie mit der App BikiniOff erstellte Fotos von Mitschülerinnen in sozialen Medien veröffentlicht hatten. Im Jahr 2024 taten fünf minderjährige Schüler in der Provinz Latina dasselbe, indem sie Fotos von Klassenkameraden von ihren Instagram-Profilen nahmen und anschließend fälschten.