Meta, Yapay Zeka Destekli 'Nudify' Uygulamalarına Dava Açtı

Meta, dün yaptığı açıklamada, gerçek çıplak insanların rızaları olmadan sahte görsellerini oluşturmak için üretken yapay zeka kullanan Crush AI adlı uygulamanın arkasındaki Hong Kong merkezli şirket Joy Timeline HK Limited'a karşı yasal işlem başlatmayı planladığını duyurdu.

Crush AI web sitesi aracılığıyla, gerçek bir kişinin giyinmiş fotoğrafını, onları çıplak veya soyunmuş halde, açık cinsel eylemlerde bulunurken veya erotik pozlar verirken gösteren sentetik bir videoya dönüştürmek aslında mümkün. Meta'ya göre, reklam vermek için Facebook ve Instagram'ın sosyal kanallarını kullanan bu çıplaklık uygulamalarının sayısında katlanarak bir büyüme oldu.

Florida Üniversitesi ve Washington Üniversitesi'nin Kasım 2024'te yayınladığı "Yapay Zeka çıplaklaştırma uygulama ekosisteminin analizi" adlı araştırmaya göre, yapay zeka tabanlı "çıplaklaştırma" uygulamaları geniş, saldırgan ve düzenlenmemiş bir ticari ekosistem oluşturuyor.

Kolayca erişilebilen 20 çevrimiçi platformun analizi, bunların %95'inin kadın fotoğraflarındaki kıyafetleri çıkarmak ve görüntüdeki kişileri her türlü cinsel içeriğin nesnesi haline getirmek için tasarlandığını gösteriyor. Sitelerin %45'i penetrasyon veya BDSM uygulamaları gibi simüle edilmiş cinsel eylemlerin üretilmesine izin veriyor.

Hizmetler ücretlidir ve görüntü başına ortalama 0,31 ABD doları maliyeti vardır ve neredeyse tüm platformlar kripto paraların kullanımını teşvik eder, genellikle tek ödeme yöntemi olarak. Bir hesabı silmek neredeyse imkansızdır: 20 platformdan yalnızca biri buna izin verir. Yazarlar, bu araçların yeni bir dijital cinsel şiddet biçimini temsil ettiği konusunda uyarıyor ve acil düzenleyici müdahale çağrısında bulunuyor.