İngiltere'nin internet düzenleyicisi deepfake pornosuna yaklaşımını sertleştiriyor
İngiltere'nin internet güvenliği düzenleyicisi Ofcom, Çevrimiçi Güvenlik Yasası'nı (OSA) uygulamaya devam ederken yeni bir taslak rehber daha yayınladı. Son öneriler dizisi, kapsam dahilindeki firmaların kadınları ve kızları taciz ve zorbalık, kadın düşmanlığı ve özel görüntü istismarı gibi çevrimiçi tehditlerden korumaya yönelik yasal yükümlülüklerini yerine getirmelerini desteklemeyi amaçlıyor.
Hükümet, OSA'nın uygulanmasında kadınları ve kızları korumanın bir öncelik olduğunu söyledi. (Çoğunlukla) kadın düşmanı tacizin belirli biçimleri — örneğin rıza olmadan mahrem görüntülerin paylaşılması veya bireyleri hedef alan deepfake porno oluşturmak için yapay zeka araçlarının kullanılması — yasada açıkça uygulama öncelikleri olarak belirtilmiştir.
İngiltere parlamentosu tarafından Eylül 2023'te onaylanan çevrimiçi güvenlik düzenlemesi, küresel yıllık cironun %10'una kadar varan ciddi cezalar içermesine rağmen, platform devlerini reform etme görevine uygun olmadığı yönünde eleştirilerle karşı karşıya kaldı.
Çocuk güvenliği kampanyacıları da yasanın yürürlüğe girmesinin ne kadar uzun sürdüğü konusunda hayal kırıklığı yaşadıklarını ve yasanın istenilen etkiyi yaratıp yaratmayacağından şüphe duyduklarını ifade ettiler.
Ocak ayında BBC ile yaptığı bir röportajda, mevzuatı önceki hükümetten devralan teknoloji bakanı Peter Kyle bile, bunu "çok dengesiz" ve "tatmin edici olmayan" olarak nitelendirdi. Ancak hükümet bu yaklaşıma devam ediyor. OSA etrafındaki hoşnutsuzluğun bir kısmı, parlamentonun Ofcom uyumluluk rehberliğini onaylamasını gerektiren rejimin uygulanması için bakanlara tanınan uzun ön zamana kadar uzanıyor.
Ancak, yasadışı içerik ve çocuk korumayla mücadeleye ilişkin temel gerekliliklerle ilgili olarak yaptırımın yakında devreye girmesi bekleniyor. OSA uyumluluğunun diğer yönlerinin uygulanması daha uzun sürecek. Ve Ofcom, bu son uygulama önerileri paketinin 2027 veya sonrasına kadar tam olarak uygulanabilir olmayacağını kabul ediyor.
"Çevrimiçi Güvenlik Yasası'nın ilk görevleri önümüzdeki ay yürürlüğe giriyor," dedi Ofcom'dan Jessica Smith, kadın güvenliği odaklı kılavuzun geliştirilmesine öncülük eden kişi, TechCrunch'a verdiği bir röportajda. "Bu nedenle, bu kılavuzun [kendisi uygulanabilir hale gelmesinden] önce Çevrimiçi Güvenlik Yasası'nın temel görevlerinden bazılarını uygulayacağız."
Kadınların ve kız çocuklarının çevrimiçi ortamda güvenliğini sağlamaya yönelik yeni taslak rehber, Ofcom'un yasadışı içerikle ilgili daha önceki kapsamlı rehberliğini tamamlamayı amaçlıyor. Bu rehberde ayrıca, örneğin, küçüklerin çevrimiçi ortamda yetişkinlere yönelik içerik görmesini önlemeye yönelik öneriler de yer alıyor.
Düzenleyici kurum, Aralık ayında platformların ve hizmetlerin yasadışı içerikle ilgili riskleri nasıl azaltmaları gerektiğine ilişkin nihai kılavuzunu yayınladı; bu, çocuk korumasının açık bir öncelik olduğu bir alan.
Ayrıca, çocukların pornografi gibi uygunsuz içeriklere maruz kalmamasını sağlamak için çevrimiçi hizmetlerin yaş kontrollerini ve içerik filtrelemesini artırmasını öneren bir Çocuk Güvenliği Kodu da daha önce çıkarmıştı. Ve çevrimiçi güvenlik rejimini uygulamaya çalışırken, yetişkin içerikli web siteleri için yaş güvence teknolojileri için öneriler de geliştirdi ve porno sitelerini, küçüklerin yaşlarına uygun olmayan içeriklere erişmesini önlemek için etkili adımlar atmaya zorlamayı amaçladı.
Ofcom'a göre son rehber seti, mağdurlar, kurtulanlar, kadın savunuculuk grupları ve güvenlik uzmanlarının yardımıyla geliştirildi. Düzenleyicinin kadınların çevrimiçi zarardan orantısız bir şekilde etkilendiğini söylediği dört ana alanı kapsıyor: çevrimiçi kadın düşmanlığı; üst üste binme ve çevrimiçi taciz; çevrimiçi aile içi şiddet; ve samimi görüntü istismarı.
Ofcom'un en önemli tavsiyesi, kapsam dahilindeki hizmetleri ve platformları "tasarıma göre güvenlik" yaklaşımı benimsemeye çağırıyor. Smith, düzenleyicinin teknoloji şirketlerini "bir adım geri çekilmeye" ve "kullanıcı deneyimlerini genel olarak düşünmeye" teşvik etmek istediğini söyledi. Bazı hizmetlerin bu alanda çevrimiçi riskleri azaltmada yardımcı olan bazı önlemler aldığını kabul ederken, kadınların ve kızların güvenliğini önceliklendirme konusunda hala bütünsel düşüncenin eksik olduğunu savundu.
"Asıl istediğimiz şey tasarım süreçlerinin işleyiş biçiminde bir tür adım değişikliği" dedi ve amacın güvenlik hususlarının ürün tasarımına dahil edilmesini sağlamak olduğunu söyledi.
Görüntü üreten yapay zeka hizmetlerinin yükselişini vurgulayarak, teknoloji uzmanlarının araçlarının kadınları ve kız çocuklarını hedef almak için silah olarak kullanılması riskini azaltmak için proaktif önlemler alabilecekleri bir örnek olarak, bu hizmetlerin deepfake mahrem görüntü istismarında "muazzam" bir büyümeye yol açtığını belirtti.
"Hizmetlerin tasarım aşamasında bazı zararların riskini ele almaya yardımcı olacak mantıklı şeyler yapabileceğini düşünüyoruz" diye önerdi.
Ofcom'un rehberde vurguladığı "iyi" sektör uygulamalarına örnek olarak çevrimiçi hizmetlerin şu eylemleri gerçekleştirmesi verilebilir:
- Varsayılan olarak coğrafi konumun kaldırılması (gizlilik/takip risklerini azaltmak için);
- Bir hizmetin nasıl silaha dönüştürülebileceğini/kötüye kullanılabileceğini belirlemek için 'kötüye kullanılabilirlik' testi yürütmek;
- Hesap güvenliğini artırmaya yönelik adımlar atıyoruz;
- Kullanıcıların taciz edici içerikler yayınlamadan önce iki kez düşünmelerini sağlayacak şekilde kullanıcı istemleri tasarlamak;
- Ve kullanıcıların sorunları bildirmelerine olanak tanıyan erişilebilir raporlama araçları sunuyoruz.
Ofcom'un tüm OSA rehberliğinde olduğu gibi, her önlem her tür veya boyuttaki hizmet için geçerli olmayacaktır - çünkü yasa büyük ve küçük çevrimiçi hizmetler için geçerlidir ve sosyal medyadan çevrimiçi flörte, oyun oynamaya, forumlara ve mesajlaşma uygulamalarına kadar çeşitli alanları kapsar. Dolayısıyla, kapsam dahilindeki şirketler için işin büyük bir kısmı, uyumluluğun ürün bağlamında ne anlama geldiğini anlamak olacaktır.
Ofcom'un şu anda rehberin standartlarını karşılayan herhangi bir hizmet belirleyip belirlemediği sorulduğunda Smith, belirlemediklerini söyledi. "Sektör genelinde yapılacak çok iş var," dedi.
Ayrıca, bazı büyük endüstri oyuncularının güven ve emniyet konusunda attığı gerici adımlardan bazılarının göz önüne alındığında, büyüyen zorluklar olabileceğini de zımnen kabul etti. Örneğin, Elon Musk, Twitter'ı devralıp sosyal ağı X olarak yeniden markaladığından beri, ifade özgürlüğüne yönelik maksimalist bir yaklaşım olarak çerçevelediği şeyi takip etmek adına güven ve emniyet çalışan sayısını azalttı.
Son aylarda, Facebook ve Instagram'ın sahibi olan Meta'nın taklitçi adımlar attığı görülüyor; örneğin, içerik anlaşmazlıklarında kalabalık kaynaklı etiketleme için X tarzı bir "topluluk notları" sistemi kullanmak adına otuz taraflı gerçek kontrol sözleşmelerini sonlandırdığını söylüyor.
Smith, Ofcom'un, operatörlerin eylemlerinin çevrimiçi zararları azaltmak yerine artırma riski taşıdığı bu tür üst düzey değişimlere yanıtının, OSA kapsamında sahip olduğu şeffaflık ve bilgi toplama yetkilerini kullanarak etkileri göstermeye ve kullanıcı farkındalığını artırmaya odaklanacağını öne sürdü.
Yani özetle, burada uygulanacak taktik, en azından ilk etapta, 'isim verip rezil etmek' olacak gibi görünüyor.
"Kılavuzu kesinleştirdiğimizde, kılavuzu kimin kullandığı, kimin hangi adımları izlediği, kadın ve kızlardan oluşan kullanıcıları için ne tür sonuçlar elde ettikleri hakkında bir [pazar] raporu hazırlayacağız ve kullanıcıların çevrimiçi ortamda zamanlarını nerede geçirdikleri konusunda bilinçli seçimler yapabilmeleri için farklı platformlarda hangi korumaların uygulandığına ışık tutacağız" dedi.
Smith, kadınların güvenliği konusunda gösterdikleri kötü performans nedeniyle kamuoyunda rezil olma riskinden kaçınmak isteyen şirketlerin, kullanıcıları için durumu nasıl iyileştirecekleri ve itibarlarının zarar görme riskini nasıl ele alacakları konusunda Ofcom'un rehberliğine başvurabileceklerini öne sürdü.
"İngiltere'de faaliyet gösteren platformlar, İngiltere yasalarına uymak zorunda kalacak," diye ekledi, büyük platformların güven ve emniyeti önemsizleştirmesiyle ilgili tartışma bağlamında. "Bu, Çevrimiçi Güvenlik Yasası kapsamındaki yasadışı zararlar görevlerine ve çocukların korunması görevlerine uymak anlamına geliyor."
"Sanırım şeffaflık yetkilerimizin devreye girdiği yer burasıdır; eğer sektör yön değiştiriyorsa ve zararlar artıyorsa, bu noktada konuya ışık tutabilir ve ilgili bilgileri İngiltere'deki kullanıcılarla, medyayla ve parlamenterlerle paylaşabiliriz."
Ofcom'un, OSA yaptırımlarını aktif olarak uygulamaya koymadan önce bile önerilerini açıkça güçlendirdiği bir çevrimiçi zarar türü, mahrem görüntü kötüye kullanımıdır. Son taslak kılavuz, bu tür kötüye kullanım içeren görüntüleri tespit etmek ve kaldırmak için karma eşleştirmenin kullanılmasını önerirken, Ofcom'un önceki önerileri bu kadar ileri gitmiyordu.
Smith, Ofcom'un bu değişikliği "yakın gelecekte" dahil etmek için önceki kodlarını güncellemeyi planladığını doğrulayarak, "Bu kılavuza, kodlarımızda zaten belirlediklerimizin ötesine geçen ek adımlar ekledik" dedi.
"Bu, platformlara, bu kılavuzda belirtilen adımları izleyerek uygulanabilir gerekliliğin önüne geçebileceğinizi söylemenin bir yoludur" diye ekledi.
Smith, özellikle yapay zeka tarafından üretilen deepfake görüntü istismarı ile ilgili olarak, mahrem görüntü istismarı riskinin önemli ölçüde artması nedeniyle Ofcom'un bu tür istismarlara karşı karma eşleştirme teknolojisinin kullanılmasını önerdiğini belirtti.
"2023'te, önceki tüm yılların toplamından daha fazla deepfake mahrem görüntü kötüye kullanımı bildirildi" diyen Ofcom'un ayrıca bu zararı ortadan kaldırmak için hash eşleştirmenin etkililiği konusunda daha fazla kanıt topladığını sözlerine ekledi.
Taslak rehber bir bütün olarak şimdi istişare edilecek ve Ofcom 23 Mayıs 2025'e kadar geri bildirim isteyecek ve ardından bu yılın sonuna kadar nihai rehber hazırlanacak.
Bundan tam 18 ay sonra Ofcom, bu alandaki sektör uygulamalarını inceleyen ilk raporunu yayınlayacak.
"Kadınları ve kız çocuklarını çevrimiçi ortamda korumak için kimin ne yaptığına dair ilk raporumuzu üretmemiz 2027'yi bulacak, ancak platformların şu anda harekete geçmesini engelleyecek hiçbir şey yok" diye ekledi.
OSA'nın Ofcom'un uygulamaya koymasının çok uzun sürdüğü yönündeki eleştirilere yanıt olarak, düzenleyicinin uyumluluk önlemleri konusunda istişare etmesinin doğru olduğunu söyledi. Ancak, nihai önlemin önümüzdeki ay yürürlüğe girmesiyle birlikte Ofcom'un da bu konuyu çevreleyen konuşmada bir değişim beklediğini belirtti.
"[B]u, özellikle platformlarla olan konuşmaları gerçekten değiştirmeye başlayacak," diye öngördü ve çevrimiçi zararları azaltma konusunda ilerleme kaydetmeye başlama konumunda olacağını da sözlerine ekledi.
techcrunch
