Brytyjski organ nadzorujący internet zaostrza podejście do deepfake porn
Ofcom, brytyjski organ regulacyjny ds. bezpieczeństwa w Internecie, opublikował kolejny projekt nowych wytycznych w ramach wdrażania ustawy o bezpieczeństwie w Internecie (Online Safety Act, OSA). Najnowszy zestaw zaleceń ma na celu wsparcie firm objętych zakresem ustawy w wypełnianiu obowiązków prawnych w zakresie ochrony kobiet i dziewcząt przed zagrożeniami w Internecie, takimi jak nękanie i zastraszanie, mizoginia oraz znęcanie się nad osobami o charakterze intymnym.
Rząd stwierdził, że ochrona kobiet i dziewcząt jest priorytetem w ramach wdrażania OSA. Pewne formy (głównie) mizoginistycznego nadużycia — takie jak udostępnianie intymnych zdjęć bez zgody lub używanie narzędzi AI do tworzenia deepfake pornografii skierowanej do jednostek — są wyraźnie określone w prawie jako priorytety egzekwowania .
Rozporządzenie w sprawie bezpieczeństwa w sieci, zatwierdzone przez brytyjski parlament we wrześniu 2023 r. , spotkało się z krytyką, ponieważ nie jest w stanie zreformować gigantów platformowych, mimo że przewiduje surowe kary za jego nieprzestrzeganie — do 10% globalnego rocznego obrotu.
Aktywiści działający na rzecz bezpieczeństwa dzieci wyrazili również swoje niezadowolenie z tego, jak długo trwa wdrażanie prawa, a także wątpliwości, czy przyniesie ono oczekiwane skutki.
W wywiadzie dla BBC w styczniu nawet minister technologii Peter Kyle — który odziedziczył ustawodawstwo po poprzednim rządzie — nazwał je „bardzo nierównym” i „niezadowalającym”. Jednak rząd trzyma się tego podejścia. Część niezadowolenia wokół OSA można prześledzić do długiego czasu, jaki ministrowie mają na wdrożenie systemu, który wymaga zatwierdzenia przez parlament wytycznych Ofcom dotyczących zgodności.
Jednak oczekuje się, że egzekwowanie zacznie wkrótce obowiązywać w odniesieniu do podstawowych wymogów dotyczących zwalczania nielegalnych treści i ochrony dzieci. Wdrożenie innych aspektów zgodności z OSA zajmie więcej czasu. Ofcom przyznaje, że ten najnowszy pakiet zaleceń praktycznych nie stanie się w pełni wykonalny do 2027 r. lub później.
„Pierwsze obowiązki Online Safety Act wchodzą w życie w przyszłym miesiącu” – powiedziała Jessica Smith z Ofcom, która kierowała opracowywaniem wytycznych skoncentrowanych na bezpieczeństwie kobiet, w wywiadzie dla TechCrunch. „Będziemy więc egzekwować niektóre z podstawowych obowiązków Online Safety Act, zanim te wytyczne [same staną się wykonalne]”.
Nowy projekt wytycznych dotyczących zapewnienia bezpieczeństwa kobietom i dziewczętom w Internecie ma uzupełniać wcześniejsze, szersze wytyczne Ofcom dotyczące treści niezgodnych z prawem, które zawierają również na przykład zalecenia dotyczące ochrony osób nieletnich przed oglądaniem treści dla dorosłych w Internecie.
W grudniu organ regulacyjny opublikował ostateczną wersję wytycznych dotyczących tego, w jaki sposób platformy i usługi powinny ograniczać ryzyko związane z treściami niezgodnymi z prawem , czyli obszarem, w którym ochrona dzieci jest wyraźnym priorytetem.
Wcześniej opracował również Children's Safety Code , który zaleca sprawdzanie wieku za pomocą połączeń dial-up i filtrowanie treści w celu zapewnienia, że dzieci nie będą narażone na nieodpowiednie treści, takie jak pornografia. A podczas prac nad wdrożeniem reżimu bezpieczeństwa online opracowano również zalecenia dotyczące technologii zapewniania wieku dla witryn z treściami dla dorosłych , w celu nakłonienia witryn pornograficznych do podjęcia skutecznych kroków zapobiegających dostępowi nieletnich do treści nieodpowiednich dla ich wieku.
Najnowszy zestaw wskazówek został opracowany przy pomocy ofiar, osób, które przeżyły, grup wsparcia kobiet i ekspertów ds. bezpieczeństwa, zgodnie z Ofcom. Obejmuje on cztery główne obszary, w których regulator twierdzi, że kobiety są nieproporcjonalnie dotknięte szkodami w Internecie — mianowicie: mizoginia w Internecie; napaści i nękanie w Internecie; przemoc domowa w Internecie; oraz nadużycia w zakresie wizerunku intymnego.
Najważniejsze zalecenie Ofcom wzywa usługi i platformy w zakresie do przyjęcia podejścia „bezpieczeństwa w fazie projektowania”. Smith powiedziała nam, że regulator chce zachęcić firmy technologiczne do „zrobienia kroku wstecz” i „pomyślenia o swoich doświadczeniach użytkownika w całości”. Chociaż przyznała, że niektóre usługi wdrożyły pewne środki, które są pomocne w zmniejszaniu ryzyka online w tym obszarze, argumentowała, że nadal brakuje holistycznego myślenia, jeśli chodzi o priorytetowe traktowanie bezpieczeństwa kobiet i dziewcząt.
„Tak naprawdę prosimy jedynie o pewnego rodzaju zmianę w sposobie działania procesów projektowania” – powiedziała nam, dodając, że celem jest zapewnienie, że kwestie bezpieczeństwa zostaną uwzględnione w projekcie produktu.
Podkreśliła rozwój usług AI generujących obrazy, które, jak zauważyła, doprowadziły do „ogromnego” wzrostu nadużyć w postaci intymnych zdjęć deepfake, jako przykład sytuacji, w której technolodzy mogli podjąć proaktywne środki, aby ograniczyć ryzyko wykorzystania ich narzędzi do atakowania kobiet i dziewcząt — ale tego nie zrobili.
„Uważamy, że istnieją rozsądne rozwiązania, które służby mogłyby wdrożyć na etapie projektowania, co pomogłoby ograniczyć ryzyko wystąpienia niektórych z tych szkód” – zasugerowała.
Przykłady „dobrych” praktyk branżowych, na które Ofcom zwraca uwagę w swoich wytycznych, obejmują działania podejmowane przez usługi online, takie jak:
- Domyślne usuwanie geolokalizacji (w celu zmniejszenia ryzyka związanego z prywatnością/prześladowaniem);
- Przeprowadzanie testów „nadużyciowych” w celu określenia, w jaki sposób usługa może zostać wykorzystana jako broń lub w sposób niewłaściwy;
- Podejmowanie kroków w celu zwiększenia bezpieczeństwa konta;
- Projektowanie komunikatów dla użytkowników, które mają skłonić ich do zastanowienia się dwa razy przed opublikowaniem obraźliwej treści;
- Oraz oferowanie dostępnych narzędzi do raportowania, które umożliwiają użytkownikom zgłaszanie problemów.
Podobnie jak w przypadku wszystkich wytycznych Ofcom OSA, nie każdy środek będzie odpowiedni dla każdego rodzaju lub rozmiaru usługi — ponieważ prawo dotyczy usług online dużych i małych i obejmuje różne obszary, od mediów społecznościowych po randki online, gry, fora i aplikacje do przesyłania wiadomości, aby wymienić tylko kilka. Dlatego dużą częścią pracy dla firm objętych zakresem będzie zrozumienie, co oznacza zgodność w kontekście ich produktu.
Zapytana, czy Ofcom zidentyfikował jakieś usługi, które obecnie spełniają standardy wytycznych, Smith zasugerowała, że nie. „W branży jest jeszcze wiele do zrobienia” – powiedziała.
Milcząco przyznała również, że mogą pojawić się rosnące wyzwania, biorąc pod uwagę niektóre wsteczne kroki podjęte w odniesieniu do zaufania i bezpieczeństwa przez niektórych głównych graczy w branży. Na przykład od czasu przejęcia Twittera i zmiany nazwy sieci społecznościowej na X, Elon Musk pozbawił go zaufania i bezpieczeństwa — na rzecz realizacji tego, co określił jako maksymalistyczne podejście do wolności słowa.
W ostatnich miesiącach Meta — właściciel Facebooka i Instagrama — najwyraźniej podjęła pewne kroki naśladowcze, ogłaszając zakończenie trzydziestostronnych umów o sprawdzaniu faktów na rzecz wdrożenia systemu „notatek społeczności” w stylu X, polegającego na oznaczaniu sporów dotyczących treści przy użyciu crowdsourcingu.
Smith zasugerował, że odpowiedź Ofcom na tak istotne zmiany — gdzie działania operatorów mogą grozić zwiększeniem liczby połączeń przychodzących zamiast ich ograniczania — skupi się na wykorzystaniu uprawnień w zakresie przejrzystości i gromadzenia informacji, jakie Ofcom posiada na mocy ustawy OSA, w celu zilustrowania skutków i zwiększenia świadomości użytkowników.
Krótko mówiąc, taktyką w tym przypadku wydaje się być „nazwisko i zawstydzenie” — przynajmniej na początku.
„Gdy już sfinalizujemy wytyczne, opracujemy raport [rynkowy]… o tym, kto korzysta z wytycznych, kto podejmuje jakie kroki, jakie wyniki osiąga dla swoich użytkowników, którymi są kobiety i dziewczęta, i naprawdę rzucimy światło na to, jakie zabezpieczenia obowiązują na różnych platformach, aby użytkownicy mogli podejmować świadome decyzje dotyczące tego, gdzie spędzają czas online” – powiedziała nam.
Smith zasugerował, że firmy, które chcą uniknąć ryzyka publicznego napiętnowania z powodu słabych wyników w zakresie bezpieczeństwa kobiet, będą mogły skorzystać ze wskazówek Ofcomu, aby uzyskać „praktyczne kroki” dotyczące poprawy sytuacji swoich użytkowników, a także ograniczyć ryzyko utraty reputacji.
„Platformy działające w Wielkiej Brytanii będą musiały przestrzegać prawa brytyjskiego” – dodała w kontekście dyskusji na temat głównych platform, które umniejszają znaczenie zaufania i bezpieczeństwa. „Oznacza to zatem przestrzeganie obowiązków dotyczących nielegalnych szkód i obowiązków ochrony dzieci na mocy ustawy o bezpieczeństwie online”.
„Myślę, że tutaj właśnie wkraczają nasze uprawnienia w zakresie przejrzystości — jeśli branża zmienia kierunek i szkody rosną, to właśnie tutaj będziemy mogli rzucić światło i udostępnić istotne informacje użytkownikom w Wielkiej Brytanii, mediom i parlamentarzystom”.
Jednym z rodzajów szkód w Internecie, w przypadku którego Ofcom wyraźnie zaostrza swoje zalecenia, jeszcze zanim aktywnie rozpoczął egzekwowanie ustawy OSA, jest znęcanie się nad treściami o charakterze intymnym — najnowszy projekt wytycznych sugeruje stosowanie dopasowywania skrótów w celu wykrywania i usuwania takich obraźliwych treści wizualnych, podczas gdy wcześniejsze zalecenia Ofcom nie posunęły się aż tak daleko.
„W tych wytycznych uwzględniliśmy dodatkowe kroki wykraczające poza to, co już określiliśmy w naszych kodeksach” – zauważył Smith, potwierdzając, że Ofcom planuje zaktualizować swoje wcześniejsze kodeksy, aby uwzględnić tę zmianę „w niedalekiej przyszłości”.
„W ten sposób chcemy powiedzieć platformom, że można wyprzedzić ten egzekwowalny wymóg, postępując zgodnie z krokami określonymi w tych wytycznych” – dodała.
Według Smitha Ofcom zalecił stosowanie technologii dopasowywania skrótów w celu przeciwdziałania nadużyciom w zakresie obrazów o charakterze intymnym ze względu na znaczny wzrost tego ryzyka — zwłaszcza w odniesieniu do nadużyć w postaci fałszywych obrazów generowanych przez sztuczną inteligencję.
„W 2023 r. zgłoszono więcej przypadków nadużyć w postaci intymnych zdjęć deepfake niż we wszystkich poprzednich latach razem wziętych” – zauważyła, dodając, że Ofcom zebrał również więcej dowodów na skuteczność dopasowywania hashów w walce z tą szkodą.
Cały projekt wytycznych zostanie teraz poddany konsultacjom, przy czym Ofcom będzie zbierał opinie do 23 maja 2025 r., po czym do końca roku opublikuje ostateczne wytyczne.
Osiemnaście miesięcy później Ofcom opublikuje swój pierwszy raport analizujący praktyki branżowe w tym obszarze.
„Będziemy dopiero w 2027 roku, zanim opublikujemy nasz pierwszy raport na temat tego, kto co robi [aby chronić kobiety i dziewczęta w sieci] — ale nic nie stoi na przeszkodzie, aby platformy działały już teraz” — dodała.
Odpowiadając na krytykę, że OSA zajmuje Ofcom zbyt dużo czasu na wdrożenie, powiedziała, że słusznie, że regulator konsultuje się w sprawie środków zgodności. Jednak, biorąc pod uwagę, że ostateczny środek wchodzi w życie w przyszłym miesiącu, zauważyła, że Ofcom przewiduje również zmianę w dyskusji na temat tego problemu.
„[T]o naprawdę zacznie zmieniać rozmowy, w szczególności z platformami” – przewidziała, dodając, że będzie ona również w stanie zacząć pokazywać postępy w zakresie ograniczania szkód w Internecie.
techcrunch
