Weryfikacja wieku opanowuje gry. Czy jest gotowa na erę podróbek opartych na sztucznej inteligencji?

W lipcu Siyan, brytyjski użytkownik Discorda, zalogował się pewnego ranka i stwierdził, że nie może uzyskać dostępu do niektórych swoich czatów tekstowych oznaczonych jako NSFW. Kanał, jak poinformowało go wyskakujące okienko, został objęty ograniczeniami wiekowymi. Wielka Brytania wprowadziła daleko idące przepisy dotyczące bezpieczeństwa dzieci , które obejmują system weryfikacji wieku, mający na celu potwierdzenie, że użytkownicy ukończyli 18 lat. Aktualizacje Discorda wymagały od użytkowników potwierdzenia wieku za pomocą dokumentu tożsamości lub skanu twarzy.

Siyan (który ze względów prywatności poprosił o używanie wyłącznie swojego pseudonimu) opisuje siebie jako „boleśnie przekroczonego wieku, w którym konieczne jest fałszowanie dowodu osobistego”. Nie chciał robić zdjęcia swojego dowodu. Funkcja skanowania twarzy nie była jeszcze dostępna na urządzeniach mobilnych, jak twierdzi, i nie posiadał kamery internetowej, więc postanowił udostępnić platformie twarz kogoś innego. Najpierw spróbował użyć emoji „starszego kolesia”, której często używa na Discordzie. („Przemawia do mnie”). Skanowanie twarzy często wymaga jednak od użytkowników przesłania wielu zdjęć, na których wyglądają w określony sposób lub przyjmują określone pozy. Siyan potrzebował akceptowalnego zdjęcia mężczyzny z otwartymi ustami.

Dwie gry w jego bibliotece, Stellar Blade i Death Stranding , zawierają tryb fotograficzny, który pozwala graczom na ustawienie postaci i określenie jej wyrazu twarzy; Siyan zdecydował się na Sama z Death Stranding , którego modelem był 56-letni aktor Norman Reedus.

Umieścił zrzuty ekranu ze swojego sukcesu na Discordzie, a jego znajomy udostępnił je na X. Gambit Siyana szybko stał się viralem, inspirując innych do wypróbowania takich gier jak Death Stranding , God of War i innych.

Weryfikacja wieku jest obecnie normą w Wielkiej Brytanii, chociaż oczekuje się, że podobne przepisy na całym świecie będą miały głęboki wpływ na sposób, w jaki uzyskujemy dostęp do sieci. Firmy takie jak Google wdrażają systemy szacowania wieku oparte na sztucznej inteligencji dla wyszukiwarki i YouTube. Na platformach do gier, takich jak Roblox, sprawdzanie wieku staje się kluczowym elementem środków bezpieczeństwa. Jednak niezależnie od tego, czy odbywa się to za pomocą identyfikatorów, czy skanowania twarzy, jest to niedoskonały system. Kilku użytkowników Discorda mówi WIRED, że udało im się już obejść skanowanie twarzy za pomocą postaci z gier wideo. Generatywna sztuczna inteligencja może sprawić, że ten problem będzie jeszcze trudniejszy do opanowania, ponieważ technologia staje się bardziej zaawansowana; zaledwie w zeszłym miesiącu WIRED pisał o startupie pracującym nad sztuczną inteligencją, która może tworzyć wideo w czasie rzeczywistym . Użytkownicy obawiają się również udostępniania firmom swoich danych osobowych w przypadku naruszenia bezpieczeństwa.

Teoretycznie weryfikacja wieku służy bezpieczeństwu dzieci. Na platformach takich jak Roblox, gdzie brak moderacji pozwolił drapieżnikom na molestowanie, a nawet napadanie na niektóre dzieci, potwierdzenie, że dana osoba jest nieletnia – lub ma ukończone 18 lat – to jeden ze sposobów ustalenia, z jakich funkcji może korzystać. W przypadku witryn z treściami dla dorosłych, takich jak Pornhub , weryfikacja wieku ma na celu uniemożliwienie dzieciom dostępu do pornografii. Krytycy twierdzą jednak, że wdrażane systemy są wadliwe, zarówno z punktu widzenia prywatności, jak i bezpieczeństwa.

David Maimon, szef działu analiz oszustw w SentiLink i profesor kryminologii na Georgia State University, twierdzi, że obecne metody weryfikacji wciąż dają się oszukać. Ludzie stosują wiele różnych metod, aby ominąć „weryfikację żywotności” – środki bezpieczeństwa służące do weryfikacji tożsamości użytkownika – wykorzystując sztuczną inteligencję, gry wideo lub filmy z udziałem innych, prawdziwych osób. Dokumenty tożsamości można podrobić lub kupić. „Proces weryfikacji wieku jest skomplikowany” – mówi, a osoby zarządzające tymi systemami powinny poświęcić mu więcej uwagi.

Ash, 20-latek z Wielkiej Brytanii, który poprosił o nieujawnianie swojego nazwiska, powiedział WIRED, że udało mu się przejść weryfikację za pomocą trybu fotograficznego God of War z głównym bohaterem Kratosem . „Nie spodziewałem się, że [weryfikacja] zadziała z powodu białej skóry i brody Kratosa, ale zadziałało za pierwszym razem”, mówi. Inny użytkownik Discorda w Wielkiej Brytanii, występujący online pod pseudonimem Antsy, mówi, że osiągnął te same rezultaty z Armą 3 i modem, który pozwala na pozowanie postaci. „Doszedłem do wniosku, że mogę po prostu spróbować, jak wszyscy ludzie powinni”, mówi WIRED. „Postacie z Army 3 wyglądają bardzo słabo, daleko im do realizmu, więc pomyślałem, że będzie to solidny eksperyment, który ugruntuje lub zakwestionuje moje poglądy na temat tej technologii”. Antsy mówi, że on i jego przyjaciele uważają tego rodzaju technologię za „wyzwanie”, które próbują ominąć. „Jestem bardzo za bezpieczeństwem w internecie”, mówi. „Uważam jednak, że nie powinno być zadaniem internetu wychowywanie i ochrona młodszych użytkowników”.

Postacie z kilku gier wideo zadziałały. W filmie YouTubera beebreadtech , udało mu się szybko uzyskać kategorię wiekową dla dorosłych, powtarzając kroki Siyan z Death Stranding . Inni użytkownicy Discorda, z którymi rozmawiał WIRED, twierdzą, że udało im się to zrobić w grach takich jak Days Gone , Baldur's Gate 3, Cyberpunk 2077, The Sims 4 , Cyberpunk 2077, Days Gone , Warhammer 40,000: Space Marine 2 , Star Wars: Knights of the Old Republic i Gray Zone Warfare . Niektórzy twierdzą nawet, że z powodzeniem wykorzystali Garry's Mod , grę z slapstickową fizyką i modelami postaci przypominającymi coś z gorączkowego snu.

Discord nie odpowiedział jeszcze na prośbę WIRED o komentarz.

Maimon twierdzi, że istnieje zbyt wiele luk w weryfikacji wieku, przez które ludzie mogą się prześlizgnąć. „Branża próbuje znaleźć rozwiązania problemu deepfake’ów i żywych AI” – mówi. Może to oznaczać konieczność polegania na kombinacji czynników, które uwzględniają powiązane informacje o danej osobie, takie jak numery telefonów, adresy i inne. „Trzeba w większym stopniu polegać na dowodach historycznych potwierdzających istnienie danej osoby” – mówi Maimon – „a mniej na punktach kontrolnych, takich jak prawo jazdy, zdjęcia, testy żywotności itd.”

Maimon twierdzi, że przestępcy są mistrzami w omijaniu tego typu technologii. „Przestępcy zawsze wyprzedzają nas o 7 do 12 miesięcy, jeśli chodzi o umiejętność znajdowania luk w zabezpieczeniach i omijania niektórych dostępnych technologii” – mówi. Nawet bez generatywnej sztucznej inteligencji ludzie nadal mogą sprzedawać nagrania swoich twarzy, aby ominąć weryfikację wieku.

Nawet dowody osobiste ze zdjęciem nie są kuloodporne. „Jakość [fałszywego] prawa jazdy jest po prostu nieskazitelna” – mówi Maimon. Wszystkie znaki wodne, lampy UV, wszystkie zabezpieczenia, nawet odpowiedni materiał plastikowy, na którym drukowane jest prawo jazdy – nawet do którego przestępcy mają teraz dostęp”.

W przypadku ważnych dokumentów tożsamości pojawia się problem z nieletnimi i tym, kto je posiada. WIRED wcześniej zapytał Matta Kaufmana, dyrektora ds. bezpieczeństwa Robloxa, o 13-latków – minimalny wiek, w którym Roblox może odblokować niektóre funkcje – którzy mogą nie posiadać dokumentów tożsamości wydanych przez rząd. „To problem” – powiedział wówczas Kaufman WIRED, dodając, że w Ameryce Północnej i Stanach Zjednoczonych posiadanie takich dokumentów przez osoby tak młode jest rzadkością.

„Waham się, czy powiedzieć, że [dowód tożsamości ze zdjęciem] jest użytecznym sposobem weryfikacji wieku ludzi” – mówi Maimon – „po prostu dlatego, że mamy tak wiele dowodów sugerujących, że to nie działa”.

Użytkownicy wahają się również przed podawaniem swoich danych. „Nie ufam usługom zewnętrznym, z których korzystają moje dane, zwłaszcza biorąc pod uwagę, jak szkodliwe mogą być ich wycieki” – mówi Ash. „Większość aplikacji weryfikacyjnych twierdzi, że nie przechowują danych dłużej niż siedem dni i choć może to być prawdą, nie mam pewności, czy mówią prawdę”.

Istnieje ryzyko związane z przekazywaniem poufnych informacji firmom, które wymagają weryfikacji zdjęcia lub dowodu tożsamości. W lipcu Tea – aplikacja, w której kobiety mogą dzielić się swoimi negatywnymi doświadczeniami z mężczyznami – padła ofiarą ogromnego wycieku danych , który ujawnił tysiące zdjęć kobiet używanych do weryfikacji. Według 404 Media, drugi problem z bezpieczeństwem umożliwił hakerom dostęp do poufnych informacji, takich jak numery telefonów, nazwy użytkowników w mediach społecznościowych i prawdziwe imiona i nazwiska, za pośrednictwem wiadomości użytkowników. Informacje te były rozpowszechniane na forach takich jak 4chan w celu doxowania i nękania kobiet.

Osoby, z którymi rozmawiał WIRED i które wykorzystywały gry wideo do oszukiwania weryfikatorów, są przeciwne weryfikacji wieku. „Wymaganie od ludzi podawania danych twarzy w celu uzyskania dostępu do wszystkich funkcji stron internetowych i aplikacji, takich jak Discord i Bluesky, to ogromne przekroczenie uprawnień, o które rządy powinny móc prosić w sposób cyfrowy” – mówi Ash.

Co więcej, wątpi, że takie systemy nie będą wykorzystywane, czy to za pomocą gier wideo, czy w inny sposób. „Nie sądzę, żeby skanowanie twarzy było użytecznym sposobem weryfikacji wieku, ponieważ ludzie mogą łatwo wyglądać na niepełnoletnich i zostać błędnie oznaczeni jako osoby poniżej 18 roku życia” – mówi.

Antsy, użytkownik Discorda, który przeszedł weryfikację w Arma 3, nie jest przekonany, że strony internetowe ani platformy powinny odpowiadać za weryfikację wieku. „Wprowadzając te przepisy, spychacie młodych ludzi w zakątki internetu, których rząd nie jest w stanie kontrolować” – mówi. „Jeśli ktoś uważa, że chroni to dzieci bardziej niż zrobiłby to aktywny rodzic, nie wierzę, że zna on dobrze zakątki internetu poza stroną główną Google czy życiem swojego dziecka”.