To pełne błędów i błędów narzędzie może doprowadzić do deportacji — nawet jeśli jesteś obywatelem USA
Zapisz się na Slatest, aby codziennie otrzymywać na skrzynkę pocztową najbardziej wnikliwe analizy, krytykę i porady.
Juan Carlos Lopez-Gomez, pomimo posiadania obywatelstwa USA i karty Social Security, został aresztowany 16 kwietnia z powodu bezpodstawnego podejrzenia, że jest „nielegalnym imigrantem”. Immigration and Customs Enforcement przetrzymywało go w więzieniu okręgowym przez 30 godzin „ na podstawie biometrycznego potwierdzenia jego tożsamości ” — oczywisty błąd technologii rozpoznawania twarzy. Inny obywatel USA, Jensy Machado, został zatrzymany pod groźbą broni i skuty kajdankami przez agentów ICE . Był kolejną ofiarą pomyłki co do tożsamości, gdy ktoś inny podał jego adres domowy w nakazie deportacji. Taka jest rzeczywistość policji imigracyjnej w 2025 roku: najpierw aresztowanie, później weryfikacja.
Ryzyko to tylko rośnie, ponieważ ICE niszczy zabezpieczenia należytego procesu, obywatele i cudzoziemcy stają w obliczu rosnących zagrożeń wynikających z pomyłki w identyfikacji, a agencje policyjne imigracyjne coraz częściej przyjmują podatną na błędy technologię, zwłaszcza rozpoznawanie twarzy. W zeszłym miesiącu ujawniono, że Służba Celna i Ochrony Granic zwróciła się do firm technologicznych o propozycje rozszerzenia ich wykorzystania szczególnie podatnej na błędy technologii rozpoznawania twarzy — tego samego rodzaju technologii, która została niewłaściwie wykorzystana do aresztowania i uwięzienia Lopez-Gomez. ICE ma już kontrakty o wartości prawie 9 milionów dolarów z Clearview AI, firmą zajmującą się rozpoznawaniem twarzy z powiązaniami z białymi nacjonalistami, która w pewnym momencie była prywatnym systemem rozpoznawania twarzy najczęściej używanym przez agencje federalne. Gdy lekkomyślne działania policji zostaną połączone z potężnymi i niedokładnymi narzędziami do przechwytywania, nieuchronnie będzie więcej historii takich jak historia Lopez-Gomez i Machado.
Badania wykazały, że technologia rozpoznawania twarzy jest nieproporcjonalnie skłonna do błędnej identyfikacji osób kolorowych , zwłaszcza czarnoskórych kobiet. A wraz z ostatnim gwałtownym wzrostem aktywności ICE, rozpoznawanie twarzy grozi coraz większą liczbą osób złapanych arbitralnie w sieć ICE bez prawa do rzetelnego procesu w celu udowodnienia ich statusu prawnego. Nawet w przypadku obywateli amerykańskich, którzy „nie mają nic do ukrycia”, samo wyglądanie jak niewłaściwa osoba może skutkować więzieniem, a nawet deportacją.
Podczas gdy błędy rozpoznawania twarzy są niebezpieczne, jego potencjał nadużyć, gdy działa zgodnie z przeznaczeniem, jest jeszcze bardziej przerażający. Na przykład rozpoznawanie twarzy pozwala Donaldowi Trumpowi używać ICE jako potężniejszej broni do odwetu. Sam prezydent przyznaje, że wykorzystuje egzekwowanie przepisów imigracyjnych do atakowania ludzi ze względu na ich poglądy polityczne i że dąży do deportacji ludzi bez względu na obywatelstwo . W kontekście administracji prezydenckiej, która jest niezwykle skłonna ignorować procedury prawne i zarządzenia sądowe, idealnie dokładny system rozpoznawania twarzy może być najniebezpieczniejszą możliwością ze wszystkich: agenci federalni mogliby używać rozpoznawania twarzy na zdjęciach i materiałach wideo z protestów, aby zidentyfikować każdego z domniemanych wrogów prezydenta, a oni mogliby zostać aresztowani, a nawet deportowani bez prawa do należytego procesu.
Im bardziej technologia rozpoznawania twarzy rozprzestrzenia się w naszym codziennym życiu, tym staje się niebezpieczniejsza. Współpracując z lokalnymi organami ścigania i firmami prywatnymi, w tym poprzez udostępnianie technologii rozpoznawania twarzy , ICE zwiększa swoje możliwości łapania ludzi — poza to, co już potrafią. Ta delegacja infrastruktury nadzoru przybiera wiele form: lokalne wydziały policji integrują rozpoznawanie twarzy z kamerami na ciele , właściciele używają rozpoznawania twarzy zamiast klucza do wpuszczania lub odrzucania lokatorów, a stadiony używają rozpoznawania twarzy do celów bezpieczeństwa. Nawet nowojorskie szkoły publiczne stosowały rozpoznawanie twarzy w nagraniach z kamer bezpieczeństwa do niedawnego moratorium . W całym kraju inne stany i gminy nałożyły przepisy dotyczące rozpoznawania twarzy w ogóle, w tym Boston, San Francisco, Portland i Vermont. Zakazy dotyczące tej technologii w szkołach zostały uchwalone na Florydzie i czekają na podpis gubernatora w Kolorado. Każde rozpoznawanie twarzy, niezależnie od jego przeznaczenia, wiąże się z ryzykiem przekazania ICE w celu bezmyślnych lub politycznie odwetowych deportacji.
Na szczeblu stanowym i lokalnym istnieje jednak sposób na walkę. Na przykład w legislaturze stanu Nowy Jork i radzie miasta Nowy Jork znajduje się pakiet ustaw „Ban the Scan”, które mają ograniczyć stosowanie rozpoznawania twarzy: przez policję ( S5609 / A1045 ), właścicieli nieruchomości ( A6363 i Intro. 425 ), obiekty użyteczności publicznej ( A6211 i Intro. 217 ) oraz ustanowić stały zakaz jego stosowania w szkołach ( S3827 / A6720 ). I chociaż Nowy Jork, najbardziej monitorowane miasto w kraju, ma szansę przewodzić, ochrona prawna przed ryzykiem związanym z rozpoznawaniem twarzy musi rozprzestrzenić się w całym kraju, aby w pełni chronić nasze społeczności. Jedynym sposobem, aby całkowicie uniemożliwić Trumpowi — lub jakiemukolwiek przyszłemu autorytarnemu przywódcy — pozwolenie tej technologii na realizację jego i ICE celów, jest uniemożliwienie stosowania rozpoznawania twarzy w pierwszej kolejności.
Ze względu na ogromną moc rozpoznawania twarzy, która pozwala na namierzanie politycznych wrogów i bezmyślne deportowanie każdego z nas, a także ze względu na rasowo stronniczą niedokładność systemu, która już powoduje niesłuszne aresztowania, zakazanie rozpoznawania twarzy jest niezbędnym krokiem w kierunku zapobiegania autorytarnym nadużyciom. Legislatura stanu Nowy Jork może i powinna uchwalić pakiet ustaw o rozpoznawaniu twarzy Ban the Scan, a reszta kraju powinna pójść w jej ślady, chroniąc społeczności przed tym czynnikiem mnożącym siłę tyranii.
Zapisz się na wieczorny newsletter Slate.
