Google gebruikt AI op het apparaat om oplichtingsberichten en beleggingsfraude te detecteren

Digitale oplichters zijn nog nooit zo succesvol geweest. Vorig jaar verloren Amerikanen 16,6 miljard dollar aan online criminaliteit , waarbij bijna 200.000 mensen melding maakten van oplichting zoals phishing en spoofing bij de FBI. Volgens de Federal Trade Commission werd er vorig jaar meer dan 470 miljoen dollar gestolen in oplichtingspraktijken die begonnen met een sms-bericht. En als grootste fabrikant van mobiele besturingssystemen ter wereld heeft Google zich ingespannen om iets te doen door tools te ontwikkelen om consumenten te waarschuwen voor mogelijke oplichting.

Voorafgaand aande lancering van Android 16 volgende week maakte Google dinsdag bekend dat het zijn onlangs gelanceerde AI-markeringsfunctie voor de Google Berichten-app, beter bekend als Scam Detection, uitbreidt om meldingen te geven over mogelijk schadelijke berichten, zoals mogelijke cryptofraude, financiële imitatie, cadeaubon- en prijsfraude, technische ondersteuningsfraude en meer. In combinatie met andere AI-beveiligingsfuncties voor Google Berichten – die allemaal lokaal op de apparaten van gebruikers draaien en geen gegevens of berichtinhoud met het bedrijf delen – detecteert Android nu ongeveer 2 miljard verdachte berichten per maand.

"De fraude is echt hartverscheurend", zegt Dave Kleidermacher, vicepresident engineering bij de beveiligings- en privacyafdeling van Android. "Er is echt een enorm aantal – bijna epidemisch en een plaag voor de mensheid – financiële oplichtingspraktijken over de hele wereld."

Oplichters zijn wereldwijd actief, maar met name Chinese oplichtingsgroepen zitten achter miljoenen frauduleuze berichten , waarin ze dingen eisen zoals tolbetalingen of informatie over vermeende postbezorging. Wanneer mensen op de links klikken en hun gegevens invoeren, inclusief betalingsgegevens, stelen oplichters hun gegevens. In sommige gevallen zijn de oplichtingspraktijken ontworpen als een soort sloop- en plunderingspogingen, waarbij aanvallers gebruikers snel misleiden om wat informatie te verstrekken, zoals een paar inloggegevens of een creditcardnummer. Deze oplichtingspraktijken zijn vaak meer formeel en mogelijk gemakkelijker te detecteren. De complexere uitdaging ligt in het detecteren van zeer complexe beleggings- of liefdesfraude – vaak 'varkensslachting' genoemd – die zich gedurende maanden van berichten opbouwt en evolueert, terwijl oplichters een band opbouwen met hun doelwitten voordat ze hen misleiden om hun spaargeld af te staan ​​of zelfs schulden te maken om meer geld te sturen.

"Het kost tijd voordat ze de oplichting ontdekken – het is niet alleen een kwestie van op de link klikken", zegt Kleidermacher. "Door de AI op het apparaat te hebben, kun je deze meer geavanceerde gesprekken daadwerkelijk bekijken en observeren en vervolgens hun oplichting detecteren."

Op een screenshot van de Scam Detection-functie van Google toont een versleutelde RSC-chat een typisch scambericht waarin staat dat een EZ Pass-tolbetaling openstaat. Het bericht voegt eraan toe dat de "legale bevoegdheid" om te rijden kan worden ingetrokken als de betaling niet wordt gedaan. Het bericht bevat een link die iemand naar een kwaadaardige betaalwebsite leidt. De Scam Detection-overlay onderaan het scherm geeft aan dat er "verdachte activiteit" in het bericht is gedetecteerd en biedt een manier om de afzender te melden en te blokkeren, naast een optie waarmee mensen kunnen aangeven dat het geen scam is.

Google is lang niet het enige bedrijf dat AI gebruikt om oplichters te bestrijden en te voorkomen dat ze de inbox van mensen bereiken. Sommige bedrijven gebruiken AI al om oplichters direct te bestrijden. Het Britse telecombedrijf O2 heeft bijvoorbeeld een "AI Granny" ontwikkeld die oplichters aan de telefoon houdt en hun tijd verspilt. En online oplichters-bait Kitboga heeft een reeks bots ontwikkeld die gelijktijdig callcenters bellen die oplichting plegen .

Ondertussen is Meta, eigenaar van WhatsApp, Messenger en Instagram, de afgelopen maanden begonnen met het introduceren van pop-upwaarschuwingen wanneer mensen in chatberichten worden gevraagd betalingen te doen. Cybersecuritybedrijf F-Secure heeft elders een bètatool ontwikkeld om mensen te helpen identificeren of een bericht en de afzender waarschijnlijk oplichters zijn en om berichten te blokkeren. Door een laag wrijving te creëren die mensen weghoudt van berichtenaccounts die ze niet kennen of van het reageren op berichten waarin om gegevens wordt gevraagd, kan de kans op succes van oplichters worden verkleind.

Kleidermacher van Google zegt dat het bedrijf een "zeer positieve impact" ziet van het gebruik van zijn machine learning-systemen om potentiële scamberichten in realtime te detecteren. Naarmate de beveiliging verder wordt ontwikkeld, merkt hij op dat het onderliggende systeem uiteindelijk niet alleen via de Google Berichten-app kan worden uitgebreid naar communicatieplatforms van derden.

Een deel van die uitbreiding begint nu binnen Googles eigen producten. Het bedrijf meldde dinsdag ook dat het zich in de beginfase bevindt van het testen van manieren om oplichtingsdetectie in telefoongesprekken te integreren, maar de functionaliteit is nog niet breed geïmplementeerd.