AI & computing › AI-gestuurde wetenschappelijke ontdekkingen
Google DeepMind en Singapore testen AI die scams herkent op je telefoon
Google DeepMind en de Singaporese overheid hebben een AI-model gebouwd dat oplichting via chatgesprekken herkent voordat slachtoffers geld overmaken. Het model draait volledig op de telefoon zelf, zodat niemand de privégesprekken van gebruikers kan inzien. Singapore test de technologie als antwoord op een golf van scams die sinds 2019 al meer dan 4 miljard Singaporese dollar aan schade veroorzaakte.
Oplichting via WhatsApp, sms en andere chatapps is in Singapore uitgegroeid tot het grootste criminaliteitsprobleem van het land. Meer dan de helft van alle gemelde misdrijven draait om scams: nepinvesteringen, valse vacatures en criminelen die zich voordoen als ambtenaren of bankmedewerkers. Steeds vaker gaat het niet om simpele phishing-linkjes, maar om langdurige gesprekken waarin slachtoffers eerst vertrouwen wordt gewonnen voordat om geld wordt gevraagd. Die vorm van social engineering is inmiddels verantwoordelijk voor tot 80 procent van alle financiële schade door scams.
Om dat tegen te gaan werkten Google DeepMind en GovTech Singapore, de technologiedienst van de Singaporese overheid, samen aan een gespecialiseerd AI-model. Ze namen Gemma, een compact taalmodel van Google, en pasten dat met fine-tuning aan op lokale scampatronen: gesprekken waarin criminelen zich voordoen als banken, overheidsinstanties of bekende figuren uit de regio. Daardoor kan het model het verschil zien tussen onschuldig geklets en een gesprek dat stiekem naar manipulatie toewerkt.
Waarom alles op de telefoon zelf gebeurt
Het grote verschil met bestaande fraudedetectie is waar de analyse plaatsvindt. Normaal scannen bedrijven berichten op hun eigen servers, in de cloud. Dat betekent dat gesprekken ergens worden ingezien of opgeslagen. Het nieuwe model werkt via lokale AI-inferentie: alle verwerking gebeurt op het apparaat van de gebruiker zelf. Noch Google, noch de Singaporese overheid kan de gesprekken dus daadwerkelijk lezen. Gebruikers moeten bovendien zelf toestemming geven voordat een app toegang krijgt tot hun berichten.
Herkent het model een verdacht patroon, dan krijgt de gebruiker direct een waarschuwing op het scherm om even te pauzeren voordat hij geld overmaakt of gevoelige gegevens deelt. Omdat zware AI-modellen de accu van een telefoon snel leegtrekken, gebruikt het systeem een slimme tussenstap: een lichte, energiezuinige filter screent eerst alle berichten, en alleen verdachte gesprekken gaan door naar het zwaardere Gemma-model voor een definitief oordeel.
Strenge regels en een voorzichtige uitrol
Bij de ontwikkeling golden strikte afspraken. De training gebeurde in een afgeschermde cloudomgeving van de Singaporese overheid, met uitsluitend geanonimiseerde data uit scammeldingen en dreigingsinformatie — nooit met echte privégegevens van burgers. Dat sluit aan bij het principe van privacy by design: bescherming inbouwen vanaf de eerste schets, niet achteraf toevoegen. Het model werd daarna getest op nagemaakte gesprekken om te zien hoe het reageert op nieuwe, nog onbekende oplichtingstrucs.
De technologie werd gepresenteerd tijdens Singapore International Cyber Week. Google DeepMind en GovTech willen het model stap voor stap inbouwen in bestaande apps, in nauwe samenwerking met de overheid. Of en wanneer soortgelijke systemen ook in andere landen verschijnen, is nog niet bekend, maar beide partijen zeggen de mogelijkheden daarvoor te willen onderzoeken.
Achtergrond & begrippen
Wat betekent dit voor de toekomst? Dit project toont dat AI-bescherming tegen fraude niet per se botst met privacy: door modellen lokaal te laten draaien, kan bescherming plaatsvinden zonder dat gesprekken worden meegelezen. Als dit model succesvol blijkt, kunnen andere landen en techbedrijven een vergelijkbare aanpak overnemen om scams in berichten-apps vroeg te signaleren, zonder encryptie te verzwakken.
- Fine-tuning
- Het verder trainen van een al bestaand AI-model op specifieke, gerichte data, zodat het beter wordt in één taak.
- Lokale AI-inferentie
- Een AI-model dat rekenwerk direct op het apparaat van de gebruiker uitvoert, in plaats van op een externe server in de cloud.
- Social engineering
- Een vorm van oplichting waarbij criminelen via gesprekken het vertrouwen van iemand winnen om diegene daarna te manipuleren.
- Privacy by design
- Een ontwerpprincipe waarbij privacybescherming al vanaf het begin in een systeem wordt ingebouwd, in plaats van er later aan toegevoegd te worden.
- Gemma
- Een lichtgewicht, open AI-taalmodel van Google dat geschikt is om op apparaten met beperkte rekenkracht te draaien.
Bronnen
Dit artikel is met behulp van AI geschreven op basis van bovenstaande bronnen en is geen letterlijke vertaling. Zo werkt onze redactie.
