AI & computing › Generatieve AI & synthetische media
Australisch AI-systeem RAIS leert nepstemmen steeds beter herkennen
Onderzoekers uit Australië hebben een AI-systeem ontwikkeld dat nagemaakte stemmen herkent, zelfs als criminelen hun methodes blijven vernieuwen. Het systeem, RAIS genoemd, onthoudt oude fraudetechnieken terwijl het nieuwe leert, en haalt een foutmarge van minder dan 2 procent.
Een stem aan de telefoon lijkt steeds minder een garantie voor echtheid. Met gratis AI-tools kan bijna iedereen tegenwoordig een stem nadoen die griezelig echt klinkt. Dat maakt generatieve AI een krachtig wapen voor oplichters en desinformatiecampagnes. Onderzoekers van de Australische wetenschapsorganisatie CSIRO, Federation University Australia en RMIT presenteerden daarom een nieuw detectiesysteem: RAIS, kort voor Rehearsal with Auxiliary-Informed Sampling.
Waarom bestaande detectors tekortschieten
Detectiesystemen die nepstemmen herkennen, worden getraind op voorbeelden van eerdere fraudetechnieken. Het probleem: zodra fraudeurs hun methode aanpassen, moet het model bijgeschoold worden. Train je het simpelweg opnieuw met nieuwe voorbeelden, dan vergeet het model vaak wat het over oudere technieken wist. Onderzoeker Kristen Moore, medeauteur van de studie, noemt dit een fundamenteel probleem: modellen moeten nieuwe deepfakes leren herkennen zonder helemaal opnieuw te beginnen.
RAIS lost dit op met een vorm van 'rehearsal-based continual learning'. Het systeem bewaart een kleine, zorgvuldig samengestelde verzameling oude voorbeelden in een geheugenbuffer en herhaalt die tijdens het leren van nieuwe fraudetechnieken. Een apart label-netwerk kiest welke voorbeelden het meest waardevol zijn, inclusief subtiele stemkenmerken die mensen zelf niet opmerken. Daardoor onthoudt het model oudere trucs terwijl het nieuwe leert herkennen.
Foutmarge onder de 2 procent
In tests haalde RAIS een gemiddelde Equal Error Rate (EER) van 1,953 procent over vijf verschillende testrondes. Hoe lager die waarde, hoe betrouwbaarder een biometrisch systeem is. De onderzoekers presenteerden hun bevindingen op Interspeech, de belangrijkste internationale conferentie over spraaktechnologie. De code van RAIS staat open op GitHub, zodat andere onderzoekers en bedrijven ermee kunnen experimenteren.
Reële schade door nepstemmen
Het probleem is niet theoretisch. In 2024 dook een nagemaakte stem van president Joe Biden op in een robocall die kiezers in New Hampshire opriep niet te stemmen. Bij reclamegigant WPP probeerden fraudeurs via een nagemaakte stem van topman Mark Read geld los te krijgen tijdens een Teams-gesprek. In Italië betaalden zakenlieden zelfs losgeld nadat criminelen de stem van de minister van Defensie hadden nagebootst. En in Slovakije circuleerden vlak voor de verkiezingen van 2023 nepopnames van oppositieleider Michal Šimečka waarin hij leek te spreken over verkiezingsfraude.
Juridisch expert Danielle Citron waarschuwt dat het grootste gevaar niet is dat mensen leugens gaan geloven, maar dat ze stoppen met de waarheid te vertrouwen. Systemen als RAIS moeten dat vertrouwen helpen herstellen, door gelijke tred te houden met steeds slimmere fraudetechnieken.
Achtergrond & begrippen
Wat betekent dit voor de toekomst? Naarmate AI-stemmen realistischer worden, groeit het risico op fraude, chantage en verkiezingsmanipulatie via nagemaakte stemmen. Detectiesystemen die zichzelf blijven bijscholen zonder oude kennis te verliezen, zijn cruciaal om die dreiging voor te blijven. Succesvolle inzet van technologie als RAIS kan bepalen of we stemopnames in de toekomst nog kunnen vertrouwen.
- RAIS
- Rehearsal with Auxiliary-Informed Sampling, een AI-systeem dat nepstemmen herkent en blijft leren zonder eerdere kennis te vergeten.
- Equal Error Rate (EER)
- Een maatstaf voor de betrouwbaarheid van biometrische systemen; hoe lager de waarde, hoe minder vaak het systeem zich vergist.
- Continual learning
- Een trainingsmethode waarbij een AI-model voortdurend nieuwe informatie leert zonder eerder geleerde kennis kwijt te raken.
- Geheugenbuffer
- Een kleine opslag met eerdere voorbeelden die een AI-model gebruikt om oude kennis te herhalen tijdens het leren van nieuwe patronen.
- Stemdeepfake
- Een kunstmatig nagemaakte stem die door AI is gegenereerd om te klinken als een echt persoon.
Bronnen
Dit artikel is met behulp van AI geschreven op basis van bovenstaande bronnen en is geen letterlijke vertaling. Zo werkt onze redactie.
