Deepfake: hoe kunstmatige intelligentie beeld en stem vervalst
Een deepfake is een video, foto of geluidsopname die met kunstmatige intelligentie zo is bewerkt of gemaakt dat iemand dingen lijkt te zeggen of doen die nooit echt zijn gebeurd. Het gezicht van de ene persoon wordt bijvoorbeeld naadloos over dat van een ander geplakt, of iemands stem wordt nagebootst zodat een computer zinnen kan 'uitspreken' die diegene nooit heeft gezegd. Het resultaat kan zo overtuigend zijn dat het voor het blote oog nauwelijks van echt te onderscheiden is.
Vergelijk het met een extreem geavanceerde vorm van nasynchronisatie en montage, maar dan volledig automatisch gegenereerd door software in plaats van met acteurs en filmmontage. Waar een goede Photoshop-bewerking uren handwerk van een specialist vraagt, kan een getraind AI-model tegenwoordig binnen minuten een overtuigende nepvideo produceren. Die combinatie van snelheid, schaal en realisme is wat deepfakes onderscheidt van oudere vormen van beeldmanipulatie.
Wat is het precies?
De meeste deepfake-technologie is gebouwd op neurale netwerken: wiskundige modellen die, losjes geïnspireerd op de werking van hersenen, patronen leren herkennen in grote hoeveelheden data. Een populaire techniek hierbinnen is de Generative Adversarial Network (GAN), letterlijk een 'vijandig generatief netwerk'. Een GAN bestaat uit twee delen die tegen elkaar strijden: een generator die probeert nepbeelden te maken, en een discriminator die probeert te raden of een beeld echt is of door de generator gemaakt. Beide netwerken worden steeds beter door dit gevecht: de generator leert realistischere beelden maken, de discriminator leert scherper doorzien. Na duizenden van deze rondes levert de generator beelden op die zelfs de discriminator niet meer kan ontmaskeren.
Voor het klassieke 'face swap', het verwisselen van gezichten in video, wordt vaak een encoder-decoder gebruikt, ook wel autoencoder genoemd. De encoder perst een gezicht samen tot een compacte wiskundige beschrijving van kenmerken zoals gezichtsvorm, expressie en belichting. De decoder zet die beschrijving weer om in een beeld, maar dan met het gezicht van een andere persoon. Door het systeem te trainen op honderden tot duizenden foto's en videobeelden van beide gezichten, leert het de mimiek van de ene persoon over te zetten op het uiterlijk van de ander, frame voor frame.
Voor stemklonen, het nabootsen van iemands stem, gebruikt men vergelijkbare technieken maar dan getraind op audio in plaats van beeld. Vroege systemen hadden tientallen minuten aan opgenomen spraak nodig; moderne modellen kunnen een stem al benaderen op basis van een paar seconden geluid. Steeds vaker worden hiervoor diffusiemodellen gebruikt, een nieuwere generatietechniek die begint met willekeurige ruis en die stap voor stap 'opschoont' tot een herkenbaar beeld of geluidsfragment ontstaat. Diffusiemodellen liggen ook onder tools als Stable Diffusion en zijn de laatste jaren de GAN's op veel gebieden voorbijgestreefd qua kwaliteit.
Wat wil men ermee bereiken?
Het onderzoek naar deze technologie komt niet alleen voort uit kwaadaardige bedoelingen. In de filmindustrie wordt vergelijkbare technologie gebruikt voor visuele effecten, zoals het verjongen van acteurs of het naspreken van overleden acteurs in nieuwe scènes. Nasynchronisatiebedrijven experimenteren ermee om de mondbewegingen van acteurs in gedubde films te laten aansluiten bij de nieuwe taal, wat kijkervaring van buitenlandse films kan verbeteren. In de medische wereld wordt stemkloontechnologie ontwikkeld om mensen die door een ziekte als ALS of keelkanker hun stem zijn kwijtgeraakt, weer met hun eigen 'stem' te laten spreken, opgebouwd uit oude opnames.
Daarnaast wordt de techniek gebruikt voor satire, kunst en bewustwording: door bekende figuren nepdingen te laten zeggen, willen makers soms juist laten zien hoe kwetsbaar het publiek is voor dit soort manipulatie. Tegelijk is diezelfde kwetsbaarheid de reden waarom een groot deel van het onderzoeksveld zich inmiddels richt op de keerzijde: detectie. Omdat deepfakes kunnen worden misbruikt voor desinformatie, fraude, chantage en het zonder toestemming plaatsen van iemands gezicht in expliciete content, investeren universiteiten, techbedrijven en overheden fors in methoden om vervalsingen te herkennen en de herkomst van media te kunnen verifiëren.
Voorbeelden uit de praktijk
De term 'deepfake' is afkomstig van een anonieme Reddit-gebruiker met de naam 'deepfakes', die eind 2017 een forum startte waarop zelfgemaakte, met AI gemanipuleerde video's werden gedeeld. Dat forum, en de gratis software die er later uit voortkwam, wordt algemeen gezien als het startpunt van de publieke bekendheid van deze techniek.
In 2018 maakte regisseur Jordan Peele samen met BuzzFeed een veelbekeken voorlichtingsvideo waarin een digitaal nagemaakte Barack Obama waarschuwt voor de gevaren van deepfakes, terwijl Peele zelf de stem en mondbewegingen leverde. De video werd juist gemaakt om het publiek bewust te maken van hoe overtuigend de techniek al was.
De liefdadigheidscampagne 'Malaria Must Die' zette in 2019 deepfake-technologie in voor een goed doel: voetballer David Beckham leek in een video negen talen te spreken om aandacht te vragen voor de bestrijding van malaria, terwijl hij die talen zelf niet spreekt.
In maart 2022, kort na het begin van de Russische invasie van Oekraïne, dook een nepvideo op van president Zelensky waarin hij zijn troepen zou oproepen de wapens neer te leggen. De video werd door Oekraïense media en Zelensky zelf snel als vervalsing ontmaskerd, maar gold als een van de eerste pogingen om een deepfake in te zetten binnen een actief gewapend conflict.
In januari 2024 ontvingen kiezers in New Hampshire tijdens de Amerikaanse voorverkiezingen een robocall met een nagemaakte stem van president Biden, die opriep niet te gaan stemmen. De Amerikaanse telecomwaakhond FCC bestempelde het gebruik van AI-gegenereerde stemmen in dit soort oproepen daarna als illegaal.
Hoe ver is de techniek?
De ontwikkeling is sinds 2017 in hoog tempo gegaan. Waar de vroegste deepfakes uren rekentijd en honderden trainingsbeelden nodig hadden en toch nog duidelijke fouten vertoonden, zoals onnatuurlijk knipperen of vage randen, kunnen huidige systemen met veel minder data en in bijna real time overtuigende resultaten produceren. Voor stemklonen volstaan inmiddels enkele seconden audio om een basale nabootsing te maken.
Detectie is daarentegen een blijvend kat-en-muisspel. Elke keer dat onderzoekers een methode ontwikkelen om vervalsingen te herkennen, bijvoorbeeld aan inconsistenties in schaduwen, hartslagpatronen die zichtbaar zijn in huidskleurvariatie, of digitale sporen die generatoren achterlaten, wordt de volgende generatie deepfake-software daarop aangepast. Detectietools scoren in laboratoriumtests vaak goed, maar presteren in de praktijk, op video's die via sociale media zijn gecomprimeerd en hergedeeld, aanzienlijk minder betrouwbaar. Er bestaat geen detectiemethode die pretendeert waterdicht te zijn.
Naast detectie achteraf wordt daarom ingezet op preventie vooraf, via digitale herkomstlabels. Het initiatief C2PA (Coalition for Content Provenance and Authenticity) ontwikkelt een open standaard waarmee camera's en bewerkingssoftware een soort digitaal 'productieoverzicht' aan een bestand kunnen toevoegen, zodat achteraf te zien is hoe een foto of video is ontstaan en bewerkt. Ook regelgeving speelt een rol: de Europese AI Act, die gefaseerd van kracht wordt, verplicht makers om AI-gegenereerde of sterk gemanipuleerde media als zodanig te labelen. Hoe goed die labelingsplicht in de praktijk te handhaven is, moet nog blijken.
Wie werken eraan?
Aan de kant van beeld- en spraakgeneratie doen chipmaker NVIDIA en academische onderzoeksgroepen, zoals het Max Planck Institute for Informatics in Duitsland en verschillende Amerikaanse universiteiten als Stanford, veel fundamenteel onderzoek naar de onderliggende AI-modellen. Daarnaast bestaat er een actieve open-sourcegemeenschap die gratis tools voor face-swapping en stemklonen ontwikkelt en verspreidt, wat de techniek breed toegankelijk heeft gemaakt, met alle risico's van dien.
Op het gebied van detectie en verificatie zijn onder meer het Nederlandse-Europese bedrijf Sensity AI, dat gespecialiseerd is in het opsporen van synthetische media, en techbedrijven als Microsoft met zijn Video Authenticator en Intel met de FakeCatcher-tool actief. Het Amerikaanse defensieonderzoeksagentschap DARPA financiert via programma's als MediFor en SemaFor al jaren onderzoek naar het automatisch opsporen van gemanipuleerde media. Op het gebied van standaardisatie is de Coalition for Content Provenance and Authenticity (C2PA) toonaangevend, opgericht door onder meer Adobe, Microsoft en de BBC. Binnen de regelgeving is de Europese Unie met de AI Act een van de eerste grote blokken die concrete labelingsverplichtingen voor AI-gegenereerde content invoert.