AI & computing › Generatieve AI & synthetische media
Deepfake-expert: 'Ik vertrouw geen video meer, tot het bewijs van echtheid er is'
Door generatieve AI kun je video's en foto's niet meer zomaar vertrouwen, zegt forensisch onderzoeker Hany Farid van Dartmouth College. Hij pleit voor een omkering van bewijslast: niet de twijfelaar, maar de maker moet aantonen dat beelden echt zijn. Technieken als digitale 'herkomstbewijzen' en watermerken moeten dat straks makkelijker maken.
Begin dit jaar ontstond er internationale ophef over een video die een Iraans nieuwsstation uitzond. Op de beelden was te zien hoe een Amerikaanse Tomahawk-raket een school zou hebben geraakt, met naar verluidt meer dan 175 doden, vooral kinderen. De Amerikaanse regering ontkende elke betrokkenheid. Journalisten uit de hele wereld belden en mailden Hany Farid, hoogleraar computerwetenschappen aan Dartmouth College in de Amerikaanse staat New Hampshire, om te vragen of de video echt was.
Een raketvideo onder de loep
Farid onderzoekt al dertig jaar hoe je gemanipuleerde foto's en video's kunt herkennen. Bij de Tomahawk-video stelde hij eerst vast dat de video laag van kwaliteit was, pas een week na de aanval opdook en alleen door één Iraans persbureau werd verspreid. Toch besloot hij de beelden grondig te analyseren, voor het geval ze echt waren. Hij volgde de vlucht van de raket ten opzichte van een vast punt op de achtergrond en zag een logische, rechte vliegbaan. Vervolgens berekende hij aan de hand van de grootte van de raket in beeld dat de camera zich op ongeveer honderd meter afstand moest hebben bevonden. Dat kwam overeen met het geluid: tussen de inslag in beeld en het geluid van de inslag zat 0,3 seconden vertraging, precies wat je verwacht bij honderd meter afstand, omdat geluid zich verplaatst met 343 meter per seconde. Na uren werk concludeerde Farid dat de video waarschijnlijk echt was.
Van 'bewezen onecht' naar 'bewezen echt'
Die zaak was voor Farid een omslagpunt. Jarenlang gingen hij en de meeste mensen uit van een 'vermoeden van echtheid': een video werd als waar beschouwd, tenzij iemand het tegendeel kon bewijzen. Door de opmars van generatieve AI en deepfakes, beeldmateriaal dat volledig of deels door computers is gemaakt of bewerkt, draait Farid dat nu om. Hij gaat voortaan uit van een 'vermoeden van nep': wie beweert dat beeldmateriaal echt is, moet dat zelf aantonen. Onderzoek van Farid en collega's van de University of California, Berkeley, laat zien dat mensen inmiddels zo wantrouwend zijn geworden dat ze ook echte video's steeds moeilijker als authentiek durven te beoordelen.
Techniek moet vertrouwen teruggeven
Omdat handmatige forensische analyse, zoals Farid die bij de raketvideo deed, te traag is voor het enorme aantal video's dat dagelijks online verschijnt, zet de sector in op zogeheten herkomstsignalen. Bij de internationale C2PA-standaard krijgt een foto of video op het moment van opname een digitaal, cryptografisch beveiligd label met gegevens over het apparaat, de locatie, het tijdstip en latere bewerkingen. Wordt het bestand later aangepast, dan valt dat automatisch te zien. Daarnaast bestaan onzichtbare watermerken, zoals Googles SynthID, die een herkenbaar digitaal kenmerk verwerken in de pixels of het geluid van een bestand. Apple gaat op zijn nieuwste iPhones nog een stap verder: de camerasensor ondertekent de ruwe beeldgegevens al tijdens het fotograferen, zodat die later te vergelijken zijn met de uiteindelijke, bewerkte foto. Volgens Farid zijn deze methoden niet waterdicht tegen kwaadwillenden, maar dat is ook niet het doel. Ze moeten vooral betrouwbare makers, zoals journalisten en persbureaus, de kans geven om aan te tonen dat hun beelden echt zijn.
Achtergrond & begrippen
Wat betekent dit voor de toekomst? Nu generatieve AI steeds overtuigendere nepbeelden kan maken, verschuift de norm: niet de twijfelaar maar de maker moet bewijzen dat een video of foto echt is. Technieken zoals digitale herkomstlabels en watermerken kunnen dat bewijs straks automatisch leveren, wat cruciaal is voor journalistiek, rechtszaken en het algemene vertrouwen in online beeldmateriaal.
- Deepfake
- Een met kunstmatige intelligentie gegenereerd of bewerkt beeld, video of audiofragment dat echt lijkt maar (deels) nep is.
- Generatieve AI
- Kunstmatige intelligentie die zelf nieuwe tekst, beeld, video of geluid kan creëren, vaak op basis van een korte opdracht.
- Forensische analyse (digitale media)
- Het met wetenschappelijke methoden onderzoeken van foto's en video's om vast te stellen of ze gemanipuleerd zijn.
- Vermoeden van echtheid / vermoeden van nep
- Twee tegengestelde uitgangspunten: bij het eerste geldt beeldmateriaal als echt tot het tegendeel bewezen is, bij het tweede geldt het als nep tot bewezen is dat het echt is.
- Herkomstsignalen (provenance signals)
- Digitale informatie die vastlegt waar, wanneer en hoe een foto of video is gemaakt en bewerkt, zodat de authenticiteit later te controleren is.
- C2PA-standaard
- Een internationale technische standaard die een cryptografisch beveiligd label aan foto's en video's koppelt met gegevens over opname en bewerkingen.
- Cryptografische handtekening
- Een met wiskundige technieken beveiligd digitaal kenmerk dat aantoont dat gegevens niet ongemerkt zijn aangepast.
- Watermerk (digitaal)
- Een onzichtbaar signaal dat in de pixels of het geluid van een bestand wordt verwerkt om de herkomst ervan te kunnen identificeren.
- SynthID
- Een door Google ontwikkeld digitaal watermerktechnologie om AI-gegenereerde content te herkennen.
Bronnen
Dit artikel is met behulp van AI geschreven op basis van bovenstaande bronnen en is geen letterlijke vertaling. Zo werkt onze redactie.