Kennisbank › Generatieve AI & synthetische media
Generatieve AI en synthetische media: wat je moet weten
Generatieve AI is software die zelf nieuwe content maakt in plaats van alleen bestaande content te analyseren of te sorteren. Denk aan een chef-kok die na het proeven van duizenden gerechten zelf nieuwe recepten bedenkt, in plaats van steeds hetzelfde recept uit een kaartenbak te volgen. Een taalmodel als ChatGPT heeft op vergelijkbare wijze miljarden zinnen 'geproefd' en genereert daarna zelf nieuwe tekst, zin voor zin, woord voor woord.
De content die zulke systemen produceren heet synthetische media: teksten, afbeeldingen, gesproken stemmen, muziek en video's die niet door een mens zijn gemaakt, maar door een algoritme. Een gesproken boodschap die klinkt als een bekende presentator, een foto van een gebeurtenis die nooit heeft plaatsgevonden, of een geheel automatisch geschreven nieuwsartikel: het zijn allemaal voorbeelden van synthetische media. Het bijzondere is dat de kwaliteit inmiddels zo hoog is dat mensen en machines het steeds moeilijker vinden om echt van nep te onderscheiden.
Wat is het precies?
Onder de motorkap draait generatieve AI op neurale netwerken: wiskundige modellen die losjes zijn geïnspireerd op de werking van hersenen en die patronen leren herkennen in enorme hoeveelheden data. Een taalmodel wordt getraind door het miljarden teksten van internet, boeken en artikelen te laten 'lezen' en telkens te laten voorspellen welk woord waarschijnlijk volgt. Door dit miljoenen keren te herhalen, leert het model grammatica, feiten en stijl, zonder dat iemand expliciete regels heeft geprogrammeerd.
De meeste huidige taalmodellen gebruiken een architectuur die transformer heet, geïntroduceerd in 2017 door onderzoekers van Google in de invloedrijke paper 'Attention is all you need'. Het bijzondere aan transformers is het zogeheten aandachtsmechanisme (attention): het model weegt bij het genereren van elk woord af welke andere woorden in de zin het meest relevant zijn. Dat maakt het mogelijk om lange, samenhangende teksten te schrijven.
Beeldgeneratoren zoals Midjourney of Stable Diffusion werken volgens een ander principe: diffusiemodellen. Dit type model, populair geworden dankzij onderzoek van Jonathan Ho en collega's in 2020, begint met een afbeelding vol willekeurige ruis (vergelijkbaar met sneeuw op een ontregelde tv) en leert die ruis in stapjes weg te halen totdat er een scherpe afbeelding overblijft die past bij de tekst die de gebruiker heeft ingetypt, de zogeheten prompt. Videogeneratoren combineren vergelijkbare technieken maar moeten bovendien zorgen dat opeenvolgende beelden (frames) logisch op elkaar aansluiten, wat rekenkundig veel zwaarder is.
Na deze basistraining, pretraining genoemd, volgt vaak een tweede stap: fine-tuning. Daarbij wordt een model bijgeschaafd met behulp van menselijke feedback, zodat het bijvoorbeeld beleefder antwoordt of minder snel schadelijke content produceert. Deze techniek heet reinforcement learning from human feedback (RLHF) en was cruciaal voor het succes van ChatGPT.
Wat wil men ermee bereiken?
De directe belofte is productiviteit: routinematig schrijf-, ontwerp- en programmeerwerk sneller en goedkoper maken. Een marketeer kan in seconden tien conceptteksten laten schrijven, een ontwerper kan snel beeldschetsen genereren, een programmeur kan code laten aanvullen. Voor bedrijven is dat een directe kostenbesparing; voor individuen kan het drempels verlagen, bijvoorbeeld voor mensen die niet goed kunnen tekenen maar wel een idee voor een afbeelding hebben.
Daarnaast spelen bredere ambities mee. Sommige onderzoekslabs, zoals OpenAI en Google DeepMind, zien generatieve modellen als opstap naar wat zij artificial general intelligence (AGI) noemen: AI die net zo breed inzetbaar is als een mens. Dat is een omstreden en onzekere doelstelling waarover experts sterk van mening verschillen.
Er is ook een simpelere, commerciële drijfveer: een felle concurrentiestrijd tussen techbedrijven om marktaandeel in een veld dat potentieel enorme omzet oplevert, van chatbot-abonnementen tot licenties voor bedrijfssoftware. Die concurrentie versnelt de ontwikkeling, maar leidt er ook toe dat modellen soms worden uitgebracht voordat alle risico's goed in kaart zijn gebracht.
Voorbeelden uit de praktijk
ChatGPT (OpenAI, november 2022) maakte generatieve AI in één klap mainstream. Binnen twee maanden had de chatbot meer dan honderd miljoen gebruikers, een groeitempo dat destijds ongekend was voor een consumentenapp.
Midjourney, DALL-E 2 en Stable Diffusion (allen breed beschikbaar in 2022) lieten zien dat tekst-naar-beeld-generatie volwassen was geworden. Stable Diffusion was bovendien opvallend omdat het als open source werd uitgebracht door Stability AI, waardoor iedereen het model kon downloaden en aanpassen.
De Tom Cruise-deepfakes (2021) van visual-effects-artiest Chris Umé, verspreid via het TikTok-account 'deeptomcruise', behoren tot de bekendste vroege voorbeelden van hoe overtuigend synthetische video kan zijn. De video's waren nep maar voor veel kijkers niet als zodanig herkenbaar, wat de discussie over desinformatie via deepfakes aanwakkerde.
Sora (OpenAI, aangekondigd begin 2024) demonstreerde tekst-naar-video-generatie van tot dan toe ongeziene kwaliteit: korte, filmische clips op basis van een tekstprompt. Het model liet tegelijk de grenzen zien, met soms vreemde fysica of inconsistenties tussen frames.
AI-stemklonen van bedrijven als ElevenLabs worden inmiddels gebruikt voor legitieme toepassingen zoals het nasynchroniseren van podcasts en video's in meerdere talen met behoud van de originele stem, maar dezelfde technologie is ook misbruikt voor telefoonfraude waarbij de stem van een dierbare wordt nagebootst.
Hoe ver is de techniek?
Sinds de doorbraak van transformers (2017) en diffusiemodellen (2020) is de vooruitgang opvallend snel gegaan. Tekstgeneratie is het meest volwassen: moderne taalmodellen schrijven vloeiend, coherent Nederlands en Engels, al blijven ze last houden van hallucinaties, het zelfverzekerd presenteren van onjuiste informatie als feit. Dat probleem is nog niet opgelost en vormt een structurele beperking van de huidige technologie.
Beeldgeneratie is inmiddels zeer overtuigend voor stilstaande afbeeldingen, al blijven details zoals handen, tekst binnen een afbeelding en complexe scènes soms mislukken. Videogeneratie loopt nog een paar jaar achter op beeld: clips zijn doorgaans kort (seconden, geen minuten), en het behouden van consistentie tussen frames blijft lastig.
Een onderbelicht obstakel is detectie: naarmate generatoren beter worden, wordt het steeds moeilijker om synthetische content betrouwbaar te herkennen. Watermerktechnieken en AI-detectoren bestaan, maar bevinden zich in een kat-en-muisspel met de generatiemodellen en zijn niet waterdicht. Ook de enorme rekenkracht en energie die nodig zijn om deze modellen te trainen en te draaien, vormen een groeiende praktische en milieukundige beperking.
Op regelgevend vlak is de EU AI Act, aangenomen in 2024, een belangrijke mijlpaal. De wet verplicht onder meer dat AI-gegenereerde of gemanipuleerde content, zoals deepfakes, herkenbaar wordt gelabeld. De precieze handhaving en technische invulling van die labelingsplicht zijn per medio 2024 nog volop in ontwikkeling.
Wie werken eraan?
In de Verenigde Staten domineren OpenAI (ChatGPT, Sora), Google DeepMind (Gemini, Imagen), Meta AI (de open Llama-modellenreeks), Anthropic (Claude) en gespecialiseerde bedrijven als Stability AI (Stable Diffusion), Midjourney en ElevenLabs (spraaksynthese) het veld.
Europa probeert een eigen positie op te bouwen, met name via Mistral AI, een Frans bedrijf opgericht in 2023 dat compacte, efficiënte taalmodellen ontwikkelt, en Aleph Alpha in Duitsland, dat zich richt op Europese taalmodellen met aandacht voor transparantie en digitale soevereiniteit. Academische centra zoals Stanford (Human-Centered AI Institute) en MIT blijven daarnaast fundamenteel onderzoek leveren waarop de industrie voortbouwt.
China investeert eveneens fors, met techreuzen als Baidu en Alibaba die eigen taal- en beeldmodellen bouwen, vaak toegespitst op de Chinese taal en markt. Op regelgevend en normerend vlak spelen overheidsinstanties een groeiende rol, zoals het Amerikaanse NIST, dat rond 2023-2024 een AI Safety Institute oprichtte om risico's van geavanceerde modellen te beoordelen, en de Europese Unie met de AI Act.
