Large language model
Een large language model (LLM), in het Nederlands soms "groot taalmodel" genoemd, is een computerprogramma dat extreem goed is geworden in het voorspellen van taal. Simpel gezegd: het model heeft geleerd welk woord waarschijnlijk volgt op een reeks woorden, en het herhaalt dat trucje razendsnel, woord na woord, tot er een heel antwoord staat. Vergelijk het met de tekstsuggesties op je telefoon die na "ik ga morgen naar de..." het woord "winkel" voorstellen, maar dan duizenden keren krachtiger en getraind op vrijwel het hele internet in plaats van op jouw eigen berichten.
Bekende voorbeelden zijn ChatGPT van het bedrijf OpenAI, Gemini van Google en Claude van Anthropic. Gebruikers typen een vraag of opdracht in gewone taal, en het model genereert een antwoord, een samenvatting, een stuk programmeercode of een gedicht. Het model "begrijpt" daarbij niets in de menselijke zin van het woord; het herkent statistische patronen in taal en past die toe. Dat onderscheid tussen imiteren en begrijpen is een van de meest besproken punten onder wetenschappers die zich met deze technologie bezighouden.
Wat is het precies?
Een LLM is gebouwd op een wiskundig ontwerp dat een transformer heet, geïntroduceerd door onderzoekers van Google in 2017. Een transformer is goed in het inschatten welke woorden in een zin het meest met elkaar samenhangen, ook als die woorden ver uit elkaar staan. Daardoor kan het model rekening houden met de context van een heel gesprek in plaats van alleen het laatste zinnetje.
Voordat een tekst het model in gaat, wordt die opgeknipt in stukjes die tokens heten: soms een heel woord, soms een lettergreep of leesteken. Het model bevat miljarden zogeheten parameters, instelbare rekenwaarden die samen bepalen hoe sterk het ene token het andere beïnvloedt. Tijdens de training, waarbij het model teksten van internet, boeken en andere bronnen te zien krijgt, worden die parameters keer op keer bijgesteld totdat het model steeds beter het volgende token kan voorspellen.
Na deze basistraining volgt meestal een fase die finetuning heet: mensen beoordelen antwoorden van het model en het model wordt bijgestuurd om behulpzame, veilige en samenhangende antwoorden te geven. Een veelgebruikte techniek hierbij is reinforcement learning from human feedback (RLHF), waarbij menselijke voorkeuren worden omgezet in een beloningssignaal waarmee het model verder wordt getraind. Het resultaat is een systeem dat niet alleen taal kan voortzetten, maar dat ook instructies probeert op te volgen.
Wat wil men ermee bereiken?
De directe drijfveer achter LLM's is het automatiseren van taalgebonden werk: teksten schrijven en samenvatten, vragen beantwoorden, programmeercode genereren, vertalen en klantenservice verzorgen. Omdat taal in vrijwel elk beroep een rol speelt, zien bedrijven hierin een manier om productiviteit te verhogen en informatie sneller toegankelijk te maken.
Een bredere, ambitieuzere doelstelling van met name de grote Amerikaanse AI-bedrijven is het ontwikkelen van steeds algemener inzetbare AI-systemen, soms aangeduid met de term artificial general intelligence (AGI): systemen die net zo breed inzetbaar zouden zijn als een mens. Of taalmodellen daadwerkelijk een stap richting zo'n algemene intelligentie zijn, of vooral zeer geavanceerde patroonherkenners blijven, is onder onderzoekers omstreden.
Voorbeelden uit de praktijk
BERT (Google, 2018) was een vroeg, invloedrijk taalmodel dat vooral werd gebruikt om zoekopdrachten beter te begrijpen; Google zet een variant ervan nog altijd in binnen zijn zoekmachine.
GPT-3 (OpenAI, 2020) liet voor het eerst op grote schaal zien hoe krachtig een taalmodel wordt als je het simpelweg veel groter maakt en op veel meer tekst traint. De release van ChatGPT in november 2022, gebaseerd op een verdere versie van dit model, bracht LLM's bij een breed publiek.
LLaMA (Meta, vanaf 2023) is een familie van modellen waarvan Meta de rekengewichten publiekelijk deelt, wat wereldwijd onderzoek en toepassingen door derden mogelijk maakte.
Mistral (Mistral AI, Frankrijk, opgericht in 2023) is een voorbeeld van een Europees initiatief dat compacte, efficiënte taalmodellen bouwt als tegenwicht tegen de dominantie van Amerikaanse techbedrijven.
In Nederland ontwikkelden onderzoeksorganisaties TNO, NFI en SURF vanaf 2023 het project GPT-NL, een Nederlands taalmodel dat minder afhankelijk moet zijn van buitenlandse techbedrijven en beter aansluit bij de Nederlandse taal en cultuur.
Hoe ver is de techniek?
De ontwikkeling ging de afgelopen jaren snel: van BERT (2018) via GPT-3 (2020) naar de doorbraak van ChatGPT (2022) en vervolgens modellen die ook afbeeldingen, audio en video kunnen verwerken, zogeheten multimodale modellen. Recentere modellen, zoals de "redenerende" varianten die sinds 2024 verschijnen, nemen intern meerdere tussenstappen voordat ze een antwoord geven, wat ze beter maakt in wiskunde en logica.
Tegelijk lopen onderzoekers tegen grenzen aan. Simpelweg grotere modellen bouwen op nog meer tekst levert steeds minder verbetering op, deels omdat de voorraad bruikbare, kwalitatief goede tekst op internet eindig is. Een hardnekkig probleem is hallucinatie: het model presenteert onjuiste informatie met dezelfde stelligheid als correcte informatie, omdat het geen ingebouwd besef heeft van wat waar is. Ook de enorme energie- en waterbehoefte van de datacenters die nodig zijn om deze modellen te trainen en te laten draaien, is een groeiend punt van zorg. Onafhankelijke onderzoekers wijzen er bovendien op dat de precieze werking van deze modellen, ook voor de makers zelf, gedeeltelijk een "black box" blijft.
Wie werken eraan?
De ontwikkeling wordt aangevoerd door een klein aantal grote, vooral Amerikaanse spelers: OpenAI, Google DeepMind, Anthropic, Meta AI en xAI. Daarnaast is Mistral AI in Frankrijk een belangrijke Europese speler.
China investeert eveneens fors, met bedrijven als Alibaba (Qwen-modellen), Baidu en de opkomende ontwikkelaar DeepSeek, die in 2025 internationaal opzien baarde met een model dat met relatief weinig rekenkracht goede resultaten leek te behalen.
Op onderzoeksgebied spelen universiteiten en instituten zoals Stanford University (met zijn jaarlijkse AI Index-rapport) en het Allen Institute for AI een belangrijke rol, onder meer door open modellen en onafhankelijke evaluaties te publiceren. In Nederland zijn onder meer TNO, SURF en diverse universiteiten betrokken bij onderzoek en het Nederlandstalige GPT-NL-initiatief. De Europese Unie richt zich vooral op regelgeving, met de AI Act die sinds 2024 geleidelijk van kracht wordt en eisen stelt aan transparantie en risicobeheersing van dit soort systemen.