Kennisgrens: waarom AI niet weet wat er gisteren is gebeurd
Vraag een chatbot als ChatGPT of Claude wie de laatste Nederlandse premier is, en de kans bestaat dat je een antwoord krijgt dat een jaar of langer verouderd is. Dat is geen storing, maar een fundamentele eigenschap van hoe deze systemen werken. Elk taalmodel heeft een kennisgrens: een datum waarna het simpelweg niets meer heeft geleerd, omdat de training van het model toen is gestopt.
Vergelijk het met een encyclopedie die in 2023 is gedrukt. Alles wat erin staat kan feitelijk correct zijn, maar gebeurtenissen van na de druk staan er niet in – het boek weet niet dat het inmiddels 2026 is. Een AI-taalmodel is in wezen zo'n bevroren momentopname van het internet, boeken en artikelen tot een bepaalde afsluitdatum. Na die datum praat het model niet per ongeluk onzin, het heeft domweg geen informatie om op terug te vallen, en gokt het soms zonder dat te melden.
Wat is het precies?
Een taalmodel zoals GPT-4 of Claude wordt getraind door miljarden zinnen uit teksten te laten zien, waarbij het model leert steeds het meest waarschijnlijke volgende woord te voorspellen. Die training kost enorm veel rekenkracht en tijd, dus verzamelen ontwikkelaars eerst een grote hoeveelheid tekst tot een vaste afsluitdatum, en trainen ze daarna pas het model. Alles wat na die verzameldatum is gepubliceerd, heeft het model letterlijk nooit gezien.
Deze afsluitdatum heet in het Engels de knowledge cutoff, in het Nederlands de kennisgrens. Het is dus geen bewuste beperking die is ingebouwd, maar een onvermijdelijk gevolg van de manier waarop de modellen worden gemaakt: eerst data verzamelen, dan trainen, dan pas uitbrengen. Tussen het verzamelen van de laatste trainingsdata en de release van een model zit vaak al een half jaar tot een jaar, en gebruikers gebruiken het model daarna soms weer jaren lang.
Belangrijk is het onderscheid tussen twee soorten kennis. Parametrische kennis is wat in de "gewichten" van het model zelf is vastgelegd tijdens de training – vergelijkbaar met wat iemand uit het hoofd kent. Kennis via retrieval of tools is informatie die het model er tijdens het gesprek zelf bij zoekt, bijvoorbeeld door een zoekmachine te raadplegen. Die tweede vorm kan de kennisgrens omzeilen, omdat het model dan niet meer op zijn geheugen vertrouwt maar op actuele bronnen die het erbij haalt.
Wat wil men ermee bereiken?
Niemand vindt de kennisgrens een wenselijke eigenschap; het is een technisch ongemak dat de bruikbaarheid van AI-systemen beperkt. Onderzoekers en bedrijven proberen het probleem daarom op twee manieren aan te pakken.
De eerste route is de kennisgrens zo vaak mogelijk opschuiven: modellen vaker opnieuw trainen of bijtrainen met verse data, zodat de afstand tussen "laatst geleerd" en "nu" kleiner wordt. Dit is kostbaar, want een volledige hertraining van een groot model kan miljoenen euro's aan rekenkracht kosten.
De tweede, inmiddels veel gangbaardere route is het model helemaal niet meer alleen op zijn getrainde geheugen te laten vertrouwen, maar het toegang te geven tot actuele bronnen tijdens het gesprek: een zoekmachine, een database, of specifieke documenten. Zo hoeft het model niet alwetend te zijn; het hoeft alleen te weten hoe het de juiste informatie kan opzoeken en correct kan samenvatten. Dit voorkomt ook een ander probleem dat nauw samenhangt met de kennisgrens: hallucinatie, het zelfverzekerd verzinnen van feiten wanneer het model iets niet weet maar toch een antwoord moet geven.
Voorbeelden uit de praktijk
De techniek om een taalmodel te koppelen aan een externe kennisbron heet Retrieval-Augmented Generation (RAG). De term werd in 2020 geïntroduceerd door onderzoekers van Facebook AI Research (nu Meta AI) in het paper "Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks". Het idee: laat het model eerst relevante documenten opzoeken in een database, en die vervolgens gebruiken om het antwoord op te baseren, in plaats van louter op het eigen geheugen te vertrouwen.
Microsoft bracht in februari 2023 Bing Chat uit (later Copilot genoemd), een van de eerste grote consumentenproducten waarin een taalmodel van OpenAI werd gecombineerd met live resultaten uit de Bing-zoekmachine. Dit was een directe poging om de kennisgrens van het onderliggende model te omzeilen door het internet zelf als naslagwerk te gebruiken.
Het bedrijf Perplexity AI, opgericht in 2022, bouwde zijn hele product rond dit idee: in plaats van een chatbot die uit het hoofd antwoordt, combineert Perplexity een taalmodel altijd met live zoekresultaten en toont het de bronnen erbij, juist om het kennisgrens-probleem te ondervangen.
OpenAI voegde in 2023 een browsing-functie aan ChatGPT toe waarmee het model tijdens het gesprek het web kan raadplegen, en breidde dit later uit tot een standaardfunctie in de zoekgerichte versie van ChatGPT. Anthropic volgde met een vergelijkbare zoekfunctie voor Claude, waarbij het model expliciet kan aangeven dat het een actuele zoekopdracht nodig heeft omdat de vraag mogelijk voorbij zijn kennisgrens ligt.
Een illustratief, herkenbaar type fout: gebruikers merkten na het overlijden van koningin Elizabeth II in september 2022 dat oudere taalmodellen, getraind met data van vóór die datum, haar nog altijd als levend beschreven wanneer er niet expliciet werd gezocht. Zulke voorbeelden tonen treffend waarom de kennisgrens meer is dan een technisch detail: het bepaalt rechtstreeks of een antwoord nog klopt.
Hoe ver is de techniek?
De kennisgrens zelf is niet "op te lossen" in de zin dat ze verdwijnt; ze schuift hooguit op. Elke nieuwe modelversie van OpenAI, Anthropic, Google of Meta heeft een recentere afsluitdatum dan zijn voorganger, maar zodra het model is uitgebracht, begint de klok voor die versie opnieuw te lopen richting veroudering.
Wat wel sterk is verbeterd, is de manier waarop modellen met die grens omgaan. Recente systemen zijn beter getraind om te herkennen wanneer een vraag mogelijk actuele informatie vereist, en schakelen dan automatisch een zoekfunctie in in plaats van te gokken op basis van verouderde parametrische kennis. Ook zijn RAG-technieken sinds 2020 flink verfijnd: modellen zijn beter geworden in het beoordelen welke opgehaalde bronnen betrouwbaar zijn en welke tegenstrijdig of verouderd.
Toch blijven er obstakels. Live zoekfuncties voegen kosten en vertraging toe, zoekresultaten zijn niet altijd betrouwbaar, en modellen "weten" nog altijd niet zeker wanneer ze eigenlijk zouden moeten twijfelen aan hun eigen parametrische kennis. Bovendien verschilt de exacte kennisgrens vaak per onderdeel van de trainingsdata: sommige informatiebronnen zijn actueler verwerkt dan andere, waardoor een model over het ene onderwerp recenter geïnformeerd kan zijn dan over het andere, zonder dat gebruikers dat kunnen zien.
Wie werken eraan?
Vrijwel alle grote AI-laboratoria werken zowel aan het opschuiven van de kennisgrens als aan technieken om die te omzeilen. OpenAI (Verenigde Staten) ontwikkelt achtereenvolgende GPT-modellen met steeds recentere trainingsdata en bouwde zoekfunctionaliteit in ChatGPT. Google DeepMind (Verenigd Koninkrijk/Verenigde Staten) integreert zijn Gemini-modellen met Google Search via een techniek die het bedrijf "grounding" noemt. Anthropic (Verenigde Staten) werkt aan vergelijkbare zoekintegraties voor zijn Claude-modellen. Meta AI (Verenigde Staten), oorspronkelijk Facebook AI Research, publiceerde het fundamentele RAG-onderzoek waarop veel van deze producten voortbouwen.
Daarnaast zijn er gespecialiseerde bedrijven zoals Perplexity AI die zich volledig toeleggen op het combineren van taalmodellen met actuele zoekresultaten. Ook Franse speler Mistral AI en Chinese partijen als Baidu en Alibaba werken aan eigen taalmodellen met vergelijkbare retrieval-technieken. Academisch onderzoek naar RAG en verwante technieken wordt breed gedaan aan universiteiten wereldwijd, waaronder Stanford University in de Verenigde Staten, dat een vooraanstaande onderzoeksgroep op het gebied van taaltechnologie heeft. Het merendeel van de grote doorbraken komt vooralsnog uit de Verenigde Staten, met China als opkomende tweede speler en Europa (vooral via Mistral AI in Frankrijk) als kleinere maar actieve derde partij.