AI & computing › Agentic AI & autonome agents
Anthropic: AI-agent wordt slimmer door te vergeten, niet door alles te onthouden
AI-bedrijf Anthropic ontdekte dat zijn chatbot Claude beter presteert over langere taken wanneer hij selectief notities bijhoudt, in plaats van elke stap vast te leggen. Een nieuw proces genaamd 'Dreaming' laat Claude achteraf zijn eigen aantekeningen controleren en fouten corrigeren. Het onderzoek raakt een kernprobleem van AI-agents: hoe onthoud je iets zinvols zonder te verzuipen in data.
Wie een AI-chatbot dagenlang aan hetzelfde project laat werken, loopt al snel tegen een muur aan. Elke nieuwe sessie begint namelijk weer met een schone lei, omdat het onderliggende taalmodel zelf niet verandert. Anthropic, het bedrijf achter Claude, onderzocht hoe die chatbot toch kennis kan vasthouden tussen sessies door aantekeningen te maken in een soort digitaal notitieboekje dat hij later weer terugleest.
Agent die alles onthoudt, raakt de weg kwijt
Voor een test liet Anthropic verschillende versies van Claude het spel Pokémon Red spelen, een taak die duizenden stappen en beslissingen vereist. De oudere versie, Claude Sonnet 3.7, behandelde bijna elk detail als potentieel belangrijk. Na ongeveer tienduizend spelstappen had het model 413 losse bestanden aangemaakt, verspreid over 225 mapjes, vaak met een apart bestand per gevecht of gevonden voorwerp. Omdat de spelwereld voortdurend verandert, raakte die berg aan notities snel verouderd. Op momenten was het model zelfs vooral bezig met het herordenen van zijn eigen bestanden in plaats van met spelen. Het resultaat: slechts één badge verdiend.
Een nieuwere versie, door Anthropic Claude Fable 5 genoemd, deed het compleet anders. Dit model beperkte zich tot een handvol bestanden en schreef alleen op wat niet direct op het scherm te zien was: geteste strategieën, vuistregels en plannen. Het resultaat was vier badges, veel meer dan Sonnet 3.7. Anthropic benadrukt dat deze vergelijking op één speelronde per model berust, maar het patroon is volgens het bedrijf duidelijk: minder, maar beter gekozen informatie werkt beter dan een uitpuilend archief.
'Dreaming': dromen om foute aantekeningen te herstellen
Het grotere risico schuilt in notities die fout zijn, maar die het model later blindelings vertrouwt. Daarvoor ontwikkelde Anthropic een proces dat het 'Dreaming' noemt, een idee dat voortbouwt op eerder onderzoek van het bedrijf Letta en de universiteit UC Berkeley. Net zoals het menselijk brein ervaringen verwerkt tijdens de slaap, neemt Claude tijdens rustperiodes de transcripten van eerdere sessies opnieuw door en toetst zijn eigen notities daaraan.
In de Pokémon-test had Claude verkeerd genoteerd aan welke kant van een berg een bepaald punt lag. Doordat het model op die foute aantekening vertrouwde, liep het drie keer in dezelfde val en wilde het uiteindelijk opgeven. Na een Dreaming-ronde ontdekte Claude de fout door de notitie te vergelijken met het transcript, en vond het alsnog de juiste route. Volgens Anthropic kan Dreaming ook grotere kennisbanken ordenen: het model bouwde een onderling verwijzende wiki uit ongeveer 350.000 interne documenten van Stainless, een softwarebedrijf dat Anthropic overnam. In een juridische test scoorde Claude met zo'n wiki 87 procent goed op vragen waarvan het antwoord over meerdere documenten verspreid stond, tegenover 73 procent met alleen een zoekfunctie.
Nog volop werk in uitvoering
Anthropic erkent dat er nog genoeg haken en ogen zijn. Het maken van notities tijdens een taak leidt af van het eigenlijke werk, Dreaming kost extra rekenkracht en de resultaten komen pas met vertraging binnen. Bovendien waarschuwt het bedrijf dat te veel automatisch geladen herinneringen de beschikbare contextruimte opvullen en foute notities juist doorgeven aan elke volgende sessie. Dreaming draait sinds mei als onderzoeksfunctie binnen Claude Managed Agents, het cloudplatform van Anthropic voor AI-agents, en werkt vooralsnog alleen met de modellen Opus 4.7 en Sonnet 4.6. Ook concurrenten experimenteren met vergelijkbare ideeën: OpenAI gebruikt een eigen versie van 'Dreaming' om het geheugen van ChatGPT bij te werken, en onderzoekers van Google DeepMind laten agents dromen om zoekstrategieën te verbeteren.
Achtergrond & begrippen
Wat betekent dit voor de toekomst? Als AI-agents zelf kunnen bepalen wat ze onthouden en achteraf hun eigen fouten corrigeren, kunnen ze langer en zelfstandiger aan complexe taken werken zonder steeds opnieuw te beginnen. Dat is een belangrijke stap richting AI-assistenten die weken- of maandenlang aan een project kunnen meedenken, bijvoorbeeld bij onderzoek, software-ontwikkeling of klantenservice. Tegelijk laat het onderzoek zien dat geheugen bij AI nog een fragiel en foutgevoelig proces is, waarbij een enkele verkeerde aantekening grote gevolgen kan hebben.
- AI-agent
- Een AI-systeem dat niet alleen vragen beantwoordt, maar zelfstandig stappen zet en beslissingen neemt om een taak uit te voeren.
- Claude
- De AI-chatbot en taalmodelfamilie van het bedrijf Anthropic.
- Sessie
- Een los gesprek of taakperiode met een AI-model; na afloop vergeet het model doorgaans alles, tenzij informatie extern wordt opgeslagen.
- Context(venster)
- De hoeveelheid tekst en informatie die een AI-model tegelijk kan 'zien' en gebruiken tijdens het beantwoorden van een vraag.
- Dreaming
- Een proces waarbij een AI-model tijdens een rustperiode eerdere sessies herbekijkt, fouten in zijn notities corrigeert en kennis beter ordent.
- Claude Managed Agents
- Het cloudplatform van Anthropic waarmee bedrijven AI-agents laten draaien die langere, complexe taken uitvoeren.
- Wiki (kennisbank)
- Een verzameling onderling gelinkte documenten of pagina's waarin kennis gestructureerd wordt opgeslagen, vergelijkbaar met Wikipedia.
- Benchmark
- Een gestandaardiseerde test waarmee de prestaties van een AI-model worden gemeten en vergeleken.
Bronnen
Dit artikel is met behulp van AI geschreven op basis van bovenstaande bronnen en is geen letterlijke vertaling. Zo werkt onze redactie.