Persistente agent: de AI-assistent die blijft doorwerken en niets vergeet
Een gewone chatbot lijkt op een goudvis: elk gesprek begint met een schone lei, en zodra je het venster sluit is alles vergeten. Een persistente agent is het tegenovergestelde. Het is een AI-programma dat een langetermijngeheugen bijhoudt, dat kan doorwerken terwijl jij offline bent, en dat over dagen of weken heen een taak blijft uitvoeren zonder dat je steeds opnieuw moet uitleggen wat je wilt.
Denk aan een menselijke assistent met een notitieboekje versus een uitzendkracht die elke ochtend met geheugenverlies binnenkomt. De uitzendkracht moet elke dag opnieuw horen hoe je koffie drinkt en welk project prioriteit heeft. De assistent met het notitieboekje weet dat nog van vorige week, werkt 's nachts door aan een lijst met taken, en meldt de volgende ochtend wat er is gedaan. Persistente agents proberen AI-systemen van het eerste type naar het tweede type te tillen.
Wat is het precies?
De basis van de meeste moderne AI-assistenten is een large language model (LLM), zoals de modellen achter ChatGPT of Claude. Zo'n model is van zichzelf stateless: het onthoudt niets tussen twee aanroepen in. Elke keer dat je iets typt, krijgt het model alleen de tekst te zien die je op dat moment meestuurt, plus eventueel de geschiedenis van het huidige gesprek. Zodra dat gesprek stopt, is er niets meer over.
Om een agent persistent te maken, bouwen ontwikkelaars daar drie lagen omheen. Ten eerste een geheugenopslag: een database (vaak een zogeheten vectordatabase, die tekst opslaat op een manier waarmee de betekenis ervan doorzoekbaar is) waarin feiten, voorkeuren en eerdere gesprekken worden bewaard. Voordat de agent antwoordt, haalt het systeem relevante herinneringen uit die database op en stopt ze in de prompt, zodat het lijkt alsof het model zich iets 'herinnert'.
Ten tweede is er een lus of planner die de agent niet alleen laat reageren op een vraag, maar ook zelfstandig laat handelen: een taak opdelen in stappen, een stap uitvoeren, het resultaat beoordelen, en verdergaan naar de volgende stap. Dit kan met tussenpozen gebeuren (bijvoorbeeld elk uur checken of er nieuwe e-mail is) of continu, zolang er budget en toestemming is.
Ten derde krijgt de agent toegang tot gereedschap: het internet doorzoeken, code uitvoeren, bestanden aanmaken, een agenda raadplegen. Een invloedrijk onderzoeksidee hierbij is reflectie: de agent vat periodiek zijn eigen ervaringen samen tot hogere-orde inzichten ('ik werk het best 's ochtends aan complexe taken') en slaat die inzichten weer op in het geheugen, zodat de agent na verloop van tijd niet alleen feiten maar ook een soort ervaring opbouwt.
Wat wil men ermee bereiken?
Het belangrijkste doel is continuïteit. Gebruikers vinden het vervelend om steeds opnieuw context te moeten geven aan een AI-systeem. Een persoonlijke assistent die na drie weken nog weet dat je liever geen vergaderingen op vrijdagmiddag hebt, voelt bruikbaarder dan een systeem dat dat elke keer opnieuw moet horen.
Een tweede doel is het uitvoeren van taken die simpelweg te lang duren om in één gesprek af te ronden. Softwareontwikkeling, grondig onderzoek of het opruimen van een volle mailbox zijn processen die zich over uren of dagen uitstrekken, met wachttijden en tussentijdse beslissingen. Een agent die kan pauzeren, verdergaan en zelf bijhoudt waar hij gebleven was, past beter bij dat soort werk dan een chatvenster.
Ten derde is er de ambitie om AI te laten verschuiven van een gereedschap dat je actief bedient naar een digitale collega die op de achtergrond meewerkt: 's nachts data verwerken, concepten voorbereiden, en 's ochtends rapporteren wat er is gedaan. Dat is een aantrekkelijk vooruitzicht voor bedrijven, maar het brengt ook nieuwe risico's met zich mee, want een systeem dat zelfstandig langere tijd handelt, kan ook langer de tijd krijgen om fouten te maken voordat iemand ingrijpt.
Voorbeelden uit de praktijk
Een vroeg en veelgeciteerd onderzoeksvoorbeeld is Generative Agents, een paper van Joon Sung Park en collega's van Stanford University uit 2023. Zij lieten 25 kleine AI-personages leven in een gesimuleerd dorpje genaamd 'Smallville'. Elk personage had een doorlopend geheugen van alles wat het meemaakte, en kon dat periodiek 'reflecteren' tot algemenere inzichten, waardoor de personages geloofwaardig sociaal gedrag vertoonden, zoals het zelfstandig organiseren van een verjaardagsfeestje.
Rond dezelfde periode ontstond MemGPT (2023), een onderzoeksproject dat het geheugenbeheer van een besturingssysteem als inspiratie gebruikte: net zoals een computer data tussen snel en traag geheugen verplaatst, verplaatst MemGPT informatie tussen de beperkte 'context' van een taalmodel en een grotere, langzamere opslag. Dit werk is later doorontwikkeld tot het opensource-project en bedrijf Letta.
Voyager, gepresenteerd door onderzoekers van onder meer NVIDIA in 2023, is een agent die zelfstandig in het computerspel Minecraft speelt. Het bijzondere is dat Voyager een 'skill library' opbouwt: vaardigheden die het eenmaal heeft geleerd, zoals het bouwen van gereedschap, worden opgeslagen als herbruikbare code, zodat de agent na verloop van tijd steeds complexere taken aankan zonder alles opnieuw te hoeven uitvinden.
In 2024 bracht OpenAI een geheugenfunctie in ChatGPT die feiten over de gebruiker onthoudt tussen aparte gesprekken door, zoals werk, voorkeuren of lopende projecten. Dat is een bescheiden, consumentgerichte versie van hetzelfde idee.
Een ambitieuzer, meer omstreden voorbeeld is Devin van het bedrijf Cognition AI, aangekondigd in 2024 als een autonome AI-'softwareontwikkelaar' die zelfstandig langere programmeertaken zou kunnen uitvoeren, inclusief het testen en bijstellen van eigen code. De claims rond Devin riepen destijds ook kritische vragen op over hoe zelfstandig het systeem in de praktijk werkelijk functioneerde, wat illustreert hoe lastig het is om de prestaties van dit soort agents objectief te beoordelen.
Hoe ver is de techniek?
Persistente agents zijn grotendeels een onderzoeks- en vroege-productiefase. Simpele vormen van geheugen, zoals het onthouden van een paar feiten over de gebruiker, zitten inmiddels in gangbare producten van bedrijven als OpenAI en Anthropic. Volledig autonome agents die dagenlang zelfstandig complexe, open-eindige taken uitvoeren, zijn nog vooral te vinden in afgebakende omgevingen, zoals programmeren of games, en meestal onder toezicht.
Er zijn een paar hardnekkige obstakels. Ten eerste kosten en rekentijd: hoe meer geheugen een agent meesleept, hoe duurder en trager elke stap wordt. Ten tweede foutopstapeling: een taalmodel dat af en toe iets verzint (een bekend probleem, ook wel hallucineren genoemd) kan die fout in zijn eigen geheugen opslaan als 'feit', waarna latere beslissingen daarop voortbouwen en de fout zich verspreidt. Ten derde veiligheid: een agent die langdurig toegang heeft tot e-mail, bestanden of betaalgegevens is een aantrekkelijker doelwit en risico dan een chatvenster dat na elk gesprek wordt afgesloten.
Er bestaat ook nog geen gestandaardiseerde manier om te meten hoe goed een persistente agent werkelijk is; benchmarks voor langlopende, meerdaagse taken zijn schaars en het veld verandert momenteel enkele keren per jaar, wat het lastig maakt om harde uitspraken te doen die over een jaar nog kloppen.
Wie werken eraan?
In de Verenigde Staten zijn OpenAI, Anthropic en Google DeepMind de grootste spelers die geheugen- en agentfuncties in hun modellen en producten inbouwen. Anthropic heeft daarnaast het Model Context Protocol geopend, een open standaard om AI-modellen op een uniforme manier te koppelen aan externe tools en gegevensbronnen, wat het bouwen van agents die met de buitenwereld interacteren eenvoudiger moet maken.
Op de onderzoekskant speelt Stanford University (met de Generative Agents-studie) een belangrijke rol, net als diverse academische groepen die publiceren op het open preprint-platform arXiv. Aan de bedrijfskant richten start-ups als Cognition AI (Devin) en Letta (voortgekomen uit het MemGPT-onderzoek) zich specifiek op autonome, geheugendragende agents. Ook Microsoft ontwikkelt agentframeworks voor bedrijfsgebruik. Daarnaast bestaat er een actieve opensource-gemeenschap rond bibliotheken die ontwikkelaars helpen zelf persistente agents te bouwen, zonder dat die gemeenschap aan één land of bedrijf gebonden is.