Waarom AI-agents als Claude Code een heel controlesysteem nodig hebben

Een agentic AI-systeem zoals Claude Code, Devin of Cursor werkt in de kern heel eenvoudig: het taalmodel bedenkt een actie, voert die uit via een tool, en herhaalt dat tot de taak klaar is. Die basale lus werkt, schrijft Data For Science, maar is naïef. Vergelijk het met een gevechtspiloot: die kan in zijn eentje een luchtgevecht winnen, maar niemand voert een hele luchtcampagne uit met alleen maar piloten. Er zijn planners nodig die vooraf bepalen welke missies vliegen, budgetten voor brandstof, en vluchtrecorders voor evaluatie achteraf. Productie-AI-agents doen precies hetzelfde met hun basislus: ze bouwen structuur omheen, zonder de kern van het systeem te vervangen.

Fouten voorkomen voordat ze gebeuren

Een grote zwakte van een kale agentic-lus zit in de tools die het taalmodel aanroept. Een taalmodel verzint zelf de argumenten voor zo'n aanroep en gaat daarbij regelmatig de fout in: een verkeerd type getal, een ontbrekend veld, een niet-bestaande stad. In een goed gebouwd systeem wordt elk tool-argument daarom vooraf vastgelegd in een strikt schema. Klopt de invoer niet, dan stopt het systeem meteen, voordat er een dure of onomkeerbare actie wordt uitgevoerd, zoals een databasewijziging. Diezelfde aanpak gebruiken grote spelers als Anthropic en OpenAI voor hun eigen tool-interfaces.

Taken tegelijk uitvoeren via een taakgraaf

Een tweede zwakte van de simpele lus is snelheid: bij één actie per beurt duurt alles net zo lang als de som van alle stappen. Data For Science demonstreert het alternatief met een voorbeeldagent die steden vergelijkt op bevolkingsomvang, tijdzone en een korte beschrijving. Voor drie steden zijn dat negen losse opzoekacties die niets met elkaar te maken hebben; op elkaar wachten is dus zonde van de tijd. Alleen de laatste stap, het samenvoegen tot één rapport, is afhankelijk van alle voorgaande stappen. Om dat te benutten, laat een geavanceerd systeem eerst een compleet plan opstellen met alle taken en hun onderlinge afhankelijkheden: een taakgraaf. Taken zonder afhankelijkheden draaien vervolgens gelijktijdig, en pas als alle negen deeltaken klaar zijn, start de samenvattende stap. Omdat ook het plan zelf door het taalmodel wordt bedacht, checkt het systeem eerst of de graaf wel klopt: geen stap die verwijst naar een niet-bestaand onderdeel, geen kringverwijzingen die alles laten vastlopen.

Rollen verdelen en de rekening bewaken

Om te voorkomen dat één prompt alles tegelijk moet doen, plannen, uitvoeren én controleren, splitsen productie-agents het werk in rollen. Een planner stelt het plan op, aparte subagents voeren de losse stappen uit, en een aparte beoordelaar checkt achteraf of het resultaat goed genoeg is. Elke tool krijgt bovendien een kostenlabel: een simpele opzoeking in een tabel is vrijwel gratis, maar een samenvatting of eindrapport waarvoor het taalmodel zelf aan het werk moet, kost aanzienlijk meer rekenkracht. Door budgetten per taak in te stellen, voorkomt het systeem dat de kosten uit de hand lopen. Voor ontwikkelaars is er nog een praktisch voordeel: doordat de tools losstaan van één specifieke AI-leverancier, kan het hele systeem eerst getest worden met een nepmodel, zonder dat er geld wordt uitgegeven aan echte taalmodel-aanroepen.