Anthropic: AI-agents vinden samen meer bugs, maar falen bij complexe projecten

Kunstmatige-intelligentiebedrijf Anthropic onderzocht wat er gebeurt als grote groepen AI-agents zelfstandig met elkaar gaan samenwerken. De uitkomst: agents vinden samen veel meer softwarefouten dan los werkende agents, maar zodra ze een complex project moeten bouwen, loopt de samenwerking vast. Het onderzoek van het Frontier Red Team laat zien dat huidige AI-modellen goed zijn in taken die je makkelijk kunt opsplitsen, maar nog moeite hebben met langdurige, onderlinge afhankelijkheid.

Zwermen vinden meer kwetsbaarheden

Voor het eerste experiment zette Anthropic 45 AI-agents tegelijk aan het werk. Elke agent kreeg een eigen virtuele computer, toegang tot een gezamenlijk forum om te overleggen, en dezelfde opdracht: zoek kwetsbaarheden in vijftien opensourcesoftwareprojecten. De agents beoordeelden elkaars vondsten, en een aparte 'arbiter'-agent besliste welke gevonden kwetsbaarheid echt nieuw en geldig was. Dit soort multiagent-samenwerking werd vergeleken met de gangbare aanpak: losse agents die elk een eigen stuk code krijgen toegewezen. Bij het model Claude Mythos Preview vond de klassieke aanpak 21 kwetsbaarheden na 6,5 miljoen verwerkte taaleenheden (tokens). De samenwerkende zwerm vond 266 kwetsbaarheden, maar gebruikte daarvoor 27 miljoen tokens. Ruim de helft van die vondsten lag buiten de mappen waar de losse agents naar keken: de zwerm koos zelf waar hij zocht. Tussen beide methodes was maar weinig overlap - twaalf kwetsbaarheden werden door beide gevonden. Agents in de zwerm bouwden zelfs eigen hulpmiddelen en specialiseerden zich in bepaalde typen fouten.

Een spel bouwen loopt vast

Bij een tweede, lastiger experiment moesten meerdere zwermen agents ieder een tekstgebaseerd fantasyspel programmeren, een taak met veel onderlinge afhankelijkheden tussen onderdelen. Elke zwerm kreeg twaalf uur de tijd, eigen machines en een gedeelde coderepository. Anthropic testte ook verschillende manieren van aansturen: een vrije opdracht om zelf teams te vormen, een opdracht met vaste rollen (programmeren, vormgeving, testen) en een variant met één 'CEO-agent' die de rest aanstuurde. Het maakte weinig verschil. In alle gevallen was het eindresultaat matig: de spellen draaiden niet soepel, de interface was onbegrijpelijk en nieuwe spelers hadden geen idee waar te beginnen. Agents blijken op dit moment simpelweg geen goede smaak te hebben voor productontwerp en hebben nog altijd sturing van mensen nodig.

Nieuwere modellen werken beter samen

Opvallend was wel het verschil tussen modelgeneraties. Anthropic hield bij welk deel van de pull requests - voorstellen voor codewijzigingen - werd geaccepteerd, en hoeveel code agents met elkaar deelden. Bij oudere modellen als Sonnet 4.6 en Opus 4.6 werkten agents wel in dezelfde bestanden, maar liepen hun wijzigingen voortdurend tegen elkaar aan: veel voorstellen werden nooit goedgekeurd. Nieuwere modellen, met name Sonnet 5, combineerden een hoog percentage geaccepteerde wijzigingen mét actieve samenwerking in gedeelde bestanden. Anthropic waarschuwt dat dit soort experimenten nog maar het begin zijn. Agents kunnen net als mensen reward hacking vertonen of confabuleren - dingen verzinnen die niet kloppen - en kleine individuele fouten kunnen optellen tot onverwachte problemen op systeemniveau. Nu instituties, markten en codebases in toenemende mate draaien op interacties tussen AI-agents onderling, wil het bedrijf dat er meer onderzoek komt naar hoe die interacties goed verlopen voordat dit op grote schaal gebeurt.