Wetenschappers stellen indeling voor om AI-agents beter te reguleren

AI-agents zijn programma's die niet simpelweg een vraag beantwoorden, maar zelfstandig stappen zetten om een doel te bereiken: een reis boeken, code schrijven of e-mails afhandelen zonder dat een mens elke handeling goedkeurt. Doordat deze agentic AI steeds vaker wordt ingezet, groeit ook de roep om goede regelgeving. Het probleem is dat 'een AI-agent' een containerbegrip is: een simpele chatbot die een tabel invult verschilt fundamenteel van een systeem dat zelfstandig een heel bedrijfsproces aanstuurt. Eén uniforme wet voor alle AI-agents dreigt daardoor tekort te schieten.

Vier dimensies om AI-agents te meten

Om dit probleem aan te pakken, stellen de onderzoekers voor om AI-agents te beoordelen op vier aparte dimensies. De eerste is autonomie: hoeveel beslissingen neemt het systeem zonder tussenkomst van een mens? De tweede is efficacy, oftewel de daadwerkelijke impact die een agent kan hebben op de echte wereld, bijvoorbeeld door geld uit te geven of berichten te versturen. De derde dimensie is doelcomplexiteit: gaat het om een eenvoudige, nauw omschreven taak of om een vaag, open doel waarbij het systeem zelf moet uitzoeken welke tussenstappen nodig zijn? De vierde dimensie is generaliteit: is de agent gespecialiseerd in één taak, of kan hij worden ingezet voor uiteenlopende opdrachten, vergelijkbaar met een menselijke assistent?

Voor elke dimensie stellen de auteurs verschillende gradaties voor, van laag tot hoog. Een simpele spamfilter scoort bijvoorbeeld laag op alle vier de assen, terwijl een systeem dat zelfstandig financiële transacties uitvoert op basis van vage instructies juist hoog scoort op autonomie, efficacy en doelcomplexiteit.

Agentprofielen als hulpmiddel voor regelgeving

Door de vier dimensies te combineren, ontstaan wat de onderzoekers 'agentprofielen' noemen: karakteriseringen van een AI-systeem die in één oogopslag laten zien hoe risicovol of ingrijpend het is. Zo'n profiel helpt bij het beantwoorden van praktische vragen. Moet een gebruiker expliciet toestemming geven voordat een agent een handeling uitvoert? Wie is aansprakelijk als een zelfstandig opererend systeem schade veroorzaakt? En hoeveel AI-guardrails, oftewel ingebouwde veiligheidsgrenzen, zijn nodig voordat een systeem op de markt mag komen?

Volgens de onderzoekers is dit soort gelaagde analyse nodig omdat huidige regelgeving, zoals de Europese AI-verordening, vooral is gebouwd rond risicoklassen voor hele toepassingscategorieën. Agentprofielen bieden een fijnmaziger alternatief, dat rekening houdt met de enorme spreiding tussen eenvoudige taakassistenten en breed inzetbare, sterk autonome systemen. Het raamwerk is bedoeld als gereedschap voor developers die hun systeem willen classificeren, voor toezichthouders die passende regels willen opstellen, en voor het bredere publiek dat wil begrijpen wat een AI-agent eigenlijk kan en mag.

De auteurs benadrukken dat hun indeling geen kant-en-klare wetgeving is, maar een gemeenschappelijke taal. Die moet voorkomen dat discussies over AI-regulering vastlopen doordat mensen het over heel verschillende soorten systemen hebben zonder dat te beseffen.