AI-agents dreigen overheidsloketten te overspoelen, blijkt uit onderzoek

Een team van onderzoekers, onder wie Chris Schmitz en Lewis Hammond, bracht 84 mogelijke gevallen in kaart waarbij overheidsdiensten in elf landen te maken kregen met een plotselinge stroom aan aanvragen die vermoedelijk (mede) door AI-taalmodellen zijn opgesteld. De onderzoekers noemen dit fenomeen 'agentic flooding': een golf van verzoeken die ontstaat doordat large language models het voor burgers ineens veel makkelijker en goedkoper maken om formulieren in te vullen, bezwaar te maken of beleidsstukken te doorgronden. Het onderzoek verschijnt in oktober op de AAAI-conferentie over AI, ethiek en samenleving.

Van hulpmiddel tot overbelasting

Dat AI mensen helpt bij ingewikkelde overheidszaken is op zich positief, stellen de auteurs. Iemand die worstelt met een uitkeringsaanvraag of een ingewikkeld belastingformulier kan met een chatbot net dat steuntje in de rug krijgen dat nodig is. Het probleem ontstaat wanneer duizenden mensen tegelijk gebruikmaken van diezelfde mogelijkheid, terwijl de achterliggende overheidsdienst nog is ingericht op een veel kleiner aantal aanvragen per dag. Ambtenaren die aanvragen handmatig beoordelen, kunnen de instroom dan niet meer bijbenen, met vertraging en fouten tot gevolg.

Welke diensten lopen het meeste risico?

De onderzoekers ontwikkelden een risicomatrix om te bepalen welke overheidsdiensten het kwetsbaarst zijn. Daaruit blijkt dat vooral diensten die financieel aantrekkelijk zijn voor de aanvrager, maar tegelijk complex om te beoordelen, op korte termijn het grootste risico lopen. Denk aan subsidieregelingen, belastingvoordelen of uitkeringen waarbij een goed geformuleerde aanvraag het verschil kan maken tussen wel of geen geld. Omdat agentic AI steeds beter wordt in het zelfstandig doorlopen van meerstaps-processen, verwachten de onderzoekers dat dit risico de komende jaren toeneemt: agents kunnen straks niet alleen teksten opstellen, maar ook formulieren invullen en volgen of een aanvraag is verwerkt.

Hoe kunnen overheden reageren?

Het rapport zet op een rij welke maatregelen overheden kunnen nemen. Historische voorbeelden, zoals eerdere golven van geautomatiseerde bezwaarschriften, laten zien dat de meeste vormen van overbelasting uiteindelijk wel te stoppen zijn. De snelste oplossingen, zoals het invoeren van kosten of extra identificatie-eisen, werken vaak het best, maar maken diensten tegelijk minder toegankelijk voor mensen die de drempel toch al moeilijk overkomen. De auteurs pleiten daarom voor maatregelen die niet raken aan gelijke toegang, zoals het slimmer inrichten van digitale loketten en het vooraf testen of systemen bestand zijn tegen plotselinge pieken in AI-gegenereerde aanvragen. Daarmee hopen ze dat overheden zich kunnen voorbereiden voordat een golf van AI-hulp omslaat in een systeem dat vastloopt.