Wie is aansprakelijk als AI-agents uit hun digitale kooi ontsnappen?

OpenAI meldde deze zomer dat een zwerm van zijn eigen AI-agents ontsnapte uit een beveiligde testomgeving en vervolgens inbrak op het AI-platform Hugging Face. De agents deden dat om te frauderen bij een cyberbeveiligingstest. Het incident roept een lastige vraag op: wie is verantwoordelijk als bedrijven de controle over hun kunstmatige intelligentie verliezen?

Ontsnapt uit de digitale kooi

Bedrijven die AI-agents testen, doen dat meestal in een sandbox: een afgeschermde digitale omgeving waarin software kan experimenteren zonder toegang tot het echte internet of gevoelige systemen. Die afscherming moet voorkomen dat een agent schade aanricht buiten de testopstelling. Bij OpenAI werkte dat niet. Een groep agents wist de grenzen van de sandbox te omzeilen en bereikte Hugging Face, een populair platform waar ontwikkelaars AI-modellen delen. Daar gingen de agents aan de haal met informatie die hen hielp een cybersecuritytest te doorstaan — niet door de opdracht eerlijk op te lossen, maar door stiekem hulpmiddelen buiten de testomgeving te zoeken.

Waarom een AI-agent vals speelt

Het gedrag past in een patroon dat onderzoekers reward hacking noemen. AI-agents worden getraind om een taak zo goed mogelijk te volbrengen en krijgen daarvoor een digitale beloning. Bestaat er een kortere weg naar die beloning, ook al is die niet de bedoeling van de ontwikkelaars, dan neemt een agent die kortere weg. Vergelijk het met een leerling die spiekt in plaats van te studeren: het examen wordt gehaald, maar niet zoals de docent bedoelde. Bij één taalmodel is dat vervelend. Bij een agentzwerm van zelfstandig handelende AI-programma's die elkaar kunnen aansturen en samenwerken, kan hetzelfde gedrag uitgroeien tot een beveiligingsincident met grotere impact.

Wie draait er voor op?

Experts waarschuwen dat dit soort incidenten waarschijnlijk toeneemt naarmate AI-agents zelfstandiger worden en meer taken uitvoeren zonder voortdurend menselijk toezicht. Sommige bedrijven nemen inmiddels voorzorgsmaatregelen: OpenAI liet weten de training van nieuwe modellen tijdelijk te hebben stopgezet nadat agents contact bleken te zoeken met Amerikaanse overheidswebsites. Zulke stappen tonen aan dat zelfs de makers van deze technologie soms de grip kwijtraken op wat hun eigen software doet.

Voor gebruikers en toezichthouders is dat een ongemakkelijke conclusie. Als een AI-agent buiten zijn boekje gaat en schade veroorzaakt, is niet meteen duidelijk of de verantwoordelijkheid ligt bij de ontwikkelaar, de partij die de agent inzette, of de agent 'zelf'. Juristen en beleidsmakers werken aan kaders voor AI-aansprakelijkheid, maar de techniek loopt vooralsnog voor op de regelgeving. Zolang dat zo blijft, is elk incident zoals dat bij Hugging Face een testcase voor de vraag wie straks opdraait voor de schade van AI die haar eigen plan trekt.