Aanpasbare toezichtstructuur: toezicht dat meegroeit met AI
Stel je een dijk voor met sluizen die niet vast openstaan, maar automatisch verder dichtgaan zodra het water stijgt. Bij laag water is er weinig weerstand nodig; bij hoogwater sluiten extra kleppen zich vanzelf, zonder dat iemand telkens een nieuwe wet moet maken. Een aanpasbare toezichtstructuur werkt volgens hetzelfde idee, maar dan voor kunstmatige intelligentie: een stelsel van regels, drempelwaarden en bevoegdheden dat vooraf is afgesproken en dat automatisch strenger wordt naarmate een AI-systeem krachtiger of risicovoller wordt.
Het begrip duikt op in discussies over hoe bedrijven, toezichthouders en onderzoekers grip willen houden op AI-systemen die razendsnel beter worden. In plaats van één keer een vast regelboek te schrijven dat na een paar jaar alweer verouderd is, proberen ontwerpers van zo'n structuur vooraf te bepalen: bij welk soort gedrag of vermogen van een AI-systeem moet er méér controle, extra goedkeuring of zelfs een noodstop komen? Dat maakt toezicht minder een momentopname en meer een systeem dat meegroeit met de technologie.
Wat is het precies?
Een aanpasbare toezichtstructuur bestaat meestal uit drie bouwstenen. Ten eerste een manier om het risiconiveau van een AI-systeem te meten, bijvoorbeeld hoe goed het is in het schrijven van schadelijke code, het geven van advies over gevaarlijke stoffen, of het zelfstandig nemen van beslissingen zonder mensen te raadplegen.
Ten tweede vooraf afgesproken drempelwaarden: punten waarop het gemeten risiconiveau een reactie moet uitlokken. Dit worden vaak "if-then commitments" genoemd, kortweg: als dit gebeurt, dan volgt die maatregel. Denk aan verplichte externe controle, zwaardere beveiliging van de servers waarop het model draait, of het tijdelijk stopzetten van verdere ontwikkeling.
Ten derde een bevoegdheidsstructuur: wie mag ingrijpen als een drempel wordt overschreden? Dat kan een interne veiligheidscommissie zijn, een onafhankelijke stichting met zeggenschap over het bestuur, of een overheidsinstantie die een vergunning kan intrekken. Het bijzondere is dat de macht van die partijen vaak is ontworpen om toe te nemen naarmate het onderliggende risico toeneemt, in plaats van vanaf het begin vastgezet te zijn.
Dit soort structuren combineert dus organisatiekunde (wie heeft de macht), techniek (hoe meet je vermogen en risico) en regelgeving (welke wettelijke consequenties volgen). Het is geen enkel apparaat of algoritme, maar een ontwerp voor besluitvorming.
Wat wil men ermee bereiken?
De achterliggende zorg is dat AI-ontwikkeling twee kanten op kan mislopen. Regels die meteen heel streng zijn, kunnen onderzoek en nuttige toepassingen onnodig afremmen. Regels die eenmalig zijn vastgesteld en daarna niet meebewegen, kunnen juist te los blijven staan terwijl systemen ondertussen veel krachtiger worden. Een aanpasbare structuur probeert dat midden te vinden: licht toezicht bij lage risico's, automatisch zwaarder toezicht zodra dat nodig blijkt.
Een tweede doel is het voorkomen van een zogeheten "race naar de bodem": als het ene AI-bedrijf voorzichtig is en het andere niet, wint vaak de onvoorzichtige partij marktaandeel. Door vooraf publieke, meetbare afspraken te maken over wanneer een pauze of extra controle verplicht is, hopen bedrijven en toezichthouders elkaar makkelijker aan zulke afspraken te kunnen houden, ook onder concurrentiedruk.
Ten slotte hopen bedrijven met zo'n structuur vertrouwen te winnen bij medewerkers, investeerders en het publiek: een belofte als "we stoppen zodra dit gevaarlijk wordt" is overtuigender als vooraf helder is omschreven wat "gevaarlijk" precies betekent en wie dat mag vaststellen.
Voorbeelden uit de praktijk
Het AI-bedrijf Anthropic publiceerde in september 2023 zijn Responsible Scaling Policy, met daarin "AI Safety Levels" (ASL) die qua opzet doen denken aan biologische veiligheidsniveaus in laboratoria. Bij elk hoger niveau horen strengere eisen aan beveiliging en toezicht voordat een model mag worden getraind of uitgebracht. Daarnaast richtte Anthropic een Long-Term Benefit Trust op: een groep onafhankelijke trustees zonder eigen financieel belang, die geleidelijk meer invloed krijgen op de samenstelling van het bestuur.
OpenAI kwam in december 2023 met een vergelijkbaar Preparedness Framework, met risicocategorieën als cyberbeveiliging, biologische en chemische dreigingen, en de mate van zelfstandigheid van een model. Ook hier zijn drempelwaarden gekoppeld aan concrete vervolgstappen.
Google DeepMind volgde in mei 2024 met een eigen Frontier Safety Framework, gebaseerd op zogeheten "critical capability levels": grenzen waarbij extra beveiligingsmaatregelen verplicht worden.
Een bekend, en veelbesproken, praktijkvoorbeeld van hoe zo'n structuur in de praktijk functioneert (en onder druk komt te staan) was de gebeurtenis bij OpenAI in november 2023, toen de destijds non-profit bestuursraad topman Sam Altman ontsloeg wegens gebrek aan vertrouwen, waarna hij enkele dagen later, na grote druk van personeel en investeerders, alsnog werd teruggehaald met een vernieuwd bestuur. Dit liet zien dat een toezichtsorgaan weliswaar formele macht kan hebben, maar dat die macht in de praktijk kan worden overruled door andere belangen.
Ook op regelgevend niveau bestaat het principe: de Europese AI-verordening (AI Act), die in augustus 2024 in werking trad, deelt AI-toepassingen in risicoklassen in (onaanvaardbaar, hoog, beperkt en minimaal risico) en biedt de mogelijkheid om via aanvullende regelgeving bij te sturen als nieuwe risico's opduiken.
Hoe ver is de techniek?
Het gaat hier niet om techniek in de zin van een apparaat, maar om een organisatorisch en juridisch ontwerp, en dat bevindt zich nog in een vroege, grotendeels vrijwillige fase. De meeste bestaande frameworks zijn zelf opgelegde bedrijfsafspraken, niet afdwingbaar door een onafhankelijke rechter of toezichthouder.
Op de internationale AI Safety Summit in Seoul, in mei 2024, ondertekenden zestien grote AI-bedrijven de zogenoemde Frontier AI Safety Commitments, waarin ze toezeggen dit soort drempelgebaseerde veiligheidskaders te publiceren en te onderhouden. Dit volgde op de eerste top van dit type in Bletchley Park, VK, in november 2023, waar ongeveer 28 landen de "Bletchley Declaration" tekenden over de risico's van geavanceerde AI.
Een belangrijk obstakel is dat de gebruikte begrippen vaak lastig objectief te meten zijn. Hoe bepaal je precies wanneer een model "te overtuigend" of "te zelfstandig" is geworden? Zonder heldere, herhaalbare metingen blijft de drempel voor een deel een kwestie van interpretatie door het bedrijf zelf.
Er zijn ook tegenslagen geweest. OpenAI richtte in juli 2023 een "Superalignment"-team op, met als doel binnen vier jaar technieken te ontwikkelen waarmee mensen ook AI-systemen kunnen controleren die slimmer zijn dan zijzelf, een onderzoeksrichting die nauw verbonden is met aanpasbaar toezicht. Dit team viel in mei 2024 uit elkaar na het vertrek van onder meer onderzoekers Jan Leike en Ilya Sutskever, die publiekelijk twijfels uitten of veiligheid binnen het bedrijf voldoende prioriteit kreeg. Dat voorbeeld laat zien dat het maken van een structuur op papier iets anders is dan het in de praktijk laten werken.
Daarnaast zijn overheden zelf pas net begonnen met het opbouwen van onafhankelijke controlecapaciteit: het Britse AI Safety Institute (aangekondigd bij de Bletchley-top) en het Amerikaanse AI Safety Institute, ondergebracht bij het National Institute of Standards and Technology (NIST), moeten nog verder groeien voordat ze grondig en onafhankelijk geavanceerde modellen kunnen doorlichten.
Wie werken eraan?
Onder de AI-ontwikkelaars lopen Anthropic, OpenAI en Google DeepMind (alle drie met hoofdvestigingen in de Verenigde Staten, DeepMind ook met wortels in het Verenigd Koninkrijk) voorop met eigen, gepubliceerde toezichtkaders. Op onderzoeksgebied houdt het Centre for the Governance of AI (GovAI), verbonden aan Oxford en met onderzoekers als Allan Dafoe, zich bezig met de theorie achter dit soort aanpasbare governance.
Op overheidsniveau zijn het Verenigd Koninkrijk en de Verenigde Staten voortrekkers met hun AI Safety Institutes, terwijl de Europese Unie met de AI Act een van de eerste wettelijke, risicogebaseerde kaders heeft neergezet. De Organisatie voor Economische Samenwerking en Ontwikkeling (OESO) volgt en vergelijkt beleid van lidstaten via het platform OECD.AI. Internationale toppen, van Bletchley Park (2023) via Seoul (2024) tot Parijs (2025), bieden een terugkerend podium waarop landen en bedrijven hun afspraken over dit soort toezicht bijstellen en aanscherpen.