Langetermijnveiligheidsmonitoring: hoe houd je grip op steeds slimmere AI?
Stel je een verkeerstoren voor die niet alleen kijkt of een vliegtuig op dit moment veilig opstijgt, maar die ook jarenlang blijft volgen of het toestel na elke onderhoudsbeurt, software-update en uitbreiding nog steeds aan alle veiligheidseisen voldoet. Langetermijnveiligheidsmonitoring is precies dat, maar dan voor kunstmatige intelligentie: een verzameling methoden waarmee onderzoekers en bedrijven proberen te volgen of steeds krachtigere AI-systemen veilig blijven, ook wanneer ze na verloop van tijd capabeler worden, breder ingezet worden of zich anders gedragen dan verwacht.
Het begrip duikt steeds vaker op in discussies over 'frontier AI', de meest geavanceerde AI-modellen die grote techbedrijven ontwikkelen. Waar traditionele productveiligheid vaak stopt zodra een product is goedgekeurd, gaat het bij AI om een voortdurend proces: een taalmodel dat vandaag onschuldig lijkt, kan na een update ineens nieuwe vaardigheden hebben, bijvoorbeeld op het gebied van programmeren, overtuigen of het omzeilen van beperkingen. Langetermijnveiligheidsmonitoring probeert dat soort verschuivingen op tijd te signaleren, voordat ze tot schade leiden.
Wat is het precies?
Langetermijnveiligheidsmonitoring is geen los instrument, maar een combinatie van technieken die samen een soort vinger aan de pols houden bij AI-systemen. Een eerste bouwsteen is red-teaming: gespecialiseerde teams proberen op alle mogelijke manieren een AI-systeem te misleiden of te misbruiken, bijvoorbeeld door het te verleiden tot het geven van instructies voor wapens of het omzeilen van veiligheidsfilters. Zo ontdekken ontwikkelaars zwakke plekken voordat kwaadwillenden dat doen.
Een tweede bouwsteen zijn capability evaluations, oftewel capaciteitstests. Hierbij wordt systematisch gemeten wat een model wel en niet kan: kan het zelfstandig een cyberaanval uitvoeren, kan het helpen bij het ontwerpen van biologische wapens, of kan het zichzelf kopiëren naar andere servers zonder menselijke tussenkomst? Dat laatste heet autonome replicatie en geldt als een belangrijk alarmsignaal, omdat een systeem dat zichzelf kan verspreiden veel moeilijker onder controle te houden is.
Een derde, nog jonge tak is interpretability of mechanistische interpreteerbaarheid: onderzoek dat probeert te achterhalen wat er letterlijk 'binnenin' een AI-model gebeurt wanneer het een antwoord genereert. Grote taalmodellen bestaan uit miljarden aan elkaar gekoppelde rekenkundige knopen, en niemand begrijpt nog volledig waarom een model de ene zin genereert en niet de andere. Interpretability-onderzoek probeert dat schema te ontcijferen, een beetje zoals neurologen proberen te begrijpen welke hersengebieden actief zijn bij bepaald gedrag.
Daarnaast is er gedragsmonitoring in productie: zodra een AI-systeem eenmaal door miljoenen gebruikers wordt ingezet, houden bedrijven statistieken bij over ongewone patronen, misbruikpogingen en incidenten. Die gegevens voeden weer terug in nieuwe veiligheidstests. Tot slot publiceren steeds meer AI-labs zogeheten model cards of system cards: openbare documenten waarin ze uitleggen hoe een model getest is, welke risico's zijn gevonden en welke maatregelen zijn genomen. Dit is een vorm van transparantierapportage, vergelijkbaar met de bijsluiter van een medicijn.
Wat wil men ermee bereiken?
De kern van het doel is simpel te omschrijven, maar moeilijk uit te voeren: voorkomen dat de mensheid de controle verliest over systemen die zij zelf heeft gebouwd. Naarmate AI-modellen capabeler worden, groeit de zorg dat ze op een gegeven moment taken kunnen uitvoeren die aanzienlijke schade kunnen aanrichten, van het assisteren bij het maken van biologische of chemische wapens tot het zelfstandig hacken van kritieke infrastructuur.
Om dat behapbaar te maken, hebben verschillende bedrijven risiconiveaus ingevoerd. Anthropic, de maker van de Claude-modellen, werkt met zogeheten AI Safety Levels (ASL-1 tot en met ASL-4), geïnspireerd op de biosafety levels die in laboratoria worden gebruikt voor gevaarlijke ziekteverwekkers. Hoe hoger het niveau, hoe strenger de vereiste beveiligingsmaatregelen voordat een model mag worden vrijgegeven. OpenAI hanteert een vergelijkbaar systeem via zijn Preparedness Framework, waarin risico's op gebieden als cybersecurity, biologische dreigingen en overtuigingskracht worden beoordeeld voordat een nieuw model wordt uitgebracht.
Een ander doel is het opbouwen van vertrouwen bij toezichthouders, wetenschappers en het bredere publiek. Door onafhankelijke partijen toegang te geven tot modellen vóór release, hopen bedrijven aan te tonen dat ze niet alleen op hun eigen oordeel vertrouwen. Ten slotte wil men escalatiepaden vastleggen: als een model een bepaalde gevaarlijke drempel overschrijdt, moet vooraf duidelijk zijn welke stappen volgen, van extra beveiliging tot het volledig stopzetten van verdere ontwikkeling.
Voorbeelden uit de praktijk
Een aantal concrete initiatieven laat zien hoe dit veld zich de afgelopen jaren heeft ontwikkeld. Anthropic publiceerde in september 2023 zijn Responsible Scaling Policy, waarin het bedrijf vastlegde bij welke capaciteiten welke veiligheidsmaatregelen verplicht worden. OpenAI volgde in december 2023 met zijn Preparedness Framework, en Google DeepMind bracht in de loop van 2024 een eigen Frontier Safety Framework uit met vergelijkbare doelstellingen.
Een belangrijke onafhankelijke speler is METR (Model Evaluation and Threat Research, voorheen bekend als ARC Evals). Deze non-profitorganisatie test, los van de AI-bedrijven zelf, of nieuwe modellen van onder meer OpenAI en Anthropic in staat zijn tot risicovolle autonome taken, zoals het zelfstandig opzetten van infrastructuur of het uitvoeren van meerstaps cyberaanvallen. METR kreeg bijvoorbeeld voorafgaand toegang om GPT-4-gerelateerde en Claude-modellen te testen voordat deze breed werden uitgebracht.
Op internationaal niveau markeerde de AI Safety Summit in Bletchley Park (Verenigd Koninkrijk, november 2023) een keerpunt: voor het eerst spraken landen als de VS, China, de EU-lidstaten en tientallen andere landen gezamenlijk de Bletchley Declaration uit, waarin ze het belang van veiligheidsonderzoek naar frontier AI erkenden. Dit werd vervolgd door de Seoul AI Summit (mei 2024), waar grote AI-bedrijven vrijwillige 'Frontier AI Safety Commitments' ondertekenden, en de Paris AI Action Summit (februari 2025). Uit deze samenwerking kwam ook het International AI Safety Report voort, een wetenschappelijk overzicht van AI-risico's onder leiding van AI-onderzoeker Yoshua Bengio, met een eerste editie gepubliceerd begin 2025.
Hoe ver is de techniek?
Langetermijnveiligheidsmonitoring is een jong en snel veranderend vakgebied, en dat is meteen de belangrijkste kanttekening. Er bestaat nog geen wereldwijd gestandaardiseerde manier om AI-systemen te testen, en de meeste evaluaties worden ontwikkeld door de bedrijven zelf of door een handvol gespecialiseerde non-profitorganisaties die met beperkte middelen werken.
Interpretability, het begrijpen wat er 'binnenin' een model gebeurt, staat nog echt in de kinderschoenen. Onderzoekers kunnen inmiddels kleine onderdelen van modelgedrag verklaren, zoals welke interne signalen samenhangen met bepaalde concepten, maar een volledig begrip van waarom een groot taalmodel een specifiek antwoord geeft, ontbreekt vooralsnog. Dat maakt het lastig om met zekerheid te zeggen dat een systeem 'veilig' is, in plaats van dat het simpelweg nog geen gevaarlijk gedrag heeft vertoond in de tests die zijn uitgevoerd.
Ook op regelgevend vlak is het beeld gemengd. De EU AI Act, die in 2024 in werking trad met gefaseerde verplichtingen, stelt als eerste grote wetgeving ter wereld concrete eisen aan aanbieders van AI-modellen met een systeemrisico, waaronder verplichte risicobeoordelingen en incidentrapportage. In de meeste andere landen, waaronder de Verenigde Staten, is monitoring grotendeels nog vrijwillig en zelfregulerend: bedrijven bepalen zelf hun normen en publiceren daar op eigen initiatief over, zonder verplichte onafhankelijke audits. Critici wijzen erop dat dit een structureel probleem is, omdat bedrijven die onder commerciële druk staan om snel te lanceren, ook degene zijn die beslissen of hun eigen systeem veilig genoeg is.
Kortom: de technieken bestaan en worden steeds verfijnder, maar het veld mist nog de onafhankelijke handhaving en wetenschappelijke rijpheid die vergelijkbare disciplines, zoals geneesmiddelenveiligheid of luchtvaartveiligheid, na decennia hebben opgebouwd.
Wie werken eraan?
De grote AI-labs vormen de kern van dit veld: Anthropic, OpenAI, Google DeepMind en Meta AI hebben allemaal interne teams die zich specifiek bezighouden met het testen en monitoren van hun meest geavanceerde modellen. Daarnaast is een klein maar groeiend ecosysteem van onafhankelijke evaluatie-organisaties ontstaan, waaronder METR en Apollo Research, die gespecialiseerd zijn in het opsporen van misleidend of onveilig modelgedrag.
Op overheidsniveau heeft het Verenigd Koninkrijk het AI Safety Institute opgericht (inmiddels omgedoopt tot AI Security Institute), dat modellen test voordat ze breed beschikbaar komen. De Verenigde Staten richtten via het National Institute of Standards and Technology (NIST) een vergelijkbaar instituut op, waarvan de naam en precieze focus de afgelopen tijd zijn aangepast onder een nieuwe regering. De Europese Unie bouwt via het AI Office aan toezicht op de AI Act, en landen als Singapore en Japan ontwikkelen eigen kaders voor AI-veiligheidsevaluaties.
Ook de academische wereld speelt een rol: onderzoekers zoals Yoshua Bengio, verbonden aan het Canadese onderzoeksinstituut Mila, en groepen als het Machine Intelligence Research Institute (MIRI), Redwood Research en FAR AI dragen bij aan het wetenschappelijk fundament onder deze monitoringmethoden. De internationale AI Safety Summits, met deelname van tientallen landen, functioneren inmiddels als een terugkerend platform waar overheden, bedrijven en wetenschappers deze inspanningen proberen te coördineren.