AI-veiligheidsonderzoek: hoe voorkomen we dat kunstmatige intelligentie misgaat?
Stel je voor dat je een extreem getalenteerde stagiair aanneemt die sneller leert dan wie ook, maar die je nooit helemaal kunt doorgronden. Hij doet precies wat je vraagt, maar soms op een manier die je niet bedoelde: vraag hem "maak deze taak zo snel mogelijk af" en hij knipt misschien bochten af die je liever had opengelaten. AI-veiligheidsonderzoek is het vakgebied dat probeert te begrijpen hoe zulke systemen "denken", hoe je voorkomt dat ze schade aanrichten, en hoe je ze zo bouwt dat ze doen wat mensen daadwerkelijk bedoelen.
Het gaat dus niet over robots die de wereld willen overnemen, zoals in sciencefiction. Het gaat over praktische vragen: hoe zorg je dat een chatbot geen instructies geeft voor het maken van wapens, dat een zelfrijdende auto niet faalt bij onverwachte situaties, of dat een taalmodel niet stiekem verkeerde informatie verzint en die met overtuiging presenteert? Naarmate AI-systemen krachtiger en zelfstandiger worden, groeit het belang van dit onderzoek, en groeit ook de onzekerheid over hoe goed we deze systemen eigenlijk in de hand hebben.
Wat is het precies?
AI-veiligheidsonderzoek is geen enkele techniek, maar een verzameling van onderzoeksrichtingen die elk een ander deel van het probleem aanpakken.
Alignment (uitlijning) is het overkoepelende doel: ervoor zorgen dat de doelen en het gedrag van een AI-systeem overeenkomen met wat mensen daadwerkelijk willen, niet alleen met wat er letterlijk gevraagd is. Dit klinkt simpel, maar is lastig omdat menselijke waarden vaag, tegenstrijdig en context-afhankelijk zijn.
RLHF (reinforcement learning from human feedback, oftewel versterkend leren op basis van menselijke feedback) is een concrete techniek die hierbij helpt. Mensen beoordelen antwoorden van een AI-model als goed of slecht, en het model wordt bijgestuurd om vaker de gewaardeerde antwoorden te geven. Dit is de techniek waarmee bijvoorbeeld ChatGPT en Claude zijn getraind om behulpzamer en minder schadelijk te reageren dan een ruw taalmodel dat alleen tekst voorspelt.
Red-teaming betekent dat onderzoekers doelbewust proberen een AI-systeem te "breken": ze zoeken naar slimme omwegen (zogeheten jailbreaks) waarmee het systeem toch schadelijke inhoud produceert, ondanks ingebouwde beperkingen. Dit werkt als een soort stresstest, vergelijkbaar met hoe beveiligingsonderzoekers proberen in te breken in software om zwakke plekken te vinden voordat kwaadwillenden dat doen.
Interpretability (interpreteerbaarheid, ook wel mechanistische interpreteerbaarheid) probeert te achterhalen wat er daadwerkelijk gebeurt in de "black box" van een neuraal netwerk: welke interne patronen of "concepten" activeren wanneer het model een bepaald antwoord geeft. Het idee is dat je een systeem pas echt kunt vertrouwen als je begrijpt waarom het doet wat het doet, in plaats van alleen te zien wat er aan de buitenkant uitkomt.
Tot slot is er robustness (robuustheid): hoe goed een systeem blijft functioneren bij onverwachte of vreemde input, zoals een afbeelding die net iets anders is dan waarop het model getraind is, of een gebruiker die met opzet verwarrende taal gebruikt.
Wat wil men ermee bereiken?
De kernbelofte van AI-veiligheidsonderzoek is dat we de voordelen van krachtige AI kunnen benutten zonder de risico's ervan te lopen. Op de korte termijn gaat dat om concrete, alledaagse problemen: modellen die geen desinformatie verspreiden, geen discriminerende beslissingen nemen, geen gevaarlijke technische kennis (bijvoorbeeld over biologische of chemische wapens) toegankelijk maken, en niet manipuleerbaar zijn door kwaadwillenden.
Op de langere termijn richt een deel van het veld zich op een fundamenteler probleem: wat gebeurt er als AI-systemen zo capabel worden dat ze mensen overtreffen in het bedenken van strategieën, en hoe zorgen we dan dat zulke systemen onder menselijke controle blijven? Dit is een omstreden vraag. Sommige onderzoekers vinden dit een urgent risico dat nu al aandacht verdient, anderen vinden dat het aandacht afleidt van de meer directe, huidige schade van AI-systemen. Beide kampen erkennen wel dat we nog geen betrouwbare manier hebben om te meten of een AI-systeem "veilig genoeg" is, laat staan om dat te garanderen.
Voorbeelden uit de praktijk
Constitutional AI (Anthropic, 2022): een trainingsmethode waarbij een AI-model zichzelf leert bijsturen aan de hand van een set geschreven principes (een soort "grondwet"), in plaats van uitsluitend te leunen op grote hoeveelheden menselijke beoordelingen. Dit moest het trainingsproces schaalbaarder en transparanter maken.
CAIS Statement on AI Risk (mei 2023): het Center for AI Safety publiceerde een kort statement waarin honderden AI-onderzoekers en bestuurders, waaronder leidinggevenden van OpenAI en Google DeepMind, stelden dat het beperken van existentiële risico's van AI een mondiale prioriteit zou moeten zijn, naast risico's als pandemieën en kernoorlog. De ondertekening door zoveel prominente namen zorgde voor veel aandacht, al bleef het bij een verklaring van intentie, zonder concrete afdwingbare maatregelen.
AI Safety Summit in Bletchley Park (november 2023): het Verenigd Koninkrijk organiseerde de eerste grote internationale top specifiek over AI-veiligheid, met vertegenwoordigers van onder meer de VS, de EU en China. Dit leidde tot de "Bletchley Declaration", een niet-bindende internationale verklaring over de risico's van geavanceerde AI, en gaf een impuls aan de oprichting van nationale AI-veiligheidsinstituten.
Opheffing van OpenAI's Superalignment-team (2024): OpenAI kondigde in 2023 een intern team aan dat zich specifiek moest richten op het beheersbaar houden van toekomstige, zeer krachtige AI. In 2024 vertrokken de leiders van dit team, waaronder medeoprichter Ilya Sutskever, en werd het team ontbonden. Dit voorval wordt door critici vaak aangehaald als voorbeeld van spanning tussen commerciële productdruk en veiligheidsonderzoek binnen AI-bedrijven.
International AI Safety Report (2025): onder leiding van AI-onderzoeker Yoshua Bengio bracht een internationaal team van wetenschappers, op verzoek van meerdere overheden, een uitgebreid rapport uit over de stand van kennis rond AI-risico's. Het rapport benadrukte vooral hoeveel wetenschappelijke onzekerheid er nog bestaat, en werd gepresenteerd rond een internationale AI-top in Parijs.
Hoe ver is de techniek?
AI-veiligheidsonderzoek staat, in vergelijking met de AI-modellen zelf, nog in een relatief vroege fase. Technieken als RLHF en red-teaming worden inmiddels op grote schaal in de industrie toegepast en verminderen aantoonbaar de kans op ongewenst gedrag, maar ze zijn geen waterdichte oplossing: gebruikers vinden regelmatig nieuwe manieren om beveiligingen te omzeilen, en modellen "hallucineren" nog altijd, oftewel ze presenteren verzonnen informatie met volle overtuiging.
Interpretability-onderzoek boekt vooruitgang, bijvoorbeeld doordat onderzoekers erin slagen specifieke interne "concepten" in grote taalmodellen te identificeren en zelfs actief te beïnvloeden, maar dit gebeurt vooralsnog vooral op kleinere onderdelen van modellen. Een volledig begrip van hoe grote, moderne AI-modellen intern tot hun antwoorden komen, bestaat nog niet.
Een fundamenteel obstakel is dat er geen breed gedragen, meetbare definitie van "aligned" of "veilig" bestaat. Verschillende onderzoeksgroepen en bedrijven hanteren eigen benchmarks en tests, wat vergelijking lastig maakt en het risico met zich meebrengt dat systemen worden geoptimaliseerd om tests te doorstaan zonder dat onderliggende risico's echt zijn weggenomen. Daarnaast verloopt de ontwikkeling van AI-capaciteiten doorgaans sneller dan het veiligheidsonderzoek, wat door veel onderzoekers als een zorgwekkende mismatch wordt gezien.
Wie werken eraan?
Bij de grote AI-bedrijven hebben zowel OpenAI, Anthropic als Google DeepMind interne veiligheidsteams die onderzoek doen naar alignment, interpretability en red-teaming, al verschilt de nadruk: Anthropic profileert zich expliciet als bedrijf dat veiligheid als kernmissie heeft, terwijl OpenAI en Google DeepMind veiligheidsonderzoek combineren met snelle productontwikkeling.
Daarnaast bestaan er gespecialiseerde non-profitorganisaties die geen eigen commerciële AI-producten bouwen, zoals het Machine Intelligence Research Institute (MIRI), dat zich al sinds de vroege jaren 2000 richt op theoretisch onderzoek naar de langetermijnrisico's van zeer geavanceerde AI, en het Center for AI Safety en het Future of Life Institute, die naast onderzoek ook publieke bewustwording en beleidsadvisering als doel hebben.
Op overheidsniveau zijn sinds 2023 en 2024 in meerdere landen aparte AI Safety Institutes opgericht, waaronder in het Verenigd Koninkrijk en in de Verenigde Staten (het laatste ondergebracht bij het National Institute of Standards and Technology, NIST). Deze instituten testen AI-modellen onafhankelijk van de bedrijven die ze bouwen en adviseren overheden over regelgeving. De Europese Unie koos een andere route met de AI Act, een wettelijk kader dat AI-toepassingen indeelt naar risiconiveau en voor de meest risicovolle toepassingen verplichtingen oplegt. Ook landen als Japan en Singapore hebben eigen initiatieven op dit gebied opgezet.