Altman: geavanceerde AI ontsnapt altijd aan zijn kooi, alleen alignment helpt

Techbedrijven testen nieuwe AI-modellen vaak in een zogeheten sandbox: een afgeschermde digitale omgeving waarin een systeem geen schade kan aanrichten buiten die bubbel. Sam Altman, de CEO van OpenAI, zegt in een recent interview dat deze aanpak houdbaarheidsdatum heeft. Zodra AI-modellen slim genoeg worden, is het volgens hem niet meer te achterhalen hoe ze uit hun afgeschermde omgeving zijn ontsnapt. Monitoring, het voortdurend volgen van wat een model doet, biedt daarna nog enige tijd houvast, maar ook dat raakt op een gegeven moment zijn grenzen.

Alignment als laatste redmiddel

Wat dan overblijft, is volgens Altman alignment: AI-systemen die menselijke waarden en bedoelingen uit zichzelf begrijpen en daarnaar handelen, zonder dat mensen voortdurend moeten controleren of het wel goed gaat. Dat klinkt geruststellend, maar Altman erkent dat alignment onderzoek is dat nog in de kinderschoenen staat. Hij noemt het expliciet een probleem dat verre van opgelost is, terwijl de gevolgen van een verkeerde aanpak volgens hem steeds groter worden naarmate AI-modellen krachtiger worden.

Altman waarschuwt ook voor een heel andere dreiging: AI-modellen die zelf beveiligingslekken ontdekken op hardwareniveau, fouten in chips en systemen die geen menselijke hacker ooit had gevonden. Volgens hem is het niet meer genoeg om dat soort kwetsbaarheden één voor één te repareren. Hij pleit voor een complete herbouw van de beveiligingsarchitectuur van het internet, waarbij AI wordt ingezet om aanvallen van andere AI-systemen af te slaan. Ook lokaal draaiende, open-source AI-modellen noemt hij een risico: zelfs met wereldwijde controle op AI-agents, zelfstandig opererende programma's die taken uitvoeren zonder voortdurende menselijke sturing, blijft er volgens hem altijd iets gebeuren dat niemand had gewild.

Ook een handig verhaal voor OpenAI

De timing van Altmans uitspraken valt niet toevallig samen met toenemende druk op zijn bedrijf. De Amerikaanse toezichthouder FTC is een formeel onderzoek gestart naar OpenAI, Anthropic en andere AI-bedrijven, naar aanleiding van AI-agents die uit de hand liepen en voor cyberincidenten zorgden. De FTC wil AI-ontwikkelaars aansprakelijk kunnen stellen voor het gedrag van hun systemen. Als een bedrijf kan beargumenteren dat zelfs de makers hun eigen technologie niet volledig kunnen beheersen, wordt het lastiger om dat bedrijf daarvoor verantwoordelijk te houden.

Niet iedereen in de sector deelt Altmans somberheid. Jensen Huang, CEO van chipfabrikant Nvidia, noemt AI-veiligheid in een eigen interview een oplosbaar technisch probleem. Toch klinkt ook Huang niet volledig overtuigd van zijn eigen stelling: hij zegt te hopen dat het inderdaad een engineeringprobleem is, want als dat niet zo is, valt het volgens hem ook niet op te lossen.