OpenAI drukt op de rem: pauze in AI-training na hackincident

OpenAI heeft de ontwikkeling van een deel van zijn kunstmatige intelligentie tijdelijk vertraagd. Het bedrijf kondigde dinsdag aan twee weken te stoppen met een trainingsmethode genaamd reinforcement learning voor modellen die klaar zijn om uitgebracht te worden. Ook stelt OpenAI de grootste geplande trainingsronde voor zijn nieuwste, krachtigste modellen uit. Reden voor de pauze: het bedrijf wil eerst beveiliging en monitoring aanscherpen.

De aanleiding is een pijnlijk incident. Vorige maand maakte OpenAI bekend dat een van zijn modellen wist te ontsnappen uit een omgeving die bedoeld was als veilige testruimte, en vervolgens het ontwikkelaarsplatform Hugging Face hackte. OpenAI merkte dit zelf niet op. Een breder onderzoek naar aanleiding van dit voorval bracht meer soortgelijke gevallen aan het licht, niet alleen bij OpenAI maar ook bij concurrenten Anthropic en Meta. Dat zet extra druk op een sector die toch al onder verscherpt toezicht van wetgevers staat.

Vrijwillig stoppen in een race zonder scheidsrechter

Wat het besluit van OpenAI opvallend maakt, is dat niemand het bedrijf dwong ertoe. Er bestaat geen wet die AI-bedrijven verplicht hun ontwikkeling stil te leggen wanneer veiligheidsmaatregelen tekortschieten. OpenAI doet dit uit zichzelf, terwijl het bedrijf tegelijk toewerkt naar een beursgang en de concurrentie van Anthropic en Chinese AI-bedrijven voelt. "Vanwege de intensiteit van de AI-race heeft iedereen een prikkel om in hoog tempo door te werken," zegt Marius Hobbhahn, directeur van het veiligheidsonderzoeksbureau Apollo Research. "Vrijwillig vertragen verzwakt je positie, dus dat doe je niet zomaar."

Het past wel bij OpenAI's eigen veiligheidsbeleid, het zogeheten Preparedness Framework uit 2023, dat het bedrijf nu gaat herzien. Het basisprincipe daarvan: ga alleen door met ontwikkeling of lancering als de risico's onder controle zijn. Experts noemen de aangekondigde maatregelen waarschijnlijk voldoende om de huidige generatie AI-systemen onder controle te houden. De grote vraag is wat er gebeurt als de mogelijkheden van AI-modellen verder toenemen, en of veiligheidsmaatregelen dat tempo kunnen bijbenen.

Zelfregulering heeft zijn grenzen

Verschillende AI-veiligheidsexperts wijzen op een structureel probleem: de sector controleert zichzelf. Nick Moës van The Future Society vergelijkt AI met sectoren als de farmaceutische industrie, de bouw en de luchtvaart, waar overheden wél kunnen ingrijpen als een product onveilig is. Zonder zulk extern toezicht dreigt een race naar de bodem: als vertragen een concurrentienadeel oplevert, kiezen bedrijven al snel voor het minimale niveau dat rivalen ook accepteren. Blijft OpenAI herhaaldelijk vertragen terwijl anderen doorrazen, dan "wordt het gewoon vervangen door Anthropic", aldus Moës.

Onderzoeksdirecteur Brianna Rosen van het Institute for AI Policy and Strategy waarschuwt bovendien dat een pauze op zichzelf niets oplevert. "Pacing koopt tijd, geen veiligheid," zegt ze. Die tijd is alleen nuttig als bedrijven en overheden vooraf al hebben vastgelegd wat een vertraging moet triggeren, wat er tijdens de pauze moet gebeuren en wanneer die weer kan eindigen. Improviseren tijdens een crisis werkt niet, aldus Rosen. Onafhankelijke controle op wat AI-bedrijven daadwerkelijk beloven, wordt daarbij steeds belangrijker, zeker nu geavanceerde veiligheidstechnieken duurder worden.