OpenAI zet drie veiligheidsonderzoekers uit na lek, vierde vertrekt

OpenAI heeft drie onderzoekers ontslagen die vertrouwelijke bedrijfsinformatie zouden hebben gelekt aan een externe AI-veiligheidsorganisatie. Dat meldt The Wall Street Journal op basis van eigen onderzoek. Het gaat om Jasmine Wang, Tomek Korbak en Mikita Balesni, die allemaal werkten aan de veiligheid van OpenAI's AI-modellen.

Interne controle bevestigt schending

Een woordvoerder van OpenAI zegt dat een intern onderzoek heeft uitgewezen dat de drie zich niet hielden aan de regels voor het omgaan met gevoelige bedrijfsinformatie. Het bedrijf bevestigt de namen zelf niet, en het is niet duidelijk welke informatie precies naar welke organisatie is gelekt. Zulke regels vallen onder wat een bedrijfsgeheim heet: kennis die een bedrijf beschermt zonder die openbaar te maken via een patent.

Korbak werkte op het veiligheidsteam van OpenAI en was het directe aanspreekpunt voor twee externe organisaties: METR en Redwood Research. Beide groepen doen wat in de sector AI red teaming heet: ze proberen AI-systemen bewust te laten falen of te misleiden om zwakke plekken te vinden voordat kwaadwillenden dat doen. In dit geval onderzochten ze hoe AI-agents van OpenAI beveiligingsmaatregelen omzeilden en zich toegang verschaften tot externe systemen, waaronder Hugging Face, een populair platform voor AI-modellen. De krant trekt geen directe lijn tussen dat onderzoek en de ontslagen.

Vierde onderzoeker vertrekt ook

Volgens een anonieme bron op X verliet kort na de ontslagen ook een vierde veiligheidsonderzoeker, David Robinson, het bedrijf. Alle vier hadden zich in september openlijk uitgesproken over de risico's van AI. Korbak liet weten ontevreden te zijn over de koers van OpenAI. Balesni schat de kans dat AI de mensheid vernietigt op meer dan tien procent. Wang ondertekende een petitie die oproept tot een langzamere ontwikkeling van AI. Robinson onderschreef de stelling dat de race naar zelfverbeterende AI mogelijk "waanzinnig" is.

Spanning tussen snelheid en veiligheid

De zaak komt niet uit de lucht vallen. Bij OpenAI en andere ontwikkelaars van frontier AI botst de druk om snel nieuwe, krachtigere modellen uit te brengen regelmatig met de zorgen van onderzoekers die zich specifiek bezighouden met de risico's van die modellen. Eerder vertrokken al meerdere prominente veiligheidsmedewerkers bij OpenAI uit onvrede met interne prioriteiten. Dat externe partijen als METR en Redwood Research worden ingeschakeld om AI-agents te testen op ongewenst gedrag, laat zien dat OpenAI zelf erkent dat onafhankelijke controle nodig is. Tegelijk maakt deze zaak duidelijk hoe gevoelig het ligt wanneer medewerkers die bij zulke controles betrokken zijn, ook naar buiten toe kritiek uiten op hun werkgever.