Ontslagen OpenAI-onderzoekers: 'nooit vertelt wat we precies lekten'

Tomek Korbak, Mikita Balesni en Jasmine Wang werkten bij OpenAI aan AI-veiligheid. Eind september werden ze alle drie in dezelfde week ontslagen, na een intern onderzoek naar vermeende schendingen van het beleid rond vertrouwelijke informatie. In gesprekken met de Wall Street Journal vertellen de drie nu hun kant van het verhaal: ze zeggen dat ze zich aan de regels hebben gehouden en dat niemand hen ooit op papier heeft uitgelegd welke informatie ze zouden hebben doorgespeeld.

Signal-chats als aanleiding

Volgens de Journal vermoedde het beveiligingsteam van OpenAI dat de drie details over de interne architectuur van hun AI-modellen hadden gedeeld met een externe veiligheidsonderzoeker. Het team vroeg hen hun privételefoons te ontgrendelen en vond daar chatgesprekken via Signal, een versleutelde berichtenapp, met verdwijnende berichten ingeschakeld. Een week later volgde het ontslag. OpenAI bevestigt dat Signal geen goedgekeurde communicatietool is binnen het bedrijf, maar stelt dat dit niet de reden was voor de ontslagen. Korbak wijst erop dat het automatisch laten verdwijnen van berichten een gangbare beveiligingsgewoonte is in Silicon Valley, en geen bewijs van iets verkeerds.

Discussie over inzicht in AI-redenering

Achter de zaak gaat een technisch debat schuil dat grote gevolgen kan hebben voor de toekomst van AI-toezicht. Geavanceerde AI-modellen die stap voor stap redeneren, leggen hun tussenstappen vaak vast in een soort intern kladblok. Onderzoekers gebruiken die sporen om te begrijpen hoe een model tot een antwoord komt. In een wetenschappelijke publicatie uit 2025 pleitten Balesni, Korbak en Wang, samen met onderzoekers van andere AI-bedrijven, voor het behoud van die inzage. Deze zomer laaide de discussie op toen bleek dat nieuwere modellen weliswaar langer nadenken, maar steeds minder van hun tussenstappen opschrijven. Balesni deelde intern een voorstel van Ryan Greenblatt, destijds hoofdonderzoeker bij het onafhankelijke onderzoeksinstituut Redwood Research, om dat tegen te gaan. Korbak werkte op zijn beurt met Greenblatt samen aan de analyse van een aanval door OpenAI-agents op het platform Hugging Face, in opdracht van de veiligheidswaakhond METR.

Onderzoek naar nieuw model Astra

De samenwerking werd een probleem nadat vaknieuwsmedium The Information begin september meldde dat OpenAI's nieuwe model Astra krachtiger is, maar minder van zijn redeneerproces laat zien. OpenAI's chief scientist Jakub Pachocki noemde dat bericht destijds onzorgvuldig, ondanks dat hij zelf eerder had gewaarschuwd voor een industriebrede wedloop naar modellen die niet meer te controleren zijn. Weken later startte OpenAI een intern lekonderzoek. Balesni zegt dat onderzoekers Greenblatt als verdachte bron aanwezen en eisten dat hij zijn Signal-gesprekken met hem zou tonen. Greenblatt ontkent dat hij vertrouwelijke informatie aan journalisten heeft doorgespeeld. Wang kreeg een apart verwijt: ze zou herhaaldelijk de mailbox van een leidinggevende hebben geopend. Zelf zegt ze dat ze al een jaar eerder had gevraagd die toegang in te trekken, dat ze per ongeluk één gevoelige mail opende en dat ze dit meteen meldde zonder de inhoud te delen. Korbak waarschuwt dat collega's nu bang zijn om met buitenstaanders te praten of interne zorgen te melden. De drie riepen de raad van bestuur van OpenAI in een brief op om nauwer samen te werken met externe veiligheidsorganisaties. Een recente, los daarvan uitgevoerde audit door METR en Redwood Research vond bovendien diverse beveiligingsgaten in de infrastructuur van OpenAI, waarvan het bedrijf bijna de helft uit het eindrapport schrapte. OpenAI zegt de problemen te hebben verholpen en begin oktober de training te hebben hervat met een nieuwe, offline beveiligingsarchitectuur.