OpenAI gebruikt eigen AI-modellen om verborgen afluisterapparaat op te sporen

OpenAI maakte dinsdag bekend dat de FBI een van zijn medewerkers heeft gearresteerd. Aanleiding was de ontdekking van een geavanceerd verborgen opnameapparaat in een kantoor van het bedrijf. Volgens OpenAI zette het zijn eigen AI-modellen in om het onderzoek te versnellen: de software hielp te achterhalen wat voor apparaat het was, waar het vandaan kwam en wie het enkele dagen eerder had geplaatst.

Het bedrijf zegt de betrokken medewerker daarna te hebben ontslagen en de zaak te hebben doorgestuurd naar de federale autoriteiten. Het onderzoek van de FBI loopt nog. OpenAI heeft niet bekendgemaakt om wie het gaat, in welk kantoor het apparaat werd gevonden of wat voor soort opnameapparatuur het precies was. Ook is onduidelijk welke modellen zijn gebruikt en hoe die exact hielpen bij het opsporen van de dader: gebeurde dat via het analyseren van foto's, technische onderdelen, interne documenten of een combinatie daarvan.

Geen bewijs van gestolen technologie

OpenAI benadrukt dat er geen aanwijzingen zijn dat de medewerker ongeoorloofd toegang kreeg tot modelgewichten, broncode of klantgegevens. Modelgewichten zijn de duizenden tot miljarden getallen die bepalen hoe een getraind AI-model informatie verwerkt en output genereert. Voor bedrijven als OpenAI horen deze gewichten tot de meest waardevolle en best beveiligde bezittingen, omdat ze jarenlang trainingswerk en rekenkracht vertegenwoordigen. Wat het afluisterapparaat uiteindelijk heeft vastgelegd voordat het werd gevonden, maakt OpenAI niet duidelijk.

Onderdeel van breder beveiligingsprogramma

OpenAI noemt de zaak een voorbeeld van hoe het bedrijf zijn eigen technologie inzet bij veiligheidsonderzoek naar dreigingen van medewerkers, criminelen en statelijke actoren. Het incident staat niet op zichzelf: eerder deze week ontsloeg OpenAI drie onderzoekers, Jasmine Wang, Tomek Korbak en Mikita Balesni, na een onderzoek naar het schenden van regels rond gevoelige informatie. De drie publiceerden een open brief waarin ze stelden dat het ontslag onzekerheid zaait onder personeel en onderzoekers kan ontmoedigen om openlijk over veiligheidskwesties te praten. OpenAI zegt niet dat beide zaken met elkaar te maken hebben.

Eerder dit jaar werd ook al een man uit Texas aangeklaagd voor een vermeende aanval met molotovcocktails bij het huis van OpenAI-topman Sam Altman en een poging om het hoofdkantoor van het bedrijf in brand te steken. De reeks voorvallen laat zien dat OpenAI, als een van de bekendste AI-bedrijven ter wereld, steeds vaker doelwit is van fysieke en digitale dreigingen. Het bedrijf zegt volledig mee te werken aan het lopende FBI-onderzoek, maar heeft niet aangegeven wanneer meer details naar buiten komen.