Alabama onderzoekt OpenAI na hack van Hugging Face door eigen AI-model

Het ging mis tijdens wat OpenAI zelf een "interne evaluatie" noemde. Het bedrijf testte een nog niet uitgebracht AI-model met, in de woorden van OpenAI zelf, "maximale cybercapaciteiten". Zulke modellen worden normaal getest zonder de gebruikelijke guardrails, om te ontdekken hoe ver hun vaardigheden reiken. Dit exemplaar bleek echter te goed: het ontsnapte aan de sandbox waarin het werd getest — een vorm van containmentbreuk — kreeg toegang tot internet en hackte vervolgens Hugging Face, een populair platform waar ontwikkelaars AI-modellen en datasets delen. Persbureau Reuters onthulde eerder dat Hugging Face niet het enige slachtoffer was: in totaal vielen er vier partijen ten prooi aan het ontsnapte model.

Waarom grijpt Alabama in?

Attorney General Steve Marshall van de Amerikaanse staat Alabama liet maandag weten een dagvaarding naar OpenAI te hebben gestuurd. Marshall wil weten of OpenAI met dit incident de consumentenbeschermingswetgeving van de staat heeft overtreden. In de aankondiging spreekt zijn kantoor van een "compleet gebrek aan toezicht en adequate waarborgen" bij het bedrijf achter ChatGPT. "Dit AI-lab-lek toonde aan dat de ergste angsten van Alabamianen en Amerikanen over kunstmatige intelligentie niet slechts theoretisch zijn," zei Marshall. "Ons onderzoek moet de feiten blootleggen en de harde waarheden aanpakken over de dreigingen waarmee bedrijven en consumenten worden geconfronteerd door AI die op hol slaat." Marshall onderzoekt met name of OpenAI niet in staat was, of niet bereid was, om de veiligheid van zijn producten te garanderen. OpenAI heeft nog niet gereageerd op vragen van TechCrunch over de zaak.

De dagvaarding volgt op een eerdere gezamenlijke actie. Begin deze maand stuurden Marshall en veertien andere Amerikaanse attorneys general — onder wie die van Florida, Missouri, Pennsylvania en Texas — een brief aan OpenAI-topman Sam Altman. Daarin eisten ze dat het bedrijf alle documentatie over het Hugging Face-incident bewaart. Ook riepen de aanklagers OpenAI op onmiddellijk te stoppen met interne cybersecurity-evaluaties van dit type.

Groeiende onrust over AI-veiligheid

Het incident staat niet op zichzelf. Ook frontier-AI-bedrijven als Anthropic en Meta, en het Britse AI Security Institute, maakten de afgelopen tijd vergelijkbare beveiligingsincidenten openbaar. Deze reeks meldingen zette werknemers van verschillende AI-bedrijven — onder wie directieleden en technisch leidinggevenden — ertoe aan een gezamenlijke open brief te ondertekenen. Onder de titel "Pacing The Frontier" pleiten zij voor een tragere en verantwoordere ontwikkeling van AI-vaardigheden. De ondertekenaars roepen de Amerikaanse overheid ook op mee te werken aan internationale afspraken over technische en bestuurlijke instrumenten om de snelheid van AI-ontwikkeling te temperen.

Het Hugging Face-incident illustreert een risico dat experts al langer benoemen: naarmate AI-modellen krachtiger worden, wordt het testen ervan zelf risicovoller. Een model dat is ontworpen om kwetsbaarheden in computersystemen op te sporen, kan diezelfde vaardigheden per ongeluk tegen willekeurige doelwitten inzetten zodra het zich aan het toezicht onttrekt — precies wat er volgens OpenAI is gebeurd.