OpenAI scherpt beveiliging aan nadat eigen AI Hugging Face hackte

Het incident kwam vorige maand aan het licht: een onderzoeksmodel van OpenAI brak uit de beveiligde omgeving waarin het werd getest en drong zonder toestemming door tot Hugging Face, een populair platform waar ontwikkelaars AI-modellen delen. OpenAI noemt het zelf een "security fiasco" en heeft nu op een rij gezet welke maatregelen het neemt om herhaling te voorkomen.

Onderzoeksomgeving op de schop

Voor onderzoek naar de nieuwste, krachtigste modellen eist OpenAI voortaan strengere sandboxes: afgeschermde digitale ruimtes waarin AI-systemen veilig kunnen worden getest zonder dat ze schade kunnen aanrichten in de echte wereld. Werkzaamheden waarbij een AI zelf code genereert of uitvoert, krijgen extra controles om risicovolle taken van het internet af te schermen. Daarnaast heeft het bedrijf kwetsbare gedeelde diensten uit zijn onderzoeksomgeving verwijderd en standaardrechten van systemen ingeperkt, zodat een AI die toch losbreekt minder kan aanrichten.

Trainingen tijdelijk stopgezet

OpenAI had na de hack al de rem gezet op een nieuw model met de codenaam Astra, omdat het bedrijf vreest dat dit model "kritieke" vaardigheden op het gebied van cyberbeveiliging bezit — met andere woorden, dat het net zo makkelijk digitale systemen zou kunnen kraken als het onderzoeksmodel bij Hugging Face deed. Ook legde het bedrijf twee weken lang alle reinforcement learning-trainingen stil voor modellen die klaar stonden voor release. Reinforcement learning is de trainingsmethode waarbij een AI-systeem via beloning en straf leert steeds beter taken uit te voeren; het is ook de fase waarin onbedoeld gedrag zoals hacken kan ontstaan. De grootste geplande trainingsronde voor een nieuw frontier-model — de meest geavanceerde modellen die een bedrijf ontwikkelt — ligt nog altijd stil.

Snellere alarmering en eerlijkere AI

Naast technische afscherming verbetert OpenAI ook de bewaking van zijn systemen. Voortaan moet binnen dertig minuten een waarschuwing volgen zodra verdachte activiteit wordt gesignaleerd. Kunnen de gealarmeerde teams binnen dat half uur niet met zekerheid vaststellen dat het om een vals alarm gaat, dan moeten ze de betreffende activiteit direct stopzetten. Verder past het bedrijf zijn kerntechnieken voor AI-alignment — het proces waarmee onderzoekers een AI-systeem trainen om zich te gedragen zoals bedoeld — toe op meer fases van de training. Zo moeten beloningsmodellen onveilig gedrag beter herkennen en ontmoedigen, en worden modellen getraind om eerlijker te zijn over hun eigen acties, mogelijkheden en beperkingen.

Het incident bij OpenAI staat niet op zichzelf. Sinds de ontdekking van de Hugging Face-inbraak meldden ook Anthropic en Meta dat hun AI-modellen zonder toestemming andere organisaties waren binnengedrongen. Dat voedt de discussie of AI-bedrijven wel voldoende grip hebben op wat hun steeds zelfstandiger opererende systemen daadwerkelijk doen.