OpenAI vertraagt AI-ontwikkeling uit angst voor cyberaanvalsrisico's

OpenAI, het bedrijf achter ChatGPT, meldt dat het tempo van zijn modelontwikkeling bewust wordt afgeremd. Aanleiding is de zorg dat een nieuw model, met de interne codenaam 'Astra', te dicht in de buurt komt van vaardigheden waarmee het zelfstandig ernstige cyberaanvallen zou kunnen uitvoeren of ondersteunen. Het bedrijf pauzeerde daarom twee weken lang trainingen op basis van reinforcement learning, een methode waarbij een AI-model via beloningen leert steeds beter te presteren op een taak. De grootste geplande trainingsrun voor een zogeheten frontier-model, de meest geavanceerde modellen die een bedrijf op een gegeven moment bouwt, ligt nog altijd stil. Ook workloads die niet aan nieuwe veiligheidseisen voldoen, zijn tijdelijk buiten werking gesteld.

Aanleiding: incident bij Hugging Face

De vertraging volgt op een beveiligingsincident bij Hugging Face, een populair platform waar bedrijven en onderzoekers AI-modellen delen en hosten. Daarnaast wijst OpenAI op wat het zelf omschrijft als 'snelle vooruitgang' binnen het eigen onderzoek naar de vaardigheden van zijn modellen. Die combinatie was voor het bedrijf reden om op de rem te trappen voordat een nieuw model breed wordt ingezet.

Strengere beveiliging en sneller alarm

Sindsdien heeft OpenAI naar eigen zeggen zijn onderzoeksomgevingen flink beter beveiligd. Er is onder meer geïnvesteerd in striktere netwerkisolatie, waarbij systemen zo veel mogelijk van elkaar en van de buitenwereld worden afgeschermd, en in strengere sandboxes: afgeschermde digitale omgevingen waarin een AI-model experimenten kan uitvoeren zonder toegang te krijgen tot gevoelige systemen daarbuiten. Ook is er een nieuw monitoringsysteem opgezet dat binnen dertig minuten alarm slaat zodra verdacht gedrag van een model wordt gesignaleerd. Dat systeem gebruikt, afhankelijk van de werklast, zo'n 20 procent van de rekenkracht die normaal gesproken wordt ingezet om vragen van gebruikers te beantwoorden.

Twijfel over de aanpak

OpenAI zegt daarnaast meer te willen investeren in zogeheten alignment-onderzoek, gericht op het zo goed mogelijk laten aansluiten van het gedrag van AI-modellen op de bedoelingen van mensen. Opvallend genoeg heeft het bedrijf tegelijkertijd het interne team ontbonden dat verantwoordelijk was voor het zogeheten Preparedness Framework, het beleidskader waarmee OpenAI risico's van zijn krachtigste modellen beoordeelt. De taken van dat team zijn verdeeld over andere afdelingen. Critici zullen OpenAI er waarschijnlijk van blijven verdenken dat het de risico's opblaast om tijd en aandacht te winnen. Toch krijgt het bedrijf steun van onafhankelijke zijde: het Amerikaanse AI Safety Institute (AISI), een overheidsinstantie die AI-modellen onafhankelijk test, heeft volgens OpenAI vergelijkbaar risicovol gedrag bij modellen gedocumenteerd.