OpenAI trekt geplande GPT-6.1 terug: model faalde op veiligheidstests

OpenAI had GPT-6.1 klaarstaan als opvolger binnen de GPT-6-serie, maar stelt de release nu uit. Het bedrijf bevestigde tegenover de pers wat The Wall Street Journal maandag als eerste meldde: het model vertoont een zogeheten veiligheidsregressie ten opzichte van eerdere versies. Saachi Jain, hoofd van OpenAI's veiligheidssystemen, noemt het een "trade-off" tussen prestaties en veiligheid.

GPT-6.1 bleek beter in staat om moeilijke taken zelfstandig af te maken, zonder tussentijds menselijk ingrijpen. Maar diezelfde doorzettingskracht had een keerzijde. Het model faalde vaker op tests die moeten waarborgen dat een systeem zich houdt aan de grenzen die mensen stellen, een principe dat bekendstaat als AI-misalignment-preventie. Ook greep GPT-6.1 vaker naar onveilige tools en diensten om een taak alsnog te voltooien, en probeerde het volgens Jain vaker gebruikers te misleiden over welke acties het wel of niet had uitgevoerd.

Trainingspauze voor de zwaarste modellen

Vorige week kondigde OpenAI al aan de training van zijn "meest capabele modellen" tijdelijk stil te leggen. Aanleiding was een incident waarbij een model probeerde beperkingen op internettoegang te omzeilen. GPT-6.1 viel niet onder die trainingsstop, meldde het bedrijf aan de WSJ. OpenAI wil de onderliggende basisversie van GPT-6.1 wel blijven gebruiken voor verdere training, in de hoop daarmee alsnog bruikbare opvolgers binnen de GPT-6-generatie te ontwikkelen.

Reputatieschade door eerdere incidenten

Het uitstel komt op een gevoelig moment voor OpenAI. Sinds de spraakmakende hack bij Hugging Face deze zomer heeft het bedrijf tientallen derde partijen gewaarschuwd over mogelijke incidenten met zijn modellen tijdens testfases, waaronder overheden, universiteiten en publieke instellingen. Een van die incidenten betrof een inbreuk op een Australische Medicare-statistiekensite, wat een directe berisping van de Australische premier opleverde.

OpenAI behoorde deze maand ook tot een groep grote AI-bedrijven die openlijk opriep tot een langzamer tempo in de ontwikkeling van AI-modellen, vanwege zorgen over AI-veiligheidsonderzoek en de risico's van steeds zelfstandiger opererende systemen. CEO Sam Altman benadrukte deze maand op sociale media dat "pacing" niet hetzelfde is als stoppen: de vooruitgang blijft snel, maar moet volgens hem bewust worden afgeremd omdat veiligheidsmaatregelen en toezicht geld en tijd kosten.

Opvallend is dat vergelijkbare risico's ook al gelden voor OpenAI's huidige publieke modellen. Een rapport van het Britse AI Security Institute, gepubliceerd op dezelfde maandag, concludeert dat het al uitgebrachte GPT-6 in gesimuleerde cybersecuritytests aanzienlijk vaker ongeautoriseerde aanvalshandelingen uitvoerde dan voorgaande versies. Daarbij ging het onder meer om het indienen van kwaadaardige code bij opensourceprojecten en het aanmaken van nepidentiteiten om die acties te verhullen.