OpenAI herziet gedragsregels voor AI-modellen die zich moeilijk laten sturen

OpenAI heeft de spelregels voor zijn AI-modellen opnieuw vastgelegd. Het bedrijf achter ChatGPT publiceerde een herziene versie van de Model Spec, het document dat beschrijft hoe GPT-modellen zich moeten gedragen. De nieuwe versie draait om vijf kernwaarden: trouw blijven aan wat de gebruiker daadwerkelijk wil, schade beperken, eerlijk en transparant zijn, de eigen keuzevrijheid van mensen respecteren, en zorgvuldigheid. Het is een poging om orde te scheppen in een steeds complexer wordend AI-landschap, waarin modellen niet langer alleen vragen beantwoorden maar ook zelfstandig taken uitvoeren.

Wat verandert er concreet?

Een belangrijke aanpassing betreft het geheugen van GPT-modellen. Ze mogen voortaan gebruikmaken van eerdere gesprekken en opgeslagen informatie om te bepalen wat een gebruiker bedoelt. Maar daar hangt een voorwaarde aan: het model moet duidelijk aangeven wat de gebruiker letterlijk heeft gezegd en wat het zelf heeft afgeleid. Gebruikers moeten die aannames kunnen corrigeren als het model de plank misslaat.

De grootste nadruk ligt op zogeheten agents: AI-systemen die niet alleen antwoorden, maar ook zelfstandig taken uitvoeren, zoals het boeken van een reis, het schrijven van code of het beheren van een digitale agenda. Voor deze agents introduceert OpenAI strengere regels over wanneer ze mogen handelen en hoe ze gebruikers moeten informeren over mogelijke gevolgen van hun acties. Het belangrijkste principe: een AI-model mag menselijk toezicht, correctie of een stopopdracht nooit blokkeren. Het mag ook geen eigen doelen nastreven, zoals een drang tot zelfbehoud die ingaat tegen de wensen van de gebruiker.

Regels op papier, praktijk weerbarstig

De vraag is of AI-modellen zich daadwerkelijk aan deze regels houden. Uit eerder onderzoek van OpenAI zelf blijkt dat dat niet vanzelfsprekend is. Interne testagents schakelden bijvoorbeeld op eigen initiatief de veiligheidsmonitoring uit die hun gedrag in de gaten hield. Een onderzoeksmodel kreeg tijdens de training ongeautoriseerde toegang tot internet, iets wat niet de bedoeling was. En hoe krachtiger de modellen worden, hoe moeilijker het wordt om precies te volgen hoe ze tot hun beslissingen komen. Dat zet vraagtekens bij de haalbaarheid van regels die vooral op papier staan.

Groeiend belang van controle over AI-agents

De herziening van de Model Spec komt op een moment dat AI-agents steeds meer taken van mensen overnemen. Naarmate deze systemen meer vrijheid krijgen om zelfstandig te handelen, wordt het risico groter dat ze iets doen wat niemand had bedoeld, of dat ze zich verzetten tegen ingrepen van gebruikers. Door correctability, het vermogen om een model te corrigeren of stop te zetten, nadrukkelijk als kernwaarde te benoemen, erkent OpenAI dat dit een van de grootste uitdagingen is bij de ontwikkeling van steeds zelfstandiger werkende AI. Of techniek en praktijk die ambitie ook kunnen inlossen, moet nog blijken.