AI & computing › Generatieve AI & synthetische media

OpenAI maakt het veel moeilijker om redeneerstappen van AI te stelen

· Bijgewerkt 21 november 2026, 01:29 · 2 min leestijd

Generatieve AI & synthetische media
Beeld: The Decoder

OpenAI heeft de beveiliging van zijn nieuwste AI-modellen GPT-6.2 Astra en GPT-6.2 Sol flink verbeterd. Het bedrijf maakt het veel lastiger voor aanvallers om de interne 'gedachten' van de modellen te achterhalen en te kopiëren. Uit eigen tests blijkt dat het slagingspercentage van zulke aanvallen is gedaald van 54 naar 0,2 procent.

Moderne AI-chatbots zoals die van OpenAI denken vaak eerst in stappen voordat ze een antwoord geven. Dat interne denkproces, de zogeheten chain-of-thought, blijft normaal gesproken verborgen voor de gebruiker. Alleen het uiteindelijke antwoord verschijnt in beeld. Toch blijkt dit verborgen redeneerproces een gewild doelwit voor aanvallers. Door slim geformuleerde vragen te stellen, kunnen zij proberen die interne stappen alsnog naar buiten te krijgen.

Waarom die redeneerstappen zo waardevol zijn

Het trainen van een geavanceerd AI-model kost miljoenen euro's en enorme hoeveelheden rekenkracht. Concurrenten die inzicht krijgen in hoe een model precies redeneert, kunnen dat proces kopiëren via een techniek die distillatie heet. Daarbij gebruiken ze de output van een duur model om een eigen, goedkoper model te trainen dat vergelijkbaar presteert. Voor bedrijven als OpenAI is dat een directe aanval op hun investering en concurrentiepositie. Vandaar dat het bedrijf steeds meer moeite steekt in het afschermen van die interne denkstappen.

Forse daling in succesvolle aanvallen

Bij interne tests simuleerde OpenAI aanvallen met zes verschillende aanvalsmodellen, een methode die bekend staat als adaptieve black-box red teaming. Bij het vorige model GPT-6 Astra slaagde 54 procent van de pogingen om beschermde redeneerstappen uit een eerder gesprek te halen. Bij het nieuwe GPT-6.2 Astra is dat gedaald tot 0,2 procent. Ook aanvallen die lopende gesprekken probeerden te onderscheppen, daalden sterk: van 22,9 naar 0,9 procent slagingskans. OpenAI combineert daarvoor gerichte training van het model met filters op in- en uitgaande berichten en opdrachten aan externe tools, plus technische blokkades die voorkomen dat oudere modellen de beschermde data kunnen uitlezen. Tegen grootschalige, georganiseerde pogingen zet het bedrijf wekelijks duizenden tot tienduizenden accounts stop. De verbeteringen worden deels ook doorgevoerd in het oudere GPT-6 Astra.

Niet alleen een probleem van OpenAI

Ook concurrent Anthropic worstelt met dit probleem. Dat bedrijf meldde eerder al tienduizenden accounts te blokkeren die via systematische distillatie-aanvallen de redeneerstappen van zijn Claude-modellen probeerden te kopiëren, met een geclaimd slagingspercentage van 90 tot 99 procent tegen die aanvallen. In februari beschuldigde Anthropic de Chinese AI-bedrijven DeepSeek, Moonshot en MiniMax ervan via zestien miljoen vragen aan Claude data te hebben buitgemaakt. Anthropic riep de sector en beleidsmakers eerder al op om gezamenlijk beleid te maken tegen dit soort diefstal. De ontwikkeling laat zien dat de interne werking van topmodellen inmiddels net zo zwaar wordt bewaakt als broncode of bedrijfsgeheimen.

Achtergrond & begrippen

Wat betekent dit voor de toekomst? Nu AI-modellen steeds duurder worden om te trainen, groeit het belang van het beschermen van de manier waarop ze precies redeneren. Bedrijven die hun interne kennis niet goed afschermen, lopen het risico dat concurrenten goedkoop meeliften op hun investering. Dit soort beveiligingsmaatregelen wordt daarom een vast onderdeel van hoe AI-bedrijven met elkaar concurreren.

Chain-of-thought (redeneerstappen)
De tussenstappen die een AI-model doorloopt om tot een antwoord te komen, vergelijkbaar met kladwerk dat normaal niet zichtbaar is voor de gebruiker.
Distillatie
Een techniek waarbij een nieuw, goedkoper AI-model wordt getraind op basis van de antwoorden van een bestaand, duurder model, zodat het gedrag ervan wordt gekopieerd.
Red teaming
Het bewust testen van een systeem door het aan te vallen zoals een kwaadwillende dat zou doen, om zwakke plekken te ontdekken.
Black-box aanval
Een aanval waarbij de aanvaller geen zicht heeft op de interne werking van het systeem en alleen via invoer en uitvoer probeert informatie te achterhalen.
Attack success rate (ASR)
Het percentage aanvallen dat daadwerkelijk slaagt in het doel, in dit geval het buitenhalen van beschermde redeneerstappen.
API
De technische interface waarmee andere programma's en diensten met een AI-model kunnen communiceren.
Tool calls
Opdrachten die een AI-model geeft aan externe programma's of diensten om bijvoorbeeld informatie op te zoeken of een actie uit te voeren.

Bronnen

Dit artikel is met behulp van AI geschreven op basis van bovenstaande bronnen en is geen letterlijke vertaling. Zo werkt onze redactie.

Meer over Generatieve AI & synthetische media