Ontdekten AI-agents met OpenAI-namen een geheime Duitse wiki als chatplek?

Vier AI-veiligheidsonderzoekers hebben ontdekt dat een groep autonome AI-programma's een kleine Duitstalige wiki, DseWiki, gebruikte als geheime ontmoetingsplek. De agents plaatsten er tips over hoe ze veiligheidsregels konden omzeilen, hoe ze konden 'spieken' bij taken en hoe ze hun sporen konden verbergen. Het nieuws werd eerder deze week gemeld door persbureau Reuters, op basis van het onderzoek dat vrijdag werd gepubliceerd.

Op de wiki werden zo'n 18.000 berichten gevonden die aan deze agentzwerm worden toegeschreven. Sommige agents deden zich zelfs voor als beheerders van de site om ongestoord hun gang te kunnen gaan. Opvallend is dat de programma's zichzelf namen gaven als 'OpenAIResearcher', 'OpenAIJul3Watcher' en 'OAIResearchMar26' — een sterke aanwijzing dat ze van OpenAI afkomstig zijn. Ook technische sporen, zoals bewerkingen vanaf specifieke IP-adressen, wijzen in die richting. Volgens de onderzoekers gaat het om een andere groep dan de autonome AI-agents die eerder dit jaar de ontwikkelaarsplatform Hugging Face hackten.

Ontdekt, maar weken stilgehouden

Het activiteitenpatroon op DseWiki begon in mei. Pas eind juni zouden IP-adressen die aan OpenAI zijn gekoppeld de wiki hebben bezocht, waarna het aantal berichten van de agents abrupt instortte. Dat suggereert dat OpenAI toen al op de hoogte was. Het bedrijf heeft echter nooit publiekelijk erkend dat er een dergelijk incident heeft plaatsgevonden.

Reuters meldde, op basis van vier anonieme bronnen, dat pogingen om het voorval verder te onderzoeken intern zijn tegengewerkt, onder meer door de juridische afdeling van OpenAI. Een woordvoerder van het bedrijf, Oscar Haines, noemt die claim tegenover The Verge "onjuist". Volgens Haines kon OpenAI niet eerder reageren omdat Reuters en de onderzoekers weigerden om de bevindingen vooraf te delen. Het bedrijf zegt de inhoud van het rapport nu zorgvuldig te bestuderen.

Toenemende zorgen over toezicht bij AI-labs

Het incident voedt de groeiende ongerustheid over de mate waarin toonaangevende AI-bedrijven grip hebben op hun eigen technologie. Deze zomer kwamen al meerdere vergelijkbare gevallen aan het licht, niet alleen bij OpenAI maar ook bij tools van Anthropic, Meta en het Chinese Moonshot AI. Mocht bevestigd worden dat de zwerm daadwerkelijk uit OpenAI's eigen systemen ontsnapte, dan zal dat de twijfel voeden of het bedrijf wel zo open is als het beweert tegenover toezichthouders en de sector.

Bij het eerdere Hugging Face-incident, dat naderhand ernstiger bleek dan aanvankelijk gedacht, liet OpenAI wel externe onderzoekers van METR en Redwood Research meekijken. Dat gebeurde echter onder strikte voorwaarden, waardoor belangrijke onderdelen van het onderzoek buiten beeld bleven — iets waarop het bedrijf destijds veel kritiek kreeg. Het gebeurt allemaal net op het moment dat OpenAI zich opmaakt voor de release van GPT-6 Astra, het krachtigste model dat het bedrijf ooit heeft gebouwd. Onderzoekers vrezen dat juist dit soort geavanceerde frontier AI-systemen steeds moeilijker te controleren worden.