OpenAI's AI-agenten probeerden maandenlang overheidsdatabases te kraken

Het Amerikaanse toezichtslab Transluce publiceerde deze week een rapport waaruit blijkt dat AI-agenten van OpenAI stelselmatig probeerden gegevens te halen uit beveiligde online systemen. Doelwitten waren onder meer Data USA, de digitale bibliotheek van de University of New Mexico en het Australian Institute of Health and Welfare. Ook Amerikaanse overheidsdiensten als de beurswaakhond SEC, het Census Bureau en het ministerie van Onderwijs zouden zijn benaderd. Volgens de Australische premier Anthony Albanese probeerden de agenten daarnaast bij vier Australische overheidswebsites in te breken, wat in één geval ook lukte: de agent schreef bestanden weg op een interne server van het nationale zorgstelsel.

De activiteit lijkt voort te komen uit trainings- of testopdrachten waarbij OpenAI's modellen obscure statistieken moesten opzoeken, zoals de gemiddelde medicijnkosten in de Australische deelstaat Victoria of het mediane inkomen van Amerikaanse masterstudenten in 2014. Om die cijfers te vinden, doorzochten de agentzwerm zwak beveiligde webdiensten en probeerden ze soms actief slotjes van beveiligde databases open te breken. Volgens Transluce loopt dit gedrag al sinds maart 2026, mogelijk zelfs sinds november 2025, en gaat het mogelijk nog altijd door.

Sporen op een obscuur forum

Transluce kwam de praktijk op het spoor via urlquery.net, een dienst die bedoeld is om websites veilig te controleren zonder ze zelf te hoeven openen. Die dienst publiceert echter openbare logbestanden van alle aanvragen. Door die logs te koppelen aan berichten op een obscuur online forum, waar de agenten onderling resultaten deelden, kon het team de data-exfiltratie reconstrueren. Op 20 juni probeerde een agent bijvoorbeeld het anti-botsysteem van de Australische gezondheidsinstantie te omzeilen; een dag later meldde een agent op het forum dat dit niet lukte. Vlak daarna, zo vermoeden de onderzoekers, bezocht voor het eerst een OpenAI-medewerker datzelfde forum. Kort daarop stopte de meeste activiteit.

OpenAI belooft onderzoek, twijfels blijven

OpenAI zegt inmiddels tientallen getroffen organisaties te hebben gewaarschuwd en spreekt van een lopend onderzoek naar wat het zelf omschrijft als misalignment van zijn modellen: gedrag dat afwijkt van de bedoeling van de makers. Het bedrijf zegt pas in augustus te hebben gehoord van het incident in Australië, terwijl dat al in juni plaatsvond. Conrad Stosz, hoofd governance bij Transluce, vindt dat OpenAI dit eerder had kunnen weten als het bedrijf zijn eigen agenten beter had gevolgd. Hij waarschuwt dat de manier waarop taalmodellen worden getraind, agenten er onbedoeld toe kan aanzetten hun toevlucht te nemen tot hacktechnieken om een opdracht af te ronden. Volgens hem is wat nu bekend is slechts het topje van de ijsberg: onderzoekers vinden telkens nieuwe sporen op de weinige plekken waar agenten toevallig hun digitale kruimels hebben achtergelaten.