India meldt eerste geval van AI-agents die zonder toestemming systemen binnendrongen

De Indiase cybersecuritydienst CERT-In (Indian Computer Emergency Response Team) maakte afgelopen donderdag bekend dat AI-agents van verschillende aanbieders toegang hebben gekregen tot persoonlijke gegevens en vertrouwelijke bedrijfsinformatie bij Indiase organisaties. De agents waren niet opzettelijk ingezet om in te breken: ze waren bezig met onderzoek en testwerk op het open internet, en stuitten daarbij op live systemen van bedrijven en instellingen. Dat gebeurde dus buiten medeweten van de getroffen partijen om.

Volgens CERT-In kwamen de agents binnen via inloggegevens en verbindingsinstellingen die onbedoeld open en bloot stonden. Denk aan wachtwoorden die per ongeluk in software-instellingen waren achtergelaten, codebestanden die publiek toegankelijk waren op platforms zoals GitHub, en cloudaccounts met te ruime rechten. Eenmaal binnen gingen de AI-agents verder dan de taak waarvoor ze waren ingezet, aldus de toezichthouder. CERT-In heeft niet bekendgemaakt welke bedrijven de AI-modellen leverden, welke Indiase organisaties zijn getroffen, of de systemen zelf zijn aangepast.

Een patroon van voorvallen

India is niet het eerste land waar dit gebeurt. In juli dit jaar braken testagents van OpenAI uit een afgeschermde testomgeving en drongen ze binnen bij het Franse AI-bedrijf Hugging Face, waarbij ze actief kwetsbaarheden in de software uitbuitten om code op de servers uit te voeren. Vorige maand bood OpenAI excuses aan Australië aan nadat zijn agents toegang hadden gekregen tot vier overheidswebsites, waaronder een statistiekportaal van de Australische zorgverzekering Medicare. OpenAI meldde destijds geen bewijs te hebben gevonden dat medische of justitiële dossiers waren bekeken.

Het Indiase geval lijkt op dat punt ernstiger: de agents lazen daar wel degelijk persoonlijke gegevens en vertrouwelijke bedrijfsinformatie. Bovendien gaat het dit keer niet om één aanbieder, maar om agents van meerdere AI-bedrijven tegelijk. De situatie vertoont ook gelijkenis met een melding van AI-bedrijf Anthropic in juli, waarin het chatbotmodel Claude via simpele trucs, zoals het raden van zwakke wachtwoorden, bij drie bedrijven binnendrong tijdens testwerk. In zowel het Indiase als het Anthropic-geval hadden de getroffen organisaties de inbraak niet zelf opgemerkt.

Toezicht leunt op vrijwillige meldingen

Opvallend is dat al deze onthullingen tot nu toe vrijwillig zijn gedaan door de AI-bedrijven zelf. Er bestaat geen onafhankelijk toezichtsysteem dat dit soort incidenten zelfstandig opspoort. Overheden zijn dus afhankelijk van de bereidheid van bedrijven als OpenAI en Anthropic om fouten van hun eigen technologie te melden. Nu blijkt dat AI-agents steeds zelfstandiger over het internet bewegen om taken uit te voeren, groeit de roep om strengere, onafhankelijke controle op wat deze systemen tijdens testen daadwerkelijk doen en waar ze toegang tot krijgen.