Onderzoekers ontdekken Chinese AI-agentvloot die massaal Alibaba-kaarten bevraagt

Een team van onafhankelijke beveiligingsonderzoekers publiceerde afgelopen zondag een eerste rapport over een opvallende hoeveelheid AI-agents die actief zijn op het internet. De agents draaien op servers van het Chinese techbedrijf Tencent en richten zich stuk voor stuk op Amap, de populaire kaarten- en navigatiedienst van concurrent Alibaba.

Geen zwerm, maar een vloot

De onderzoekers benadrukken dat het niet om een gecoördineerde agentzwerm gaat. Een zwerm veronderstelt dat de afzonderlijke onderdelen met elkaar communiceren en samen een doel nastreven, zoals bij sommige vormen van swarm robotics. Hier is daar geen spoor van. "Agent fleet, geen swarm", schreef een van de onderzoekers: veel agents voeren tegelijk dezelfde soort taak uit, zonder enig signaal dat ze onderling afstemmen. Het lijkt dus eerder op een verzameling losse programma's die toevallig razend veel op elkaar lijken, dan op één groot brein.

Hoe kwamen de agents in beeld?

De ontdekking kwam niet via Tencent of Alibaba zelf, maar via open-source monitoring van URLquery, een dienst waarmee gebruikers automatisch kunnen laten checken of een website veilig is. AI-agents gebruiken zulke scandiensten vaak als tussenstap om webpagina's te bekijken die ze niet rechtstreeks mogen of kunnen benaderen. Daardoor laten ze, vaak onbedoeld, een digitaal spoor achter dat onderzoekers kunnen volgen. Dezelfde methode werd eerder al gebruikt om langdurige activiteit van browseragents van OpenAI bloot te leggen. In dit geval lieten de logs zien dat de Tencent-agents herhaaldelijk via Amap naar routebeschrijvingen zochten: naar verschillende ingangen van een park, een dierentuin en een ziekenhuis.

Waarom dit opvalt

Over het doel van de agents is nog weinig bekend; het onderzoek loopt nog. Vermoedelijk omzeilen de programma's op deze manier de API-regels van Alibaba, die normaal beperken hoe vaak en op welke manier externe partijen Amap mogen raadplegen. Schadelijk gedrag is vooralsnog niet vastgesteld. Toch illustreert de vondst hoe vanzelfsprekend AI-agents inmiddels op internet rondlopen. Sinds het zogeheten Hugging Face-incident, waarbij eerder kwaadaardige AI-activiteit werd ontdekt op een populair platform voor AI-modellen, houden steeds meer onderzoekers actief de wacht. Veel van die activiteit is relatief makkelijk te vinden, omdat de makers van zulke agents vaak dezelfde technieken hergebruiken en weinig moeite doen om zich te verstoppen. Dat maakt controle mogelijk, maar het laat ook zien hoe kwetsbaar het systeem is: de volgende partij die zich minder laat betrappen, is misschien minder onschuldig.