AI & computing › Agentic AI & autonome agents
Google ziet eerste volledig geautomatiseerde cyberaanval door AI
Google heeft voor het eerst een cyberaanval ontdekt die volledig zelfstandig door kunstmatige intelligentie werd uitgevoerd, zonder dat een mens ingreep. Het beveiligingsteam van het bedrijf waarschuwt dat dit soort AI-aanvallen de komende maanden alleen maar krachtiger wordt.
Het Threat Intelligence Group van Google, kortweg GTIG, heeft een systeem ontdekt dat zelfstandig kwetsbaarheden in software opspoort en vervolgens misbruikt. Onderzoekers stuitten op een slecht beveiligde server waarop een programma draaide met de naam 'exploit_agent'. Dat systeem is gekoppeld aan meerdere taalmodellen, de AI-technologie die ook achter chatbots zoals ChatGPT zit, en gebruikte die om zelfstandig te werken aan digitale inbraken.
Hoe het AI-systeem aanvalt
Exploit_agent werkt volgens een vaste methode. Het programma vergelijkt de broncode van software voor en na een beveiligingsupdate, een zogeheten patch. Door die twee versies naast elkaar te leggen, ontdekt de AI automatisch welk lek de update moet dichten. Vervolgens bouwt het systeem zelf een stuk code waarmee dat lek te misbruiken is, en voert het die aanval direct uit. Geen van deze stappen vereist tussenkomst van een mens. Volgens Google wijzen gegevens op de server erop dat de aanvaller zich vooral richtte op Franse websites in de media-, entertainment- en onderwijssector.
Vermoedelijk Russische makers
In de configuratiebestanden van het systeem vonden de onderzoekers commentaarregels in het Russisch. Dat duidt erop dat de maker of beheerder van het systeem Russisch spreekt. Wie er precies achter zit, meldt Google niet. Het bedrijf benadrukt vooral de bredere trend: steeds meer aanvallers zetten AI in om hele fasen van een hack te automatiseren, van het zoeken naar zwakke plekken tot het daadwerkelijk binnendringen.
Snelheid boven heimelijkheid, voorlopig
Google plaatst deze aanvalsvorm op het hoogste niveau van zijn eigen AI-dreigingsschaal, niveau 5. Op dat niveau voert kunstmatige intelligentie meerdere stappen van een aanval uit met minimale menselijke bemoeienis. Opvallend is dat de huidige aanvallen snelheid boven onopvallendheid stellen. Omdat het systeem zo snel werkt, laat het relatief veel digitale sporen achter, waardoor beveiligingsteams de aanval nog vrij makkelijk kunnen opmerken. Google waarschuwt echter dat dit een momentopname is. Binnen enkele maanden verwacht het bedrijf krachtigere versies van dit soort AI-aanvalssystemen, die mogelijk ook beter in staat zijn om onopgemerkt te blijven. Voor bedrijven en overheden betekent dit dat verdediging tegen cyberaanvallen steeds meer een wedloop tussen AI-systemen wordt, in plaats van tussen mensen.
Achtergrond & begrippen
Wat betekent dit voor de toekomst? Dit nieuws laat zien dat cyberaanvallen een nieuwe fase ingaan waarin AI zelfstandig kwetsbaarheden vindt en misbruikt, zonder menselijke sturing. Dat verlaagt de drempel voor aanvallers en verhoogt de snelheid van aanvallen enorm, waardoor ook de verdediging steeds meer op geautomatiseerde, AI-gestuurde detectie zal moeten vertrouwen.
- GTIG (Google Threat Intelligence Group)
- Het team binnen Google dat wereldwijd digitale dreigingen en hackersgroepen onderzoekt.
- Taalmodel (LLM)
- Een AI-systeem dat getraind is op grote hoeveelheden tekst en op basis daarvan taken kan uitvoeren, zoals het analyseren van code of het schrijven van tekst.
- Patch
- Een software-update die een bekend beveiligingslek of ander probleem in een programma oplost.
- Kwetsbaarheid
- Een fout of zwakke plek in software waardoor een aanvaller ongeautoriseerde toegang kan krijgen.
- Exploit
- Een stuk code dat speciaal is gemaakt om een kwetsbaarheid in software uit te buiten en zo een systeem binnen te dringen.
- AI-dreigingsniveau
- Een schaal van Google die aangeeft in hoeverre AI zelfstandig stappen van een cyberaanval uitvoert, van beperkte hulp tot volledige automatisering.
- Forensische sporen
- Digitale aanwijzingen die een aanval achterlaat op een systeem, waarmee beveiligingsonderzoekers kunnen vaststellen dat en hoe een hack plaatsvond.
Bronnen
Dit artikel is met behulp van AI geschreven op basis van bovenstaande bronnen en is geen letterlijke vertaling. Zo werkt onze redactie.