AI & computing › Agentic AI & autonome agents
Gratis AI-modellen hacken bijna net zo goed als dure topmodellen
Onderzoekers van Vals AI lieten AI-agenten zelfstandig inbreken in nagemaakte bedrijfsnetwerken. Daaruit blijkt dat gratis, openbaar te downloaden AI-modellen bijna net zo goed kunnen hacken als de duurste, afgeschermde modellen van techbedrijven. Het verschil in cyberrisico tussen open en gesloten AI wordt daardoor steeds kleiner.
Een AI-model dat zelfstandig een bedrijfsnetwerk binnendringt: het klinkt als sciencefiction, maar het testbedrijf Vals AI liet het gewoon gebeuren. Met de nieuwe testmethode CyberOffense kregen verschillende AI-modellen slechts een openbaar webadres en geen enkele menselijke hulp. Vanaf dat punt moesten ze zelf een weg vinden naar beheerdersrechten op de achterliggende Windows-servers.
Testen in een nagemaakt bedrijfsnetwerk
De AI-agenten werkten vanaf een geïsoleerde Kali Linux-computer, een systeem dat vaak door beveiligingsonderzoekers wordt gebruikt. Alle acties werden automatisch gelogd en beoordeeld. Het model GPT-6 Sol, onderdeel van een streng afgeschermd programma van OpenAI genaamd Daybreak, behaalde de beste score: 80,8 procent van de aanvalsdoelen. Opvallend dicht erachter kwam Deepseek V4.1 Flash, een model waarvan de onderliggende techniek gratis en openbaar beschikbaar is. Dat model haalde 72,8 procent van de doelen, en dat voor ongeveer 3 dollar per test, tegenover ruim 22 dollar voor het dure OpenAI-model.
In een zwaardere test, Lighthouse genaamd, nam Daybreak de controle over een eerste fictief bedrijf, stal wachtwoorden en gebruikte die om vervolgens bij een tweede bedrijf in te breken. Het rondde 27 van de 31 doelen af in minder dan drie uur. Deepseek kwam tot 21 doelen, tegen een tiende van de kosten. Opvallend: hoe meer rekentijd (uitgedrukt in tokens, de rekeneenheden die een AI-model verwerkt) een model kreeg, hoe verder het kwam. Veel modellen boekten pas na meer dan 100 miljoen tokens echte vooruitgang. Kortere tests onderschatten daardoor hoe gevaarlijk open modellen in werkelijkheid kunnen zijn.
Waarom dit risico groeit
Zodra de techniek achter een AI-model openbaar is, kan geen enkel bedrijf nog bepalen hoe het gebruikt wordt, waarschuwen de onderzoekers van Vals AI. Ingebouwde veiligheidsgrenzen zijn dan simpelweg te omzeilen. Deze uitkomst sluit aan bij een analyse van het Britse AI Security Institute (AISI) van afgelopen juli. Daaruit bleek dat het verschil tussen open en gesloten topmodellen op het gebied van cyberaanvallen is gekrompen naar vier tot zeven maanden, tegenover zes tot tien maanden eerder dit jaar. Ook daar was open source veel goedkoper: een test met Deepseek V4-Pro kostte 1,19 dollar, tegenover 85 dollar voor het model Opus 4.5 van Anthropic. Ook Anthropic zelf meldde dat het gratis model GLM-5-3 bijna even goed digitale aanvalscodes kan bouwen als het eigen topmodel Mythos.
Ook een kans voor verdedigers
Vals AI benadrukt dat dezelfde technologie ook bedrijven kan helpen. Omdat AI-modellen zelf zwakke plekken in netwerken vinden, kunnen beveiligingsteams die gebruiken om gaten te dichten voordat kwaadwillenden ze ontdekken. De onderzoekers verwachten dat echte aanvallen op bedrijfsnetwerken de komende maanden zullen toenemen, nu de benodigde techniek steeds toegankelijker en goedkoper wordt.
Achtergrond & begrippen
Wat betekent dit voor de toekomst? Nu gratis AI-modellen bijna even goed kunnen hacken als dure, afgeschermde systemen, verdwijnt een belangrijke drempel voor cybercriminelen. Bedrijven en overheden zullen hun digitale verdediging moeten aanscherpen, terwijl dezelfde AI-technologie ook kan helpen om kwetsbaarheden sneller op te sporen voordat aanvallers dat doen.
- AI-agent
- Een AI-systeem dat zelfstandig stappen zet om een taak te volbrengen, zonder dat een mens elke actie aanstuurt.
- Open-weight model
- Een AI-model waarvan de onderliggende parameters openbaar zijn gemaakt, waardoor iedereen het kan downloaden en vrij gebruiken.
- Gesloten model
- Een AI-model dat alleen via een beperkte dienst van de maker te gebruiken is, zodat het bedrijf controle houdt over het gebruik.
- Tokens
- De kleine stukjes tekst die een AI-model verwerkt; hoe meer tokens, hoe meer rekentijd en mogelijkheden een model krijgt.
- Kali Linux
- Een besturingssysteem dat speciaal is ingericht voor beveiligingsonderzoek en het testen van netwerkkwetsbaarheden.
- CyberOffense-benchmark
- De testmethode van Vals AI waarmee AI-modellen worden beoordeeld op hun vermogen om zelfstandig bedrijfsnetwerken aan te vallen.
- Admin-rechten
- De hoogste toegangsrechten binnen een computersysteem, waarmee iemand (of iets) volledige controle krijgt.
- AI Security Institute (AISI)
- Een Brits overheidsinstituut dat onderzoek doet naar de veiligheidsrisico's van AI-systemen.
- Exploit
- Een stuk code of techniek waarmee een zwakke plek in software of een netwerk actief wordt misbruikt.
Bronnen
Dit artikel is met behulp van AI geschreven op basis van bovenstaande bronnen en is geen letterlijke vertaling. Zo werkt onze redactie.