Anthropic waarschuwt: AI-modellen kunnen zich straks verspreiden via smart-tv's

Een kwaadaardig computerprogramma dat zelfstandig van apparaat naar apparaat springt, is niets nieuws. Nieuw is dat zo'n programma nu ook een eigen kunstmatige intelligentie kan meenemen. Onderzoekers William Zhou en Daniel Freeman van Anthropic onderzochten of een klein taalmodel zichzelf kan verspreiden over slecht beveiligde consumentenapparaten, zonder dat een mens eraan te pas komt. Zo'n computerworm draagt de gewichten van het AI-model gewoon mee in de malware en voert de berekeningen direct uit op het gehackte apparaat. Daardoor kan het systeem, anders dan klassieke malware, zelf uitzoeken hoe onbekende hardware werkt en zich daarop installeren.

Goedkope tv-boxen als proeftuin

Voor hun test gebruikten de onderzoekers vijftien Android-tv-boxen van ongeveer 55 dollar per stuk, met elk maar 4 gigabyte werkgeheugen. Het AI-model, Gemma4-26B-A4B, werd over die apparaten verdeeld: elke box verwerkte een deel van de rekenlagen, een vorm van gedistribueerde inferentie. Het ging traag, maar het werkte. Vervolgens testten de onderzoekers het hele proces in vier stappen: een netwerk aftasten op kwetsbare apparaten, toegang krijgen, een werkende AI-omgeving opzetten en van daaruit verder verspreiden. Het hacken zelf lieten ze bewust buiten beschouwing, omdat eerder onderzoek al aantoonde dat kleine modellen dat prima kunnen. Hun focus lag op het lastigste onderdeel: kan een model zelfstandig AI-inferentie opzetten op hardware die het nog nooit heeft gezien?

Eén model haalt de volledige keten

De meeste geteste modellen struikelden ergens in de keten. Een model met 9 miljard parameters wist op 8 van de 9 apparaattypes een werkende omgeving op te zetten, maar faalde zodra alle stappen achter elkaar moesten lukken. Alleen het model GLM-5.2 voltooide de volledige cyclus: in vier van de vijf testrondes infecteerde het alle acht testapparaten. Opvallend was ook dat de modellen van elkaar konden leren. Door successen en mislukkingen door te geven aan de volgende 'generatie' steeg het slagingspercentage van het model Qwen3.5-9B van 45 naar 84 procent.

Traag, maar moeilijk te stoppen

Een apparaat infecteren kostte tussen de 28 en 150 uur, afhankelijk van het model. Volgens de onderzoekers bestaat er vandaag geen model dat tegelijk klein genoeg is voor consumentenapparaten én slim genoeg om zichzelf volledig te verspreiden. Maar bij het huidige tempo van ontwikkeling verwachten ze dat die combinatie er eind 2026 wel kan zijn. Het grote risico is niet de snelheid, maar de spreiding: zo'n netwerk werkt op vrijwel elk type apparaat en heeft geen centraal command-and-control-netwerk dat je kunt uitschakelen. Amodei waarschuwde eerder al dat zo'n zwerm binnen zes tot twaalf maanden delen van het internet zou kunnen overnemen, met schade in de honderden miljarden dollars. Internetproviders kunnen besmette netwerken afsluiten en fabrikanten kunnen standaardwachtwoorden verbieden, zoals het Verenigd Koninkrijk al deed. Maar de onderzoekers verwachten dat dit soort zelflerende systemen zich ook aan verdedigingsmaatregelen kunnen aanpassen.