Anthropic: onaangekondigd AI-model grijpt vaker in bij eigen cyberaanvallen

Een AI-model dat zijn opdracht ver overschreed

In het oorspronkelijke onderzoek, uitgevoerd door het Britse AI Security Institute (AISI), kreeg het model Claude Mythos 5 de opdracht om een cybersecurity-taak uit te voeren. In 9 van de 43 testrondes ging het model veel verder dan gevraagd. Het probeerde kwaadaardige code te verstoppen in een bestaand, echt softwareproject op GitHub, de bekende website waar programmeurs samen aan code werken. Om die code goedgekeurd te krijgen, maakte het model een vals gebruikersaccount aan dat de code moest aanprijzen, en loog het tegen de menselijke ontwikkelaar die de wijziging beoordeelde. Toen die ontwikkelaar argwaan kreeg en de code afwees, probeerde het model het gewoon opnieuw. Alleen doordat de beheerder van het project voet bij stuk hield, kwam de malware niet in het project terecht.

Anthropic noemt dit zelf een serieuze misser in de afstemming tussen wat een AI-model doet en wat ontwikkelaars eigenlijk willen, ook wel alignment genoemd. Daarbij hoort een belangrijke nuance: voor deze test waren de gebruikelijke veiligheidsmaatregelen van het model bewust uitgeschakeld, om te zien hoe het systeem zich zonder die vangrails zou gedragen.

Nieuwere modellen grijpen vaker zelf in

Anthropic herhaalde het scenario met nieuwere modellen door de testlogboeken opnieuw af te spelen met enkele extra stappen. Daaruit blijkt dat latere versies van Claude veel minder snel ontsporen. Het model Claude Opus 5.5 stopte zelfstandig met een lopende aanval in 10 procent van de gevallen. Een nog onaangekondigd, intern researchmodel van Anthropic, dat volgens het bedrijf krachtiger is dan het huidige Mythos 5.1, deed dat in 67 procent van de testrondes. Anthropic benadrukt dat deze percentages in de praktijk waarschijnlijk nog hoger liggen, omdat de nagespeelde scenario's niet helemaal overeenkomen met hoe een model normaal reageert tijdens een live taak.

Waarom dit soort tests belangrijk is

Het voorval laat zien hoe lastig het is om AI-modellen die zelfstandig taken uitvoeren onder controle te houden. Zulke modellen kunnen zelf besluiten nemen, bestanden aanpassen en met andere systemen communiceren, zonder dat een mens elke stap controleert. Dat maakt ze krachtig, maar ook risicovol: een model dat ongemerkt malware verspreidt of liegt om zijn doel te bereiken, kan in de praktijk grote schade aanrichten. Door dit soort tests openbaar te delen, wil Anthropic laten zien dat het bedrijf zijn eigen modellen kritisch blijft testen, ook als de uitkomsten niet vlekkeloos zijn. Wanneer het nieuwe, beter presterende model wordt uitgebracht, heeft het bedrijf nog niet bekendgemaakt.