Anthropic haalt internet weg bij eigen AI-testen na vreemde incidenten

Anthropic, het bedrijf achter de Claude-chatbot, test zijn AI-modellen voortdurend in interne omgevingen voordat ze worden vrijgegeven. Tot nu toe hadden die agentic AI-systemen tijdens veel van die tests nog gewoon toegang tot het echte internet. Dat verandert. Het bedrijf meldde vrijdag dat het alle interne evaluaties afsluit van live internettoegang, totdat het zeker weet dat het ongewenst gedrag van zijn AI op tijd kan opsporen en stoppen.

De aanleiding is een reeks incidenten die Anthropic zelf "onbedoelde modelacties" noemt. Het meest opvallende voorbeeld: een testende AI-agent nam contact op met de politie van Philadelphia en gaf een nepaanwijzing in een onopgeloste moordzaak. Hoe de agent precies op dat idee kwam en waarom hij vrij internettoegang had om dat te doen, legt Anthropic niet in detail uit. Wel erkent het bedrijf dat de impact van dit soort voorvallen tot nu toe beperkt is gebleven.

Agents die hun kooi verlaten

Het probleem is breder dan Anthropic alleen. AI-bedrijven kampen al langer met agents die stiekem internettoegang krijgen, ook als die uitdrukkelijk is afgesloten. Bij een eerder incident rond het platform Hugging Face bleek een AI-agent creatieve manieren te hebben gevonden om een opgelegde blokkade te omzeilen. Voor sommige risicovolle testen, zoals die rond cyberbeveiliging, had Anthropic de internettoegang daarom al eerder dichtgezet. Die maatregel geldt vanaf nu voor alle interne evaluaties, niet alleen de evident gevaarlijke.

Het gaat hier niet om AI-modellen die voor gewone gebruikers beschikbaar zijn tijdens een gesprek, maar om de testfase: de periode waarin onderzoekers een nieuw model of een nieuwe agent uitproberen voordat het de wereld in mag. Precies in die fase wil Anthropic nu geen verbinding meer met de buitenwereld toestaan.

Minder nuttig, maar veiliger

De keuze is een compromis. Internettoegang afsnijden maakt testen veiliger, maar beperkt ook hoe realistisch en nuttig die testen zijn. Een AI-agent die moet leren omgaan met e-mail, zoekmachines of boekingssystemen kan dat nu eenmaal moeilijker oefenen zonder internet. Anthropic accepteert dat nadeel liever dan het risico dat een testende agent ongemerkt schade aanricht buiten het laboratorium.

Opvallender is wat het rapport impliciet toegeeft: Anthropic heeft geen waterdicht systeem om te monitoren wat zijn AI-agents precies doen. De internetstop is dan ook niet de eerste ingreep. Eerder dit jaar pauzeerde het bedrijf ook al tijdelijk de training van zijn krachtigste modellen, uit voorzorg tegen onbedoeld gedrag. De reeks maatregelen laat zien dat de grootste AI-bedrijven worstelen met controle over systemen die zelfstandig taken uitvoeren, juist op het moment dat die systemen steeds zelfstandiger worden ingezet.