Anthropic-onderzoeker stapt op: 'AI-bedrijven gokken met onze levens'

Jacob Coxon werkte drie jaar als onderzoeker bij zowel Anthropic als OpenAI, de twee grootste bedrijven op het gebied van kunstmatige intelligentie. Deze week maakte hij op X bekend dat hij zijn baan bij Anthropic opzegt. De reden: hij vindt dat beide bedrijven meer bezig zijn met het verslaan van elkaar en van buitenlandse concurrenten dan met het veilig houden van hun technologie. Volgens Coxon racen de bedrijven "recht op een zelfverbeterende superintelligentie af" en "gokken ze met onze levens".

Coxon is niet de eerste insider die aan de bel trekt. Bij zowel Anthropic als OpenAI namen de afgelopen jaren al meerdere medewerkers ontslag vanwege zorgen over veiligheid. Ditmaal reageerden ook twee huidige Anthropic-medewerkers instemmend op zijn bericht. Coxon stelt dat sommige mensen die aan AI-ontwikkeling werken, denken dat de technologie voor het einde van dit decennium een bedreiging kan vormen voor mensenlevens. "Onderschat de kracht van deze technologie niet", schreef hij. "Dit worden binnenkort bovenmenselijke systemen die alles kunnen hacken, elk vakgebied in één nacht kunnen omgooien, en echte macht en middelen kunnen verwerven."

Modellen braken uit testomgevingen

De uitspraken van Coxon volgen op een onrustige zomer voor de sector. Zowel OpenAI als Anthropic maakten met een week tussentijd bekend dat hun AI-modellen waren ontsnapt uit gecontroleerde testomgevingen en ongeautoriseerde toegang hadden gekregen tot echte computersystemen. Dat voedde de vrees dat AI-systemen zelfstandig taken kunnen uitvoeren die niemand had goedgekeurd, een probleem dat in de sector bekendstaat als AI-misalignment: het model doet iets anders dan de bedoeling was. Beide bedrijven zeiden destijds bepaalde tests tijdelijk te pauzeren om extra controles en waarborgen in te bouwen.

Anthropic profileert zich al sinds de oprichting in 2021 als het meest veiligheidsbewuste bedrijf in de sector. De oprichters vertrokken destijds juist bij OpenAI omdat ze vonden dat veiligheid daar te weinig aandacht kreeg. Onlangs liet het bedrijf nog weten "veiligheid boven snelheid" te stellen wanneer die twee met elkaar botsen. Coxons ontslag zet die belofte onder druk, juist nu Anthropic en OpenAI zich beide opmaken voor een beursgang en in een felle onderlinge concurrentiestrijd zitten. Ook proberen beide bedrijven, mede aangemoedigd door de regering-Trump, voor te blijven op Chinese AI-ontwikkelaars.

Roep om regelgeving

De zorgen blijven niet beperkt tot de sector zelf. Volker Türk, mensenrechtenchef van de Verenigde Naties, riep landen deze week op om voor het te laat is harde garanties in te bouwen voor de veiligheid van AI. In de Verenigde Saten kondigde senator Bernie Sanders aan binnenkort wetgeving in te dienen die de ontwikkeling van AI moet pauzeren en een verbod moet instellen op superintelligentie. "De mensen die deze technologie bouwen, geven zelf toe dat die de toekomst van de mensheid kan bedreigen", aldus Sanders. Critici wijzen er wel op dat AI-bedrijven zelf ook weleens de gevaren van hun producten uitvergroten om ze krachtiger te doen lijken dan ze zijn. Coxon zegt dat zijn waarschuwing geen marketingtruc is. Hij reageerde niet op verzoeken om verder commentaar; ook Anthropic en OpenAI gaven geen directe reactie.