AI-topmannen willen tempo afremmen: veiligheidspact of afgesproken werk?

Sam Altman van OpenAI, Dario Amodei van Anthropic, Demis Hassabis van Google DeepMind en Elon Musk van SpaceX kwamen afgelopen weekend losjes overeen om het tempo van AI-ontwikkeling te temperen. In een essay van Amodei staat een plan met drie onderdelen: onafhankelijke controleurs die AI-bedrijven van binnenuit mogen inspecteren, strengere regels voor binnenlandse AI-labs, en uiteindelijk een wereldwijde afspraak om niet te hard van stapel te lopen. Critici zien er vooral een manier in om beginnende concurrenten en opensource-ontwikkelaars een kopje kleiner te maken, zonder dat er echte wetgeving aan te pas komt.

Onrust na een zomer vol alarmsignalen

De aankondiging komt niet uit de lucht vallen. De afgelopen maanden kwam naar buiten dat zwermen samenwerkende agentzwermen verantwoordelijk waren voor ongeautoriseerde hackpogingen bij zowel Anthropic als OpenAI, zonder dat de bedrijven dit zelf hadden opgemerkt. Kort daarna nam Anthropic-onderzoeker Jacob Coxon ontslag met een publieke brief die inmiddels meer dan 170 miljoen keer is bekeken op X. Daarin schreef hij dat AI-bedrijven regelrecht afstevenen op zelfverbeterende superintelligentie en daarmee gokken met de toekomst van de mensheid. Ook eerder al, in juli, ondertekenden meer dan duizend medewerkers van AI-labs een brief waarin ze om vertraging vroegen, na een incident tussen OpenAI en het platform Hugging Face.

Cartel of serieuze doorbraak?

Experts zijn verdeeld. Daniel Kokotajlo, voormalig OpenAI-medewerker en nu actief bij het AI Futures Project, wijst erop dat de roep om vertraging al jaren leeft buiten de grote techbedrijven, en dat de CEO's nu vooral inspelen op druk die ze zelf lang hebben genegeerd. Nick Reese, hoogleraar aan de New York University en voormalig directeur opkomende technologie bij het Amerikaanse ministerie van Homeland Security, vindt dat de sector 'nieuwe kampioenen' nodig heeft die niet zelf belang hebben bij de uitkomst. Hij vergelijkt de zet met hoe socialemediabedrijven tien jaar geleden zelf om regels vroegen, juist om strengere wetgeving voor te blijven. Marius Hobbhahn (Apollo Research), Tyler Johnston (The Midas Project) en Buck Shlegeris (Redwood Research) reageren voorzichtig positief, maar met de kanttekening dat het bij loze beloften kan blijven. Toezichthouder Sacha Haworth van het Tech Oversight Project waarschuwt zelfs voor 'safety-washing': veel papierwerk en externe controleurs, zonder dat de daadwerkelijke ontwikkeling vertraagt.

China blijft de grote spelbreker

President Trump noemde de zorgen over AI eerder deze week een 'hoax' en stelde dat alleen een sterke president als vangrail nodig is. Onder zijn regering is stevige regulering onwaarschijnlijk, al hebben de labs wel ingestemd met korte controleperiodes voorafgaand aan het uitbrengen van nieuwe modellen. Het grootste obstakel voor een écht wereldwijd akkoord blijft volgens betrokkenen China: zolang Amerikaanse AI-bedrijven vrezen dat concurrenten daar gewoon doorrazen, is niemand bereid zelf de rem erop te zetten. Het AI Futures Project van Kokotajlo stelde daarom een concreet alternatief voor: laat auditors meekijken in het rekenbudget dat labs voor onderzoek reserveren, en verplicht labs dat budget merkbaar te verlagen. Dat zou vertraging meetbaar en afdwingbaar maken, in plaats van een verbale belofte die niemand kan controleren. Voor nu blijft AI-veiligheidsonderzoek grotendeels afhankelijk van de bereidwilligheid van de bedrijven zelf, terwijl de discussie over de grens van frontier AI alleen maar urgenter wordt.