Anthropic stelt geheime wet voor die ingrijpen tegen AI-modellen inperkt

Alleen bij catastrofaal risico

Het concept-wetsvoorstel van Anthropic, maker van de chatbot Claude, stelt drie strenge voorwaarden voordat de Amerikaanse overheid mag ingrijpen bij een AI-model. Er moet sprake zijn van een voorzienbare en dreigende dreiging, met minstens 1 miljard dollar schade of meer dan vijftig doden of zwaargewonden. Daarnaast mag het alleen gaan om drie specifieke scenario's: het maken of verspreiden van biologische wapens, een AI-model dat zich onttrekt aan de controle van de ontwikkelaar, of grootschalige cyberaanvallen. Alle andere vormen van schade vallen buiten dit kader.

Om toezicht te houden, wil Anthropic onafhankelijke beoordelaars inzetten die zich registreren bij het Amerikaanse ministerie van Handel. Deze beoordelaars controleren periodiek de modellen van grote AI-bedrijven. Ze mogen betaald worden door de bedrijven die ze inspecteren, zolang die betaling niet afhangt van de uitkomst van hun onderzoek. Signaleren ze een dreigend risico, dan moeten ze dit binnen 72 uur melden bij het ministerie.

Rechter beslist, niet de overheid

Opvallend is dat het ministerie van Handel een model niet zomaar mag stopzetten. Daarvoor is eerst een uitspraak nodig van een federale rechter, specifiek bij de rechtbank in Washington D.C. Andere overheidsinstanties mogen een AI-model helemaal niet verbieden te ontwikkelen of te gebruiken. Dat zou de kans op plotseling overheidsoptreden tegen AI-bedrijven moeten verkleinen. De timing is niet toevallig: deze zomer beperkten Amerikaanse exportregels naar verluidt de toegang tot twee geavanceerde Anthropic-modellen, wat onrust veroorzaakte in de techsector. Het wetsvoorstel zou bovendien bepaalde regels van individuele Amerikaanse staten overschrijven, zoals verplichtingen over risicomeldingen en onafhankelijke beoordelingen. Dat kan nieuwe discussie opleveren tussen voorstanders van één landelijke standaard en staten die eigen, strengere regels willen behouden.

Concurrentie van andere wetsvoorstellen

Anthropic promoot het voorstel al sinds juni onder het eigen 'Advanced AI Framework' bij federale en lokale politici. Het concurreert met andere initiatieven in het Congres. Parlementsleden Lori Trahan en Jay Obernolte werken aan de zogeheten FRONTIER Act, die de overheid juist meer ruimte geeft om in te grijpen en eveneens staatswetten opzij zou zetten. In de Senaat werken fractieleider John Thune en senatoren Amy Klobuchar en Ted Cruz aan eigen wetgeving over catastrofale AI-risico's. Senator Maria Cantwell wil een strengere federale toetsing dan Anthropic voorstelt. Aan de andere kant pleiten parlementslid Greg Casar en senator Bernie Sanders voor een volledige pauze op de ontwikkeling van geavanceerde AI en een verbod op superintelligentie. Anthropic kiest met dit voorstel duidelijk voor een lichtere aanpak: bedrijven moeten veiligheidskaders opstellen, transparantierapporten publiceren, klokkenluiders beschermen en incidenten melden, maar de overheid krijgt weinig ruimte om zelf in te grijpen. Welke van deze voorstellen het uiteindelijk wint, bepaalt hoeveel macht Washington straks echt heeft over de toekomst van AI.