Rechter: Pentagon mag Anthropic weren om geweigerde Claude-functies

Het gaat om een slepend conflict dat in maart begon, toen de regering-Trump agentschappen verbood om nog gebruik te maken van producten van Anthropic. Defensieleveranciers kregen bovendien het verbod om nog zaken te doen met het bedrijf achter chatbot Claude. Aanleiding was een geschil over de vraag of Claude mocht worden ingezet bij een lopende militaire operatie in het buitenland.

Grenzen aan wat Claude mag doen

Anthropic bouwt bewust AI-guardrails in zijn taalmodel in: technische grenzen die voorkomen dat Claude bepaalde taken uitvoert. Het bedrijf weigert bijvoorbeeld dat zijn technologie wordt gebruikt voor dodelijke autonome wapens of grootschalige surveillance van Amerikaanse burgers. Volgens het Pentagon zorgde dat beleid voor onzekerheid: defensiepersoneel wist niet zeker of Claude wel zou functioneren zoals nodig tijdens een missie. Het ministerie besloot daarom Anthropic aan te merken als een risico voor de toeleveringsketen van technologie, vergelijkbaar met de manier waarop landen als China worden geweerd bij gevoelige IT-inkoop. Een dergelijke aanmerking betekent in de praktijk dat een bedrijf wordt uitgesloten van vrijwel alle overheidsopdrachten en dat federale instanties de producten niet meer mogen aanschaffen.

Twee rechtbanken, twee uitkomsten

Een rechtbank in Noord-Californië oordeelde vorige maand nog dat die aanmerking onterecht was. Volgens rechter Rita Lin voldoet Anthropic niet aan de wettelijke definitie van een risicovolle leverancier, omdat die definitie is bedoeld voor bedrijven die willens en wetens sabotage plegen. Anthropic handelde volgens haar juist te goeder trouw. Het federale hof van beroep in Washington D.C. komt nu tot een ander oordeel, omdat het naar een andere wet kijkt. Die wet stelt geen eis aan de intentie van een bedrijf: ook een leverancier zonder kwade bedoelingen kan volgens de rechters een risico vormen als die weigert bepaalde functies te leveren die de overheid nodig acht. Met twee stemmen voor en één tegen wees het hof het beroep van Anthropic af.

Wat betekent de uitspraak voor AI-bedrijven?

De zaak raakt de kern van een groter dilemma rond militair gebruik van kunstmatige intelligentie. De rechters erkennen dat zowel te strenge als te losse restricties gevaarlijk kunnen zijn: een AI-model dat zomaar weigert kan cruciale operaties laten mislukken, terwijl een ongebreideld model volgens Anthropic het risico loopt verkeerde doelwitten aan te wijzen door een AI-hallucinatie. De uitspraak geeft de Amerikaanse overheid meer ruimte om AI-bedrijven te dwingen functies vrij te geven voor defensiedoeleinden, ook zonder bewijs van kwade opzet. Anthropic zegt het niet eens te zijn met de uitspraak en overweegt verder juridisch verzet, mogelijk tot aan het Hooggerechtshof. Ondertussen meldde handelsminister Howard Lutnick onlangs dat de relatie tussen de regering en Anthropic inmiddels is verbeterd.