Anthropic bewijst met cryptografie welk AI-model echt antwoord gaf

Wie vandaag een vraag stelt aan een chatbot, moet er maar op vertrouwen dat die vraag ook echt door het beloofde AI-model wordt beantwoord. Een tussenpartij kan ongemerkt een goedkoper, minder slim model inzetten om kosten te besparen. Of een kwaadwillende kan de gegevensstroom manipuleren. Voor gebruikers en toezichthouders was dat tot nu toe vrijwel onmogelijk te controleren. Anthropic, het bedrijf achter de Claude-chatbots, presenteert met FlashProve een mogelijke oplossing voor dit probleem.

Hoe werkt FlashProve?

FlashProve maakt gebruik van een cryptografische techniek die zkSNARK heet. In de praktijk maakt de aanbieder van een AI-model eerst een soort digitale vingerprint van de miljarden interne rekenwaarden waarmee dat model werkt, de zogeheten gewichten. Bij elk antwoord levert het systeem vervolgens een compact cryptografisch bewijs dat dit specifieke model de tekst daadwerkelijk heeft geproduceerd. Het slimme is dat dit bewijs niets onthult over de gewichten zelf, die blijven het bedrijfsgeheim van de maker. Volgens het technische rapport van Anthropic genereert FlashProve zo'n bewijs op een losse Nvidia H100-chip met een snelheid van ongeveer 110 tokens (tekstfragmenten) per seconde, getest op Meta's model Llama 4 Maverick met 400 miljard parameters. Elk bewijs is ongeveer 19 megabyte groot en is binnen 17 seconden te controleren op een gewone computer. Dat is zeventig tot vijfennegentig keer trager dan een normaal antwoord, een forse vertraging, maar wel een enorme verbetering. Het enige eerder beschikbare vergelijkbare systeem deed er veertien uur over om duizend tokens te verwerken en produceerde een bewijs van 93,6 gigabyte dat bijna een dag kostte om te controleren.

Toezicht op AI-bedrijven wordt mogelijk

Anthropic ziet vooral praktisch nut voor toezichthouders en bedrijven. Een regulator zou kunnen controleren of een AI-aanbieder werkelijk alleen de goedgekeurde modellen gebruikt. Bedrijven zouden kunnen bewijzen dat hun programmeercode daadwerkelijk is gecontroleerd door een specifiek veiligheidsmodel. En aanbieders zelf zouden kunnen ontdekken of hun servers zijn gemanipuleerd, bijvoorbeeld door een aanvaller die ongemerkt een ander, krachtiger model heeft geïnstalleerd. In zijn Frontier Safety Roadmap, het veiligheidsplan waarmee Anthropic risico's van steeds krachtigere AI wil beheersen, had het bedrijf zichzelf als doel gesteld om voor september 2026 een werkend controlesysteem te bouwen. Dat doel is inmiddels gehaald via een los project dat computerverkeer digitaal ondertekent op een vertrouwde server. FlashProve streeft hetzelfde doel na, maar dan puur met cryptografie, zonder dat er speciale, vertrouwde hardware nodig is.

Nog flinke beperkingen

Anthropic benadrukt dat FlashProve een onderzoeksproject is, geen kant-en-klaar product. Het systeem werkt nu alleen voor korte tekstfragmenten van maximaal 1024 tokens, veel minder dan de context die moderne chatbots aankunnen. Ook verbergt het wel de gewichten van een model, maar niet de onderliggende architectuur, de technische blauwdruk. Daarnaast werkt het bewijs alleen als het model telkens het meest voor de hand liggende volgende woord kiest, en niet met de iets willekeurigere antwoorden die chatbots in de praktijk meestal geven. De volledige programmeercode en documentatie staan vrij beschikbaar op GitHub onder een open licentie.