Anthropic bouwt cryptografisch bewijs dat AI-antwoord echt van dat model komt

Wie tegenwoordig een AI-chatbot of taalmodel gebruikt via een externe aanbieder, moet er simpelweg op vertrouwen dat die het model levert dat is beloofd. Een check is er niet. Anthropic, het bedrijf achter de Claude-modellen, wil dat probleem oplossen met een nieuw cryptografisch systeem genaamd FlashProve. Het maakt wiskundig bewijs mogelijk dat een bepaald model een specifiek antwoord heeft gegeven op een specifieke vraag, zonder dat de interne bouwstenen van dat model zichtbaar worden.

Waarom is dit nodig

Steeds meer bedrijven en gebruikers krijgen toegang tot geavanceerde AI-modellen via tussenpartijen: routeringsdiensten en externe aanbieders die claimen een bepaald model te draaien. Niemand kan nu controleren of dat klopt. Een aanbieder zou in theorie ongemerkt kunnen overstappen op een goedkoper, minder capabel model om kosten te besparen, terwijl de klant denkt het duurdere model te gebruiken. Voor toepassingen waarbij nauwkeurigheid cruciaal is, zoals cybersecurity-analyses of medisch advies, kan dat grote gevolgen hebben. FlashProve moet dat soort verwisseling en manipulatie van antwoorden aantoonbaar maken.

Hoe het systeem werkt

FlashProve gebruikt een cryptografische techniek die bekendstaat als zero-knowledge bewijs, specifiek een variant genaamd zkSNARK. Dat klinkt technisch, maar het principe is simpel: een partij kan bewijzen dat ze iets correct hebben berekend, zonder de geheime informatie te tonen waarmee die berekening is gedaan. Een AI-aanbieder publiceert eerst een soort digitale vingerafdruk van zijn model, een zogeheten commitment, zonder de daadwerkelijke modelgewichten (de miljarden interne rekenwaarden die het model bepalen) vrij te geven. Bij elke vraag van een gebruiker kan de aanbieder vervolgens een bewijs genereren dat precies dát model het antwoord heeft geproduceerd. Iedereen die de vingerafdruk, de vraag en het antwoord heeft, kan dat bewijs controleren, zonder zelf het model te moeten draaien.

Nog een onderzoeksproject, geen marktproduct

Anthropic testte het systeem op Llama 4 Maverick, een groot taalmodel van 400 miljard parameters dat werkt met een zogeheten mixture-of-experts-structuur, waarbij alleen delen van het model worden geactiveerd per vraag. Op één NVIDIA H100-videokaart genereerde FlashProve bewijzen met een snelheid van ongeveer 110 tokens per seconde, waarbij elk bewijs circa 19 megabyte groot was voor een vraag van 1.024 tokens. Het controleren van zo'n bewijs duurt ongeveer 17 seconden op een gewone processor, zonder videokaart.

Toch is FlashProve nog geen kant-en-klare oplossing. Het genereren van bewijzen kost 70 tot 95 keer zoveel rekenkracht als een normale AI-berekening. Het systeem werkt bovendien alleen bij relatief korte gesprekken tot 1.024 tokens en bij een vereenvoudigde, vaste manier van antwoorden genereren. De bouwstructuur van het model blijft ook zichtbaar, alleen de exacte gewichten niet. Anthropic heeft de broncode, technische documentatie en wiskundige bewijzen gratis online gezet onder een open licentie, in de hoop dat andere onderzoekers de techniek verder verbeteren.