AI & computing › Generatieve AI & synthetische media
Anthropic ontwikkelt systeem dat bewijst welk AI-model een antwoord gaf
Anthropic werkt aan een open-source systeem dat met wiskundige zekerheid kan aantonen welk AI-model een bepaald antwoord heeft geproduceerd. Het systeem, FlashProve, moet voorkomen dat bedrijven heimelijk een goedkoper of juist opgeblazen model inzetten terwijl ze iets anders beweren. Het project staat nog in de onderzoeksfase, maar de code is al publiek beschikbaar.
Wie een vraag stelt aan een chatbot, gaat er vaak klakkeloos van uit dat het antwoord inderdaad van het opgegeven AI-model komt. Maar dat is niet altijd te controleren. Anthropic, het bedrijf achter de Claude-modellen, presenteerde dinsdag een onderzoeksproject dat dit probleem moet oplossen: FlashProve. Het systeem levert wat de onderzoekers 'bewijsbare inferentie' noemen: een cryptografisch bewijs dat een specifieke uitkomst daadwerkelijk door een bepaald AI-model is gegenereerd.
Hoe het werkt
Het principe lijkt op de digitale handtekening die mensen al jaren gebruiken om te bewijzen dat een e-mail echt van hen afkomstig is. Bij FlashProve publiceert een AI-bedrijf een unieke 'vingerafdruk' van elk model dat het uitbrengt. Die vingerafdruk kan later worden gekoppeld aan specifieke antwoorden en gecontroleerd worden met cryptografische technieken. Belangrijk: de vingerafdruk onthult niets over de interne gewichten van het model, de geheime cijfers die bepalen hoe een AI-systeem zich gedraagt en die bedrijven als Anthropic en OpenAI nooit delen. Daardoor kunnen ook bedrijven met gesloten, commerciële modellen meedoen zonder hun belangrijkste bedrijfsgeheim op te geven. Volgens de onderzoekers is het systeem bovendien licht genoeg om controles lokaal, op een los apparaat, uit te voeren, zonder dat daarvoor zware rekenkracht nodig is.
Waarom dit nodig is
De aanleiding is simpel: vertrouwen. Een AI-aanbieder zou in theorie ongemerkt een goedkoper, minder capabel model kunnen inzetten om kosten te besparen, terwijl klanten denken dat ze het duurdere topmodel gebruiken. Omgekeerd kan een bedrijf ook juist een zwaarder model inzetten om testresultaten op te poetsen. FlashProve moet dat soort trucs blootleggen. Het systeem is ook bedoeld voor situaties waarin derde partijen claims doen over AI-gebruik. Een softwarebedrijf kan bijvoorbeeld beweren dat de code is gecontroleerd door een gespecialiseerd beveiligingsmodel, of een onderneming kan zeggen dat een businessplan is goedgekeurd door een bepaald AI-systeem. Zonder een onafhankelijke controle is zo'n claim niet te verifiëren. Met FlashProve kan iedereen dat wel nagaan.
Nog geen kant-en-klaar product
Anthropic benadrukt dat het hier om een tussentijds onderzoeksresultaat gaat, niet om een afgerond systeem. Er zijn geen concrete plannen om FlashProve binnen Anthropic zelf of bij andere AI-labs in gebruik te nemen. Het bedrijf publiceerde wel een uitgebreide technische specificatie en werkende code op het platform GitHub, onder een open-sourcelicentie. Daarmee hoopt Anthropic dat andere onderzoekers het concept verder uitbouwen en verbeteren. Voor een sector die steeds vaker worstelt met vragen over transparantie en verantwoording rond AI-modellen, is dat een veelzeggend signaal: het probleem van herkenbaarheid en controleerbaarheid van AI-output wordt serieus genomen, ook al is de oplossing nog niet marktrijp.
Achtergrond & begrippen
Wat betekent dit voor de toekomst? Als systemen zoals FlashProve ooit breed worden ingevoerd, kunnen gebruikers en bedrijven voor het eerst objectief controleren welk AI-model daadwerkelijk achter een antwoord zit. Dat vergroot het vertrouwen in AI-diensten en maakt het moeilijker voor aanbieders om stiekem te besparen op kwaliteit of resultaten te verfraaien. Op de langere termijn kan dit soort verificatie een standaardonderdeel worden van hoe bedrijven en toezichthouders AI-gebruik beoordelen.
- Bewijsbare inferentie
- Een methode om met wiskundige zekerheid aan te tonen dat een AI-model een specifieke uitkomst heeft geproduceerd, in plaats van dit simpelweg te moeten geloven.
- Cryptografisch bewijs
- Een wiskundige techniek waarmee iets onweerlegbaar kan worden aangetoond, vergelijkbaar met een digitale handtekening die bevestigt wie een bericht heeft verstuurd.
- Vingerafdruk (model fingerprint)
- Een unieke, publiek gemaakte code die bij een specifiek AI-model hoort en later gebruikt kan worden om uitkomsten aan dat model te koppelen.
- Modelgewichten (weights)
- De interne, geheime getallen in een AI-model die bepalen hoe het reageert op input; AI-bedrijven houden deze meestal privé omdat ze de kern van het model vormen.
- Open source
- Software waarvan de broncode publiek beschikbaar is, zodat iedereen die kan bekijken, gebruiken en verder ontwikkelen.
- Inferentie
- Het proces waarbij een AI-model, na te zijn getraind, daadwerkelijk een antwoord of uitkomst genereert op basis van een gestelde vraag of input.
Bronnen
Dit artikel is met behulp van AI geschreven op basis van bovenstaande bronnen en is geen letterlijke vertaling. Zo werkt onze redactie.
