AI & computing › Generatieve AI & synthetische media
Anthropic laat AI-waakhond METR intern meekijken bij veiligheidstests
AI-bedrijf Anthropic geeft de onafhankelijke onderzoeksorganisatie METR voor het eerst vrijwel volledige interne toegang tot zijn kunstmatige intelligentie. Zes medewerkers van METR krijgen bedrijfslaptops, kantoorruimte en toegang tot interne tools om de veiligheid van Anthropics AI-modellen te controleren. Het is de verst gaande vorm van extern toezicht die het bedrijf tot nu toe heeft toegestaan.
Anthropic, het bedrijf achter de AI-chatbot Claude, opent de deuren voor een groep buitenstaanders die precies mag zien hoe het bedrijf zijn AI-modellen test op risico's. Dat meldt Anthropic zelf. Het gaat om zes mensen van METR, een non-profitorganisatie die gespecialiseerd is in het beoordelen van de risico's van geavanceerde AI-systemen. Zij krijgen toegang die volgens Anthropic ongeveer gelijk is aan die van de eigen interne veiligheidsteams.
Wat mag METR wel en niet zien
De toegang is ruim, maar niet onbeperkt. Klantgegevens, informatie die onder het verschoningsrecht van advocaten valt, en details over de technische bouw van de modellen blijven buiten beeld. METR mag zijn bevindingen zelfstandig publiceren, zonder dat Anthropic daar vooraf goedkeuring over geeft. Wel kan Anthropic vragen om bepaalde passages weg te laten, maar alleen binnen vooraf vastgelegde categorieën. Belangrijk is dat METR vervolgens zelf publiekelijk mag melden of het die verzoeken om weglating terecht vond. Daarmee houdt de organisatie een stok achter de deur tegen al te veel censuur door Anthropic.
Anthropic zegt dat niet alle veiligheidsinformatie zomaar openbaar kan worden gemaakt. Sommige details zouden aanvallers kunnen helpen om de modellen te misbruiken, andere zijn simpelweg bedrijfsgeheimen. Toch is deze samenwerking volgens het bedrijf een stap verder dan eerdere afspraken met andere externe partijen.
Meer toezicht dan bij andere partners
Anthropic werkte al samen met organisaties als SecureBio, Accenture en Faculty, maar die kregen minder toegang en moesten zich houden aan strengere beperkingen over wat ze mochten publiceren. Met techbedrijf Hugging Face zijn inmiddels ook verkennende gesprekken gestart over een vergelijkbare rol. De stap van Anthropic past in een breder patroon: steeds meer AI-bedrijven zoeken naar manieren om onafhankelijke controle aan te tonen, nu overheden en toezichthouders wereldwijd meer grip willen op krachtige AI-systemen.
Belofte aan het Witte Huis
De samenwerking met METR volgt direct op het moment dat Anthropic het zogeheten White House Accord on Super Intelligence ondertekende. In dat akkoord beloven AI-bedrijven onder meer om samen te werken met onafhankelijke controleurs bij het beoordelen van de risico's van steeds krachtigere AI-modellen. Door METR nu zo veel toegang te geven, probeert Anthropic te laten zien dat het die belofte serieus neemt. Voor het publiek en toezichthouders is dit een belangrijk signaal: het bedrijf accepteert dat een buitenstaander meekijkt in plaats van alleen zelf te verklaren dat zijn modellen veilig zijn.
Achtergrond & begrippen
Wat betekent dit voor de toekomst? Onafhankelijke controle op AI-modellen wordt steeds belangrijker naarmate deze systemen krachtiger en risicovoller worden. Als meer AI-bedrijven externe partijen zoals METR binnenlaten, kan dat het vertrouwen in AI-veiligheid vergroten en de basis leggen voor strengere, onafhankelijk gecontroleerde standaarden in de sector.
- METR
- Een non-profitorganisatie die onderzoek doet naar de risico's van geavanceerde AI-modellen en bedrijven helpt die risico's te beoordelen.
- AI-model
- Het onderliggende systeem, zoals Claude van Anthropic, dat met kunstmatige intelligentie tekst, beelden of andere inhoud genereert op basis van trainingsdata.
- Verschoningsrecht (attorney-client privilege)
- Een juridisch recht waardoor communicatie tussen een advocaat en zijn cliënt vertrouwelijk blijft en niet gedeeld hoeft te worden met derden.
- Modelarchitectuur
- De technische opbouw en structuur van een AI-model, zoals hoe het is ontworpen en getraind; dit wordt vaak geheim gehouden om concurrenten niet te helpen.
- White House Accord on Super Intelligence
- Een overeenkomst waarin AI-bedrijven afspraken maken met de Amerikaanse overheid over de veilige ontwikkeling van zeer krachtige AI-systemen, onder meer door samenwerking met onafhankelijke toezichthouders.
Bronnen
Dit artikel is met behulp van AI geschreven op basis van bovenstaande bronnen en is geen letterlijke vertaling. Zo werkt onze redactie.
