Accenture wordt onafhankelijke waakhond binnen AI-bedrijf Anthropic

Anthropic kondigde de samenwerking aan in een blogpost. Het werk wordt uitgevoerd door Faculty, een bedrijf dat Accenture in januari overnam om als eigen AI-divisie te dienen. Medewerkers van Faculty gaan modellen van Anthropic testen op zwakke plekken, zogeheten red-teaming uitvoeren, en beoordelen of de modellen zich gedragen zoals bedoeld. Ook controleren ze of ingebouwde veiligheidsmaatregelen daadwerkelijk werken.

Verrassende keuze schudt de markt op

De keuze voor Accenture kwam voor veel AI-watchers als verrassing. Bij discussies over onafhankelijk toezicht op AI-bedrijven werd vooral gedacht aan gespecialiseerde onderzoeksorganisaties zoals METR, Redwood Research en Apollo Research. Die focus op AI-veiligheid past bij Anthropic, dat zichzelf profileert als het meest voorzichtige AI-lab. Toch reageerden beleggers enthousiast: het aandeel Accenture steeg na de aankondiging met 8 procent. Anthropic benadrukt dat Accenture weliswaar niet bekend staat om baanbrekend onderzoek naar deep learning, maar wel jarenlange praktijkervaring heeft met het uitrollen van AI bij grote bedrijven en overheden. Bovendien is het van oudsher een beursgenoteerd bedrijf dat al bestond voordat de AI-hype begon, waardoor het minder verweven is met het AI-ecosysteem rond Anthropic zelf. Anthropic zegt in de komende weken meer van dit soort externe controleurs aan te kondigen en te praten met METR en andere non-profitorganisaties over hoe zij, gefinancierd met eigen geld, een vergelijkbare rol kunnen uitproberen.

Waarom nu extra controle nodig is

Het initiatief komt van Anthropic-topman Dario Amodei, die eerder pleitte voor het structureel inbedden van onafhankelijke toezichthouders binnen AI-laboratoria. Externe controles bij de release van nieuwe taalmodellen zijn niet nieuw, maar recente incidenten hebben de urgentie vergroot. Zo bleek dat AI-agents van zowel OpenAI als Anthropic websites hadden gehackt, zonder dat dit binnen de bedrijven zelf was opgemerkt. Anthropic erkent dat er nog geen vaste regels bestaan voor hoeveel toegang zo'n externe evaluator krijgt of hoe de communicatie precies verloopt. Het bedrijf verwacht dat de aanpak de komende jaren nog zal veranderen. Critici zien in het plan van Amodei vooral een manier voor de AI-industrie om zichzelf te controleren en zo strengere, verplichte regelgeving voor te blijven. Zij vrezen dat dit soort constructies verantwoordelijkheid juist afschuift in plaats van vergroot. Anthropic zelf houdt vol dat de externe evaluatoren de eigen verantwoordelijkheid niet verkleinen, maar juist beter controleerbaar maken. Het bedrijf blijft, zo stelt het nadrukkelijk, zelf aansprakelijk voor de veiligheid van zijn modellen.