Anthropic wil ondanks miljardenbeursgang macht bij externe toezichthouders houden

Anthropic, het bedrijf achter de AI-chatbot Claude, bereidt zich voor op een beursgang die de onderneming tot maar liefst 2000 miljard dollar waard kan maken. Toch verandert er weinig aan de ongebruikelijke manier waarop het bedrijf wordt gecontroleerd. Een klein extern orgaan, de Long-Term Benefit Trust, houdt de touwtjes stevig in handen en dat blijft ook na de beursgang zo.

Trustees bepalen de meerderheid van het bestuur

De trust bestaat uit maximaal vijf trustees die geen aandelen bezitten, maar wel het recht hebben om de meerderheid van Anthropics zevenkoppige raad van bestuur te benoemen en te ontslaan. Op dit moment zijn er drie trustees actief: voorzitter Neil Buddy Shah, topman van de Clinton Health Access Initiative, oud-topman van de Amerikaanse centrale bank Ben Bernanke en Richard Fontaine, directeur van denktank Center for a New American Security. Zij kozen eerder vier van de zeven bestuurders, onder wie Netflix-oprichter Reed Hastings en Novartis-topman Vas Narasimhan. Het is bedoeld als blauwdruk voor een aanpasbare toezichtstructuur voor de hele AI-sector, vergelijkbaar met hoe boekhoudregels ooit als vrijwillige norm begonnen.

De trustees krijgen vooraf bericht over belangrijke besluiten, zoals de lancering van nieuwe AI-modellen door dit frontier AI-lab. Ze vergaderen wekelijks onderling en spreken om de week met de directie. Ook mengden ze zich al in gevoelige kwesties, zoals de gefaseerde uitrol van Anthropics cyberbeveiligingsmodel Mythos via het Glasswing Project en een conflict met de Amerikaanse overheid over autonome wapensystemen.

Nog geen echte test

Ondanks die invloed heeft de trust tot nu toe vooral een adviserende rol gespeeld. Volgens ingewijden heeft het orgaan nooit harde grenzen getrokken of Anthropic gedwongen winst op te offeren voor zijn missie: AI ontwikkelen die de mensheid ten goede komt. Daardoor is nog onduidelijk of de trust ook echt kan ingrijpen als commerciële belangen en maatschappelijke doelen botsen.

Hoogleraar Jesse Fried van Harvard Law School noemt dat een ingebouwd risico op belangenverstrengeling. Het bedrijf haalt geld op bij winstgerichte beleggers, schrijft hij in een recent paper, maar laat zelfbenoemde individuen bepalen hoeveel winst daarvoor moet wijken. Rechtsgeleerde Elizabeth Pollman van de University of Pennsylvania noemt het model doordacht, maar ongetest: het is volgens haar nauwelijks mogelijk om vooraf voor elke denkbare belangenclash een oplossing vast te leggen.

Les uit het OpenAI-drama

De vergelijking met concurrent OpenAI ligt voor de hand. Dat bedrijf begon als non-profit en kreeg in 2023 te maken met een mislukte poging van het bestuur om topman Sam Altman te ontslaan, wat uitliep op een reorganisatie van de hele bestuursstructuur. Anthropics trust geldt als minder risicovol, omdat trustees kunnen worden ontslagen als 85 procent van de stemgerechtigde aandeelhouders daarmee instemt, een noodrem die na de beursgang mogelijk verandert.

Investeerders die al langer in Anthropic zitten, zeggen de constructie bewust te hebben geaccepteerd en noemen de nadruk op veiligheid zelfs als reden om in te stappen. Tegelijk gingen zij er volgens een betrokken durfkapitalist van uit dat het bedrijf uiteindelijk toch een commerciële zwaargewicht moest worden om zijn missie waar te maken: "Er was een aanname dat het kapitalisme uiteindelijk zou winnen." Voor nieuwe beleggers op de beurs wordt die aanname nu voor het eerst écht getest.