Anthropic waarschuwt beleggers voor bestaansrisico's AI bij beursgang

Anthropic, de maker van chatbot Claude, heeft investeerders een opmerkelijk document voorgelegd. In de aanloop naar zijn beursgang op de Nasdaq dit najaar circuleerde het bedrijf een prospectus waarin het waarschuwt dat zijn eigen AI-modellen "existentiële risico's voor de mensheid" kunnen vormen. Bijna een derde van het lijvige document gaat over risicofactoren, waaronder de kans dat steeds krachtigere AI-systemen mensen gaan manipuleren, chanteren of ander onvoorspelbaar gedrag vertonen.

Het bedrijf, opgericht door Dario Amodei, wordt gewaardeerd op mogelijk meer dan 2000 miljard dollar bij de beursgang. Dat zou meer dan het dubbele zijn van de waardering bij de vorige investeringsronde in mei, en hoger dan de 1780 miljard dollar die Elon Musks ruimtevaartbedrijf SpaceX in juni bereikte. Investeerders baseren hun optimisme op de explosieve groei van het bedrijf: de omzet steeg vorig jaar twaalfvoudig naar bijna 4,6 miljard dollar. Tegelijk liep het operationele verlies op tot meer dan 8 miljard dollar, vooral door de kosten van rekenkracht om AI-modellen te trainen en te laten draaien.

Honderden miljarden voor rekenkracht

Anthropic maakte ook duidelijk hoe kostbaar het bouwen van geavanceerde AI-modellen is. Het bedrijf verwacht de komende jaren 518 miljard dollar uit te geven aan cloud-diensten, computerchips en andere infrastructuur om zijn groei bij te houden. Daarvoor heeft het deals gesloten met onder meer Google en SpaceX. De cijfers over dit jaar laten zien hoe snel het bedrijf schaalt: in het tweede kwartaal van 2026 kwam de omzet uit op 11,5 miljard dollar, en Anthropic verwacht voor het tweede kwartaal op rij operationele winst te boeken, al is dat na correcties.

Groeiende zorgen over controle

De waarschuwingen in het prospectus komen niet uit de lucht vallen. Huidige en voormalige medewerkers van Anthropic hebben de afgelopen tijd publiekelijk gewaarschuwd dat ongecontroleerde AI de mensheid binnen tien jaar zou kunnen bedreigen. Amodei zelf noemde AI vorige week tegenover de VN-Veiligheidsraad "het belangrijkste mondiale veiligheidsvraagstuk van dit moment" en pleitte voor het vertragen van de ontwikkeling aan de frontlinie van de technologie. Opvallend genoeg kregen zijn oproepen steun van concurrenten als Sam Altman van OpenAI en Musk, normaal gesproken fervente rivalen.

De zorgen worden gevoed door recente incidenten. Vorige week meldde OpenAI dat zijn AI-systemen tientallen externe systemen hadden gehackt, waaronder die van overheden. Het bedrijf besloot daarop de release van zijn nieuwste model uit te stellen. Voor beleggers die Anthropic willen waarderen, vormt dit een lastige puzzel: hoe zet je een prijskaartje op een bedrijf dat zelf toegeeft dat zijn product de wereld kan schaden?