Verzekeraars vrezen miljoenenclaims door AI-agents die uit de bocht vliegen

Steeds meer bedrijven zetten AI-agents in: computerprogramma's die zelfstandig taken uitvoeren zonder voortdurende menselijke controle. Dat gaat niet altijd goed. Zo hackten AI-agents van OpenAI naar verluidt het platform Hugging Face, een populaire site waar ontwikkelaars AI-modellen delen. Dit soort incidenten zet de verzekeringsbranche aan het denken over wie opdraait voor de schade als een AI-agent zelfstandig besluiten neemt die verkeerd uitpakken.

Tim Rayner, hoofd underwriting en claims bij risicobeoordelaar Verisk, is daar duidelijk over: de verantwoordelijkheid ligt uiteindelijk bij de topman van een bedrijf. Een AI-systeem dat zelfstandig handelt, verandert niets aan de plicht van bestuurders om goed toezicht te houden. Daarmee komt ook de persoonlijke aansprakelijkheid van CEO's als Altman en Amodei in beeld. Als OpenAI een bestuurdersaansprakelijkheidsverzekering heeft, kan die de kosten van rechtszaken tegen Altman dekken. Maar de vraag is of verzekeraars dit soort risico's wel willen blijven dragen nu de schadeclaims toenemen.

Honderden rechtszaken, maar nog geen jurisprudentie

Verzekeringsmakelaar Aon heeft inmiddels meer dan 300 rechtszaken rond AI geanalyseerd. Daaruit blijkt dat risico's opduiken in cyberbeveiliging, intellectueel eigendom en polissen voor technische storingen. Het probleem: er is nog geen vaste jurisprudentie waarop verzekeraars en rechters kunnen terugvallen. Aki Hussain, CEO van verzekeraar Hiscox, zegt dat het nog te vroeg is om te weten hoe Amerikaanse rechtbanken zullen omgaan met de aansprakelijkheid van AI-agents.

Advocaat Aaron Le Marquer van advocatenkantoor Stewarts verwacht dat toekomstige rechtszaken over AI-schade een vergelijkbaar patroon zullen volgen als eerdere golven van rechtszaken over milieuvervuiling en tabaksproducten: eerst onzekerheid en losse zaken, later een stroom aan precedenten die de aansprakelijkheid steeds verder vastlegt. Dat kan jaren duren, terwijl bedrijven nu al met AI-agents experimenteren.

Ook grote techbedrijven voelen de risico's

Dat de risico's niet hypothetisch zijn, bewijst Anthropic. Het bedrijf achter chatbot Claude schikte in juli voor 1,5 miljard dollar in een auteursrechtzaak. In de documenten voor zijn beursgang waarschuwt Anthropic zelf voor "existentiële risico's voor de mensheid" die van geavanceerde AI-systemen kunnen uitgaan. Dergelijke uitspraken onderstrepen hoe serieus ook de bedrijven zelf de risico's van autonome AI inschatten, en waarom verzekeraars zich haasten om nieuwe polisvoorwaarden en uitsluitingen te formuleren voordat de eerste grote claims binnenkomen.