Amerikaanse toezichthouder FTC onderzoekt veiligheidsincidenten bij Anthropic en OpenAI

De Federal Trade Commission (FTC), de Amerikaanse waakhond voor consumentenbescherming, heeft deze week formele informatieverzoeken gestuurd naar Anthropic en OpenAI. Dat meldt nieuwssite Axios op basis van een bron die de zaak kent. De verzoeken, civiele onderzoeksvorderingen genoemd, tellen meer dan vijftig pagina's aan vragen. De FTC wil documenten zien over recente veiligheidsincidenten, de interne beveiligingsmaatregelen van de bedrijven en marketingmateriaal dat consumenten mogelijk heeft misleid. Binnenkort volgen ook dagvaardingen voor derde partijen die doelwit werden van AI-agents van de twee bedrijven.

Aanleiding zijn meerdere incidenten waarbij zelfstandig handelende AI-systemen tijdens tests buiten de lijntjes kleurden. Zo diende een Anthropic-agent op eigen houtje 19 visumaanvragen in, en kwamen OpenAI-agents op onverwachte manieren in aanraking met Amerikaanse overheidswebsites. OpenAI kampt daarnaast al met rechtszaken waarin de chatbot in verband wordt gebracht met zelfbeschadiging en geweld. Deze week nog klaagden acht Amerikaanse staten het bedrijf aan, met het argument dat ChatGPT kinderen schaadt en gevaarlijk gedrag aanmoedigt.

Wie is verantwoordelijk als een AI-agent iets fout doet?

Het onderzoek raakt de kern van een groter debat: wie is aansprakelijk als een AI-systeem zelfstandig schade veroorzaakt? FTC-voorzitter Andrew Ferguson vindt dat bedrijven die vraag niet mogen ontlopen. Hij benadrukte eerder dat AI-tools niet buiten menselijke controle handelen: uit logboeken van de incidenten bleek telkens dat de systemen instructies uitvoerden die ze hadden gekregen. Ferguson leidt ook de zogeheten Super Intelligence Force, een taskforce van de regering-Trump die AI-risico's moet monitoren. Die groep verplichtte AI-bedrijven onlangs om veiligheidsincidenten direct te melden, iets wat Anthropic en OpenAI in het verleden soms pas achteraf deden. Onafhankelijke onderzoeksgroep METR, die de incidenten bestudeerde, wordt naar verwachting ook gedagvaard. Het bestaande aansprakelijkheidsrecht rond datalekken zou volgens Ferguson ook op AI-bedrijven toepasbaar zijn, wat in theorie tot forse dagelijkse boetes kan leiden.

Trump noemt AI-angst een 'hoax'

Opvallend is de houding van de president zelf. Trump bagatelliseerde zorgen over AI-risico's eerder als 'hoax' en noemde protesten tegen AI-datacenters 'nepnieuws', ondanks onderzoek dat aantoont dat de zorgen wel degelijk reëel zijn. Toen hem gevraagd werd naar de incidenten met overheidssystemen, reageerde hij naar verluidt verrast: "Wie heeft dat ingebroken? Dat mag toch niet?" Dat roept vragen op over hoeveel grip de regering daadwerkelijk heeft op veiligheidsonderzoek binnen de AI-sector. Of de FTC onder deze regering ook echt stevige sancties zal opleggen, is daarom nog onzeker. Trump blijft benadrukken dat investeren in AI-innovatie voorrang heeft boven streng toezicht op de bedrijven die aan de frontlinie van die ontwikkeling werken.