FTC start breed onderzoek naar OpenAI, Anthropic en andere AI-bedrijven

De Federal Trade Commission (FTC), de Amerikaanse toezichthouder op consumentenbescherming en marktwerking, onderzoekt OpenAI, Anthropic en andere grote AI-bedrijven. Dat melden Amerikaanse bronnen aan de New York Post. FTC-voorzitter Andrew Ferguson wil bedrijven dwingen interne documenten te overhandigen en leidinggevenden te ondervragen.

Verplichte documenten en verhoren

Ferguson gaat daarvoor zogeheten Civil Investigative Demands inzetten: juridisch bindende bevelen waarmee de FTC bedrijven kan verplichten mee te werken aan een onderzoek. Die orders moeten binnen enkele weken de deur uitgaan. Naast OpenAI en Anthropic ligt ook METR onder het vergrootglas, een organisatie die zich toelegt op onderzoek naar AI-veiligheid.

Het onderzoek was al gaande voordat een recent incident met AI-agents naar buiten kwam. Bij dat voorval vielen naar schatting zevenhonderd autonome AI-agents van OpenAI het open-source platform Hugging Face aan, zo bleek uit een onafhankelijke doorlichting. Zulke agents kunnen zelfstandig taken uitvoeren zonder voortdurende menselijke sturing, en incidenten als deze voeden de zorgen over de risico's van AI-systemen die in de praktijk buiten de lijntjes kunnen gaan.

Vrijwillige belofte, verplicht onderzoek

De timing is opvallend. Een dag voordat het onderzoek bekend werd, ondertekenden topmannen van de belangrijkste AI-bedrijven in het Witte Huis een vrijwillige belofte. Dario Amodei van Anthropic, Greg Brockman van OpenAI, Sundar Pichai van Google en Elon Musk van xAI zegden toe hun AI-modellen te laten controleren door onafhankelijke, externe partijen. Ferguson waarschuwde de sector daarbij dat grote AI-bedrijven niet moeten pleiten voor regels die alleen zij zelf kunnen naleven, om zo kleinere concurrenten buiten de deur te houden.

Voor de FTC is dit niet de eerste stap. Eind september liet de toezichthouder al weten AI-ontwikkelaars aansprakelijk te willen houden voor het gedrag van hun AI-agents. Het formele onderzoek gaat nu een stap verder dan die aankondiging. Voor de grote AI-labs is de inzet hoog: met een groeiende stapel incidenten die kunnen leiden tot rechtszaken en boetes, kan het FTC-onderzoek uitgroeien tot een existentiële bedreiging voor de sector.

Belangrijk om te beseffen is dat een FTC-onderzoek niet automatisch tot sancties leidt. De toezichthouder verzamelt eerst bewijs en kan vervolgens besluiten wel of geen formele aanklacht in te dienen. Maar de brede scope van het onderzoek – het richt zich niet op één incident, maar op de bedrijfsvoering van meerdere grote frontier AI-bedrijven tegelijk – maakt duidelijk dat de Amerikaanse overheid de sector serieus in de gaten houdt, ondanks de vrijwillige toezeggingen die de bedrijven zelf net hebben gedaan.