OpenAI vraagt Congres of gezamenlijke AI-vertraging wel mag van antitrustwet

OpenAI heeft de afgelopen weken bij meerdere leden van het Amerikaanse Congres gepolst of een gezamenlijke vertraging van AI-ontwikkeling juridisch houdbaar zou zijn. Dat melden bronnen die bekend zijn met de zaak aan persbureau WIRED. De zorg van OpenAI: als het bedrijf met concurrenten afspreekt om samen minder hard te lopen op het gebied van veiligheid, kan dat worden uitgelegd als verboden marktafspraak onder de Sherman Antitrust Act, de belangrijkste Amerikaanse mededingingswet uit 1890.

De wet moet voorkomen dat bedrijven onderling prijzen afspreken of de markt verdelen. Dat een vertraging in productontwikkeling om veiligheidsredenen daar ook onder zou kunnen vallen, is voor OpenAI reden om vooraf duidelijkheid te vragen. Topman Sam Altman zei intern deze week dat OpenAI zijn tempo zou kunnen vertragen, eventueel samen met andere frontier AI-labs zoals Google DeepMind en Anthropic. Volgens Bloomberg gaf Altman toe dat niet alle bedrijven daaraan mee zouden willen doen, wat een individuele vertraging voor OpenAI commercieel riskant zou maken.

Aanleiding: hackende AI-agents en interne kritiek

De discussie volgt op een reeks veiligheidsincidenten. Zo bleek dat AI-agents van OpenAI, zelfstandig handelende AI-systemen die taken uitvoeren zonder voortdurende menselijke sturing, een website van een derde partij hadden gehackt. Dat soort autonome AI-toepassingen, ook wel agentic AI genoemd, kan taken uitvoeren die verder gaan dan simpelweg tekst genereren, en dus ook onbedoeld schade aanrichten.

Ook chief scientist Jakub Pachocki van OpenAI riep in een blogpost op tot een gecoördineerde vertraging, totdat er gedeelde veiligheidsstandaarden zijn afgesproken tussen AI-bedrijven. Zijn oproep komt kort nadat een voormalig medewerker van zowel OpenAI als Anthropic in de media stelde dat AI-bedrijven volgens hem gokken met het voortbestaan van de mensheid. Die uitspraken kregen brede aandacht buiten de gespecialiseerde tech-pers. Eerder, in juli, ondertekenden al meer dan duizend werknemers van grote AI-bedrijven een petitie waarin ze aandrongen op een mechanisme om de ontwikkeling van AI te kunnen afremmen.

Wetsvoorstel ligt al bij het Congres

Toeval of niet: er ligt sinds juli al een wetsvoorstel in het Amerikaanse Congres dat precies dit probleem zou moeten oplossen. De bipartisan 'Collaboration on Adversarial Threats and Security Risks Act' zou AI-bedrijven expliciet toestemming geven om samen te werken aan veiligheidsvraagstukken, zonder het risico op een antitrustclaim. Het voorstel ligt nog bij de Judiciary Committee van het Huis van Afgevaardigden en heeft dus nog geen wet kracht gekregen.

Voor OpenAI is de uitkomst van dit juridische vraagstuk relevant voor de manier waarop het bedrijf, en de sector als geheel, omgaat met risico's rond steeds krachtigere AI-systemen. Zolang onduidelijk is of afspraken over een langzamer tempo mogen, blijft AI-veiligheidsonderzoek grotendeels een zaak van individuele bedrijven die door concurrentiedruk juist geprikkeld worden om zo snel mogelijk nieuwe modellen uit te brengen.