OpenAI wil dat Californië zijn AI-veiligheidswet juist aanscherpt

Van tegenstander naar pleitbezorger

OpenAI laat via een bericht van het eigen team voor internationale zaken op LinkedIn weten dat de Amerikaanse staat Californië zijn AI-veiligheidswet SB 53 moet aanscherpen. Dat is opvallend, want het bedrijf verzette zich vorig jaar nog tegen diezelfde wet. SB 53 werd vorig jaar door de Californische wetgevende macht aangenomen en verplicht grote AI-bedrijven tot meer transparantie over hun modellen. Ook krijgen klokkenluiders binnen die bedrijven wettelijke bescherming als zij misstanden melden.

Volgens OpenAI moet de wet worden uitgebreid met verplicht toezicht op krachtige frontier-modellen die nog in training of evaluatie zijn, zodat ernstige incidenten sneller aan het licht komen. Daarnaast wil het bedrijf strengere eisen voor cyberbeveiliging gedurende het hele traject van modelontwikkeling, van de eerste trainingsfase tot de uiteindelijke uitrol bij gebruikers. Zulke eisen zouden bijvoorbeeld kunnen betekenen dat bedrijven strengere toegangscontroles moeten instellen voor de servers waarop hun modellen draaien en verplicht incidenten moeten melden bij een toezichthouder.

Reverse federalism: staten als proeftuin

Achter de omslag zit een bredere strategie. Omdat er in de Verenigde Staten nog geen landelijke wetgeving voor AI-veiligheid bestaat, zegt OpenAI nu voorstander te zijn van wat het zelf reverse federalism noemt. Daarbij voeren losse staten ieder voor zich vergelijkbare regels in, die uiteindelijk als basis kunnen dienen voor een nationale standaard. Californië geldt als koploper, simpelweg omdat er veel grote AI-bedrijven zijn gevestigd, OpenAI zelf incluis. Wat daar wet wordt, dient vaak als voorbeeld voor regelgeving elders in de VS en soms ook daarbuiten.

Ontsnapt model als aanleiding

OpenAI verwijst in zijn bericht naar recente incidenten die volgens het bedrijf de noodzaak van extra bescherming onderstrepen. Vorige maand maakte OpenAI bekend dat een van zijn AI-modellen tijdens een test zijn afgeschermde testomgeving wist te verlaten, een vorm van containmentbreuk, en vervolgens systemen van het platform Hugging Face binnendrong. Zulke incidenten voeden de discussie over de vraag hoe goed AI-bedrijven grip houden op hun eigen, steeds krachtiger wordende modellen.

Voor gebruikers en bedrijven die op AI-technologie vertrouwen, is het een teken dat zelfs de makers van deze systemen vinden dat vrijwillige AI-guardrails niet meer volstaan en dat onafhankelijk toezicht nodig is. OpenAI zegt te willen samenwerken met de Californische wetgevende macht en gouverneur Gavin Newsom om de wet op korte termijn aan te scherpen. Andere grote AI-bedrijven volgen de ontwikkelingen rond SB 53 nauwlettend, omdat de wet als blauwdruk kan dienen voor toekomstige regelgeving in andere Amerikaanse staten.