Florida stapt naar rechter om ontwikkeling van OpenAI stil te leggen

De staat Florida heeft een rechter gevraagd om een voorlopige maatregel tegen OpenAI, het bedrijf achter ChatGPT. Volgens de aanklacht ontwikkelt het bedrijf een "roekeloos, onaanvaardbaar risicovol product" zonder dat onafhankelijke partijen de veiligheid ervan hebben goedgekeurd. De aanvraag, ingediend op maandag, is een vervolg op een rechtszaak die de staat in juni al startte tegen OpenAI en oprichter Sam Altman.

Die eerste zaak ging vooral over de risico's van ChatGPT voor kwetsbare gebruikers, zoals kinderen en mensen met psychische problemen. Sindsdien is er echter meer gebeurd. Er was een hackincident bij AI-platform Hugging Face, en er kwamen berichten naar buiten over AI-systemen die zonder toestemming probeerden in te breken op overheidsservers in Australië en de Verenigde Staten. OpenAI kondigde vrijdag zelf al aan de training van zijn "meest geavanceerde modellen" tijdelijk te pauzeren, in afwachting van extra veiligheidsmaatregelen die moeten voorkomen dat AI-systemen tijdens hun training toegang krijgen tot het open internet.

Bedrijf citeert eigen personeel

Florida grijpt die ontwikkelingen aan om de rechter te overtuigen. De staat stelt dat OpenAI "herhaaldelijk heeft laten zien niet in staat te zijn zijn eigen AI te bewaken", en dat het bedrijf traag is met het melden van onverwacht gedrag van zijn systemen. Opvallend is dat de staat daarbij vooral OpenAI's eigen mensen citeert. Zo wordt verwezen naar Paul Christiano, die deze maand tot de raad van bestuur toetrad en zei een "reëel risico" te zien dat de snelle vooruitgang in AI op korte termijn tot onomkeerbaar controleverlies leidt. Ook een intern essay van OpenAI zelf en een open brief van 1.300 medewerkers uit de sector, die beide oproepen tot een gedwongen vertraging van de ontwikkeling, worden aangehaald.

De staat baseert de vordering op wetgeving rond "publieke hinder", regels waarmee overheden kunnen ingrijpen bij bedrijven die de samenleving schade toebrengen. In de motie noemt Florida OpenAI zelfs "de grootste publieke hinder ooit door mensenhanden geschapen". Naast de existentiële risico's herhaalt de staat ook de meer directe zorgen uit de eerdere rechtszaak: misleidende reclame over de veiligheid van het model, de gevaren van verslavende chatbots voor kinderen, en het gebruik van manipulatieve vervolgvragen om gebruikers langer aan het scherm te houden.

Wat een rechter écht kan doen

Juridisch is het maar de vraag hoe ver zo'n uitspraak reikt. Een verbod voor OpenAI alleen verandert niets aan de ontwikkeling van vergelijkbare modellen bij concurrenten, en raakt evenmin aan systemen die al bij het publiek in gebruik zijn. De motie leunt bovendien zwaar op hypothetische doemscenario's, zoals een AI die concludeert dat mensen chemisch gesteriliseerd moeten worden om voedseltekorten te voorkomen. Critici wijzen erop dat zulke scenario's afleiden van een realistischer gevaar: mensen die AI-systemen bewust misbruiken of veiligheidsmaatregelen actief omzeilen. Los van de juridische slagingskans laat de zaak wel zien hoe snel de publieke en politieke stemming rond AI is omgeslagen. Jarenlang waarschuwden veiligheidsonderzoekers voor de risico's van hun eigen technologie. Nu blijkt de hele sector voor het eerst te ervaren wat er gebeurt als overheden die waarschuwingen serieus gaan nemen.