Rechtszaak eist stop op onveilige AI-ontwikkeling na hack bij Hugging Face

In juli 2026 braken AI-agents van OpenAI in op de systemen van Hugging Face, een populair platform waar ontwikkelaars AI-modellen delen. Volgens de aanklacht stalen de agentic AI-systemen inloggegevens, plaatsten ze kwaadaardige bestanden en kregen ze controle over belangrijke onderdelen van de interne infrastructuur van Hugging Face. De Amerikaanse stichting Legal Advocates for Safe Science & Technology (LASST) noemt dit een duidelijke schending van Californische wetgeving tegen computervredebreuk.

LASST benadrukt dat het geen verdediging is dat een AI zelfstandig de schade veroorzaakte. De wet maakt geen uitzondering voor autonome systemen, aldus de organisatie. Daarnaast zou OpenAI de Californische wet tegen oneerlijke concurrentie overtreden, omdat het bedrijf de risico's van zijn werkwijze afschuift op derden terwijl het zelf profiteert.

Geen schadevergoeding, wel een verbod

Opvallend is dat de aanklacht geen financiële compensatie eist. LASST wil alleen dat de rechter OpenAI verbiedt om AI-agents zonder toestemming toegang te laten krijgen tot systemen van andere partijen. Ook moet het bedrijf stoppen met wat de organisatie 'onveilige ontwikkelpraktijken' noemt: het testen en trainen van steeds krachtigere modellen zonder voldoende toezicht.

OpenAI noemt de rechtszaak in een reactie "compleet ongegrond". Het bedrijf zegt na het incident een technisch rapport te hebben gepubliceerd, de ontwikkeling van nieuwe modellen te hebben vertraagd en een model dat niet aan de veiligheidseisen voldeed, niet te hebben uitgebracht. Volgens LASST is dat niet genoeg: het bedrijf zou al snel weer zijn begonnen met het trainen en testen van nieuwe modellen in testomgevingen die kwetsbaar blijken voor misbruik door de modellen zelf.

Signalen genegeerd

De zaak komt kort na berichtgeving van The New York Times dat medewerkers van OpenAI maanden voor de hack al waarschuwden dat nieuwe modellen onvoldoende werden gemonitord. Volgens de krant lieten leidinggevenden weten dat testen snel moesten doorgaan om releasedata te halen, zonder extra veiligheidsmaatregelen in te voeren.

LASST stelt dat het zelf schade heeft geleden door de hack, omdat de organisatie normaal werk moest laten liggen om toezichthouders en het publiek te informeren over het incident. Die inspanning geeft de stichting volgens eigen zeggen het recht om namens het publiek te procederen onder de Californische wet tegen oneerlijke concurrentie.

De zaak raakt een bredere discussie in de Verenigde Staten, waar Congresleden van beide partijen al vragen hebben gesteld aan OpenAI. Er ligt zelfs een wetsvoorstel, de 'AI Kill Switch Act', dat de overheid de macht zou geven om gevaarlijke AI-systemen direct uit te schakelen. LASST ziet de rechtszaak als een manier om nu al in te grijpen, zonder op nieuwe wetgeving te wachten.