AI-topbedrijven moeten getuigen in New York, Musks SpaceXAI krijgt dagvaarding

Het is een unicum in de Verenigde Staten: alle 51 leden van de gemeenteraad van New York komen op 5 oktober bijeen voor een zogeheten Committee of the Whole-hoorzitting, speciaal om AI-bedrijven te ondervragen. OpenAI, Google, Anthropic en Meta hebben toegezegd topmensen te sturen die onder ede vragen moeten beantwoorden over de risico's van hun technologie voor consumenten en de publieke infrastructuur van de stad.

De hoorzitting is het initiatief van raadsvoorzitter Julie Menin. Zij begon medio september met verzoeken aan vijf grote AI-bedrijven om vrijwillig te verschijnen. "Toonaangevende experts en AI-directeuren zelf waarschuwen voor potentieel ernstige risico's", zei Menin. Ze wil dat de bedrijven ook hun licht laten schijnen op wetgeving die de raad overweegt. Meta zegde als eerste een senior directielid toe; Google en OpenAI stemden later alsnog in nadat ze eerst hadden geweigerd. Anthropic volgde kort voordat de raad dagvaardingen zou gaan versturen.

SpaceXAI weigert en krijgt dagvaarding

Eén bedrijf viel duidelijk uit de toon: SpaceXAI, het AI-onderdeel van Elon Musks ruimtevaartbedrijf. Waar de andere vier partijen reageerden op het verzoek van de raad, bleef het stil bij SpaceXAI. Op 28 september besloot Menin daarom een dagvaarding uit te vaardigen die het bedrijf verplicht om alsnog op 5 oktober te verschijnen.

De gemeenteraad van New York ontleent die bevoegdheid aan het gemeentecharter: bij onderzoeken naar zaken die de stad aangaan, mag de raad getuigen dwingen om te verschijnen. Volgt SpaceXAI de dagvaarding niet op, dan kan de raad naar eigen zeggen naar de rechter stappen om naleving af te dwingen via het hooggerechtshof van de staat New York. Daarmee krijgt de toch al ongebruikelijke hoorzitting een extra juridisch randje.

Meer toezicht op AI in de maak

De hoorzitting draait niet alleen om verantwoording afleggen. De raadsleden gebruiken de bijeenkomst ook om een pakket aan wetsvoorstellen te bespreken dat AI-bedrijven strenger aan banden moet leggen. Zo ligt er een voorstel voor een klokkenluidersregeling voor mensen die misstanden bij AI-bedrijven melden, en een plan waarmee inwoners van New York die schade ondervinden van AI-systemen zelf naar de rechter kunnen stappen. Ook wordt gekeken naar verplichte onafhankelijke toetsing van bepaalde AI-systemen voordat ze op de markt komen.

Naast de bedrijven zelf schuiven ook onafhankelijke experts op het gebied van AI-veiligheid, technologie en consumentenbescherming aan. Hun inbreng moet de raadsleden helpen inschatten hoe de voorgestelde regels in de praktijk zouden uitpakken. De hoorzitting komt op een moment dat beleidsmakers door de hele Verenigde Staten worstelen met de vraag hoe bestaande wetgeving zich verhoudt tot steeds krachtigere AI-systemen. Het initiatief van New York kan daarbij als lokaal proefballonnetje voor strengere controle gaan gelden.