Altman pleit voor afremmen van AI-ontwikkeling, maar niet voor stilstand

Sam Altman, topman van OpenAI, herhaalt zijn pleidooi voor een landelijk veiligheidskader voor krachtige kunstmatige intelligentie in de Verenigde Staten. Volgens hem moet de AI-industrie niet passief wachten tot Washington met wetten komt, al is voor internationale afspraken wel steun van de Amerikaanse overheid nodig. OpenAI zet daarom voortaan expliciete veiligheidsprotocollen op papier voordat het bedrijf begint aan een trainingsrun die tot een grote sprong in AI-vermogens kan leiden. Altman hoopt dat andere bedrijven dat voorbeeld volgen en met eigen regels komen, zodat er niet één bedrijf alleen de spelregels bepaalt.

Temporiseren, geen rem erop

Altman benadrukt dat 'pacing', ofwel het bewust temporiseren van ontwikkeling, niet hetzelfde is als stoppen. De vooruitgang in AI blijft volgens hem snel, alleen iets minder snel dan technisch mogelijk zou zijn. Die vertraging is de moeite waard, schrijft hij: geen enkele concurrentiedruk vanuit de Verenigde Staten rechtvaardigt roekeloosheid, en de vermogens van AI-systemen mogen niet verder vooruitlopen dan de mogelijkheden om ze te controleren en te monitoren. Daarmee raakt hij aan twee pijlers van AI-veiligheidsonderzoek: ervoor zorgen dat een systeem doet wat bedoeld is, en het voortdurend controleren van het gedrag van een model zodra het wordt gebruikt.

Grote spelers zoeken gezamenlijk toezicht

Altman staat niet alleen in zijn oproep. Afgelopen weekend spraken ook Anthropic-CEO Dario Amodei, oud-DeepMind-topman Demis Hassabis, Microsoft-CEO Satya Nadella en Tesla-topman Elon Musk zich uit voor beter gecontroleerde ontwikkeling van AI. Volgens vakblad The Information praten OpenAI, Anthropic en Google al maanden over zelfregulering via een onafhankelijk toezichtorgaan. Dat orgaan zou toezicht moeten houden op de meest geavanceerde, zogeheten frontier AI-modellen: de systemen die telkens de grenzen verleggen van wat kunstmatige intelligentie kan. Voorstanders zien dit als een manier om vooruit te lopen op trage wetgeving, terwijl de sector via technische AI-guardrails zelf de vinger aan de pols houdt.

Kleinere bedrijven vrezen kartelvorming

Niet iedereen is enthousiast over dit plan. Kleinere AI-bedrijven zoals Cohere waarschuwen dat een gezamenlijk toezichtorgaan van de grootste spelers in de praktijk kan uitgroeien tot een kartel dat de markt op slot zet voor nieuwkomers. Critici vrezen dat afspraken over veiligheid ook gebruikt kunnen worden om concurrentie te beperken, juist op het moment dat de sector nog volop in beweging is. De discussie raakt aan een breder vraagstuk binnen AI-onderzoek: hoe je met technieken als superalignment voorkomt dat steeds krachtigere systemen zich aan menselijke controle onttrekken, zonder dat slechts een handvol bedrijven bepaalt wat voor de hele sector als veilig geldt.