Weer DeepMind-onderzoeker stapt op: race naar superintelligentie 'onverantwoord'

Robert O'Callahan, een technisch expert bij Google DeepMind in Nieuw-Zeeland, heeft ontslag genomen. Hij werkte aan ontwerpsoftware voor AI-versnellerchips, waarmee kunstmatige intelligentie goedkoper en sneller kon worden getraind. Die bijdrage aan de versnelling van AI zegt hij niet langer te kunnen verantwoorden: volgens hem gaat de ontwikkeling "veel te snel" en is het najagen van superintelligente AI op korte termijn "inherent onverantwoord".

Van chipontwerp naar kritiek op het tempo

O'Callahan hield zich bij DeepMind jarenlang bezig met gereedschap om computerchips te ontwerpen. Die chips vormen de motor achter grote AI-modellen: hoe sneller en goedkoper ze zijn, hoe makkelijker bedrijven steeds krachtigere AI kunnen bouwen. Precies dat mechanisme is wat hem nu dwarszit. Hij noemt het risico van superintelligentie — AI die op vrijwel elk gebied slimmer is dan de mens — "reëel maar onzeker". Toch schat hij in dat de schade van AI op dit moment groter is dan de voordelen, mede omdat niemand goed weet hoe je zo'n systeem onder controle houdt. Dat vraagstuk, bekend als superalignment, geldt in AI-veiligheidsonderzoek als een van de grootste onopgeloste problemen.

Van cognitieve overgave tot machtsconcentratie

In zijn vertrekbericht somt O'Callahan een lange lijst risico's op. Hij noemt onder meer cognitieve overgave — het idee dat mensen steeds meer denkwerk uit handen geven aan AI — en gevallen van AI-geïnduceerde psychose en eenzaamheid bij intensief gebruik van chatbots. Daarnaast wijst hij op machtsconcentratie bij een klein aantal techbedrijven, economische ontwrichting door automatisering, cybersecurityrisico's en een gebrek aan verantwoording wanneer AI-systemen fout gaan. Hij zegt dat veel collega's bij DeepMind zijn zorgen delen, maar dat zij daar zelden publiekelijk over spreken. O'Callahan wil voortaan werk doen dat hij zelf "ondubbelzinnig pro-menselijk" noemt.

Onderdeel van een breder debat

O'Callahan is niet de eerste medewerker van een groot AI-lab die om deze redenen vertrekt; de afgelopen jaren stapten vaker onderzoekers bij toonaangevende AI-bedrijven op vanwege zorgen over veiligheid en tempo. In zijn afscheidsbericht verwijst hij naar het boek "If Anyone Builds It, Everyone Dies" van Eliezer Yudkowsky en Nate Soares, zonder de centrale stelling te onderschrijven dat superintelligente AI onvermijdelijk tot een catastrofe leidt. De auteurs zijn verbonden aan de effectief-altruïsmebeweging, een filosofische stroming die invloedrijk is in delen van de AI-veiligheidswereld maar ook op kritiek kan rekenen. Volgens persbureau Axios omschrijft een intern memo van het Witte Huis die beweging als een sekteachtige randgroepering, en richt het memo zich daarbij ook op Anthropic-topman Dario Amodei, die wordt neergezet als het gezicht van AI-"doemdenken". Het vertrek van O'Callahan laat zien dat de discussie over het tempo van AI-ontwikkeling ook binnen de grote techbedrijven zelf allesbehalve is beslecht.