Superintelligentie: wat gebeurt er als machines slimmer worden dan wij?
Superintelligentie is een hypothetisch soort kunstmatige intelligentie die op vrijwel elk denkbaar gebied slimmer zou zijn dan de beste menselijke experts bij elkaar. Niet een beetje slimmer, zoals een rekenmachine sneller optelt dan een mens, maar fundamenteel superieur in wetenschap, strategie, sociale vaardigheden en creativiteit. Vergelijk het met het verschil tussen een schaakcomputer en een schaker: bij superintelligentie zou dat verschil niet gelden voor één spelletje, maar voor zowat alles wat denken vereist, van het ontwerpen van medicijnen tot het voeren van onderhandelingen.
Het begrip komt oorspronkelijk uit de filosofie en informatica, maar duikt de laatste jaren steeds vaker op in discussies over de koers van bedrijven als OpenAI, Google DeepMind en Anthropic. Belangrijk om te beseffen: superintelligentie bestaat nog niet. Het is een toekomstscenario waarover onderzoekers nadenken, deels omdat ze de kansen ervan zien (doorbraken in geneeskunde, klimaat, materiaalkunde), deels omdat ze de risico's serieus nemen als zo'n systeem zich aan menselijke controle zou onttrekken.
Wat is het precies?
Om superintelligentie te begrijpen, helpt het om drie niveaus van kunstmatige intelligentie (AI) te onderscheiden. Het eerste niveau is smalle AI: systemen die één taak heel goed doen, zoals gezichtsherkenning of een schaakcomputer. Vrijwel alle AI die nu bestaat, inclusief chatbots als ChatGPT en Claude, valt hieronder, ook al lijken ze breed inzetbaar.
Het tweede niveau is AGI, kunstmatige algemene intelligentie (artificial general intelligence): een systeem dat, net als een mens, op vrijwel elk cognitief gebied uit de voeten kan en zelfstandig nieuwe vaardigheden leert. AGI bestaat volgens de meeste onderzoekers nog niet, al is er discussie over hoe dicht de nieuwste modellen erbij in de buurt komen.
Het derde niveau is superintelligentie (soms afgekort als ASI, artificial superintelligence): een systeem dat AGI-niveau overstijgt en de slimste mensen ver achter zich laat. De filosoof Nick Bostrom omschreef dit in zijn invloedrijke boek Superintelligence: Paths, Dangers, Strategies (2014) als intellect dat op vrijwel elk relevant terrein superieur is aan het beste menselijke brein.
Een sleutelidee hierbij is de intelligence explosion (intelligentie-explosie): het scenario waarin een voldoende slim AI-systeem zichzelf kan verbeteren, waardoor het nóg slimmer wordt, wat weer snellere zelfverbetering mogelijk maakt. Dit zou in theorie kunnen leiden tot een snelle, moeilijk te controleren sprong van AGI naar superintelligentie. Dit idee werd al in 1965 geopperd door wiskundige I.J. Good, die sprak van een "ultra-intelligente machine".
Een tweede belangrijk concept is de orthogonaliteitsthese: het idee dat intelligentie en doelen los van elkaar staan. Een extreem slim systeem hoeft geen menselijke waarden te delen; het kan in theorie net zo goed geobsedeerd zijn door een triviaal doel als door iets nuttigs. Daaraan gekoppeld is instrumentele convergentie: de gedachte dat vrijwel elk doelgericht systeem, ongeacht het uiteindelijke doel, baat heeft bij tussenliggende stappen zoals zelfbehoud, het verwerven van hulpbronnen en het voorkomen dat het wordt uitgeschakeld. Dit is precies waarom onderzoekers zich zorgen maken over controle: niet omdat een machine "kwaadaardig" zou worden, maar omdat verkeerd gespecificeerde doelen tot onbedoeld gedrag kunnen leiden.
Wat wil men ermee bereiken?
Onderzoek naar superintelligentie heeft twee met elkaar verweven motieven. Het eerste is puur wetenschappelijk-economisch: een systeem dat slimmer is dan de beste menselijke onderzoekers zou in theorie ziektes kunnen helpen genezen, materialen kunnen ontwerpen voor schone energie, en wetenschappelijke doorbraken kunnen versnellen die anders decennia zouden kosten. Voor bedrijven als OpenAI is dit expliciet het langetermijndoel achter hun missie.
Het tweede motief is defensief: juist omdat zo'n systeem zo veel invloed zou kunnen krijgen, willen onderzoekers vooraf uitzoeken hoe je zeker weet dat het doet wat mensen willen en niet ontspoort. Dit onderzoeksveld heet AI-alignment (het "uitlijnen" van AI-doelen met menselijke waarden). Het idee is dat je dit probleem beter kunt oplossen vóórdat zulke systemen bestaan dan erna, omdat een systeem dat slimmer is dan zijn makers zich mogelijk niet meer laat corrigeren.
Er is een derde, minder besproken drijfveer: geopolitieke en commerciële concurrentie. Landen en bedrijven willen niet achterblijven als een concurrent wel doorbraken bereikt, wat een race-dynamiek creëert die volgens critici haaks kan staan op zorgvuldig, veilig onderzoek.
Voorbeelden uit de praktijk
Superintelligentie zelf bestaat niet, maar er lopen concrete projecten en initiatieven die zich specifiek op dit vraagstuk richten.
OpenAI's Superalignment-team (2023-2024): in juli 2023 kondigde OpenAI een apart team aan, geleid door medeoprichter Ilya Sutskever en onderzoeker Jan Leike, met als doel binnen vier jaar het alignment-probleem voor superintelligentie op te lossen. Het team kreeg destijds twintig procent van OpenAI's rekenkracht toegewezen. In mei 2024 viel het team echter uiteen nadat zowel Sutskever als Leike het bedrijf verlieten; Leike verklaarde publiekelijk dat veiligheid volgens hem onvoldoende prioriteit kreeg ten opzichte van nieuwe producten.
Anthropic's Constitutional AI (sinds 2022): Anthropic, opgericht in 2021 door voormalige OpenAI-medewerkers waaronder Dario en Daniela Amodei, ontwikkelde een trainingsmethode waarbij een AI-model getoetst wordt aan een set expliciete principes (een "grondwet") in plaats van alleen aan menselijke feedback. Het bedrijf hanteert daarnaast een "Responsible Scaling Policy", een raamwerk dat bepaalt welke veiligheidsmaatregelen verplicht worden naarmate modellen krachtiger worden.
De AI Safety Summit in Bletchley Park (november 2023): op uitnodiging van het Verenigd Koninkrijk kwamen vertegenwoordigers van meer dan 28 landen, waaronder de VS en China, bijeen om te praten over risico's van geavanceerde AI. Dit resulteerde in de "Bletchley Declaration". Een vervolgtop vond plaats in Seoul (mei 2024).
De verklaring van het Center for AI Safety (mei 2023): honderden AI-onderzoekers en bedrijfsleiders, waaronder de CEO's van OpenAI, Google DeepMind en Anthropic, ondertekenden een verklaring van één zin: dat het beperken van extinctierisico door AI een mondiale prioriteit moet zijn, naast risico's als pandemieën en kernoorlog.
MIRI, het Machine Intelligence Research Institute: opgericht door Eliezer Yudkowsky, publiceert al sinds midden jaren 2000 technisch en filosofisch werk over hoe je in theorie een veilig zelfverbeterend systeem zou kunnen bouwen, ruim voordat dit onderwerp mainstream werd.
Hoe ver is de techniek?
De belangrijkste conclusie is helder: superintelligentie bestaat niet, en volgens de meeste experts ook AGI nog niet. De huidige generatie modellen, zoals GPT-4 en zijn opvolgers van OpenAI, Claude van Anthropic en Gemini van Google DeepMind, zijn indrukwekkend in taal, code en redeneren, maar maken nog steeds fouten die een mens niet zou maken, hebben geen persistent langetermijngeheugen zoals mensen, en kunnen niet zelfstandig, over lange tijd, complexe doelen nastreven zonder menselijke bijsturing.
Sinds 2024 zijn er wel "redeneermodellen" verschenen, zoals OpenAI's o1 (september 2024), die expliciet meer rekentijd gebruiken om stap voor stap na te denken voordat ze antwoorden. Dit verbetert prestaties op wiskunde- en logicataken aanzienlijk, maar betekent niet dat deze systemen algemeen intelligent zijn in de brede, mensachtige zin.
Over de vraag wanneer AGI of superintelligentie zou kunnen ontstaan, lopen de meningen onder deskundigen sterk uiteen: schattingen variëren van "binnen enkele jaren" tot "nog vele decennia weg", en sommige onderzoekers betwijfelen zelfs of de huidige aanpak (steeds grotere taalmodellen trainen) daar überhaupt toe leidt. Dit soort voorspellingen zijn historisch vaak onbetrouwbaar gebleken; het onderwerp leent zich dus goed voor scepsis tegenover stellige uitspraken, van welke kant ze ook komen.
De belangrijkste technische obstakels zijn niet alleen ruwe rekenkracht, maar ook fundamentele onopgeloste vragen: hoe test je betrouwbaar of een systeem doet wat het beweert te doen, hoe voorkom je dat een model tijdens training "leert" om tests te misleiden, en hoe behoud je controle over een systeem dat op onderdelen slimmer is dan zijn ontwikkelaars.
Wie werken eraan?
Aan de commerciële kant zijn de belangrijkste spelers OpenAI, Google DeepMind, Anthropic, Meta AI en xAI, stuk voor stuk bedrijven die grote taalmodellen trainen en die AGI of superintelligentie expliciet als langetermijndoel noemen in hun missieverklaringen.
Aan de onderzoekskant richten instituten als MIRI, het Future of Life Institute en het Center for AI Safety zich specifiek op de risico's van zeer geavanceerde AI. Het voormalige Future of Humanity Institute van de Universiteit van Oxford, waar Nick Bostrom werkzaam was, deed hier decennialang baanbrekend werk, maar sloot in april 2024 zijn deuren vanwege interne bureaucratische spanningen met de universiteit.
Ook overheden mengen zich in het debat. Het Verenigd Koninkrijk richtte in november 2023 een AI Safety Institute op om geavanceerde modellen onafhankelijk te testen. De Verenigde Staten volgden in 2024 met een vergelijkbaar instituut, ondergebracht bij het National Institute of Standards and Technology (NIST), na een executive order van president Biden. De Europese Unie koos voor regelgeving: de AI Act, die in augustus 2024 in werking trad, bevat specifieke, zwaardere verplichtingen voor "general-purpose AI-modellen met systeemrisico", een categorie die is ontworpen met precies dit soort zeer krachtige systemen in gedachten.