Singulariteit: het punt waarop technologie ons overstijgt
Stel je een sneeuwbal voor die van een berghelling rolt. In het begin gaat het langzaam en is de bal makkelijk te volgen. Maar hoe verder hij rolt, hoe meer sneeuw hij oppikt, hoe groter en zwaarder hij wordt, en hoe sneller hij gaat. Op een gegeven moment is de sneeuwbal niet meer te stoppen en ook niet meer te voorspellen waar hij precies terechtkomt. De "technologische singulariteit" is de hypothetische versie van dit verschijnsel, maar dan met kunstmatige intelligentie in plaats van sneeuw: een moment waarop AI zo snel en zo ingrijpend beter wordt in het verbeteren van zichzelf, dat de vooruitgang voor mensen niet meer bij te houden of te voorspellen is.
De term wordt vaak losjes gebruikt voor "het moment waarop AI slimmer wordt dan de mens", maar de kern van het idee zit in dat zelfversterkende effect. Een computer die knapper is dan wij, zou in theorie ook beter zijn dan wij in het ontwerpen van nóg betere computers. Die volgende generatie is op haar beurt weer beter in het maken van de generatie daarna, enzovoort. Net als bij de sneeuwbal ontstaat zo een terugkoppelingslus die, als hij eenmaal op gang komt, in een kort tijdsbestek tot enorme veranderingen zou kunnen leiden. Of dit ooit werkelijk gebeurt, en wanneer, is onderwerp van fel debat onder wetenschappers.
Wat is het precies?
Het idee achter de singulariteit bouwt op een paar bouwstenen die je stap voor stap kunt volgen. De eerste is het onderscheid tussen "smalle AI" (narrow AI) en "algemene AI" (AGI, artificial general intelligence). Smalle AI is heel goed in één specifieke taak, zoals schaken, spraakherkenning of het herkennen van foto's, maar kan niets buiten dat domein. AGI zou, net als een mens, op vrijwel elk denkgebied kunnen leren, redeneren en problemen oplossen.
De tweede bouwsteen is "recursieve zelfverbetering": een AI-systeem dat slim genoeg is om zijn eigen ontwerp, code of trainingsproces te verbeteren. Zulke verbeteringen zouden een nog slimmer systeem opleveren, dat op zijn beurt weer beter in staat is zichzelf te verbeteren. De Britse wiskundige I.J. Good beschreef dit al in 1965 als een mogelijke "intelligence explosion": als een machine ooit de mens overtreft in het ontwerpen van machines, zou er een onomkeerbare kettingreactie van zelfverbetering kunnen ontstaan.
De term "singulariteit" zelf komt oorspronkelijk uit de wiskunde en natuurkunde, waar hij een punt aanduidt waarop een formule of model niet meer werkt, zoals het middelpunt van een zwart gat. Informaticus en sciencefictionschrijver Vernor Vinge leende de term in 1993 voor zijn essay "The Coming Technological Singularity": voorbij dat punt, schreef hij, wordt de toekomst voor mensen fundamenteel onvoorspelbaar, omdat de belangrijkste beslissingen niet meer door mensen maar door bovenmenselijke intelligenties worden genomen.
Uitvinder en futurist Ray Kurzweil bouwde dit idee later uit met zijn "wet van versnellende meeropbrengsten" (law of accelerating returns): technologische vooruitgang verloopt volgens hem niet gelijkmatig (lineair), maar exponentieel, dat wil zeggen dat de groeisnelheid zelf steeds toeneemt, zoals rente op rente bij een spaarrekening. Trek je die exponentiële curve door, dan kom je volgens Kurzweil rond het jaar 2045 op een moment uit waarop machine-intelligentie de gezamenlijke intelligentie van de hele mensheid overtreft.
Wat wil men ermee bereiken?
Binnen het veld bestaan grofweg twee heel verschillende houdingen ten opzichte van de singulariteit, en dat verschil is belangrijk om te begrijpen. De eerste groep, vaak aangeduid als "accelerationisten" of aanhangers van het transhumanisme (de gedachte dat technologie de menselijke grenzen kan en moet overstijgen), ziet de singulariteit als een wenselijk doel. Superintelligente AI zou ziektes kunnen genezen, klimaatverandering kunnen oplossen, armoede kunnen uitbannen en de mens zelf kunnen verbeteren of zelfs onsterfelijk kunnen maken.
De tweede groep, de "AI-veiligheidsgemeenschap", ziet de singulariteit vooral als een risico dat beheerst moet worden, niet als een feestje om naar uit te kijken. Hun zorg is dat een systeem dat zichzelf razendsnel verbetert, doelen kan gaan nastreven die niet meer aansluiten bij menselijke waarden, en dat mensen op dat moment simpelweg niet meer de macht hebben om in te grijpen. Vandaar dat veel onderzoek zich richt op "AI-alignment": ervoor zorgen dat de doelen van AI-systemen, hoe krachtig ook, overeenkomen met wat mensen daadwerkelijk willen.
Beide kampen delen overigens de aanname dat AGI en superintelligentie ooit mogelijk zijn; het verschil zit in de vraag of we daar zo snel mogelijk naartoe moeten werken, of dat we vooral voorzichtig moeten zijn. Een derde, kleinere groep wetenschappers betwijfelt of het concept singulariteit sowieso wel realistisch is, en ziet het eerder als een speculatief gedachte-experiment dan als een serieuze technische voorspelling.
Voorbeelden uit de praktijk
Hoewel de singulariteit zelf nog nergens heeft plaatsgevonden, zijn er wel concrete ontwikkelingen die door voor- en tegenstanders worden gezien als stappen in die richting, of als aanleiding voor het debat.
DeepMind en AlphaGo (2016). Het Britse bedrijf DeepMind, opgericht in 2010 en in 2014 overgenomen door Google, bouwde het systeem AlphaGo. In maart 2016 versloeg AlphaGo de wereldtopspeler Lee Sedol in het bordspel Go, een spel dat door zijn schier oneindige aantal zetten lang als te complex voor computers gold. Voor veel waarnemers was dit een teken dat AI sneller vooruitging dan verwacht.
OpenAI (opgericht in 2015). OpenAI werd expliciet opgericht met als missie het veilig ontwikkelen van AGI, "ten behoeve van de hele mensheid". Het bedrijf bracht achtereenvolgens steeds krachtigere taalmodellen uit: GPT-3 in 2020, de chatinterface ChatGPT in november 2022, en GPT-4 in maart 2023. Deze modellen worden door voorstanders gezien als vroege, nog beperkte stappen richting algemene intelligentie.
Anthropic (opgericht in 2021). Een groep voormalige OpenAI-medewerkers, onder wie Dario en Daniela Amodei, richtte Anthropic op met een sterkere nadruk op veiligheidsonderzoek dan op snelheid. Het bedrijf ontwikkelt eigen taalmodellen (de Claude-serie) en publiceert onderzoek naar hoe je grip houdt op steeds krachtigere AI-systemen.
Ray Kurzweil bij Google (vanaf 2012). Kurzweil, auteur van "The Singularity Is Near" (2005), werd in 2012 Director of Engineering bij Google, waar hij zich onder meer bezighield met taal- en tekstbegrip door machines. Zijn aanstelling werd destijds breed uitgelegd als een signaal dat grote techbedrijven de singulariteitsgedachte serieus namen.
Hoe ver is de techniek?
Op dit moment bestaat er geen AI-systeem dat zichzelf zelfstandig en substantieel verbetert zonder menselijke tussenkomst; de kern van het singulariteitsscenario, de zelfversterkende terugkoppelingslus, is dus nog niet waargenomen. De huidige generatie AI, gedomineerd door grote taalmodellen (large language models), is buitengewoon goed in patroonherkenning en tekstgeneratie, maar mist naar consensus van veel onderzoekers nog fundamentele vormen van begrip, causaal redeneren en betrouwbaarheid: modellen "hallucineren" nog regelmatig, dat wil zeggen dat ze met overtuiging onjuiste informatie presenteren.
Lange tijd gold de vuistregel dat grotere modellen, getraind op meer data en met meer rekenkracht, vrijwel automatisch beter presteerden (de zogeheten "scaling laws"). Sinds ongeveer 2023-2024 melden meerdere AI-labs dat deze opbrengsten afvlakken: extra rekenkracht en data leveren steeds kleinere verbeteringen op, en de energiekosten en chiptekorten die daarvoor nodig zijn, vormen een reëel praktisch obstakel. Onderzoekers zoeken daarom naar andere technieken, zoals modellen die tijdens het beantwoorden langer "nadenken" (redeneermodellen, vanaf 2024), om verdere vooruitgang te boeken.
Er bestaat geen consensus over wanneer, of zelfs óf, AGI of een singulariteit ooit gerealiseerd wordt. Enquêtes onder AI-onderzoekers laten doorgaans een enorme spreiding zien: sommigen verwachten mensachtige AI al binnen tien à twintig jaar, anderen pas over decennia, en weer anderen denken dat het huidige pad (steeds grotere taalmodellen) daar sowieso niet toe zal leiden. Kurzweils voorspelling van 2045 blijft een veelgeciteerd maar door velen betwist ijkpunt.
Wie werken eraan?
Aan de technische kant investeren met name Amerikaanse techbedrijven fors in onderzoek dat uiteindelijk richting AGI zou moeten gaan: OpenAI, Google DeepMind, Anthropic, Meta (met zijn FAIR-onderzoeksafdeling) en xAI (opgericht door Elon Musk) behoren tot de bekendste namen. Ook Chinese bedrijven en onderzoeksgroepen, zoals Baidu, Alibaba en het in 2025 veel besproken DeepSeek, zijn actief op dit terrein, wat het onderwerp ook een geopolitieke dimensie geeft: de Verenigde Staten en China worden vaak als de twee grootmachten in AI-ontwikkeling gezien.
Daarnaast bestaat er een apart ecosysteem van organisaties die zich vooral richten op de risico's van (super-)intelligente AI, los van wie de techniek daadwerkelijk bouwt. Voorbeelden zijn het Future of Life Institute, dat onder meer oproepen tot voorzichtigheid publiceert, en het Machine Intelligence Research Institute (MIRI), dat al sinds de jaren 2000 onderzoek doet naar hoe je zeer krachtige AI-systemen veilig onder controle houdt. Ook overheden mengen zich inmiddels in het debat: het Verenigd Koninkrijk en de Verenigde Staten hebben eigen AI Safety Institutes opgericht, en de Europese Unie werkt met de AI Act aan regelgeving voor risicovolle AI-toepassingen.