Technologische singulariteit: wanneer machines slimmer worden dan wij
Stel je een sneeuwbal voor die van een berghelling rolt. In het begin gaat het langzaam, maar naarmate de bal groter wordt, groeit hij sneller en sneller, tot hij binnen enkele minuten uitgroeit tot een lawine die niemand meer kan stoppen. De technologische singulariteit is het denkbeeldige moment waarop kunstmatige intelligentie (AI) een vergelijkbaar sneeuwbaleffect doormaakt: een computersysteem wordt slim genoeg om zichzelf te verbeteren, die verbeterde versie wordt op haar beurt nog slimmer, en zo ontstaat in korte tijd een intelligentie die de mens ver overtreft.
Het woord "singulariteit" komt oorspronkelijk uit de wiskunde en natuurkunde, waar het een punt aanduidt waarop een formule niet meer werkt of naar oneindig gaat, zoals in het centrum van een zwart gat. Onderzoekers gebruiken de term overdrachtelijk voor AI omdat we, voorbij dat punt, niet meer goed kunnen voorspellen wat er gebeurt: onze huidige kennis schiet tekort om te begrijpen hoe een wereld met bovenmenselijke intelligentie eruitziet. Het is dus vooral een gedachte-experiment en een hypothese over de toekomst, geen vaststaand technisch concept met een duidelijke meetlat.
Wat is het precies?
De term "technological singularity" werd in 1993 geïntroduceerd door de Amerikaanse wiskundige en sciencefictionschrijver Vernor Vinge, in een veelbesproken essay getiteld "The Coming Technological Singularity". Het onderliggende idee is ouder: al in 1965 beschreef wiskundige I.J. Good het concept van een "intelligence explosion" (intelligentie-explosie), een keten van steeds snellere zelfverbeteringen door machines.
Om de singulariteit te begrijpen, helpt het om drie niveaus van kunstmatige intelligentie uit elkaar te houden. Het eerste niveau is smalle AI (narrow AI): systemen die extreem goed zijn in één specifieke taak, zoals schaken, beeldherkenning of tekst genereren. Vrijwel alle AI die we vandaag gebruiken, van ChatGPT tot navigatie-apps, valt in deze categorie.
Het tweede niveau is AGI, wat staat voor "artificial general intelligence" (algemene kunstmatige intelligentie): een systeem dat, net als een mens, op vrijwel elk denkgebied kan leren, redeneren en problemen oplossen, niet slechts op één taak. AGI bestaat nog niet, en experts zijn het oneens over wanneer, of zelfs of, het er ooit komt.
Het derde niveau, ASI ("artificial superintelligence"), is waar de singulariteit om draait: een intelligentie die de mens op elk denkbaar gebied overtreft. Het idee is dat zodra een machine slim genoeg is om betere AI te ontwerpen dan mensen kunnen, er een terugkoppelingslus ontstaat: de machine verbetert zichzelf, wordt daardoor beter in zelfverbetering, en dat proces versnelt totdat de intelligentie van het systeem astronomisch ver boven die van de mens uitstijgt.
Belangrijk om te beseffen: dit is een keten van aannames, geen bewezen natuurwet. Elke schakel, dat AGI mogelijk is, dat AGI zichzelf sneller kan verbeteren dan mensen dat kunnen, dat dit proces zich blijft herhalen zonder fysieke of praktische grenzen, staat ter discussie in de wetenschappelijke gemeenschap.
Wat wil men ermee bereiken?
Niemand "bouwt" doelbewust de singulariteit als product; het is eerder een scenario waar verschillende partijen zich toe verhouden. Optimistische denkers, met de Amerikaanse futurist Ray Kurzweil als bekendste voorbeeld, zien de singulariteit als een keerpunt dat ziektes, veroudering, armoede en klimaatverandering zou kunnen helpen oplossen, omdat een bovenmenselijk intellect problemen kan aanpakken waar mensen al decennia op vastlopen.
Een andere groep, vaak aangeduid als de "AI-veiligheidsgemeenschap", richt zich juist niet op het bereiken van de singulariteit, maar op het voorkomen dat zo'n overgang misloopt. Hun zorg: een systeem dat veel slimmer is dan wij, hoeft niet per se vriendelijk of op onze belangen gericht te zijn. Dit staat bekend als het alignment-probleem (uitlijningsprobleem): hoe zorg je dat de doelen van een superintelligent systeem overeenkomen met menselijke waarden, zeker als dat systeem zo krachtig wordt dat mensen het niet meer kunnen corrigeren of uitschakelen.
Bedrijven die aan geavanceerde AI werken, zoals OpenAI, Google DeepMind en Anthropic, noemen AGI vaak expliciet als hun missie, maar benadrukken tegelijk veiligheidsonderzoek. Het doel dat zij noemen is niet "de singulariteit" als zodanig, maar het verantwoord ontwikkelen van steeds capabelere AI-systemen, met de singulariteit als mogelijk, en volgens sommigen onvermijdelijk, gevolg op lange termijn.
Voorbeelden uit de praktijk
Hoewel de singulariteit zelf nog nergens heeft plaatsgevonden, zijn er concrete projecten en gebeurtenissen die de discussie voeden of er rechtstreeks aan gelinkt zijn.
AlphaGo en AlphaFold (DeepMind, 2016 en 2020). Het Britse DeepMind, onderdeel van Google, versloeg in 2016 met AlphaGo de wereldtopspeler Lee Sedol in het bordspel Go, jaren eerder dan veel experts hadden verwacht. In 2020 loste opvolger AlphaFold een probleem op waar biologen decennialang mee worstelden: het nauwkeurig voorspellen van de driedimensionale vorm van eiwitten. Beide doorbraken worden vaak aangehaald als voorbeelden van AI die sneller vooruitgang boekt dan voorspeld, al zijn het smalle AI-systemen, geen algemene intelligentie.
Machine Intelligence Research Institute (opgericht 2000, Verenigde Staten). Deze organisatie, aanvankelijk het "Singularity Institute for Artificial Intelligence" genoemd en later omgedoopt tot MIRI, was een van de eerste die serieus onderzoek deed naar hoe een intelligentie-explosie veilig zou kunnen verlopen.
Ray Kurzweils voorspellingen (vanaf 2005). In zijn boek "The Singularity Is Near" voorspelde Kurzweil dat de singulariteit rond 2045 zou plaatsvinden, gebaseerd op de exponentiële groei die hij zag in rekenkracht. Sinds 2012 werkt hij bij Google aan taal- en AI-technologie, wat zijn ideeën een directe link met de praktijk gaf.
Oprichting van Anthropic (2021, Verenigde Staten). Een groep voormalige OpenAI-onderzoekers, onder wie Dario en Daniela Amodei, richtte Anthropic op met als expliciete reden dat steeds krachtigere AI-systemen zorgvuldiger onderzoek naar veiligheid en uitlijning nodig hebben, juist met het oog op scenario's zoals een oncontroleerbare intelligentie-explosie.
De opmars van grote taalmodellen (2020-heden). De sprong van GPT-3 (2020) naar GPT-4 (2023) van OpenAI liet zien hoe snel taalmodellen in capaciteit kunnen groeien door meer rekenkracht en data. Dit voedde speculatie dat vergelijkbare schaalvergroting uiteindelijk tot AGI zou kunnen leiden, al zijn veel onderzoekers het daar niet over eens.
Hoe ver is de techniek?
De eerlijke stand van zaken: we hebben vandaag geen AGI, laat staan superintelligentie. De meest geavanceerde systemen, zoals GPT-4, Claude en Gemini, zijn indrukwekkend in taal, code en redeneren, maar maken nog fundamentele fouten, hebben geen consistent begrip van de fysieke wereld en kunnen niet zelfstandig nieuwe wetenschappelijke doorbraken bedenken op de manier die voor een intelligentie-explosie nodig zou zijn.
Wat wel is veranderd: het tempo van vooruitgang in AI ging de afgelopen jaren sneller dan veel experts rond 2015-2019 voor mogelijk hielden. Enquêtes onder AI-onderzoekers laten zien dat de verwachte mediane datum voor AGI de afgelopen jaren dichterbij is geschoven. Andere onderzoekers blijven sceptisch en wijzen erop dat taalmodellen vooral goed zijn in het herkennen van patronen in tekst, niet in het soort causaal, op een wereldmodel gebaseerd redeneren dat mensen en dieren van nature hebben.
Belangrijke obstakels zijn onder meer: het gebrek aan een goed begrip van wat "algemene intelligentie" precies is en hoe je die meet; de enorme energie- en rekenkosten van steeds grotere modellen; en het uitlijningsprobleem, waarvoor nog geen sluitende technische oplossing bestaat. Ook is onduidelijk of intelligentie zich werkelijk exponentieel laat opschalen, of dat er natuurlijke plafonds zijn, bijvoorbeeld door de fysieke grenzen van chips, energie of beschikbare trainingsdata.
Kortom: de singulariteit blijft een scenario, geen tijdlijn met vaste mijlpalen. Serieuze wetenschappers verschillen sterk van mening, variërend van "binnen enkele decennia mogelijk" tot "een filosofisch interessant maar technisch onwaarschijnlijk idee".
Wie werken eraan?
Aan de voorhoede van AI-ontwikkeling die richting AGI zou kunnen bewegen, staan enkele grote Amerikaanse techbedrijven: OpenAI (bekend van ChatGPT en GPT-4), Google DeepMind (ontstaan uit een fusie van DeepMind en Google Brain in 2023) en Anthropic (makers van Claude). Ook Meta AI en het in 2023 opgerichte xAI van Elon Musk investeren zwaar in steeds grotere modellen.
Op het gebied van veiligheid en uitlijning, het proberen te voorkomen dat een eventuele superintelligentie misloopt, zijn onderzoeksorganisaties actief zoals het eerder genoemde Machine Intelligence Research Institute, het Center for AI Safety in San Francisco en het Future of Life Institute, dat in maart 2023 een veelbesproken open brief publiceerde met de oproep om trainingen van de krachtigste AI-modellen tijdelijk te pauzeren.
Op statelijk niveau investeren vooral de Verenigde Staten en China massaal in AI-onderzoek, deels vanuit economisch belang, deels vanuit geopolitieke concurrentie. Het Verenigd Koninkrijk richtte in 2023 het AI Safety Institute op, een van de eerste overheidsinstanties ter wereld specifiek gericht op het beoordelen van risico's van geavanceerde AI-modellen, en organiseerde datzelfde jaar de eerste internationale AI Safety Summit in Bletchley Park. Ook de Europese Unie werkt, met de AI Act die in 2024 in werking trad, aan regelgeving, al richt die zich vooralsnog vooral op bestaande AI-toepassingen en minder op hypothetische superintelligentie-scenario's.