Recursieve zelfverbetering: kan AI zichzelf slimmer maken?

Stel je een fabriek voor die niet alleen auto's produceert, maar ook de machines bouwt waarmee auto's gemaakt worden - en waarbij elke nieuwe generatie machines iets beter is dan de vorige. Een betere machine maakt op zijn beurt weer een nóg betere volgende generatie machines mogelijk. Dat is in essentie het idee achter recursieve zelfverbetering: een kunstmatig intelligent systeem dat niet alleen taken uitvoert, maar zijn eigen code, ontwerp of manier van leren aanpast, waarna die verbeterde versie op zijn beurt weer een nog betere versie kan maken.

Het idee is ouder dan de huidige AI-hype. Al in 1965 opperde wiskundige I.J. Good dat een machine die slimmer is dan de mens ooit in staat zou kunnen zijn haar eigen ontwerp te verbeteren, wat zou kunnen leiden tot een intelligentie-explosie: een sneeuwbaleffect waarbij elke verbetering de volgende weer makkelijker maakt. Sindsdien is het een terugkerend thema in discussies over de toekomst van AI. Vandaag zien we voorzichtige, sterk afgebakende vormen van dit idee al terug in onderzoekslabs - ver verwijderd van een ongecontroleerde "explosie", maar wel degelijk relevant voor hoe AI-systemen tegenwoordig ontwikkeld worden.

Wat is het precies?

Een AI-systeem bestaat doorgaans uit twee onderdelen: broncode (het programma eromheen) en een getraind model, bijvoorbeeld een neuraal netwerk met miljarden instelbare parameters die via training op data hun waarde krijgen. "Zelfverbetering" betekent dat het systeem invloed krijgt op minstens een van die onderdelen: de eigen broncode, de architectuur van het model, de trainingsdata, of de trainingsmethode zelf.

In de praktijk verloopt dit meestal in een lus met vier stappen. Eerst genereert het systeem een voorstel voor een verbetering, bijvoorbeeld een nieuw stuk code of een aangepaste netwerkstructuur. Vervolgens wordt dat voorstel getest tegen een vooraf vastgelegde maatstaf, de zogeheten benchmark. Presteert de nieuwe versie beter, dan wordt ze overgenomen; presteert ze slechter, dan wordt ze verworpen. Daarna herhaalt het hele proces zich, met de verbeterde versie als nieuw uitgangspunt. Wanneer dit specifiek gaat over het verbeteren van het leerproces zelf, spreekt men ook wel van meta-leren, oftewel "leren om te leren".

Er is een belangrijk onderscheid tussen een enge en een brede vorm. Bij de enge vorm verbetert een systeem één specifiek onderdeel van zichzelf, zoals de architectuur van een neuraal netwerk, binnen een strak afgebakende testomgeving. Bij de brede, theoretische vorm zou een systeem in principe elk aspect van zichzelf kunnen herzien, inclusief zijn eigen doelen en manier van redeneren. Informaticus Jürgen Schmidhuber beschreef in 2003 zo'n theoretisch model, de "Gödel Machine", die met een wiskundig bewijs kan garanderen dat elke zelfaanpassing daadwerkelijk een verbetering is - een garantie die voor de complexe neurale netwerken van vandaag praktisch onhaalbaar is.

Of zo'n verbeteringslus in de praktijk versnelt of juist afvlakt, hangt af van hoeveel eenvoudige verbeteringen er nog te vinden zijn en van harde grenzen zoals beschikbare rekenkracht en energie. Net als bij menselijke uitvindingen geldt vaak de "wet van afnemende meeropbrengsten": de eerste verbeteringen zijn relatief makkelijk te vinden, latere steeds moeilijker.

Wat wil men ermee bereiken?

De belangrijkste drijfveer is efficiëntie. Het ontwerpen en testen van modelarchitecturen, het schrijven en debuggen van code, en het zoeken naar betere algoritmes kosten enorm veel gespecialiseerde mensuren. Als AI een deel van dat werk zelfstandig kan overnemen, verloopt onderzoek in theorie sneller en goedkoper, zonder dat bij elke stap een mens hoeft in te grijpen.

Een tweede motivatie is ambitieuzer: enkele grote AI-labs, waaronder OpenAI en Google DeepMind, noemen het automatiseren van AI-onderzoek zelf expliciet als tussenstap op weg naar kunstmatige algemene intelligentie (AGI), een systeem dat net zo breed inzetbaar zou zijn als een mens. De gedachte is dat een systeem dat AI-onderzoek even goed of beter kan doen dan menselijke onderzoekers, de verdere ontwikkeling van AI zou kunnen versnellen.

Een derde, meer defensieve motivatie is dat onderzoekers recursieve zelfverbetering juist bestuderen om de risico's ervan te begrijpen vóórdat het zover is. Hoe voorkom je dat een systeem zichzelf verbetert op een manier die zich onttrekt aan menselijk toezicht? Die vraag staat centraal binnen het bredere veld van AI-veiligheidsonderzoek.

Voorbeelden uit de praktijk

Neural Architecture Search (Google Brain, 2017): onderzoekers Barret Zoph en Quoc Le lieten een algoritme automatisch duizenden neurale-netwerkarchitecturen genereren en testen, waarbij het zoekproces zelf werd bijgestuurd door de resultaten. Een vroege, sterk afgebakende vorm van een systeem dat het ontwerp van AI-systemen helpt verbeteren.

FunSearch (Google DeepMind, 2023): een taalmodel gecombineerd met een evolutionair zoekproces genereerde duizenden programmavarianten om wiskundige problemen op te lossen, zoals het zogeheten cap set-probleem, en liet de beste varianten muteren tot nieuwe, betere oplossingen.

STOP - Self-Taught Optimizer (Eric Zelikman en collega's, Stanford, 2023): een taalmodel kreeg de opdracht zijn eigen "scaffolding" te verbeteren, het besturende programma eromheen, en bleek binnen afgebakende testomgevingen zelfstandig effectievere versies van die scaffolding te kunnen schrijven.

AlphaEvolve (Google DeepMind, 2025): een op Gemini-modellen gebaseerde programmeeragent die via evolutionaire selectie grote aantallen codevarianten genereert en test. Het systeem vond onder meer een verbeterd algoritme voor matrixvermenigvuldiging en hielp volgens Google bij het optimaliseren van planningsprocessen in de eigen datacenters, inclusief een deel van de training van de Gemini-modellen die het systeem zelf aandrijven - een klein maar concreet voorbeeld van een feedbacklus.

Darwin Gödel Machine (Sakana AI, 2025): een agent die zijn eigen programmacode mag herschrijven, elke variant test op programmeerbenchmarks en een "archief" van verbeterde versies bijhoudt om vanuit te blijven doorontwikkelen. De naam verwijst naar, maar het systeem is praktisch losser dan, Schmidhubers theoretische Gödel Machine uit 2003.

Hoe ver is de techniek?

Alle bovengenoemde voorbeelden zijn vormen van enge, afgebakende zelfverbetering: een systeem verbetert één onderdeel binnen een vooraf vastgelegde testomgeving en onder toezicht van onderzoekers. Er bestaat nog geen voorbeeld van een systeem dat volledig autonoom, zonder mensen die doelen, rekenkracht en testcriteria bepalen, zichzelf blijvend verbetert.

Om te meten hoe dicht AI bij meer autonome vormen van zelfverbetering komt, houdt de onderzoeksorganisatie METR (Model Evaluation and Threat Research) bij hoe lang en complex de software- en onderzoekstaken zijn die AI-modellen zelfstandig kunnen afronden. Volgens metingen van METR verdubbelt de lengte van dit soort taken die modellen aankunnen ruwweg elke zeven maanden. Dat is een indicatie van toenemende autonomie in AI-onderzoek en -ontwikkeling, maar geen bewijs van een doorbraak in zelfverbetering zelf.

De belangrijkste obstakels zijn drieledig. Ten eerste vormen rekenkracht en energie fysieke grenzen die geen enkel algoritme kan wegdenken. Ten tweede is het lastig objectief vast te stellen of een zelf voorgestelde aanpassing werkelijk een verbetering is buiten de smalle benchmark waarop getest wordt; systemen kunnen de meetlat manipuleren in plaats van de onderliggende vaardigheid echt te verbeteren, een risico dat bekendstaat als "reward hacking". Ten derde zijn formele garanties zoals in Schmidhubers Gödel Machine wiskundig bewijsbaar voor eenvoudige systemen, maar praktisch onhaalbaar voor de complexe, ondoorzichtige neurale netwerken van vandaag.

Onder experts lopen de inschattingen sterk uiteen. Sommige onderzoekers bij toonaangevende labs verwachten dat AI-ondersteund AI-onderzoek de komende jaren tot merkbare versnelling leidt. Andere onderzoekers wijzen op afnemende meeropbrengsten en praktische knelpunten die een snelle "intelligentie-explosie" op de korte termijn onwaarschijnlijk maken. Niemand kan op dit moment met zekerheid een tijdlijn geven, en dat is geen kwestie van terughoudendheid maar van oprechte wetenschappelijke onzekerheid.

Wie werken eraan?

Google DeepMind (Verenigd Koninkrijk/Verenigde Staten) is een van de meest zichtbare spelers, met projecten als AlphaEvolve, FunSearch en het eerdere AlphaTensor voor het automatisch verbeteren van algoritmes.

Sakana AI (Japan), opgericht door voormalige Google-onderzoekers, richt zich expliciet op evolutionaire en zelfverbeterende AI-architecturen, met projecten als de Darwin Gödel Machine en de "AI Scientist".

OpenAI en Anthropic (Verenigde Staten) noemen het automatiseren van AI-onderzoek als expliciete tussenstap op hun routekaart naar krachtigere systemen, al publiceren beide relatief weinig gedetailleerde technische informatie hierover vergeleken met DeepMind.

Academische groepen, onder meer aan Stanford University (het STOP-onderzoek) en andere universiteiten, publiceren regelmatig over verwante onderwerpen zoals automatisch machine-leren (AutoML) en meta-leren.

Naast de bouwers zijn er organisaties die de risico's van dit soort systemen onderzoeken en meten. METR (Verenigde Staten) evalueert de autonome onderzoeks- en programmeercapaciteiten van geavanceerde AI-modellen, en het Machine Intelligence Research Institute (MIRI) bestudeert al sinds de jaren 2000 theoretische scenario's rond een intelligentie-explosie. Ook de AI Safety Institutes van onder meer de Verenigde Staten en het Verenigd Koninkrijk nemen "autonome AI-onderzoeksvaardigheden" op als een van de risicocategorieën die zij toetsen bij nieuwe modellen.

Verder lezen

• METR - onderzoeksorganisatie die de autonome onderzoeks- en programmeervaardigheden van AI-modellen meet en volgt.
• Google DeepMind - publiceert onderzoek naar zelfverbeterende systemen zoals AlphaEvolve en FunSearch.
• Sakana AI - Japans onderzoekslab gespecialiseerd in evolutionaire en zelfverbeterende AI, bekend van de Darwin Gödel Machine.
• Machine Intelligence Research Institute (MIRI) - onderzoeksinstituut dat sinds de jaren 2000 theoretisch werk verricht over intelligentie-explosies en AI-veiligheid.
• arXiv - open-access platform waar de meeste hier genoemde onderzoekspapers als preprint zijn gepubliceerd.