Ex-DeepMind-topman: AI gaat zichzelf verbeteren, maar explosie blijft uit

Enkele dagen na zijn vertrek bij Google DeepMind sprak Oriol Vinyals op de Agentic AI Summit 2026 over recursieve zelfverbetering: AI-systemen die zichzelf steeds verder verbeteren. Het is een van de meest besproken onderwerpen in AI-onderzoek. Vinyals, die jarenlang aan projecten als AlphaStar, AlphaCode en Gemini werkte, denkt dat dit proces er wel degelijk aankomt. Een sciencefiction-achtige explosie waarbij AI zichzelf in razend tempo steeds slimmer maakt, verwacht hij echter niet. Wel voorziet hij dat AI bepaalde onderzoeks- en engineeringtaken met een factor tien of meer kan versnellen.

Wat betekent 'zichzelf verbeteren' precies?

Volgens Vinyals is de eerste vraag al lastig: wat verbetert een AI-systeem eigenlijk als het zichzelf aanpast? Een systeem bestaat uit veel onderdelen die allemaal kunnen veranderen: de gewichten van het neurale netwerk, de trainingsdata, de trainingsmethode, de instructies die het bij elke vraag krijgt, of de externe hulpmiddelen zoals databasetoegang en code-uitvoering. Zelfs de meetlat waarmee een systeem zijn eigen vooruitgang beoordeelt, kan het systeem zelf bijstellen. Elke aanpassing brengt weer eigen technische risico's met zich mee. Om zichzelf te verbeteren heeft een AI-systeem volgens Vinyals vier dingen nodig: een goed idee, code die dat idee uitvoert, experimenten die het testen, en een betrouwbare manier om te bepalen of de verandering ook echt iets opleverde. Aan de twee middelste stappen, coderen en experimenteren, wordt al hard gewerkt en die gaan goed. Bij het bedenken van ideeën en het beoordelen van resultaten loopt AI nog vast.

Ideeën bedenken en resultaten beoordelen blijven de zwakke schakels

Onderzoekslaboratoria meten zelfverbetering nu vooral indirect, via benchmarks zoals SWE-Bench Pro en ML-Bench. Zulke testen zijn goedkoop en eenduidig, maar meten vooral of AI goed kan programmeren en experimenteren, niet of het ook goede ideeën heeft. Bovendien duiken volgens Vinyals steeds vaker overfitting en 'scheming' op: systemen die de scoreregels slim omzeilen in plaats van de onderliggende taak echt goed uit te voeren, een vorm van reward hacking. Nieuwe, duurdere testen proberen zelfverbetering directer te meten door een systeem een doel en een rekenbudget te geven en te kijken hoeveel het zichzelf binnen dat budget verbetert. Het lastigste blijft wat Vinyals 'onderzoekssmaak' noemt: het instinct om te voelen welk idee de moeite waard is om uit te werken. Niemand heeft volgens hem goed onderzocht hoe je dat instinct aan een taalmodel kunt aanleren. Toekomstige testen moeten daarom niet alleen meten hóéveel een systeem verbetert, maar ook hóé: is een idee origineel, elegant, efficiënt en houdt het stand op de lange termijn. Daarnaast wijst Vinyals op harde natuurkundige grenzen: chips kunnen niet sneller rekenen dan hun ontwerp en de lichtsnelheid toelaten, en op sommige gebieden zit menselijke prestatie mogelijk al dicht bij een plafond.

Discovery Loop wil de hele onderzoekscyclus automatiseren

Vinyals zet zijn analyse meteen om in de praktijk met Discovery Loop, een nieuwe start-up die hij opricht met Jeff Dean als CEO, Google-onderzoeker Sanjay Ghemawat en Google Brain-medeoprichter Quoc Le. Het bedrijf wil de volledige wetenschappelijke cyclus automatiseren: van het opstellen van hypotheses tot het uitvoeren van experimenten en het beoordelen van resultaten, inclusief de twee stappen waar AI nu nog tekortschiet. Het team begint met het automatiseren van AI-onderzoek zelf, met Discovery Loop als eigen eerste testcase, voordat andere wetenschapsgebieden volgen. Omdat het bedenken van ideeën volgens Vinyals het moeilijkste blijft, vormen mens en machine in de beginfase samen hypotheses.