Wereldactiemodel: hoe AI leert plannen door de wereld na te bootsen
Een wereldactiemodel is een AI-systeem dat een soort intern ‘draaiboek’ van de werkelijkheid opbouwt. Het leert niet alleen wat er op een foto of video te zien is, maar ook wat er gebeurt als je iets doet: als je een kopje van tafel duwt, valt het; als een auto remt, stopt hij een paar meter verderop. Met die kennis kan het systeem van tevoren ‘doorrekenen’ wat een actie oplevert, voordat het die actie echt uitvoert.
Vergelijk het met een schaker die niet zomaar een zet doet, maar eerst in gedachten een paar zetten vooruitspeelt: als ik hier speel, doet mijn tegenstander waarschijnlijk dat, en dan kan ik weer dit doen. Een wereldactiemodel doet iets vergelijkbaars, maar dan voor de fysieke wereld: een robotarm, een zelfrijdende auto of een virtuele game-omgeving. Het combineert twee dingen die in de AI-wereld meestal apart werden ontwikkeld: een wereldmodel (een voorspelling van hoe de omgeving verandert) en actiekeuze (welke handeling daadwerkelijk het beste is).
Wat is het precies?
Een wereldactiemodel bestaat grofweg uit een paar stappen die telkens worden herhaald. Eerst neemt het systeem de omgeving waar, bijvoorbeeld via camerabeelden of sensordata. Die ruwe informatie wordt omgezet in een compacte interne representatie — een soort samenvatting van ‘wat er nu toe doet’ — die onderzoekers een latente ruimte noemen.
Vervolgens gebruikt het model die samenvatting om te voorspellen: als ik actie A uitvoer, hoe ziet de wereld er dan over een fractie van een seconde of een paar seconden uit? Dat kan het systeem voor meerdere mogelijke acties tegelijk doen, allemaal in gedachten, zonder dat er in de echte wereld iets gebeurt. Pas daarna kiest het de actie die het beste resultaat lijkt op te leveren en voert die pas dan echt uit. Na afloop wordt vergeleken of de voorspelling klopte met wat er werkelijk gebeurde, en die vergelijking gebruikt het model om zichzelf bij te stellen.
Er zijn twee onderzoekslijnen die hierin samenkomen. De oudste komt uit het zogeheten model-based reinforcement learning (leren door belonen en straffen op basis van een intern model), met als bekend startpunt het paper ‘World Models’ van David Ha en Jürgen Schmidhuber uit 2018. Zij lieten een neuraal netwerk een compacte voorstelling van een computerspel leren, waarna een tweede netwerk daarbinnen kon ‘oefenen’ zonder het spel echt te hoeven spelen. De nieuwere lijn bouwt op generatieve videomodellen: systemen die, net als bekende beeldgeneratoren, hele interactieve video-achtige omgevingen kunnen genereren en bijwerken op basis van een actie die een gebruiker of AI-agent uitvoert.
Een derde, meer theoretische stroming — onder meer gepromoot door AI-onderzoeker Yann LeCun — stelt dat voorspellen op pixelniveau (elke beeldpunt apart) inefficiënt en foutgevoelig is. Zijn voorstel, bekend als JEPA (Joint Embedding Predictive Architecture), laat het model voorspellingen doen in een abstracte begripsruimte in plaats van in ruwe beelden, vergelijkbaar met hoe mensen niet elk atoom van een vallende bal bijhouden maar alleen de relevante eigenschappen zoals snelheid en richting.
Wat wil men ermee bereiken?
De belangrijkste drijfveer is efficiëntie en veiligheid. Een robot of zelfrijdende auto die alles alleen via trial-and-error in de echte wereld moet leren, heeft potentieel miljoenen pogingen nodig — en sommige van die pogingen zijn letterlijk gevaarlijk of kostbaar, zoals een aanrijding of een gevallen apparaat. Een wereldactiemodel maakt het mogelijk om het gros van dat leerproces intern, in simulatie, te laten plaatsvinden, en pas de veelbelovende acties in de echte wereld te testen.
Daarnaast hopen onderzoekers dat een goed wereldmodel iets oplevert wat AI-systemen nu vaak missen: een soort gezond verstand over hoe de fysieke wereld werkt. Taalmodellen zoals chatbots zijn goed in het combineren van woorden, maar hebben geen ingebouwd begrip van zwaartekracht, wrijving of dat een gebroken kopje niet vanzelf weer heel wordt. Een wereldmodel moet die kennis, die mensen en dieren als vanzelfsprekend hebben, expliciet aanleren.
Op de kortere termijn zijn er ook heel praktische doelen: synthetische trainingsdata genereren (nagemaakte video’s en scenario’s in plaats van dure, tijdrovende opnames uit de echte wereld) en robots en voertuigen eerst uitgebreid in een virtuele versie van hun omgeving laten oefenen voordat ze de fabriekshal of de openbare weg op mogen.
Voorbeelden uit de praktijk
Google DeepMind presenteerde in 2024 Genie, een model dat op basis van één enkele afbeelding een speelbare, tweedimensionale spelomgeving kan genereren waarin een virtuele speler acties kan uitvoeren. Eind 2024 volgde Genie 2, dat driedimensionale, interactieve werelden kan genereren uit een enkele afbeelding — een directe illustratie van een wereldmodel dat ook op acties reageert.
Hetzelfde lab bracht in 2024 SIMA uit, een generalistische AI-agent die leert instructies op te volgen in tientallen verschillende 3D-computerspellen, door telefonisch commando (‘loop naar de deur en open hem’) om te zetten in concrete acties binnen een gesimuleerde wereld.
Chipmaker NVIDIA kondigde begin 2025, tijdens de techbeurs CES, het platform Cosmos aan: een verzameling ‘wereldfundamentmodellen’ die realistische, natuurkundig plausibele video’s kunnen genereren om robots en zelfrijdende auto’s mee te trainen, zonder dat daarvoor eindeloos veel echte camerabeelden nodig zijn. Datzelfde jaar presenteerde het bedrijf ook Isaac GR00T, een basismodel voor humanoïde robots dat visuele waarneming, taalinstructies en actiesturing combineert.
Het in 2024 opgerichte start-up World Labs, mede opgezet door AI-onderzoeker Fei-Fei Li, richt zich specifiek op wat het bedrijf ‘spatial intelligence’ noemt: grote wereldmodellen die uit gewone foto’s complete, doorwandelbare 3D-omgevingen reconstrueren.
Hoe ver is de techniek?
Wereldactiemodellen bevinden zich nog grotendeels in de onderzoeks- en demofase. In afgebakende, overzichtelijke omgevingen — computerspellen, korte videofragmenten, een opgeruimde laboratoriumtafel — werken de huidige systemen al behoorlijk overtuigend. De echte, rommelige wereld, met wisselend licht, onvoorspelbare mensen en ontelbare uitzonderingen, is voor deze modellen aanzienlijk lastiger.
Een bekend probleem is dat gegenereerde werelden na verloop van tijd inconsistent kunnen worden: een object dat even buiten beeld verdwijnt, kan bij terugkeer van vorm of positie veranderen, of natuurkundige regels worden plotseling losser gehanteerd. Robots die met deze technieken werken, worden vooralsnog vooral in gecontroleerde laboratorium- of fabrieksomgevingen gedemonstreerd; betrouwbare, dagelijkse inzet in bijvoorbeeld een gewoon huishouden is er nog niet.
Tegelijk gaat de ontwikkeling snel: van een model dat alleen platte, tweedimensionale spelwerelden kon genereren (Genie, begin 2024) naar interactieve driedimensionale omgevingen (Genie 2, eind dat jaar) verstreek minder dan een jaar. Onder onderzoekers bestaat bovendien nog geen consensus over de beste aanpak: moet een wereldmodel de wereld pixel voor pixel voorspellen, zoals de meeste videogeneratoren doen, of juist in abstracte begrippen, zoals LeCuns JEPA-voorstel? Dat is op dit moment nog een open wetenschappelijk debat, geen uitgemaakte zaak.
Wie werken eraan?
Google DeepMind (Verenigd Koninkrijk/Verenigde Staten) is met Genie en SIMA een van de meest zichtbare spelers. NVIDIA (Verenigde Staten) investeert zwaar in wereldmodellen voor robotica en autonoom rijden via Cosmos en Isaac GR00T. Meta financiert via zijn onderzoeksafdeling FAIR al jaren onderzoek naar JEPA-achtige wereldmodellen, mede aangejaagd door Yann LeCun, die zich al langer publiekelijk uitspreekt vóór wereldmodellen als noodzakelijke volgende stap in AI-onderzoek.
Het start-up-landschap groeit eveneens: World Labs (Fei-Fei Li) richt zich op ruimtelijke wereldmodellen, terwijl robotica-bedrijven als 1X Technologies (met wortels in Noorwegen), Figure AI en Tesla (met zijn Optimus-robot en zelfrijdende software) wereldmodel-achtige technieken gebruiken om hun robots en voertuigen vooraf te laten ‘oefenen’ en te plannen. Ook universiteiten als Stanford en UC Berkeley in de Verenigde Staten, en diverse Chinese instituten en bedrijven, publiceren actief onderzoek op dit terrein, wat maakt dat het veld niet tot één land of bedrijf beperkt blijft.