Closed-loop simulatie: hoe zelfrijdende auto's en robots virtueel leren voordat ze de weg op gaan
Stel je voor dat een zelfrijdende auto in een videogame rijdt in plaats van op straat. Als de auto remt, reageert het verkeer daarop: de fietser steekt over, de auto achter je remt mee, het stoplicht springt op rood. Dat is closed-loop simulatie: een virtuele wereld die daadwerkelijk terugpraat tegen de beslissingen van het systeem dat wordt getest. De "lus" (loop) tussen actie en reactie is gesloten (closed) omdat elke stuurbeweging of rem direct invloed heeft op wat er daarna gebeurt in de simulatie.
Dat klinkt vanzelfsprekend, maar het is het tegenovergestelde van hoe autonome systemen lange tijd werden getest. Bij de oudere aanpak, open-loop simulatie, speel je een vooraf opgenomen rit af — als een video — en kijk je alleen of de software dezelfde beslissingen zou nemen als een mens destijds deed. Het probleem: als de software iets anders doet dan de mens deed, verandert de opgenomen video niet mee. Je ziet dus nooit wat er gebeurt ná die afwijkende beslissing. Closed-loop simulatie lost dat op door een levende, reagerende wereld te bouwen waarin fouten ook daadwerkelijk gevolgen krijgen — precies zoals in het echt.
Wat is het precies?
Een closed-loop simulatie bestaat uit drie onderdelen die voortdurend met elkaar communiceren. Ten eerste is er de omgeving: een digitale nabootsing van de wereld, met wegen, gebouwen, weer, en andere weggebruikers die zelf ook gedrag vertonen (voetgangers die oversteken, auto's die invoegen). Ten tweede het systeem onder test, bijvoorbeeld de zelfrijdende software van een auto of het besturingsprogramma van een robotarm. Ten derde een feedbacklus die op elk simulatietijdstip de sensordata van de omgeving doorgeeft aan het systeem, de beslissing van dat systeem verwerkt, en de omgeving daarop laat reageren.
Dit gebeurt in stapjes, vaak tientallen keren per seconde. Op elk moment "ziet" het systeem via nagebootste camera's, radar of lidar (een laserscanner die afstanden meet) wat er in de virtuele wereld gebeurt, neemt het een beslissing — sturen, remmen, versnellen — en die beslissing verandert de wereld voor de volgende stap. Zo ontstaat een aaneengesloten rit die volledig wordt bepaald door de eigen keuzes van het systeem, niet door een vooraf vastgelegd script.
Belangrijk is dat de andere weggebruikers in zo'n simulatie ook "intelligent" moeten reageren, anders is de test weinig waard. Ontwikkelaars gebruiken daarvoor gedragsmodellen (regels of zelf getrainde AI-modellen) die nabootsen hoe mensen typisch rijden of lopen, inclusief onvoorspelbaar gedrag zoals plotseling oversteken of te laat afremmen.
Wat wil men ermee bereiken?
Het belangrijkste doel is veiligheid testen zonder risico. Een zelfrijdende auto moet miljoenen tot miljarden kilometers ervaring opdoen om zeldzame maar gevaarlijke situaties tegen te komen — een kind dat plots achter een geparkeerde bus vandaan rent, een fietser die tegen het verkeer in rijdt. Die situaties in de echte wereld laten gebeuren om ervan te leren is onethisch en onpraktisch. In simulatie kunnen ontwikkelaars zulke scenario's eindeloos herhalen, net zo lang variëren totdat ze weten hoe het systeem zich gedraagt in de gevaarlijkste 0,001 procent van de gevallen.
Een tweede doel is snelheid en kosten. Simulatie draait niet aan de snelheid van de echte klok en kan op honderden computers tegelijk parallel worden uitgevoerd. Zo kan een bedrijf in een paar uur rekentijd het equivalent van jaren aan rij-ervaring doorlopen, tegen een fractie van de kosten van fysiek testen.
Ten derde is er regressietesten: elke keer dat een ontwikkelaar de software aanpast, kan die worden losgelaten op duizenden closed-loop scenario's om te controleren of oude problemen niet terugkeren en nieuwe niet ontstaan. Dit werkt hetzelfde als geautomatiseerd softwaretesten, maar dan voor fysiek gedrag in een dynamische wereld.
Buiten de auto-industrie speelt hetzelfde idee een rol bij robotica en kunstmatige intelligentie in het algemeen: reinforcement learning (een trainingsmethode waarbij een AI leert door te experimenteren en beloning of straf te krijgen) draait vrijwel altijd op closed-loop simulaties, omdat de AI zijn eigen ervaring genereert door interactie met een omgeving.
Voorbeelden uit de praktijk
Waymo (voortgekomen uit Google's zelfrijdende-autoproject) bouwde al vroeg een intern simulatieplatform, aanvankelijk bekend als "Carcraft" en later verder ontwikkeld tot wat het bedrijf "SimulationCity" noemt. Het bedrijf heeft publiekelijk gesteld dagelijks vele miljoenen kilometers in simulatie te rijden, aanzienlijk meer dan de opgetelde afstand die de fysieke testvloot aflegt.
CARLA is een gratis, open-source simulator voor zelfrijdende voertuigen, in 2017 gepresenteerd door onderzoekers van Intel Labs, Toyota Research Institute en het Computer Vision Center in Barcelona. CARLA wordt breed gebruikt in de academische wereld en door start-ups omdat het toegankelijk is en closed-loop tests standaard ondersteunt.
Wayve, een Brits bedrijf gericht op zelfrijdende technologie die vooral op camera's en machine learning leunt, presenteerde in november 2023 GAIA-1: een generatief "wereldmodel" dat op basis van video, tekst en stuuracties realistische, nieuwe rijscenario's kan genereren voor gebruik in simulatie. Dit is een voorbeeld van een nieuwere generatie simulatoren die zelf leren hoe de wereld eruitziet, in plaats van dat mensen elk onderdeel handmatig programmeren.
nuPlan, gepubliceerd rond 2021 door Motional (voorheen nuTonomy/Aptiv), is een van de eerste openbare benchmarks die onderzoekers dwingt hun planningsalgoritmes closed-loop te testen in plaats van alleen open-loop, om vergelijkbaarheid tussen onderzoeksteams te verbeteren.
Buiten het wegverkeer gebruikt NVIDIA zijn Isaac Sim- en Omniverse-platformen om robotarmen en magazijnrobots in closed-loop simulaties te trainen voordat ze fysiek gebouwd of geprogrammeerd worden, een aanpak die ook wel "sim-to-real" wordt genoemd: eerst virtueel perfectioneren, dan overzetten naar de echte machine.
Hoe ver is de techniek?
Closed-loop simulatie is inmiddels standaardpraktijk bij elk serieus bedrijf dat aan zelfrijdende voertuigen werkt, en volwassen genoeg om een substantieel deel van de ontwikkeling te dragen. Toch blijft er een fundamentele beperking: de zogeheten sim-to-real gap, het verschil tussen hoe nauwkeurig een simulatie de werkelijkheid nabootst en hoe de werkelijkheid daadwerkelijk is. Sensordata, weersomstandigheden, menselijk gedrag en zeldzame fysieke effecten (bijvoorbeeld hoe licht weerkaatst op nat asfalt) zijn moeilijk perfect na te bootsen. Een systeem dat in simulatie foutloos rijdt, kan in de praktijk toch verrast worden.
De afgelopen jaren is er duidelijke vooruitgang: simulaties worden fotorealistischer, en steeds vaker gegenereerd met AI-modellen die zijn getraind op echte camerabeelden (zoals bij Wayve's GAIA-modellen), in plaats van volledig handgebouwde 3D-omgevingen. Dat maakt het gedrag van andere weggebruikers en de visuele details geloofwaardiger. Tegelijk blijft het valideren van simulaties zelf een open probleem: hoe weet je zeker dat goed presteren in simulatie ook echt voorspelt hoe veilig een auto op straat is? Daarover bestaat nog geen brede consensus in de sector, en toezichthouders zoals de Amerikaanse NHTSA en Europese instanties werken nog aan standaarden voor hoeveel simulatiekilometers als bewijs van veiligheid mogen tellen naast echte testkilometers.
Een concreet signaal dat simulatie alléén niet genoeg is: na een incident in oktober 2023 in San Francisco, waarbij een voertuig van Cruise (een dochterbedrijf van General Motors) een voetganger meesleepte, schortte het bedrijf zijn robotaxidienst tijdelijk op. Dit liet zien dat uitgebreide simulatietesten reële situaties niet volledig kunnen vervangen, ook al draaide Cruise, net als concurrenten, miljoenen closed-loop simulatiekilometers.
Wie werken eraan?
In de Verenigde Staten zijn Waymo (onderdeel van Alphabet, het moederbedrijf van Google) en Tesla de bekendste namen, samen met NVIDIA, dat simulatiesoftware en -hardware (Omniverse, DRIVE Sim) levert aan tal van andere autobedrijven. Applied Intuition, opgericht in 2017 in Silicon Valley, is een gespecialiseerde leverancier van simulatiesoftware die door veel grote autofabrikanten wordt ingehuurd in plaats van dat zij alles zelf bouwen.
In het Verenigd Koninkrijk is Wayve toonaangevend met zijn op AI gebaseerde wereldmodellen. In Europa dragen ook Motional (een samenwerking tussen Hyundai en het voormalige nuTonomy/Aptiv) en academische instituten bij, waaronder het Computer Vision Center in Barcelona en het MIT Computer Science and Artificial Intelligence Laboratory (CSAIL) in de Verenigde Staten, dat onder leiding van onderzoekers als Daniela Rus werkt aan datagedreven, fotorealistische simulatoren.
Ook buiten de auto-industrie investeren grote AI-labs zoals OpenAI en DeepMind (onderdeel van Alphabet) in closed-loop simulatieomgevingen om robots en algoritmes te trainen via reinforcement learning, en universiteiten wereldwijd gebruiken open platforms als CARLA voor onderzoek zonder dat daar een fysiek voertuig aan te pas komt.
Verder lezen
- Waymo — officiële site met achtergrond over hun simulatietechnologie
- CARLA Simulator — open-source platform voor onderzoek naar autonoom rijden
- Wayve — ontwikkelaar van AI-wereldmodellen zoals GAIA
- NVIDIA Developer — informatie over Omniverse, Isaac Sim en DRIVE Sim
- NHTSA — Amerikaanse toezichthouder op voertuigveiligheid, met beleid rond testen van autonome voertuigen