Amerikaans startup red-teamt robots en zelfrijdende auto's vóór ze de weg op gaan

Een zelfrijdende auto die plotseling moet uitwijken voor een voetganger, of een magazijnrobot die een onverwacht obstakel tegenkomt: dit soort zeldzame, risicovolle situaties zijn precies waar fysieke kunstmatige intelligentie op kan struikelen. Het Amerikaanse startup Laplace Intelligence, opgericht door Howie Sun en Henry Liu vanuit de Universiteit van Michigan, bouwt technologie die dit soort scenario's vooraf opspoort. Het bedrijf gebruikt daarvoor AI red-teaming: AI-systemen die opzettelijk proberen andere AI-systemen te laten falen, om zwakke plekken bloot te leggen voordat die in de praktijk schade aanrichten.

Een digitale kopie van de echte wereld

De kern van Laplace is een simulatieomgeving die is gebaseerd op echte locaties, van een snelweg in Arizona tot een voetgangersoversteekplaats in Parijs. Die wordt opgebouwd uit een mix van kaartdata, straatbeelden en real-time verkeersinformatie, bijvoorbeeld van navigatiebedrijf TomTom. De simulatie draait op een aangepaste versie van Nvidia's Cosmos-platform, een zogeheten wereldmodel dat niet alleen de omgeving nabouwt, maar ook hoe andere weggebruikers op elkaar reageren. Ontwikkelaars kunnen via simpele taalopdrachten de omstandigheden aanpassen, zoals extra verkeer toevoegen. In een demonstratie liet medeoprichter Sun een testvoertuig expres uitwijken naar de tegemoetkomende rijbaan; de tegenligger reageerde daar meteen op door zelf uit te wijken, net als in het echte verkeer.

AI die zelf lastige scenario's verzint

Het bijzondere aan Laplace is niet alleen de simulatie zelf, maar vooral de AI-agents die automatisch nieuwe, risicovolle testsituaties ontwerpen. Dit soort closed-loop simulatie laat voertuigen en robots virtueel testen in een omgeving die op hun acties reageert, in plaats van alleen vooraf opgenomen beelden af te spelen. De AI-agents putten daarbij uit nieuwsberichten en politierapporten over ongevallen om realistische, zeldzame probleemsituaties te bedenken. Traditioneel trainen bedrijven voor zelfrijdende auto's hun systemen vooral op basis van opgenomen beelden of bedenken medewerkers zelf nieuwe testgevallen. Bij nieuwe generaties robots, zoals mensachtige machines voor magazijnen, ontbreekt die ervaring vaak nog volledig. Volgens Sun is er simpelweg te weinig data over hoe deze humanoïde robots zich in de praktijk zullen gedragen, waardoor niemand precies weet welke onverwachte situaties zich zullen voordoen.

Klanten in de vrachtwagen- en techwereld

Laplace draait inmiddels winstgevend, met klanten als de Japanse vrachtwagenbouwer Isuzu, het Texaanse zelfrijdende-vrachtwagenbedrijf Bot Auto en chipgigant Nvidia. Samen met T-Mobile werkt het bedrijf ook aan een gratis proefproject voor slim verkeersbeheer in San Jose. De grootste concurrent is het veel grotere Applied Intuition, dat al 1,2 miljard dollar aan investeringen heeft opgehaald. Laplace moet het vooral winnen met zijn aanpak: niet alleen testen met vaste scenario's, maar met AI die voortdurend nieuwe, onvoorspelbare situaties blijft uitproberen.