VicOne lanceert gratis cyberveiligheidstool voor robots in NVIDIA Isaac Sim

Waarom robots getest moeten worden op digitale sabotage

Robotmakers testen hun machines uitgebreid op veiligheid: werkt de arm goed, stopt de robot op tijd, herkent hij obstakels? Maar wat gebeurt er als een hacker de software achter die robot manipuleert? Het Japanse cybersecuritybedrijf VicOne, een dochteronderneming van Trend Micro, bracht deze week een gratis uitbreiding uit voor NVIDIA Isaac Sim, het simulatieplatform waarmee ontwikkelaars robots virtueel testen voordat ze de fabrieksvloer of de straat op gaan. De uitbreiding heet Radeis en laat ontwikkelaars zien wat er gebeurt als iemand de digitale systemen van hun robot aanvalt.

VicOne richt zich normaal op de automotive-sector, waar het kwetsbaarheden opspoort in de boordcomputers en software van auto's. Die kennis past het nu toe op robotica. Volgens topman Max Cheng verschuift de robotindustrie van losse proefprojecten naar grootschalige inzet in fabrieken, magazijnen en de openbare ruimte. "Cyberveiligheid moet een standaardonderdeel worden van robotontwikkeling," aldus Cheng. Zijn bedrijf claimt inmiddels meer dan 180 zero-day-kwetsbaarheden te hebben blootgelegd in de auto- en robotsector, en verzamelt maandelijks meer dan honderd miljoen signalen over digitale dreigingen.

Van hackerswedstrijd naar testomgeving

De basis van de nieuwe uitbreiding ligt bij DEF CON 34, een grote hackersconferentie in de Verenigde Staten. Daar organiseerde VicOne een capture-the-flag-wedstrijd waarbij beveiligingsonderzoekers robots als de Reachy Mini en LeKiwi probeerden te compromitteren. Zestien teams boekten samen 25 geslaagde pogingen om robotgedrag te beïnvloeden via gemanipuleerde camerabeelden, gekaapte besturingscommando's, vergiftigde AI-modellen en gehackte netwerkverbindingen. Bijna elke uitdaging werd minstens één keer opgelost; alleen een opdracht rond ingebedde systemen en firmware bleef onopgelost.

VicOne verwerkte die aanvalspatronen tot herhaalbare testscenario's in de Radeis-uitbreiding voor Isaac Sim. Ontwikkelaars kunnen hun eigen robotmodel en de taak die het moet uitvoeren inladen in de simulatie, en daar de vooraf samengestelde aanvalsscenario's op loslaten. Zo is te testen of een vision-language model, het type AI dat camerabeelden vertaalt naar beslissingen, overeind blijft bij misleidende beelden of gemanipuleerde sensordata. Doordat de test plaatsvindt in een digitale tweeling van de robot, hoeft er niets stuk te gaan in de echte wereld.

Vroeg testen om latere schade te voorkomen

Het idee achter Radeis is dat teams kwetsbaarheden ontdekken voordat een robot daadwerkelijk wordt gebouwd of ingezet. Een geslaagde aanval in de simulatie laat zien welk digitaal lek kan leiden tot gevaarlijk fysiek gedrag, zoals een robotarm die de verkeerde beweging maakt. Een mislukte aanval is ook waardevol: die onthult aannames van aanvallers en zwakke plekken die nog niet volledig zijn afgedekt. Volgens VicOne verandert dit de discussie tussen techniek-, veiligheids- en beveiligingsteams, omdat zij niet meer alleen over abstracte softwarefouten praten, maar naar zichtbaar robotgedrag kunnen kijken.

De gratis Radeis-uitbreiding is nu beschikbaar voor ontwikkelaars die met ondersteunde versies van NVIDIA Isaac Sim werken. Voor bedrijven die een uitgebreidere doorlichting willen, biedt VicOne ook een volledige, betaalde versie van Radeis aan. Die beoordeelt niet alleen losse onderdelen en AI-modellen, maar ook hoe kwetsbaarheden het gedrag van de complete, samengestelde robot kunnen veranderen. Dat moet bedrijven helpen bij het onderbouwen van releasebeslissingen en het voldoen aan toekomstige regelgeving rond de veiligheid van AI-gestuurde robots.