Waymo-CEO waarschuwt: fysieke AI vraagt om veiligheid, niet snelheid

Silicon Valley staat bekend om zijn adagium "move fast and break things": snel bouwen, fouten later oplossen. Voor software werkt dat aardig, maar voor techniek die de fysieke wereld raakt, gaat die aanpak niet op, zegt Dmitri Dolgov, co-CEO van het Amerikaanse zelfrijdende-autobedrijf Waymo. In een interview met durfkapitaalfonds Y Combinator roept hij de fysieke AI-industrie op om anders te werken: "move fast and ship safely" - snel bewegen, maar veilig uitrollen.

Geen resetknop

Dolgovs kernargument is simpel maar hard: bij software kun je een fout terugdraaien met een update. Bij een robotaxi die met tachtig kilometer per uur over straat rijdt, of bij een robot die naast een mens werkt, kan een fout een ongeluk of erger betekenen. "Er is gewoon geen ongedaan-maken-en-opnieuw-proberen-knop," zei hij. Daarom moet veiligheid volgens hem al vanaf het begin verweven zitten in de modellen, de methodes en de systeemarchitectuur van een bedrijf - niet als extra laag die er achteraf overheen wordt gelegd.

Waymo's trage, voorzichtige weg

Waymo, ontstaan uit een geheim Google-project dat in 2009 begon, geldt zelf als bewijs dat die voorzichtige route werkt. Het bedrijf rijdt inmiddels miljoenen kilometers per maand volledig zonder chauffeur achter het stuur, in steden als Phoenix, San Francisco en Los Angeles. Toch breidt Waymo zijn dienstgebied stap voor stap uit, met uitgebreide tests binnen een streng afgebakend operationeel ontwerpdomein - het gebied en de omstandigheden waarbinnen een voertuig zelfstandig mag rijden. Die aanpak staat in schril contrast met concurrenten die sneller willen opschalen naar meer steden en meer voertuigen.

Waarschuwing aan de rest van de sector

Fysieke AI is een verzamelnaam voor kunstmatige intelligentie die niet alleen tekst of beelden produceert, maar ook daadwerkelijk in de echte wereld beweegt en handelt: zelfrijdende auto's, humanoïde robots en industriële robotarmen vallen er allemaal onder. De sector groeit hard, met grote investeringen van techbedrijven die robots en zelfrijdende voertuigen razendsnel willen opschalen. Dolgov erkent dat zijn oproep mogelijk aan dovemansoren gericht is. Hij kent de cultuur van de sector en weet dat niet elk bedrijf dezelfde discipline hanteert als Waymo, dat al meer dan vijftien jaar aan zelfrijdende technologie werkt voordat het op grote schaal betalende passagiers vervoerde. Zelfrijdende voertuigen bevinden zich doorgaans op level 4-autonomie: het systeem doet binnen bepaalde grenzen alles zelf, zonder dat een mens moet ingrijpen. Juist die grens tussen 'bijna klaar' en 'volledig veilig' is volgens Dolgov waar de verleiding om te snel te gaan het grootst is.