Waymo belde de politie zelf: robotaxi meldt wapen en leidt tot arrestatie

Begin september stapten twee tieners in Los Angeles in een robotaxi van Waymo. Even later zaten ze in een politiewagen. Het zelfrijdende voertuig detecteerde een schending van de gebruiksvoorwaarden, meldde dit bij de politie en werd tot stilstand gebracht. Agenten troffen naar verluidt een geladen, zelfgebouwd AR-wapen aan. Voor het eerst was het niet de politie die achteraf beeldmateriaal opvroeg, maar het voertuig zelf dat het alarm sloeg.

Camera's die meekijken en meebeslissen

Waymo's auto's zitten vol camera's, zowel aan de buiten- als binnenkant. Een woordvoerder van het bedrijf laat weten dat interne camera's worden gebruikt om de gebruiksvoorwaarden te handhaven, onder meer door verboden voorwerpen zoals wapens te herkennen. Daarvoor gebruikt Waymo automatische beeldherkenning die mogelijke overtredingen signaleert. Onduidelijk blijft hoe zeker het systeem moet zijn voordat het een wapen als zodanig bestempelt, en welke rol mensen spelen voordat de politie wordt gebeld. Volgens Bob Somers, voormalig ingenieur bij het zelfrijdende-autobedrijf Zoox, hoeft de software niet honderd procent zeker te zijn: bij verdachte objecten kan een afstandsoperator worden ingeschakeld om mee te kijken. Waymo heeft naar eigen zeggen zo'n zeventig van dit soort operators tegelijk in dienst, verspreid over de VS en de Filippijnen, al is niet duidelijk of zij ook de wapenmeldingen beoordelen.

Hoogleraar Phil Koopman van Carnegie Mellon University wijst op een groter probleem: een menselijke taxichauffeur bouwt gedurende de hele rit context op en kan een voorwerp beter inschatten dan een systeem dat slechts één moment ziet. Waymo's microfoons staan doorgaans alleen aan tijdens een gesprek met klantenservice, waardoor een beoordelaar ook geen geluid uit de rit voorafgaand aan de melding kan horen. Eerder dit jaar meldde Waymo al twee tieners bij de politie omdat ze met een waterpistool uit het raam schoten; onduidelijk is of zij zijn vervolgd.

Een robotaxi voelt privé aan, maar is het niet

Waymo's camerabeleid stelt dat opnames kunnen worden bekeken bij klachten en dat het bedrijf gegevens kan delen met de politie om aan wettelijke verplichtingen te voldoen. Nergens staat expliciet dat automatische bewaking binnenin de auto zelf tot een telefoontje naar de politie kan leiden. Hayley Tsukayama van de Electronic Frontier Foundation noemt het beleid "heel breed" geformuleerd. Het ontbreken van een chauffeur wekt bij passagiers soms de indruk dat er niemand meekijkt, terwijl het tegendeel waar is: eerdere robotaxi's van concurrent Cruise werden bijvoorbeeld gebruikt voor intieme momenten, ondanks de camera's aan boord. Ook zijn Waymo-voertuigen eerder doelwit geweest van vandalisme tijdens protesten, deels uit angst dat hun camerabeelden als bewijsmateriaal tegen demonstranten zouden worden gebruikt.