Robotica › Autonome voertuigen & swarm robotics
Congreslid eist ingrijpen VS tegen misbruik Tesla Autopilot en FSD
Een Amerikaans Congreslid vraagt de toezichthouder NHTSA om in te grijpen nadat tientallen video's opdoken van slapende Tesla-bestuurders achter het stuur. Hij maakt zich vooral zorgen over software-updates die vermoeide bestuurders juist aansporen om het rijhulpsysteem te blijven gebruiken.
De Democratische Congresafgevaardigde Raja Krishnamoorthi heeft het Amerikaanse ministerie van Transport en de verkeersveiligheidswaakhond NHTSA opgeroepen om actie te ondernemen tegen het misbruik van Tesla's Autopilot en Full Self-Driving (FSD). Aanleiding is een onderzoek van NBC News, dat 43 video's vond waarin bestuurders slapend of anderszins afwezig achter het stuur zitten terwijl hun auto in beweging is. Zeventien van die video's zijn dit jaar geplaatst.
Systemen vereisen constante oplettendheid
Autopilot en FSD zijn rijhulpsystemen en geen volledig zelfrijdende technologie. Tesla schrijft zelf voor dat bestuurders te allen tijde alert moeten blijven en direct moeten kunnen ingrijpen. Toch tonen de video's dat sommige gebruikers die instructie negeren. In zijn brief aan minister van Transport Sean Duffy noemt Krishnamoorthi dat een gevaarlijke ontwikkeling, zeker nu de systemen steeds vaker op de Amerikaanse wegen te vinden zijn.
Kritiek op waarschuwingsteksten
Een groot pijnpunt is een software-update die Tesla eerder dit jaar uitrolde. Daarin kregen bestuurders die door het bestuurdersmonitoringsysteem als vermoeid werden herkend, meldingen te zien als 'Drowsiness detected. Stay focused with FSD' en 'Lane drift detected. Let FSD assist so you can stay focused.' Volgens Krishnamoorthi is dat tegenstrijdig: het systeem signaleert dat een bestuurder minder alert is, maar moedigt tegelijk aan om juist dan op de techniek te vertrouwen. Hij wijst erop dat NHTSA al eerder tekortkomingen vond in de manier waarop Tesla bestuurders bij de les probeert te houden.
Lopend onderzoek naar 3,2 miljoen auto's
De zorgen komen bovenop een lopende technische analyse van NHTSA naar ongeveer 3,2 miljoen Tesla's met FSD aan boord. Daarbij wordt onderzocht of het systeem voor degradatiedetectie slecht zicht op de weg op tijd herkent en bestuurders voldoende tijd geeft om te reageren. Dit onderzoek volgt op negen incidenten, waaronder één dodelijk ongeval en één met gewonden. Krishnamoorthi wil dat toezichthouders duidelijke regels opleggen zodat fabrikanten voorzienbaar misbruik van hun systemen actief tegengaan, in plaats van gebruikers indirect aan te moedigen om er blind op te vertrouwen.
Achtergrond & begrippen
Wat betekent dit voor de toekomst? Deze zaak laat zien dat de grens tussen handige rijhulp en (te) groot vertrouwen in techniek flinterdun is. Zolang zelfrijdende technologie nog mensentoezicht vereist, bepalen ontwerpkeuzes van fabrikanten - zoals waarschuwingsteksten - direct hoe veilig die technologie in de praktijk is. Strengere regelgeving kan de manier waarop autofabrikanten hun rijhulpsystemen communiceren ingrijpend veranderen.
- Autopilot
- Tesla's basale rijhulpsysteem dat kan sturen, remmen en optrekken, maar continue oplettendheid van de bestuurder vereist.
- Full Self-Driving (FSD)
- Tesla's geavanceerdere rijhulpsysteem dat meer taken overneemt dan Autopilot, maar volgens Tesla zelf nog geen autonome besturing is.
- NHTSA
- De Amerikaanse federale toezichthouder op verkeersveiligheid, die onderzoek doet naar veiligheidsrisico's van voertuigtechnologie.
- Bestuurdersmonitoringsysteem
- Techniek die in de gaten houdt of een bestuurder alert en oplettend is, bijvoorbeeld via camera's of stuursensoren.
- Vermoeidheidsdetectie
- Een functie die tekenen van slaperigheid bij de bestuurder herkent, zoals knipperpatronen of onregelmatig sturen.
- Degradatiedetectie
- Het vermogen van een systeem om te herkennen wanneer sensoren minder goed werken, bijvoorbeeld door slecht zicht of vervuiling.
Bronnen
Dit artikel is met behulp van AI geschreven op basis van bovenstaande bronnen en is geen letterlijke vertaling. Zo werkt onze redactie.
