V neděli 18. března 2018 došlo v 21.58 místního času v městské části Tempe arizonského města Phoenix ke srážce testovacího autonomního vozu Volvo XC90 firmy UBER s chodkyní Elaine Herzberg, vedoucí bicykl a přecházející silnici mimo přechod pro chodce. Ta svým zraněním podlehla. Jednalo se tak o první nehodu, při níž autonomní vozidlo usmrtilo chodce. Za volantem v okamžiku střetu seděla jakožto bezpečnostní řidička Rafaela Vasquez, která se dle vyšetřování nevěnovala činnosti dohlížení nad vozidlem a okolním prostředím, nýbrž sledovala na svém mobilním telefonu pořad The Voice na službě Hulu. Ve čtvrtek 27. srpna letošního roku byla Rafaela Vasquez obžalována ze zabití z nedbalosti.

Autonomní vůz Volvo XC90 firmy UBER po srážce s chodkyní Elaine Herzberg (foto: NTSB)

Vyšetřování nehody odhalilo celou řadu faktorů, jež společně vedly k tragickému konci. Vůz, který se pohyboval rychlostí 69 km/h, detekoval chodkyni šest sekund před srážkou, nicméně řídicí software ji nedokázal správně identifikovat. Během následujících sekund došlo ke kategorizaci detekovaného objektu jakožto vozidla a posléze bicyklu, přesto autonomní vůz nezačal brzdit až do 1,3 sekundy před kolizí. Dalším spolupůsobícím faktorem bylo, že Volvo XC90 je standardně vybaveno systémem nouzového brzdění, který však byl deaktivován, aby nedocházelo k interferenci se zkoušeným systémem autonomního řízení. V neposlední řadě byla chodkyně Elaine Herzberg podle pitvy pod vlivem pervitinu, takže i její kognitivní schopnosti byly omezeny. Jakkoli tedy došlo k selhání hned několika kritických částí, úkolem a povinností bezpečnostního řidiče je fungovat jako záloha, která právě v případě všech ostatních selhání předejde nehodě. Rafaela Vasquez tedy naprosto pochybila ve své úloze. Z vyšetřování vyplynulo, že pokud by Rafaela Vasquez dávala pozor, dokázala by zastavit bezmála třináct metrů před místem střetu. Na druhou stranu jde o případ jevu, na který výzkumníci v oblasti lidského faktoru a bezpečnosti dlouhodobě poukazují, a to enormní náročnost udržovat pozornost nad systémem, který většinu času funguje autonomně. V důsledku této nehody UBER zcela zastavil testování na veřejných komunikacích, které následně postupně obnovoval. Kromě této smrtelné nehody byly autonomní vozy firmy UBER účastníky dalších méně závažných nehod. Kromě toho se s touto firmou pojí i kauza odcizených obchodních tajemství v souvislosti s inženýrem Anthonym Levandowskim.