Omezení nehodovosti a výrazné snížení počtu obětí dopravních nehod je jedním z nejčastěji zmiňovaných benefitů plně autonomní dopravy. Statistiky uvádějí, že v Německu dochází ke smrtelné autonehodě každých 2,7 hodin, v USA je to každých 25 minut a celosvětově každých 26 sekund. Světová zdravotnická organizace ve své zprávě z roku 2021 konstatuje, že v důsledku dopravních nehod umírá každoročně zhruba 1,3 miliónů lidí a úmrtí v důsledku dopravní nehody je hlavní příčinou smrti u dětí a mladých lidí mezi 5-29 lety. Zpráva rovněž identifikuje hlavní příčiny dopravních nehod:

1. Nadměrná rychlost
i. 1% nárůst rychlosti je spojený se 4% nárůstem rizika smrtící nehody.
ii. Riziko smrti chodců při nárazu se s rychlostí výrazně zvyšuje (je 4,5krát vyšší při změně rychlosti z 50 km/h na 65 km/h.
iii. Při rychlosti 65 km/h je při boční srážce vozidel riziko smrti 85 %.

2. Řízení pod vlivem alkoholu či jiné psychoaktivní látky
i. V případě alkoholu se riziko nehody výrazně zvyšuje od okamžiku, kdy koncentrace alkoholu v krvi přesáhne hodnotu 0,04 g/dl.
ii. U dalších psychotropních látek závisí zvýšené riziko na typu požité látky. Například v případě amfetaminu je toto riziko zhruba 5krát vyšší.

3. Nepoužívání přileb, pásů a dětských sedaček
i. Používání přilby může snížit riziko fatální nehody o 42 %, riziko vážného poranění hlavy se snižuje o celých 69 %.
ii. Zapnuté bezpečnostní pásy snižují riziko smrti o 45–50 %.
iii. Využívání dětských sedaček může snížit riziko smrti o 60 %.

4. Nepozornost
i. Používání mobilních telefonů při řízení zvyšuje pravděpodobnost nehody čtyřikrát.
 

Testovací autonomní vozidlo Ford Fusion Hybrid firem Argo AI a Ford v Miami (foto: Ford)

Další statistiky uvádějí, že dopravní nehody v 93 % případů způsobuje lidský faktor. Do plně autonomní dopravy se proto často vkládají naděje, že výrazným způsobem sníží počet dopravních nehod na silnicích a tím zabrání obrovským majetkovým škodám a újmě na zdraví a životech. Je zřejmé, že eliminovat dopravní nehody zcela nebude možné; silniční doprava představuje nedeterministický systém, který se řídí striktními fyzikálními zákony. Není v lidských silách zajistit dokonalé podmínky provozu autonomních vozidel, v nichž by se nemohly uplatnit rizikové faktory, jako je stav vozovky, počasí či nepředvídatelné chování jiných účastníků dopravy, chodců či zvířat. Vzhledem k obrovským počtům dopravních nehod a újmě na majetku, zdraví a životech však i drobné zlepšení nehodovosti představuje výrazný pokrok a ospravedlňující důvod pro co nejrychlejší zavádění autonomní dopravy.

I když autonomní vozidla budou představovat technologii snižující rizika nehod, nelze zabránit tomu, aby se dostávala do situací, kdy nehodě nemohou zabránit. V některých případech se budou dokonce moci rozhodnout, jakým způsobem újmu distribuovat. Představme si například, že autonomní vozidlo vyhodnotí kolizní situaci a dojde k závěru, že má dvě možnosti: i) neměnit směr a intenzivně brzdit, ii) zahnout doprava. Obě volby povedou k nějaké újmě. Jak by se mělo rozhodnout?

Etiku můžeme chápat jako normativní teorii, která by měla na tuto a podobné otázky poskytovat odpovědi. Jejich nalezení však není vůbec jednoduché. Představme si, že bychom postupovali následujícím způsobem. Nejdříve bychom vytvořili tři hlavní kategorie újmy – újmu na majetku, újmu na zdraví a konečně újmu na životech. A dále bychom si vytvořili hlavní etické pravidlo, podle něhož by autonomní vozidla měla v kolizních situacích minimalizovat újmu. Toto pravidlo je velmi intuitivní a zřejmé: je-li totiž možné způsobit méně újmy než více, máme obvykle morální povinnost jednat tak, aby tomu tak skutečně bylo. Nic jiného požadavek na minimalizaci újmy nepožaduje.

V rámci každé kategorie je možné újmu srovnávat. Například pohybujeme-li se v rámci majetkové újmy, disponujeme společným faktorem, který všechny typy majetkové újmy sjednocuje: finančním ohodnocením újmy. Má-li se tedy autonomní vozidlo rozhodovat a jedinou újmou ve hře je újma majetková, může se pokusit co nejlépe odhadnout její výšku spojenou s každou volbou jednání a její pravděpodobnosti. Následně zvolí takové jednání, které újmu minimalizuje neboli, jednoduše řečeno, která bude „stát“ nejméně. Zvolíme-li kategorii újmy na lidských životech, zdá se srovnávání újmy opět poměrně jednoduché: můžeme se opřít o morální aritmetiku lidských životů a interpretovat minimalizaci újmy jako volbu takových trajektorií, jež povedou k nejnižším ztrátám na životech. U kategorie újmy na zdraví to může být poněkud složitější: převáží například tři zlomené ruce jednu zlomenou nohu? Zřejmě bychom ale mohli vytvořit nějakou metodiku srovnávání újmy na zdraví a učinit ji součástí rozhodovacích algoritmů autonomních vozidel.

Skutečné problémy nastávají v okamžiku, kdy musíme srovnávat újmy mezi kategoriemi. Je totiž velmi obtížné nalézt něco, co spojuje újmu na majetku, zdraví i životech a co by tedy umožnilo jednotlivé instance těchto forem újmy srovnávat. Musíme vždy a za všech okolností dávat přednost lidskému životu před libovolně velkou a závažnou újmou na zdraví? A je ochrana zdraví vždy důležitější než ochrana majetku, i když se jedná o rizika drobného zranění na jedné straně, na straně druhé je však vysoká pravděpodobnost velké majetkové škody?

Odborníci si tyto problémy dobře uvědomují. Idea minimalizace újmy je velmi lákavá a vcelku pochopitelně. Jak to však provést v praxi? Možná by se dalo postulovat, že mezi kategoriemi újmy existuje jasná hierarchie: nejzávažnější újma je újma na životech, následuje újma na zdraví následovaná újmou na majetku. Pravidlo minimalizace újmy by se opíralo o požadavek, že srovnávání újmy je možné pouze v rámci kategorií, nikoli však mezi nimi. Jinými slovy, životy mají absolutní přednost před zdravím a zdraví zase před majetkem. Takto formulovaná etika minimalizace újmy by mohla ve většině případů fungovat vcelku dobře, nikoli však vždy. Byť jsou takové situace málo pravděpodobné, může se například stát, že autonomní vozidlo bude volit mezi smrtí jednoho člověka (posádky jednoho automobilu) a reálnou pravděpodobností velké újmy celé řady lidí (např. dětí v autobuse). Mělo by i v takovém případě dát přednost lidskému životu? Pokud ano, jak na podobné nehody bude reagovat veřejnost? Nemůže se stát, že budou budit morální paniku, prohlubovat nedůvěru v moderní technologie a neochotu si je pořizovat? A pokud ne, jakým způsobem nastavíme hranice? Do kdy budeme ještě upřednostňovat lidský život před zdravím? Jak velké množství zraněných a jaká závažnost těchto zranění bude představovat onen práh, za nímž už kategorie újmy na zdraví získá prioritu nad kategorií újmy na životech? Na tyto otázky bohužel zatím žádné dobré odpovědi nemáme.

Autonomní minibus Navya Arma nebo také Autonom Shuttle (foto: Navya)

To však neznamená, že máme složit ruce do klína a nedělat nic. Je třeba si uvědomit několik věcí. Autonomní doprava, pokud naplní své přísliby, bude přinášet skutečný prospěch a výrazně sníží počet nehod na silnicích. Měli bychom se tedy snažit, aby se tyto přísliby naplnily co nejdříve, i když chováme nejistoty ohledně některých kolizních situací. Kromě toho, výrazné snížení počtu nehod znamená, že se autonomní vozidla budou do kolizních situací dostávat méně často a je docela dobře možné, že půjde o rizika méně závažných nehod. A z těchto situací jen některé budou zahrnovat tak vyhrocené případy, jakým je volba mezi smrtí jednoho člověka a zraněními dětí jedoucích ve školním autobusu.

Jinými slovy, nejistota, jak řešit některé situace na silnicích, se bude týkat jen malého počtu případů, k nimž (snad) bude docházet jen zřídka. I když tedy můžeme vymyslet celou řadu teoretických scénářů, kdy níže postavená kategorie újmy může získat převahu nad tou nadřazenou, v praxi se s nimi nebudeme setkávat takřka nikdy. Etika minimalizace újmy by se tak mohla bez obav řídit dvěma principy: i) spadá-li příslušná újma do jediné kategorie, bude autonomní vozidlo volit tak, aby újma byla co nejnižší, ať již ji vyjádříme v nějaké měně, počtem a závažností zranění či počtem mrtvých; ii) spadá-li újma do více kategorií, měla by její minimalizace respektovat hierarchii kategorií. V praxi to znamená, že v konečném důsledku budeme minimalizovat újmu v nejvýše postavené kategorií. Jsou-li ve hře majetky a zdraví, budeme minimalizovat újmu na zdraví (bez ohledu na majetek); jsou-li ve hře všechny kategorie, budeme minimalizovat počet mrtvých.

Výsledná etika distribuce újmy v kolizních situacích autonomních vozidel bude dávat správnou a intuitivně přijatelnou odpověď na většinu situací. V řídkých případech mohou vzniknout pochyby, zda byla volba správná (vzpomeňme si na autobus s dětmi), nicméně tyto pochybnosti by nás neměly brzdit. Benefity autonomní dopravy jsou tak významné, že bychom ji měli zavádět co nejrychleji. A postupem času, i v závislosti na morálních intuicích celé společnosti, můžeme řešit zbylé problémy.

Autor: David Černý, Ústav státu a práva AV ČR, Ústav informatiky AV ČR, předseda Etické komise pro posuzování otázek spojených s provozem automatizovaných a autonomních vozidel v podmínkách ČR