Autonomní vozidla nejsou jen výzvou technologickou, ale i společenskou, a tedy si žádají adekvátní etické zakotvení. Dobře vědoma si toho je Evropská komise, která zřídila nezávislou expertní skupinu pro autonomní a propojená vozidla (CAV, Connected and Autonomous Vehicles). Expertní skupina vytvořila obsáhlý dokument, jehož ústřední částí je 20 doporučení pro etický rozvoj autonomní mobility. Vypracovaná doporučení v obecnější rovině adresují tři témata, a to a) silniční bezpečnost, rizika a dilemata, b) etiku dat a algoritmů, a to s ohledem na soukromí, rovnoprávnost a srozumitelnost, a konečně c) odpovědnost. Zmíněných dvacet doporučení má následující podobu:

1. Zajistit, že autonomní a propojená vozidla omezí fyzickou újmu osob (tj. autonomní vozidla by měla být minimálně stejně bezpečná jako manuálně řízená vozidla, pro posouzení čehož je nutné vytvořit metriku hodnocení bezpečnosti autonomních vozidel, jež umožní porovnat jejich schopnosti s vozidly řízenými lidskými řidiči)
2. Předejít nebezpečnému použití inherentně bezpečným designem (tj. navrhovat vozidla a jejich ovládací prvky tak, aby je nebylo možné použít nesprávně)
3. Definovat jasné standardy pro zodpovědné testování na veřejných komunikacích (tj. životy lidí by neměly být vystaveny riziku kvůli testování nových technologií v provozu)
4. Zvážit upravení dopravních předpisů z hlediska podpory bezpečnosti autonomních a propojených vozidel a posoudit výjimky pro autonomní a propojená vozidla, jež nejsou v souladu s dosavadními pravidly (tj. dopravní předpisy jsou prostředkem, který nám pomáhá dosáhnout určitého cíle, takže prochází vývojem, z tohoto důvodu by mělo být zváženo, za jakých podmínek mohou být změněny s ohledem na autonomní vozidla, těm by zároveň mělo být umožněno ne vždy dopravní předpisy dodržovat, a zároveň by mělo být umožněno předat řízení řidiči, jehož svobodným rozhodnutím je, zda předpisy bude, nebo nebude dodržovat)
5. Napravit nerovnosti z hlediska zranitelnosti mezi účastníky silničního provozu (tj. autonomní vozidla by se mohla chovat odlišně v závislosti na tom, v blízkosti jakého účastníka silničního provozu se právě nachází, to by se mělo projevit zejména v okolí takzvaných zranitelných účastníků, tedy chodců či cyklistů)
6. Vypořádat se s dilematy na základě principů distribuce rizika a sdílených etických principů (tj. autonomní vozidla by se měla chovat tak, aby docházelo ke kontinuálnímu statistickému rozložení rizika za účelem zvýšení bezpečnosti silničního provozu)
7. Trvat na důvěrnosti informací a informovaném souhlasu (tj. autonomní a propojená vozidla budou sbírat ohromné množství dat, je proto žádoucí, aby se výzkum zaměřil na určení, jak tato data a jejich použití správně zabezpečit)
8. Umožnit svobodnou volbu uživatele, vytvořit prostor pro různé formy udělení informovaného souhlasu a vyvinout průmyslové standardy ochrany dat na základě osvědčené praxe (tj. vytvořit takové prostředí služeb poskytovaných autonomními a propojenými vozidly, které budou brát ohled na soukromí a data uživatelů)
9. Vyvinout opatření k posílení ochrany jednotlivců na úrovni skupin (tj. měly by být vytvořeny zásady, které budou chránit jednotlivce prostřednictvím pravidel pro skupiny, například řidiče, chodce a podobně)
10. Vyvinout transparentní strategie pro informování uživatelů a chodců o sběru dat a souvisejících právech (tj. autonomní vozidla sbírají data nejen o provozu, ale i prostoru kolem komunikací, který je nezřídka soukromým pozemkem, proto by měl být vytvořen transparentní proces informování osob o těchto sbíraných datech)
11. Předejít diskriminačnímu poskytování různých služeb (tj. autonomní vozidla a jejich provoz by neměla diskriminovat žádné jednotlivce nebo skupiny a ani by neměla prohlubovat již existující nerovnosti ve společnosti)
12. Provést audity algoritmů autonomních a propojených vozidel (tj. měly by být vytvořeny nástroje pro posuzování algoritmů autonomních vozidel a odhalování jejich skrytých nechtěných důsledků)
13. Identifikovat a bránit relevantní hodnotné soubory dat autonomních a propojených vozidel jako veřejné a otevřené zdroje (tj. určité kategorie užitečných dat by měly být uchovány a zpřístupněny k volnému užití)
14. Redukovat netransparentnost algoritmického rozhodování (tj. mělo by se usilovat o srozumitelnost algoritmů a umělé inteligence, aby se jednalo o samovysvětlující procesy, které jsou navíc vystavěny kolem potřeb uživatele)
15. Podpořit porozumění umělé inteligenci a datovou a algoritmickou vzdělanost mezi nejširší veřejností (tj. veřejnost by měly být vzdělávána ohledně nových technologií a možností, které přináší, a rizika, jež se s nimi pojí)
16. Identifikovat závazky různých aktérů v doméně autonomních a propojených vozidel (tj. v širokém komplexu společností, osob a dalších aktérů zapojených do průmyslu autonomní mobility by mělo být určeno, kdo je kdy za co odpovědný)
17. Podpořit kulturu odpovědnosti s ohledem k závazkům souvisejícím s autonomními a propojenými vozidly (tj. v oboru autonomní mobility by měla být vytvořena nová kultura zodpovědnosti)
18. Zajistit odpovědnost za chování autonomních a propojených vozidel (tj. měl by být vytvořen spravedlivý mechanismus připisování odpovědnosti)
19. Podpořit spravedlivý systém připisování morální a právní odpovědnosti za chování autonomních a propojených vozidel (tj. vytvořit spravedlivá kritéria trestání)
20. Vytvořit spravedlivé a efektivní mechanismy pro zajištění kompenzace obětem nehod či jiných incidentů zahrnujících autonomní a propojená vozidla (tj. mělo by dojít k vytvoření nových forem pojištění kompenzující oběti, které ale zároveň budou podporovat inovace)

Umělecké ztvárnění města budoucnosti (foto: European Commision)

Předsedou expertní skupiny byl Jean-François Bonnefon, který je známý zejména jako popularizátor tramvajového dilematu ve spojitosti s autonomními vozidly díky online experimentu Moral Machine. Mezi experty byl dále například vynikající irský filozof John Danaher, profesorka Tatiana Kováčiková z Žilinské univerzity anebo třeba český filozof David Černý, který je mimochodem předsedou české etické komise pro autonomní mobilitu, jež vznikla v letošním roce. Etika autonomních vozidel je v centru zájmu již delší dobu, v roce 2017 německá etická komise zveřejnila soubor dvaceti doporučení týkajících se zavádění autonomních vozidel.