Pří vývoji autonomního řízení vozidel nedochází k problémům jen z hlediska technické realizace, ale také při řešení určitého etického kodexu z toho pohledu, jak se určitý řídící systém rozhodne zareagovat při určitých kritických situacích. Je to jedna ze základních otázek, kterou musí řídící systém řešit. Přesněji tedy, musí udělat určitá rozhodnutí v případě hrozící nehody. Doposud většina řídících algoritmů reagovalo ve stylu „buď a nebo“. Snažila se tedy vyhodnotit určitý scénář co možná nejlépe, avšak s myšlenkou, že k určitému porušení etického kodexu tak jako tak může dojít. S určitým řešením nyní přišli výzkumníci z TUM Chair of Automotive Technology společně s Chair of Business Ethics při společné práci na TUM Institute for Ethics in Artificial Intelligence (IEAI). Základem pro stanovení daného algoritmu bylo testování při více než 2000 scénářích, ze kterých vzešla kritická situace. Testování bylo situováno do několika ulic v Evropě, USA a Číně. Samotný princip vyhodnocování rizik pak spočívá na tom, že všichni účastníci silničního provozu (kategorie vozidel, osoby, cyklisti) jsou klasifikování na základě rizika, které představují pro další účastníky silničního provozu a tím způsobem riskovat daný manévr. Rozdíl je tak zakořeněn v tom, že například nákladní vozidlo srážkou s jiným účastníkem silničního provozu způsobí velké škody svému okolí, ale na něm samotném velká škoda nevzejde. Opačným způsobem to funguje například u cyklisty. Dále je v daném algoritmu vepsáno, aby se nepřekračovala určitá maximální přijatelná rizika v určitých situacích. Stejně tak jsou do výpočtu při daných situacích zakombinovány proměnné, které zohledňují odpovědnost za svůj pohyb na veřejných komunikacích z hlediska silničního provozu.  

Vizuální podoba rizikové dopravní situace uvedené v článku. (foto: GitHub)

Předchozí přístupy k takovéto problematice se řešily poměrně malým rozsahem zakódovaných manévrů a v nejasných situacích vozidlo jednoduše zastavilo. Tento nový zmíněný přístup se však snaží dané situace lépe vyhodnotit a zahájit určitý manévr, až v momentě kdy je míra rizika dané situace přiměřená pro všechny zúčastněné. Příkladem je, když se autonomní vozidlo snaží předjet cyklistu, ale v protijedoucím pruhu jede nákladní vozidlo. V tu chvílí začíná úvaha, jestli je možné cyklistu předjet v dostatečné vzdálenosti, která je pro jeho míjení bezpečná a zároveň nenarušit dráhu protijedoucímu nákladnímu vozidlu. Dále autonomní vozidlo začíná uvažovat, jestli je v daný moment situace riziková pro všechny účastníky stejným způsobem a jak moc je riziková pro něj samotné. Výsledkem oproti předchozím přístupům je to, že se snižuje míra agresivního jednání autonomního vozidla anebo možnost jeho nenadálého zastavení. Základním podmětem pro tyto úvahy byly definovány skupinou odborníků jako písemné doporučení Komise EU již v roce 2020. V daném doporučení byl stanoven přímý požadavek na rozdělení vzájemných rizik všech účastníků silničního provozu.  

Samotní autoři výzkumu dále zdůraznili, že ač by měl být algoritmus bezpečnější než ty, které byly propagovány doposud, ani on nedokáže zaručit provoz bez nehod a rozhodně tato jeho podoba není finální verzí. V budoucnu bude například podstatné doplnit určité kulturní rozdíly v etickém rozhodování. Algoritmus byl doposud testován pouze v počítačových simulacích a nyní bude implementován do výzkumného vozidla EDGAR a testován ve skutečném provozu. Zdrojový kód pro tento algoritmus TUM nabízí volně přístupný a lze jej získat na tomto odkazu.