Únor je v západním světě oslavován jako Měsíc černošské historie (Black History Month), během nějž je připomínána pestrost a bohatost života a kultury lidí černé pleti a jejich nezpochybnitelný přínos pokrokům lidstva. Při této příležitosti je více než vhodné zaměřit pozornost na téma úzce související s autonomními vozidly, a to takzvanou předsudečnou umělou inteligenci. Jak se totiž ukazuje, předsudky nejsou vlastní jen lidem, ale stále názorněji se stávají součástí i systémů umělé inteligence. Příčinou obvykle není, že by vývojáři záměrně vytvářeli rasistickou či jinak deviantní umělou inteligenci, nýbrž neúmyslně používají nevyvážené sady dat, pomocí kterých se strojové systémy učí. Jednoduše řečeno, umělá inteligence potažmo strojové učení využívá objemné sady dat, které slouží k trénování umělých neuronových sítí vykonávat danou funkci. Takovou funkcí může být například rozpoznání člověka. Problémem ale je, že používané datové sady bývají nezřídka zkreslené z hlediska nereprezentativního zastoupení prvků všech kategorií, jež připadají v úvahu. To jinak řečeno znamená, že umělá inteligence se učí rozpoznávat člověka na základě obrázků lidí převážně bílé barvy pleti. Pokud se však takový systém v reálném nasazení setká s osobou černé (či jiné) barvy pleti, nemusí ji správně kategorizovat jakožto člověka. A to je naprosto zásadní potíž.

Ed Welburn, první designér černé pleti automobilky General Motors a posléze i její šéfdesignér (foto: Steve Fecht)

V případě autonomních vozidel není příliš náročné pochopit, jak nebezpečné situace může taková umělá inteligence vytvořit. Pokud totiž systém autonomního řízení nedokáže správně identifikovat a kategorizovat všechny objekty ve svém okolí, a nemusí nutně jít jen o lidi, potom nelze v žádném případě hovořit o bezpečném autonomním vozidle. Přitom hnací silou vývoje a zavádění autonomních vozidel je právě zvýšení bezpečnosti silničního provozu. Existence předsudečné umělé inteligence tak podtrhuje potřebu a nutnost angažovat do oblasti autonomní mobility co nejširší paletu lidí s rozmanitými profesními i kulturními zkušenostmi, abychom kýženého cíle byli schopni skutečně dosáhnout.