Umělá inteligence ničí v Amazonu skutečné životy

Automatizace, digitalizace a nástup umělé inteligence: to jsou hlavní motivy průmyslu v nadcházejících letech. Mezi průkopníky v této oblasti patří samozřejmě také američtí technologičtí giganti jako Google, Microsoft nebo Amazon nejbohatšího člověka planety Jeffa Bezose. Právě na případu Amazonu se ale nyní ukazuje, že cesta implementace nových technologií je dlážděna velkými problémy. Tyto problémy mohou navíc odnést reální lidé, kterým mohou nové technologie zničit život.

Robotické hodnocení zaměstnanců

Ve Spojených státech zavedl Amazon automatický hodnotící systém zaměstnanců v rozvozu, tj. řidičů, které si firma najímá na smlouvu a jichž má na půl milionu. Algoritmus rozřadí rozvozce do čtyřech skupin podle výkonů, pokud potom jejich hodnocení klesne pod poslední úroveň, může s ním být ukončen kontrakt. V potaz je brána především schopnost doručit zásilku v termínu, který Amazon nabízí svým zákazníkům.

Principiálně samozřejmě nejde o nic problematického a není důvod, proč by si na tento systém měl někdo stěžovat. Automatický systém totiž neumí posoudit všechny detaily každého konkrétního případu. Pokud tak řidič např. vůbec nemá možnost se dostat do objektu a zásilku doručit, algoritmus přesto vyhodnotí jeho výkon jako neuspokojivý se všemi důsledky, které to pro ně znamená.

Foto: Pixabay

Rozhodnutí algoritmu

Problémem není však pouhý fakt, že zaměstnance hodnotí software. Amazon dlouhodobě bojuje s kritikou toho, že jeho zaměstnanci jsou pouhé položky v inventáři a vždy je obětuje bez mrknutí oka ve prospěch efektivity. A stejně je tomu i v tomto případě. Poté, co systém vyhodnotí problém, zaměstnanec má teoreticky možnost dovolání u svého nadřízeného, který má posoudit oprávněnost vyhazovu rozvozce. Podle výpovědí vyhozených řidičů není často možné se nadřízeným dovolat a na mailové zprávy opět odpovídá automat.

Co je ale ještě horší, Amazonu tento systém v zásadě vyhovuje a i přes občasné přešlapy je pro firmu výhodnější využívání algoritmu než lidských pracovníků, kteří by jednotlivé případy posuzovali. V rámci efektivity a minimalizace nákladů se Amazon rozhodl těch několik lidských osudů obětovat.

Nelze samozřejmě říct, že podobné omyly by se ve stejné míře nemohly stávat i pokud by vždy záleželo na rozhodnutí živého člověka. Případ Amazonu nám ale ukazuje, že takovéto zavádění algoritmizace má o své stinné stránky.

Náhledové foto: Pixabay