Autonómne autá – rasisti? Ich systémy ťažšie identifikujú ľudí s tmavšou pleťou

Podobný problém sa objavil už skôr pri kamerových systémoch s rozpoznávaním tvárí. Začiatkom roku 2018 štúdia výskumných pracovníkov z MIT odhalila, že nástroje na identifikáciu tvárí od IBM, Microsoftu a čínskej spoločnosti Megvii dokážu identifikovať mužov so svetlo pokožkou s presnosťou 99%.

V prípade žien s tmavšou pleťou však chybovosť dosahovala až jednu tretinu prípadov.

Pozrite siAutonómne autá – väčšia zmena, než sme čakali

Zdá sa, že rovnakému problému čelia aj systémy umelej inteligencie vo funkcii autopilotov autonómnych áut.

ZDROJ | University of Michigan

Analýza vedcov z Georgia Tech, publikovaná v článku s názvom Predpovedanie odchýľok pri detekcii objektov  odhalila, že systémy, ktoré používajú autonómne autá na detekciu chodcov, mali isté ťažkosti pri detekcii ľudí s tmavšími odtieňmi pokožky.

Tmavšie osoby v ohrození?

Pri sledovaní záberov z video-databázy Berkeley Driving Dataset, s videami z ulíc New Yorku, Berkeley, San Francisca a San Jose, výskumníci dokázali študovať, ako systémy reagujú na rôzne typy chodcov.

V štúdii pracovali s ôsmimi druhmi systémov na rozpoznávanie obrazu, aké sa bežne používajú v autonómnych autách. Vyhodnocovali pritom, ako každý z týchto systémov  reagoval na odtieň pleti, podľa Fitzpatrickovej škály. A aké boli výsledky?

Zistili, že pri detekcii chodcov s typmi kože medzi 4 a 6 podľa tejto stupnice, čo zodpovedá tmavším typom, boli výsledky u všetkých systémov horšie, ako pri bledých typoch pokožky.

ZDROJ | Wikipedia

Fitzpatrickova škála je numerická klasifikácia farby pleti. Vytvoril ju v roku 1975 Thomas B. Fitzpatrick, dermatolog z Harvardu a popisuje klasifikáciu odozvy rôznych fototypov kože na pôsobenie ultrafialového žiarenia.

Pozrite siDaimler a Bosch chystajú autonómne taxi v Kalifornii. Spustia lavínu?

K nepresným výsledkom detekcie môže viesť niekoľko faktorov, napríklad rozličná denná doba, alebo farba oblečenia. Vedci však zistili, že čisto na základe farby kože pri chodcoch s tmavšou kožou presnosť klesla v priemere o 5 percent.

ZDROJ | US DOT

Dôsledky takéhoto „rasizmu“ monitorovacích a rozpoznávacích systémov by mohli byť nebezpečné. Kvôli nesprávnemu rozoznaniu chodca by mohlo prísť aj k vážnym dopravným nehodám.

Hrozba je len teoretická

Situácia však nie je taká tragická, ako by sa mohlo zdať. Systémy autonómneho riadenia sú stále vo vývoji a priebežne sa zdokonaľujú. Umelá inteligencia s hĺbkovým učením sa jednoducho môže naučiť zručnosti, ktoré predtým nemala, a zdokonaliť schopnosť identifikácie objektov.

To platí aj o chodcoch s tmavšou farbou pleti. Tieto zdokonalené schopnosti potom výrobcovia áut, alebo systémov pre autonómnu jazdu dokážu implementovať do „kolektívneho vedomia“ celej autonómnej flotily.

https://www.youtube.com/watch?v=AASycVyV4HA

Navyše, máloktoré systémy sa spoliehajú len na monitoring optickými kamerami. Mnoho autonómnych áut používa kombináciu LiDARu, radaru, ďalších senzorov a kamier.

Spoločnosť Blackmore napríklad vyvinula takzvaný FMCW (frequency modulated, continuous wave) LiDAR využívajúci Dopplerov efekt. Nemôže ho pomýliť žiadna farba šiat, ani odtieň pleti.

Pozrite siBývalí vývojári z Applu predstavili unikátny senzor pre autonómne autá

Namiesto obrazu sníma rýchlosť objektov a deteguje predmety, ktoré sa pohybujú, narozdiel od stacionárnych objektov, ako sú stromy, stĺpy, dopravné značky a podobne.

Legislatíva predpisujúca povinnú výbavu autonómnych áut je zatiaľ v plienkach, bolo by však žiaduce zapracovať do nej najnovšie technologické poznatky. V hre je bezpečnosť na cestách, aj psychologické bariéry spojené s prijímaním autonómnych áut.

Niektorí odborníci sú však veľkí optimisti. Tvrdia, že dnešní novorodenci už šoférovať nikdy nebudú. Dôvodom budú práve autonómne autá. 

ZdrojMashable

Komentáre k článku