Máme se bát samořiditelných aut?
Vývoj vozů s autonomním řízením se v posledních deseti letech posunul z oblasti sci-fi či daleké budoucnosti do kategorie něčeho, co je už za dveřmi. Samořiditelná auta vyvíjí zavedené automobilky i mladé startupy a mluví se o revoluci, která nám zásadně změní život. Té ale stojí v cestě několik překážek. Tou největší je strach.
Když se na přelomu devatenáctého a dvacátého století začaly objevovat na cestách a v ulicích první automobily, lidé po nich občas vrhali kamení a napadali je. Dnes lidé napadají auta samořiditelná. Přibližně před dvěma lety začala americká firma Waymo testovat své vozy s autonomním řízením přímo za plného provozu v ulicích jednoho předměstí arizonského Phoenixu. A někteří z místních obyvatel začali auta napadat. Oficiálně byly zaznamenáno přes dvě desítky incidentů – lidé po robotických vozech házeli kameny, vyhrožovali jim pistolí, zaparkovaným autům rozřezávali pneumatiky a jeden zuřivý řidič terénního jeepu šestkrát vytlačil waymo z vozovky. Což muselo být nepříjemné, protože uvnitř pokaždé sedí nějaký člověk, který automobil během jízdy jistí – kdyby umělá inteligence udělala chybu.
Firma Waymo, která patří Googlu, je ve vývoji autonomního řízení zřejmě nejdále. V prosinci spustila v inkriminovaném předměstí Phoenixu historicky první taxislužbu se samořiditelnými auty. I v nich sice stále sedí řidič, připravený v případě nouze vzít volant do vlastních rukou, ale úplná záruka to také není. Když loni v březnu srazil a zabil při testovací jízdě v arizonském Tempe robotický vůz firmy Uber devětačtyřicetiletou ženu přecházející silnici, seděl uvnitř též živý „operátor“. Tragédii nezabránil.
Lidé, kteří autonomně řízené automobily napadají, z nich mají strach. Je jich sice pouhá hrstka, ale podobné obavy má z těchto strojů většina obyvatel USA. Podle loňského průzkumu má 73 % amerických řidičů strach usednout do samořiditelného auta. V Evropě to bude zřejmě podobné. Je to oprávněná obava, nebo jen iracionální strach z něčeho nového? Podle řady odborníků je nedůvěra na místě. Současné systémy autonomního řízení vozů mají podle nich stále spoustu závažných chyb a nedostatků, jež se často teprve pokoušíme pochopit.
Co laserové oko nevidí
Drtivá většina samořiditelných automobilů nepoužívá k orientaci kamery, protože ty „vidí“ jen dvojrozměrně, ani radary, protože ty umí zobrazit jen hrubý obraz bez jemnějších detailů. Většina robotických aut využívá systém senzorů zvaný lidar. Ten pracuje podobně jako radar, jen namísto radiových vln vysílá pulsy pro lidské oko neviditelného infračerveného záření a měří dobu, kdy se paprsek odrazí od okolních objektů a vrátí zpátky. Takových pulsů vyšle miliony za vteřinu a z údajů, které tak získává, si sestavuje reálném čase velmi detailní 3D mapu okolního světa. Jenže občas se stává, zvlášť když se auto pohybuje větší rychlostí, že vysílané paprsky nedopadnou tam, kam mají, a systém některé objekty jaksi „přehlédne“. Což se mohlo stát v Tempe. Jak napsal před časem technologický časopis Wired: Lidar je na těžký život na silnici ještě příliš mladý.
Co algoritmus nepozná
Onu trojrozměrnou mapu okolí samořiditelného auta, vytvářenou lidarem, sleduje umělá inteligence. Ta poznává svět pomocí systémů strojového učení, do nichž je zapotřebí nejprve „nalít“ obří množství obrazů a dat ze silničního provozu, než získají schopnost samostatně rozeznávat objekty ve svém okolí.
Ne vždy je však identifikují správně. I to mohlo být příčinou smrti oné ženy, jež v Tempe přecházela silnici. Během vyšetřování se ukázalo, že umělá inteligence, která vůz řídila, si 6 sekund před srážkou všimla čehosi v jízdní dráze, ale nedokázala určit, o co se jedná, a tak nedupla na brzdy ani se nepokoušela vyhnout. Podle jedné teorie umělou inteligenci zmátla plastová taška, již měla dotyčná žena pověšenou na řídítkách kola, které vedla přes silnici. Je prý možné, že obrázek člověka s jízdním kolem a igelitkou vyhodnotila jako igelitku poletující ve větru. Což zní jako pasáž z dadaistické literatury. Ovšem AI se takto mýlí častěji.
Výzkum vědců z university v Berkeley ukázal, že systém, který za normálních okolností rozeznává dopravní značky, dokáže úplně zmást pár samolepek, jež na takovou značku nalepíte. Výzkumníci to vyzkoušeli na značce STOP. Systém ji nepoznal. Asi není třeba rozebírat, na jakých místech se taková značka běžně umísťuje…
V jiných testech považovala umělá inteligence třpytící se páru stoupající z výfuku jiného automobilu za pevný objekt a snažila se prudce brzdit nebo se mu vyhnout. Jednomu systému AI zase stačilo, aby se ve vzduchu objevil slabý mlžný opar a přestal vnímat i objekty, které byly lidským okem bez potíží viditelné.
Zkrátka, robotičtí řidiči, kteří si v čistém prostředí vývojářských laboratoří vedli bezchybně, se ve špinavém, chaotickém světě skutečných měst a silnic ztrácejí a zmatkují. Umělá inteligence je pro těžký život na silnici ještě příliš mladá.
Což potvrzuje i Karl Iagnemma, zakladatel amerického startupu nuTonomy, firmy, která vyvíjí systémy autonomního řízení a patří ve svém oboru ke světové špičce. „Během testovacího řízení narážíme na věci, na které jsme nemohli během vyvíjení myslet. Třeba při testovací jízdě v Singapuru jsme natrefili na chlapa převlečeného za kuře. Přecházel zrovna přes ulici. Patřil k nějaké propagační kampani na novou kuřecí restauraci,“ vzpomínal v rozhovoru pro The Economist.
„Ani v našich nejdivočejších a nejhorečnatějších snech nás za ta dlouhá léta, co testujeme autonomní řízení, nenapadlo udělat simulaci, v níž bychom zkoumali, jak se umělá inteligence v samořiditelném autě popasuje s lidmi v kuřecím převleku. Jediná možnost, jak takové věci zjistit, je vyrazit do skutečných ulic,“ dodává Iagnemma.
Představa, že se ulicemi měst a po silnicích prohánějí automobily řízené algoritmem znovu a znovu objevujícím nové věci, o jejichž existenci vývojáři neměli sebemenší tušení, je lehce děsivá. A dává tak trochu za pravdu oněm 73 procentům amerických řidičů, kteří se těchto strojů bojí.
Pokud bude při tomto testování na živých cílech docházet k dalším nehodám, tohle procento nejspíš neklesne. A dokud se názor veřejnosti na vozy bez řidičů razantně neposune k pozitivním hodnotám, avizovaná revoluce na silnici se bude nejspíš odkládat.