Autonomní auta Uberu jsou zpět – a já jsem si dal jedno na točení

Tech


Autonomní auta Uberu jsou zpět – a já jsem si dal jedno na točení

Ve většině hodin morálního uvažování pravděpodobně narazíte na dilema s vozíkem. Existuje několik verzí filozofického problému, ale v podstatě je to toto: po kolejích se řítí rozjetý vlak a míří přímo k pěti nevinným lidem. Stojíte u páky a máte možnost odklonit vlak, jen na rozdílné trase je šestý člověk, který bude jistě zasažen. Co děláš?

Převládající myšlenkou je obětovat pár, abyste zachránili mnoho, ale co když je tím osamělým člověkem na přesměrované cestě váš syn? co bys dělal potom?


Co když požádáme robota, aby dělal stejná rozhodnutí – co si vybere?

Je to otázka, která se objevuje stále častěji, protože stroje začínají řešit složité lidské úkoly, jako je řízení. „Je to nejsložitější každodenní věc, kterou průměrný člověk dělá,“ říká profesor Raj Rajkumar z oddělení robotiky na Carnegie Mellon University. Podle Rajkumara budou samořídící vozidla do konce tohoto desetiletí průmyslem v hodnotě mnoha bilionů dolarů – to je spousta robotických vozíků přibližujících se k těmto pěti lidem.

Ale odpověď na AI verzi trolejbusu – stejně jako na všechny dobré etické otázky – je trik: Robot by se do této situace v ideálním případě nikdy neocitl, alespoň jsem se to naučil, když jsem dokončoval kurz specialisty na mise se skupinou Advanced Technologies Group společnosti Uber, abych pilotoval. jejich autonomní vozidla. V podstatě na univerzitě Uber, kde jsem se specializoval na zkoušení raného samořídícího softwaru pro případnou (čti: nadějnou) budoucnost, kdy dotyčný robot bude dostatečně inteligentní na to, aby se pokusil o samořízení bez doprovodu.

Byl jsem první civilista, který byl pozván k účasti v programu, a neuspěl jsem. Úžasně. Ne proto, že bych nebyl dobrý řidič (měli byste vidět mé schopnosti paralelního parkování) – také jsem absolvoval filozofický seminář – ale proto, že přísnost programu se od jeho opětovného spuštění po incidentu, o kterém se zmiňuje tým ATG, dramaticky změnila. tiché tóny jako „tempe“.


18. března 2018 v Tempe v Arizoně zažil Uber svou vlastní skutečnou variantu problému s vozíkem, když jedno z jeho Volva XC90 sklouzlo ke katastrofě. Byla to dokonalá bouře: operátorka vozidla si byla příliš jistá technologií a místo vozovky věnovala pozornost svému mobilnímu telefonu; samořídící software – stále ve fázi zrodu – nedokázal jednoznačně identifikovat překážku v přímé dráze vozu; a chodec se v noci pokusil projít na kole po širokém bulváru přilehlém k dálnici v oblasti označené cedulemi, která zakazovala jaywalking. Nikdo tam nebyl duševně – člověk ani robot –, aby zatáhl za páku, a jaywalker byl zabit, což okamžitě ukončilo rozvíjející se program autonomních vozidel Uberu.

Trvalo by celých devět měsíců, než by se program v prosinci 2018 znovu spustil jako omezená verze svého bývalého já, zaměřená převážně na testovací dráhu sousedící s centrálou ATG v Pittsburghu. (San Francisco, Dallas a Toronto mají také malé satelitní výzkumné týmy, ale Tempe zůstává trvale uzavřeno.) A po delší přestávce se zrodila nová filozofie programu upřednostňující kalibr shromážděných dat (místo objemu). Byly definovány nové úrovně bezpečnosti a práce v kurzu byla přepracována tak, aby „více odpovídala letecké certifikaci,“ vysvětluje Nick Wedge, vedoucí vzdělávání a rozvoje ve společnosti Uber ATG. Stručně řečeno, dříve zavedené bezpečnostní standardy byly zvýšeny, což zahrnovalo další snížení latence systému – mikrozpoždění v komunikaci senzorů autonomních vozidel mezi softwarem a hardwarem – aby se zajistilo, že se „Tempe“ nebude opakovat.

Srovnání s letectvím je trefné, protože použití autonomní technologie na komerčních letadlech je již běžné – piloti ovládají pojíždění, starty a přistání, ale jakmile jsou ve vzduchu, spustí se samopilotní technologie, monitorovaná letovou palubou. A protože současný způsob dopravy s nejlepšími bezpečnostními záznamy – bez ohledu na katastrofu Boeingu 737 Max 8 související se softwarem – standardy řízení hodnocení rizik v leteckém průmyslu se nyní staly velmi potřebnou šablonou, na kterou nastupující průmysl s vlastním řízením položil svou bezpečnost. rámec. Obloha je také samozřejmě kontrolovaným prostředím, protože každý pilot prochází intenzivním výcvikem; jedním omezujícím faktorem pro šíření samořídících vozidel na zemi je jednoduše nepředvídatelnost ostatních lidí. To vám říká váš otec, když vás učí řídit na parkovišti u Walmartu: „Nebojím se o tebe, ale o ostatní řidiče!“

Nikdy jsem si nepředstavoval, že jako teenager tak zoufale toužím po povolení svého studenta, že budu jednoho dne testovat rozpracovanou technologii, která by mohla v nepříliš vzdálené budoucnosti učinit licenci zastaralou. Po několika předběžných dnech nástupu, instruktáží a přednášek o firemní struktuře Uberu se stážisté (všichni kromě mě jsou zaměstnanci ATG) účastní celého týdne intenzivních manuálních operací, seznamují se s Volvem XC90 a testují jeho schopnosti na uzavřeném okruhu. -mimo trať. Cvičí se nouzové manévry (jako je kontrola mezí skřípění protiblokovacích brzd), stejně jako přísná navigace po trase, parkování a couvání – otáčení auta klíčovou dírkou (vytažení auta z parkovacího místa a jeho navlečení zpět na stejné místo přes téměř nemožně těsnou smyčku) může být považována za jednu z nejnepříjemnějších věcí, které jsem v poslední době udělal.


„Mnoho z toho, co se naučíte v manuální části výcvikového programu pro specialisty na mise, se nakonec přenese do řízení samořídícího vozidla,“ vysvětluje Wedge. „Věci jako mezní body a okluze jsou opravdu důležité“ – termíny, které jsem nikdy neslyšel, když jsem se učil řídit, když jsem byl mladší, ale jsou zásadními faktory, když řidič určuje riziko. Potřeba, aby všichni specialisté na misi dokonale ovládali vozidlo ručně, je zásadní, protože jsou v současné době prostředníkem mezi robotem a jeho prostředím, protože software se v této liminální fázi neustále přizpůsobuje podmínkám vozovky. Úroveň a přísnost manuální části výcvikového programu také podtrhuje do očí bijící ironii moderního cestování po silnici: Pokud by se běžní řidiči zúčastnili manuálního výcvikového programu tohoto kalibru, byli bychom již o obrovský skok blíže k autonomii kvůli masivnímu potenciální snížení lidských chyb. Proč tedy běžní řidiči nejsou vyškoleni na vyšší úroveň?

Jednoduchá odpověď zní: Způsob, jakým dnes jezdíme, byl považován za dostatečně dobrý. Těch 35 000 úmrtí způsobených vozidly může znít jako hodně – a pro zúčastněné je to jistě zničující – ale statisticky byste museli ujet přes 100 000 000 mil (to je 390 let nepřetržitého řízení), než dojde k úmrtí. Když odstraníte omezující faktory, jako je roztěkané řízení (textové zprávy), zhoršené řízení (opilost) a únava (specialisté na mise ATG mohou být za volantem pouze dvě hodiny; před Tempe bylo 12), je lidský mozek přirozeně vybaven pozorovat, předvídat a reagovat ve scénářích podobných vozíku; mozky samořídících robotů ještě nejsou úplně tam.

Během třetího týdne výcviku specialistů na mise můžete přepnout přepínač na režim autonomního řízení vozu. A je to právě tato část výuky, která zaznamenala nejviditelnější změnu paradigmatu od dob Tempe. I když je měření subjektivní, auta se nyní sama řídí více defenzivně – Uber zpočátku příliš důvěřoval lidské ruce jako bezpečnému zařízení – s vylepšenou detekcí a sledováním, které lépe rozlišuje neobvykle tvarované objekty v pohybu, jako jsou chodci a cyklisté.

Metody získávání dat se od Tempe také dramaticky změnily. Dříve bylo potřeba demonstrovat pokrok prostřednictvím toho, čemu nyní tým ATG říká „zabírání půdy“: objektivní způsob, jak poskytovat měřitelné aktualizace – naběhané míle – jak samořídící auta bzučela po rušných bulvárech a pokoušela se o interakci se skutečným světem. roj pohybujících se těl. Spíše než nacvičovat manévry, jako je odbočení doleva, převládala myšlenka poskytnout softwaru pro robotické řízení s jeho nekonečnou kapacitou paměti, aby porozuměl každé ulici, zatáčce a zatáčce, jako když si zapamatujete miliony frází v cizím jazyce, ale nikdy je neuchopíte. konjugace nebo základy větné stavby.


Nyní byla zlatá horečka pro namapované míle nahrazena kvalitativním přístupem k učení: Naučte software všechna pravidla a výjimky cizího jazyka (jako je procvičování všech možných typů zatáček doleva na testovací dráze) a bude vědět, jak plynule vygenerovat jakoukoli větu, kterou potřebuje (na cestě). Jak se software učí, funguje pouze v mezích svého vyučovaného prostředí a zkouší nové datové body jako francouzský student se svým učitelem před odletem do Paříže – je to pomalejší spalování, ale Uber se už nesnaží vařit oceán.

A zde přichází na řadu otázka trikového robotického vozíku. Stejně jako lidé i umělá inteligence vnímá, předvídá a reaguje na scénáře, kterým čelí, ale rozdíl spočívá v sofistikovanosti samořídícího softwaru založeného na aplikacích. Když se vyladí, jeho předpovědní schopnosti budou tak přesné, že automatizovaný rádoby vozík prostě nenarazí na pět – nebo jednoho – lidi.

Bez ohledu na převažující společenskou nedůvěru, kterou k AI chováme – že mají lidské rozhodovací schopnosti, ale bez morálního závoje – stroje mohou přijímat prediktivní opatření k eliminaci potenciálního rizika, které v první řadě uvádí do pohybu trolejbusové dilema. „S konstantním 360° pohledem na svět kolem sebe fungují samořídící vozidla bez problémů s lidským výkonem, aby se mohla bezpečněji a informovaněji rozhodovat o tom, jak reagovat na věci, které se kolem nich dějí,“ dodává Nat Beuse, šéf bezpečnosti Uberu. ATG. Použití nadlidských technologií, jako je lidar (detekce světla a měření vzdálenosti), radar a kamery překonávají smyslová omezení, která manuální řidiči ze své podstaty mají; v podstatě neexistuje nic takového jako slepý úhel robota. To nakonec činí scénář trolejbusu zastaralým, protože dilema samo o sobě předpokládá selhání člověka ve vnímání, které spustí předpověď (pět nebo jeden člověk) a reakci (výběr cesty); zvýšený pohled na svět se zabývá dříve a důkladnějším uvažováním, aby izoloval negativní proměnné dříve, než se změní v nežádoucí předpovědi.

Ale co se stane, když software skáče? Neustále to víří na mém notebooku, takže co uděláme, když se to objeví v samořídícím autě? Velká část autonomních kurzů se týká toho, čemu se říká „injekce chyb“ – vyjednávání účelově vytvořených závad v technologii automatického řízení, aby se historie (tj. Tempe) neopakovala. Doba potřebná k opětovnému získání kontroly nad vozidlem (pohybem volantu nebo sešlápnutím plynového pedálu nebo pauzy vrátí pilotovi řidičské schopnosti) je náležitě měřena, protože náhlá zastavení a klíče pomáhají účastníkům výcviku zkrátit reakční dobu co nejblíže nula sekund, jak je to možné, pokud by se v reálném životě v terénu vyskytly nějaké škytavky. Zdokonalování bdělosti řidiče je klíčovým faktorem pro předcházení nehodám na cestě k plně autonomnímu řízení, protože spokojenost řidiče byla jednou z hlavních příčin incidentu Tempe. „Naše současná technologie vyžaduje za volantem vždy vysoce vyškolené specialisty na mise, a teprve jakmile ověříme, že náš systém splňuje naše bezpečnostní požadavky, prozkoumáme plně autonomní řízení,“ dodává Wedge. A s novým bezpečnostním rámcem po Tempe, který si vypůjčil letecký průmysl, je třeba vzít v úvahu každé riziko (a ujistit se, že software nebude hrát), než může auto bez řidiče vzlétnout.

Kdybych promoval, stal bych se součástí elitního týmu ve společnosti Uber ATG, který – dokud technologie nedosáhne přijatelného prahu použití – se potýká s dalším filozofickým dilematem, které Wedge nazývá paradoxem nedůvěry: „Úspěch specialista na mise závisí na životě v šedém prostoru mezi podporou úspěchu technologie a očekáváním jejího selhání. Jste zároveň jeho nejnadšenějším šampionem, ale také největším nevěřícím.'

Ještě podivnější je představa, že celkový úspěch týmu specialistů na mise – dosažení toho, co se nazývá NVO (no vehicle operator) – znamená eventuální redundanci; v podstatě upravujete technologii, abyste se stali zastaralými. Jaká je tedy motivace (říká spisovatel na stále se zmenšujícím poli žurnalistiky)?

Krátká odpověď zní, že Uber ještě neusiluje o svět naprosté autonomie – současným cílem je rozvoj oblastí samořídících sjezdovek.

Před deseti lety to byla vše partyzánská taktika, když Uber seskočil na padácích do ulic a změnil dopravní paradigmata tak dramaticky, že města neměla jinou možnost než poslechnout. Dnes se tyto yottabajty uživatelských dat staly cennými nástroji pro stejná místa určení, protože izolují cesty, které jsou připraveny na autonomii; tepny s vysokou hustotou v běžné provozní oblasti, kde by samořídící vozidla mohla zmírnit provoz, snížit potenciál kolize a snížit cenu dopravy pro cestující.

Dálnice jsou zvláště vhodným prostorem pro autonomii, protože svými dlouhými, širokými pruhy, žádnými zatáčkami nebo chodci a jediným pohybem vozidel vpřed se nejlépe přibližují podmínkám komerčního létání.

Zatímco automobilky jako Tesla doufají, že posílí prodeje svými nablýskanými verzemi „autopilota“ (což je, pro záznam, přepracovaná verze tempomatu a nikoli řádná autonomie), Uber by raději auto vyřadil z provozu. vaše příjezdová cesta. Nebyla učiněna žádná dramatická nařízení o úplném opuštění vašeho vozidla, ale ideální blízkost by umožnila dojíždějícím dojíždět po samořídících kanálech do jejich zaměstnání v centru města. Prozatím je snem využít autonomii k odstranění příznaků přelidněného prostředí, jako je úzká dopravní špička, a zároveň zachovat manuální automobily pro úkoly blízko domova, jako je navigace v postranních uličkách a nákupy potravin. A až bude technologie připravena, v robotickém voze by jezdili pouze pasažéři, čímž by se snížily provozní náklady na provoz vozidla (což zase snižuje jízdné pro jezdce), protože by již neexistovala navigace monitorující piloty.

„Parkovací garáže budou brzy pozůstatkem minulosti,“ poznamenává Wedge a plány jsou v plném proudu již více než deset let s rozšířením aplikace Uber pro sdílení jízd. Ale je to samotná platforma, kterou Uber také vytvořil, která drží klíč do budoucnosti jak pro zefektivnění autonomie, tak pro zvýšení ziskovosti – je to šachovnice, na kterou budou umisťovat své figurky všechny případné samořídící služby: nejprve auta, pak nákladní kamiony. a možná i autobusy. Ale prosím, žádné vozíky.