Koncem roku 2019 auto Kevina George Azize Riada vyjelo z kalifornské dálnice, přejelo na červenou a nabouralo do jiného auta a zabilo dva lidi uvnitř. Riadovo auto, Tesla Model S, bylo na autopilotu. Začátkem tohoto roku podali prokurátoři okresu Los Angeles dvě obvinění ze zabití automobilem proti Riadovi, kterému je nyní 27, a případ je prvním stíháním za trestný čin smrtelné autonehody se systémem řidičského asistenta v USA. Je to také první trestní stíhání havárie zahrnující funkci Autopilota společnosti Tesla, která se nachází na více než 750,000 XNUMX autech v USA. Mezitím rodina obětí nehody vede občanskoprávní žaloby proti Riadovi i Teslovi. Tesla pečlivě rozlišuje mezi svou funkcí Autopilot a vozem bez řidiče a srovnává svůj asistenční systém s technologií, kterou používají piloti letadel, když jsou jasné podmínky. „Tesla Autopilot zbavuje řidiče těch nejnudnějších a potenciálně nebezpečných aspektů cestování po silnici,“ uvádí Tesla online. „Vytváříme Autopilota, abychom vám poskytli více sebevědomí za volantem, zvýšili vaši bezpečnost na silnici a zpříjemnili jízdu po dálnici. Řidič je stále zodpovědný za auto a v konečném důsledku má nad ním kontrolu.“ Výrobce elektrických vozidel jasně klade břemeno bezpečnosti na řidiče, ale výzkum naznačuje, že lidé jsou náchylní k zkreslení automatizace, nadměrnému spoléhání na automatizované pomůcky a systémy podpory rozhodování. Nyní je na soudech, aby rozhodly, kdo je vinen, když použití těchto systémů vede k fatálním chybám. V současné době je Riad na kauci a odmítá obvinění z vraždy. NYU News hovořil s Markem Geistfeldem – NYU Law Sheilou Lubetsky Birnbaum, profesorkou civilních sporů a autorkou Recenze kalifornského práva dokument „Plán pro autonomní vozidla: odpovědnost za státní delikty, pojištění automobilů a federální bezpečnostní nařízení“ – o významu těchto trestních obvinění a o tom, co mohou znamenat pro budoucnost důvěry spotřebitelů v nové technologie.
Můžete osvětlit právní precedens trestního stíhání Kevina George Azize Riada? Jakou zprávu vysílá spotřebitelům a výrobcům podobné technologie? Za prvé, obvinění z trestného činu jsou překvapivá, na základě toho, co víme – dokumenty o trestním obvinění jako obvykle neposkytují žádné podrobnosti. Pokud byste nedávali pozor, přejeli na červenou a někoho trefili – jakkoli tragické –, v drtivé většině případů byste z takového chování nebyli obviněni. Trestních stíhání za havárie motorových vozidel kromě případů řízení pod vlivem alkoholu opravdu moc nevidíte. Pokud by byl řidič shledán vinným z neúmyslného zabití, mohl by tento případ být skutečně tím nejrušivějším, nejnovějším a nejprůlomovějším precedentem. Je to výrazný odklon od minulosti, i když ve skutečnosti je trestní stíhání založeno pouze na jeho spoléhání se na autopilota, když měl převzít řízení. Pokud se to děje, možná uvidíte mnohem více trestních stíhání, než dnes. Deliktní odpovědnost nebo občanskoprávní poplatky jsou naopak velmi běžné. Tehdy by obžalovaný zaplatil škodu za způsobená zranění. Většina žalob pro delikty u státních soudů v celé zemi pochází z nehod motorových vozidel, při kterých měl nehodu z nedbalosti způsobit jeden řidič, k čemuž v tomto případě jednoznačně došlo, protože řidič projel na červenou. Pokud tento případ nějakým způsobem signalizuje, že trestní odpovědnost je možná jednodušeji spoléháním se na technologii, pak by to mohlo vést k hlubokému posunu v povaze právní odpovědnosti. Jakou povinnost má společnost s vyspělými technologiemi, jako je Tesla — informovat řidiče, ať už přímo nebo prostřednictvím reklamních a marketingových zpráv, že jsou odpovědní za všechny škody, bez ohledu na to, zda je vůz na autopilota? Jasně mají povinnost upozornit osobu sedící na místě řidiče, aby převzala vozidlo – že není schopno udělat vše samo. Toto varování vidíte ve vozidlech Tesla a téměř všechna vozidla mají tento typ varování. Když například při řízení používáte funkci mapy, mnoho aut nabídne varování: „To vás bude rozptylovat, věnujte pozornost silnici.“ Výrobci jsou také povinni mít při navrhování vozu na paměti pocit uspokojení, který přináší technologie řízení. Tesla nebo jiní výrobci nemohou jen tak říct: “Hej, dávejte pozor, to je vaše zodpovědnost.” Ve skutečnosti se musí pokusit vložit něco do designu, aby se ujistili, že řidiči zůstanou pozorní. Různí výrobci tedy k tomuto problému přistupují různě – některá auta se zastaví, pokud nemáte ruce na volantu, a jiná auta mají kamery, které začnou pípat, pokud nedáváte pozor. Podle současných zákonů, pokud se řidič dostane do nehody a došlo k adekvátnímu varování a samotná konstrukce je dostatečně adekvátní, aby udržela řidiče pozorného, výrobce automobilu nenese odpovědnost. Existuje však jedna možná výjimka: existuje formulace pravidla odpovědnosti, které je v celé zemi poměrně široce přijímáno, včetně Kalifornie, kde se tento případ bude odehrávat. Podle tohoto pravidla je dotaz založen na tom, co spotřebitelé očekávají od výrobce. A očekávání spotřebitelů mohou být silně ovlivněna marketingem a reklamou a tak dále. Pokud by například Tesla inzerovala, že Autopilot nikdy nespadne, a poté dojde k havárii spotřebitele, Tesla by byla odpovědná za to, že tato očekávání zmařila. V tomto případě byl řidič obviněn na základě představy, že se příliš spoléhá na autopilota svého vozu. Co to vypovídá o našich základních předpokladech o tom, zda jsou důvěryhodnější lidé nebo technika? Existuje důležitý rozdíl mezi přílišným spoléháním se a samolibostí. Myslím, že samolibost je jen přirozenou lidskou reakcí na nedostatek podnětů – v tomto případě nedostatek odpovědnosti za provádění všech úkolů řízení. Můžete se nudit a ukolébat pocitem samolibosti, ale nemyslím si, že by toto chování bylo příliš závislé na technologii. Myšlenka přílišného spoléhání se zde vstupuje do hry s potenciální povahou špatného jednání. Možná se řidič v tomto případě bude hájit tím, že si důvodně myslel, že auto má vše pod kontrolou, že je plně schopné tento problém vyřešit, a tak se nemusel bát reagovat, kdyby se věci vyvíjely jinak. Teď v tu chvíli bude důvěřovat technologii místo své vlastní schopnosti zastavit vozidlo a dostat se z problému bezpečným způsobem. Pokud existuje slepá důvěra v technologii spíše než v převzetí, když jste to mohli udělat, a pokud jste v důsledku toho odpovědní, stává se to velmi hlubokým a zajímavým druhem zprávy, kterou zákon vysílá. Myslíte si, že tento posun v odpovědnosti poškodí podnikání společností jako Tesla? Velkým problémem, kterému právě teď čelí výrobci autonomních vozidel, jako je Tesla, je získání důvěry spotřebitelů, když zavádějí na trh novou technologii. Potřeba důvěry v raných fázích těchto produktů je nesmírně důležitá. A všichni výrobci se tohoto problému obávají, protože vědí, že pokud dojde k nějakým strašlivým nehodám, spotřebitelé ztratí důvěru v produkt. Technologie nakonec převezme kontrolu; je jen otázka, jestli to není dřív než později. A čas jsou v tomto kontextu peníze – takže pokud se jen zpomalíte, protože spotřebitelé mají velké obavy o bezpečnost technologie, poškodí to průmysl. Tomuto výsledku se evidentně chtějí vyhnout. Tato technologie se stále ujme – je jen otázkou, jak dlouho to bude trvat, než se tak stane. Používání autonomních vozidel má jen tolik výhod, a to i z hlediska bezpečnosti. Tesla o svém autopilotu a schopnosti plně autonomního řízení říká: „I když jsou tyto funkce navrženy tak, aby se postupem času staly schopnějšími, aktuálně povolené funkce nečiní vozidlo autonomním.“ Jaké problémy s odpovědností předpokládáte, pokud/až se tato vozidla stanou autonomními? Je to složitá otázka a to je problém, který každého zajímá. Jakmile se tato vozidla stanou plně autonomními, pak je tu jen auto. Člověk v autě není ani součástí situace. Velká otázka tedy zní: jakmile tato vozidla havarují, kdo to zaplatí? Mysleli byste si, že za to bude odpovědný výrobce – a to zvýší náklady na tato vozidla a ztíží jejich distribuci. Spousta lidí si myslí, že v případě havárie by měl být po celou dobu odpovědný výrobce. K tomuto závěru jsem silně skeptický, protože si myslím, že je to mnohem bližší volání, než si většina lidí představuje. Nakonec tyto problémy závisí na tom, jak federální regulační orgány, jako je Národní úřad pro bezpečnost silničního provozu, regulují vozidlo. Budou muset stanovit bezpečnostní výkonnostní standard, který musí výrobce splnit, než bude moci produkt komerčně distribuovat jako plně autonomní. Otázkou je, kde regulátoři stanovili tento standard, a nemyslím si, že je snadné dosáhnout toho správného. V tu chvíli se povede dobrá debata: Udělali to správně nebo ne? Jsme ještě pár let pryč. Myslím, že tyto rozhovory budeme mít všichni v roce 2025.
