cargo

Autonomní vozy: Kojenec, babička nebo řidič? Etická komise klade otázky, odpovědi se hledají těžce

Autonomní formule studentů ČVUT. Autor: Zdopravy.cz/Jan ŠindelářAutonomní formule studentů ČVUT. Autor: Zdopravy.cz/Jan Šindelář

Hojně se diskutuje především problém, jak se zachová autonomní vozidlo v případě nevyhnutelné kolize.

Na ministerstvu dopravy byly v pátek představeny výsledky práce etické komise, která byla ustavena v dubnu 2020 za účelem zodpovězení základních otázek spojených s nástupem propojených a autonomních vozidel (CAV).

Podle ministra dopravy Karla Havlíčka jde technika rychle kupředu. „Druhá věc je, jak k tomu přistoupíme z hlediska všech rizik, která jsou spojena i s etikou a právem. Budeme se muset vyrovnávat se situacemi, které zde dosud nebyly, budeme muset mít například perfektně připravené právní prostředí a zajištěnou kyberbezpečnost,“ řekl Havlíček.

Filosofové, právníci, dopravní experti či teologové v komisi proto hledali základní principy, kterými se má zavádění autonomní mobility řídit (pokud k němu vůbec dojde). Kdo by ale čekal konkrétní odpovědi na konkrétní otázky, bude zatím zklamán. „Na všechny otázky zatím odpovědi nemáme, stanovili jsme ale rámec debaty,“ uvedl Juraj Hvorecký z Filosofického ústavu Akademie věd.

Hojně se diskutuje především problém, jak se zachová autonomní vozidlo v případě nevyhnutelné kolize. Srazí seniorku na jedné straně silnice, či matku s kočárkem na straně druhé? Najede do dvou chodců, kteří stojí v cestě, nebo stočí volant na jednoho chodce vedle?

„Většina autorů se shoduje na tom, že by vozidla měla minimalizovat újmu, tj. volit tak, aby celková újma jejich volby byla co nejmenší (viz 3. etické doporučení). Má to však háček. Tato etika minimalizace újmy také znamená, že se vozidla dostanou do situace, kdy budou muset obětovat posádku. Z výzkumů morálních intuic ve světě i v ČR víme, že v obecné rovině s tím sice lidé souhlasí, odmítli by však takovému automobilu svěřit své životy a životy svých blízkých. Toto dilema je předmětem hlubšího zájmu vědců,“ píší členové komise v komentáři k tomuto dilematu.

Ten lze dále rozvést. Pokud dá člověk přednost „sobeckému“ autu, které bude za každou cenu chránit posádku, bude ochoten si jej také takto označit a jezdit se samolepkou, která hlásá, jak se auto v případě kolize zachová. Podle Hvoreckého nejspíš ne. „Lidé nechtějí vypadat jako sobci,“ říká filosof.

Podobně složité jsou otázky k zodpovědnosti za nehodu. Na dotazy si může každý čtenář odpověď sám, jejich soubor i s komentáři komise je ke stažení na stránkách ministerstva dopravy. Níže je základní přehled výstupů komise, která pokračuje v práci.

Komise mimo jiné vypracovala seznam rizik zavádění CAV, na kterém figuruje například hrozba dopravní paralýzy nebo zvětšení sociálních nerovností. Podobná komise pracuje například v Německu.

Přechod k autonomní dopravě by měl být:

POSTUPNÝ: Je třeba, aby česká společnost, včetně pracovního trhu a územního plánování měst a krajiny, měla čas adaptovat se na zásadní změny, které s sebou CAV přinesou. Důležitou hodnotou celého procesu je transparentnost.

BEZPEČNÝ: Je třeba nejen maximálně chránit zdraví a majetek, ale současně si uvědomovat další možná rizika spojená s CAV, včetně sociálně psychologických jevů, kdy lidé na neobvyklé a nové podněty často reagují intenzivněji a méně předvídatelně než na podněty obvyklé.

ODPOVĚDNÝ: Je třeba, aby v každé fázi postupného přechodu na CAV v České republice byly předem vymezeny oblasti, za něž jednotliví aktéři odpovídají.

KOOPERATIVNÍ: Vzhledem k mimořádné komplexnosti a rizikům, jež jsou s CAV spojeny, je třeba analyzovat nejen obvyklé tržní, kompetitivní stránky technologické změny, ale klást také důraz na součinnost všech zúčastněných stran ve snaze o naplnění hlavních etických cílů autonomní dopravy, v první řadě bezpečnosti.

DOBRÝ: Je třeba, aby CAV přispěla k plnohodnotnému komplexnímu rozvoji života jednotlivců i společnosti (k jejich dobrému životu). Jejich zavádění by nemělo být samoúčelné a nemělo by se prosazovat mimo tento hodnotový kontext. Je také zásadní, aby se k CAV přistupovalo jako k možnosti zkvalitnění života lidí tam, kde je to jinými způsoby zvládnutelné jen obtížně. Jejich prospěšnost jedné skupině však nesmí být vykoupena diskriminací jiných skupin populace.

Možné přínosy CAV

VEŘEJNÉ ZDRAVÍ: Snížení počtu nehod v dopravě; redukce stresu z řízení vozidel jak u posádky vozidla, tak u dalších účastníků dopravy díky předvídatelnosti chování na silnicích a poklesu počtu nebezpečných situací; snížení rizika přenosu infekčních chorob umožněním individuální dopravy i těm, kteří by jinak byli odkázáni na spolujízdu.

ŽIVOTNÍ PROSTŘEDÍ: Sekundární snížení škodlivých emisí z dopravy dosažitelné efektivnějším využíváním automobilů a jejich propojením s dopravní a městskou infrastrukturou; vyšší efektivita při využívání zdrojů energie.

ZLEPŠENÁ DOSTUPNOST: Zlepšení dopravní dostupnosti, úspora času při přepravě; zvýšení pohodlí cestování; cílenější městské plánování při zavedení služby mobility-on-demand, bez nutnosti parkovat poblíž cílového stanoviště; napojení na technologie smart cities.

Možná rizika spojená s CAV

NÁRŮST ENERGETICKÉ NÁROČNOSTI A EKOLOGICKÁ ZÁTĚŽ: Závislost na produkci mnohonásobně většího množství dat než stávající vozidla; výrazně vyšší energetické nároky; závislost na vzácných kovech, zvláště u bateriových vozidel; ekologicky náročná recyklace a likvidace vozidel.

OSOBNÍ ÚDAJE A ALGORITMY: Narušení soukromí sledováním aktérů; hrozba nemožnosti vyhnout se zneužití osobních dat pro finanční prospěch (například cílená reklama); implicitní nezřejmost preferencí řídících algoritmů (v důsledku uplatnění umělé inteligence) a hrozba vnějších zásahů do chodu vozidel.

POSÍLENÍ SPOLEČENSKÝCH NEROVNOSTÍ: Algoritmicky určená trasa přes preferované čtvrtě; účelové vyhýbání se určitým místům; přetěžování některých komunikací; ekonomické (a potenciálně politické) pokusy zneužít trasování a provoz CAV pro partikulární zájmy.

NEDOSTATEČNÁ ODPOVĚDNOST: Neférová a chybná distribuce odpovědnosti za vývoj, výrobu a užívání CAV; nedostatečně určená odpovědnost za škodu způsobenou CAV.

EKONOMICKÉ ZMĚNY: Ztráta pracovních míst; závislost na informačních technologiích v dosud nezasažených oblastech; neférová redistribuce ekonomických zisků a ztrát; nepředvídatelná negativní změna stylu života jednotlivců a celé společnosti.

DOPRAVNÍ PARALÝZA: Možné zhoustnutí dopravy, zejména v historických městech; potenciální útoky na energetické a počítačové sítě vedoucí k paralýze dopravy.

Obecné etické principy

PRINCIP NEŠKOZENÍ: Ukládá zákaz úmyslného působení újmy, zvláště, nikoliv však výlučně, újmy na zdraví a na životech.

PRINCIP PROSPĚŠNOSTI: Ukládá pozitivní povinnost prospívat, tj. přinášet benefit, všestranný prospěch.

PRINCIP DŮSTOJNOSTI: Každý člověk je obdařený inherentní důstojností. Jde o etický princip, který nachází široké ukotvení také v základních mezinárodních úmluvách o lidských právech.

PRINCIP AUTONOMIE: Ukládá povinnost respektovat lidskou autonomii a podmínky jejího naplňování, například různé formy soukromí.

PRINCIP SPRAVEDLNOSTI: Společné a férové sdílení očekávaných pozitivních i negativních aspektů CAV.

PRINCIP INKLUZIVITY: Ukládá pozitivní povinnost začleňovat všechny skupiny obyvatel, zvláště ty znevýhodněné, do všech úvah, procesů a distribuce benefitů.

PRINCIP ODPOVĚDNOSTI: Ukládá pozitivní povinnost přijímat prospektivní a retrospektivní odpovědnost spojenou s určitou rolí ve společnosti, například vývojáře autonomních systémů, a také individuální odpovědnost.

Právní doporučení

  • Zavádění CAV a jejich celospolečenské využívání je přijatelné pouze tehdy, bude-li zřejmé a efektivně zajistitelné, že systémy CAV budou působit méně celkové újmy (zejména na životě a zdraví) než zachování současného řízení prostřednictvím lidských řidičů.
  • Lidský život a lidské zdraví mají vždy vyšší hodnotu než materiální škody.
  • Při využívání CAV je nutno zajistit ochranu soukromí člověka v dostatečné míře.

AKTUÁLNÍ STAV POZNÁNÍ: Jakákoliv právní úprava v oblasti CAV musí odrážet současný stav poznání a trendy v oblasti technologií CAV a současně musí zajišťovat nejvyšší možný standard ochran života a zdraví člověka při využití CAV.

SILNIČNÍ PROVOZ: Legislativa týkající se silničního provozu musí být monitorována a kontinuálně přezkoumávána, aby bylo umožněno testování a provoz CAV v českém prostředí a zajištěn soulad právní úpravy s etickými principy.

SOUKROMÍ A OCHRANA DAT: Jakékoliv zásahy do soukromí musejí být minimalizovány, zajištěna musejí být práva na ochranu osobních údajů. Osobní údaje mohou být používány pouze se souhlasem subjektů. Veškerá data musejí být používána transparentně a musí být přesně vymezeno, jaká data mají být uchovávána a na jak dlouho.

ODPOVĚDNOST ZA ÚJMU: Musí být nastavena jasná a spravedlivá pravidla pro připisování odpovědnosti za újmy vzniklé v souvislosti s užitím CAV. Tato pravidla musejí zajistit ochranu člověka a minimalizaci újem a spravedlivé rozložení rizik ve společnosti.

Systémy civilní odpovědnosti za provoz CAV mohou vycházet z již existujícího systému odpovědnosti za škodu z provozu dopravního prostředku, která je založena na objektivní odpovědnosti.

POVINNÉ POJIŠTĚNÍ: V návaznosti na celoevropské kroky v oblasti CAV je nutné posoudit potřebu a případně navrhnout adekvátní legislativní rámec povinného systému pojištění kryjícího újmy způsobené autonomním provozem.

TRESTNĚPRÁVNÍ PŘEDPISY: Zákonodárce by měl dbát na to, aby v souvislosti s CAV byly adekvátně upravovány trestněprávní předpisy včetně možného rozšíření o nové skutkové podstaty trestných činů, například trestné činy spočívající v kybernetické kriminalitě.

Šest úrovní automatizace silničních vozidel

(Mezinárodně uznávaná škála SAE *)

0 Bez automatizace – vozidlo řídí výlučně řidič, ale mohou být užity varovné subsystémy.

1 Asistence řidiče – řidič musí být schopen kdykoli řídit, automaticky mohou probíhat i složitější
řídicí funkce.

2 Částečná automatizace – řidič musí zasáhnout, když automatický systém selhává, automat řídí, zrychluje i brzdí, při zásahu řidiče se systém deaktivuje.

3 Podmíněná automatizace – v definovaném prostředí (například na dálnici) se řidič nemusí věnovat řízení, musí být ale schopen převzít řízení, když je to nutné.

4 Vysoká automatizace – automat řídí s výjimkou velmi nebezpečného prostředí (velmi špatné počasí), řidič smí používat automat jen tehdy, když je prostředí bezpečné, v takovém případě se nevěnuje řízení.

5 Plná automatizace – člověk zadá cíl a aktivuje systém, automat řídí do libovolného cíle, řidič neexistuje.

*SAE = Society of Automotive Engineers. Celosvětové profesní sdružení vědců, inženýrů a odborníků se zaměřením na dopravní prostředky, které jsou schopny se s využitím vlastního pohonu pohybovat po zemi, na vodě, pod vodou, ve vzduchu i v kosmickém prostoru. Organizace je také respektovanou standardizační organizací v oblasti automobilového průmyslu. Původně vznikla jako Asociace automobilových inženýrů.

Složení Etické komise ministerstva dopravy

Předseda:
PhDr. David Černý, Ph.D. – Ústav státu a práva AV ČR, Ústav informatiky AV ČR
Místopředseda:
Mgr. et Mgr. Petr Zámečník – Centrum dopravního výzkumu

Členové:
Mgr. Monika Mareková, M.Jur. (Oxon) – CMS
JUDr. Adam Doležal, LL.M. – Ústav státu a práva AV ČR
doc. JUDr. Tomáš Doležal, Ph.D., LL.M. – Ústav státu a práva AV ČR
Ing. Martin Hron – TÜV SÜD Czech
PhDr. Tomáš Hříbek, Ph.D. – Filosofický ústav AV ČR
Mgr. Juraj Hvorecký, Ph.D. – Filosofický ústav AV ČR
Ing. Tomáš Ječný – Škoda Auto
Ing. Václav Jirovský, Ph.D. – Fakulta dopravní, ČVUT v Praze
Daniel D. Novotný, Ph.D. – Teologická fakulta, Jihočeská univerzita v Českých Budějovicích
Ing. et Ing. Václav Uhlíř – Fakulta informačních technologií VUT
prof. RNDr. Jiří Wiedermann, DrSc. – Ústav informatiky AV ČR

Přizvaní experti:
PhDr. David Anthony Procházka, Ph.D. – Podnikohospodářská fakulta VŠE
JUDr. Linda Kolaříková – Sedlakova Legal

Tagy autonomní mobilita seznam
136 komentářů