Autonomie vozidel míří do zákona. Zodpovědnost bude mít i výrobce
Testování autonomního řízení na německé dálnici. Foto: Audi
V každém okamžiku musí být jasné, kdo ovládá vozidlo, zda člověk, nebo automat.
V každém okamžiku musí být jasné, kdo ovládá vozidlo, zda člověk, nebo automat.
Každý krůček na cestě k autonomnímu řízení dobrý. Jen ať se to posouvá dál vpřed.
Už bylo na čase. Pojďme podpořit vývoj autonomních systémů. Čím větší bude konkurence, tím dřív a lépe se dostaneme k efektivnímu autopilotovi, který má potenciál se zaplatit v komerčním vozidle už za rok nebo dva provozu. A to nepočítám poles nehodovosti, zranění, majektové škody, zpozdění v důsledku uzavírek silnic. A ještě se zbavíme nedostatku řidičů.
Navic by to mohlo resit i hodne problemu s parkovanim. Autonomni auta by nemusela byt o tolik vyssi porizovaci naklady. U prepravy jsou pak naklady na ridice docela vyznamnou polozkou.
Pokud by za řízení robota byl odpovědný výrobce, podle té logiky by za řízení řidiče měla být odpovědná autoškola.
A kdo jiný by měl být odpovědný než výrobce? Jasně, někdy to může být stát – pokud jeho orgán schválí výrobek, který být schválen neměl. Případně to může být provozovatel, pokud zanedbá údržbu nebo provede nějaké zásahy. Ale obecně už teď, když nehodu způsobí vozidlo (jeho chybná konstrukce nebo výrobní vada), odpovědnost nese výrobce.
A nebo rodiče toho řidiče! Podle mě je škoda, že ty pokuty nechodí v kopii i na rodiče daného řidiče!
Vaše dedukce je založena na tom, že z pohledu práva je robot stejně právně (ne)způsobilý, jako člověk. Což je zjevný nesmysl.
Tato prolobovaná kategorizace „autonomie“ nikdy nedávala smysl, protože „převzetí kontroly řidičem“ není realistická akce. V praxi prostě buď řídíte, nebo ne. Úrovně 2-4 jsou tedy hypotetické a v praxi nerealizovatelné.
Proč český stát přejímá nesmyslnou kategorizaci? A ano, je mi úplně jedno, že je je to „mezinárodně a akademicky uznávaná norma“, celá tat oblast je jeden velký techno-investiční scam plný lží a blábolů.
Převzetí kontroly je třeba u letadel zcela realistická akce. Letí se na autopilota, ale když nastane situace, že autopilot není schopen letadlo řídit, dá to najevo pilotovi a ten převezme řízení.
Mě zas přijde jako lež a blábol tvrdit, že autonomní řízení je hypotetické a nerealizovatelné. Levely mezi 0 a 5 se už dnes používají v milionech aut, jeden příklad za všechny je Tesla, která s tím má největší zkušenosti. Předávání řízení se praktikuje dnes a denně. Tak nehledejmě problémy tam, kde už to běžně v praxi funguje. Faktem je, že člověk řídí na základě toho co vidí očima a co se naučil v autoškole a ze zkušenosti. Tohle všechno zvládne počítač taky, plus nemá problémy s koncentrací, nerozptyluje se koukáním do mobilu, zvládne sledovat několik kamer kolem sebe najednou, je… Číst vice »
A pak přijde hacker a to bude teprve sranda.
Hacknout vozidlo u kterého se důsledně dbá na cyber security opravdu není tak snadné a v podstatě bez specializovaného vybavení a nějakého insider info prakticky nemožné, takže s tím se úplně běžně setkávat nebudeme.
Něco jiného jsou primitivní útoky typu DoS, ale upřímně řečeno, „mechanický“ DoS třeba povalením stromu na silnici se dá udělat už dnes, takže v tomhle to až taková změna nebude
No a pak tu jsou snahy o nějaký nástroj, kterým by bezpečnostní složky mohly zastavit auto na dálku – tedy nějaký explicitní backdoor. Jak chcete zajistit, že takový backdoor nebude možné zneužít? Dále, ono se „důsledně dbá na cyber security“ i třeba v nemocnicích, řízení letového provozu či v bankách – ale přesto měly tyto systémy minulý pátek výpadek. Nebo hackeři ukradli data od AT&T, přestože se mobilní operátor dušuje, jak vše střeží. A to dochází k takovým únikům od centralizovaných institucí – dokážete si představit, jak by k tomu docházelo u „decentralizovaných“ aut? Tam je možných scénářů co a… Číst vice »
Státem nařízený backdoor (nebo i výrobcem pokoutně vytvořený backdoor, to je v principu jedno) je na jinou diskuzi. Co se týká pátečního výpadku, to ale nebylo o hacknutí, ale o příliš benevolentnímu přístupu bezpečnostní aplikace do jádra systému, který byl shodou okolností vynucený z vnějšku (čili nebylo to z vůle MS). A sluší se podotknout, že ty počítače na tu situaci zareagovaly správně a bezpečně tím, že spadly do BSOD. Z hlediska uživatelů kteří očekávali funkci je to samozřejmě problém, ale z hlediska systému to byl bezpečný stav. No a co se týká hackingu obecně, v dnešní době to jsou… Číst vice »
Nevím za co máte tolik mínusů. Já si živě pamatuju, jak před nějakými 10 lety přesně tenhle argument byl používaný proti Tesle, která rozjížděla výrobu aut s použitelným autpilotem v praxi. Všichni se báli jak jim hacknou celou flotilu, auta budou bourat a najíždět do lidí. No zatím nenastal ani náznak, že by to mohl někdo provést. Během jízdy je auto s počítačem uzavřená jednotka, která řídí jak je naučená. Když někde stojí, tak můžete provést aktualizace na dálku, ale to je dost přísně řízené odkud, co a kdy se může stahovat a instalovat. Multimediální systém, který má volný přístup… Číst vice »
Ona bude úplně stačit odfláknutá aktualizace.
Pokud pojedou podle UNR 155 / 156 tak ne…
Hackeři už přicházejí a automobilky jim platí tučné odměny.
Vygooglete si sousloví „bug bounty“.
bug bounty je dobrý pro white hackery. Black hackeři vám na odměny kašlou a bug bounty nezachytí vše.
SW pro automotive bude podobně (ne)bezpečný jako jakýkoliv jiný SW (plus minus). A bezpečnostní díry jsou v každém SW, ať se vám to líbí nebo ne (mně se to nelíbí, ale bohužel je to fakt).
Ta autonomní auta budou jezdit dost defenzivně. Proto se budou někteří snažit flashnout software tak, aby jim to jelo “asertivně”, protože přece ostatní auta zabrzdí. A opravdová zábava nastane, až se potkaj dvě takhle upravený auta 🙂
Pokud někdo změní SW pro autonomní řízení auta, pak bude samozřejmě plně zodpovědný za celé chování auta. Už ne automobilky..
Na to je brilantní kreslený vtip:
bugemos.com/komiksy/136-chytra-auta.jpg
Všechno vymyslel co vymyslel člověk zase jiný člověk obejde.
Jsem zvědavý, jak bude vypadat homologační proces. Už v současné době (stupeň automatizace 1) je totiž dost pochybný. V dobách čistě mechanických / analogových aut se bylo lze domnívat, že když se auto bude nějak chovat při testování, mělo by se stejně chovat i ve většině ostatních situací. Pro stroj řízený SW je takový předpoklad naprosto scestný. Viz Dieselgate, viz nedávnou kauzu s vlaky od Newagu. IMO by součástí homologačního procesu měl být povinný audit zdrojového kódu. Ne nutně open-source (to by asi položilo evropský průmysl), ale audit. A silniční kontrola by měla kontrolovat hash paměti vozidla, jestli sedí s… Číst vice »
„Položilo evropský průmysl“ – no abychom nepokládali životy za ten průmysl. 🙂 Když vidím, jaké nedokonalosti má běžný PC… Čím složitější technologie, tím náchylnější k poruchám.
Zveřejnením kódu by se vyslepičilo veškeré know-how. Tím by padla snad poslední kvalitativní bariéra pro vozidla vyráběná pracovním táborem jménem Ćína.
V případě PC už se drtivou většinu know-how povedlo získat paralelně, nic už není tajné. Dokonce naopak Microsoft přebírá některé vychytávky od open-source distribucí.
Ona to není sranda, už teď třeba Tesla optimalizuje SW tak, aby exceloval na obvyklých trasách konkrétních influencerů (a pochopitelně Elona). SW se automaticky aktualizuje mimo jakýkoli homologační proces.
https://www.businessinsider.com/tesla-prioritizes-musk-vip-data-self-driving-2024-7
Auto má cca 100 – 150 MLOC. To bude dlouhej audit…
Tohle je stejný problém jako u elektronických voleb. Počítač/systém, který bude zpracovávat hlasy a dále je sčítat by měl mít auditovaný software i hardware, který funguje dle zadaných kriterií. Ale je daleko těžší prokázat, že ten software opravdu je na daném hardwaru nainstalovaný, běží tam, nenačítá si něco jiného odjinud a vše funguje stejně jako při testování. A hlavně to nelze rozumně vysvětlit běžnému člověku tak, aby to pochopil a byl schopen tomu důvěřovat na základě vlastního porozumění a ne slepé víry v autoritu.
Ach jo, proč se nesoustředit na smysluplné věci jako autonomie metra, vlaku, tramvaje, VHD a výmyšlí se blbosti typu autonomie IAD.
U dohledových orgánů nad kvalitou SW to dopadne stejně jako u měření emisí. Bude se masově podvádět. Tam si to někdo upraví SW, aby mohl překračovat rychlost, tam si někdo nastaví ignorování zákazových značek, protože po tom bude poptávka apod. Autonomní auta už nezvýší bezpečnost.
Jistá automatizace bezpečnost samozřejmě zvýší.
Jistá míra automatizace snad, jenže…
Jsou jsně situace reps. podoba tratí drah a silnic pro tzv. motorová vozidla, kdy až plná automatizace dává provozní smysl a snižuje riziko nehod na minimum, ale pak na drahách i v tzv. silničním provozu jsou místa, kde maximálně vhodným bezpečnostním opatřením je pouze automatické brždění vozidla bez vlivu člověka-řidiče/strojvedoucího, o čemž jsem výše již psal podrobněji.
Nevěřte těm pohádkám 👀
Do první povinné aktualizace……Budete mít takový široký trh, že nemáte šanci to uhlídat. U VHD za aktualizaci bude mít zodpovědnost dopravní podnik, veřejná instituce. U aut to bude kdo? Majitel, servis, výrobce? Jedna země si upřednostní v zákoně ochranu chodců, jiná to upřednostní podle věku, další podle pohlaví a jiná si zvolí sociální kredit? Jak to chcete sesynchronizovat v takovém množství entit, které by se měly po silnicích pohybovat? Už teď máte rozdílné pravidla napříč státy. I kdybych vzal v úvahu, že v ČR nebude třeba 6 milionů vozidel, ale jen 500tis., tak to bude pořádný chaos.
Železniční vlak, metro a potenciálně i tramvaje, ale vše/vždy pouze jedině v momentě jízdy po tzv. samostatných drážních tělesech oddělených od souběžné jízdy s jinou/neautomatickou dopravou – včetně chodců jsou vpodstatě rovny provozu na dálnicích, takže není důvodu na dálnicích provoz neautomatizovat. Ovšem za mě pak při automatizaci provozu na dálnicích se musí toho provozu účastnit pouze vozidla mající povinně aktivní alespoň minimální stupěň automatizece – automatické brždění před překážkou nezávislé na řidiči! Naopak tramvaje jedoucí jakýmikoliv standartními ulicemi/silnicemi – natož pěšími zónami a tzv. posun železničních vozidel nepovažuji za technicky bezpečné a provozně smysluplné automatizovat – tam dle mě… Číst vice »
Autonomní auta zvyšují bezpečnost již dnes. Autopilot právě nemá potřebu překračovat rychlost podle značek, protože nemá nutkání někam dojet o minutu dřív, nekličkuje v koloně, neřídí ve stresu jako spousta řidičů u nás, kteří se ani neobtěžují přibrzdit před přechodem pro chodce, protože by je hrozně naštvalo to zdržení. A ten náš les značek, který živý člověk nemá schopnost přečíst ani kdyby jel ve městě 10km/h, tak ten přečte autopilot hned a je schopen je respektovat.
Věděl jste, že studie autonomních taxi v Bostonu nebo Adelaide dospěly k závěru, že to vede k větším zácpám? Tím, jak se to stává dostupnější, tak se více zahltily ulice auty. Efekt autonomních taxi spočítali, že vedlo k cca 5% zhoršení. K podobným závěrům dochází studie ze Švédska.
Úplně stejně je to v případě neautonomních Boltů, Uberu apod. Vede to jen k většímu zahlcení auty a celkovému zhoršení bezpečnosti.
Tak co soudruzi, jakouže úroveň SIL budou muset tyhle hejblata ze zákona mít?
Že by žádnou?
SIL žádný, tohle není kolejové vozidlo. Když už tak ASIL. Až na to, že a) zákon žádnou konkrétní úroveň bezpečnosti předepisovat nebude, jen obecné konstatování, že bezpečnost musí být dostatečná. Co to přesně znamená bude záležet následně na soudech, znalcích a normách. Dále b) SIL/ASIL se nepředepisuje na vozidlo, ale na jednotlivé systémy. A už teď bývají běžně součástí vozidel systémy i se SIL 4/ASIL D, takže procesně v tom nebude žádný rozdíl. Jde jen o to zvládnout aplikaci vyšších úrovní bezpečnosti i na systémy, kde to dosud nebylo nutné. Ale o tom je vývoj.
Jakou úroveň má člověk? Asi tak 0. A mě stačí, když bude autonomní řidič řádově bezpečnější než ten člověk.
Zajímavé budou algoritmy překážka=zvíře, překážka=člověk/ochrana řidiče, překážka=protijedoucí vozidlo a jejich vzájemné zapůsobení v jednom nehodovém okamžiku…..
Obecně ale nechápu, proč autonomní řízení bylo nejprve v letectví, teď se chystá nástup v silniční dopravě a teprve někdy potom možná v železniční dopravě.
Vezmeme-li v potaz kolejovou dopravu, tak funguje již dlouho, např. metro Norimberk.
To jsou spíš výjimky, většina i té kolejové dopravy pořád vyžaduje aktivní dohled či řízení storjvůdce.
Njn., uvidíme aplikaci vozíkového problému v praxi.
V tomhle směru je to jasná cesta do dystopie.
Ty algoritmy budou ve všech případech stejné – vyhnout se pokud to jde a pokud ne, tak co nejúčinněji brzdit. Žádné dilemata typu skupina dětí vs babička vs řidič nebudou (stejně jako lidský řidič, který takové dilemata taky neřeší). Jinak ono to s tou autonomností ve vzduchu není vůbec tak žhavé a naopak na železnici tak špatné. Třeba takový CityElefant, dnes už letité vozidlo, dokáže jet prakticky autonomně velmi dobře (AVV). Stejně jako v tom letadle ale faktickou odpovědnost za stroj má strojvedoucí (pilot). To, že jde dopravní prostředek automatizovat v technické rovině ještě neznamená, že je to přijatelné z… Číst vice »
CityElefant je autonomní jen z hlediska zastavování v zastávkách, ale vůbec nevidí, zda před ním není nějaká překážka, jestli mu z nástupiště vlezl někdo před čumák a jiné situace mimo svou virtuální 2D mapu světa.
Autopilot letadla se aspoň umí pohybovat v 3D prostoru a aktivně si hlídá, zda se nepřibližuje nějaký jiný stroj, se kterým by se mohl srazit.
Ano, ale nějaký jednoduchý antikolizní systém se v technické rovině dá přidat snadno. Nebude až tak užitečný, protože antikolizní systém schopný včas zastavit vlak jedoucí plnou rychlostí jen na základě senzorů na vozidle je technicky nerealizovatelný, ale něco co třeba 100 metrů od překážky otevře brzdové potrubí realizovatelné je.
Problém ale je v té procesní a právní rovině, protože odpovědnost by měl stále strojvedoucí. A udělat systém, který by přebíral i tu odpovědnost není snadné ani v tom letectví.
Protože drážní byrokracie. Autonomní vlak je proti autonomnímu autu primitivní záležitost ale na železnici by se nejradši vrátili k parním lokomotivám a jakákoliv modernizace je vždycky špatně.
Neřekl bych, vždyť se modernizuje dost. Otázkou je akorát míra a způsob, aby to bylo k užitku a ne pro zlost. Pravda je to možná s tou byrokracií, ale to je ve státní správě leckde (nemusím snad připomínat, že směr určuje ministerstvo, nikoli jemu podřízená správa).
V letectví to zpočátku byla opravdu primitivní úloha.
Původně stačil tříosý gyroskop, výškoměr, rychloměr, možná ještě akcelerometry. K tomu analogový PID regulátor, který drží všechny hodnoty (kurs, výška, rychlost…) v zadaných mezích.
Vpodstatě trochu vylepšený automatický kormidelník.
Letadlo se během letu fyzicky nepotkává s ničím kromě vzletové a přistávací dráhy. Abo tomu tak bylo, existuje absolutně extrémně detailí protokol řízení provozu. Proto bylo už před desítkami let možné implementovat o i tupě analogového autopilota.
Jakmile se vozidlo potkává s JAKOUKOLIV neregulovanou překážkou, jde o kategoricky jiný problém. Tento problém není vyřešen, a všichni by se měli ptát, jestli má vůbec smysl jej řešit.
Právě že se potkává se spoustou dalších letadel a dnešní autopilot si hlídá vzdálenost a trajektorii těch ostatních, které se přiblíží. K tomu si hlídá terén, aby do něj nenabořil, což je pravda statická záležitost. A právě tohle umí už nějakou tu dekádu.
§ 1
Je dobře, že se legislativně posouváme, ale je tam dost nejasného:
1/Co mě v rychlosti napadá je co když se to řízeni nepřevezme druhá strana- zůstáva odpovědnost na řidiči ?
2/Jak budou odškodněny oběti případné havárie způsobené strojem, zvláště pokud takových bude nezávisle více, jak to společnost, pokud bude nějaký výrobce mit např. 10 lidi ročně? Bude existovat nějaký preventivni mechanismus alá uzemnění u letadel než se najde připadná chyba?
3/ a co odpovednost pokud bude nehoda u dvou vozidel řízených stroji- to se budou pak hadat výrobci, kdo udělal chybu?
Ad 3) porad existuji predpisy, ne? U clovekem rizenych aut se taky stava, ze dve clovekem rizena auta maji nehodu a hleda se vinik…
ad 2 – povinne ruceni vam nic nerika? jak asi myslite, ze to funguje dnes? 🙂
ad 3 – jak asi myslite, ze to funguje dnes, kdyz dojde k nehode 2 aut a ridici se nedohodnou?
nehledejte problemy, kde nejsou.
Ad 1) Při přechodu řidič->auto má odpovědnost řidič dokud mu auto explicitně nepotvrdí přijetí odpovědnosti za řízení. Pokud to auto odmítne a řidič přestane řídit v domnění, že řídí auto, je odpovědný řidič.
Při přechodu auto->řidič pokud řidič nepřevezme řízení auto přejde do bezpečného stavu, tedy zapne výstražné světla a zastaví.
V tomhle bych až takovou vědu neviděl
A co situace „rozjedu se proti zdi(do křižovatky)“ a před nárazem předám řízení?
Pokud je možnost předat řízení za jízdy v reálném provozu, tak je hromada situací typu „myslel jsem, že víš, že v mrtvém úhlu máš cyklistu“
Promiňte, ale četl jste článek? Je jasně napsáno, že vozidlo navrhne přechod do automatizovaného režimu a řidič potvrdí.
A pokud i v takové situací při rozjetí proti zdi vozidlo navrhne automatické řízení, převezme jej a narazí do zdi, jde o jednoznačnou chybu na straně výrobce.
Jak píše kolega, pokud se rozjedu proti zdi, požádám auto aby převzalo kontrolu a ono mi převzetí potvrdí, je chyba na straně výrobce. Pokud se proti zdi rozjedu a auto mi převzetí zamítne (nebo nepotvrdí) a já přesto pustím volant, je to moje odpovědnost (stejně jako v současném autě). Co se týká situace kdy jako řidič vidím něco co auto ne, ono převzetí řízení potvrdí a pak způsobí nehodu, buď automobilka odpovědnost přijme se všemi důsledky, nebo bude následovat dlouhý soudní spor zabývající se otázkou, jestli jste jako řidič vědomě zneužil slabiny systému vs. jestli s tím měl systém počítat.… Číst vice »