Kalifornie zakázala provoz samořiditelných taxíků Cruise
Autonomní vozidlo Cruise. Foto: Cruise
Rozhodnutí je reakcí na několik nehod, ve kterých figurovala samořiditelná auta.
Rozhodnutí je reakcí na několik nehod, ve kterých figurovala samořiditelná auta.
Autonomní auto je jako teta Běta z Horní Dolní. Pokud je sucho, bezvětří a prázdné silnice, dojede v pořádku z místa A do místa B. Když se ale po cestě náhodou něco náhodou zašmodrchá, nastává problém…
Bylo by zajímavé znát porovnání, jaká je četnost a závažnost nehod způsobených lidmi a samořiditelnými auty. Bez toho se nedá posoudit, v jakém stavu vývoje samořiditelná auta jsou. Nehody samořiditelných aut samozřejmě budou přitahovat pozornost do té doby, dokud se samořiditelná auta nestanou běžnými. A úřady budou samozřejmě po samořiditelných autech chtít, aby byla výrazně bezpečnější, než auta řízená člověkem, než je schválí do normálního provozu. Protože veřejné mínění je důležitější než to, že kvůli prodlužování doby, kdy budou řídit lidé, zahyne ve skutečnosti víc lidí.
Prostě to zatím nefunguje ani natolik, co auta s řidičem za volantem. Smiřte se s tímto faktem.
To je ovšem extrémně nízká laťka, proto je Filipův dotaz na místě.
To zase tak nízká laťka není, natož extrémně nízká.
Je to extrémně nízká laťka. Ukažte mi nějakou jinou lidskou činnost, kde by se tolerovalo 400 mrtvých z 10 milionů za rok s tím, že lépe to prostě nejde, protože to řidiči lépe neumí.
Vy znáte nějaká data? Mohu poprosit o okaz?
O odkaz (AI by takový překlep neudělala).
Pokud je to fakt, tak jistě máte nějaké podklady, které tento fakt dokládají. Jenže vy nejspíš žádné takové doklady nemáte. A na to já jsem se právě ptal – mne nezajímají něčí dojmy, mne zajímají fakta. Jinak kdyby to opravdu nefungovalo aspoň tak dobře, jako auta s lidským řidičem, úřad by to nejspíš nikdy neschválil ani do zkušebního provozu. I když se teď ukázalo, že to možná funguje hůř, než se myslelo, úřad před schválením do zkušebního provozu nepochybně vyžadoval, aby to fungovalo výrazně lépe, než lidský řidič. protože i úřad si potřebuje krýt záda. Proto by mne právě zajímalo,… Číst vice »
Nějaké statistiky už k dispozici jsou. Waymo (Alphabet) – 2 mil. ujetých plně autonomních vozomil (v městském provozu, 1 mil. v klidnějším Phoenixu, 1 mil. v „chaotičtějším“ San Franciscu) – 39 „incidentů“ (těžko označit jako nehoda, část z toho by lidský řidič vůbec neřešil), z toho: – 17x jiné vozidlo narazilo do stojícího Wayma – 9x jiné vozidlo narazilo zezadu do jedoucího Wayma – 2x jiné vozidlo narazilo ze strany do jedoucího Wayma – 2x Waymo narazilo do jiného vozidla -2x náraz do jiného stojícího vozidla v nízké rychlosti (parkování) – 7x incident s jiným neživým objektem (nákupní vozík, výmol… Číst vice »
Díky. Tyhle rámcové statistiky znám, ale myslím, že pro skutečné zhodnocení je potřeba jít víc do hloubky. Nestačí porovnávat jenom počet nehod, ale také jejich závažnost – sto škrábanců při parkování není tak závažných, jako jeden mrtvý se zaviněním 100% na straně řidiče/robota. To, že ty statistiky robotických aut budou lepší, než u průměrných lidských řidičů, se dá předpokládat – jinak by ta roboauta nikdo nepustil do běžného provozu. Rozhodující ale bude, kolikrát lepší ta roboauta budou. Pokud to bude jen dvakrát, budou mít pořád problém se prosadit, protože veřejnost se toho bude obávat. Pokud to bude 100×, už to… Číst vice »
To není tak jednoduché, jak to vypadá, statistiky na méně závažné nehody prakticky nejsou k dispozici (v USA to funguje jako u nás, Policie se volá jen pokud je zranění nebo škoda dosáhne nějaké hodnoty), natož pak ještě s nějakým podrobnějším dělením typu město/mimo město. Další věc jsou samotné najeté kilometry, třeba u smrtelných zranění je v USA průměr asi 1,4 na 100 mil vozomil (Waymo má v plně autonomním režimu najeto 2 mil. mil, Cruise 4 mil. mil).
Ony by ty nehody se zraněním a horší stačily – ty škrábance jsou nepodstatné. (A navíc tam je nepochybné, že je AI dokáže eliminovat daleko lépe, než lidský řidič – prostě proto, že soustavně vidí celý prostor kolem auta.) Ale chápu, že těch vážných nehod je zatím tak málo, že se z toho těžko dají dělat nějaké statistické závěry.
Vážné nehody zatím naštěstí moc nejsou a snad ani moc nebudou (to je jedním z cílů toho všeho). Bolt měl jednoho zabitého chodce ještě v testovacím režimu (tj. pod stálým dohledem operátora) – přecházel mimo přechod v dost bídných světelných podmínkách. Cruise srazil jednoho chodce (přežil), ten mu ovšem spadnul do cesty po tom, kdy ho nejdřív srazil „živý“ řidič. Waymo srazil jednoho motocyklistu (přežil), který ovšem předtím spadl vlastní vinou z motorky. A v testovacím režimu přejel jednoho psa.
Jj, ale je potřeba, aby ta auta najezdila daleko víc, aby to začalo být statisticky průkazné, že mají výrazně méně vážných nehod. Jakékoli zastavení testování robotických aut tak paradoxně znamená, že zemře více lidí, protože bude trvat déle, než se ty stovky milionů kilometrů najezdí a prokáže se, že jsou ta auta bezpečná. Ale ze strany úřadů je to pochopitelné opatření, zejména pokud provozovatel Cruise jednal nečestně.
Dle vašich komentářů zde bych si tipnul, že jste pro zákaz řízení aut člověkem nebo, že se mu minimálně nebráníte. No dobrá, pokud tedy přijmeme tuto filozofii, že roboti už budou vždy a ve všem lepší, jaký má tedy smysl, aby na planetě vůbec existovali lidé? Možná by se mělo taky zakázat chodit do lesa protože statisticky je bezpečnější nikam nechodit protože nikdo neumře. O kouření, alkoholu, sladkostech, smažených potravinách a jiných neřestech nemluvě. Tak v takovém světě bych opravdu nechtěl skončit, kde jakákoliv činnost rozumějte radost ze života by byla zakázána jako životu nebezpečná. Budeme snad chodit s helmou… Číst vice »
Od „roboti řídí auto lépe než lidé“ k „roboti jsou vždy a ve všem lepší, než lidé“, je ještě hodně dlouhá cesta.Nevěřím, že bychom jí ušli nebo se k tomu alespoň blížili za našeho života.
Srovnávat nebezpečnost procházek v lese s nebezpečností aut je chucpe.
Já si osobně myslím a i ty statistiky to odhalují, že problém je jinde než v lidských řidičích a i proto asi přišli o licenci. Lidský řidič většinou vidí a chápe situaci, problém humanoidů bývá v ignoraci, věnování se něčemu jinému atp., ne ve smyslové části, většinou. Zatímco technický systém musí deklarovat že vše (jakoukoliv situaci) rozpozná a zde to zdá se poněkud hapruje. To že vše dodržuje je z počítačové podstaty a je to správně, ale v první řadě musí být detekce okolí auta bezchybná. Což je zjevně složitější než to vypadá. Obávám se žádný úřad se nesmíří s… Číst vice »
Podľa toho, čo som sa dočítal, tak tie robotické taxíky mali hlavne problém s autami z majákmi, a to, že z poslednej nehody Cruise dal autoritám zostrihané video.
Cruise má aktuálně horší a míň odladěný systém, do plně autonomního režimu (tj. není jeden živý operátor na jedno auto) se pustil řádově dřív než Waymo, cca po 3 milionech vozokilometru v testovacím režimu (Waymo cca po 30). A aktuálně se mu to prostě vymstilo.
Waymo o licenci nepřišlo, funguje v plně autonomním režimu aktuálně ve 4 městech v USA.
Systém všechno sám vyřešit nezvládne (ostatně všechno nezvládne ani lidský řidič), když si neví rady, zavolá si o pomoc, připojí se „živý“ operátor a situaci v řádu minuty vyřeší. Není to žádná magie.
Úřady už se s tím smiřovat začaly, v 5 státech USA už je plně autonomní provoz povolený. A software rozhodně stejný není, každá společnost má jiný (+každý vůz vychází z aktuální situace, která je u každého vozu jiná).
Technický systém nemusí (ani nemůže) deklarovat, že rozpozná jakoukoli situaci. Stejně jako ve všech ostatních případech bude stačit, když pravděpodobnost selhání bude dostatečně nízká.
Mimochodem, u lidí je problém ve smyslové části velice často. Ať už v tom, že řidič něco přehlédne, nebo v tom, že lidský řidič nemůže mít přehled o všem, co se kolem auta děje – mrtvé úhly v zrcátkách; malá paní v SUV nevidí 9 metrů před auto; když řidič na dálnici brzdí i očima, nemá přitom oči i vzadu aby viděl, že ještě usilovněji brzdí i očima za ním řidič kamionu.
Možná někteří jedinci konečně pochopí, že problém samořiditelných aut není v počtu chyb, ale v ZÁVAŽNOSTI chyb. Marketing a „fanoušci“ samozřejmě budou papouškovat více méně pravdivé statistiky o kvantitě nehod. O „kvalitě“ nehod ale nikdy nemluví. Když už samořiditelná auta chybu udělají, bývá to katastrofa, protože neuronová sít nemá (a v současné podobě ani nemůže mít) „zkušenost“ s fyzickým světem. Člověk nikdy vědomě a úmyslně nevjede plnou rychlostí do pilíře mostu. Samořiditelným autům se to stává, a stávat bude. A dokud nebude autopilot mít fyzickou schránku, která cítí bolest, může umřít a má nespočet důvodů se smrti bát, nikdy tuto… Číst vice »
Bohužel i člověk vědomě a plnou rychlostí do toho pilíře vletí…
Vědomě (tj. za plného použití mozku) ne. Samozřejmě, že pokud je absence mozku u osoby za volantem, výsledky jsou mnohdy více tragické než u AI, která např. nejezdí mnohem více než povolenou rychlostí a nedává to v diskuzích za svou přednost.
Naopak, nehody samořiditelných aut jsou už teď v poměru méně závažné než nehody lidských řidičů. Samořiditelné auto nikdy neřídí opilé, ospalé nebo třeba pod vlivem drog.
Tak vy si „senzory“ ovlivníte chlastem, samoriditelne auto třeba sluníčkem… Ve finále žádnéj rozdíl pod vlivem jste oba.
Samořiditelné auto má často různé typy senzorů – na rozdíl od člověka, toho když oslní slunce, nemá další informace z radaru. A hlavně kdyby robotické auto někam nevidělo kvůli sluníčku, nepohrne se tam s tím, že to přece vyjde, na rozdíl od lidského řidiče.
Hledáte logiku v systému, ve kterém žádná logika není. jak vizuální analýzu tak rozhodování dělá v autopilotech neuronová síť, což je z principu metoda která NEOBSAHUJE logické řetězce. Je to jen korelátor.
Za prvé jsem nepsal o žádné logice. Za druhé ty řídící systémy jsou podstatně komplexnější, než že by to byla jen neuronová síť. Za třetí pokud vím, neuronové sítě se používají pro zpracování dat ze senzorů, ale samotné řízení neobstarává neuronová síť. Za čtvrté bych netvrdil, že neuronová síť nemůže obsahovat logické řetězce. A za páté lidský řidič nemá v hlavě nic jiného, než právě neuronovou síť.
Autopilot nemá žádné pochopení toho, že jsou v pohybu fyzické objekty, jejichž vzájemné působení má reálné následky. To je mnohem horší, než když je řidič pod vlivem, unavený, nebo třeba retardovaný.
Ne, to není mnohem horší. To je úplně jedno. Žádné takové pochopení není potřeba.
politicky ti to myslí, soudruh!
To je jedině dobře. Nadšení a entutziasmus nestačí k tomu, aby bylo něco skutečně bezpečné a nahradilo to člověka, jakkoli i ten velmi často chybuje. Jenže „mašině“ chybí schopnost ve všech důsledcích akceptovat zpětnou vazbu, chybí jí empatie. Ještě mnohem horší případ je ovšem vypouštění AI z lahve. Svědčí přinejmenším o naprostém nedostatku zodpovědnosti těch, kteří se ji snaží nacpat světu jen pro své soukromé zisky. Mohlo by se ale stát, že právě oni budou prvními, kteří na svou zaslepenost doplatí. Určitě by si to zasloužili.
Ano. A parní lokomotivy zapálí města, těhotné ženy potratí a krávy kolem tratí přestanou dojit… 😀
Tak pěkně jste začal a takový hnus je to na konci… :/
Naopak, zpětně vazba je u autonomních vozidel vysoká, „učí“ se z každou nehodou, ten kdo je „trénuje“, má k dispozici z každé nehody spoustu dat. Lidský řidič sedne za volant opilý (klidně i opakovaně), i když ví, že se to nemá.
Máš to trochu pomotané.
Nejhorší případ je vypuštění (přesněji PŘIPUŠTĚNÍ) feťáků, ožralů a lidí bez řidičáku k řízení aut.
To že nechápeš, že tito lidé jsou astronomicky větší hrozbou než autonomní auta je smutné.
PS: jestli se chcete dovědět, jak daleko je vývoj autonomního řízení – stačí zadat do vyhledání na youtube heslo: fsd beta
a seřadit videa betatesterů od nejnovějšího a pak se nestačíte divit