Dilema kojenec vs. babička. Jak se budou rozhodovat autonomní auta? Ptejte se Juraje Hvoreckého z Filosofického ústavu AV
Autonomní formule studentů ČVUT. Autor: Zdopravy.cz/Jan Šindelář
Mohou být autonomní vozy sobecké a chránit především posádku, nebo by měly mít ke všem stejný přístup? Ptejte se člena etické komise MD.
Myslím, že dilema s váhou odpovědnosti za vlastní posádku vs. chodce aj. má relativně jednoduché řešení. Legislativa by měla určit relativně přijatelné rozmezí, jaké preference lze ještě v rámci etiky (různých etik) tolerovat a konečnou volbu těchto vah nechat na nastavení „řidičem“. Tak se právě řidič stane opět jako dnes zodpovědný za to, komu se stane újma.
V drážní doprvě takové dilema téměř neexistuje, protože při hrozícím průšvihu lze leda tak brzdit a risk nebo dilema končí leda u statisticky možné boule nebo max. zlomené ruce cestujícího. Takže bychom se mohli i u nás poměrně brzy dočkat nejen autonomního metra, ale i autonomní tramvaje. A také motoráku na lokálce, kde je situace relativně jednodušší než na velmi zatížených tratích.
Troufám si předpovědět jednu pro okolí poměrně zásadní výhodu autonomního auta: nebude mu zatěžko dát při odbočování blinkr… 😉
proč bych si vůz s autonomním řízením nikdy nepořídil? inu tak – pokud máte normální auto, můžete bourat, můžete ublížit sobě, vašim spolucestujícím i těm okolo, ale NIKDY vás vaše auto nepošle vlastním rozhodnutím do zdi, příkopu nebo mezi stromy
Přesně.
Pravděpodobnost, že vás auto vlastním rozhodnutím pošle do zdi je asi 10000x menší, než že to vlastním chybným rozhodnutím uděláte vy sám.
A to víte jak?
Když bude mít auto nastaveno, že nemusí primárně chránit posádku, tak kdo zaručí tuto pravděpodobnost,
Pak se totiž najdou magoři, co vám budou skákat pod auto a ty auta budou bourat, za každou cenu podle nastavené priority, na úkor cestujících.
Místní diskutující se zabývají pseudoproblémy, které nebudou akutní minimálně ještě tak 50 let – jestli kdy vůbec.
Podle mne, pokud se nezmění dopravní předpisy, tak autonomní auta třídy 5 se nikdy (nebo aspoň těch 50 let) do běžného provozu nedostanou.
A neomílejte tady, že Julesi Verneovi taky nikdo nevěřil.
Spíš si přečtěte nějaké sci-fi z roku 1972, co si představovali, že bude v roce 2022. Troufám si tvrdit, tam určitě psali o samočinných autech bez řidiče…
Není lepší se zabývat pseudoproblémy, které nebudou aktuální ještě 50 let, než tzn „realproblémy“, které už zítra nebudou vůbec nikoho zajímat (jako třeba jaký vlak měl kolik minut zpoždění) ?
* tzv.
A nebo jiná ukázka mnohem směšnějšího problému k diskuzi než etika autonomních aut je, jakou má mít nějaká lokomotivka barvičku.
PS: ono totiž jde o to, že i kdyby nakonec plně autonomní auta nikdy neexistovala, tak to co se při této diskuzi řeší je obecná „etika strojů“ případně „etika AI“. AI už existuje – to není něco co bude za 50 let. To je „tady a teď“ (pokud nevěříte, podívejte se třeba na Midjourney nebo StableDiffusion – což jsou „jen generátory obrázků“, ale před 5 lety se o tom nikomu ani nesnilo). A přestože zatím neexistuje – a možná ani nikdy nebude – obecná AI (není to simulace lidské inteligence), tak už právě dnes aplikace té současné, omezené, přináší etické… Číst vice »
To s těmi 50 lety je nesmysl. Jediný problém je v etice a legislativě, což se dá za pár let dát „do zkušebního provozu“. Argumentovat Verneovkami aj. je mimo mísu, o létajících palácích a kobercích se psalo už ve starověké literatuře, a ať už proto nebo přesto ta letadla dnes máme. Jako autonomní dopravní prostředky se v pohádkách už dávno chovali džinové a golemové, a v reálu koně, které svého jezdce byli schopné donést domů i zraněné, opilé, spící či v bezvědomí.
Omyl, jediný problém je v tom, že ty auta neexistují a ještě pár DESÍTEK let existovat nebudou.
A první taková auta budou náklaďáky s dvěma přívěsy. Na prvním bude naložená výpočetní technika umělé inteligence
o váze několika tun a na druhém elektrocentrála, která tu umělou inteligenci bude napájet.
Dobrý den. Zajímalo by mne, proč není úvaha o tom, v případě nevyhnutelné kolize vždy obětovat posádku autonomně řízeného vozidla?
Přijde mi nesprávné a neetické, v krizovém momentu obětovat chodce na chodníku který s provozem autonomního vozidla nemá vůbec nic společného a pravděpodobně o něm ani neví, spíše než posádku autonomně řízeného vozidla, která je (musí být) o rizicích provozu takového vozidla velmi dobře informována. Děkuji.
A co když chodec vstoupí před vozidlo v místě řádně vyznačeném značkou Zákaz vstupu chodců? Taky pak bude „správné a etické“ obětovat osádku (třeba posláním pod protijedoucí náklaďák)…?
Tak za A) žádná značka zákaz vstupu chodců neexistuje…
za B) na místech kde toto hrozí by auta měla jezdit tak aby mohla zastavit… čidla na vyhodnocování stavu vozovky mají už teď, tak to auta má vědět jak rychle má ject aby ubrzdilo
a finálně za C) vy jako řidič taky jezdíte ohleduplně v místech kde hrozí vstup dětí (např před školou) pokud to zvládají lidi proč by nezvladly auta, mají gps a triangullaci z bts, vědí kde na mapě jsou tzn že ví kde je škola…
>žádná značka zákaz vstupu chodců neexistuje
Značka B30 „zákaz vstupu chodců“ neexistuje?
Není nad to, když do debaty vstoupí člověk, který o problému nic neví.
Jednak je tvrzení za A) nepravdivé a jednak jsem se ptal na něco úplně jiného…
Zabít 5 lidí v autě nebo 1 venku?
I ti lidé v autonomním autě mohou být nevinní. Třeba na ně vybočí náklaďák, jehož řidič usnul, a volba je buď uhnout doprava a srazit babičku, uhnout doleva a srazit dítě nebo jet rovně a srazit se s náklaďákem.
Ano, pravdu máte oba. Není (nebude) jednoduché těmto algoritmům stanovit pravidla. Nicméně být hlasujícím, zvedám ruku pro tezi, že uživatel autonomního vozidla zná rizika z jeho použití plynoucí a tato rizika (včetně možnosti obětovat posádku) bere na vědomí. Statisticky vzato je více viníků silničních nehod v autě, než mimo něj.
Jenže v autonomním autě už to nebude viník silniční nehody, ale jen oběť. Nebo je viníkem i dnes člověk, kterej si vezme taxíka, nebo nastoupí jako spolujezdec ?
Vy byste si koupil sebevražedné auto? Nastoupil do sebevražedného autonomního taxíku? Mimochodem, řeší se tu naprosto okrajové situace. Jak často asi nastane popisované dilema? Jednou za miliardu najetých hodin? Jak vlastně taková situace může vypadat?
A čím se to pro mě jako cestujícího liší od případu, když si koupím jízdenku a nastoupím do neautonomního sebevražedného vlaku…?
Strojvedoucí, když uvidí na přejezdu autobus plný školáků, tak to nestrhne ze srázu dolů.
Budou pouštět na přechodu ochotně a bezpečně? Současná praxe mnohých řidičů, kteří jenom mírně zpomalí, aby mi pak profrčeli za zádama, když mám ještě jednu nohu v silnici, mi moc nevyhovuje. Bude stanovená nějaká maximální rychlost, při které lze např. míjet chodce při daném odstupu?
Nebo jedu večerním lesem, v příkopu u silnice stojí srnka. Skočí, neskočí? Jak moc by mělo zpomalit, aby bezpečně projelo. Pokusí se zachránit i zajíce nebo ježka, byť za cenu mírného prodloužení jízdní doby?
Mělo by být povinné nastavení brzdit do určité vzdálenosti před přechodem, kdy lze plynule a bezpečně zabrzdit. Já mám zkušenosti se dvěma typy řidičů, jedni nezpomalí ani o trochu i když mě z dálky vidí, že už čekám na kraji přechodu. Typicky Praha. Druzí pak viditelně dobrždují daleko před přechodem už když se k němu blížím a oba můžeme dokončit svoji cestu relativně plynule, typicky menší města. Zrovna teď jsem přecházel přes čtyřproudou ulici, takže na dlouhém přechodu jsem byl vidět nekolik sekund, a v posledním pruhu mě objela řidička radši stylem uhybu z půlky pruhu těsně k chodníku než… Číst vice »
Neprijde mi eticke ani moralni aby o zivote cloveka ve meste , ktery autonomni auto nevlastni a nepouziva – napr. prave deti, rozhodoval nejaky stroj. Defacto se z aut. auta stava zban, co v urcitem okamziku popravi cloveka co si sel treba nakoupit nebo dite, ktere jde do skoly. Tedy jednoznacne by melo auto obetovat posadku. Je vsak zajimave sledovat nazory a diskuse, kdy takova posadka – ridic odmita sednout do vozu, ktery by mel obetovat jeho zivot.To nikdo nechce. Ale kdo si v pripade troufne vyjit z domu ve meste u frekv. silnice, kde se budou pohybovat potencialni zbrane,… Číst vice »
Mě zajímá situace, kdy anihilace posádky zabrání oné hypoteticky nevyhnutelné srážce s několika chodci najednou, neudělá víc škody (sejmutí auta v protisměru nebo vedlejším pruhu), a zároveň by ve se ve stejné situaci ochotně obětoval lidský řidič včetně jeho řádově pomalejší reakce. Cílem není provoz bez žádné nehody, cílem je autonomní řidič, který je v průměru několikrát bezpečnější než živý, třeba i profesionální řidič. Už jen tím, že dokáže věnovat pozornost 360 stupňů kolem svého vozu místo jednoho bodu, predikuje pohyb nebo riziko několika objektů najednou, netrpí únavou a mikrospánkem, nehraje si s telefonem za jízdy a reaguje ve zlomku… Číst vice »
A dnes když vyjdete z domu, tak se po silnici ty potenciální zbraně, navíc řízené chybujícím člověkem, nepohybují?
Stroj se rozhodne podle nějakého algoritmu. Řidič ne, takže jeho chování je nepredikovatelné a klidně zabije 5 lidí, i když by jiný scénář vedl k zabití „jenom“ jednoho (protože se v daném zlomku sekundy nerozhodne, jestli strhnout řízení doleva či doprava a sešrotuje své auto i s celou posádkou).
Vzdyt o tom pisu dal v prispevku…
Ta otázka jak jste si ji položil se dá v podstatě zredukovat na:
Proč se víc bojím toho, že mě zabije stroj, než že mě zabije člověk?
Proč to, že mě zabije člověk svojí omezeností a ne/schopností beru jako „zásah shůry“, kdežto pokud to stejné udělá stroj, beru to jako neschopnost jeho tvůrců případně jejich zlý záměr?
Co kdyz by v prubehu casu doslo ke zmene pristupu s ohledem na vznikle okolnosti. Polovina aut bude v rezimu sobeckem zachranit posadku, druha minimalizovat ujmu. Kdo a jak zaridi update software v autech? Bude to uzavrena mala skupina technologicka skupina, ktera bude mit neuveritelnou moc? Kdo zaruci, ze ji nezneuzije jako Rusko fosilni paliva? Nebo to bude silene mnozstvi ruznych mensich firem, ktere se nebudou schopne domluvit. Co kdyz se datove toky pro vymenu informaci mezi auty a infrastrukturou zmeni v nezvladatelny chaos, prekroci propustnost lokalni site? Nekolik studii na cele populaci prokazuje, ze dojde s autonomnimi auty k… Číst vice »
V ceskem kontextu, kdy 84% ridicu prekracuje povolenou rychlost nebo vyznamna cast ridicu zcela vedome ignoruje dopravni znacky, predpisy a autonomni auto bude mit samoucici se rezim z provozu, tak jak zabranit, aby se auto nechovalo jako bezny cesky ridic, tedy jako hovado?
Autonomní auto nemá potřebu dokazovat ostatním, že ho má většího, takže popisované chování praktikovat prostě nebude.
Nicméně není zásadní problém naprogramovat to tak, aby to tak bylo.
Je ale mnohem snazší nepustit idioty se sobědokazovacími potřebami k procesu tvorby SW pro auta, než nedovolit týmž jedincům vlastnit řidičský průkaz.
Ale v samoučicím režimu už je to jedno. Tam se přízpůsobí podle toho, co odpozoruje z okolí jako to „správné“ chování. Bavím se o umělé inteligenci. Možná si to představujete jako počítačový program, ale to se vážně nedá naprogramovat. Tam je důležitý vzorek pro pozorování. Ten rozhoduje.
Ale v samoučicím režimu už je to jedno. Tam se přízpůsobí podle toho, co odpozoruje z okolí jako to „správné“ chování. Bavím se o umělé inteligenci. Možná si to představujete jako počítačový program, ale to se vážně nedá naprogramovat. Tam je důležitý vzorek pro pozorování. Ten rozhoduje.
Obávám se, že si to „samoučení“ představuješ jako Hurvínek válku…
Tak by mě zajímalo jak bude ošetřeno že to co je v zákoně, tak bude taky v softwaru… Od aféry dieselgate mám ve slova automobilek malou důvěru.. A to že umře pár set lidí to firmám taky nevadí viz boing… Takže kdo bude hlídat to že software je opravdu v souladu se zákonem??? Pro náš stát je problém napsat formulář na webu aby mu do něj nelezl google tak natož kontrolu assemblovanýho sw?? a kdo bude hlídat hlídače??
Pokud se po zavedení autonomních aut do provozu objeví řada průšvihů, tak se nejspíš stane to, co v jiných oborech: Stát to začne regulovat a vytvoří nový kontrolní úřad. A pak už bude záležet jen na tom, jak silný ten úřad bude. Pokud po smrtelných nehodách vznikne obecná hysterie z autonomních aut, tak věřím, že úřad bude hodně silný. Když se Zemanovi jakožto předsedovi vlády hroutila pod rukama jedna banka za druhou, politiky to vyděsilo. A tak změnili ČNB na superúřad s obrovskými pravomocemi a dali jí úkol: „Klidně svlékejte banky donaha a kontrolujte jim i poznámkové papíry z jednání,… Číst vice »
Vite kolik smrtelnych nehod bylo na zacatku automobilismu? Stalo se pouze to, ze automobilky si zaplatily velmi drahe PR, ktere zmanipulovalo verejne mineni tak, ze za to muzou chodci. 30.leta dvacateho stoleti ukazuji, ze hysterie, ktera se onehda strhla muze byt diky masivni manipulaci automobilovym byznysem k nicemu. Tem zabitim se zacalo rikat dopravni nehody, ktere se jen stavaji prilis casto.
Pro automobilky ma lidsky zivot nulovou hodnotu, ony potrebuji vydelavat. Politici a jejich moc je zavisla na PR, HDP a zamestnanosti, takze s tim take nic neudelaji.
Staci se podivat jakymi masami lidi manipuluje Elon Musk.
Bohužel úřady jsou slabé… A čekat až umřou lidi, no kolik svých příbuzných jste ochoten obětovat pro zisk někoho?? kolik mrtvých lidí je ok?? koukněte se na případ olovnatého benzínu.. Už od cca roku 1930 umíme vyrobit motory dost přesně aby dodání maziva z olova nebylo potřeba. jen by to automobilkám snížilo zisk protože by přesněji museli opracovávat motory.. A zdravotní rizika olova se taky znají už dlouho… Přitom se olovo vesele přidávalo do benzínu do 90 let… Zisk z toho měli automobilky, náklady šli za státem…
Spousta těchto „zvídavých“ (rozuměj: rýpavých) otázek je dávno zodpovězena. To jenom ti, kdo to nechtějí pochopit, to nikdy nepochopí…
No možná že vy je máte vyřešeny.. ale náš stát zakládá komisi aby se tyto otázky vyřešily… viz článek.. Takže podle státu vyřešeny nejsou…
Jenže já nemluvím o otázkách, které má řešit komise, ale o otázkách, které jsi položil na začátku tohoto vlákna…
Myslím si že naprogramovat autonomní vozy tak aby samy mohli jezdit ve městě prostě nepůjde. Mnohem jednodušší by bylo tuto technologii využít na dálnici, najedu do připojovacího pruhy, zapnu autopilota a ten zařídí zařazení do pruhu a jízdu. A když do navigace zadám kam chci jet tak s předstihem autopilot vyjede do odbočovacího pruhu kde si převezmu řízení já.
Ve meste je velky problem s provozem a nepredvidatelnosti, prakticky budou auta jezdit velmi pomalu. Je zde vetsi interakce ridice a ostatnich, kterou nelze jednoduse naprogramovat. Nastanou totiz stejne nebo podobne situace a v kazda z nich je vyresena ruzne.
Mimo mesto a vesnice to je mnohem snazsi.
Významný rys městského provozu, a sice řízené křižovatky, by pro autonomní vozidlo naopak předvídatelný být mohl – stačí jen vhodným způsobem vyřešit interakci mezi nimi.
Koneckonců odpočet zbývající doby cyklu by pomohl i dnešním řidičům a v mnohých zemích i pomáhá (leckdy i v takových, které máme za zaostalé).
Takže chcete zavádět jakýsi CML který bude řešit interakci mezi samoříditelnými auty… Ok jaká bude sw výbava v něm?? jak bude řešit priority a kdo mu ty priority bude nastavovat (jakou křižovatku a koho pustit, koho nechat stát atd) nebude výrobce toho CML v rámci barteru zvýhodnovat auta určité značky např WW.. A kdo bude platit provoz toho CML?? to vzbuzuje jen zase víc otázek
P.s. řízení provozu na základě zatížení silnic a dynamické „zelené“ na západ od nás už fungujou tak proč čekat na samoříditelná auta a nezavést to hned?
Nechci. To „mezi nimi“ neznamená mezi vozidly navzájem, ale mezi vozidlem a křižovatkou.
Ale to stejnak, budete muset ít každou křižovatku počítačem co bude vyhodnocovat signály z těch senzorů?? a ještě neco, co bude koordinovat ty počítače na křižovatkách aby třeba nepouštěli auta tam kde je nehoda… a jste u centralniho řízení..
Odpočet při pevbém cyklu je krok zpět proti dynamickému řízení.
A na těch pár vteřin před změnou fáze stačí info v podobě blikající zelené.
Pár vteřin je pro hospodárné řízení vozidla málo, natožpak celé kolony vozidel. Bohužel je jen málo lidí, kteří to dokážou pochopit, a naopak se najde příliš mnoho lidí, kteří dělají z dynamického řízení posvátnou krávu…
Autonomni vuz by se hlavne mel chovat predvidatelne. T.j. pokud nikdo neporusi predpisy (t.j. nevbehne autu pod kola) tak podobne dilema nesmi nastat. A pokud nastane, tak nesmí sejmout nezucastnenou osobu. Jakože neskoci i s neřidičem ze skály jen proto že mu do cesty vbehnou dve decka. Ale prostě jen zabrzdi co to de a zatroubi aby ty decka mely sanci taky samy uskocit. Sražení babičky belhajici se o holi nepřichází v úvahu. Tu musi to auto vidět dostatečně včas aby bezpecne zabrzdilo. Ta pod auto jen tak neskoci. Podobné dilema by snad mohlo nastat jen pokud by selhaly brzdy.… Číst vice »
Zažil jsem jednu bábu, co naběhla pod auto i s kobercem na hrbu. Jenom ta berle jí chyběla…. Znalec jí dokonce spočítal, že do cesty naběhla až rychlostí 12 km/h. A pak jezděte vedle chodníku, kde není elektrický ohradník.
Proč je v komisi pavědec v podobě teologa?
A v jakém oboru bude ten pavědec vzdělán? Křesťan, šaman, budhista či jiný ezoterista?
Filosofie není teologie, to za prvé. V komisi je filozof, na posouzení etické stránky. Dále, ať se vám to líbí nebo ne, teologie je také věda – což píšu jako nevěřící.
Však taky o filozofii vůbec nepíšu…
A teologie je věda o čem? Je to pavěda! Takže tam může přijít i indiánský šaman?
Teologie je zcela seriozní věda popisující náboženskou víru člověka.
To mám za to, že se tato věda nazývá religionistikou.
A co se týče výsledků, co teda zjistila?
Protože bohužel lidi do technického problému, který byl šel ošetřit velmi elegantně, jednou větou že se nesmí vstupovat do vozovky mimo místa k tomu určená a vybavená zvláštním signalizačním zařízením, kterým dá chodec vědět vozidlům že hodlá do vozovky vstoupit, musí míchat filosofii a hromadu dalšího včetně náboženství.
Jinak v době popularity tramvajového dilematu jsem spolužáky a známe, humanitně zaměřené, vytáčel citací zákona o drahách.
Jakou část zakona o drahách jste citoval?
Je to asi deset let, ale bylo to něco o manipulaci se zařízením dráhy.
to je neresitelne, pac byste musel udelat kazdych 5m nejake misto pro prechazeni a z lidi udelal jen otroky v bludisti, kteri kdyz potrebuji na druhou stranu ulice by museli nachodit kilometry. Zvlaste jeste takove ty typicke trojprechody, kdy z misto jednoho prejiti vozovky musite pres tri prechody… Ve mestech ma byt pokud mozno cesta co nejmene barierova a silnice dost casto tvori barieru. Ridicum by se asi take nelibilo, kdyby k zaparkovanemu autu na druhe strane ulice museli dojit 200m na krizovatku, prejit 3 prechody a po druhe strane ulice zpatky 200m. To nikdo neudela, kazdy k nemu prejde… Číst vice »
Udělám? Neudělám, jenom holt když k něčemu dojde, tak to bude na tom kdo lezl kam neměl.
Ano. Na každý problém existuje jednoduchá, lehce srozumitelná a úplně nesprávná odpověď.
Existence určeného místa všeobecně přezdívaného zebra panu Ká Es unikla…?
Já právě nechápu, proč by se do toho mělo motat náboženství. Proč zrovna tenhle pochybný ezoterický koníček? Proč zrovna teologický pavědec?
Možná by stálo za to ujasnit si rozdíl mezi teologií a náboženstvím…
Náboženství je/jsou v podstatě ideologie.
A teologie je pavěda založená na náboženství, co zkoumá není v podstatě vůbec jasný.
Máte nějaký jiný vysvětlení?
Není to jasné především vám.
Tak vysvětlujte.
Tímhle jste právě předvedl úkrok stranou, skoro po vzoru náboženských vysvětleních.
Jednak proto, že se v našem hodnotovém systému promítá náboženství víc, než si mnozí orientální loupežníci dokážou představit. A jednak proto, že mohou pomoci bourat laciné protiargumenty „samořídící auto je proti Pánubohu“…
Právě, že náboženství povolujeme se cpát hodnotového sytému do věcí, které s náboženstvím nesouvisí, si náboženství přisuzuje falešnou důležitost v tomto hodnotovém systému.
Sám tvrzením „laciného protiargumentu“ „samořídící auto je proti Pánubohu“ jste mu nějakou hodnotu připsal. Přitom to není žádný argument, ale jsou to rovnou prázdná slova (nic neříkající výrok), kterým by se neměla přikládat žádná důležitost.
Pro zajímavost, platí tento výrok i v jiných náboženstvích, nebo je jen omezen na křesťanství (použil jste velké P na začátku pojmenování ezoterické bytosti)?
Jakou bude mít pasažér či veřejnost záruku, že automobilkou deklarovaná pravidla budou skutečně tak naprogramovaná? Co když se automobilka bude tvářit „všem stejný přístup“, ale reálně se bude auto chovat „sobecky“? Je možné na tak důležité a každodenní chování aut vyžadovat třeba open soudce kód toho rozhodování?
Celý „západní svět“, zahrnující Evropu a USA, stojí na v zásadě stejných etických základech, co se týče ochrany života jedince ve společnosti. Je nutné, aby ČR měla extra komisi pro řešení otázek, které paralelně řeší jinde ve světě? Koneckonců, většina autonomních aut se bude dovážet do ČR odjinud.
Je to nutné, já třeba nechci auto, které nebude chránit na 1. místě posádku.
Výborně, já zase nechci na silnici auta která nebudou na prvním místě chránit nevinné… Proč by za řidičovu chybu měli pikat neviňní, ať si to odskáče ten viník…
jenže viníkem nemusí být vždy řidič auta. Hlavně autonomní vozidlo musí být udělané tak, aby nemohlo být viníkem nehody a mělo by tedy být vyloučené, aby takové vozidlo úmyslně zlikvidovalo posádku jako „viníka“.
No a co když nastane bug v softwaru a auto někoho zabije?? čí to bude chyba?? bugy se objevují všude, výrobce zdravotního softwaru nevyjímaje… Vyrobce sw to outsourcuje někam do indie a váš život bude na indovi pracujícím 18 hodin denně za košík durianu.. no to fakt nechci
auto které bude svojí AI vyhodnocovat, jestli je viníkem nebo ne nedává smyslu, protože z pohledu řídícího sw to auto nikdy viníkem být nemůže a řídící jednotka musí vždy vykovávat pouze to, co je z jejího pohledu ok a tedy nikdy nemůže zlikvidovat posádku jako „viníka“. A auto které může „úmyslně“ způsobit nehodu nemá dostat homologaci. To jestli je v sw auta bug je jiná otázka, protože bug může být kdekoliv a mít někde podmínku if(viník) zabijPosádku() nedává smysl, protože řídící sw musí být vždy psán tak, aby ten stav viník nenastal a pokud nastane, tak ho stejně nebude schopen… Číst vice »
Ale řidičem bude to auto. Nikoliv posádka.
Takže odpovědnost za případné škody a zabití půjde za výrobcem sofwaru ??
To je jedna z věcí, která se řeší. Jestli výrobce auta, softw. firma nebo někdo jinej.
Ano (Obecně by to měl být výrobce auta.), pokud se prokáže, že to chybně naprogramoval.
Jakou řidiřovu chybu?
Pojede-li auto v samořiditelném (automatickém) režimu, řidič tam být žádný nemusí, bude tam jen pasažér. A nezáleží na tom, jestli to vozidlo bude vlastní nebo půjčené.
Tak plně autonomní v městském provozu, aby jste nasedl do krabičky a ta vás odvezla, to nebude hoodně dlouho… A až bude, tak stejnak budou muset bejt nějaký zakony rozřešující kde byla chyba a kdo za to nese odpovědnost… Výrobce sw nenese vina na vadě materíla, výrobce kol nenese škodu za chyby v sw… A vůbec, koncept toho že výrobce sw nese vinu za škody způsobené tou chybou, to je novátorský …
No a právě na základě těch zákonů (které budou schvalovány třeba i na základě výstupů v článku zmiňované komise) bude programátor dávat do programu pravidla pro řízení vozidla. A když je tam dá blbě, tak za to bude moci on. Kdo jiný? Samozřejmě předpokládám i nějaké to testování programu před zavedením do provozu, ale třeba se všechny situace nepodaří nasimulovat a zjistí se to až za reálného provozu.
Ono to má víc kroků. Nejdřív se ta pravidla musí stanovit, teprve potom se mohou „dávat do programu“ a ještě potom se testuje, zda se program podle těch pravidel skutečně chová.
A kontrolují se samozřejmě i specifikace těch testů, zda pokrývají všechny situace popsané těmi pravidly.
A je zcela logické, že v reálném životě může nastat i situace, kterou ta pravidla neřešila – tak je to ostatně se vším.
Vzhledem k tomu, že v některých zemích je eutanazie základní lidské právo a někde se prakticky rovná zločinu, tak si dovoluji Vaše tvrzení „stojí na v zásadě stejných etických základech, co se týče ochrany života jedince ve společnosti“ za nepravdivé.
Jak by řekl VK – špatně položená otázka. Načež položil vlastní a na ni si odpověděl. Udělám totéž – bude se rozhodování vozů lišit podle značky jako doreď nebo je naděje, že trojcípá hvězda, čtyři kroužky a motorárna Bavorska začnou jezdit ohleduplněji?
Takže naděje, že budou oproti současnosti ohleduplnější není? Moc fajn představa 🤨
Hmm, a co teprve když státem chráněné zvíře žere státem chráněnou rostlinu…:)
Je „kojenec vs babička“ vůbec legitimní otázka v situaci, kdy to AI ve zlomku vteřiny stejně nemusí spolehlivě vyhodnotit? Není to obecně slepá ulička debaty?
Pravidla by měla být co nejjednodušší a nejuniverzálnější, asi jako Asimovovy zákony.
Tak základní pravidlo je „minimalizovat újmu“, ale někdo to taky bude muset naprogramovat. Druhá věc je, kdo ponese zodpovědnost za nehodu způsobenou autem: fabrika, programátor, neřidič nebo majitel?
Ten co vstoupil do vozovky bez varování? Myslím že dnes má každý u sebe zařízení které by mohlo zajistit na přechodech (případně jinde) komunikaci s AV a vyslat signál o záměru přejít. Zařízení pro pevné umístění u přechodů také nebude složité. Pak můžeme celou jednu skupinu problémů vyřadit a zbytek možná budou velmi okrajové záležitosti.
Druhá věc je že není možné eliminovat všechna rizika spojená s existencí a možná by spíš měla otázka stát jakou nehodovost jsme ochotni tolerovat a jaké náklady jsme ochotni za to platit. Ona i ta bezpečnost má nějaké nákladové položky. Jak finančního, tak nefinančního rázu.
Já bych považoval za správné u nehod způsobených AI při vyšetřování řešit i proč se auto takhle zachovalo.
Aktualizovaný origo software má bug – programátor. (Pro jednoduchost bych čekal, že výrobce auta odpovídá i za software)
V software se někdo vrtal (hack, neorigo software) – majitel/provozovatel nebo ta dílna kde to zprasili.
Čidla nejsou udržovaná podle návodu – hlavně majitel. Nicméně nakopat výrobce, musí to být bezpečné(když nevidím tak nejedu).
„řešit i proč se auto takhle zachovalo“ To je ale reálně většinou nezjistitelné. V některých jednoduchých případech možná (protože je možné nechat si zpětně zobrazit, co auto „vidělo“ a pokud něco vůbec nevidělo, pak se můžeme zabývat tím, proč to nevidělo). Nebo třeba kyž zjistíme, že sada učících dat neobsahovala nějakou konkrétní situaci. Pokud ale (a to bude většunou) zjistíme, že všechno „vidělo“ správně, všechno mělo „naučeno správně“ a stejně se „zachovalo špatně“, tak my lidé nemáme kapacitu analyzovat jeho tenzorové pole, abychom zjistili „proč“. Je to podobné jako u lidí – není možné zjistit, proč si někdo myslí, to… Číst vice »
To auto může svá rozhodnutí klidně logovat včetně použitých kritérií.
To může (a taky určitě bude) ale to vám rozhodně nedá odpověď na otázku _proč_ se takto rozhodlo. Prostě o tom přemýšlejte jako by to auto byl člověk. Klidně si každý člověk může zapisovat jak se rozhodl a jaké k tomu měl podklady – ale dva lidé se na základě úplně stejných vstupů klidně rozhodnout úplně opačně (viz třeba centrální bankéři a úrokové sazby) a _proč_ se tak rozhodli není možné zjistit (reálně je to proto, že různým vstupům dali různé váhy, ale to je informace z mozku nevydolovatelná a i kdyby byla, tak je „nečitelná“ – protože by to… Číst vice »
Když píšu „včetně použitých kritérií“, tak tam přece bude i to „proč“…
Ne, nebude.
Bude tam matice tisíců tenzorů.
Jak říkám, zkuste se podívat na nějakou z mnoha AI, které už existují – třeba Midjourney.
A zamyslet se, jestli někdo ví (byť její tvůrci) PROČ se ta AI rozhodla použít právě na tento pixel právě tuto barvičku.
Správná odpověď je: Nikdo to neví.
Jak říkám, není potřeba projít celou rozhodovací mapu, abych určil jeden z těch zmínených stavů.
Auto dobře udržované, origo software – objektivní odpovědnost výrobce.
Auto špatně udržované – odpovědnost majitele. (A test, co udělá ve stejné situaci udržované auto)
No, „objektivní odpovědnost výrobce“ to bude tehdy, pokud auto „porušilo předpisy“ a tak způsobilo škodu.
Co když ale auto nic neporušilo a žádnou objektivní chybu neudělalo (tak jsou postaveny úplně všechny otázky morálnch dilemat) a přesto způsobilo škodu?
A jediné „provinění“ stroje je, že škodu nedokázal „otpimalizovat“ (tedy neudělal něco, co člověk taky nedokáže).
Měl by za to být výrobce trestán?
A víte co udělá programátor? Vytáhne výsledky testů, vytáhne specifikace a je z obliga protože to bude naimplementované a otestované podle specifikací.
Tak určitě bude celý vývojový team nejdříve ladit ucebnicove paradoxy, protože v rámci milisekund a senzoru (lidar + pár kamer) bude hrozně snadné poznat věk a počet osob. Rozhodně se to totiž nebude tvářit jako obecná překážka.
Klidně se může rozhodnout úplně stejně jako člověk = nijak. Ono v podstatě totiž nejde o to JAK se AI rozhodne, ale o to, že lidi děsí představa, že MÁ MOŽNOST se (na rozdíl od člověka) rozhodnout. Člověk si prostě hodí mentální kostkou (strhnout doleva, doprava, pustit volant a zakrýt si oči) a po nehodě by ho nikdy nikdy nesoudil a nehodnotil (za to, že v nezaviněné situzaci přejel kojence vlevo a ne důchodce vpravo). Celá ta otázka vlastně stojí takto: Na stroje klademe zjevně daleko vyšší nároky než na člověka. O kolik vyšší nároky to ale mají být, abychom… Číst vice »
A co teprv až pojede autonomní sanitka!
A co třeba autonomní pohrebni auto!
Myslím, že tato dilemata jsou mimo. Pokud by měl automat předvídat, pojede vždy tak, aby byl schopen zastavit na dohled. Spíš jiné dilema mě napadá: Jedu kolem chodce, kterého mohu minout. Jak se mohu spolehnout na to, že nevkročí náhodou do silnice? Z lidské zkušenosti vím, že na 99,99 % nevkročí. Bude to vědět ale automat? Bude ochoten riskovat tu setinu procenta?
I automat musí ze zákona reagovat na překážku náhlou a neočekávanou. A tom to tady je, co mu bude naprogramováno.
Podle mě to bude zařízeno tak, že auto bude mít nějakou komunikaci (displeje?), které budou směrem ven chodci zobrazovat „vím o tobě, ale předpokládám, že do silnice nevstoupíš a nezpomalím“.
Nebo třeba „vím o tobě a zpomaluju, můžeš přejít“ – v podstatě to stejné, co dělají lidé pod pojmem „navázat oční kontakt“ (který je ovšem velmi nejednoznačný a nikdo neví, co vlastně znamená).
Nebo taky „nevím o tobě“ (ekvivalent řidiče, co se hrabe dole v popelníčku pro žetonky do košíku – taky před něj chodec vážící si života nezleze.