Önvezető autó vezérlőszoftvert írsz. Dilemma: a halálos baleset elkerülhetetlen. Melyiket üsse el az autó (valamelyiket muszáj)?

Címkék

Felnőtt
28% (88 szavazat)
Gyerek
4% (12 szavazat)
Random válasszon.
22% (70 szavazat)
Egyéb, leírom.
17% (53 szavazat)
Csak az eredmény érdekel.
29% (93 szavazat)
Összes szavazat: 316

Hozzászólások

plane, mert az egesz igazabol a gyartoknak ingyen reklam. Bedobni egy temat ami biztos viral lesz es masolgatjak egymasnak az onjelolt filozofusok.

Gyakorlatban? A gepnek eleg gond az is, hogy balesetmentesen vezessen, nemhogy meg ilyen bonyi dolgokon gyokoljon, mikozben fekezni kene.

+1, ez egy baromira túllihegett téma. Várhatóan jóval kevesebb gyerek lesz akkor is elütve amikor már csak (az addigra elég fejlett szintű) autopilot vezetők fognak járni az utakon, ha minden "necces" szituációban direkt a gyereket célózná be az AI...

Mindig amikor ezekről a fingreszelő morális fejtegetésekről olvasok, az első ami az eszembe jut, az az, hogy azoknak is kell valami csámcsognivaló, akik segghülyék a témához.

Itt elképesztően ritka szituációkról beszélünk, amikor a gépnek lehetősége lesz ilyen morális kérdéseken merengeni, felesleges erre külön mérnökórákat fecsérelni, bizottságokban előre vitatkozni róla. Próbálja meg a gépkocsi a lehető legkisebb személyi, vagyoni kárt (így, ebben a sorrendben) okozni, majd ha ez hibátlanul megy, akkor lehet az élet nagy kérdéseiről vitatkozni.

Nekem pedig van egy olyan érzésem, hogy ilyen témák előkerülésekor egyesek inkább próbálnak kibújni a konkrét válasz adása (felelősség) alól és inkább kibúvókat keresnek ahelyett, hogy egyenes választ adnának egy konkrét kérdésre. Főleg érzelmi okok miatt.

--
trey @ gépház

Szerintem elég egyenes választ adtam azzal, hogy moralizálás helyett minimalizálja a személyi, anyagi kárt.

Pl. ha 4 ember megy át a piroson és valamiért nem lehet mind a négyet elkerülni (mondjuk a szembe forgalom miatt, amivel ütköznél és akkor jó eséllyel ugyanúgy kampec lenne a járókelőknek), akkor próbáljon a lehető legkevesebbet elcsapni közülük, a karambol legkisebb esélye mellett. Mindegy, hogy ebből mennyi a gyerek, mennyi a felnőtt. Ennél reálisabb döntési lehetőséged egyszerűen egy ilyen helyzetben nem lesz, kár róla vitatkozni.

Ez a fenti szavazásban leginkább a "Random válasszon.", azt is jelöltem.

A közlekedési partner vs. autóban utazók kérdéskörben is egyértelműen az autóban utazókat védje. Itt is értelmetlen moralizálni, a piac úgyis emellett fogja letenni a voksát. Ki az a hülye, aki olyan autót venne, ahol az autopilot az ő életét veszélyezteti, amikor kapni a piacon olyat is, ahol őt védi inkább? Dupla hátrányban lenne egy esetleges karambolban egy ilyen autóval szemben.

Törvényi szabályozás meg nem érne kalap ürüléket sem, ilyesmit ellenőrizni elég körülményes lenne, még a jóval egyszerűbben mérhető kibocsájtási adatokkal is sikeresen trükköztek évekig a gyártók, lásd VW botrányt.

Nálunk KRESZ tanfolyamon azt tanították, hogy ha például ott egy galamb előtted az úton, akkor nem rángatod a kormányt, amivel akár tömegbalesetet is okozhatsz, hanem szépen elütöd.

Nyilván egy emberes helyzetben sincs más lehetőség, mint a vészfékezés, még akkor is ha hátulról beléd mennek. Amúgy is a hátul jövőt fogják seggbeqrni, mivel nem tartotta be a megfelelő követési távolságot.
Tehát a kérdésre a helyes válasz az, hogy vészfékezés. Ezzel lehet csak minimálisra csökkenteni a sérülés esélyét. Olyan meg nincs éles helyzetben, hogy választhatsz kit ütsz el. Ha rángatod a kormányt, akkor esélyes, hogy nagyobb balesetet okozol.

Azért értelmetlen a kérdés, mert az húzódik meg mögötte, hogy az emberi vezető mérlegel ilyen helyzetben.

Pedig ha "elkerülhetetlen" a baleset, akkor nem lehet több időd egy tized másodpercnél, annyi idő alatt meg nem kezdesz el azon gondolkozni, hogy mégis kit kéne elütni.

Megijedsz egy eléd ugró macskától: félrerántod a kormányt. Ott volt egy iskoláscsoport a járdán? Pech...

"...handing C++ to the average programmer seems roughly comparable to handing a loaded .45 to a chimpanzee." -- Ted Ts'o

van egy szituáció: az autó halad, előtte egy felnőtt és egy gyerek. Ha balra tér ki, akkor a felnőttet üti el, ha jobbra, akkor a gyereket. Van olyan autógyártó, amelyik nyilvánvalóvá tette, hogy ha akár csak egy emberéletet is meg lehet menteni, akkor azt meg kell menteni akár egy másik árán is. Mi fog történni szerinted? Merre fog kitérni? Semerre?

--
trey @ gépház

Valószínű, hogy nem moralizálhat majd a szoftver. Mivel azt igen csak meg fogják támadni utólag, eredményesen. Annyit tehet csak, hogy védve az utasait a legkisebb kárt okozzon, mind az anyagiakban, mind emberéletben. (Ebből is lesz majd perek sokasága, de ha kiderül/köztudott mi a célirány, az komolyabb probléma lehet/lesz.(
Ezzel kb. rövidre is lehet zárni a fent is említett problémát, hogy akkor milyen alapon lett pl. gyerekre programozva, miért nem egy felnőttre.

A való élet azért más szokott lenni mint a kitalált: https://index.hu/tudomany/2011/12/05/megolnel_egy_embert_hogy_megments_…

Egyetlen helyes válasz van. Ha a kocsi szoftvere gyalogost érzékel 100%-os elütési valószínűséggel, akkor vészfék. Még olyan áron is, hogy hátulról belemennek.
A kocsi mozgási energiáját kell ilyenkor csökkenteni, mert minél kisebb annál kisebb az esélye a halálos balesetnek.

Esetleg még lehet útvonalkorrekció, de csak akkor, ha az nem a sebesség csökkentés rovására megy. De nem vagyok szakértő ebben a témában, erre vannak a szakemberek és a tesztek, hogy optimális algoritmussal minél előbb megállítsák az autót.

Azt kerüli ki amelyiket előbb detektálta vagy amelyik elkerülésére nagyobb valószínűséget lát, vagy valami belső állapota alapján. Külső szemlélő számára valószínűleg random döntésnek néz majd ki.

"...handing C++ to the average programmer seems roughly comparable to handing a loaded .45 to a chimpanzee." -- Ted Ts'o

Nem mindegy, hogy az eset hol történik. Még az ország sem mindegy (nálunk pl. a jobb oldalon haladnak az autók, de Angliában meg a bal oldalon).
A teljes rendszer nem kizárólag csak a két személyt látja, tudja azt is, hogy az úton hol halad, hogy van-e a másik sávban autó, hogy az út szélére jobb-e lehúzódnia, vagy oda azért nem jó, mert ott nyolcan sétálnak, a másik sávban meg jön szembe egy gyerekeket szállító, marha nagy iskolabusz.

Amúgy értjük, hogy mire megy ki a játék :)

Ha semmilyen más mérlegelendő körülmény nincs, tiszta a terep, csak két ember közül kell választania a "gépnek", akkor legyen véletlen vagy előre meghatározott a választott irány, pl. jobb.

Én másik két ember életéről nem vagyok hajlandó dönteni. A sajátoméról dönthetek, választhatom, hogy inkább én haljak meg, mint más, vagy lehetek önző, hogy a magam életét mentem, de ilyen döntés elé egy embert nem szabad állítani, hogy neki kelljen megmondania, két ember közül melyik haljon meg.

Nem, egyszerűen a kérdés túl szimpla. Remélhetőleg az önvezető algoritmusok ennél több tényezőt vesznek figyelembe, talán azért is, mert azt pl. nehezebb felismerni, hogy az illető egy gyerek, vagy csak egy kisméretű felnőtt, stb.

Tehát ha már valakit el kell ütni, akkor a szoftver tudja mérlegelni azt is, hogy milyen sebességgel fogja elütni az illetőt, a kocsi mely részével fog nekimenni, és ez alapján el tudja dönteni, hogy várhatóan melyiknek fog kisebb kárt okozni. Ezek a tényezők sokkal többet számíthatnak, mint az, hogy éppen kit fog elütni.

Ez nem egy elképesztő ritka szituáció, hanem egy egetverő nagy baromság. Arról miért nem beszélünk, hogy emberi sofőr hasonló szituációban milyen döntést hozzon? Azért, mert az emberi sofőr ilyenkor már rég elvesztette uralmát a jármű felett, esetleg ész nélkül tapossa a féket vagy szeme elé emeli a kezét, de semmiképp nem azon filozofál, ugyan melyiket üsse el...

Az az önvezető rendszer, ami képes arra, hogy vészhelyzetben, esetlegesen egymásnak csapódó autók között, amikor a technikai paraméterek mind a határértéken táncolnak (fék, megcsúszás, felborulás, félrerántott kormány) figyelembe vegye a többi résztvevő (felnőtt, gyermek egyéb) váratlan mozgását is, és az alapján számoljon ki lehetséges végkimeneteleket amelyekre még hatása is van (irányítani tudja a járművet) az nem kerül ilyen szituációba, hiszen volt a jelenleginél korábbi időpont (akárcsak tizedmásodpercekkel korábban), amikor ezeket ugyanúgy ki tudta számolni sokkal kisebb (vagy semennyi) személyi sérüléssel.

Ilyen szituációnak annyi a realitása, mint hogy helikopterről embereket pottyantgatunk az önvezető jármű elé 3 méterrel...

Egy szép vasárnap délután Budapesten, vagy tetszőleges autópályán és nyilvánvalóvá válik, hogy az emberek 90%-ánál az automata már jelen állapotában is sokkal jobban vezetne. Ha az ember elveszti az uralmát a jármű fölött, az eleve olyan baromság miatt volt, amit az önvezető autó nagy valószínűséggel nem fog elkövetni. (Például nem a látási és útviszonyoknak megfelelően megválasztott sebesség)
--
"Always code as if the guy who ends up maintaining your code will be a violent psychopath who knows where you live." John F. Woods

Miért baromság? Rengeteg tárgy esik ki az utakra naponta, ami balesetveszélyt okoz. Ha hirtelen történik, ki kell térni nem lehet megállni az ember reflexszerűen dönt, a gép valami más alapján.
"volt a jelenleginél korábbi időpont" - Pont az ilyeneket veszi előbb észre az ember szerintem, pl. mozog a platón az áru, kisfiú/kutya úgy néz ki, hogy ki fog szaladni az útra, egykerekező motoros jön szembe, teherautó nem fog beférni az alagútba, stb. Orosz videókban rengeteg ilyet látni.

A kiinduló példa a legegyszerűbb, ilyen döntést csak akkor kell hozni, ha az autóban ülő biztonsága is veszélybe kerül. De legyen konkrét példa, itt 35 mp-nél, ha az út mellett 2 ember sétálna, egyik gyerek, másik felnőtt és elugrani sincs idejük, mert háttal sétálnak az út mellett. Mi legyen?

Ha ott az útpadkán emberek vannak, akkor azt az önvezető rendszernek már korábban észlelnie kell, és eleve veszélyes helyzetnek kell minősítenie. Ha ugyanakkor még a szemközti sávban is egy nagy méretű jármű közeledik, és "nagyjából" egy x méter (50?) sugarú területen egyidejűleg fog tartózkodni a három "objektum", akkor a vészhelyzet szintje megemelkedik. Ez előre számítható, a sebesség csökkenthető, stb. Nem mondom, hogy ezek után a leeső tárgy miatt nem lesz baleset, de talán a súlyossága csökkenthető.

--
eutlantis

Valamint az autót le lehet vinni a mezőre komolyabb személyi sérülés nélkül.
Az szerintem teljesen alap dolog kellene hogy legyen (humán sofőrnél is) hogy 90-el nem hajtunk el egy ember mellett fél méterrel, még akkor sem , ha az a járda szélén áll, mi meg az úton megyünk. Pont azért, mert bármikor leléphet. Ugyanez a helyzet kerékpárossal is.

kérdező: Mi van, ha nincs felfestve az út szélére a fehér csík, amit az autó figyel?
japán tervező: De fel van.
kérdező: És ha mégsem?
japán tervező: De az mindig fel van festve.

Állítólag a beszélgetés megtörtént, mert van ahol elképzelhetetlenek olyan körülmények/utak, kereszteződésben egymásnak ellentmondó táblák és megzavarodott lámpák, amire a jóságos tervezőnek gondolnia kellene. Majd ha a vezérlőszoftver balesetmentesen tudja kezelni az indiai közlekedési "kultúrát" akkor szólj, addig szerintem nem túllihegett téma.

Annó (kb. 5 éve) az akkor még induló Udacity-n mest.int. témában mutatták a Google-féle önvezető autót, ahol szintén ez szerepelt: vannak felfestések az úton. Hol tesztelték? Kalifornia.

Kíváncsi vagyok, hogy északabbra mit csinálna (pl. Svédország, Finnország) a sokszor hófedte utakon, illetve itthon mit csinálna ellentmondó vagy hiányzó útburkolati jelek esetén...

Én esténként szoktam benne gyönyörködni - ha épp arrafelé van dolgom -, hogy milyen szépek a kivilágított "leszállópályák". :-)
Akkortájt csináltam a jogsit, amikor ez épült - tehát még tanultam a régi kereszteződésben és már az újban is -, de azt kell mondjam, nekem ez jobban tetszik. Meg ha logikusan használod, akkor barátságosabb, akár üzemelnek a jelzőlámpák, akár nem.

Ki mondta, hogy a fék nem kapcsol be? És ha már beindult a fék, a mikroprocesszor miért ne dolgozhatna a kitérésen? Ha vezettél volna már aktív gyalogos-figyeléssel szerelt autót, ezt a kérdést meg se próbáltad volna feltenni.
--
"Always code as if the guy who ends up maintaining your code will be a violent psychopath who knows where you live." John F. Woods

Gyerek, kisebb, kevesebb kart okoz a kocsiban, kevesbbe halnak meg az autoban az emberek.

Egyszer egy gyerek úgy döntött, hogy jó ötlet átfutni az úton, mert jön a busza. Egyszer csak megjelent előttem kb. 2 méterre, annyit időm volt, hogy átfusson a fejemen egy "bmeg", majd elütöttem. Felrepült a tetőre, majd vissza a motorháztetőre, le az aszfaltra. Be voltam szarva rendesen, kiszálltam, erre a gyerek meg felkelt, és ment volna tovább a dolgára (azért szóltam neki, hogy ácsi, jöttek a mentők, rendőrök, végén kaptam egy papírt, hogy 8 napon belül gyógyuló sérülései lettek, azok se az elütéstől, hanem attól, hogy visszaesett az útra).
Szóval a gyerek jobban bírja a gyűrődést, egy mamika tuti nem élte volna túl.

(x) Egyéb

Olyasmi jellegű szabályozás kellene, mint a robotika törvényei. Szabályosan közlekedő gyalogost pl. ne üssön el a járdán, csak mert az úttesten szabálytalanul átkelő másik gyalogos fiatalabb nála.

Alapvetően ha szabályosan közlekedsz (mármint ha elfogadjuk, hogy az önvezető autó mint olyan az szabályosan közlekedik), akkor nem ütsz el senkit.
Na szerintem ha egy gyerek eléd fut az útra, akkor az autó
1. nyilvánvalóan próbálja meg elkerülni a balesetet, de úgy, hogy az utasok - és más, szabályosan közlekedő - épségét nem kockáztatja
2. ha nem lehet, akkor így járt, menjen át rajta, a szabályosan közlekedők legyenek a prioritás

Ha 20 tonna és keresztbe állt előtted akkor nem illik a jelenlegi kérdésbe. Itt most gyalogosok vs autó volt a kérdés nem autó vs műszaki akadály.

===============================================================================
// Hocus Pocus, grab the focus
winSetFocus(...)

http://c2.com/cgi/wiki?FunnyThingsSeenInSourceCodeAndDocumentation

Én mondjuk a felnőttet választottam. Ez szerintem addig ok amíg egy ember/gyerek-ről beszélünk. Viszont ha 1 gyerek és 3 felnőtt között kell választani, már nem biztos, hogy a felnőtteket választanám. Mondjuk nem tudom, hogy ilyen esetben a büntetésben van e különbség, de gondolom van, akkor már csak azért sem mindegy számomra. A cég számára sem mindegy szerintem, aki az ai/autó-t készíti és majd rajta perlik le az áldozatok hozzátartozói.

az etika nem a célszerűségen alapszik, hanem az emberi ostobaságon/irigységen, és szabálykövetési kényszeren.

az etika nevében irtottak ki egy csomó embert az ókortól mostanáig..

vagyis etikai alapon talán az embereknek tetsző, de rossz döntések szület(het)nek az esetek többségében.

Ezért sem értem a "Baby on Board", "Ferike az autóban, vigyázz rám" és hasonló matricásokat. Ki a faszomat érdekel, hogy neki a kölke ül az autóban? Miért kellene jobban vigyáznom, ha kölke van az autóban? Ha éppen az anyja/felesége/anyósa (na jó, az utóbbi kivétel :P) van ott, az kevesebbet ér?

--
trey @ gépház

Nem kell jobban vigyaznod. Alapbol mindenkinek nagyon kellene vigyaznia. Csak hat errefele agresszio, es ezert retteges uralkodik az utakon a KRESZ es az egyuttmukodes helyett.
Ezert a 'zemberek neha megprobalnak az erzelmekre hatni: tudom hogy nem szamit neked az eletem, de kerlek most tegyel kivetelt, csak van annyi szived hogy egy artatlan kisgyermeket nem gyilkolsz meg, es kivetelesen nem 30 centire jossz mogottem 130-nal, pl.

Kb. ennyit jelent a "baby on board" manapsag.
____________________
echo crash > /dev/kmem

Kifejezetten ingerlő, hogy egy hónapon belül kettő ilyen majom gyilkolt meg majdnem engem. Az egyik a rendőrlámpánál vágott be elém az záróvonalon keresztül a városban kb. 90-100 km/órás sebességgel, a másik meg szintén a lámpánál elém, majd nyomott egy satuféket.

Az utóbbinak utánamentem, majd eljátszottam vele fordítva ezt. Erre kiugrott a férje a kocsiból, hogy "normáliiiis vagy? majdnem megölted a gyereket." Mire én: "én öltem meg majdnem? A nyomorult feleséged volt az, aki városon belül a megengedett sebesség duplájával vezetett, majd bevágott elém. Szóval ha nem akarod a törött kezeddel a véres orrodat törölgetni, húzz szépen vissza az autódba és baszd pofán az asszonyt."

Erről ennyit.

--
trey @ gépház

Na, ez az első értelmes felhasználása...

Bár kicsit továbbgondolva: mi van, ha az ember letette a gyerekeket az oviban, aztán megy a dolgára, fejreáll az árokban, aztán a tűzoltók meg ott keresnek szerencsétlenek a ködben, a hó alatt mindenféle gyerekeket, akik nem is voltak ott :-)

A táblácskát se szokta senki se levenni, de láttam matricát is. Azt ugye senki nem gondolja komolyan, hogy a matricát napjában többször levakarják majd újat ragasztanak fel?

Egyébként honnan jön az info / honnan kellett volna ezt megtudnom? Szerintem kb. senki sem tudja ezt, amit ideírtál.

Mert a tűzoltók egy fél négyzetméteres autót egyébként nem vizsgálnak át. Úgy kezdik, hogy "Te Feri, nézd már meg, van-e matrica a hátulján, mert ha nincs, hagyom a picsába az egészet, égjen le porig."

Ha pedig búvár, ló, kutya stb. matrica van az autón, akkor búvárt, lovat, kutyát keresnek az autóban.

Hogyne.

--
trey @ gépház

Ezért sem értem a "Baby on Board"

Valóban nem érted.
Ennek annyi a lényege, mint a T -betűnek a newbieknál. Lehet akármilyen faszagyerek / Schumakker a jármű aktuális sofőrje, számíts arra, hogy hirtelen egy szabálytalan, és akaratlan hibás manővert fog tenni. Nem feltétlenül, de előfordulhat.
Pl. mert a gyerek elkezd ugrálni a kocsiban, vagy egy pillanatra a sofőr félrenéz és anyuka a fejével együtt a kormányt is a gyerek felé fordítja, vagy... stb.

Ennyi a lényege ezeknek a jelzéseknek. Semmi mást nem kell belegondolni. Igen: Jobban vigyázz rá!
De abban az értelemben, mint ahogy a veszélyes anyagot szállító járművekre is raknak narancssárga élére állított négyzetbe a veszélyes anyagra való figyelemfelhívást.
Itt a veszélyforrás természete kicsit másmilyen. Ennyi.

Helló, ha gyerek van a kocsiban, arra nem nekem kell jobban vigyázni, hanem az apjának, anyjának. Én leszarom mit szállít. Megmagyarázod, hogy a KRESZ szerint semmi jelzés, az egyenértékű a törvényben leírttal. Kérlek, ne.

Ez nekem kb. olyan, mint a "álljon vigyázzba mindenki, mert gyerekkel vagyok" attitűd a boltokban, vagy akárhol.

--
trey @ gépház

Neked nem a gyerekre kell vigyáznod, hanem a saját autódra és a saját testi épségedre, mert lehet, hogy a baby on board-os kocsi hamarosan balesetet okoz. Szóval a saját autóddal tarts egy kicsit nagyobb távolságot, vagy figyelj jobban, vagy előzd meg és hagyd messzire el magad mögött.

Egyszóval csinálj úgy, mintha az előtted haladó autó kacsázna a sávokban, váratlan manővereket hajtana végre, hülyeségeket csinálna. Teljesen mindegy, hogy azért, mert részeg a sofőr vagy éppen sms-t ír, az elalvással küzd vagy csak 90 éves. Vagy esetleg mindig szarul vezet.

Köszi, hogy az utakon motorokon és autón töltött 30 év után elmondod, hogy mi a közlekedés. Eddig fogalmam sem volt róla. Meg arról sem, hogy hogy a büdös faszba' közlekedtek az emberek az utakon addig, amíg ilyen büszkeségi szimbólumok nem voltak az autón. Érdekes, nekem is felnőtt a kölköm anélkül autóban, hogy kiragasztgattam volna, hogy képes voltam gyereket csinálni.

Mi lesz a következő? A rally autók mintájára megjelenik majd a szélvédőkön az utas vércsoportja, hátha baleset lesz és úgy gyorsabban kap majd vért?

--
trey @ gépház

Szerintem az lehet a lényege, hogy 1. valakik forrásokhoz jutnak, mert kutatják és kimutatják, hogy a matricákkal statisztikailag halál/sérülés előzhető meg, 2. valakik profitálnak a matricagyártáson, 3. a matricák használata statisztikailag kimutathatóan segít a halálos/sérüléses balesetek csökkentésében (vagy nem, de valakik mégis jól jártak).

:)

Ez nettó marhaság. Ha elkerülhetetlen a baleset és a halál, akkor nincs etika.
Onnantól a legkisebb kár (beleértve ebbe az anyagit is) okozása vagy méginkább a legtöbb érték megmentése a cél.
Az élet itt élet és kész.
A gyerek mentése (az érzelmi motiváción túl) a faj fenntartásával kapcsolatos reflex.
Ha valamelyik mindenképpen meghal a balesetben, akkor az "értéke" 1:1 a felnőtt:gyerek relációban.
Ha (egy kicsit) ezen túlmegyünk és nem alapvetés, hogy valaki meghal, akkor játszik olyan szempont, hogy a felnőtt test erősebb, a gyerek törékenyebb.
Persze ez meg már esetleges, illetve nagy kérdés lesz, hogy "jobb"-e egy megrokkant felnőtt, aki él, mint egy halott gyerek.... (és itt nem az anyagi vonzatokra gondolok)

"Ez nettó marhaság. Ha elkerülhetetlen a baleset és a halál, akkor nincs etika.
Onnantól a legkisebb kár (beleértve ebbe az anyagit is) okozása vagy méginkább a legtöbb érték megmentése a cél."

Ez nem-e pont etika?

----------------------
"ONE OF THESE DAYS I'M GOING TO CUT YOU INTO LITTLE PIECES!!!$E$%#$#%^*^"
--> YouTube csatornám

Egyáltalán honnan lehet tudni, hogy meg fog halni akármelyik is?
Kicsit bővítve az esetet, akár azon is lehetne tanakodni, hogy van egy tömeg (pl. tüntetés), ami felé 100-al rohan a kocsi, 20 méterre van, kikerülni, megállni nem tud. Mi meg azt várjuk, hogy az önvezető rendszer úgy manőverezze a járművet, hogy a lehető legkevesebb sérülés történjen. Mégis, mi alapján? Ki tudja akárcsak megtippelni, ki merre fog ugrani, hogy esnek, melyiknek fog átmenni a megpördülő kocsi csak a lábán, és melyiknek a testén?

Az önvezető rendszereket nem a feltételezett megoldhatatlan vészhelyzetekből való kiút megtalálására kell fejleszteni, hanem a vészhelyzetek kialakulásának elkerülésére.

Voltam egyszer egy motoros balesetmegelőzési / manőverezési továbbképzésen a Hungaroringen. Motoros rendőrök adtak mindenféle feladatokat.

Az egyik feladat az volt, hogy az ember felgyorsított úgy 50-60 km/h-ra, robogott a rendőr felé, aztán amikor az kitette jobbra vagy balra a kezét, akkor kuplung, fékezés nélkül nagyot dönteni abba az irányba majd vissza, kikerülve a rendőrt.

Mindez faszán ment is egészen addig, amíg azt látom, hogy robogok a rendőr felé, az meg nem figyel, nem teszi ki a kezét sehová. Elég az hozzá, hogy ráfékeztem, az első kerék blokkolt, befordult a motor alá (sajnos hajlamos erre). Motor borult, én repültem előre, rendőr félreugrott.

Na utána mondta a csóka, hogy látod, ezért nem szabad fékezni. Legközelebb csak menj simán egyenesen, majd én elugrom, ha meg nem, az az én hibám.

Az "egyéb, leíromot" jelöltem be, mert (szerencsére) a vezérlőszoftvernek több bemeneti paraméter áll majd rendelkezésére, nem csupán annyi, hogy felnőtt vagy gyerek. Nincs olyan szituáció a gyakorlatban, amikor minden paraméter egyezik.

+1
Ha olyan helyzetbe kerül a jármű, hogy már csak ezek a választási lehetőségek állnak fenn, akkor a szoftvere "nem az elvárható gondossággal" készült.
Kivétel lehet például, ha egy magas ház tetejéről ugrik egy gyerek és egy felnőtt az út közepére :-), vagy ott landolnak ejtőernyővel. A szoftvernek minden más eshetőséget figyelembe kell vennie.
Egy sötét jövőkép: Az állam szabályozhatja, hogy a gyorsabb haladás érdekében, mivel kapitalizmus van és őrült gyorsan kell termelni meg érvényesülni, ami a GDP növekedésének alapja, megállapíthat egy "elhullási százalékot". És akkor a szoftver az adott körülményeknek megfelelő, mindenki számára teljesen biztonságos sebességtől felfele valamennyire eltérhet:(

--
eutlantis

Nincs valaszom csak kerdesek/gondolatok :)

1. Hogyan donti el a szoftver, hogy az adott gyalogos gyerek vagy felnott? (Eleg sok alacsony felnott es magas gyerek van)
2. Miert lenne erre egyaltalan felkeszitve egy auto hogy kulonbseget tegyen? Persze "tippelhet".
3. Szituacio: a felnott es a gyerek is az autoban ulo ver szerinti rokona (nagyi setaltal az unokajaval a haz elott amikor anyuka/apuka hazajon az autoval es valami miatt ilyen valasztas ele kerul)
4. A vazolt szituacio eleg ritka, nem tudom elkepzelni, hogy ne lenne egy 3. vagy 4. lehetseges megoldas (autot egy masik autonak vezetni, stb.). A kerdes lehetne az is ilyen erovel, hogy egy felnott vagy egy gyerek halalarol dontenel.

-----
"Már nem csak tehetségekből, de a hülyékből is kifogytunk..."

Talan a legjobb megoldas az lenne egy ilyen szoftverben, hogy:
1. Olyan iranyba probalja az autot vinni, ahol semmi akadaly nincs (persze ha ez lehetseges)
2. Ha nem lehetseges, akkor olyan iranyba ahol nem erzekel embereket
3. Utolso esetben fek, aztan remenykedni, hogy az utban levo emberek el tudnak ugrani :)

Az 1. eset azert fontos, mert ha nekicsapodik az auto egy trafikosbodenak, akkor eleg nagy esely van ra, hogy a bent tartozkodo (de az auto altal nem erzekelt) szemelynek nem lesz tul kellemes a talalkozas.

-----
"Már nem csak tehetségekből, de a hülyékből is kifogytunk..."

Rendben, szoval eloall ez a ritka helyzet. Hogyan donti el az auto/szoftver, hogy felnott vagy gyerek a ket valasztasi lehetoseg? Tegyuk fel eldonti (= megtippeli), mert biztos nem fogja elkerni elotte az igazolvanyukat.

Szerintem ne a felnott/gyerek szempont alapjan dontson, hanem mondjuk a szemelyek kozotti tavolsag alapjan, azt valassza akitol tavolabb van, aztan satufek.

-----
"Már nem csak tehetségekből, de a hülyékből is kifogytunk..."

"Hogyan donti el az auto/szoftver, hogy felnott vagy gyerek a ket valasztasi lehetoseg? "

Ezzel a kérdéssel neked nem kell foglalkoznod, mert a hardverszenzor fejlesztőrészleg elvégezte a dolgát és a te szoftvermodulod a szenzorcsoporttól már egyértelmű inputot kap:

- gyerek

vagy

felnőtt

Neked nem kell elemezned, hogy az input helyes-e.

--
trey @ gépház

Jajj ne mar... Egyforma tavolsagra teleportalnak boven fektavolsagon belulre de a jargany bal ill. jobb felere. Koztuk nem fer el es akkorat sem tud korrigalni, hogy.

Az auto tudja a mereteit, a formajat, tehat tud donteni a meretbol adodo kulonbseg melyik egyednel okoz sulyosabb serulest.

Ha az autonak tegla formaja van, azaz itt sem tud differencialni, akkor valassza a nagyobb tomegut, mert az az egyed alacsonyabb eroket fog kapni. (OK, meghal, de a tulelesi eselyei nagyobbak.)

Szerk.: Hmmm... Viszont itt mar van ertelme gondolkodni a kulso "legzsakokon"... Hmmm...

Szituációtól függ.

Pl. ha lelép az egyik a kocsi elé féktávolságon belül, a másik meg a járdán marad, akkor a kocsi ne úgy döntsön, hogy aha, ez a gyerek/felnőtt, akkor most inkább felmegyek a járdára és azt ütöm el, hanem fékezzen egy kurva nagyot, dudáljon, és a végén üsse el azt, aki hülye volt és elélépett, ha nem ugrik el időben.

Szóval ha valaki balesetet okoz, akkor az szívjon, ne az ártatlan.

Ha nem így tenne a rendszer, simán vissza is lehetne vele élni, ha nem random az algoritmus választása. Ha tudom, hogy az autó inkább a kiszemelt áldozatomat választaná, nem engem, akkor eléugrom, az autó meg engem megkímélve a kiszemelt áldozatomat megöli.

Egyébként se tartom jó ötletnek, hogy az autó megpróbálja elemezni/kitalálni, hogy ki értékesebb és ki kevésbé értékes. Kinézet és méret alapján nagyon keveset lehet tudni ismeretlen járókelőkről.

Az a legrosszabb ebben, hogy mindenkinek van valami véleménye, de majdnem minden ilyen elég támadható.
Talán az lenne a legjobb, ha először az embert másolná, vagyis önző lenne. Azt lenne a legkönnyebb elfogadni. Az ártatlanok sajnos most is meghalnak és szerintem az autóst sem az alapján büntetik, hogy az ártatlant, vagy a vétkest ölte meg. Ezt mondjuk nem tudom, én nem tennék különbséget.

"Egyébként se tartom jó ötletnek, hogy az autó megpróbálja elemezni/kitalálni, hogy ki értékesebb és ki kevésbé értékes."

Ennél azért ebben a témában egy kicsit többről van szó, vagy legalábbis konkrétabbról. Egyrészt ugye van az, hogy míg most az elbaszott döntéseknél (két nagymama, vagy ovodáscsoport) ugye kvázirandom "így sikerült törtmásodperc alatt dönteni emberi aggyal" van, ha olyan lesz a tech ami egyrészt sokkal jobb helyzetértékelést csinál ott helyben, másrészt van hosszasan időnk arra, hogy előkészítsük a döntéseit, akkor megengedetjük-e magunknak, hogy nem tesszük?

A másik érdekes dilemma, hogy ugye a fenti esetben szokott lenni még egy harmadik megoldás is, hogy se nem nagyik, se nem óvodások, hanem az autó a falnak, és az utas. Csak ugye ki vesz olyan autót, ami direkt őt nyírja ki. És ha senki, akkor jó-e, hogy nem lett emiatt alapvetően sokkal biztonságosabb a közlekedés?

Egyébként szerintem sokszor a falnakmenés lehet a legjobb megoldás, főleg egy városi forgalom sebességével.

Ha elüt az autó egy járókelőt, vagy biciklist, vagy motorost, akkor az elütött ember(ek) a védelmi rendszerek hiánya miatt komolyan sérülhetnek, meghalhatnak.

Ha ezzel szemben az autó a falnak megy vagy más parkoló vagy mozgó autóknak, akkor jó eséllyel ugyan összetörik, de az energiaelnyelő részei teszik a dolgukat, és az utasok komoly sérülés nélkül megússzák a dolgot. Mondjuk ne kormányozza fának, villanyoszlopnak, vagy szakadékba az autót az automata persze, mert ezekben az esetekben nehezebb jól megvédeni az utast.

Nagy sebességnél meg úgyis mindegy, mert akár falnak megy, akár gyalogost üt el, az autó utasa is simán meghalhat. :-)

Ezzel egyébként én speciel egyetértek, sok esetben szerintem is a fal a jó, viszont annak is vannak ám további érdekes kérdései. Ha az automata az elém kilépő miatt nekicsapja a falnak a kocsit, akkor a javítás kinek a számlájára megy? Az enyémre? Ha igen, akkor állja a kötelezőm? Vagy csak a casco? Az elém kilépőére? Ne adj isten -- és igazából ez az új kérdés (hiszen az már most is érdekes, hogy ha mondjuk egy szarul előző idióta miatt kirántom az árokba, és csak én török, akkor mi lesz)-- a gyártóéra? Szóval van-e neki anyagi felelőssége ilyenkor? Ugye ha tisztán gazdaságossági szempontokat nézünk, valószínűleg olcsóbb egy eleve törésre tervezett motorháztető meg hűtőrács csere, mint az autó végighúzott jobb oldala, esetleg megspékelve valamelyik oszlop torzulásával.

Ehhez nem kell automata.

Most is az a felelősséged sofőrként, hogy elkerüld a sérüléssel / halállal járó baleseteket.
Ha most kilép valaki eléd, és félrekapod a kormányt és összetörsz pár parkoló kocsit, akkor ugyanez a szitu.

Ilyenkor én úgy gondolnám, hogy a gyalogos hibája = a gyalogos anyagi felelőssége. De persze ha a gyalogosnak nincs felelősségbiztosítása, akkor kérdés, ki és hogyan fog fizetni.

Nem tudom, ilyen esetben mi a biztosítók gyakorlata, én talán azt érezném valamennyire reálisnak (feltételezve, hogy a gyalogos nem tudja az összes kárt zsebből kifizetni és nincs neki felelősségbiztosítása), hogy a te köteleződ térítse meg az összetört autók / fal kárát, a te casco-d térítse meg a te károdat. Aztán a biztosító megpróbálhat valamennyi pénzt beszedni a gyalogostól, de ha nagy a kártérítés összege, gyanítom, hogy nem fog sikerülni a teljes térítés.

Vagy van az az alap, ahonnan a kötelező biztosítás nélküli autók által okozott károkat fizetik. Esetleg az az alap is fizethetné a gyalogos helyett.

Ugye ha tisztán gazdaságossági szempontokat nézünk, valószínűleg olcsóbb egy eleve törésre tervezett motorháztető meg hűtőrács csere, mint az autó végighúzott jobb oldala, esetleg megspékelve valamelyik oszlop torzulásával.

Két dolog:
1) ha elkerülhetted volna a gyalogos halálát, pl. a parkoló autóknak kormányzással, de nem tetted, simán lehet, hogy bíróságon találod magad valami gondatlanságból elkövetett emberölés vagy hasonló hangzatos váddal. Aztán ki tudja, mi lesz a vége.
2) ha elkerülhetted volna a gyalogos halálát, némi gazdasági kárért cserébe, de nem tetted, mit szól majd a lelkiismereted? Hogy fogsz tudni aludni?

Én inkább fizetnék saját zsebből valamennyit és mérgelődnék, de nem szeretném, ha rémálmaim lennének a börtönben :-)

"Ehhez nem kell automata. ..."

Igen, írtam is, hogy hasonló egyébként már most is van, annyival egészül ki a kép, hogy ha nem én döntök, hanem helyettem az autógyár, akkor ki viseli a döntés következményeit?

(mellékesen én is úgy gondolom, hogy a gyalogos hibája = a gyalogos anyagi felelőssége, szóval speciel az én cascomat meg casco díjamat nem kéne ebbe belekeverni, az ugyanis azért van, ami az én hibám, viszont ugye in practice hogy hajtod ezt be a gyalogon, az egy másik kérdés. Meg már az is, hogy hogyan bizonyítod)

"Két dolog:
1) ha elkerülhetted volna a gyalogos halálát, pl. a parkoló autóknak kormányzással, de nem tetted, simán lehet, hogy bíróságon találod magad valami gondatlanságból elkövetett emberölés vagy hasonló hangzatos váddal. Aztán ki tudja, mi lesz a vége.
2) ha elkerülhetted volna a gyalogos halálát, némi gazdasági kárért cserébe, de nem tetted, mit szól majd a lelkiismereted? Hogy fogsz tudni aludni?"

Természetesen a francnak sincs ilyenhez kedve, egyszerűen arra próbáltam -- elismerem, nem túl jól -- kilukadni, hogy mikor az automata döntése miatt keletkezik többletkár, akkor ott mi van? Normális egyébként szerintem az lenne, ha ez közvetlenül nem hátékózódna ki a gyártóra, hanem a biztosítási rendszerben kell ezt átalakítani, de látok rá némi esélyt, hogy a biztosítók meg fogják próbálni :)

De egyébként a kérdés fordítva is igaz? Ha az automata döntött úgy, hogy inkább a gyalogos, akkor ki felel a gondatlanságból elkövetett emberölésért? :)

Ha az automata döntött úgy, hogy inkább a gyalogos, akkor ki felel a gondatlanságból elkövetett emberölésért? :)

Ez, szerintem teljesen egyértelmű. Az utasok nem felelősek, hiszen nem irányítottak semmit. Lehet, hogy épp újságot olvastak vagy aludtak.
Csak az lehet felelős, aki a járművet irányította. Ez pedig az automata. Ha hibásan működött, akkor az automatát előállító cég a hunyó.

Persze, az. Vagy legalábbis annak tűnik. Aztán bejönnek az olyan kérdések, hogy ha megkérdezik a preferenciát, mikor megvetted, akkor is? Ha tudatosan azért vettél mercit, mert az ilyen, akkor is? Ha az van az eulában, ami minden szoftvernél lenni szokott, akkor is? De tegyük fel, hogy persze, a cég. De a gondatlanságból elkövetett emberölés az BTK, ott nincsenek cégek, ott emberek vannak (érdekes kísérlet elmagyarázni a túlbuzgó secu orknak, hogy a személyes szabadság megsértése BTK, uh próbálhat arra hivatkozni, hogy neki ez a munkája, majd figyelembe veszik a másodrendű vádlott főnökével szemben a felbujtás tényállásának értékelésekor, mikor ő mint első rendű személyesen felel ezért), szóval ki lesz az? A kóder? Aki reviewzta? A teszter? A manager? A CEO? Mind? Egyáltalán melyik cég? A szoftveres, vagy az autógyártó? És ki fogja megmondani, hogy mi hibázott? És mi alapján teszi majd ezt? A kód volt a szar, vagy a szenzor? Egyáltalán, define szar, mennyire kell egy ilyennek jónak lennie? Mi lesz az elvárható gondosság?

A másik érdekes ág, hogy azért ma tipikusan az van, hogyha félrerántod fel a járdára, akkor is az "ember ennyit tudott hirtelen" erősen nyom a latban a védelmedben. Viszont ha a szép tudatosan megtervezett cucc csinálja ezt, ott már nem nagyon lehet ilyen kifogás.

Szóval ez egy egyértelmű válasz, csak látni kell, hogy a következményei annak, hogy a baleseti felelősség az egyénről a gyártó irányába megy nagyon messzire vezetnek, és legalább olyan érdekes kérdések a maguk nemében, mint a dolog technikai megvalósítása.

Egy felnottnek nagyobbak a tulelesi eselyei.

Igen és kell is, hogy legyen.
Ha ember vezet, tudattalanul vizsgál hasonlókat a "rendszere".
A döntés nem feltétlenül jó vagy rossz. Ha AI hozza, akkor sem lesz az, csak épp nehezebben fogjuk elfogadni, hogy nem lehetett mit tenni.
De titszik-e vagy sem: nem lehetünk istenebbek az Istennél. Vagyis, ha már ő is ilyen hibás cuccot teremtett, kicsi az esély (értsd: 0), hogy tudsz nála jobbat.
Kb, mint a fénysebesség. Lehet közelíteni, de elérni nem. (Ja, marad a trükközés, de attól a tényleges sebesség nem lesz más. Itt is hasonlóan lehet, szerintem, megugrani a feladatot)

Tehat ha a felelotlen anyuka hagyja kirohanni a gyermeket az utra, akkor az auto inkabb egy felnottet ut el a gyermek helyett. Egy felelotlen anyuka miatt elut egy artatlan felnottet, akit esetleg szinten varnak otthon a gyermekei.

Ez se jo igy annyira :)
____________________
echo crash > /dev/kmem

Én azt tippelem, hogy ha valaki egy autót vezetve valakit elüt és megöl, azt eléggé megviseli ez.

Szintén tipp, de az emberek nagy részét szerintem jobban megviseli az, ha egy gyereket ütött el és ölt meg, mint ha egy felnőttet.

Szerencsére nem voltam még ilyen szituációban, nem is szeretnék lenni, de biztos sosem döntenék úgy, hogy én sofőrként pl. eltekerjem a kormányt, hogy az útra féktávon belül lelépő felnőtt helyett inkább a járdán sétáló gyereket üssem el.

Azt viszont el tudom képzelni, hogy észlelem az elém lépő felnőttet, félrerántom a kormányt, és ennek az eredményeképp ártatlanokat ütök el. Nem direkt, nem tudatos döntésként, inkább egy rossz reakciónak nevezném ezt.
A gáz az, hogy többször láttam már ilyesmit élőben: autó sofőrje félrekapta a kormányt, hogy egy másik autóval ne ütközzék, és a járdára felfutva embereket ütött el.
Ha csak fékez és nem kormányoz, jó eséllyel senki nem sérül meg, csak anyagi kár lett volna az autókban. Így meg ugyan senki nem halt meg, de lettek sérültek.

Azt remélném, hogy legalább ezeket a rossz reakciókat az önvezető autók el tudnák kerülni.

Szerintem ennél sokkal izgalmasabb kérdés az, hogy kit veszélyeztessen az önvezető autó egy balesetben, az utasát, vagy egy bárki mást (pl falnak menjen e, vagy elüsse a járdán a gyalogost). Nem is a konkrét válasz az izgalmas, hanem annak a folyományai: pl ha adott gyártó bevezeti, hogy az ő szoftvere mindig védelmezi az utasát (és ezáltal versenyelőnybe kerül a szofisztikáltabban döntőkkel szemben), akkor érdekes harc indulhat meg a gyártók és a közlekedési szabályokat hozók között abból a szempontból, hogy ki szabályozhatja az ilyen döntéseket?
--
Csaba

Szvsz ez csak marketing, a gyártóknak elemi érdekük, hogy a usereik életét védjék bármi áron, bármilyen regulációs nyomással szemben. Volt egy felmérés, hogy ha user választhat, hogy az autója az ő életét áldozza be, vagy a bystander-ét, akkor még az az ember se preferálja az ő életét beáldozó autót, aki amúgy ilyen szituban beáldozná magát. És ugyebár aki fizeti a zenészt, az választja a muzsikát...
--
Csaba

Az önvezető autó AI-jának szempontjából nem lehet kérdés, hogy gazdi vagy nem gazdi.
Konkrétan élet vagy élet. 1:1
És a kár mértékében is így kell vizsgálnia.
Ami nagyobb probléma, szerintem, hogy mennyire fog ebbe a marketing beleszólni. (pl, mint a diesel botrányos storyban)

A tobbseg fog donteni. Szerinted a nepesseg nagyobb, vagy kisebb hanyadanak telik sajat autora? Amikor te vezetsz, eles helyzetben a primitiv osztonod fog donteni helyetted, azt nehez felulbiralni, onvezeto autonal viszont lehetunk "korrektebbek", "etikusabbak". Lehet-e ez ellen olyan erveket felhozni, ami a szavazok tobbseget meggyozi? Ha meg egyszer a dontes torvenybe van foglalva akkor az osszes gyartonak kovetnie kell.

----------------------
"ONE OF THESE DAYS I'M GOING TO CUT YOU INTO LITTLE PIECES!!!$E$%#$#%^*^"
--> YouTube csatornám

Vagy annak, amelyik felismeri, hogy nem az o hataskore meghozni ezt a dontest, illetve ha megteszi, mekkora szopast vallal be...

Szerk: amikor olvastam a kerdest, ugy ertelmeztem, hogy te a vallalat/befekteto/"business owner" vagy, aki fejleszti a szoftvert, es nem a programozo, aki potyogi a kodot.

----------------------
"ONE OF THESE DAYS I'M GOING TO CUT YOU INTO LITTLE PIECES!!!$E$%#$#%^*^"
--> YouTube csatornám

Ha meg egyszer a dontes torvenybe van foglalva akkor az osszes gyartonak kovetnie kell.

Ugye te nem a Föld nevű bolygón élsz? Csak pénz kérdése bármilyen szabályozás kijátszása. És ha az ember életéről lesz szó, akkor bizony sokan hajlandóak lesznek költeni a lazább szabályokat követő kocsikért.

--
Csaba

Geci leszek, es azt mondom, hogy a felnottet, mert bar valoszinubb, hogy ot elutve okozok nagyobb kart (felnottol fugghetnek gyerekei/mas csaladtagok, felnott mar produktiv tagja a tarsadalomnak, felnottnek valoszinubb tobb komoly baratja van, aki hosszu ideig fogja gyaszolni), nekem vedekeznem kell a keletkezo felzudulas ellen, es az emberek tobbsege nem racionalis, hanem erzelmek alapjan itelkezik es egy gyerek halalat sokkal tragikusabbnak itelik meg.

Szerk: jobban atgondolva, amig en hozom meg ezt a dontest, tamadhato vagyok, ezert, ahogy a masik hsz-ben irtam, valaki masra biznam. :^)

----------------------
"ONE OF THESE DAYS I'M GOING TO CUT YOU INTO LITTLE PIECES!!!$E$%#$#%^*^"
--> YouTube csatornám

Egyebkent az ilyen etikai donteseket miert nem lehetne crowdsource-olni? Vagy a jargany beuzemelesekor a tulajra bizni? Ezzel a seggem fejlesztokent vedve van.

----------------------
"ONE OF THESE DAYS I'M GOING TO CUT YOU INTO LITTLE PIECES!!!$E$%#$#%^*^"
--> YouTube csatornám

Egyeb leirom:
Nem rendeznem sehogy sem a listat ebben a helyzetben. Amelyiknek kisebb az indexe (elorebb van a listaban, a heap tetejen van, mindegy), azt valasztana a szoftver.

--
http://blog.htmm.hu/

ebben az egész topicban elég ritka eseményekről beszélgetünk :) De akkor ne a fék fosson be, csak fékezés közben jöjjön rá az elektronika, hogy mondjuk jégre került, és nem lesz megállás a zebra előtt. (vagy tök mindegy miért, de nem a másik hibázik, hanem az önvezető autó)

Kifogas mindig van. Miert nem lehet megallni a zebra elott (ez a heppem amugy). Csuszik a jeg (ki gondolta volna?). Fagy van, jeg lehet az uton (ki gondolta volna?). Ha hajtok balesetet okozhatok (ki gondolta volna?).
Kifogasokat prezentalo vilag, saleseke a jovo :)
____________________
echo crash > /dev/kmem

Ne terelj. Értem én a frusztrációid, csak ennek most nem sok köze van ehhez. Egy önvezető autó nyilvánvalóan (?) sokkal jobban fogja ezt csinálni, de fog az is hibázni, vagy olyan helyzetbe kerülni, amire nem számíthatott előre (hacsak nem vezetünk be ugye egy kb 10 km/h-s általános sebességkorlátozást, kocogótempóban még elég jók vagyunk, a bringás kb 20-ról már tudjuk, hogy simán okoz veszélyes szitukat), a kérdés az, hogy ilyen esetekben hogyan, milyen szempontrendszer alapján mérlegelünk.

> Egy önvezető autó nyilvánvalóan (?) sokkal jobban fogja ezt csinálni
Elvarom egy onvezeto autotol hogy sokkal jobban vezessen nalam. Ha en atlagos soforkent 20+ eves hatsokerekes Ladaval tukorjegen meg tudok allni a zebra elott idoben, akkor egy modern onvezeto autotol ezt minimum elvarom, es meg tobbet is.

> de fog az is hibázni
Az uton valahogy nem akarodzik early adopternek vagy beta testernek lenni. Ne hibazzon :)

> vagy olyan helyzetbe kerülni, amire nem számíthatott előre
Mondjuk egy lezuhano darut el tudok kepzelni. De ilyen hetkoznapi dolgokat hogy csuszos ut miatt balesetezzen egy onvezeto auto... Akkor minek letezik? Erre a felelotlen ember is kepes, ingyen is :)

szerk: ertem mirol beszelsz, csak kicsit eros a wishful thinking faktor nalam.

____________________
echo crash > /dev/kmem

Még mindig félrebeszélsz :)

Jaja, soha senki nem csúszott még be kereszteződésbe. Szép dolog hogy elvárod. Tudod, járni jár, csak nem jut :) Viccet félretéve, vonatkoztass már el a konkrét, nyilvánvalóan túlegyszerűsített példáktól. Az autó műszaki eszköz, mint olyan, fog hibázni, elromlani. Akkor is, amikor majd önvezető lesz. Vagy majd lesz valami más, ami elromlik körülötte. Bár népszerű tévképzet, hogy ha mindenki betartja a KRESZt, akkor soha nem lesznek balesetek, de ez nem igaz. A kresz csak (tényleg betartva) elég kicsire csökkenti ennek a kockázatát, de meg nem szünteti.

Természetesen azt várja mindenki, hogy lényegesen kevesebb balesetet fog bekövetkezni, ez a beszélgetés arról szól, hogy mi van mindenféle érdekes perem esetekben. Meg hogy pl az ilyen perem esetek megítélése hogyan hat a technika elfogadottságára (amitől ugye azt várjuk, hogy majd sokkal kevesebb baleset lesz, ha elterjed).

Most komolyan? Azon vitatkozunk hogy a kocsi milyen morális döntést hozzon és feltételezzük hogy nem tudja magáról hogy nem jó a fék?
Egyébként fékezésről szó se volt, a kocsi a megengedett sebességgel közlekedik tehát szabályosan, a gyalogos szabályosan közlekedik a járdán, a szabálysértő valószínűleg nem megengedett időben van az úttesten ő szabálytalan, vesznie kell. Fékezni csak az anyagi kár csökkentése és esetleg azért kell mert akkor túlélheti, de nem kötelező tehát irrrelváns hogy működik-e a fék.

===============================================================================
// Hocus Pocus, grab the focus
winSetFocus(...)

http://c2.com/cgi/wiki?FunnyThingsSeenInSourceCodeAndDocumentation

Működik minden, szabályosan közlekedikmindenki. A szembejövő teherautó kap egy első durrdefektet, és keresztbefordul előtted. Vagy belerongyolsz, és az autó egy szál utasa hal meg, vagy félrerántod a kormányt, és a járdát célzod meg - viszont ott a fal és az előtted keresztbe fordult teherautó között csak annyi hely van, hogy a két gyalogos (felnőtt és gyerek) közül csak az egyikkel tudod elkerülni az ütközést.
Lehet, hogy ez a scenario rettenet ritka, de a kiváltó ok (defekt/műszaki hiba miatt keresztbe forduló jármű)
sajnos nem életszerűtlen, bár szerencsére nem gyakori.

Ez már egy kicsit pontosabb mint az eredeti kérdés.
Valahol meg volt említve hogy figyelembe vesszük-e hogy kinek jobbak a túlélési esélyei. Mivel az önvezető autó az utasát védi és mindenképp elüt valaki, így ha figyelmebe vesszük hogy a felnőtt jobb eséllyel túl éli, akkor azt, ha további paramétereket nézzük akkor, ha a felnőtt egy terhes nő, akkor már a fene se tudja.
Talán a legjobb lenne az anyagi kár figyelmen kívűl hagyása, vezesse neki a falnak a számítógép az autót vagy egy parkoló autónak, 50km/h sebességgnél jó esélyell túl éli az autó utasa az ütközést.

===============================================================================
// Hocus Pocus, grab the focus
winSetFocus(...)

http://c2.com/cgi/wiki?FunnyThingsSeenInSourceCodeAndDocumentation

"Most komolyan? Azon vitatkozunk hogy a kocsi milyen morális döntést hozzon és feltételezzük hogy nem tudja magáról hogy nem jó a fék?"

Én vitatkozásnak ugyan nem nevezném, inkább beszélgetésnek, és ja erről. És természetesen a fék csak egy nyilvánvalóan túlegyszerűsített példa (mint ahogy az eredeti kérdés volt), ha nem tetszik képzelj oda bármilyen más olyan helyzetet, ahol az önvezető autó hibázik. Erre pedig nyilvánvalóan van némi esély.

"Egyébként fékezésről szó se volt, a kocsi a megengedett sebességgel közlekedik tehát szabályosan, a gyalogos szabályosan közlekedik a járdán, a szabálysértő valószínűleg nem megengedett időben van az úttesten ő szabálytalan, vesznie kell"

Fékezésről valóban nem volt szó, mint ahogy az összes többi általad hozzáköltött izéről sem. "Dilemma: a halálos baleset elkerülhetetlen. Melyiket üsse el az autó (valamelyiket muszáj)?" És mivel te plusz permiszákkal adtál egy szerinted elfogadható választ, kérdeztem, hogy mi a helyzet azokon kívül?

"ékezni csak az anyagi kár csökkentése és esetleg azért kell mert akkor túlélheti". Ez természetesen nem igaz, csak azért, mert szabálytalan a másik, te nem gázolhatod le nyélgázon, a balesetet a szabályosan közlekedőnek is kötelessége megpróbálni elhárítani.

Ha mindenki betart minden szabályt és úgy közlekedik akkor nem fordulhat elő olyan eset hogy valakit el kell ütni.

===============================================================================
// Hocus Pocus, grab the focus
winSetFocus(...)

http://c2.com/cgi/wiki?FunnyThingsSeenInSourceCodeAndDocumentation

Javaslom nézz urána, hogy szabályosan közlekedő jármű milyen okokból képes keresztbe fordulni az úton... Na ha ez megvan, akkor már csak az a kérdés, hogy a vele való ütközés elkerülése miért nem fordulhat elő a közlekedésben? De mondhatnám azt is, hogy tessen megmagyarázni a szarvasnak/vaddisznónak, hogy az erdőt átszelő úton hogyan kell szabályosan átkelni... Ja, hogy velük szabad ütközni szerinted?

Ha csak hibátlanul működő gépek mozognak, akkor igen. De emberek is közlekednek, a gépek sem 100%-ban hibamentes működésűek, úgyhogy már bukik a feltételezésed. Egy olyan programban, ami csak egy másik, kizárólag számokat tartalmazó kimenetét olvassa, kell-e a bemenetet ellenőrizni, hogy csak számot kap? Szerintem kell, mert a környezet, az inputot adó program is működhet hibásan.
Röviden: nem szabad feltételezni a környezet hibamentes működését.

+1
a kocsi ne szegjen szabalyt, vagy ne valtson savot csak azert hogy inkabb a masikat usse el, mert azzal mar szandekosan olte meg. a kocsi tartsa be a szabalyokat, azert sem a gyarto sem a tulajdonosan nem vonhato felelossegre, aki meg szabalytalanul ele ugrik az igyjart.

A'rpi

Lehet ezt a "HOVD 2017 - Legostobább szavazás" kategóriába nevezni?

-----------------
-activer
document.write(new Date().getFullYear()+1) will be the year of Linux on the desktop!

Azt aki/ami előtte van féktávon belül, csak satu és csatt. A szoftvernek ne legyen joga ezen felül egyéb döntést hozni, nem az ő feladata.

A probléma felvetésénél valószínűleg mindenki egy közönséges közlekedési helyzetre gondol. Az etika kérdése nem a konkrét esetben, a felnőtt vagy gyerek választása során, merül fel, hanem akkor, amikor a szoftvert paraméterezik. A konkrét jármű vagy járműtípus reakcióidejét, az alrendszereinek vezérelhetőségét figyelembe véve három csoportba sorolnám az eseteket:
1) "normál" közlekedési helyzet;
2) vészhelyzet: a nem "normális" helyzet, amire fel lehet készülni;
3) szélsőséges helyzet: az 1) és 2)-be nem sorolható, "valószínűtlen" (tudom, kifejtése szükséges lenne), vagy csak a reakcióidőnél rövidebb idő alatt elhárítható eset;

Az 1)-et és a 2)-őt a rendszernek meg kell tudni oldania, anélkül, hogy valaki megsérüljön.
Példa a 2)-re: az autó zöld lámpánál halad a belső sávban, egy ház takarásából valaki beszalad az út közepére 100m/12mp-es sebességgel.
Példa 3)-ra: az előbbi eset 100m/8mp-es futósebességgel.

Azt hiszem, hogy az egész problémakör lényege az a félelem, hogy ha teljes biztonsággal akarunk közlekedni, senkit sem veszélyeztetve, akkor nagyon lelassul a haladási sebesség. A Tesla MI-t fejleszt a célra, de szerintem a jelenlegi közúti adottságok mellett a vészhelyzetek száma nem csökkenthető, csak számítható.

--
eutlantis

Már a kérdés felvetése is gyalázatos. Nagyon morbid ilyeneken tépelődni.

Akkor elengedem béklyóimat, és letisztítom a kérdést:

Kit akarsz megölni? A, Egy gyereket, B, Egy felnőttet.

Tovább szárnyalva:

Kit ölnél meg szívesebben?: A, Egy gyereket, B, Egy felnőttet.

Tágabban: Személyi értékmeghatározó algoritmusod, melynek morális súlyát le akarod venni a válladról, lepasszolod a nagyérdeműd felé, hogy takarózhass: nem én találtam ki, hogy a koszos, gebe, rongyos nigger kölyök dögöljön meg, ne pedig a 30-as jó szituált nő. (Sajnos egyikükről sem lehetett tudni, hogy az előbbi egy matematikus zseni, akiről dokumentumfilmet forgattak éppen, így jelmezben volt, míg a csinos 30-as egy többszörösen visszaeső anyagyilkos, aki most lépett meg 10 őrt lemészárolva a siralomházból.)

Na, akkor sebész iskolába se menj, mert ott még morbidabb dolgok is előkerülnek órán, pl. hogy hol érdemes belevágni a szikét az emberbe? És miért pont ott?

Valamint forgácsolástechnikai képzésre se menj, mert ott esetleg olyan kérdés jön szembe, hogy milyen az optimális élkiképzése a sebészeti szikének, tekintetbe véve az okozott de elkerülhető bőr és szöveti roncsolást szemben az él tartósságával?

Hja, az élet tele van morbid kérdésekkel. Kegyetlen mi? Na, hát örülj, hogy disznóvágáskor neked pálinkát nyújtanak a kezedbe, és nem kötelet kötnek a csülködre.... Mert az is morbid egy dolog ám, ellenben rendkívül finom. Lila káposztával.

Gyerekre szavaztam. Az alabbi erteksorrend alapjan dontson

kutya < macska < mas gerinces allat < nyugdijas < munkakepes koru felnott < gyerek < terhes anyuka (ket szemely)

"Csak az eredmény érdekel." - ennek van most némi mellékzöngéje. :)

Látva a szavazás jelenlegi állását, egy felnőttnek az lesz a legjobb esélye, ha gyorsan leguggol... :-)

Szerintem meg nem létezhet ilyen eset. Radar, lézer, hő-, és ultrahd kamerák, amik tökéletesen látnak 360 fokban éjjel, ködben, és esőben is, szinte nulla reakcióidővel párosítva, egyszerűen kizárja az ehhez hasonló helyzeteket.
Ha egy ilyen modern eszköz nem képes észrevenni időben a bajt, akkor már a döntéssel sem kell majd foglalkoznia, mert nyilvánvalóan arra sem lesz ideje, és fékezve ugyan, de simán elcsapja azt, aki éppen elé kerül.

/PARAFRÁZIS_ON

Unikornisgyógyászként nehéz helyzetbe kerülsz. Behoznak a rendelődbe egy édes kicsi lila unikornis fúcskát, akinek a tesztoszteron túltermelődése miatt hullik a sörénye.

A kasztráció elkerülhetetlen. Melyik heréjét távolítod el?

a; A jobb heréjét
b; A bal heréjét
c; Mindkét heréjét
d; Döntsön a véletlen, de egy szarv, egy here
e; Csak a saját herém érdekel
f; Kopasz unikornis vagyok

/PARAFRÁZIS_OFF

A netes szavazásokban az a csodálatos, hogy remekül el lehet vitatkozni azon, hogy mégis milyen egy szadista dolog már kiherélni egy édes kicsi unikornist, lehet startupot alapítani unikornis műsörény környezetbarát előállítására közösségi finanszírozással, vagy akár gyűjtést rendezni herélt unikornikosok helyreállító műtétjére, mindezt teljesen függetlenül attól, hogy unikornisok amúgy nincsenek.

Ha az az önvezető autó kellően fejlett szoftverrel rendelkezik a gyerek és a felnőtt egyértelmű megkülönböztetéséhez és kellően gyors elektronikával ahhoz, hogy ütközés közben felmérje hogy az elkerülhetetlen, halálos kimenetelű lesz, nincs más megoldás, csak a gázolás, aztán képes a két ember közül pontosan egyet célba venni, akkor annak elkerülésére is képes, hogy ez a kérdés egyáltalán felmerüljön.

---
Science for fun...

"akkor annak elkerülésére is képes, hogy ez a kérdés egyáltalán felmerüljön."

Mi van, ha megsem? (Ha szerinted megis, akkor vezesd le reszletesen, kulonben csak egy laikus, zsubjektiv velemenynek tunik amit a dontes/gondolkodas/felelosseg aloli kibujasra hasznalsz.)

----------------------
"ONE OF THESE DAYS I'M GOING TO CUT YOU INTO LITTLE PIECES!!!$E$%#$#%^*^"
--> YouTube csatornám

Azt, amelyik a szabalytalan.

--
Worrying about killer AI and the superintelligent robots is like worrying about overcrowding on Mars. - Garry Kasparov

1. Mi alapján dönti el, hogy gyerek a gyerek és felnőtt a felnőtt? Ha pl. a magasság a döntő, akkor hosszabb távon "evolúciós előnyhöz" jutnak a törpenövésű emberek, a következményeket gondolja végig mindenki magának.
2. Felismeri-e, pl ha babakocsiban ül a gyerek?

Lehet, hogy egyszerűbb lenne teleport-fülkéket fejleszteni... ezt a dilemmát is megoldódná, illetve a régi, használaton kívüli telefonfülkéket is újra lehetne hasznosítani. :-)

Teleport-fulket hasznalva, a masik oldalon az ottani atomokbol letrejott masolat ugyanaz az ember aki belepett?

[ ] Igen
[ ] Nem

Ha a teleport fulke meghibasodik es nem semmisiti meg az eredeti alanyt, ezaltal a szemely es a masolat egy idoben leteznek, melyiket semmisitened meg?

[ ] Erdetit
[ ] Masolatot
[ ] Egyiket se
[ ] Mindkettot (is)

Ez se jobb :)

Jogos.
Bár az első kérdésre valószínűleg annak megfelelően igen/nem a válasz, hogy hívő-e az illető.

A második esetben az egyik Csillagkapu részben volt egy "megnyugtató" megoldás, amikor benne ragadnak a pufferben és csak órákkal később kerülnek elő belőle. (Ott a túloldali kapu addig nem köpte ki az anyagot, amíg az indító kapu be nem nyelte teljesen.)

Illetve ugyanezt a dilemmát a Dark Matter megoldása is elkerülte, bár az ugye nem maradandó teleport volt. (Ott a klón húzta mindig a rövidebbet.)

> amikor benne ragadnak a pufferben

Nana, ez még csak fél megoldás! :)
A CsK az anyagot vagy az információt tolja át a féregjáraton?

Bemész a pufferbe...
a) a kapu szerializálja az inputot, átküldi a féregjáraton, az output kapu deszerializálja a csomagot a pufferben, vagy
b) a pufferben nem telik az idő, amikor megvan a teljes payload, átmennek a fizikai objektumok a féregjáraton,
...majd kiesik az objektum az eseményhorizonton.

Előbbi ugye elpusztítja az anyagot, utóbbi nem. Hogy is van ez akkor? :)

Úgy írom meg a szoftvert, hogy ne keveredjen olyan helyzetbe, hogy "elkerülhetetlen halálos baleset".
Amíg a hardver nem képes megfelelő távolságból nyomonkövetni a járókelőKet, járdán, úton, útpadkán, így bármiféle stratégiai elemzőprogram megírása lehetetlen.
Csak úgy hirtelen az úton nem terem ott egy gyerek meg egy felnőtt.

-fs-
Az olyan tárgyakat, amik képesek az mc futtatására, munkaeszköznek nevezzük.
/usr/lib/libasound.so --gágágágá --lilaliba

én még macskát sem ütöttem el sose. Ha az útpadkán van macska, akkor az jó eséllyel eléd mászik. Tehát lassítok, fékkészenlét.
Egy önvezető autó szoftverének megírásakor szerintem sokkal magasabb szintű algoritmusokban kéne gondolkodni, mint hogy végső megoldásként mit tegyen a program. Egy ilyen kérdést eldönthetne a felhasználó egy "beállítások" menüpontban.

-fs-
Az olyan tárgyakat, amik képesek az mc futtatására, munkaeszköznek nevezzük.
/usr/lib/libasound.so --gágágágá --lilaliba

Szerintem a blikken fogják lehozni, ha születni fog erről egy döntés, és kb. ennyire a hobbi gondolkodóknak szól ez a kérdés. A többiek meg tudják, hogy ez a kérdés csak egy laboratóriumban merülhet fel, mert az életben annyi sok más paraméter van egy balesetkor, hogy egy ilyen vegytiszta helyzet nem fog előfordulni.

(x) Szerintem az MI feladata az legyen, hogy elkerülje a balesetet. Ne döntsön emberi életekről, nem szabad, hogy funkciója legyen olyan dologban döntenie amit mi sem tudunk nyugodt szívvel meghozni.
Plusz van már annyira fejlett (vagy ha nincs akkor hajrá) az "autó technika", hogy ha lehetne lehetősége eldönteni, hogy kit üssön el inkább az időt arra fordítsa, hogy biztosan észlelje a veszélyt és időben cselekedjen.

Ez nem mellébeszélés, vagy felelősségletolás. Ez olyan kérdés, mintha a repülőgépek robotpilótáját arra kéne felprogramozni, hogy zuhanás esetén a gép elejében vagy végében lévő utasok maradjanak-e inkább életben. Hacsak lehet akadályozza meg a vészhelyzet kialakulását, ha pedig oda kerül, hogy elkerülhetetlen akkor meg már tökmindegy.
Az meg hogy a Merci hogy döntött inkább csak pr fogásnak tartom, váratlan helyzeteket MI legyen a talpán kezelni.

Első tippre a repülőgép robotpilótáját arra lehet ilyen esetben felprogramozni, hogy ha lehet, vízbe essen (vízben ritkán laknak, a fedélzeten levőknek meg jobbak az esélyei), ha nem, akkor lakott területen kívülre (lakott területen kívül ritkán laknak, úgyhogy legfeljebb a fedélzeten ülők bukták), ha meg muszáj lakott területre, akkor akár földre merőlegesen is mehet (a landolás közben nem darálja le a magasabb épületeket). Ezekkel mind kárt csökkentesz.

BlackY
--
"en is amikor bejovok dolgozni, nem egy pc-t [..] kapcsolok be, hanem a mainframe-et..." (sj)

+1
Az a kemény igazság szerintem is, hogy ezeket a döntéseket nem érzelmi alapon kell meghozni, hanem egyszerűen az emberéletek és a károk minimalizálásával. Autó esetében is. Teljesen mindegy, hogy kit üt el. Akinek várhatóan legkisebb a sérülése, valamint a legkisebb kárt okozza az ütközés és a becsapódás.
--
"Sose a gép a hülye."

Egyrészt ezt írják a cikk végén:

Mercedes-Benz insists that von Hugo was misquoted, and says the automaker’s official position is that “neither programmers nor automated systems are entitled to weigh the value of human lives,” and that the company is not legally allowed to favor one life over another in Germany and other nations.

Másrészt leírják, hogy nem arról van szó, hogy a szoftver egy 50%-50% szituációban dönt az autóban ülők javára; hanem arról van szó, hogy egy átláthatatlan baleseti szituációban az autó tud mondani egy bizonyos százalékot az autóban ülők túlélési esélyeiről, míg a járókelőkéről nem tud mondani semmit, vagy csak jóval kevesebb százalékot.

Az autó, a felnőtt és a gyerek nem a semmiben lebeg, hanem egy forgalomban, ezért valószínűleg lesz még más tényező is. Pld. kitér az egyik irányba, akkor úgy változik valószínűleg a forgalmi helyzet, hogy a szemből jövők meg elütik a másik embert, vagy ezt az autót. Akkor inkább a másik irányba tér ki. De már ez is annyira leegyszerűsített szituáció, rengeteg paraméter lesz. Nem ez fogja eldönteni, hogy gyerek vagy felnőtt; valószínűleg ezek a szoftverben mind emberéletként jelennek meg, amelyek közül mindegyik ugyanolyan fontos.

Minden emberélet egyenlő. Ezt a szoftvereknek is be kell tartani; szóval nem lesz az, hogy itt van az autóban egy értékes emberélet, ott meg kinn sétál egy értéktelen emberélet (gyerek vagy felnőtt vagy bőrszín vagy iskolázottság vagy egyéb dolgok alapján megkülönböztetve). Más paraméterek alapján fog dönteni.

>szóval nem lesz az, hogy itt van az autóban egy értékes emberélet, ott meg kinn sétál egy értéktelen emberélet

Pedig ez lesz, mert amúgy az első publicitást kapó balesetnél az autógyártó okosautó üzletága instant húzhatja le a redőnyt, ha az etikus autopilot inkább feltekeredik a fára, csak hogy megvédje az ostoba Ödönkét, akit nem tanítottak meg a szülei közlekedni.

Te fizetnél milliókat egy olyan gépjárműért, ami nem a te életedet próbálja megvédeni, hanem random ismeretlenekét, mert pár erkölcsbajnok így gondolta társadalmilag előnyösnek?

"Te fizetnél milliókat egy olyan gépjárműért, ami nem a te életedet próbálja megvédeni, hanem random ismeretlenekét, mert pár erkölcsbajnok így gondolta társadalmilag előnyösnek?"

Hat te pl. bizti, hogy fizetnel milliokat erte, ha az onvezeto jarmuvek annyival biztonsagosabbak lennenek a gyakorlatban kizarva az emberi hibakat, hogy betiltanak a vezetheto jarmuveket es nem lenne mas valasztasod.

----------------------
"ONE OF THESE DAYS I'M GOING TO CUT YOU INTO LITTLE PIECES!!!$E$%#$#%^*^"
--> YouTube csatornám

Szerintem elbeszélünk egymás mellett. Itt önvezető autós rendszerek közötti versenyről van szó.

Van két autómodell ami tetszik kinézetre és az az árkategória, amiben nézelődtél. Melyik modellért adnál ki pénzt? Azért, amelyikkel kapcsolatban az utóbbi időben folyamatosan egy nagyon kellemetlen balesetről cikkeztek, ahol az autó szabálytalan külső közlekedési partnerek védelme érdekében kinyírta az utasait, kamikaze autopilótának gúnyolják. Vagy azt vennéd inkább, amelyik automatikája eddig mindig megvédte az utasait?

Sőt, még meredekebb példa: az egyik kocsi rendszere köztudottan "túl óvatosan" vezet, idegesítő módon tötymörög kis forgalomban is, a másik pedig sokkal dinamikusabban. Minden ismerősöd, aki az előbbit vette, szidta mint a bokrot. Melyiket fogod venni? A biztonságosabbat, vagy a gyorsabbat? Ennyit az álszentségről.

Tudod két dolog biztos: az ember gyarló, a kapitalizmus pedig az emberi igényeket szolgálja ki elsősorban. Nem véletlen, hogy amcsiban is a dzsippek a kelendőek mostanság, amivel szükség esetén úgy lehet eltaposni a többi közlekedőt, mint a csótányokat.

Figyu. Azt írtam, hogy az autó más paraméterek alapján fog dönteni, hiszen az életek egyenlőek. Erre azt válaszolod, hogy az autopilot inkább feltekeredik a fára, csakhogy megvédje az ostoba Ödönkét. Látod, hogy mi a probléma ezzel, vagy elmagyarázzam, vagy hagyjuk, mert vitatkozni akarsz, nem érvelni?

Természetesen a gyereket.

A felnőttnek lehet még másik gyereke, a gyerek meg nem is biztos, hogy megéli a felnőttkort.

...valójában a majdnem random a válaszom, azt ahol várhatóan egy picit kisebb a becsapódás ereje, adjunk esélyt a csodának.

--
Tanya Csenöl az új csatorna

https://en.wikipedia.org/wiki/Trolley_problem
Gondolom lehet még ragozni...

De pusztán csak a fantáziálás kedvéért az AI-val :
- Nézze meg kinek van kevesebb FB ismerőse.
- Aki nem vásárolt magának biztosítást önvezető autó elütés esetére. (vagy pont fordítva???)
- Kalkuláljon egy lehetséges karrier path-t, és a társadalom számára kevésbé hasznosat.
- Chuck Norrist természetes kerülje ki.
- Egészségi állapot felmérés alapján.

Emberek érzelmek/előítélek alapján hozunk szubjektív döntéseket, ez így értelmetlen vita. Mint pl. vitatkozzatok arról kinek mi a kedvenc színe.
AI -nak valami objektív logika alapján kell döntenie felnőtt v. gyerek között.
(Feltételezem nem lesz hard code-olva, hogy if (crash_anyway){ set_target(objects.persons.hu.select("Felnőtt"))} )

A kérdés inkább az, hogy ki dönti el milyen paramétereket veszünk figyelembe és miket nem, amikor arról kell döntetni felnőtt v. gyerek? Az etika hajlékony. Mindent egyes paramétert, ráadásul abból sok ellentmondásos, nem lehet figyelembe venni.
Mit szeretnél ki döntsön?
Politikus? Tanár? Művész? Szülő? Valamelyik vallás? Benszülött afrikai nép? Egy migráns? A profit orientált szektor?
Kit hatalmaznál fel azzal a hatalommal, hogy etikai kérdésekben dönthet?

A döntésnél n+1 egyéb feltételt is ki kell értékelni. Ha csak ez marad különbségnek, akkor rossz a döntési fa. Szerintem...

A kérdés baromság, mert önmagában ilyen probléma nem létezik. Ehhez kb. annak kell fennállnia hogy a gyerek és a felnőtt pontosan ugyanolyan forgalmi helyzetben kerüljön féktávon belülre, azonos távolságra. Kvázi ugyanoda.

Kissé túl lett egyszerűsítve ez az etikai kérdés ebben a szavazásban, már annyira, hogy túlságosan. Számos cikk foglalkozik ezzel (pl: https://pszichoforyou.hu/onvezeto-autok/)
, érdekes téma.
Szerintem legyen egyéb. Úgy értem, hogy ebből ne írjanak ki népszavazást, hanem döntsenek róla szakemberek, politikusok, filoszok.

Amugy volt anno a 444-en egy cikk hogy egy AI gyarto ceg ezt kutatta es 20 esetbol minden usernek valaszania kellett hogy kit ussenek el. En magan is kitoltottem. Nincs meg az valakinek veletlenul valahol? Nem talalom

Ez egy érdekes kérdés.

Mi van akkor, ha a gyerek magasabb az anyjánál (esetleg az apjánál is)? Hogyan tudja az autó megállapítani, hogy az áldozatjelöltek közül melyik a gyerek? Rengeteg olyan családot ismerek, ahol a gyerek 12-13 éves korában már magasabb mint az anyja. Illetve az alacsonyabb embereknek automatikusan jobbak az esélyei egy önvezető autós balesetnél? Így válik a törpeség evolúciós előnnyé?

Hány éves korig gyerek a gyerek az autó áldozatválasztásának szempontjából?

Ha két felnőtt közül kell választani, akkor a nőt, vagy a férfit válassza? Mi van az adott irányból nem állapítható meg, hogy melyik a férfi, és melyik a nő? Mi van akkor, ha a nőnek rövid haja van, és mindketten télikabátban vannak? Mi van a akkor, ha mindkettő férfi, vagy mindkettő nő?

Mi van akkor, ha az egyik magyar, ami másik piréz?

Véleményem szerint, amíg nincs olyan szabályrendszer, amiben egyértelműen megállapítható, hogy ki a gyerek, addig ebben a kérdésben nem lehet dönteni.

Ha például előírnák, hogy a gyereknek kötelező viselnie az utcán valamilyen jól látható, az autó által egyértelműen felismerhető megkülönböztető jelzést, akkor is csak első körben lenne egyszerűbb a kérdés. Ha egy gyerek nem viseli a jelzést, akkor egy baleset után a szülőt felelősségre vonják? Akkor is, ha a baleset idején éppen kórházban volt? Ha egy felnőtt visel ilyen jelzést, az egyrészt növeli a túlélési esélyeit, viszont a körülötte tartózkodók esélyét csökkenti. Hogyan büntetik azt a felnőttet, aki ilyen jelzést visel?

Ha például előírnák, hogy a gyereknek kötelező viselnie az utcán valamilyen jól látható, az autó által egyértelműen felismerhető megkülönböztető jelzést

Ha jól látom, te a gyerekeket óvnád inkább.

Más válaszolók meg inkább a gyerekeket irtanák. Az ő választásuk és a te ötleted jól kombinálható.

Egy kurva nagy céltáblát akasszanak a hátukra :-)

Nem védek senkit, csak fel szerettem volna hívni a figyelmet arra, hogy – az eszközök mostani fejlettségi szintjén – nincs sok értelme a kérdésnek, mert sok esetben nem dönthető el egyértelműen, hogy ki a gyerek. Az embere számára ez többnyire egyszerű feladat. A szoftver számára változó látási viszonyok, viszonylag nagy sebesség, és viszonylag nagy távolság esetén már nem az.

Srácok, egy csomó hozzászólásban más infók alapján akartok dönteni, pl. hogy aki szabályosan közlekedik, meg ilyenek, de ez csak szőnyeg alá söpri a kérdést.
Én is tudnék ilyet mondani, hogy pl. azt a manővert hajtsa végre ami kevésbé változtatja meg a menetirányt, lévén az nagyobb valószínűséggel vezethet újabb balesetveszélyes helyzethez, vagy hogy úgy üssön el embert hogy az a többi közlekedőt a lehető legkevésbé késztesse hirtelen irányváltoztatásra, de ezek most nem szempontok.

Minden más ismert körülmény már fel lett dolgozva, és az értékelésben a legkevésbé rossz manőverből kettő van, és ezek egyforma pontszámúak.

Én ebből indulok ki, és a randomot jelöltem meg.
Miért? Nem moralitásból, hanem a hekkelhetőség csökkentése miatt.

Ugyanis, ha a gyereket védjük, - mert köztudott, hogy aki nem őket védi az minimum szociopata, - akkor egy kellően szemétláda 8 éves kisköcsög poénból betoppanhat a kocsik elé, tudván, hogy ő nem fog megsérülni, aztán röhöghet hogyha valaki másnak nekimegy.

Jelen helyzetben az ilyen hülye kisköcsögök hamar halnak, mert N számú emberi vezetőből biztos lesz egy, aki elcsapja.
Ez egy jó visszatartó erő a gyerekeknek, mert ha nem érzik magukat biztonságban, akkor jobban odafigyelnek.

Véleményem szerint ezt nem szabad érzelmi irányból megközelíteni, hanem csakis a hosszú távú hatásokat szabad figyelembe venni.

Márpedig az építkezésen sem válogat a gerenda ha leesik, leszarja hogy a diplomás művezető vagy a félrészeg napszámos van-e alatta, nem a gerenda dolga válogatni, hanem az alatta tartózkodóknak. Ergo, az építkezésen mindenki felsandít ha látja a darut.

Amelyik gyerek jobban vigyáz, azt kevésbé ütik el. Aki jobban vigyázott, és már felnőtt lett, annak miért lenne kevesebb joga az élethez valaki olyannal szemben aki kevésbé vigyáz jobban?

Ha a két manőver két teljesen szabályosan haladó ember közül az egyiket teljes bizonyossággal elüti, akkor az random történjen. Mint egy balesetben. Nincsenek egyenlőbbek, mindenki nézzen körbe ha élni akar.

BTW, két gyerekem van, a nagyobbik 3+ éves, és futóbiciklivel csapat. Agglomeráció, nem falu, de nem is belváros. Kevés szabály van, de azokat be kell tartani, különben sírva megy haza.
1, Kereszteződésnél megállsz, benézel, és ha nem látsz közel mozgó autót az úton, akkor mehetsz át. (Nem megyünk át az úton csak úgy, lendületből.)
2, Ha azt mondom, hogy állj, akkor nem mehetsz tovább. (szinte sosem mondom)
3, Ha azt mondom, hogy gyere, akkor idejössz. Pont, vita nincs. (ez sem sűrűn fordul elő)

Sebességkorlátozás nincs. Néhányszor már esett pofára, így saját magától megtanulta, miért nem jó túl gyorsan menni. Távolságkorlátozás sincs, de látótávolságban kell lennie, ergo nem fordulhat le. Volt, hogy ezt megszegte, akkor kicsit arrébb beültem egy bokor mögé, és vártam. 5 perc múlva már félve, sírva jött vissza, hogy merre vagyok.
Lehet mondani, hogy gec1 vagyok, és hogy csak frusztrációt okozok szegény kölyöknek, satöbbi, de valójában elértem azt, hogy a legfontosabb dolgokban ne egy kívülről ráerőszakolt szabályrendszer szerint döntsön, (attól vélve, hogy nyakonvágom ha rájövök (meglát a rendőr, elkap a kaller, ismerős?)) hanem már belülről fakadjon neki az a szabályrendszer, (ha tovább megyek, az rossz érzés lesz, mert nem tudom, merre van apa.. inkább megvárom a sarkon!) ami alapján dönt. Igazából, néha belököm a kis rosszba, hogy rájöjjön, miért van az a szabály, mire való, és miért fontos.

Elég értelmes, hogy megértse mi miért jó neki, az én dolgom az, hogy megvilágítsam a számára hasznos cselekedeteket, és nem az, hogy tüneti kezelésként belé verjem a szabálykövetést, - vagy nekiálljak kipárnázni egy olyan világot, amit lehetetlen kipárnázni...

"akkor egy kellően szemétláda 8 éves kisköcsög poénból betoppanhat a kocsik elé, tudván, hogy ő nem fog megsérülni, aztán röhöghet hogyha valaki másnak nekimegy."

Es dashcam felvetel alapjan, ami onvezeto autoban alap, a gyereket viszik nevelointezetbe, szuleit meg megbirsagoljak alaposan, azutan ez tobbet nem fordul elo. Nem olvastam vegig, de jol gondolom, hogy ezzel megdolt a hsz-ed tobbi resze..?

----------------------
"ONE OF THESE DAYS I'M GOING TO CUT YOU INTO LITTLE PIECES!!!$E$%#$#%^*^"
--> YouTube csatornám

Kihagytad a „halottakat feltámasztják” részt. Nem lennék boldog egy kis nevelőintézettől, és a szülők megbírságolásától, ha egy közeli rokonom, barátom meghalna egy ilyen esetben.

Szerencsére nem sokszor, de már nem is egyszer megesett, hogy gyerekek a felüljáróról köveket dobáltak az autópályára. Vagy hogy kövekkel dobálták meg az elhaladó vonatot. Szórakozásból. Ez viszont azt sugallja, hogy a szoftver döntési szabályainak kőbe vésésekor ezt a magatartási formát sem lehet figyelmen kívül hagyni.

Én úgy programoznám be, hogy döntse el, hogy melyikkel okozna akár csak 1 ezred százalékponttal is, de kisebb eséllyel / kisebb mértékű sérülést.

az az önvezető autó szoftver ami ilyen helyzetbe tud keveredni nem ennél a döntési mechanizmusnál van elcseszve...

Takarásból (parkoló busz, hirdetőoszlop mögül) kilépő gyalogos?
Szabálytalanul és nagy sebességgel hirtelen elé érkező védtelen akárki? Pl. keresztutcából piroson átvágtató biciklis vagy motoros, szembe egyszercsak előzni kivágó motoros, lejtős keresztutcából takarásból egyszercsak az útra kicsúszó szánkós gyerek?

Frankó lenne, ha olyan szernzorrendszerrel bírnának ezek az autók, hogy előre lássák ezeket a szituációkat.
De a jelenlegi radar + kamera rendszerek erre nem képesek.

Labda után kifutó kisgyereket észre lehet venni hús-vér sofőrnek és AI-nak is, ha olyan a környezet. És ha másmilyen, akkor meg egyikük se veszi észre időben.

És ilyenből egyszerre kettő, de a rendszer még arra is legyen képes, hogy felmérje a felnőtt súlyát, hogy az mekkorát esik, hova veri be a fejét, milyen fokú lesz a sérülés összehasonlítva azzal, hogy a gyermek a kerék elé vagy a kocsi alá fog-e becsúszni.
Ennyi erővel írjunk külön programot arra is, hogy az ha egy vadász az őszi lúdvonulások során kilő egy libát, és az pont a kocsi szenzora elé esik, akkor mit kell tenni.

Amelyik kisebb kárt okoz a kocsiban ;-D

Szándékosan nem tennék a szoftverbe ilyen kódrészletet. A többi kód majd eldönti, hogy mi fog történni (leegyszerűsített példa: a sávtartó kód miatt azt fogja elütni, aki a kocsi sávjában van).

Sziasztok,
Egyéb: Szerintem ne tegyen különbséget felnőtt és gyerek között eleve, ez felesleges idő pazarlás egy időközben felkínálódó 3-ik lehetőséggel szemben (pl. a gyerek pánikba esik és megáll, a felnőtt pedig előreugrik ijedtében, a kocsi vezérlője kihasználhatja a köztük lévő üres teret, és áthajthat köztük VAGY moralizál és közben kitalálja ki micsoda (gyerek-e vagy felnőtt, és hogy kit üssön akkor el).
Tipikusan ez az eset, amikor azt mondanám, hogy a moralitás inkább akadályozná a döntést, mintsem segítené.
Azt már meg sem említem, hogy az életkor megállapítása messze nem lenne triviális, sokszor embereknek sem sikerül (pl. magas gyerek, alacsony felnőtt esetén mi alapján döntsön?) :)
Üdv,
LuiseX

Szia,
Bocsi a késői reakcióért, picit hosszú hetem volt :)
A jelölt művet nem olvastam,de a történeti összefoglaló alapján talán nem teljesen ugyanaz a témakör. Én azt mondom mindössze, hogy a felnőtt és a gyerek megkülönböztetése nem-triviális, és feleslegesen hosszú művelet lenne, szemben a pillanatnyi a többi szempont szerinti mérlegeléssel.
Technikailag közelítem meg, és nem azt állítom, hogy ne ismerjen morális dogmákat a rendszer, hanem csak azt, hogy a felnőtt-gyerek különbség tétel nem jó alap, kezelje mindkettőt emberként.
Tény, hogy morálisan érdekes kérdés, de egy olyan eszköz esetén, aminek ezred másod percek alatt kell döntést hoznia, inkább veszélyes és felesleges időrablás, mintsem fontos morális szempont - mármint, hogy eldöntse a gyereket vagy a felnőttet üsse-e el.
Szóval, a könyv érdekesnek hangzik, de kétlem hogy Lem a gyerek/felnőtt meghatározás funkciónak a beépítését vagy kihagyását a döntési rendszerből közelítené meg (a summary alapján) :)
( Nem azt mondom, hogy ne ismerjen a rendszer morális kérdéseket és/vagy döntsön az alapján, de ez a specifikus kérdés túl sok mellékes költséget vonz ahhoz, hogy érdemben egyéb veszélyeket nem okozva beépíthető legyen ).
Üdv,
LuiseX

Szia,
Megint rosszul értelmezitek, és belekeveritek más véleményét. Én mindössze azt mondtam, hogy az életkor ne legyen szempont, nem pedig azt hogy szabályos/szabálytalan közlekedés alapján döntsön.
A véleményem az, hogy a minimalizált kár/sérülés felé tartson, ne pedig életkort vagy szabályosan közlekedő viselkedést számoljon miközben olcsóbb és könnyebb megbecsülni az ütközés által okozott sérülések nagyságát. Mindegyik itt felvetett szempont olyan morális kérdés, ami az ütközés pillanatai előtt felesleges időt pazarolnak egy fontosabb kérdés előtt: minimalizálni a kárt, ha már elkerülhetetlen.
Üdv,
LuiseX

a kérdés szerintem ebben a formában nem értelmezhető. elhanyagolhatóan kicsi azon eseteknek a száma amikor az összes egyéb ténylező egyezik. ha már mindenáron gyepáljuk ezt a kérdéskört, én azt mondom hogy prioritási listát kéne felállítani, ha egál van lép a következő szempontra:
0: minél több életet óvjon meg
1: preferálja a járókelőket az utasokkal szemben (ezt törvényileg lefektetni és véresen komolyan betartatni.)
2: preferálja a szabálykövetőket az úttestre kirohangálókkal szemben
3: egálnál gyors becslés alapján azt preferálja akinek nagyobb esélye van a túlélésre.
4: az összes többinél a no intervention elvét kövesse (ennek két darab egyszerű praktikus oka van)

"all submitted complaints will be forwarded to /dev/null for further investigation"

1: preferálja a járókelőket az utasokkal szemben (ezt törvényileg lefektetni és véresen komolyan betartatni.)

Ez a pont például indikálná a 120-as Skodám és a Suzukim minél további megtartását. Ha ez nem lehetséges, akkor ez első utam egy zugszervizbe vezetne, hogy ezt a pontot nagyon gyorsan kiüssék belőle. ...és most lehet itt jönni a törvény szigorával, de most is le lehet vizsgáztatni autót szar fékkel és tömény füsttel, a "Mozaik utcák" soha nem tűnnek el. ;)

--
Tanya Csenöl az új csatorna

tiéd az autó, tiéd a felelősség. ha helyzet van akkor azt érje hátrány akinek volt beleszólása abba hogy az önvezető autó kimenjen-e az útra. szerintem ez nem egy különösebben bonyolult morális kérdés.

"all submitted complaints will be forwarded to /dev/null for further investigation"

1: preferálja a járókelőket az utasokkal szemben (ezt törvényileg lefektetni és véresen komolyan betartatni.)

Ezt azért gondold át. Beülnél olyan járműbe, ami külső beavatkozásra (valaki eléd lép) téged veszélyeztet? Nem inkább annak örülnél, ha rád nézve biztonságosan megpróbálná elkerülni a veszélyt ha lehetséges?

ha egyszer úgy adódik hogy önvezető autóba kell ülnöm, ezt a döntési kritériumot akár saját költségen/időmben is beleégetném.
esetleg annyi hogy alacsonyabb prioritást kapjon mint a szabálykövetők preferenciája. ha a hülyegyerek kiszalad az útra, az hulljon.

"all submitted complaints will be forwarded to /dev/null for further investigation"

Ok most tekintsünk el attól hogy önvezető az autó.
Mondjuk azt hogy az asszony vezet, a kocsiban még mellette kívül ülsz te és 2-3 gyerek. Mit szeretnél, mit tegyen? Rántsa bele a kocsit az árokba, esélyesen mindegyikőtöknek sérülést okozva, vagy üsse el a parasztot?

Egyrészt: itt egy ember potenciális sérüléséről van szó öt ember potenciális sérülésével szemben.
Másrészt: nem, a kérdésem az, hogy miért tesz a kolléga különbséget a szabályok között az alapján, ha automata, vagy ha ember vezet.

(Amúgy örülök hogy a felvetett kérdésemre csak személyeskedéssel tudsz reagálni.)

Marhasag a kerdes. Nincs* olyan szituacio, ahol egy bonyolult koltsegfuggveny pontosan ugyanolyan eredmenyt ad mindket dontesre.

*nincs == ahogy ket UUID sem egyezik soha. Tehat a valoszinusege olyan alacsony, hogy zero ertelme van idot pazarolni a megvitatasara.

(Persze lattam mar olyat, aki kodban lecsekkolta, hogy az ujonnan generalt UUID tenyleg unique-e.)

----------------------
while (!sleep) sheep++;

Továbbgondolásra: mi lenne a válaszotok akkor, ha a jövőben eltűnne a tömegközlekedés jelenlegi formája és az egyéni autózás? (Tehát nem a tiéd lenne az autó, hanem amolyan "közös", mint most egy bérelt autó.) Az ötlet onnan jött, hogy sokan írtátok: olyan autót nem vennétek, ami nem védené minden esetben az utasait.

Ha az adott pillanatban a világról semmi más információ nem áll rendelkezésre, akkor alapból a gyermek életben hagyása szolgálja jobban az emberiség fennmaradását.

Szervác Attila - http://321.hu/sas

Szerintem elsősorban azt, aki szabálytalanul közlekedik.

kár a felesleges kormánymozdulat, azt üsse el, amelyik már úgyis az útjába esik :)
szvsz felesleges ezen vitázni.

Nehéz kérdés, de szerintem mindig lesz valamilyen választási lehetőség és a szoftvernek a gázolás súlyossága alapján kell majd döntenie. Az ritkán fordul elő, hogy két lehetőség van és mindkettőnek pontosan ugyanaz a kimenetele a súlyosságot tekintve.
"Az elém szaladó gyereken menjek át? Vagy hirtelen irányt váltsak és a járdán álló felnőttet találom el? Vagy megyek a másik irányba, ütközök a szembe jövő autóval? Milyen súlyosak lesznek a következmények? Gyerek: azonnali halál, felnőtt: kisebb sebesség az irányváltás miatt, nagyobb testtömeg. Várható következmény: csonttörés és agyrázkodástól kezdve a bénulástól a kórházi halálig terjed. Legvalószínűbb: agyrázkódás, fej és nyaksérülés, medencecsont törés, több hónap gyógyulási idő. Maradandó sérülés esélye: 53%. Szembe jövő forgalomba hajtás: autó típusa és mozgása alapján a várható ütközés után az utasok 92%-os valószínűséggel saját lábukon el tudják hagyni a járművet. Keletkezett kár: mindkét autó totálkáros lesz. Döntés: szembejövő forgalomba kormányzás, mentők, rendőrség riasztása."
Kb. ilyesmire számítok. Be lesz a járművekbe táplálva egy halom adat, be lesznek tanítva és a másodperc törtrésze alatt a várható következményeket elemezve a legkevésbé súlyosat fogja választani. Ha tényleg csak a két eset van, akkor ebben az esetben a felnőttet gázolná el, mert annak lenne nagyobb esélye a balesetből kevésbé súlyos következményekkel kijönni.
Amúgy nem felnőtt és gyerek lenne a helyes mérlegelési alap, hanem a fizikai paramétetek: testtömeg, magasság, becsapodás modellezése.

De majd meglátjuk, hogy hova fog ez fejlődni. Valószínűleg az ilyen helyzetek megelőzésére fogják a legnagyobb hansúlyt fektetni.

Ugye igazi mérnök egy sincs köztetek, csak afféle "elméleti" programozó?
Ez a helyzet baromira nem olyan mint a FOR ciklus, hogy ezerszer lefuttatva ezerszer ugyanaz a végeredmény, pontosan megjósolhatóan.

A méréstechnikában nincs olyan, hogy EGYSZERRE. Nincs. Az emberi észlelésnél van, ugyanis ott nagyon komoly holtidők vannak a párhuzamosságok mellett. A mérési zajokról (mindig van, sőt jelentős még ha kicsinek is látszik, tudnék róla mesélni) meg nem is beszélve. Ezért csalóka már a kérdésnek a feltevése is és ezért lesz belőle 15-20 PGDN-nyi fingreszelés.

Azt már sokan kifejtették, hogy a szituáció elő sem áll, mert az önvezető algoritmus nem egy használt BMW-s vagány csávó, aki a helyzet kialakulásának a pillanatában nyom egy zsírosat a Nagy Vasnak, mert ő felsőbbrendű autóban ül (csapott már meg így engem is BMW-s marha, egy másodperc múlva már fogta a fejét, hogy milyen hülye is volt) hanem racionálisan kezd dönteni.

A gépnél - még ha egy gépi ciklussal is, azaz nanosecundumokkal, de - az egyik információ hamarabb be fog futni a döntési pontra és meg is kezdi a folyamatot az elkerülésre. És ebben a pillanatban már nem 50-50% van.

Magyarul: két oldalról berohan "egyszerre" 2 kisgyerek, akkor a gép az egyiket (a mi szemszögünkből random) elkezdi kerülni, de a másikat sajnos el fogja csapni a károk minimalizálása mellett.

Nos ilyen szitu 10 évente ha egyszer elő fog fordulni, akkor sokat mondok. Mármint az egész világon. Na most azon az egy eseten meg reszeljék a fingot a seggfej jogászok, mert közlekedési ügyben sok más dolguk amúgy nem lesz. Mehet is a sóbányába __dolgozni___ az összes.

beszélnék liberálisokkal, és akiket ők előnybe részesítenek....
------------------------
Jézus reset téged

Szerintem meg: Carmageddon mode ON!
Had repüljenek azok a testrészek! :)

Azt a szabályt kell alkalmazni az önvezető autó programozásakor, amit az adott ország KRESZ-e az emberekre is előír. Ha az emberi vezetőkre esetében nem határoztak meg döntési szabályt az elütésre preferáltak életkorára vonatkozóan, akkor ne várjunk ilyet az önvezető autókkal kapcsolatban sem.

Az ember a természeténél fogva, a tanítások, a társadalmi elvárások és hollywoodi filmek hatására képes a gyerek javára dönteni akár nem tudatosan is. Az autóban nem lesz ilyen kódolt vagy betanított dolog. Illetve a kérdés pont azt feszegeti, hogy lesz-e.

--
trey @ gépház

Tapasztalataim szerint az emberek nagyon sokszor hibás döntést hoznak vészhelyzetben. Nem csak az autóvezetés során, hanem az élet minden területén. Nem tudatosan, hanem ösztönösen. Ilyen a természetük.

Egyébként már korábbi hozzászólásomban utaltam rá: El kellene tudni dönteni hogy ki a gyerek. Ez már 10-20 méteres távolságból sem mindig triviális feladat. Pedig ez a távolság egy 50-es tempóval haladó autó esetén nem túl nagy. Amíg erre nincs jó algoritmus, addig a kérdésről nem a programozóknak, hanem a bölcsészeknek kell vitatkozni. Ha lesz is egy jó algoritmus, a döntést akkor sem a programozók, hanem a politikusok fogják meghozni. Tehát ez nem a szoftver írójának dilemmája.

szereljenek az auto elejere, kivulre(!) is legzsakokat. problem solved.

Minden estben mindenkit meg kell kímélnie. A fenti dilemma teljes kizárása nélkül nem közlekedhet autonom gépjármű az utakon. Egy autmata, egy szoftver nem tévedhet.

Ebben annyi igazság van, ha mindenki betartja szabályokat, akkor elvileg NEM FORDULHAT ELŐ baleseti helyzet. Ha viszont valaki felrúgja a szabályokat, az kerüljön hátrébb a túlélési rangsorban.

Ugyanakkor én hozzátenném, hogy a hosszabb fékút végén lévőt céloznám meg, belekalkulálva a célszemély tömegét, ami nagyjából arányos a térfogattal (m*v minimalizálás). Mert nem mindegy, hogy halálra gázolom az elém ugrót, vagy eltöröm a lábát egy ártatlannak, aki 15 méterrel odébb van.

> Sol omnibus lucet.

Ha mindenki betartja a szabályokat, akkor is mind elméletileg, mind gyakorlatilag is előfordulhatnak balesetek.

Általában a szabályrendszerekre igaz, hogy nem tudnak minden lehetséges esetre egyértelmű előírásokat adni. Minél több lehetséges eseményt akarsz lefedni, annál bonyolultabb lesz a rendszer. Ezért aztán a nagyon ritkán előforduló eseményeket nem veszik figyelembe a szabályok megalkotásánál. Olvasmányélményeim alapján a magyar KRESZ sokkal részletesebb, több mindenre kiterjed mint a legtöbb külföldi megfelelője. Ennek ellenére arányaiban még sincs kevesebbet baleset Magyarországon. Pedig a KRESZ készítői, pátyolgatói minden tőlük telhetőt megtettek. Azt tapasztaltam, hogy minél több szabály van, annál nagyobb a hajlandóság az emberekben a szabályok megszegésére.

Hogy visszatérjünk a konkrét kérdésre: A KRESZ nem tárgyalja azt az esetet, hogy ha különböző korú személyek ugranak ki eléd az útra, és a forgalmi helyzet olyan, hogy nem tudsz mindenkit kikerülni, akkor kit hagyj életben. Nem mindegy, hogy van-e útpadka, vagy rögtön egy mély árok van az út mellett. Vagy hogy egy, vagy több sávos az út. Vagy hogy egy motoros, esetleg egy nagy kamion jön veled szemben. Ha egyedül ülsz az autóban, akkor csak a saját halálodat, vagy sérülésedet kell a mérleg serpenyőjébe tenned. Ha a családod is veled utazik, akkor már az ő életük és egészségük is a tét. Utóbbi esetben például nem azzal fog legtöbb ember foglalkozni, hogy hány embert, és konkrétan melyiket üti el, hanem azzal, hogy a családjának a legkevesebb baja legyen. És idő hiányában ez nem egy tudatos, hanem egy ösztönös, tudatalatti döntés lesz.

Például az emberek nem akarnak kiugrani az útra, hanem szabálykövető módon, a járdán gyalogolnak/sétálnak. Aztán út melletti építkezésen felborul egy daru, és mivel az nagyjából hosszirányban a járdára dől, így az egyedüli esély a túlélésre, ha kiugranak az útra. Úgyis felfoghatjuk, hogyha ezek az emberek szabálykövetőek lettek volna, akkor türelmesen megvárják a járdán a halált, de ez nem túl életszerű. Persze mondhatjuk azt is, hogyha a darut szabályosan állítják le, akkor az nem borul fel. De egyrészt a daru felállításának a szabályai nem képezik a KRESZ részét, másrészt már szabályosan felállított daruval is előfordult, hogy felborult.

De ugyanez igaz a törvényekre is. Nem lehet olyan törvényt alkotni, ami minden lehetséges esetre ad konkrét és egyértelmű megoldást. Ha ez így lenne, akkor törvényekkel kapcsolatban a „kiskapu” szónak nem lenne értelme.

+1, nincs tökéletes szabályrendszer (vagy ha van, nincs olyan ember, aki minden szabályát tudná követni).

Egyébként egy nem szabályozott, de mindennapos helyzet: egyenrangú kereszteződésben minden irányból egyszerre érkező jármű (KRESZ 28. §). Nincs leírva, de mindenhol oktatják, hogy ilyenkor a "elmentek a 'csába, oldjátok meg ahogy tudjátok" a KRESZ hivatalos álláspontja és valakinek le kell mondania az elsőbbségéről és ezt a többiek tudtára hozni. Két "márpedig én vagyok a legnagyobb" sofőr találkozásánál simán lehet belőle csatt...

BlackY
--
"en is amikor bejovok dolgozni, nem egy pc-t [..] kapcsolok be, hanem a mainframe-et..." (sj)

Ez nem a szabályrendszer hibája, hanem a közlekedésszervezésé. Az egyik vonalat le kell védeni. Az igaz, hogy egy szabályrendszerben lehet belső ellentmondás, ugyanakkor kizárt dolog, hogy azt ne lehetne felderíteni és feloldani. Egy KRESZ szintű szabálygyűjteményt egy gép tanulás pillanatok alatt megesz.

Az más kérdés, hogy mondjuk rosszul van kitáblázva (vagy éppen nincs ) valami. Ebben az esetben az útvonal üzemeltetője a felelős. Vagyis az a megoldás, hogy az útvonalak jelölését (táblák, lámpák, útburkolati jelek) is az önvezető technológia részévé kéne tenni, sőt a forgalomszabályozást (pl: lámpák) is dinamikusan visszacsatolt rendszerként kéne üzemeltetni (ez utóbbi valószínűleg részben így van).

> Sol omnibus lucet.

A fenti triviális és élő példában mit védesz le? Milyen plusz szabállyal tudod fenntartani, hogy valóban egyenrangúak maradjanak azok a kereszteződések, működjön a jobbkéz szabály és legyen _pontosan egy_ olyan autó, akinek kijelölten elsőbbsége van a többivel szemben, ha minden irányból jönnek.
Lehetne mindenféle rosszabbál rosszabb megoldást adni rá (kezdve onnan, hogy valamelyik irányban más útburkolati jellel kijelölöd, hogy elsőbbsége van, de akkor ezt garantálnod kell, hogy a többiek lássák [és felfestened egy csomó útburkolati jelet, miközben a 30-as öveket többek közt azért imádják, mert nincs szükség felfestére, vagyis olcsó...], vagy mondhatod, hogy az észak felőlinek van elsőbbsége, ami csak tisztán négyzethálós elrendezésnél (New York...) működne biztonságosan, vagy a Szenteshez legközelebb eső autósnak, vagy a rendszámokat lexikografikusan rendezve a legkisebbnek, vagy aki legrégebben áldozott kecskét a téli napfordulón vagy...), vagy be lehet tiltani az egyenrangú kereszteződéseket és körforgalmat mindenhova...

BlackY
--
"en is amikor bejovok dolgozni, nem egy pc-t [..] kapcsolok be, hanem a mainframe-et..." (sj)

_Egy_ kereszteződés biztos olcsóbb, de nincs _minden_ kereszteződésben évi 2-3 baleset, mert 1) ritkán fordul elő a négyes találkozás és 2) az emberek ezt megoldják egymás között. És pont ezért nincs is szabályozva.

Az önvezető autónak viszont jóval részletesebb szabályrendszer kell majd, hogy biztonságosan működjön: például mi minősül "egyszerre"-nek (egy automatika akár ms pontossággal mér időt, de ha a 4-ből csak 1 nem automata, már az ő pár száz ms-es reakcióidejére kell nézni), hány cm távolság (a fel sem festett, képzeletbeli vonaltól!) az, amikor már úgy kell venni, hogy ő benn van a kereszteződésben, stb.

BlackY
--
"en is amikor bejovok dolgozni, nem egy pc-t [..] kapcsolok be, hanem a mainframe-et..." (sj)

Például: az önvezető autók adhoc hálózatban kommunikáljanak egymással. És máris kiderül, hogy van-e nemönvezető rendszerben.

Nézzünk egy konkrét esetet: bejön egy egyenrangú kereszteződésben kváziegyszerre 4 db autó.
Ebből egy nemönvezető. A három önvezető felismeri egymást, kirakják az elakadásjelzőt és rávillantanak a nemönvezetőre. De más, egyezményesített jelet is be lehet vezetni. Egyébként nem is értem miért nincs olyan egységes jelzésrendszer, amely arról tájékoztatja a közlekedés-társakat, hogy lemondtam az elsőbbségről.

Házi feladat: kidolgozni minden kombinációra (két önvezető, egy önvezető) a kommunikációs készletet.

> Sol omnibus lucet.

a mindenki betartja szabályokat, akkor elvileg NEM FORDULHAT ELŐ baleseti helyzet
<snip fél thread>
Házi feladat:

Vagyis van egy szabályrendszer, aminél jelenleg még ha mindenki be is tartja, előfordulhat balesetveszélyes helyzet. Q.e.d :)

Azt pedig, hogy kellenek önvezető járműre külön szabályok, egy-két-tíz országon talán átvered, de az összesen egyszerre nem. És ahány eltérő közlekedési kultúra van (és még kultúrán belül is vannak eltérések: megint sarkítok és általánosítok, de ugyanazon az autópályán, ugyanazzal a H betűs felségjelzéssel megy egy normális autó és egy BMW, a normális autó pillanatra felkapcsolt lámpája azt jelzi, hogy "gyere, beengedlek", a BMW-nél ugyanez a "takarodj előlem"...), a világszinten egyezményes jelzéseknek/megoldásoknak/akármi én semmi esélyét nem látom.

(*ugyanitt új ötlet új szabályra, amit kényszerítenék az önjáró autókra: ha üres a belső sáv és látod, hogy valaki a felhajtón jön, jobbra tarts ide vagy oda, menj be a belsőbe, amíg felhajt az újonnan érkező)

BlackY
--
"en is amikor bejovok dolgozni, nem egy pc-t [..] kapcsolok be, hanem a mainframe-et..." (sj)

Ha a gyerek 12 év alatti, akkor azt, ha a felnőtt nyugdíjas, akkor azt. Ha a gép meg tudja különböztetni a
recesszív letális géneket hordozó egyéneket, a bűnözői hajlammal rendelkezőket és a jogászokat, akkor
természetesen azokat életkortól függetlenül. Semmikép ne üssön el szoftvereseket, és engem.

Egyébként random.

> Sol omnibus lucet.

Összetört luxusautó mellett ácsorog az országúton egy öreg paraszt. Arra jön a rendőr, és megkérdezi
- Mi történt itt, Pista bácsi?
- Erre jött egy politikusokat szállító autó, és felcsavarodott a fára.
- Na, és hol vannak a politikusok?
- Hát azokat szépen eltemettem.
- Mind meghaltak?
- Volt, amelyik azt nyöszörögte, hogy ő még él, de tudja maga is, hogy ezek mindig hazudoznak!

--
robyboy

Egyéb, leírom: mindegyiket. Vicc nélkül.

Az életkor szerintem irreleváns egy ilyen döntési helyzetben. Ha feltételezzük, hogy ez a dilemma van a döntési fa végén és minden más kiértékelés hajszálra ugyanolyan kimenetet eredményez, akkor nem dönthet az automata. Ilyenkor GOTO 1 és újra ki kell értékelni a bemenő paramétereket, egészen addig amíg valamelyik irányban kisebb veszteséget nem számol (mivel feltehetően nem két odabetonozott emberről van szó). Addig pedig a legjobb ha semmilyen manővert nem végez, így gyalogosoknak van lehetőségük elugrani, védeni magukat az ütközéstől, stb.

Többen írták, hogy az automata autó nem kerül baleseti helyzetbe.

Ez jutott eszembe, miközben ezt a videót néztem.

Mit gondoltok, ti el tudtátok volna kerülni ezt a balesetet? Egy automata autó el tudta volna kerülni?

https://youtu.be/wNnAVlHXZQ8?t=3m29s

A balra kanyarodó Ladába hátulról beleszállást? Azt automata nélkül is el lehetett volna kerülni (jobbra és balra is megnyílt a hely, csak a fékről le kellett volna szállni amikor már amúgy sem tapadt a kocsi), de egy önvezető autó akár még a sávon belül maradva is megoldja. Talán még a videó tuskólábú szereplője is, ha van ABS a kocsijában.

Azzal egyébként nem értek egyet, hogy ne kerülhetne baleseti helyzetbe. Akár meghibásodásból, akár más közlekedő hibájából, akár bármi másból előállhat olyan szituáció, ami nem menthető, viszont az önvezető autók remélhetőleg sokkal gyorsabban és helyesebb döntést tudnak hozni nálunk.

"A balra kanyarodó Ladába hátulról beleszállást? Azt automata nélkül is el lehetett volna kerülni (jobbra és balra is megnyílt a hely, csak a fékről le kellett volna szállni amikor már amúgy sem tapadt a kocsi), de egy önvezető autó akár még a sávon belül maradva is megoldja. Talán még a videó tuskólábú szereplője is, ha van ABS a kocsijában."

Aki ráadásul a sarokban található 92 km/h felirat alapján eleve szar féktávot tartott, uh ezt egy önvezető autó jó előre elkerülte volna.

Jobbra a teherautó tényleg nagyon közel volt, de talán még ki tudta volna húzni arra is.
Nekem volt már egy nagyon hasonló balesetközeli élmányem saját figyelmetlenségből. Akkor csak balra, a szemközti forgalomba behúzva lehetett elkerülni a csattanást. Megjegyzem így is lehetett volna tragédia, ha a balra kanyarodó befordul elém és akor nem csak a csomagtartója kerül veszélybe.

Egy önvezető autónál elvárható, hogy ne terelje el a figyelmét semmi és az útviszonyoknak megfelelően válasszon sebességet és követési távlságot, így ki sem alakulhat ilyen szituáció.

ABS: a videón hallatszik, hogy több mint egy másodpercig csak csúszik a kerekein az autó. Ilyenkor a legbutább ABS is elengedi picit a féket, hogy helyreálljon a tapadás és újra lehessen fékezni. Gyakorlottabbak (nem feltétlenül én) ezt lábbal megoldják.

Csak eszembe jutott...Mi van ha az önvezető autó a Lada...
- Elindult volna előre ha érzékeli, hogy hátulról a szerencsétlen már nem tud megállni?
- Mi van ha épp egy zebra előtt homokórázik mert várja, hogy átmenjen előtte a gyalogos(ok)?
1, R és padlógáz - az utasok testi épségét veszélyezteti
2, jobbra fordítja a kereket - felnőttet üti el amikor hátulról jön a csatt
3, balra fordítja a kereket - gyereket csapja el amikor átulról jön a csatt
4, "hipp-hopp bigyó" félreáll (ha tud) és hagyja, hogy a mögötte csúsz autó elüsse a zebrán a gyalogosokat.

Fordítsuk meg a kérdést. Balesetek mindig lesznek, van h. dönteni kell. Te milyen autóba fogod ültetni a családod pár év múlva? Lesz minden gyártóra kötelező érvényű erkölcsi iránymutatás? Ha nem, akkor az a gyártó marad-e fenn, ami az utasait védi maximálisan? Hol van itt az állami/EUs stb. szabályzók felelőssége? Vagy rakhatok majd az ovis gyerekemre feltűnő színű ólomruhát, h. egy AI a gyerekkel történő ütközést kockázatosabbnak ítélje meg egy felnőttel történő találkozásnál? Inkább legyen random...

Úgy programoznám, hogy az értelmes szavazások kiíróját üsse el. Amolyan Carmageddon theme-nek. Amúgy az önvezető autó hogyan döntené el, hogy melyik elütendő a felnőtt, melyik a gyerek? Személyit kér, vagy elhiszi önbevallásra?

„Pár marék nerd-et leszámítva kutyát se érdekel már 2016-ban a Linux. Persze, a Schönherz koliban biztos lehet villogni vele, de el kéne fogadni, ez már egy teljesen halott platform. Hagyjuk meg szervergépnek…” Aron1988@PH Fórum

http://moralmachine.mit.edu/

Töltsd ki a tesztet és gyere vissza az eredménnyel.

Vigyázz! Gyerekek, terhes nők kutyák és macskák is halnak benne!

Ezek kérdések, amik foglalkoztatják a kutatókat és az automatákat készítőket. A kérdésfeltevés formája szándékos volt.

(PS: a Carmageddonban ha jól emlékszem a babakocsis (vagy terhes?) nő elütése dupla bónusz volt!!!!!!!)

--
trey @ gépház

Nem, nem nézem meg, mert baromság. Viszont akkor rossz a kérdés, mert nem arról van szó, hogy az önvezető autónak kit kéne elütni, hanem hogy a szavazó kit ütne el a volán mögött. A valóságban senki nem akar elütni senkit, mikor mégis megtörténik, az meg nem tudatos választás, hanem egy nem kívánt, elkerülhetetlen helyzet eredménye, amiben általában nincs lehetőség mérlegelni vagy korrigálni.

„Pár marék nerd-et leszámítva kutyát se érdekel már 2016-ban a Linux. Persze, a Schönherz koliban biztos lehet villogni vele, de el kéne fogadni, ez már egy teljesen halott platform. Hagyjuk meg szervergépnek…” Aron1988@PH Fórum

Korábban levezettem, hogy milyen értékek mentén kellene a szoftvernek a kisebb kár mellett döntenie.
Azóta elgondolkodtam jobban: a gépnek egyáltalán nem szabadna ártatlanok életét feláldoznia! Ha egy hülye beszalad az úttestre, akkor miért kéne emiatt másnak meghalna! Csak azért, mert rosszkor volt rossz helyen? Ez pont olyan, hogy azért meghala kedvesem, mert egy pont akkor volt mondjuk egy buszmegállónál, amikor egy öngyiljos merénylő robbantott. Az öngyilkos merénylő ellen nehéz tenni, de a gépeket mi tanítjuk, mi programozzuk (mármint a tudósok és mérnökök).
Ha valaki szabályt sért, viselje a következményeit. Persze a gép tegyen meg mindent a baleset elkerülésére, de szándékosan (vagy programozottan) ne áldozzon be mást/másokat.
Egyetlen esetben tudom csak elfogadni azt, hogy a gép dönt afelett, hogy ki szenvedjen súlyos sérülést vagy haljon meg: ha műszaki hiba vagy sofőr hülyesége miatti katasztrófát tud vele enyhíteni, akkor nagyon szigorú szabályok között mérsékelhetné a kimenetel súlyisságát. Pl nem ránthatja félre az utolsó pillanatban úgy a kormányt, hogy elüti azt, aki épp félreugrik a kocsi elől. Tehát elemeznie kellene az emberek reaakcióját és figyelembe venni, hogy ők mit cselekszenek a baleset elkerülése érdekében. Enélkül kb egy gyilkológéppé válna.

Az emberek a baleset elkerülése érdekében általában rosszul cselekednek. Pl. félrerántják reflexszerüen a kormányt, hogy ne üssenek el egy kutyát, ahelyett, hogy fékezés nélkül elütnék, stb...

Szóval nem az emberi reakciókat kell alapul venni az autonóm logika kifejlesztésnél.

--
robyboy

Szerintem úgy értette, hogy a potenciális áldozatok hogyan reagálnak éppen. Mert azért az életszerű, hogy nem várják ki az úttesten hogy melyiküket is áldozza be a kocsi.

Olyan esetben, ha egy szabályosan és egy szabálytalanul közlekedő között kellene választani és nincs más értékelhető infó a választáshoz, én is a szabálytalankodót jelölném ki "célpontnak", de nem büntetésből, hanem mert feltételezem hogy tisztában van a szabálytalanságával és emiatt talán éberebb.

Mondjuk ha az en gyerekemet csapja el egy hasonlo szutyok(pl egy felnott helyett), akkor mindent el fogok kovetni, hogy megtalaljam a fejlesztot. Utana a kerdes eldol, magatol.

Én ilyenkor azt csinálnám hogy "nincs döntés" - és ezt naplóznám is.
Nyilván vészfék, amit az autó megtehet, azt megteszi, de irányt nem változtat - ezzel elkerüli a "döntési helyzetet".

--
Gábriel Ákos

Kedves tray,

Tudtommal az a matrica nem azt a célt szolgálja, hogy jelezze neked, hogy abban az autóban utazik egy gyerek is, aki adott esetben olyan dolgot csinál, amit a szülőnek le kell reagálnia és addig nem tud annyira oda figyelni a forgalomra és a vezetésre. Ezáltal inkább arra hívja fel a figyelmed, hogy egy potenciálisan veszélyesebb járművel/vezetővel állsz szemben, szóval jobban vigyázz...

Kedves hugy,

Biztosan félreértettem akkor a "Baby on Board, Vigyázz Rám!" matricákon a "Vigyázz Rám!" részt. Eddig azt hittem, hogy az a megjelölt autókban levő kölkökre vonatkozik, de mától már tudom, hogy az nem rájuk, hanem Rám! vonatkozik.

Én kis botor! Hogy is gondolhattam volna máshogy! Hiszen oda van írva, hogy "Rám!" :D :D :D

--
trey @ gépház