56
-
#56
A gép engedte vezetni magát. Te úgy vázoltad fel, mintha az automata pilóta nem engedné a pilótát vezetni.
A baleset meg abból adódott, hogy szimplán nem értették és mérték fel rendesen, hogy a biztonsági berendezés hogyan működik. Ezen felül nem is azt történt, ami írtál, el sem olvastad? Az állásszög védelemnek rohadtul semmi köze nincs a leszálláshoz. -
stremix #55 Az első automatizált AirFrance gép úgy zuhant le, hogy valójában a pilóta vezette a gépet. Fel akart szállni, de az automata túl kicsinek találta az emelkedési szöget és úy értelmezte a helyzetet, hogy leszállás van. Az automata süllyedni akart, "előrenyomta a botot", a plióta erre felhúzta, és így tovább. Csak pár méteres magasságból, de a pályán túlfutva, tele üzemanyaggal landoltak a fák között.
https://www.youtube.com/watch?v=a5NXpar4Ouw
http://en.wikipedia.org/wiki/Air_France_Flight_296 -
#54
"Igazán? És hogyan fogsz egy 18 éves agyába beleverni 20 évnyi vezetési tudást? Sehogy. A mostani rendszer is milyen jól müködik..."
Igazán. Nézd meg Japánban mi a sebességhatár, meg milyen börtönt és nem bírságot kapnak a gyorshajtók. Boyrécernek nem kell a fejébe verni 20 évet, elég ha a seggét félti és betartja a sebességhatárt. Mondom ehhez nem kell artudetut beülltetni a csomagtartóba.
Amit a forgalomról írsz nagyjából egyetértek. Csúcsforgalomban pl Londonban valahogy 2X akkora a sebesség, nincs hernyózás. Mert pl tudják, hogy a közlekedési lámpa nem azért van magasan hogy elférjen alatta a tejes kocsi, hanem mert így látják a sor végén is, és egyszerre indulnak és nem mint egy leszedált giliszta.
Másrészt meg a forgalomban a hullámok kialakulása nem csak az embertől függ törvényszerűség egy bizonyos sűrűség fölött, az áteresztőképesség maximumánál, max robi kicsit jobban volánoz ezért nem lesz olyan dúrva,, de lesz!
"Ki a f@sz akarja utánozni az emberi agy müködését? El vagy tévedve barátom nagyon. Az emberi agy kétszázezer dolgot csinál, senki nem akarja leutánozni. Pont az a lényeg hogy a gép csak egy dolgot csinál, de azt sokkal jobban. Ez az egész gépesítés lénye, helló ez itt már a 21. század..."
Na most erre tudnék nagyon kioktató stílusban is válaszolni, de nem teszem.
Szal a lényeg, hogy az a szerencsétlen számítógép egy okosótóban marhára nem csak egy dolgot csinál. Figyeli 30 szenzor adatait és Pl mintázatokat keres, namost ebben pl. azonos szilicium lapkán, azonos órajelnél a neuronhálózat jellegű hw és a ráírt program több nagyságrenddel gyorsabb, mint az akár több magos jelenleg elterjedt digitális számítógépek.Lehet ezen vitatkozni, meg lehet ezzel kísérletezni, de fizikailagnem bírja el az okosautó a saját számítógépét: teher, hely, energia. Minek 500W-ot elfüstölni a levegőbe, amikor 5W-ból is kijön?
"persze persze, valami ilyesmit mondhattak az IBM-nél amikor azt jósolták hogy
"Thomas Watson, az IBM fejlesztőmérnöke a számítógépkorszak hajnalán 1943-ban szilárdan hitte, hogy a világpiacon nagyságrendileg öt számítógép értékesíthető" "
Én meg kb erre írtam, hogy nem biztos, hogy az okosautó a megoldás. Ha a fejedben benne van egy olyan biológiai számítógép, amit még nagyon sokáig nem tudunk létrehozni, akkor talán lehet, hogy az lesz a jövő útja, hogy kapsz az agyadra egy portot mint Neo és a kisagyad valami kis nem használt 3 köbmilliméteres részével elvezeted a verdát, miközben relaxászlsz, meg csetelsz, meg akármi. Nem ismerjük a jövő technológiáját, a digitális autó lehet, hogy nem az, csak mi képzeljük annak ;) -
torreadorz #53 "Csak jogalkotói akarat és rendszeres rendőrségi ellenőrzés kérdése. Nagyjából semmibe nem kerül. "
Igazán? És hogyan fogsz egy 18 éves agyába beleverni 20 évnyi vezetési tudást? Sehogy. A mostani rendszer is milyen jól müködik...
"Értem, tehát az a megoldás, hogy kötelezővé tesszük a robotokat, amivel tetűlassúra csökkentjük a sebességet, mert tök hülyék. "
Na látod itt a probléma az emberrel. Nem lesz tetü lassú csak betartja a sebességhatárokat. És ez valójában sokkal gyorsabb lesz, mert figyelem! lehet hogy most újat mondok neked, de az is be van bizonyitva hogy a dugókat az emberek maguk okozzák a követési táv be nem tartásával. Az első fékez egy nagyot a mögötte lévők mégnagyobbat mert nem tartanak követési távot, következményképp néhány száz méterrel viszább már megáll a sor. Naponta tapasztalatom budapesten a gyorsforgalmin 2 km-es dugó majd egyszer csak már 70-el megyek. Se baleset se útfelújítás se semmi, csak a követési táv be nem tartása miatt feltorlódik az egész a fékezgetések miatt.
Meg amikor a fittpaldi lámpától lámpáig repeszt, aztán megfogja a következő piros lámpa, ami miatt meg kell állnia hogy aztán a zöldhullámban jövők ahelyett hogy kényelmes 50-es tempóban átmennének le kell lassítaniuk mert a paraszt ott áll az éppen váltó lámpánál.
"Amúgy meg ha az emberi agy működését utánoznánk, mint legjobb megoldás, akkor miért is jobb az, mint maga az emberi agy?"
Ki a f@sz akarja utánozni az emberi agy müködését? El vagy tévedve barátom nagyon. Az emberi agy kétszázezer dolgot csinál, senki nem akarja leutánozni. Pont az a lényeg hogy a gép csak egy dolgot csinál, de azt sokkal jobban. Ez az egész gépesítés lénye, helló ez itt már a 21. század...
nevetségesek az érveid, egy pár száz kilobájtos sakkprogram keresztbe kasul ver agyon akkor amikor akar úgy ahogy akar. Pedig töredék teljesítménye sincs mint egy emberi agynak. Csak épp ő csak egy dolgot akar jól csinálni, sakkozni. És neked továbbra sincs olyan implantátumod amivel jobban tudnál sakkozni...
Robotautó ugyanez, lehet hogy nem fog tudni keresztrejtvényt fejteni meg az univerzum rejtélyein gondolkozni, de attól még vezetni sokkal jobban fog tudni mint te.
"Itt jön elő az, amit itt valaki már pedzegetett, hogy amíg ilyen szekvenciális jellegű az adatfeldolgozás a jelenlegi digitális hardverekkel, addig mögé rakhatunk egy iszonyat adatbázis, csak mire kikeresi szegény AI a megfelelő megoldást, addigra már a balesetet vizsgáló rendőr is meghal végelgyengülésben"
persze persze, valami ilyesmit mondhattak az IBM-nél amikor azt jósolták hogy
"Thomas Watson, az IBM fejlesztőmérnöke a számítógépkorszak hajnalán 1943-ban szilárdan hitte, hogy a világpiacon nagyságrendileg öt számítógép értékesíthető" -
#52
Értem, tehát az a megoldás, hogy kötelezővé tesszük a robotokat, amivel tetűlassúra csökkentjük a sebességet, mert tök hülyék.
Ezt megtehetnénk robik nélkül is ám! Csak jogalkotói akarat és rendszeres rendőrségi ellenőrzés kérdése. Nagyjából semmibe nem kerül.
"Nyilván rosszabbra nem célszerü, de alapvetően mezei paraszti logikával belátható hogy a gépi rendszer sokkal sokkal jobb tud lenni. Azon egyszerü oknál fogva hogy a gép tudása elmenthető, és bármikor felhasználható. "
Itt jön elő az, amit itt valaki már pedzegetett, hogy amíg ilyen szekvenciális jellegű az adatfeldolgozás a jelenlegi digitális hardverekkel, addig mögé rakhatunk egy iszonyat adatbázis, csak mire kikeresi szegény AI a megfelelő megoldást, addigra már a balesetet vizsgáló rendőr is meghal végelgyengülésben. Párhuzamos adatfeldolgozást lehetővé tevő, az idegrendszer szerkezetét, működését utánzó analog/digitális hibrid informatikai rendszerek kellenének. Amúgy van már ilyen, pl beültethető retina prototipus is. Csak ugye az Intel nem ilyenben utazik, szal nagyjából felejtős az egész.
Amúgy meg ha az emberi agy működését utánoznánk, mint legjobb megoldás, akkor miért is jobb az, mint maga az emberi agy? 10 év múlva lehet, hogy kapsz egy implantot és úgy vezetsz, mint Démonhill, a robikocsik, meg maradnak ugyan olyan bénák, mint most.
Ki tudja!? -
#51
és akadtak olyan baleset szép számmal, mikor a gép nem adta át az irányítást a pilótáknak, ettől meg lezuhant a repülő
Egy ilyet monjd, nekem egy sem jut eszembe. -
torreadorz #50 Maradjunk annyiban hogy évente több százezer ember hal meg közlekedési balesetben. És ezeknek csak egy nagyon apró százaléka az amikor baleset kvázi elkerülhetetlen (müszaki hiba, kiszalad eléd a gyerek takarásból stb). A többi viszont mind mind elkerülhető lett volna.
Szóval a kérdés nem az hogy leváltjuk a tökéletes emberi vezetésü rendszert (lol), hanem az hogy leváltjuk-e azt a rossz rendszert ami évente több százezer ember halálát okozza.
Nyilván rosszabbra nem célszerü, de alapvetően mezei paraszti logikával belátható hogy a gépi rendszer sokkal sokkal jobb tud lenni. Azon egyszerü oknál fogva hogy a gép tudása elmenthető, és bármikor felhasználható.
Ahogy már irtam, az embernél mindig nulláról indul a vezetési tudás, egy gépnél meg már 0 kilométeres kocsiban is 20 évnyi tudása lehet.
Ennyi. -
#49
Szerintem, ha ennyi lenne a kérdés, már 10 éve megoldották volna a közúti kocsiknál. És tartok tőle, hogy egyelőre az egyetlen eszköze ezeknek a kocsiknak, hogy lassan megy, meg nem vállalja be a kockázatot, aztán végül lefékez. De emberként látsz egy idiótát épp féktávolságon belül lelépni, vagy fogalmatlan bicóst (kedvenc) bóklászni az úton, néha célszerűbb gyorsítani, dinamikusan kikerülni nagyívben, mint percekig fenntartani a konfliktus helyzetet hátha eléd esik. Aztán végső esetben ugye bele az álló kocsisorba, léckerítésbe akármibe, aztán kiszálni a fatestápolóval és illedelmesen elkérni a biztosítója számát, meg rendőrbácsit felhívni.
Egy mikrobi majd akkor tud ilyen döntést hozni, ha legalább olyan komplex képe lesz a fizikai környezetről, mint az embernek. Be tud azonosítani egy léckerítést, sövényt, és nem téveszti össze a betonnal, meg látja, hogy jeges az út szal nem fog ráfékezni, vagy a kuplungot kinyomni, meg ilyenek.
Egyelőre még ott tartunk, hogy beazonosítja a szabályos alakzatokat, pl záróvonalat, felező vonalat, táblákat, a bonyolult szitukban meg ezerszer rosszabul teljesít, mint az ember. Persze lesz fejlődés, de egyelőre az az etikai kérdés, hogy az az ember, aki tudja, hogy ilyen szinten alul teljesít a rendszer, adott szituban miért nem maga veszi kézbe az irányítást, vagy a gyártó hogy keltheti azt a téves képzetet, hogy a rendszer egyáltalán kezelni tudja. De ez egyelőre nem a robi etikai dilemmája, hanem a júzeré. -
Ender Wiggin #48 a repülőgépeket soha nem hagyják csak a számítógépe által vezetni (és akadtak olyan baleset szép számmal, mikor a gép nem adta át az irányítást a pilótáknak, ettől meg lezuhant a repülő). pilóták nélkül egyszerűen nem megy. az autók meg x csillió km-t tettek meg, de mindig egyenes, alig forgalmas úton, eső és hó még a közelben sem volt...
"utan ha a gyerekek azt jatszak, hogy a kocsi ele ugralnak, akkor sem fogja oket elutni"
főleg, ha a parkoló autók mögül ugranak ki...ha a lassúság egyenlő a biztonsággal, akkor a gépre nem sok szükség van. -
kvp #47 Pottyos labdas gyerek esetenek kezelese:
if(terkep.lakott_terulet() && (szenzorok.fektavon_belu_van_nem_lathato_terulet(fektav(sebesseg)) || szenzorok.fektav_korzeteben_nem_statikus_objektumok(fektav(sebesseg))) && (max_sebesseg > LEPESBEN)) max_sebesseg = LEPESBEN;
ahol
#define LEPESBEN (5) // km/h
Ezek utan ha a gyerekek azt jatszak, hogy a kocsi ele ugralnak, akkor sem fogja oket elutni, mert az adott biztonsagos sebessegen a proxy szenzor mar meg tudja allitani az autot ha ele kerul valami. (igen, a szel fujta papircsomo vagy egy macska is megallitja, de ezeket sem illik elutni) Ezt meg lehet finomitani, de nem olyan nehez problema. A ne ussunk el semmit kerdese a robotautoknal a legegyszerubbek kozott van es mar a darpa desert challange-en is jol kezeltek. A lampak, tablak felismeresere a google streetview-nal is hasznalt mintailleszto algoritmus tokeletes, tehat igazabol a felfestetlen, kitablazatlan, serult utak jelenthetnek gondot, de csak annyira, mint egy a kornyeket nem ismero emberi vezetonek. Ahol az ember batorsaggal (vakmeroseggel) potolja a tudashianyat, ott egy szoftver ovatossaggal es korultekintessel, tehat megy mint a nyugdijas csiga es mereszti a szenzorait. Lassabb? Igen. Biztonsagosabb? Sokkal!
"Rendőrségi jelentés részlet 2040-ből: A háztartási robot számítógépe elkapta a KillerB vírust, így mosogatás közben késeket kezdett dobálni. Eredmény: három halott. A rendőrség a vírus készítői után nyomoz."
Ez jo, de megfelelo architekturalis vedelem eseten ez kezelheto. Mar most is az lenne, ha a hardver es szoftver gyartok foglalkozanak vele vagy kotelezo lenne hitelesitett szoftvereket hasznalni. (hitelesitett: minden szoftver ala van irva es csak a gyarto altal alairt vagy a telepitessel megbizott mernok altal jovahagyott szoftverek futtathatoak egy adott hadveren) Ez utobbit egyebkent minden ipari, tehat fizikai periferiakat is vezerlo rendszerre kotelezove tennem. A valosagban meg az android is fel van erre keszitve, de a gyakorlatban a gyartok nem elesitik a vedelmi rendszert es ami be van kapcsolva azt is ki lehet kapcsolni menubol. Persze van olyan valtozat ami tudja a fentieket, de az katonai celra keszult. -
#46
pl mikor történ ilyen utoljára? és hány volt az éven? -
#45
Egyetértek.
Plusz, ha már pszichologizálunk. Az igazán morális problémákban mindig van egy csapda. Asimov robotos könyvei is erről szólnak, hogy a legjobb szándékkal megalkotott alapszabályok a robotok esetében erkölcsi dilemmához vezettek. Aztán ezt a dilemmát a robik, az emberhez hasonlóan kreativan oldották meg.
Na a jelenlegi AI szint ettől van a legtávolabb! :)
Kreativitás mi? Höhö... -
xyl #44 A számítógépeknél is volt egy idealizálás, amikor a gépre szinte élőlényként tekintettek. Aztán ma már nagyon sok embernek van gépe és sokkal inkább lehet azt tudni, hogy mire jó és mire nem. A gépet leszállították a piedesztálról.
A robotokat illetően: Van a hardver, meg a szoftver. Annyi, hogy a hardvernél érdemes lenne szétválasztani azt, ami a szenzorok, aktuátorok, stb. része és azt, ami tisztán csak a számítógép.
Szóval: Az egészben a nagy kérdés a szoftver, ami persze a hardvertől nem teljesen független, de ugyanazon a hardveren sokféle szoftver futhat. A szoftver pedig azt csinálja, amire beprogramozták. (Tudom, persze, hogy vannak öntanuló szoftverek, meg miegymás, de azok is ÚGY tanulnak, ahogy beprogramozták). Szóval: szerintem etikus szoftver nincs, csak etikus programozó. És ha majd ezek tényleg működnek a gyakorlatban, akkor derül ki, hogy igen, igen, de ezt és ezt és ezt a kivételt külön le kell kezelni. Mindenesetre, néhány alapelv nagyon sokat segíthet: legyen minden roboton HARDVERES kikapcsológomb, ami az egészet áramtalanítja. Nem ám csak olyan, hogy kiküldöm a parancsot, hogy legyen szíves kapcsolja ki magát. Aztán legyen fizikailag gyengébb az embernél. Meg ilyenek...
Mindesetre, a vírusvédelmet (vagy valami hasonlót) nagyon komolyan kell venni.
(Rendőrségi jelentés részlet 2040-ből: A háztartási robot számítógépe elkapta a KillerB vírust, így mosogatás közben késeket kezdett dobálni. Eredmény: három halott. A rendőrség a vírus készítői után nyomoz.) -
#43
Repülögépeknél sincs olyan összetett AI/sensor rendszer. Ergo ott sem működik. Pedig ott nem kell lekűzdeni az út melletti fákat, elguruló pöttyös labdát meg utána szaladó kispajtit. Max 1-1 másik gép keresztezi az útvonalát, ha a pilcsi vagy irányító elbaxsza. A TCAS ezt talán még megoldja. Nem mindíg.
Ebből azért ne induljunk ki! -
torreadorz #42 Tiszta sor hogy nem holnap fog ez bekövetkezni.
Azonban ez ugyanaz a szitu mint a sakkprogram vs ember. Kezdetben kiröhögték őket, aztán versenyeket szerveztek hogy ki sakkoz jobban, aztán a gép megverte az embert, aztán a sakkvilágbajnokot is.
Ma meg már ott tartunk hogy felrakod a pár száz kilobájtos sakkprogramot a laptopodra és röhögve ver oda-vissza 10-ből 10x.
Egy kicsit komolyabb sakkprogram 1 millióból 1 milliószor megver.
A statisztikánál meg valami nagyon elgurult, vagy csak szándékosan teteted magad hülyének.
Csak magyarországon történik évente 16 ezer baleset aminek 99% emberi hiba. Amit a gép ki fog küszöbölni. Miközben már ma is teli vannak az autók elektronikával, központi számítógéppel és szoftverrel, és mégsem ennek a hibája okozza a baleseteket 99%-ban.
És a dolog újra és újra meg fog ismétlődni, mert hiába van valakinek 30 év vezetési tapasztalata, ha feldobja a talpát és az utána jövő megint nulláról kezdi tanulni az egészet.
Szóval _értsd_: Ha összehasonlítod az egymillió levezetett kilométerre jutó balesetek számát, akkor ha ember vezet akkor lesz X baleset. Ha meg gép akkor lesz X/100. Ennyi.
Persze nem most, hanem majd valamikor 15-20 év múlva. De addig is érdemes megnézni a repülőgépek robotpilótáit, ott már müködik a dolog. És a baleseteknél majdnem mindig az derül ki, hogy a gép helyesen korrigált csak az ember közbeavatkozott és ezzel előidézte a balesetet. -
Macropus Rufus #41 pár szám lemaradt :)
1122 helyett 1122100km -
Macropus Rufus #40 Komolyabb eső, betesz a Google autójának
+ az utak 99%.
" Bár a Google flottája valóban több mint 700 ezer mérföldet tett meg balesetmentesen, a siker valójában nagyrészt a körülményeken és az előzetes felkészítésen múlik. Az MIT Technology Review című lapban megjelent írás szerint a járművek az Egyesült Államok útjainak 99 százalékán egyszerűen képtelenek lennének működni."
"Bár sokan hiszik, hogy a Google már leküzdötte alapvető akadályokat, valójában már egy kiadósabb eső is megakaszthatja az önvezető autó működését, és a járműveket még sosem próbálták ki havazásban."
" és az olyan akadályokkal is megküzdenek (néha), amikre nem készíti fel őket a térkép, például egy közlekedési lámpára, ami nem szerepel az adatbázisban."
és itt még szó nincs arról, hogy kit üssön el illetve kis mentsen meg. Közönséges egy ember számára teljesen hétköznapi dolgokról van szó. Havazás, eső stb...
Régebben írtam, hogy sztem nem normál körülmények közt tesztelik a Google kocsiját. Hát nem is. 1122km előkészített útvonal. Komolyabban még városban sem tesztelték, meg havazásban sem.
Ezért írtam, hogy még 15-20 év talán. -
Macropus Rufus #39 "És persze biztos lesz szoftver hiba, meg hardver hiba, de ezek minimalizálhatók és túlbiztosithatók.
Viszont a szoftver fejlődni fog folyamatosan aminek következtében egyszer csak az a helyzet fog előállni, hogy egy olyan szoftver irányitja a kocsidat aminek a fejében több tudás van mint egy 20 éves rally tapasztalattal rendelkező soförnek."
még valami: mivel a programokat emberek fogják írni, és ugye az ember tud hibázni ezért hibák is lesznek folyamatosan. Elég arra gondolni, hogy a Tesla ModelS kilincsei egy firmware hiba miatt nem jöttek ki az ajtóból, de nem amikor megvetted, hanem idővel jött elő ez a hiba.
Jelenleg sajnos még ott tart a robot autó projekt, hogy egy ködösebb, esősebb időben, meg áll kocsi tudománya. Sok esetben komoly problémának érzékeli az útra dobott papír galacsint is. A havazás meg kész rémálom a számára. Pedig ezek csak szenzorok kérdése. Persze a jövőben lehet, hogy sokkal finomabb lesz az érzékelése, és sokkal nagyobb lesz a vezérlő egység teljesítménye, de akkor teljesen más természetű hibák lesznek. Az ember hibázik, folyamatosan. Max. vannak olyan hibák amik nem számottevőek, és erről nem is szerez tudomást. De egy autó ha hibázik ott akár ember élet is lehet veszélyben.
Véleményem szerint még jó pár évtized mire eljutunk oda, hogy önvezérlő autók legyenek a közutakon. -
Macropus Rufus #38 akkor másképpen fogalmazok: ha a jövőben a kocsikat 100%-ban program vezérli, akkor az esetleges baleseteket 100%-ban valamilyen gépi meghibásodás okozza. Ergo: mivel nulla balesetet követnek el az emberek, statisztikailag az ember jobb sofőr mint a gép.
Mivel most pontosan nulla darab autót irányít a számítógép, ezért statisztikailag kimutathatatlan a hibázásuk, tehát 99%-ban emberi hibára vezethető vissza a balesetek száma. Ezért az, hogy most 99%-ban emberek követik el a hibát, semmit nem jelent arra az időre nézve amikor a kocsik 100%-át gépek fogják vezetni. Akkor az ember lesz - statisztikailag - a jobb sofőr, hiszen nem is okozz balesetet, akár csak most a programok állalt vezetett autó.
-
torreadorz #37 Teljesen jó példa, mivel a müszaki hibát egy gép sem tudja kiküszöbölni. Viszont az csak kb. 1%-ban játszik. A maradék 99%-ot viszont javarészt igen.
Szóval pont ez a lényege a mondanivalómnak, a gép nem fog beleszállni az emberekkel teli buszmegállóba mert elaludt a sofőr a volánnál. Márpedig ez jelenleg évente több alkalommal megtörténik csak magyarországon. A világon meg ki tudja hányszor. -
torreadorz #36 " Szóval az, hogy most statisztikailag ki okozza a legtöbb balesetet semmit nem jelent a jövőre vonatkozólag. "
De jelent. ugyanis a gép nem alszik el, nem bambul el, nem idegbeteg mert a fönöke épp kirugta/asszony megcsalta, nem hiszi azt hogy ő 160-al is tud menni lakott területen belül mert 20 éves hülyegyerek, ráadásul a sokkal fejletebb szenzorai révén sokkal hamarabb észleli a balesetveszélyes helyzeteket. Egy infra szenzorral messziről kiszurhatja a részegen kivilágítatlanul fekete kabátban az út közepén kacskaringozó Józsi bácsit, mig egy ember hiába meresztgeti a szemét miközben a szembe jövő utólag beépített xenonos kisüti az ember szemét. És ha az autók automatikus vészhelyzeti jeladóval is fel lesznek szerelve, a gép már kilóméterekkel odébb észleli hogy a kanyar után/ködben egy lerobbant kamion áll az út közepén és lassít. Sőt ha ez össze van kötve a gps rendszerével, már a kerülőutra is irányitja az autót.
Ezzel szemben manapság olyanok vannak hogy 50 autó összeütközött az autópályán mert a paraszt ment a ködben 160-al 10 méteres látótávolság mellet...
"Pár év múlva a statisztika az lesz, hogy 34%emberi hiba, 66%-k gép hiba"
Nem pár év múlva az lesz a statisztika hogy 100% gép hiba, ahogy mindent a gépet vezetnek.
A különbség nem ez. Hanem hogy most pl. van évente (per has) 1 millió közlekedési baleset, akkor meg lesz mondjuk tizezer és azok kimenetele és kevésbé lesz halálos.
Egyszerüen azért, mert kiküszöbölik azt a 99% emberi hibát ami miatt baleset lesz.
És persze biztos lesz szoftver hiba, meg hardver hiba, de ezek minimalizálhatók és túlbiztosithatók.
Viszont a szoftver fejlődni fog folyamatosan aminek következtében egyszer csak az a helyzet fog előállni, hogy egy olyan szoftver irányitja a kocsidat aminek a fejében több tudás van mint egy 20 éves rally tapasztalattal rendelkező soförnek.
Szóval egyszerüen veszel egy vadiúj autót és azt egy olyan gép vezeti aminek a fejében már 20 évnyi tudás van mert a gyár azt a szoftvert tölti rá egyből.
Mig az embereknél állandóan kezdődik a folyamat előlről a 18 éves hülyegyerekkel aki megkapja az apja kocsiját és azt hiszi hogy ő már tud vezetni... -
Józsibácsi #35 Erre a problémára majd érdemes lesz akkor visszatérni, amikor új generációs kibernetika lesz, és nanotechnológiával, neurális technológiával illetve kvantum-computeres technológiával épített robotokat tudunk tesztelni. (mely utóbbiak ugyebár - már ha lesz végre egy tökéletesen üzemelő kitesztelt prototípus - akár tízezerszeres kód komplexitással bírnak, mint a mai legfejlettebb szuperszámítógép). A mai őskövületekkel felesleges kisérletezni, pontosan azért hezitált és a hezitálás elvezetett az unetikus (?) nem várt döntéshez illetve hibához; tekintve hogy lassú, kevés ideje volt alaposan mérlegeni, egy jövőben (évek-évtizedek múlva) üzembiztosan kiforrottan működő akár nanocomputer, akár kvantumcopmuter illetve neurális rendszer nagyságrendekkel gyorsabb lesz, ezért több ideje lesz az alapos mérlegelésre ilyen döntésnél, továbbá nagyságrendekkel komplexebb is lesz, ergo mint írtam ezer és tízezerszeres hatásfok növekedés lesz... Korai tehát még az ilyen jellegű etikai teszt és azért bukik. De az meg már filozófiai kérdés - és persze a szoftver megalkotóján is állhat vagy bukhat, hogy kvázi "érthetően" kódolja le a gép számára a problematikát - hogy bizonyos szituációban vagyjon valóban helyes-e/etikus-e az embert menteni és nem a gépet..? Tekintve hogy a mi ökölszabályunk, hogy emberélet mindenek előtt és felett, vajon valóban mindent felülíró abszolút etika-e vagy csak a mi szubjektív egosita etikánk? Mi van ha van olyan szituáció, amikor emberi etika ide vagy oda, a gép léte, megmentés lényegesen fontosabb az adott cél érdekében, mint az ott szerencsétlenkedő emberé...? (mi van ha egy gép ezt történetesen HELYESEN ismeri fel, és helyes döntést hoz, hogy nem az embert menti hanem a gépet... annak ellenére hogy humánetikailag hibázott...?)
Egy szó mint száz, ma még ezen a dilemmán korai, és botor dolog túlzottan keseregni... -
gombabácsi #34 huh, el se hinném ha nem látnám, hogy ilyen kutatásokat komolyan etiakai meg ai izének gondolnak az emberek :D értelmiségiek :D -
Macropus Rufus #33 ez igaz. De jelenleg ember vezeti a kocsikat.
Pár év múlva a statisztika az lesz, hogy 34%emberi hiba, 66%-k gép hiba. Ez utóbbi lehet, szoftver fagyás, hardver hiba (ilyen mondjuk most is van, ekkor szoktak x db vasat vissza rendelni), firmware hiba, pl. egy hibás frissítés miatt (ilyen is van, bár nem autóknál. Frissítés után rosszabb mint elötte volt), szenzor hiba/hibák, ez miatt döntés képtelen rendszer, stb. Szóval az, hogy most statisztikailag ki okozza a legtöbb balesetet semmit nem jelent a jövőre vonatkozólag. -
#32
Ez rossz példa, mert az autóknál nincs ma semmiféle MI csak műszaki hiba. Az meg nem MI kérdése... -
torreadorz #31 A gépek statisztikailag jobban döntenek mint mi. Ráadásul szabálykövetőek, tehát már a baleset bekövetkeztének esélyét is leredukálják.
meg lehet nézni a közlekedési baleseteket, 99%-ban emberi hiba. Elaludt a volánnál, elbambult, túl gyorsan ment, nem tartotta be a sebességhatárokat stb. -
torreadorz #30 Dehogynem. Csak az emberek nem igy gondolkoznak, láthatod itt a kommenteket is, a legtöbb ember feltételezi hogy a robot majd szép kis százalékokat fog összerakni. Miközben kb. semmi információja nem lesz a helyzetről szóval per has alapon fog menni minden.
Ez csak azért fontos mert a robotokat el is kell fogadtatni az emberekkel. És bizony az embereknek sokkal irreálisabb elvárásaik lesznek egy géppel szemben mint egy emberrel. -
#29
Cseréld ki a robotot tűzoltóra. Szerinted ez most nem fordulhat elő? -
#28
Akadj már le erről az esélyről. Honnan a faszból szopja az esélyeket a gép...? -
#27
Szerintem meg a gépet nem szabad ilyen döntési helyzetbe hozni. Majd ha ott tartunk, hogy statisztikailag bizonyítottan jobban döntenek mint mi, akkor igen.
Addig emberi élet veszélyeztetése esetén a döntést átadja egy felelős biológiai személynek. Na majd őt aztán szénné lehet perelni. :) -
SupraMKIII #26 Jah, szerintem is előreszaladtunk kicsit... Emlegetjük itt a robotokat, mint valami önálló tudattal és értelemmel rendelkező lényeket - pedig itt csak egy szimpla programról van szó!
Mint programozó, azt mondom, hogy a fent vázolt helyzetet egy hibás software okozta: az első ilyen eset után egy értelmes programozó beletesz egy vizsgálatot, és egy tűrést:
pl. hogy 1 mp után random választ az egyformán jónak tűkő megoldások közzül - mivel a nem cselekvés a legrosszabb az összes lehetőség közzül (ez esetben).
És ezt még lehet fokozni, hogy ha egy irányban van a két esemény, akkor azonnal elindul egy közbenső irányban, és menet közben még gondolkozhat, merre lenne jobb menni. Ez pl. intelligencia. De hol vagyunk még ettől!
Ezek a programok csak intelligensnek látszódnak, de általában csak egy probléma megoldására képesek, és így maximum a programozó gondolkodásmódját tükrözik... -
#25
Őőőő, azt ugye tudod, hogy ilyen nincs. Bármikor kiugorhat féktávon belül eléd akárki, akárhol, úgy hogy nem észlelted előtte, hogy ez fog történni. Akkor is ha harminccal vánszorogsz. A robotautók messzebbre elérnek a szenzoraikkal, de pl. egy betonfal mögül kifutó kisfiúval ők sem tudnak mit kezdeni, ha féktávon belül van. Ha ilyenkor van hely a kikerülő manőverhez, megpróbálhatja, de ha nincs, akkor fékezve ugyan, de telibe elüti a fiút, mert ez a "szabályos" és ez jár a legkisebb kockázattal. Esetleg annyit tehet, hogy próbálja olyan szögben és helyen elcsapni, hogy minél kisebb személyi sérülést okozzon neki. De az már nagyon scifi a mai technikai szinten. :D -
#24
Namost ma meg autóban, amiben van haccá függyönylégzsák, mindegyik gyerek az előírt gyerekülésben ült és mégis ötből négy meghalt a balesetben, hiába is mennek a szülők perre az autógyártóval, légzsákgyártóval és babaülés gyártóval, mivel ha megfeleltek a paramétereknek és az előírásoknak és minden a nagykönyv szerint történt, akkor ennyi. Kész, nincs felelőse a dolognak ezen a téren, mivel MINDEN be volt tartva.
Ugyanígy, ha egy robot megment egy gyereket, másik négy meg meghal, kielemzik a robot tevékenységét (el van tárolva ugye benne) és ha végig az elvárható döntéseket hozta (és újra ezeket hozná) és mindez a törvényekben és szabványokban előírt paraméterek szerint történt, azaz nem fedezhető fel műszaki hiba. AKKOR a gyerekek haláláért nem felelős a gyártó stb.
A gép csak egy pirító, az is leégetheti a házat véletlenül, de ha nem a gyártó hibája, akkor ennyi.
Ha nem így lenne, akkor a világ összes mérnöke már életfogytiglanig tartó börtönbüntetését töltené réges-rég... -
kvp #23 Errol szolt az egyik resz a voyager sorozatban. A hologramos doki kapott ket eletveszelyes serultet es az egyiket megmentette, a masikat nem. Ezek kiakadt a szoftvere, mivel azonos volt a tulelesi eselyuk. A megoldas ott az volt, hogy az egyiket ismerte (o elte tul) es a programjanak a nem orvosi (a tarsasagi interakciok megkonnyitesere tervezett) resze donotott a doneskeptelen szakmai resze helyett.
A valosagban meg csak veletlen fuggveny sem kell. A robot osszeallitja a megmenthetoek listajat es rendezi becsult valoszinuseg szerinti sorrendbe. Ezen a listan kvazi veletlenszeruen lehet ket azonos sulyu elem is, ebbol az elsot fogja eloszor megmenteni. A pozicio nagyjabol az eredeti felismeresi sorrendtol es a rendezo algoritmusok memoria kezelesetol fugg, tehat veletlennek tekintheto. Csak akkor fog egy robot tetovazni, ha arra programoztak. (ez nem biztos, hogy tudatos volt a programozo reszerol)
Egyebkent robotautok eseten a fontos az, hogy a robot mindig szabalyosan kozlekedjen, tehat soha ne menjen olyan gyorsan, hogy az adott szituacioban esetleg felbukkano akadalyokat ne tudja kezelni. Tehat a jo robotauto soha nem megy olyan gyorsan, hogy felre kelljen rantania a kormanyt. Ez egy egyszeru es buta szabaly, de nagyan leegyszerusiti a programok fejleszteset. A fenti szabaly alapjan egy jatszoter vagy barmilyen nem zartpalyas varosi utca eseten ez olyan max. sebesseget jelent, hogy ha direkt egy parkolo auto mogott var egy gyerek, hogy a legrosszabb pillanatban eleugorhasson, akkor se usse el. Idealis esetben minden emberi vezetonek is ilyen tempoban kellene haladnia, persze ezt szinte senki nem tartja be. Igen, a jo robotautoktol lassabb lesz a kozlekedes, de a nagy sebessegre ott vannak mar most is a zartpalyas rendszerek es az autopalyakbol is lesz ilyen zartpalyas (szogesdrottal, betonfallal lezart), csak robotautoknak keszult nagysebessegu utak, ahol minden mozgo targy palyaja ismert minden jarmu elott. -
lammaer #22 És máris eljutottunk oda, hogy simán lehet hogy nem a gyereket menti meg :D -
torreadorz #21 Ez igy jól hangzik, csak ha egy csapat 5 éves ovodás bennég egy épület tüzben és a robot csak egyet tud megmenteni és a robot pénzfeldobás alapon kihoz valakit akkor utánna nem fog 80 feldühödött szülő nekiesni a robotnak vagy a robotot üzemeltető társaságnak vagy a gyártónak hogy miért nem az ő gyerekét?...
Nem olyan egyszerü ez, a filmbeli példa tulajdonképpen pont erről szól, csak ott pont a megmentett méltatlankodik.
és akkor arról még nem beszéltünk hogy persze random, de mikortól is kezdesz el random választani? Az egyik embernek 85% esélye van a túlélésre a másik 87% akkor melyiket?
Figyelembe véve hogy mindez egy csomó ismeretlen becslésen alapul (hisz a robotnak k.rvára nem lesz infója arról hogy az egyik ember pl. rákos és fél éve van hátra a másik meg egészséges, vagy hogy pl. melyik mióta lélegzi a füstöt mert mindkettő eszméletlen) elég nagy a hibaszázalék.
Szóval mondom bonyolult ez, persze amikor egy 90 és a halál közti ember vs kisgyereket kell megmenteni egyszerü a választás, de amikor azonos emberek vannak minimális eltéréssel a túlélési esélyek közt akkor már nem annyira. -
#20
Hát ez murva 1xű, ha mindenre azonos esély van, akkor random választ egyet oszt haller. Nem kell rajta tökölni. Példánkban, ha két idióta megy a szakadék felé és csak egyiket érheti el a robi, de nem kapott semmilyen súlyozott adatokat egyikről sem, hogy melyiket "érdemes"-ebb megmenteni, akkor megmenti egyiket random. Vagy azt akit kevesebb energiából meg lehet menteni és közben legkevésbé kell veszélyeztesse saját magát stb. (más alacsonyabb rendű szempontok, amik addig nagyon kis súllyal estek latba). Neki ugyanis tök8 melyik és, melyik hal, ő aztán nem fog bűntudatot érezni. -
torreadorz #19 Azért ne felejtsd el, nagy különbség van aközött hogy a robot kihúz valakit a vizből (élve vagy halva) meg aközött hogy tényleg megment valakit (életben marad).
Tehát ha a filmbeli esetet vesszük, ha a robot engedelmeskedik az embernek akkor sem (feltétlen) tudja megmenteni a gyereket mert az megfullad addigra. És máris megint bejött a fizika, az emberi test x ideig birja levegő nélkül, gyerek kevésbé, felnött tovább. Tehát még ha a robot bármelyiket ki tudja húzni a vizből akkor is ott a probléma, hogy egyik esetben egy halottat fog kihúzni, miközben a másik is vizbe fullad...
Ugye a filmben azért a csákót húzta ki mert neki nagyobb esélye volt a túlélésre a robot szerint, és persze ez egy film és minden fikció, de azért feltételezhetjük hogy nem 1-2% különbség volt a túlélési esélyekre.
Egyébként a leginkább érdekes kérdés, hogy akkor mi van ha tényleg csak 1-2% eltérés vagy semmi eltérés nincs a túlélési esélyek között. Szóval hogy a robot biztosan csak az egyiket tudja megmenteni viszont ugyanakkora a túlélési valószinüség, ez esetben melyiket választja.
Viszont ez embereknél is gond, és biztos hogy előfordult már a modellezett helyzet is, miszerint mindkét áldozat meghalt mert a megmentő nem tudott dönteni. -
#18
Arra lennék kíváncsi, hogy mi lenne akkor, ha két robot lenne arra állítva, hogy megmentse az embert ... és nem csak a lyuktól, hanem minden esetleges támadástól/sérüléstől, mint pl amit maga a robot tud tenni mikor 'megment'. Lehet végiglökdösnék oda vissza szerencsétlent a fél pályán, hogy egymástól védjék :) -
#17
Márelnézést nekem plakettmakettem is van róla, hogy ipari robotokon végeztem vaze. :D Merthogy duplaszakos dipim van, Folyamat és Gyártásautomatizálás és Ipari Robotok (és volt neurális hálózatok extra szakom is mellette stb. ahogy kell). Én ugye programoztam, használtam stb. ipari robikat anno. De a diplomamunkám is velük kapcsolatos. Szal. elviekben én itt szakértőnek vagyok tekinthető, vagy se. :DDD