30
-
esztyopa #30 Kár ezen rugózni.
Ami egyértelmű - akár gép, akár ember dönt- szerintem az,hogy 1 életet,vagy 2 életet mentsen meg.
Morális, szempontból meg hiába veszkődünk,mert fenti szituban még az emberek sem döntenének egyformán.
/Tehát nem irónikus volt a hsz./ -
Fefy #29 "Semmi plusz értéket nem jelent a hasában a purdé, és semmi mínuszt a bácsi életkora."
Nem tudom eldönteni, hogy a hozzászólásod ironikus akar lenni, vagy nem.
Remélem, hogy igen... -
ostoros #28 Ez nem igaz.
Már csak törvényileg sem, hiszen ha már túl van az abortusz engedélyezésének határán, akkor azt a magzatot már jogok illetik meg, nem egyetlen személyről van szó.
Egyébként gyanítom, az adott hipotetikus bácsi jól pofán vágna téged, és inkább mondaná azt, hogy ő haljon meg, mint másik két ember, főleg ha nőről van szó.
Utoljára szerkesztette: ostoros, 2019.06.07. 20:10:44 -
#27
Valóban igaz, még ha 4K kamerával menne is a kocsi, a távolságok miatt (meg a zaj, meg a mozgás) lehetetlen egy távoli személyről megállapítani korát, nemét. Magasságát talán tudja tippelni (ha nem épp lehajol), ennyi.
Az X-box-al (Kinect) ugye az volt a nagy probléma, hogy ráááászistá vúúút, mert a fekete ruhás afrót nem találta meg a sötét szobában.
Tehát magát azt meghatározni sem egyszerű, hogy az ott egy ember-e egyáltalán !!
Lásd ez a poén:
![]()
Viszont, @DRFlame -nek igaza van, hogy kissé agresszívra veszed a figurát.
Ismered a mondást: Ha senki se bánt .... NE ÜVÖLTS ! ;)
Szóval csak lazán. Barátok között vagy ;) (és nem Barátok közt, meg Jóbarátok ... az más :D )
Tehát mennyiségi ÉS minőségi (halottak száma és kora) döntést kellene hoznia egy algoritmusnak (de volt már itt aki a nemzetgazdasági értékét is hozzávette) ... amiből egyre sem képes maga az ember.
Ismét azt látom, hogy isteni képességeket szándékoznak egyesek egy buta gépre testálni. -
VolJin #26 A kismama haljon meg a magzatával, ne az idős ember, ha a kismamaszabálytalansága okozza az elkerülhetetlen balesetet.
Semmi plusz értéket nem jelent a hasában a purdé, és semmi mínuszt a bácsi életkora. -
#25
Nem arrogancia. Műszaki tényleg. Nézd már meg videókon, hogy mit lát és miként értelmezi a dolgokat az önvezető autó. Néhány méteres távolságból tudnád csinálni azt a vizsgálatot, amiről álmodozol. Akkor már régen késő.
Vagy szerited zoom optikás 4k felontású kamerával fog menni az önvezetés? Jaj... -
Fefy #24 Nincs rá megfelelő válasz, de alapvetően én úgy gondolom, hogy ilyen esetben a szabálytalanul közlekedő maradjon ott. Etikailag/morálisan lehet, hogy az öregember jobb (nem a legmegfelelőbb szóhasználat, de remélem a lényeg átmegy) választás, viszont így kismamaként bátran ugrálhatnál a robikocsik elé, úgyis a környező időseket kapná telibe a kocsi (ez kicsit túlzó, de azért remélem átmegy a lényeg).
A fentiek alapján egyébként lehet, hogy megköveznek, de kitartok a véleményemnél. Viszont, hogy ellent is mondjak a saját válaszomnak: ha csak tisztán morális/társadalmi megközelítésből nézem a problémát, akkor az idős embert ütném el, viszont a mérnöki oldalam alapján a kismama a logikusabb választás. Vonatkoztassunk el attól, hogy kismama vs idős ember (mivel szoftveresen valós időben ezt azért még elég nehéz megállapítani egy dinamikusan változó környezetben). Adott egy szituáció: van 1 szabálytalanul közlekedő ember és egy szabályosan közlekedő ember. Melyiknek legyen "jutalom" a biztos életben maradás? Ha a kismama/idős ember faktort kivonjuk a képletből, csak 1+1 emberről beszélünk (kortól, nemtől, mindentől függetlenül), azért igen csak a szabályosan közledő felé billen a mérleg.
A legszomorúbb az, hogy az ilyen problémák esetén mivel emberek vagyunk, nem tudjuk figyelmen kívül hagyni a társadalmi/etikai kérdéskört sem. Enélkül ugyanis maradna 1 szabályosan közlekedő vs 1 szabálytalunk közlekedő. Magunknak viszont generálunk olyan problémát, hogy 1 kismama vs 1 idős ember. Így viszont azt sem hagyhatjuk figyelmen kívül, hogy melyik hasznosabb a társadalom szempontjából: Esetlegesen egy 70 éves top kutatómérnök vs egy 25 éves munkakerülő akinek lehet, hogy lesz egy alkoholista gyereke (durva példa, de ezt a szoftver végképp nem tudja eldönteni, de már társadalmilag is megosztó válasz érkezne a kérdés eldöntésére), de lehet egy 70 éves nyugdíjas már csak hobbiból kertészkedő vs egy későbbi Nobel-díjas gyerekkel megáldott kismama. Valahol szerintem meg kell húzni a határt. Én személy szerint a "darab-darab" szintnél magasabbra nem mennék. Gyakorlatilag így a rendszer jutalmazna is, mivel a szabályosan közlekedő életben marad, a szabálytalan meg előbb vagy utóbb az evolúció martaléka lesz. -
DRFlame #23 Nem kell rádnéznie. Példa volt. Ha nem néz rád kisebb az esélyed, de testtartásból, mozgásból is tud BECSÜLNI. Az ember is csak ennyit tud tenni, és még szarabbul. És ez a lényeg, hogy az embernél jobban meg tudja tenni. Innentől kezdve a fényviszony nem számít, nem néz rád nem számít, távolság nem számít. Vagyis ezek pont annyira számítanak mint az emberi sofőrnél, innentől kezdve lényegtelen. Akár életkori valószínűségi eloszlást is rá tud tenni (a körülményeket figyelembevéve) és várható értéket maximalizálni/minimalizálni. Tehát megvalósítható, csak nem lesz tévedhetetlen. Mint ahogy az ember sem.
Amúgy meg "kurvára" meg kéne tanulnod a másikat nem lenézve fórumoznod. Minden karakteredből dől az arrogancia. Az hogy nem értesz velem egyet az egy teljesen normális dolog, de ahogy kommunikálsz az nagyon gáz. Még akkor is ha igazad van, amiről még messze nem győztél meg. Így persze hamar rövidre lehet zárni egy beszélgetést és mindig "igazad lesz", csak éppen nehezen fogsz bármit is tanulni mástól. Mondjuk neked erre feltehetőleg nincs szükséged, legalábbis ezt gondolod. -
#22
Aha.
Milyen fényviszonyok mellett...?
Mennyi idő alatt...?
Milyen távolságból?
Ki a búbánat mondta, hogy az gyalogos feléd is fog nézni?
Kurvára ne gondoltad ezt végig. -
DRFlame #21 Miért ne lenne megvalósítható? A neurális hálók simán képesek rá. A telefonom helyesen (+/- 2-3 év) megbecsüli az életkoromat az arcomról. Ezek az algoritmusok objektumokat, embereket felismernek, arc alapján azonosítanak. Nyilván nem fogja napra pontosan megmondani a születési idődet, főleg nem távolról, de meglepően pontos becsléseket tudnak adni. Nem látom, hogy ne tudná bekeretezni és felcimkézni az öregembert és a kismamát. Tévedhet, de egy embernél jobb, főleg ha több objektumra kell fókuszálni egyszerre. -
#20
Egymás után haladó autók esetén ... hát nem sok információ amit szolgáltatni tudnának.
Bár van oldalra néző kamera a Tesla-ba is (a B oszlopba), de két autó között annyira kis ideig lát át, csoda lenne ott bármit felismerni.
A LIDAR meg max viccnek jó, nem tárgy/személy felismerésre való (forgó távolságmérő).
" a rendszer milyen alapon teszi fel, hogy a motoros nem fog reagálni."
Egyszerű fizika: motor sebessége, gyorsulása, lassulásához szükséges távolság.
"Az én szavazatom a "nem", mert a motor és motorosa ettől még ugyanúgy eltalálhat az ütközés után bárkit."
Belepréseled a bal oldaladdal a parkoló kocsisorba. Senkit se fog eltalálni.
De nem is ez a lényeg, hanem az etikai és morális dilemma.
Ez esetben még egyszerű is a dilemma, hisz az elkövetőt gátolnád meg tömeggyilkosságban.
Viszont vannak olyan morális szituációs helyzetek, ahol egy ártatlant kellene feláldoznod, hogy megments sok embert.
Pl elszabadul egy busz, egy szakadék felé tart. Mellette mész egy kamionnal. Ha ráhúzod a kormányt a buszt el tudod téríteni, de ott áll egy gyalogos akit így el fog ütni. Mit teszel?
Vagy éppen önmagadat kellene feláldoznod ... ellököd a buszt a szakadéktól, de te így nem tudsz megállni előtte.
Ezek nem olyan kérdések, ahol jó meg rossz válasz van. Minden válasz rossz és minden válasz jó is egyszerre.
A kérdés, hogy miért az a döntésed.
-
#19
Ő úgy gondoltam, hogy az egymás után haladó autók belátnak mindig a szögek miatt, de ez sem igaz geometriailag...
Etikai szempontból a te példád sokkal relevánsabb, csak itt is felmerül az, hogy a rendszer milyen alapon teszi fel, hogy a motoros nem fog reagálni. Az én szavazatom a "nem", mert a motor és motorosa ettől még ugyanúgy eltalálhat az ütközés után bárkit.
Utoljára szerkesztette: molnibalage83, 2019.06.06. 22:19:44 -
#18
"Ekkor egy helyesen viselkedo rendszer feltetelezi, hogy minden jarmu mogott gugol egy-egy gyerek (macska, nyugdijas, t-rex, akarmi) es megprobal eleugrani. "
Félig téves elképzelés. Ugyanazt teszi amit te is, azaz halad a megengedett sebességgel, FÉKKÉSZENLÉTBEN.
És ő gyorsabban vészfékez, mint te.
Nem értem miért akar bárki "isteni" jóslás tehetséget elvárni egy gépi sofőrtől, amikor az emberi sofőrtől nem ?
"Tehat a mozgo auto belathat a parkolok moge a parkolo kocsik szenzorai segitsegevel."
Igen csodálkoznék ha a leparkolt autók szenzorai élőek lennének. Már csak azért is, mert az a kocsi ott állhat és parkolhat az út mellett akár 1 hétig is. Az aksija 1-2 nap alatt 0 lenne, a tulaj meg szidná a készítők jó K.anyukáját (jogosan).
Sőt, kis Yaris kis aksiját még a béna GPS-GPRS távkövető egység is leszívja 12-16 óra alatt ...
Ez tehát hamvába halt öltet (jelen aksi technológia mellett).
Ami az etikai példát illeti, az sokkal jobb, hogy:
2 sávos út, egyirányú (mellette 2 oldalt autók parkolnak), egymás mellett megy 2 kocsi.
Te a jobb oldaliban.
Gyerek átszalad (jobbról balra), és előtted át fog érni, de melletted levő tutira telibe kapja.
Mit csinálsz?
1, Semmit se teszel, melletted haladó elüti, gyerek valószínű meghal
2, Balra rántod a kormány, melletted haladó autót nekinyomod egy álló autónak, ezzel gyerek túléli (de veszélyezteted annak az autónak az utasait, de autóban védve vannak, ők valószínűleg túlélik)
Ennek egy durvább variánsa, hogy úton több ember áll (akár ovis csoport kel át lassan), és egy téged igen nagy sebességgel előző motoros fog közéjük csapódni (elkerülhetetlen).
1, nem teszel semmit, motoros közéjük csapódik, sok ártatlan meghalhat
2, balra rántod a kormányt, amitől motoros álló autóknak csapódik és valószínű meghal, de az úton állók túlélik.
Nos itt az igazi etikai és morális kérdés, hogy megelőzhetsz-e halálos balesetet az elkövető kárára, vagy passzívan figyeled a tömegszerencsétlenség bekövetkeztét amit megelőzhettél volna ?
-
ostoros #17 Amikor? :D
Szerintem az egész technológia úgy ahogy van életellenes.
Egy invazív faj is kiszorítja az őshonos fajokat...
Utoljára szerkesztette: ostoros, 2019.06.06. 17:43:06 -
Nos #16 "Arrol van szo, hogy ilyen esetben nem donthet MI, max. ember." De pont nem errol van szo, hanem arrol, hogy az AI kenytelen donteni. Praktikusan soha nem lesz olyan rendszer az onvezeto autoknal, ahol az AI minden esetben varhat az emberi beavatkozasra. Mar csak a reakcio ido miatt sem. -
#15
A követési távolság miatt ez sem igaz. 1 méteres térközökkel parkoló autók mögé így sem látnak be.... -
kvp #14 "Értem. Ezen az elven akkor az önvezető autók soha nem fognak 10-20 km/h-nál gyorsabban menni ott, ahol autó parkolhat az út szélén..."
Abban a pillanatban, hogy minden (vagy legalabbis a legtobb) auto automatizalt, kepesek megosztani egymassal az adataikat. Tehat a mozgo auto belathat a parkolok moge a parkolo kocsik szenzorai segitsegevel. Ezt kiegeszitve a terfigyelo kamerakkal es a tobbi statikus varosi szenzorral kozel 0-ra csokkentheto a nem belatott terulet. Ahol megis marad ilyen, ott igen, le kell lassitani. (az embernek is le kellene, de nem tartjuk be)
" De itt most arrol van szo, hogy ha az ai mar olyan szituba kerult, hogy a lehetseges dontesek mindenkepp elonyos vagy hatranyos helyzetbe hozzak A szemelyt B-vel szemben, akkor hogyan kellene dontenie."
Arrol van szo, hogy ilyen esetben nem donthet MI, max. ember. Ha ezt alapszabalykent fogadjuk el, akkor minden rendszer eleve ugy keszul, hogy semmikeppen ne kerulhessen ilyen helyetbe. Extrem kockazatkerulo magatartas, de szerintem minden eletkritikus rendszernel ez lenne az alap. -
Nos #13 Persze hogy az a legfontosabb, ezt az egvilagon senki nem vitatja. De itt most arrol van szo, hogy ha az ai mar olyan szituba kerult, hogy a lehetseges dontesek mindenkepp elonyos vagy hatranyos helyzetbe hozzak A szemelyt B-vel szemben, akkor hogyan kellene dontenie. Nyilvan az lenne az egyszeru es kenyelmes, ha ilyen sose lenne, ezzel szemben mindig lesz. -
#12
Szarul.
Én soha nem így gondolkodnék. Maximum a védendő objektum mérte lenne faktor, hogy nagyobb tárgynál nagyobb ütközést engedek meg, de még ez sem jó. Mindenki gyalogost egyformán kell kezeljen a rendszer. A kérdés az, hogy az ütközés sebességét és számát milyen matek szerint csökkentsed. -
Nos #11 Attol hogy ma meg nem megvalosithato, nem okorseg. Az eredmenyek pusztan onmagukban is sokat megmutatnak arrol, hogyan gondolkodunk. -
#10
Igen, és a kérdés feltevése ökörség, mert műszakilag nem megvalósítható. -
Nos #9 Par eve volt egy google kerdoiv, ahol olyan kerdesek voltak pl. hogy ha elkerulhetetlen az utkozes, akkor kit usson el az auto, a szabalyosan kozlekedo oregembert, vagy a piroson atmeno kismamat, stb. Ez alapjan 3 gondolkodastipust kulonitettek el, legalabbis ebben a felmeresben, a link alatt meg lehet nezni a preferencia grafikont, erdekes. https://www.nature.com/articles/d41586-018-07135-0 -
#8
Értem. Ezen az elven akkor az önvezető autók soha nem fognak 10-20 km/h-nál gyorsabban menni ott, ahol autó parkolhat az út szélén... -
kvp #7 "Ez a komment a legtipikusabb hibába megy bele. Ha a gyalogos hozza lehetetlen helyzete a kocsit, akkor el fogja ütni és pont. Ne hibás működés."
Nem egeszen. Ahol van esely ra, hogy gyalogos ugorjon a kocsi ele, ott nem szabad olyan gyorsan menni, hogy eluthesse az emlitett gyalogost. Tipikus pelda az, amikor a jarmu nem latja be 100%-osan a teruletet maga elott, peldaul parkolo autok miatt. Ekkor egy helyesen viselkedo rendszer feltetelezi, hogy minden jarmu mogott gugol egy-egy gyerek (macska, nyugdijas, t-rex, akarmi) es megprobal eleugrani. A maximalis sebessegnek akkoranak kell lennei, hogy biztosan meg tudjon allni, ha a takarasban levo teruletekrol barmi is elekerulne. Ha megadjuk a mozgo targyak maximalis varhato sebesseget, akkor meghatarozhato, hogy honnan johet elore nem lathato akadaly es az mekkora teruletet tud elerni adott ido alatt, amibol mar konnyen szamithato a szukseges fekut a potencialis akadaly minden lehetseges poziciojara ami az auto tervezett utjaba eshet. (ezt a megkozelitest kovetik a Google bohocorru autonom autoi) Egyebkent a fenti megkozelitesbol adodo lassabb csucssebesseget boven kompenzalja a kevesebb megallasbol eredo magasabb atagsebesseg. Jol belathato, emberi vezetoktol mentes helyen pedig meg a csucssebesseg is lehet magasabb.
Es akkor ezzel meg is oldodna az erkolcsi kerdes, mert ha a fenti szabalyokat betartja, akkor a jarmu nem uthet el senkit. Ot ugyen eluthetik mas (embervezette) autok, de azt mar allora fekezve fogja vegignezni, minimalizalva az utkozes erejet.
ps: Tipikus, bar meg egyelore tul buta pelda a Tesla autopilot savvalto rendszere. Az uj szabalyozas miatt ez Europaban nagyon sokszor utasitja vissza a kapott kozvetlen elozesi parancsot, mivel erzekeli, hogy nem bizonsagos a muvelet. Ezt elore jelzi is a vezetonek (pirossal), de ha megis kap ra parancsot, akkor elinditja ugyan a folyamatot, majd tenyleges elozes nelkul torli. Ha pedig megkezdett elozes kozben erzekeli, hogy nem biztonsagos a muvelet akkor azt biztonsagos modon megszakitja, altalaban meg a sav elhagyasa elott. Az emberi vezetokhoz kepes 3-4x-es biztonsagi tavot rahagyva, meg autopalyas savvaltaskor is, mind az elotte, mind a mogotte halado jarmuvek eseten. Tovabba a veszelyes helyeteket mar a kialakulasuk idejen, az emberi felismeres elott jopar masodperccel felismeri es mar el is kezdi a fekezest, pedig sokszor meg hosszu masodpercekig haladnak elotte a jarmuvek a tenyleges baleset bekovetkezeseeig. Es ez egy buta, kezdetleges, jo esetben is csak felautomata rendszer. Egy valodi autonom autonak kepesnek kell lennie a teljes altala belathato kornyezetet kovetni es az osszes be nem lathato helyet felismerni es barmi onnan erkezovel elkerulni az utkozest. -
Ender Wiggin #6 Ha lelépnek az önvezető elé féktávon belül, elüti pont úgy, mint az emberi sofőr... A magyar fejlesztők egyike mondta, hogy az önvezető nem mindenható, csak egy bizonyos, jól paraméterezhető szituáción belül lesz képes optimálisan dönteni. Ha egyszer egyáltalán megvalósul ilyesmi. De amíg nem automatizálják a teljes közlekedést, motorokat, bicikliket (esetleg nekik külön utakat - bár hány motorbaleset előzhető meg ugye önvezető kétkerekűvel :-), addig ilyenről kár álmodozni... -
#5
Ez a komment a legtipikusabb hibába megy bele. Ha a gyalogos hozza lehetetlen helyzete a kocsit, akkor el fogja ütni és pont. Ne hibás működés.
A melyik embert kérdésfeltevés is hülyeség. Az önvezető autó nem tud különbséget tenni. Úgy marhaság ez a megközelítés ahogy van. A válasz sokkal egyszerűbb, mert alapvetően a kérdés az, hogy az autó egy vagy több gyalogos esetén mire menjen rá?
Az ütközések számának minimalizálására? Tehát, ha 1,2,3 ember és az autó és környező tereptárgyak vannak, akkor minimális számú legyen az ütközés? Akkor is, ha ez vagy több résztvevő számára halálos?
Az ütközések száma mellett vagy helyett elsődlegesen a gyalogos vagy a jármű védelme legyen a fontosabb? Az ütközések maximális sebességét csökkentse egy adott szint alá? Vagy, ha egy adottnál ez nem tartható, akkor milyen minimalizálási limit és cél legyen?
Ez a műszaki gondolkodás és nem az, hogy öreg, vagy gyerek. Ezt lehet programozni. -
Akva #4 Remélem a gyilkolásra kifejlesztett algoritmusokkal sem merül majd fel morális probléma! -
DRFlame #3 Azért egy önvezető autó más hibájából is simán kerülhet olyan szituba. Nem tudod kizárni, csak ha el sem indulsz. Egy vétlen sofőr vagy önvezető autó is kerülhet olyan helyzetbe, hogy ilyen döntést kell hoznia. Csak egy ember szerintem leblokkol(hat), míg egy algoritmus határozott döntést tud hozni a programozásának megfelelően. -
#2
Én azt látom, hogy a szintek keverednek. A legegyszerűbb a sima algoritmus, eljárás. Paramétereket, követelményeket júzer megadja, kóder megcsinálja.
A speciális mesterséges intelligencia már összetettebb, képes önmagát fejleszteni, úgy, hogy a megalkotója sincs tisztában a pillanatnyi működésével, de csak egy adott feladatra alkalmas. Kb. itt tartunk.
Az általános mesterséges intelligencia olyan mint az ember, gyak robottestbe ültetett fejlett csetbotokkal szokták demózni, de az nyilván fake. Itt egyszerűen még nem tartunk és évtizedekig nem is fogunk.
Valójában olyan etikai kérdés, ami az alkotótól, a kódertől, a követelmény támasztótól független csak a harmadik szinten merülhet föl.
Ezért pl. egy algoritmussal kapcsolatban etikai kérdésről zagyválni, az csak trendi lekvárzsibbasztás. Kérdezzék a kódert, vagy a megrendelőt, hogy miért baxta el? -
kvp #1 En ugy erzem a hozza nem erto vezetok fejeben kicsit keveredik ket dolog. Egyreszt az algoritmusoknak jonak kell lenniuk, tehat nem hibazhatnak nagyobb aranyban nok eseten, mert a nagy hibaarany hasznalhatatlanna teszi oket. Viszont ez technikai kerdes, nem etikai. Egy jol mukodo algoritmus mindig targyilagos es azt csinalja amire beprogramoztak.
Ha egy kod celja a profitmaximalizalas, tehat mondjuk a legalkalmasabb alkalmazott megtalalasa, akkor nem fog noi vagy kisebbsegi kvotakat betartani az alkalmazottak felvetele soran. Amennyiben viszont az a cel, hogy a kulonbozo politikai, tarsdalomelmeleti, politikai korrektsegi szabalyokat is be kell tartani, akkor valoban szukseg van emberekre akik ezeket kepesek specifikalni a programozok szamara. Viszont ezek nem etikai kerdesek, meg akkor sem ha annak hivjak oket.
ps: Klasszikus etikai pelda amit fel szoktak hozni, hogy egy robotauto melyik embert usse el, tarsadalmi, eletkor vagy rassz szerint. A helyes valasz, hogy ha jol mukodik akkor egyiket sem es minden mas eset hibas mukodes. Tehat egy auto eseten soha fel sem merulhet, hogy etikai alapon dontson, egyszeruen nem csinalhat soha semmilyen olyan dolgot, ami barmilyen etikai dontest igenyelne. Csak es kizarolag a torvenybe iktatott szabalyokat kovetheti es nem okozhat olyan szituaciot ahol barki vagy barmi etikai dontesre kenyszerulne.
