Berta Sándor

Etikai szempontból vakrepülés az önvezetés

Ugyan már tényleg az utakon vannak, de továbbra sincsenek tisztázva az önvezető járműveknél felmerülő etikai, morális és felelősségi kérdések, mindenki azt várja, hogy az valahogy majd megoldódik.

Az embereknek komoly pszichológiai akadályokat kell legyőzniük ahhoz, hogy önállóan közlekedő autókba ülhessenek be, állítja Iyad Rahwan, a Massachusetts Institute of Technology (MIT) etikaprofesszora, aki a számítógép- és a társadalomtudományok közötti kapcsolatokat kutatja. Szerinte ezt a dolgot mindenki alábecsüli. A járműipar a kezdetekben direkt kerülte ezt a témát, mert bonyolult probléma és ehelyett inkább a műszaki szempontokra összpontosított. A technológiába vetett bizalom viszont nem csupán a műszaki képességektől függ, hanem a téma pszichológiai elfogadásától is.

Amennyiben az emberek nem képesek arra, hogy az életüket egy mesterséges intelligencia kezébe helyezzék, akkor a technikai fejlődés semmit sem ér, hívja fel a figyelmet. Az ügyfelek nem fogják megvásárolni a termékeket és nem éri majd meg az azokba való befektetés sem. Úgy véli, a felhasználók jelen pillanatban még nem állnak készen arra, hogy megbízzanak egy önállóan közlekedő gépkocsikban. Ez részben műszaki természetű dolog: komoly aggályok vannak azzal kapcsolatban, hogy egy ilyen autó képes-e az ipar minden ígéretét betartani.

"Van vagy hét éve, hogy először robotjárműben ültem. Mielőtt az MIT csapatába kerültem az Abu-Dzabiban lévő Masdar Intézetben dolgoztam. Ez az intézmény része egy a sivatagban található fenntartható városnak, amelyet napenergiával látnak el. A céljuk az, hogy a település teljesen szén-dioxid-semleges legyen. A hagyományos autómat minden reggel le kellett állítanom a város határában és egy kis méretű, önállóan közlekedő gépkocsiba kellett átszállnom, hogy eljuthassak az intézetbe, délután pedig a robotjármű visszavitt abba a parkolóházba, ahol az autóm volt. Azok a modellek természetesen sokkal egyszerűbb konstrukciók voltak, mint amiket ma a Google Waymo vagy a Tesla esetében látunk. Nem közlekedtek a hagyományos utcai forgalomban, hanem kizárólag külön erre a célra létrehozott utakon haladtak."


"Ez volt az első alkalom, amikor a témával kapcsolatba kerültem. Eredetileg nem is terveztem, hogy ezt a területet fogom kutatni, ezzel a technológiával eleinte csak felhasználóként szembesültem. Furcsa érzés volt, mert teljesen lehetetlen előrejelezni egy autó viselkedését. Időbe telt, amíg hozzá tudtam szokni a használathoz, míg később már inkább érdekes volt: magammal vittem a barátaimat és a kollégáimat és láttam, hogy ezek a járművek egyrészt csodálatot váltottak ki bennük, másrészt aggodalmakat" - jelentette ki Iyad Rahwan.

Egy másik problémát a morális kérdések jelentenek, elég csak egy elkerülhetetlen balesetre gondolni. Nem csak arról van szó, hogy a jármű ilyenkor vagy ütközik és ilyenkor megsérülhet a sofőr (lásd a pár napja történt koccanást, ahol egy önvezető kisbusz állva várta hogy belemenjen egy teherautó) vagy megpróbálja elkerülni a balesetet, hanem hogy a gépi tanulás miatt nem biztos, hogy azt teszi, amit előre beprogramoztak. Az emberek rosszul érzik magukat, ha belegondolnak, hogy egy gép morális kérdéseket fog megválaszolni, ilyenre korábban sosem került sor. A múltban a gépek segédeszközök voltak, de a közeljövőben hirtelen etikai döntéseket fognak hozni, amihez hozzá kell szokniuk a felhasználóknak.


"Még a vita elején vagyunk. Az autóipar természetesen kész azt tenni, amely társadalmilag elfogadott, de közben még azt sem tudjuk, hogy ez mi legyen. Ezzel kapcsolatban nincsenek felmérések. Ehhez jön még az, hogy az egyes gyártók a saját érdekeiket követik. Természetesen mondhatják azt, hogy úgy programozzák a gépkocsikat, hogy a keletkező kár minél kisebb legyen, de én viszont sofőrként azt szeretném, hogy a járművem az én sérüléseimet mérsékelje. Ez máris egy komoly konfliktus a személyes kívánság és a társadalmilag helyes választás között. Ezt tisztázni kell."

"Már magában az az elképzelés, hogy a gépkocsi adaptívan alkalmazkodik és hozhat olyan döntéseket, amelyek a vezető halálához vezethetnek, félelemmel tölti el az embereket. Mindez a dolog pszichológiai túlreagálásához vezethet. Olyan kompromisszumot kell találnunk, amely elfogadható. Itt nem arról van szó, hogy egy matematikai problémát kell megoldanunk, meg kell találni az egyensúlyt. Sok kérdésben szakértők döntenek, de itt más a helyzet, mert az embereknek világos elképzeléseik vannak a vezetésről, ezért bele akarnak szólni a folyamatba."

"A társadalom hajlamos arra, hogy túlreagálja az autonóm járművek baleseteinek kérdését. Amennyiben sor kerül az első katasztrófára, akkor komoly vita fog kibontakozni. Ez oda vezethet, hogy az emberek megint túlreagálják majd a dolgot és nem fognak bízni a technológiában, annak ellenére sem, hogy objektíven nézve valóban növeli a biztonságot. Az Amerikai Egyesült Államokban a megkérdezettek 78 százaléka mondta azt, hogy nem bízik a technológiában és csak 19 százalékuk nem volt előítéletes. Az autóiparnak csak azt kellene megígérnie, amit be is tud tartani; ez pedig az, hogy a közúti közlekedés összességében biztonságosabb lesz. Teljesen új lehetőségeink lesznek, de kérdés, hogy ezeket miként fogjuk kihasználni" - szögezte le Iyad Rahwan.

Hozzászólások

A témához csak regisztrált és bejelentkezett látogatók szólhatnak hozzá!
Bejelentkezéshez klikk ide
(Regisztráció a fórum nyitóoldalán)
  • esztyopa #69
    Egy igen lényeges szempontot felejtettünk ki az *agyalásból*?Mire a robikocsik általánossá válnak,addigra - valószínüleg-külön fog válni az emberi,hagyományos közlekedés / lábbusz,mozgójárda,stb./ és a
    gépkocsiforgalom.
    Tehát külön utakon fognak közlekedni ! A bamba ember,és az okos robikocsik,akik egymással is kommunikálnak ,nem úgy,mint ma a közlekedők többsége !/az anyázás,dudálás,villogás,K.O....az nem kommunikáció !/
    Nem kell tartani majd attól,hogy egy bepánikolt ember *kitépi a kormányt* a robipilot kezéből,és marhaságot csinál,mivel MINDEN autót robi fog vezetni.
    Ha EGGYÜTT közlekedik a *roncsderbi*minőségű agg kocsi,a normális állapotu hagyományos,meg a robiautó, nem fogja kizárni a sorozatos baleseteket a kevert rendszer.
  • paragic #68
    "Azért nem hiszem, hogy sok olyan ember által okozott baleset volt, aminek a kiváltó oka instant vakság vezetés közben részleges bénulással társulva."

    Dehogynem, úgy hívják, hogy elbambulás.
  • paragic #67
    Nem igazán tudod hogy miről beszélsz.

    Önvezető autó havas úton:

    https://www.youtube.com/watch?v=vShi-xx6ze8

    Önvezető autó éjszaka esőben:

    https://www.youtube.com/watch?v=GMvgtPN2IBU

    Önvezető autó gazzal benőtt utakon:

    https://www.youtube.com/watch?v=-96BEoXJMs0&t=47s
  • NEXUS6 #66
    Akkor most mi legyen? Amíg nincs tökéletes és tökéletesen biztonságos technológia hagyjuk abba a közlekedést en block? De akkor lehet, hogy:
    "Ha a te nézőpontod alapján működnénk, még mindig kb. a kőbalta szintjén lennénk, hiszen mi a fenének kutassunk, fejlesszünk akkor, ha rögtön az első próbálkozás nem lesz 100% tökéletes! Maradjunk a kőbaltánál, az már tuti. " ???;)

    Amúgy nem orosz, hanem baskír légitársaság gépe (orosz tagköztársaság persze), nem UPS hanem DHL, és nem Svájc, hanem Németország felett, de a hír igaz, mert épp svájci légiforgalmi irányítónál volt, amikor csattantak.
    Persze egy példa nem példa, ugye. Gondolom. Csak mert egyrészt ott van rahaedli légiszerencsétlenség, amiből rengeteget meghibásodás, meteorológiai helyzet, meg persze rengeteg igen, amit emberi tényező okozott.
    Meg ott van még rahedli szitu, amiről senki semmit nem tud, mert a meghibásodást, a bonyolult időjárási helyzetet a gépszemélyzet jól reagálta le, és pont emiatt nemkerül be az újságba, a wikire.


    https://en.wikipedia.org/wiki/List_of_accidents_and_incidents_involving_commercial_aircraft
    Ha megnézel 1-1 év légiszerencsétlenségeit, rögtön találsz olyan 1-2-t, aminél a személyzet nem tudta megoldani, de kűzdött, miközben a robotpilcsi feltette a kezét, kikapcsolt, mondjuk pitotcső eljegesedés miatt, és ezt valszeg más robot sem tudta volna megoldani, max előbb földbe viszi a gépet, mint az ember.

    Visszatérve a cikkhez, szerintem olyan technikát vársz el, ami soha nem volt, most sem jellemző, de a jövőben sem lesz, akár repülő, akár autó tekintetében. Nem lesz egyszercsak a teljes gépállomány lecserélve 5. szintű, autóra/repülőre, és pusztán csak gazdasági/pénzügyi okokból nem. Márpedig ha nem, akkor egy ilyen vegyes/bonyolult környezetben viszont lehet, hogy az ember továbbra is hatékonyabban eligazodik, még ha hibázik is, mint a robi.

    Szal én ugyan nem félek a robitól, pl liftet, meg a 4. metrót kötöttpályás úton elég jól elvezet, célhoz talál, de más környezetben még gondjaik vannak. Az embernek is, csak épp az ember fel van jogosítva, hogy autótvezessen önállóan, a robikocsi meg nincs.
    Utoljára szerkesztette: NEXUS6, 2017.11.21. 16:09:27
  • TokraFan #65
    Ezzel viszont egyetértek. Csak akkor működhet igazán jól a rendszer, ha az embert teljesen kivonjuk a képletből. Volt egyszer egy repülőgép baleset Svájc felett, ahol egy orosz gép ütközött egy UPS teherszállítóval. Nem részeltezem mert hosszú történet, a lényeg az, hogy a gépeken volt TCAS rendszer, mely az ütközéseket hivatott kivédeni oly módon, hogy a két gép rendszerei egymással is kommunikálnak, ezzel kizárva, hogy azonos utasítást adjanak a pilótáknak (pl. mindkettő emelkedjen). Éppen ellenkezőleg, ellentétes utasítást kell adniuk, ezzel is növelve a baleset megelőzését. A rendszer hibátlanul működött, a gépek mégis ütköztek, mert az utasszállító pilótája nem a TCAS utasításait követte, hanem a légiirányításét, akik a TCAS-al ellentétes parancsot adtak. Össze is ütköztek és meghalt egy fél iskolányi gyerek és tanár+a két gép személyezet. Tehát az automatika tette a dolgát és megmentette volna őket, ha nem kerül bele a képbe 1-2 ember a hibás döntéseivel (légiirányító+pilóta).

    NEXUS6
    A baleseti statisztikákat ne úgy nézd, hogy eddig meghaltak százezren 1 év alatt, ma meg "csak" kilencvenezren, tehát javul a tendencia, mert ez még így is irtózatosan sok teljesen felesleges halál.
    A robotjárművekkel összevetve a statisztika azon paraméterét érdemes vizsgálni, hogy tisztán műszaki hiba miatt mennyi halálos kimenetelű baleset történik. Így pedig már egészen más képet fog festeni a dolog, mert akkor kb. azt kapnánk, hogy a százezer balesetből kb. 100db vezethető vissza kizárólag technikai okokra (és még ezek jelentős része is csak azért, mert az ember elmulasztotta a szükséges karbantartásokat). Az összes többi baleset emberi hiba (elsőbbségadás elmulasztása, nem áll meg Stop táblánál, gyorshajtás, hibás előzés, ittas vezetés, elalszik éjjel vezetés közben stb. stb.). Tehát gyakorlatilag kizárólag az emberek ölik meg egymást az utakon nagyjából évtizedek óta, paradox módon mégis mindenki a technológiától fél.
  • mizar1 #64
    Az ütközéses balesetek logikailag abban az esetben csökkennének nulla közeli értékre, ha minden autó önvezető lenne és mindet úgy is használnák, tehát nem venné át az irányítást senki a járműve fölött. Erre viszont az esély elég kicsi, illetve csak a nagyon távoli jövőben várható. Amíg emberek is vezetnek, lesznek olyanok, akik balesetet okoznak, akár egy robotjárműnek is. Egy váratlan balesetet egy embernek is nehéz megoldania, egy robotnak szinte lehetetlen.
  • NEXUS6 #63
    Szerintem nagyjából én is ezt írtam ;)

    A VR-nál meg azt nem igazán tudod kiküszöbölni, hogy amikor felteszed az egyensúlyszerved csak néz és széttárja a kezét. Mivel a szemedből és a félkörös ívjáratokból ellentétes infó érkezik az agyad erős idegrendszeri behatásra, mérgezésre tippel. Ezért aktiválja az ilyenkor szokásos eljárást vagy is berókázol. Ezt a mechanizmust tudtommal sem az űrhajósok, sem a tengeribeteg/buszbeteg, sem a részeg embernél még nem igazán tudták hatékonyan elnyomni. Attól, hogy csinálsz egy jobb paraméterű technológiát a hatás nem fog csökkenni. Ezt nagyon senki nem látta előre, hogy ez bizony jelentős hátráltató tényező a rendszer elterjedésénél.

    A robikocsi végső formájánál mondhatni erős hátráltató lehet a piacon, hogy csinálunk egy 5. szintű eszközt, ami a júzer helyett él. Nem segíti, nem támogatja a helyes döntésben, nem csökkenti a rá háruló terhet, hanem gyak helyette él. Ezért nekem erős tippem, hogy a 4. szinten ez a dolog meg fog állni. Az 5. szintű robottaxik meg pont olyan elterjedtek lesznek, mint most a taxik.

    Mindezzel együtt persze a közúti közlekedés biztonsága jelentősen javulni fog, ahogy most is az a trend, de soha nem lesz olyan, mintha az 5. szintű robikocsik általános és kötelező bevezetésével gyak "megszüntetnénk" a közúti közlekedést és átalakítanánk perszonalizált személyszállításra.
    Utoljára szerkesztette: NEXUS6, 2017.11.20. 22:37:54
  • TokraFan #62
    A fejlődés így működik. Nem tudom ti mit vártok, hogy a semmiből hipp-hopp egy tökéletes redszert alkosson valaki? A technológiai fejlődés mindn esetben egy folyamat. Kezdődik az elméleti alapok lefektetésével, majd helyességének bizonyításával, utána következik a gyakorlati alkamazási lehetőségek megteremtése, gyártástechnológiák kialakítása, majd tökéletesítése. Sokszor azért nem fejlődik valami, mert az eszközöket legtöbb esetben különböző technológiák összesége adja, és amíg minden komponens el nem éri a szükséges fejlettségi szintet, addig az eszközt maximum prototipus szintjén lehet a gyakorlatban elkészíteni. Más esetekben a gyártástechnológia nem állt készen, hiába volt meg elméleti szinten minden egy termék elkészítéséhez. Pl. az okostelefonnál is nagyon sokáig az akkumulátor technológia fejletlensége volt a legfőbb gátló tényező.

    Igen, a VR is gyerekcipőben jár még, és igen, bizonyos hibákra/anomáliákra csak akkor derülhet fény, ha már elkészült az első széria. De ez nem hiba, hanem teljesen természetes folyamat, amiből következik a továbbfejlesztés, ahol az újabb verziókban már javítják a megismert hibákat, így tökéletesítve a rendszert. MINDEN amit ma már rutinszerűen használsz, hibák és problémák sokaságán át érte el mai állapotát.
    Ha a te nézőpontod alapján működnénk, még mindig kb. a kőbalta szintjén lennénk, hiszen mi a fenének kutassunk, fejlesszünk akkor, ha rögtön az első próbálkozás nem lesz 100% tökéletes! Maradjunk a kőbaltánál, az már tuti.

    Majd jön a VR-ból is olyan verzió, ami kiküszöböli a hibákat (megjegyzem, már így is irtózatosan sokat kijavítottak és fejlesztettek ahhoz képest, amit a 90-es évek közepén kereskedelmi forgalomban is kapható Forte VFX-1 képes volt nyújtani).
    Az önvezető autót sem holnap akarják bevezetni és borítékolható, hogy az első szériák tapasztalatai alapján sok hibára fog fény derülni. Majd a 2.0-ában kijavítják és kész.
  • NEXUS6 #61
    1953-ban a Firebird II tanulmányautó már sávkövetésre volt képes a tesztpályán. 65 év alatt eljutottunk a 2-es szintig közúton, ami kb ugyan az. Mi a biztosíték, hogy az 5-ig eljutunk 10 év alatt? Én kicsit szkeptikus vagyok. Persze pl a VR technológiát is mostanában csináltuk meg használhatóra. Tehát van olyan hogy áttörés, meg amikor hosszú idő után egyszercsak végre össze jön a dolog. De pl a VR-nál is a legelterjedtebb játékok 1/1 átültetése esetén nagy eséllyel jelentkezik a júzernél hányinger, amire senki nem számított igazán, mert nem volt eddig ilyen minőségű a rendszer. Itt is bejöhet olyan dolog, ami miatt egyszerűen nem működik úgy a dolog, ahogy az a sci-fikben meg vagyon írva.

    Az autók felszereltsége egy dolog, az hogy tudd használni egy másik. Szerintem több embernek van kocsija, akik többet is vezetnek mint régen. Ha emellett még is javul a statisztika az azért is van szerintem, mert az emberek alapvetően nem hülyék. Mert pl. nem tudom mennyit vezetsz, de ki kell ábrándítsalak az ABS nem azért van, hogy rövidebb úton meg tudj állni (ha arra gondolsz), mert a staufékes radírozás lehet, hogy rövidebb fékutat eredményezne. Hanem, hogy fékeztés közben, csúszúós úton is irányítható maradjon a kocsi.
    Utoljára szerkesztette: NEXUS6, 2017.11.20. 16:04:45
  • TokraFan #60
    Mivel csak pár éve kezdték az ilyen irányú fejlesztéseket komolyabban megtolni, mitől lenne "5-ös szintű AI"? Ez időbe telik, de szerencsére a folyamat már elkezdődött.

    Az előző hsz.-ben meg csak azt hagyod ki a képletből, hogy ez is főként a technológia fejlődésének köszönhető. Szervo, ABS, modern gumik, ASR, stb. Egy csomó balesetet ezek védenek ki. Csak az ABS önmagában rengeteg balesetet előz meg, mert néküle az egyszeri sofőr nem tudna megállni. Nem az emberek jobbak, hanem az alattuk lévő technológia. Ennek a következő lépcsőfoka lesz az önvezető jármű.
    Nézd meg milyen szinten volt egy 40évvel ezelőtti Lada 1200, meg egy mai alsó kat. autó. A jobbakról nem is beszélve...
    Utoljára szerkesztette: TokraFan, 2017.11.20. 15:34:10