Berta Sándor

Egyszerűen megtéveszthetők az autonóm autók

Kutatók felfedeztek egy egyszerű módszert az okosgépkocsik összezavarására.

Az önvezetés terén legbátrabban viselkedő Tesla a múlt héten mutatta be a népautónak szánt 3-mas modellt, az S-osztályú Mercedes városok között tud egyedül közlekedni, és olyan óriáscégek tesztelnek régóta zsúfolt metropoliszokban, mint a Google, a General Motors vagy az Uber. A cégek ígérete szerint csak néhány év, és jóval biztonságosabb lesz a közlekedés. Azonban most kiderült, hogy a rengeteg szenzor és a hatalmas számítási kapacitás dacára a számítógépek akár egyszerű mintafelismerés terén elbuknak, ha nem látják tökéletesen az előre beprogramozott dolgokat.


A szoftverek többféle szögből és eltérő távolságból felvett felvételekkel dolgoztak

A Washingtoni Egyetem, a Michigani Egyetem, a Stony Brook Egyetem és a Berkeley Egyetem tudósaiból álló csoport rájött arra, hogy elegendő a közlekedési táblákat, illetve azok egyes részeit vagy betűit egyszerűen leragasztani és így máris téves információk jutnak el az önállóan közlekedő járművekhez. A teszt kiválóan bemutatta azt, hogy a jelenlegi rendszereknek még nagyon sokat kell tanulniuk és egyáltalán nem biztosítanak biztonságos autonóm közlekedést.

Az emberi sofőrök alig veszik észre, ha valaki például fekete vagy fehér csíkokat ragaszt a közlekedési táblákra, ami bármikor előfordulhat, ha belóg egy faág vagy valami miatt összekoszolódik a felület. A gépek kiszúrják ugyanakkor ezeket a dolgokat, de többnyire tévesen értelmezik a látottakat. A szakemberek a gyártók által használt összes rendszert megvizsgálták, mindenekelőtt azt tanulmányozták, hogy azok miként ismerik fel, értelmezik és osztályozzák a videofelvételeket. A megtévesztés olyannyira sikeresnek bizonyult, hogy az utolsó teszten a hibaarány 100 százalék volt, vagyis az alkalmazott szoftverek számára az adott közlekedési táblák felismerhetetlenek voltak.


Szaggatott vonal jelzi egy emberi sofőr érzékelési területét és mindenféle színek az önvezető autók szenzorait

Más esetekben sikerült "bebeszélni" rendszernek, hogy nem egy stoptáblát lát, hanem sebességkorlátozást. Ezeknél az eseteknél az autók 73,33 százaléka tévesen azonosította a látott képeket. A tesztek már csak azért is elgondolkodtatók voltak, mert a táblák szennyezettek lehetnek vagy például be is festhetik azokat. A szakemberek eltérő távolságokból és szögekből is elvégezték a teszteket. Az általános megállapításuk az volt, hogy az emberi sofőrök ezekre a dolgokra aligha figyeltek volna fel, illetve nem bizonytalanodtak volna el. Azonban, ha egy rendszer hibázik és figyelmen kívül hagy például egy stoptáblát, akkor annak komoly következményei lehetnek.

A problémára egyelőre még nem létezik megoldás. A mintafelismerésen mindenképpen jelentősen javítani kell és ajánlott lehet az olyan digitális térképek használata is, amelyeken fel vannak tüntetve a közlekedési táblák - ez utóbbit támasztotta alá Brandon Schoettle is, a Michigani Egyetem Közlekedéskutató Intézetének munkatársa, aki a gépi és az emberi vezetési tudást hasonlította össze egymással. Az eredmény az lett, hogy az önállóan közlekedő gépkocsik sokkal biztonságosabban közlekedtek, mint egy 16 éves kezdő vagy egy 90 éves nyugdíjas sofőr, ugyanakkor sokkal rosszabban, mint egy tapasztalt vezető. Az is igaz, hogy soha nem fáradtak, nem isznak és nem vonják el a figyelmüket a hátsó ülésen randalírozó gyerekek. De az algoritmusok sokszor túlzottan óvatosak, ugyanakkor gyorsan összezavarodnak az általuk átláthatatlannak ítélt helyzetekben, vagy akár egy az utcán átrepülő nejlonzacskó által.


Így lát a Google lidarja egy kutyát sétáltató embert és egy parkoló autót

Az autonóm járművek rendszereinek még hiányzik a kellő tapasztalat a biztonságos és hatékony vezetéshez. Képtelenek megismételni az emberi trükköket és rosszak az élfelismerésben (mikor kezdődik és ér véget egy dolog). Az emberi agy nagyságrendekkel jobb a nagy tömegű információ feldolgozásában és a sok betűt tartalmazó táblák azonosításában. A fix szenzorokkal szemben a nyak forgatható, és az érzékelési holtterek akár az ablakon való kihajolással eltüntethetők. Az embereknek nem kell egyértelmű elválasztóvonal a sávok között haladáshoz, és rengeteg nem-verbális jelet használunk közlekedés közben, kezdve a szemkontaktustól a kézzel való intésig.

Egy parkolóból a zsúfolt útra való kihajtás ma szinte lehetetlen feladat a gépek számára: a számítógép örökké várni fog egy nagyobb résre, ami csúcsidőben akár fél órán át sem fordul elő. Effajta rugalmasságot, a körülményekhez való adaptálódást borzasztó nehéz jól leprogramozni. Mindezek ellenére a gépeknek megvannak a saját előnyeik, mint például az éjszakai látás, amit az embereknél a reflektor 80 méter körül behatárol, míg egy radar akár 250 méterig hatékony, és mindezt 360 fokban. Reakcióidőben sem vagyunk sehol sem, az emberi 1,6 másodperc harmadával lehet egy önvezető autónál számolni. És az emberi szemkontaktust messze meghaladhatja az autók közötti kommunikáció hatékonysága, ha kiépül az ahhoz szükséges 5G mobilhálózat.


Minden érzékelő van amiben rosszul teljesít, de összekapcsolva őket ez semlegesíthető

A tanulmány végkövetkeztetése, hogy a legjobb emberi helyettesítő a szenzorok egyesítése (a különböző érzékelők adatfolyamának közös feldolgozása) és a járművek összekapcsolása. Ez a két technológia egymástól független, és eddig a fejlesztésük is teljesen külön zajlott, az integrációra nem sok figyelmet fordítottak. Azonban ha az önvezető jövőhöz feltétlen szükséges az összekapcsolás is, akkor újabb problémakör jön képbe, mégpedig az adatvédelem. Egy hálózatot jóval nehezebb megvédeni a hackerektől, mint egy önálló járművet, elég, ha az egyik pont nem biztonságos. Ez azonban eddig nem volt fő szempont a gyártók számára, sok modell elég könnyen feltörhető.

Szóval a teljesen önvezető autó még messze nincs kész, és még évekig nem is lesz, de egyre jobbak, és minden embernek nagyon igyekeznie kell, ha később is jobb akar lenni náluk.

Hozzászólások

A témához csak regisztrált és bejelentkezett látogatók szólhatnak hozzá!
Bejelentkezéshez klikk ide
(Regisztráció a fórum nyitóoldalán)
  • esztyopa #46
    Alapvető probléma,hogy a szoftweres,önvezérelt autó téves/hibás infóból nem tud dolgozni ! Hibázik,vagy leblokkol.
    Az ember /még a legbénább sofőr is/ képes értelmezni egy hiányos,vagy téves infót,mivel minden háttérinformációt hozzá tud kapcsolni./Hacsak nem...
    szőke.../
  • M2 #45
    "Vajon ott mekkora lesz az interferencia?"

    Vajon mekkora az interferencia ott, ahol 100 ember is mobilozik egyszerre? Atyavilág! :-)

    Az első megoldandó feladat a legnehezebb: az autónak önállóan, külső segítség nélkül kell közlekednie olyan terepen, amit embereknek építettek és tele is van emberekkel.
    Később aztán jöhetnek az egyre bonyolultabb hálózatok és a kizárólag robotautóknak kiépített infrastruktúrák. A végén már csak el kell hagyni a leggyengébb láncszemet, a zavaró "zajt": az embert. Na az lesz egy érdekes, új korszak...
  • M2 #44
    Rizikós helyzetekben már most nagyságrendekkel jobb az autopilot, mint az átlagos ember.

    Tesla Autopilot saves lives compilation 2017
  • Tetsuo #43
    Márpedig egyszer működhet, de még korai és sokkal több pénzbe / erőforrásba kerül az átállás, mint ahogy azt vízionálták.
  • Tetsuo #41
    +1
  • hungi #40
    Hagyd már abba, nem értesz hozzá és kész!
  • Elmin #39
    "Ha az erzekelok adatai nem fedik egymast, akkor az meghibasodast jelez, az auto azonnal fekez, es biztonsagossan kiall a forgalombol.
    De miutan sok egymastol fuggetlen erzekelo van, es mindegyik duplazva, triplazva van, szinte lehetetlen, hogy annyi erzekelo hibasodjon meg egyszerre, hogy legalabb a veszleallast ne lehessen biztonsagossan megoldani."
    Ez egy autóra igaz lehet, de mi lesz akkor ha 20-30 vagy több 100 ugyanolyan érzékelővel ellátott autó egyszerre "sugároz" egy területen?
    Vajon ott mekkora lesz az interferencia?
    Viszont már megvan az újabb támadási felület amit meg kell oldaniuk, mert autópályán ez végzetes lehet, és másutt is.

    "Nem fog valogatni, MINDENKIJET. A robot elorre gondolkodva, tobb szaz meterre elore tervezve eleve ugy fog vezetni, hogy minden lehetoseget ki tudjon vedeni."
    Ez a programozókon fog múlni, hogy pontosan le tudják programozni HIBA MENTESEN, meg a hardveren, hogy az 100-osan működjön.
    Persze ez nem fog menni gyorsan, és lehet, hogy nem is fog sikerülni.

    Valószínűleg ez alapjaiban megfogja változtatni a városok kinézetét, pl. az utak mellet legalább 5-10 méter üres területnek kell lennie. Nem lehet elektromos doboz, szekrény, villanyoszlop, bokor, az optimális gyors balesetmentes közlekedésért.
  • duke #38
    Az elmult 10 evben eleg sok informacio lett ismert az onvezeto autok mukodeserol, es az erzekelok fajtairol. Szoval anelkul hogy onvezeto autot fejlesztenek, eleg biztos vagyok benne, hogy milyen koncepciok menten fejlesztik az iranyitast. Es pusztan a jozan esz alapjan, ugyan mi maskepp mukodhetnenek az onvezeto autok, mint hogy minden elertheto informaciot felhasznalva elorre tervezzen ? Talan random generatorral fogja meghatarozni, hogy a gyalogost usse el vagy, kamionnal utkozzon ? Nem, hanem ugy vezet, hogy meg elmeleti esely sem legyen ra, hogy ilyen kivedhetetlen szituacioba keruljon.

    "Szerintem az eddigi kísérleti járművek, a szenzorok eddigi magas ára miatt sem voltak ennyire redundás szinten magasan felszerelve."
    Nem hinnem, hogy kulonosebben bizonyitani kene, azt amit mindenki tapasztal mar evtizedek ota, hogy eloszor minden fejlesztes rendkivul draga, aztan husz ev mulva ragogumi melle csomagoljak ajandeknak :) (az elso cd iro 1.5 millio forint volt)

    "akkor vérmérséklettől függően ki előbb ki később kikapja a vezetést a törtymörgő AI""
    Szerintem ezt a valtott vezetest, hamar elfogjak hagyni, mert valoszinuleg ez a legrosszabb kombinacio mind kozul. Ha barmikor atveheti valaki a vezetest, akkor a biztonsagos vezetes koncepcioja, ami a legfontosabb az egesz onjaro autozasbol szunik meg. Ezenkivul amugy is csokkeni fog az emberek vezetesi gyakorlata, tehat plane kerulni kell azt, hogy az ember csak ugy szorakozasbol atvegye a vezetest, vagy netan bonyolult helyzetben a gep adja at neki. Ha megoldhatatlan a szitu, akkor inkabb legyen veszleallas, amig ki nem tisztul a forgalmi helyzet.
  • NEXUS6 #37
    Miért van az az érzésem, hogy ezeket kb. hasból írod és nem egy valós szoftver/hardver tulajdonságait, fejlesztési célkitűzéseit ismerve?

    "Ha az erzekelok adatai nem fedik egymast, akkor az meghibasodast jelez, az auto azonnal fekez, es biztonsagossan kiall a forgalombol."
    Jelenleg szerintem sípol, meg próbálja átadni a vezérlést a humának. Ha nem sikerül persze leáll, de az átadási kísérletek azért rendesen viszik az időt.

    "De miutan sok egymastol fuggetlen erzekelo van, es mindegyik duplazva, triplazva van, szinte lehetetlen, hogy annyi erzekelo hibasodjon meg egyszerre, hogy legalabb a veszleallast ne lehessen biztonsagossan megoldani."
    Szerintem az eddigi kísérleti járművek, a szenzorok eddigi magas ára miatt sem voltak ennyire redundás szinten magasan felszerelve. Ez később persze változhat a szenzorok jóárasításával.

    "Nem fog valogatni, MINDENKIJET. A robot elorre gondolkodva, tobb szaz meterre elore tervezve eleve ugy fog vezetni, hogy minden lehetoseget ki tudjon vedeni. Az ember ugy vezet, hogyha 70 a megengedett, akkor sotetben, onos esoben, kodben is minimum 70-el megy, de inkabb 90-el, mert "joga" van hozza, es leszarja a baleset 2-3 %-os eshetoseget."
    Aha, szóval te így vezetsz! Én mondjuk nem.

    "A robotnak meg, nem fog derogalni 25-re lassitani, ha egy belathatatlan utcasarokhoz kozelit, ahonan kutya, gyerek, biciglis, tolato kamion, barmi kijohet."
    Nézd, ha nem találnak erre ésszerű megoldást, (márpedig egy szinten jogos, hogy ahol lehetetlenség infót szerezni/megállni ott ne száguldozzon az ember), akkor vérmérséklettől függően ki előbb ki később kikapja a vezetést a törtymörgő AI kezéből, még ha ittas is, hogy én is belemenjek egy reális tpapasztalatok nélküli gondolatkísérletbe. Legfeljebb a bekészített vodkára ráhúz, mint Rezesova, és azt mondja, hogy épp akkor nyomta meg az autópilóta bekapcsolóját, mert természetesen ő ittasan nem vezet.

    Csak azt akarom mondani, hogy ha az AI nem lesz legalább olyan jó, mint az organikus és emellett még nem ad valami extrát is, akkor az emberek soha nem fogják használni, vagy legalább is nem teljesen helyettesítve őket.
  • duke #36
    "hogyha egy vagy több szenzor, radar, eltérő adatot ad a központi rendszernek, és egyik szenzor sem jelez hibát akkor a rendszer melyik adat alapján dönt."

    Ha az erzekelok adatai nem fedik egymast, akkor az meghibasodast jelez, az auto azonnal fekez, es biztonsagossan kiall a forgalombol.
    De miutan sok egymastol fuggetlen erzekelo van, es mindegyik duplazva, triplazva van, szinte lehetetlen, hogy annyi erzekelo hibasodjon meg egyszerre, hogy legalabb a veszleallast ne lehessen biztonsagossan megoldani.


    "A másik gond pedig, hogy kinek az életét fogja előtérbe helyezni, az úton közlekedőét, vagy az utasét?"

    Nem fog valogatni, MINDENKIJET. A robot elorre gondolkodva, tobb szaz meterre elore tervezve eleve ugy fog vezetni, hogy minden lehetoseget ki tudjon vedeni. Az ember ugy vezet, hogyha 70 a megengedett, akkor sotetben, onos esoben, kodben is minimum 70-el megy, de inkabb 90-el, mert "joga" van hozza, es leszarja a baleset 2-3 %-os eshetoseget. A robotnak meg, nem fog derogalni 25-re lassitani, ha egy belathatatlan utcasarokhoz kozelit, ahonan kutya, gyerek, biciglis, tolato kamion, barmi kijohet. Plusz a robot, jobban lat, sokkal gyorsabban reagal. Szoval a robot folyamatossan figyel, es minden szazad masodpercben maximum biztonsagra torekszik, igy nem fog belemenni olyan szituacioba, amit nem tud 100 %-os biztonsaggal megoldani.