Berta Sándor

Könnyen becsapható a Tesla autóinak kamerarendszere

A szoftvert egy 5 centiméteres ragasztószalaggal át lehet verni.

A McAfee biztonsági kutatói a Tesla asszisztensrendszerét vizsgálták, hogy az mennyire játszható ki. Nos, kiderült, hogy a közúti forgalomban nem elegendő az, hogy ha az alkalmazott megoldások szó szerint értelmezik a környezetüket, hanem fontos az is, hogy ne legyenek megtéveszthetők. Az emberi sofőrök nem csupán a környezetükre figyelnek, hanem képesek arra is, hogy különböző szituációkat is meg tudjanak becsülni. Ez oda vezet, hogy egy adott környezetben a durva hibákat inkább különleges problémának látják és annak megfelelően kezelik. A valóság ilyen jellegű finom érzékelése az automatizált rendszerek esetében csak nagyon ritkán figyelhető meg.

A különböző helyzetek és hibák nem megfelelő érzékelése és kezelése komoly biztonsági problémákhoz vezethet. A McAfee biztonsági szakemberei a kísérletükben a Tesla Model X és Model S típusú, 2016-os járműveit és az abba beszerelt Mobileye EyeQ3 kamerarendszert tanulmányozták. Az utóbbi többek között a közlekedési táblák felismeréséért felel és látja el az asszisztensrendszert a szükséges információkkal.


A kutatók egy közlekedési táblán, amely a maximális sebességet 35 mérföld/órában határozta meg, a hármas számot leragasztották egy mindössze 5 centiméter hosszú fekete ragasztószalaggal. Miközben az emberek továbbra is megfelelően értelmezték a táblát, addig a Tesla képelemzője úgy vélte, hogy a maximális sebesség nem 35, hanem 85 mérföld lehet óránként. Mindez azt eredményezte, hogy a vezetést segítő asszisztens gyorsítani kezdte a gépkocsit.

Amennyiben egy emberi vezető tévesen értelmezte volna a táblát, akkor sem tartott volna észszerűnek egy ilyen mértékű sebességkorlátozást és úgy vélte volna, hogy minden bizonnyal egy hibáról van szó. Egy számítógép viszont, amelynek hiányoznak az átfogó "élettapasztalatai", nem tud megfelelő következtetésekre jutni. Persze a probléma nem csak a Tesla technológiáját és rendszereit érinti, még akkor sem, hogy ha az aktuális kísérlet a gyártó megoldására vonatkozott.

Hasonlót egyébként már több, mint két éve, 2017 augusztusban is vizsgáltak. Akkor a Washingtoni, a Michigani, a Stony Brook és a Berkeley Egyetem tudósaiból álló csoport rájött arra, hogy elegendő a közlekedési táblákat, illetve azok egyes részeit vagy betűit egyszerűen leragasztani és így máris téves információk jutnak el az önállóan közlekedő gépkocsikhoz. 2018 februárban szintén megerősítette egy kutatási projekt azt, hogy félreértelmezik a közlekedési táblákat a robotjárművek. A Princeton és a Purdue Egyetem munkatársai szerint egy ilyen jellegű támadás 90 százalékban sikeres lehet, még akkor is, ha a fejlesztők nem tekinthetnek be az adott algoritmus forráskódjába.

Hozzászólások

A témához csak regisztrált és bejelentkezett látogatók szólhatnak hozzá!
Bejelentkezéshez klikk ide
(Regisztráció a fórum nyitóoldalán)
  • Gabbbbbbbbbbbb #24
    Normalis esetben latni sem kell a tablat, mert az benne van egy online adatbazisban.
  • mrzed001 #23
    Kezdődik, már megint kezdődik ... jön az önjelölt Lidar "szaki" és ossz(t)a(ná) az eszet.
    Te amúgy elolvasod amit belinkelsz? Azt meg se kérdezem utánajársz-e, vagy szimplán bekapod a médiacumit ... mert egyértelműen nem jársz utána.
    Velobit kérlek vízszintesen 60, függőlegesen 10 fokot lát, és azt is csak 100m-re.
    https://velodynelidar.com/products/velabit/
    Ez kb annyira elég, mint amit írtam kocsi elejére-végére, bal-jobb (össz 4 db) 90 fokkal "sarok mögé benéző" kütyü.
    Ezzel ugyan nem fognak önvezetni a kocsik, egy csak egy "kis" kiegészítő szenzor.

    De hogy egy virtuális pofont is kiosszak: EGY NYAVALYÁS KÖZLEKEDÉSI TÁBLÁT SEM FOGNAK LEOLVASNI !
    Merthogy erről szól ugyebár a cikk. Azaz az egész Lidar nyavalygás és rinya itt full totál OFFTOPIC.

    De ha már itt tartunk továbbra is, mond kérlek, hány LIDAR rendszerű szériagyártású önvezető autó közlekedik ma az utakon ? (élesben, buta user által üzemeltetve) ?!??? Egy se ? How pity ...

    Az autóipar nagyjai már sorra belátták, hogy nem "megelőzniük" kell(ene) tudni a Teslát, hanem legalább a lépést tartani tudni vele.

    Ők már felfogták (ok, hát egy kissé intelligensebbek nálad), hogy bakker ez a Musk ... ez bakker ŰRHAJÓT épít.
    Nem az a max amire képes (mint ők), hogy egy 140 éves találmányt csiszolgat és kerekít és designol és reszel (és a hibrid rendszert is "lopja", mivel a Toyota szabadon felhasználhatóvá tette ... azaz még azt kifejleszteni is túl h-lye), hanem bakker önvezető, önmagától visszatérő űrrakétát tervez és épít fele/harmad/negyed idejében.
    That ain't no rocket science ... ja de wazze, AZ pontosan hogy AZ.
    Na igen, majd meglátjuk ha felszáll az első BMW Heavy ... vagy a Mercedes Falcon [és igen, FEKVERÖHÖG !]

    Haters gonna hate ...
  • defiant9 #22
    "Jajjj, hagyjuk már a Lidar-t !"
    Mondja ezt egy önvezető autó vezető tervező mérnöke. Ja nem egy hozzá nem értő mondja aki okosabbnak hiszi magát ezen mérnököknél, ezzel szemben az önvezető járművet tervezők döntő többsége LIDAR alapú. Elon mindig is különc volt sok mindenben, ez van hogy bejön vagy hogy nem, úgy tűnik ezt most benézte. A LIDAR által adott távolsági információhalmaz olyan mértékben könnyíti meg a szoftveres réteg dolgát ami nem ignorálható. És ahogy az várható is volt szépen elkezdett jelentősen lefelé menni az ára, ami még nem is az a tömegtermelési szintj ami az optika eddigi árelőnyét adja.
    Gopalan thinks Musk is relying on “out of date” information about LIDAR. It’s true that a decade ago LIDAR sensors were too big and too expensive to make them viable for mass consumer application. But things have changed, he argues. “Frankly that ship has sailed,” Gopalan said. “And I think Elon is out of touch.”
  • mrzed001 #21
    Jajjj, hagyjuk már a Lidar-t !
    A Lidar nem más, mint tudod kapni ilyen buta lézeres távolságmérőt. Ebből tesznek 8-16 darabot egymás alá. Majd megforgatják az egészet és 1-0,5 fokonként kapnak belőle 8-16 távolság adatot. Ritka ponthalmaz.
    "másodpercente kilött több ezer lézer sugárral tapogatja le a környezetét."
    Így már érted, miért h-lyeség amit írsz ? Az egész rendszer annyira bonyolult, annyira macerás, annyira kevés adatot szolgáltat, és annyira drága, hogy soha az életben nem fog elterjedni. Zsákutca.
    És hogy a témánál maradjuk, a Lidar ugyebár NEM OLVAS JELZŐTÁBLÁKAT ! Se jól, se félre ... sehogy ... tehát kell mellé a kamerás rendszer szintén.


    "Tesla ... Igaziból egy meglehetősen béna és primitiv sáv és sebesség tartó automatikával van felszerelve, ami probálja megtalálni a jelzőtáblákat és a forgalmi sávokat."
    Ez jó volt [fekveröhög].
    Öregem, te még egy ennél is sokkal bénább (jó esetben alig hibás) 2 kamerás (szemeid) primitív sávtartó elektronikával vagy felszerelve.
    A sebességet meg max saccolod, mert 2 szemed az úton, és nem vagy kaméleon.
    A Tesla ellenben 8 kamera, +radar +ultrahangos szenzorokkal van felszerelve, és minden adatot egyszerre lát és értelmez.
    Neki nem kell félrenéznie az útról, hogy lássa a sebességét (veled ellentétben).
    Szóval hozzád képest a Tesla érzékelő rendszere fényévekkel fejlettebb. Ami a problémás még, az a feldolgozás-értelmezés.
    Az, hogy az elqrt 3-ast ne 8-asnak lássa, nos ahogy Musk mondani szokta egy apró fejlesztés, következő frissítésben benne lesz (mert volt már több ilyen, hiszen friss fejlesztés, és ők gyorsan javítanak és az autóiparban egyedül egy mobilteló frissítésénél egyszerűbb az új dolgok letöltése)

    "de ahogy letérsz valam 20-ad rangú útra világos egyértelműen felfestett sávok és jelzések nélkül megbolondul"
    Tele a YT videókkal, pl elárasztott úton tesztelték userek önvezetve ... gond nélkül
    Szóval ismét, halovány lila gőzöd sincs miről beszélsz.


    Autóút, autópályán már a Tesla egész jó. Ellenben városi közlekedéshez szerintem még minimum 4 kamerára szükség lenne.
    A kocsi elején és végén két oldalt 90 fokban lévő kamerákkal be tudna nézni szűk városi utcákban a keresztutakba.
    Ez most nincs, és ez gáz.
    Most belvárosban pl 2 oldalt parkolnak, 1 sáv, kereszteződés ... nem tudna átmenni rajta, mivel csak a B oszlopba szerelt kamera látna be keresztező (fő) útra ... ahhoz pedig már eléggé be kell lógni a kereszteződésbe.

  • Archenemy #20
    Direkt csináltak a 3-asból 8-ast. Pont ezt írja a cikk is, hogy egy ember _látását_ szintén megtévesztheti a tábla, de egy ember eszét vélhetően akkor sem fogja megtéveszteni, mert rá fog jönni, hogy ezen a terepen, ilyen szituációban nem életszerű a 85-ös sebességkorlát, tehát rossz a tábla.
  • Macropus Rufus #19
    ez igaz. De koszos is lehet az a tábla. A leragasztással valami ilyesmit akartak szimulálni, az már másik kérdés, hogy a leragasztás véget az a hármas erősen nyolcasra kezdett hasonlítani, szerintem ez így nem volt korrekt teszt. Ez kb. olyan mind ha a hármast befejezném nyolcasra. Ez már egy normál sofőrt is képes megtéveszteni. Sztem.
  • duke #18
    Ha az onvezetok eljutnak oda, hogy mar csak a hibas tablak fognak gondot okozni, akkor minden rendben van, mert az egyszeruen megoldhato problema. Tablakon nem csak az ember szamara olvashato modon, hanem elektronikusan is jelolni kell a tartalmat. Valamilyen vonalkodszeru jeloles kene, ami persze tartalmazna digitalis alairast, vagy egyebb hitelesito kodot is.
  • defiant9 #17
    Az azért része a képletnek hogyha valaki ilyet tesz az közlekedés biztonsága elleni bűncselekmény amiért akár 15 év böri is kapható. Jogilag egy kategória azzal mintha olajjal fellocsolnám a kanyart, vagy átkötném a vasúti jelzőt szabadra.
  • gothmog #16
    na ez az, az igo (ill. a térkép alatta) tizenévekkel ezelőtt tudta és mutatta hogy milyen tábla van az út szélén, meg hogy mennyi a sebességkorlát. Mindenféle faszom szenzor nélkül, az adatbázis meg a pozíció alapján.
  • M2 #15
    A jövőben az lehet erre megoldás, ha önmagában a tábla nem érvényes, mert egy online adatbázisban is jelezni kell.
    Ezt igazából már most is be lehetne vezetni, hogy a hatóságok kötelezve legyenek erre, mert emberi sofőr+gps esetén is hasznos. EU miért nem ilyenekkel foglalkozik!?