Berta Sándor

Elon Musk továbbra is veszélyesnek tartja a mesterséges intelligenciát

Az üzletember még mindig óvatosságra int a technológia kapcsán, de nehéz nem arra gondolni, hogy csak túl sok sci-fit néz a tévében.

A Tesla autógyártó cég vezetője és egyben a SpaceX magán-űrügynökség alapítója már 2014-ben azt mondta, hogy nem árt óvatosnak lenni a technológiával kapcsolatban és ha meg kellene határoznia, hogy mi jelentheti a legnagyobb fenyegetést az emberiségre nézve, akkor valószínűleg a mesterséges intelligenciát választaná. Nos, a menedzser álláspontja azóta sem változott. Az üzletember a National Governors Association nevű szervezet találkozóján közölte, hogy a mesterséges intelligencia alapvető kockázatot jelent az emberi civilizációra nézve, ráadásul olyan mértékűt, amilyet az autóbalesetek, a repülőgép-szerencsétlenségek, a kábítószerek vagy a mérgezett ételek soha nem jelentettek.

Beszéde szerint hozzáférése van a rendkívül korszerű mesterséges intelligencia-rendszerekhez és hiszi, hogy az embereknek aggódniuk kellene. A megoldást a szabályozás jelentheti, amely az állam kötelessége lenne. A mesterséges intelligencia az egyik olyan terület, amelyet utólagos követés helyett proaktív módon kellene szabályozni. Amennyiben ugyanis az emberiség a más ágazatokban megszokott módon, ezen technológia kapcsán is reaktív módon, több éves késéssel fog reagálni, már túl késő lesz. Érdemes kiemelni, hogy mindezt 30 amerikai állam kormányzója előtt mondta el, őket akarja meggyőzni a cselekvés szükségességéről.


Musk a 27. percnél kezd beszélni

A Tesla vezetője szerint egy hálózatokban létező mesterséges intelligencia háborúk indítására is képes lehet álhírek, hamis e-mail címek, ál-bejelentések és az információk manipulálásának a segítségével. A technológia képes egy konfliktusos régióba átirányítani egy utasszállító repülőgépet és a földi csapatoknak parancsot adni annak megtámadására. A háttérben lévő motiváció lehet akár a hadiipari cégek részvényprofitjának növelése vagy a fogyasztói javakat gyártó vállalatok profitjának csökkentése. Ezért van szükség olyan törvényekre, amelyekkel szabályozható a technológia fejlesztése.

A menedzser beszélt a hálózatba kötött és önállóan közlekedő autók elleni hackertámadások veszélyeiről is. Egyetlen biztonsági hiba különösen érzékenyen érintheti egy gyártó teljes járműflottáját. Amennyiben valaki képes lenne feltörni az összes autonóm Tesla gépkocsit, akkor - poénból - elküldhetné azokat Kaliforniából végig az Amerikai Egyesült Államokon keresztül egészen Rhodes Islandig, és ez a Tesla végét jelentené. Éppen ezért számos védővonalat építenek a lehetséges támadások ellen, így például a meghajtó- és a fékrendszereknek is saját külön titkosítási szintjeik vannak.

Egyébként a fenntartható energiával hajtott jövő eljövetelét csak idő kérdésének tartja, és űrcégével az élet más bolygókon való elterjesztése a célja.

Hozzászólások

A témához csak regisztrált és bejelentkezett látogatók szólhatnak hozzá!
Bejelentkezéshez klikk ide
(Regisztráció a fórum nyitóoldalán)
  • esztyopa #12
    Félelmetes az,hogy az MI-t nincs SEMMI,aki korlátozná a rossz parancsok végrehajtásában /pláne ha a *rossz*paracsot az önálló MI adja ki - SAJÁT MAGÁNAK !/
    Az emberek úgy tanultak meg közösségben/társadalomban élni,hogy az interakciójuk során kialakultak a természetes erkölcsi/etikai *korlátok*+ a törvények,és retorziók.
    Tepernek az MI fejlesztésében,hogy tanuljon trükközni a feladat végrehajtásában,de nem tudják az MI erkölcsi/etikai viselkedését *beprogramozni*,mert az specifikusan emberi sajátosság !
    Summa,summarum - az MI fejlesztése *visszaüt*.
    Most már nem egymást fogják pusztítani az emberek,hanem őrült tempóban fejlesztenek egy eszközt,ami megoldja helyettük az emberiség kipusztítását.
    Legjobb esetben egy kollektív *állatkert* lakói leszünk,akiket a gépek etetnek,gondoznak...talán...de kizárnak a döntésekből !
    De végül is,ha eljutnak ide,akkor mi szükségük lenne a célszerűségi alapokon működő gépeknek az emberre?
    Reménykedjünk,hogy talán idejében felismerik a profithajhász elmebetegek,hogy az MI-fejlesztése nem más,mit a Pandora szelencéjének *felfeszegetése* !
  • Skylake #11
    És még ott van egy tényező.

    Engem és másokat emberként bizonyos tettek elkövetésétől meghatározott társadalmi intézményrendszerek életemre való hatása tart vissza. Így például, ha a „lopás” bűntettét sikerül rám bizonyítani, akkor fogház vagy börtön kategóriás szabadságvesztést kaphatok. Ez tartalmában olyan retorzió, amely emberi nézőpontból nagyon kellemetlen, mert a maslow-i szükségletek meghatározott részének kielégítését akadályozza meg. Ha meg embert ölök, akkor ez a retorzió fegyházbüntetésben képeződik le – ez ugye a harmadik, keményebb fokozat. Mindez azért érvényesíthető, mert ember vagyok, halandó vagyok, és emberi tényezőimet korlátozzák le ezek a retorziók, meg azért, mert ez okból jogképes vagyok.

    Ezzel szemben hogy büntetünk egy autonóm robotot? Lekapcsoljuk az áramot? Volt- nincs működése. Frissítjük a szoftverét? Nincs tudata, ezért ezt bármikor és akárhányszor megtehetjük. Olyan működési paramétereket állítunk be, amire az eszközt kontrolláló által igény van. Semmiféle eszközünk nincs arra, hogy bármiféle olyan kontrollt gyakoroljunk az eszközön, ami hasonlít az emberihez, amelyhez igazítani fogja viselkedését, a számára lehetséges kellemetlen következmények miatt, ami emberi mércékkel összemérhető. Mivel nem halandó. Csak egy szofisztikált gép lesz, ami emberi működést utánoz – sok esetben jobb teljesítménnyel, mint egy ember, ugyanabban a műsorszámban. Minket összességében a saját halandóságunkra irányuló fenyegetések kényszerítenek be egy közös működésmódba, amit társadalomnak neveznek. Őt, mivel nem halandó, semmi ilyen kényszer nem kötheti. Csak ezeket szimuláló szoftverkód tetteti annak – ami, mivel szoftver, törhető is.
  • paragic #10
    Érted, tisztán látja a problémát, a világ összes erőforrása rendelkezésére áll hogy megoldja a problémát, de inkább nyafog... Na persze a Teslában van most a pénz... Kapitalizm rules....

    Épp ellenkezőleg, Musk az OpenAI egyik alapítója és igazgatója. Az OpenAI egy nonprofit szervezet, melynek célja, hogy biztonságossá tegye a mesterséges intelligenciát.
  • kvp #9
    Ket konkret peldat hozott fel. Ebbol az egyik a sajat termekukkel valo visszaeles lehetosege es egy mar azota befoltozott biztonsagi res, tovabba attol valo felelem, hogy maradt meg par.

    Itt az MI nem jelent veszelyt onmagaban, csak az a gond, hogy a robotok vegrehajtjak a parancsot. Egy kozkatona nem biztos, hogy tuzet nyit a fegyvertelen tomegre (azert nallunk mar volt ra pelda), de egy robot vissza sem kerdez, hanem ez a parancs, ezt kell tenni... akkor teljesiti is ha valojaban jogilag nem feljogositott szemely (hacker) adta ki a parancsot es akkor is ha a feljogositott szemely eppen bekattant. Az emberi kontroll hianya meg nagyon buta MI eseten is vegzetes lehet.
  • Skylake #8
    Így van. Mindenfajta informatikai rendszer, legyen az egy mikrovezérlő, vagy egy NSA Bluffdale kategóriás szerverfarm: mindenhol, ahol hardver és szoftver megkülönböztethető, és kapcsolódik informatikai hálózatokhoz, potenciálisan e tulajdonságok létéből adódóan befolyásolható, azaz törhető valamilyen módon – mindez erőforrások kérdése. Teljesen mindegy milyen funkciót betöltő rendszerről van szó, okosvibrátorról, vagy atomerőmű smart city kompatibilis vezérlőegységeiről. És minél nagyobb hatása van az adott informatikai rendszernek egyének és csoportok gazdasági és társadalmi életének szervezésére, így ennek megfelelően, a rendszer feltörése ugyanekkora arányú befolyással fog káros következményeket okozni. És annál inkább cél lesz: az adott nemzetállam és szövetségeivel ellenséges hatalmaktól kezdve a félhülye magányos kiberbűnözőkig. Ilyen egyszerű ez, és e tekintetben szerintem Musk-nak igaza van – csak nem kéne mindezt leszűkíteni a mesterséges intelligencia buzzword-al jelzett technológiákra.

    (Nem gerillamarketing következik) Például Deus Ex Human Revolution játék témájában ez a tényező hangsúlyosan megjelenik, és nagyon egyszerűen megmutatja annak a következményét, hogy hatalmi koncentrációt jelent egy igazán „emberhez közeli” technológia szoftveres részének kontrollálása, illetve ebből adódóan mennyire vissza is lehet (célszerű, szükségszerű és rendszerbe kódolt) ezzel visszaélni.

    Minden informatikai technológia, amely valamilyen előnyt nyújt számunkra, mert számítási kapacitások segítségével kiválogat, kalkulál valamit, valamilyen célból, minden esetben tökéletesen alkalmas arra, hogy tevékenységének terén, annak komplexitásával arányosan legalább olyan mértékű kárt okozzon, mint amennyi előnyt létrehozott.
  • Flesy32 #7
    Egyetértek vele az állami/nemzetközi szintű ellenőrzésben, mert egy teljes értékű, emberi döntéshozatalra képes/azt meghaladó MI nagyjából egy atomfegyver szintű fenyegetéssel ér majd fel a digitális világunkban, főleg ami a gazdasági manipuláció lehetőségeit illeti. Persze egy ilyen MI-től még évtizedekre vagyunk, és a fenntartáshoz szükséges technológia/energia kb. a világ top 10 vállalatának áll rendelkezésére.
    Én inkább azt nem értem, hogy a vészmadárkodás helyett miért nem védelmi MI-t fejleszt az említett aggodalmai megnyugtatására.
    Érted, tisztán látja a problémát, a világ összes erőforrása rendelkezésére áll hogy megoldja a problémát, de inkább nyafog... Na persze a Teslában van most a pénz... Kapitalizm rules....
  • end3 #6
    Mit érhet állami szabályozáson? Ha az MI így viselkedik, elítélhető lesz és börtönbe záratik? - Ha ügyvédek mindig megtalálják a szükséges kiskapukat, az MI nem fogja?

    (Igaza van Musk-nak. Az emberiség ellen, a lehetetlenségen túl is ördögi lehetőségeket jelent...)

    Be kéne tiltani mindenféle ilyen fejlesztést. Azonnali hatállyal. Csak ember lehet olyan hülye, hogy játszik a tűzzel, és önmaga feletti hatalomra segít egy nálánál sokkal gyorsabban fejlődő, okosabb gépi inteligenciát. Mit is várhat tőle majd a földön élő fajok legkártékonyabbja? Toleranciát, megértést?
    Utoljára szerkesztette: end3, 2017.07.19. 09:01:33
  • gaszton421 #5
    Jó poén, de a helyzet az hogy Elon Musk ezzel már hosszabb ideje foglalkozik, több MI-vel kapcsolatos cégben van érdekeltsége, többet ő alapított, és folyamatosan nyomon követi a fejlesztéseket. Az itt hozzászóloknak, magamat is beleértve, nem áll rendelkezésére annyi és olyan minőségű információ mint neki.
  • Kryon #3
    Van benne valami, és egyáltalán nem sci-fi. Ha jól értelmezem, nem az erős MI-től fél (Skynet), hanem hogy akár a mai, fejlett MI-t bűnözők, terroristák, tetszőleges rossz szándékú csoportok, emberek nagyon rossz dolgokra is fel tudnák használni, ha hozzájutnak, vagy akár csak meghackelik. Ebben van realitás.
  • Sir Cryalot #2
    Eszelősség veszélyes, augmentált eszelősség veszélyesebb :D , mesterséges eszelősség K.O. ? :D