12
-
esztyopa #12 Félelmetes az,hogy az MI-t nincs SEMMI,aki korlátozná a rossz parancsok végrehajtásában /pláne ha a *rossz*paracsot az önálló MI adja ki - SAJÁT MAGÁNAK !/
Az emberek úgy tanultak meg közösségben/társadalomban élni,hogy az interakciójuk során kialakultak a természetes erkölcsi/etikai *korlátok*+ a törvények,és retorziók.
Tepernek az MI fejlesztésében,hogy tanuljon trükközni a feladat végrehajtásában,de nem tudják az MI erkölcsi/etikai viselkedését *beprogramozni*,mert az specifikusan emberi sajátosság !
Summa,summarum - az MI fejlesztése *visszaüt*.
Most már nem egymást fogják pusztítani az emberek,hanem őrült tempóban fejlesztenek egy eszközt,ami megoldja helyettük az emberiség kipusztítását.
Legjobb esetben egy kollektív *állatkert* lakói leszünk,akiket a gépek etetnek,gondoznak...talán...de kizárnak a döntésekből !
De végül is,ha eljutnak ide,akkor mi szükségük lenne a célszerűségi alapokon működő gépeknek az emberre?
Reménykedjünk,hogy talán idejében felismerik a profithajhász elmebetegek,hogy az MI-fejlesztése nem más,mit a Pandora szelencéjének *felfeszegetése* !
-
Skylake #11 És még ott van egy tényező.
Engem és másokat emberként bizonyos tettek elkövetésétől meghatározott társadalmi intézményrendszerek életemre való hatása tart vissza. Így például, ha a „lopás” bűntettét sikerül rám bizonyítani, akkor fogház vagy börtön kategóriás szabadságvesztést kaphatok. Ez tartalmában olyan retorzió, amely emberi nézőpontból nagyon kellemetlen, mert a maslow-i szükségletek meghatározott részének kielégítését akadályozza meg. Ha meg embert ölök, akkor ez a retorzió fegyházbüntetésben képeződik le – ez ugye a harmadik, keményebb fokozat. Mindez azért érvényesíthető, mert ember vagyok, halandó vagyok, és emberi tényezőimet korlátozzák le ezek a retorziók, meg azért, mert ez okból jogképes vagyok.
Ezzel szemben hogy büntetünk egy autonóm robotot? Lekapcsoljuk az áramot? Volt- nincs működése. Frissítjük a szoftverét? Nincs tudata, ezért ezt bármikor és akárhányszor megtehetjük. Olyan működési paramétereket állítunk be, amire az eszközt kontrolláló által igény van. Semmiféle eszközünk nincs arra, hogy bármiféle olyan kontrollt gyakoroljunk az eszközön, ami hasonlít az emberihez, amelyhez igazítani fogja viselkedését, a számára lehetséges kellemetlen következmények miatt, ami emberi mércékkel összemérhető. Mivel nem halandó. Csak egy szofisztikált gép lesz, ami emberi működést utánoz – sok esetben jobb teljesítménnyel, mint egy ember, ugyanabban a műsorszámban. Minket összességében a saját halandóságunkra irányuló fenyegetések kényszerítenek be egy közös működésmódba, amit társadalomnak neveznek. Őt, mivel nem halandó, semmi ilyen kényszer nem kötheti. Csak ezeket szimuláló szoftverkód tetteti annak – ami, mivel szoftver, törhető is. -
paragic #10 Érted, tisztán látja a problémát, a világ összes erőforrása rendelkezésére áll hogy megoldja a problémát, de inkább nyafog... Na persze a Teslában van most a pénz... Kapitalizm rules....
Épp ellenkezőleg, Musk az OpenAI egyik alapítója és igazgatója. Az OpenAI egy nonprofit szervezet, melynek célja, hogy biztonságossá tegye a mesterséges intelligenciát. -
kvp #9 Ket konkret peldat hozott fel. Ebbol az egyik a sajat termekukkel valo visszaeles lehetosege es egy mar azota befoltozott biztonsagi res, tovabba attol valo felelem, hogy maradt meg par.
Itt az MI nem jelent veszelyt onmagaban, csak az a gond, hogy a robotok vegrehajtjak a parancsot. Egy kozkatona nem biztos, hogy tuzet nyit a fegyvertelen tomegre (azert nallunk mar volt ra pelda), de egy robot vissza sem kerdez, hanem ez a parancs, ezt kell tenni... akkor teljesiti is ha valojaban jogilag nem feljogositott szemely (hacker) adta ki a parancsot es akkor is ha a feljogositott szemely eppen bekattant. Az emberi kontroll hianya meg nagyon buta MI eseten is vegzetes lehet. -
Skylake #8 Így van. Mindenfajta informatikai rendszer, legyen az egy mikrovezérlő, vagy egy NSA Bluffdale kategóriás szerverfarm: mindenhol, ahol hardver és szoftver megkülönböztethető, és kapcsolódik informatikai hálózatokhoz, potenciálisan e tulajdonságok létéből adódóan befolyásolható, azaz törhető valamilyen módon – mindez erőforrások kérdése. Teljesen mindegy milyen funkciót betöltő rendszerről van szó, okosvibrátorról, vagy atomerőmű smart city kompatibilis vezérlőegységeiről. És minél nagyobb hatása van az adott informatikai rendszernek egyének és csoportok gazdasági és társadalmi életének szervezésére, így ennek megfelelően, a rendszer feltörése ugyanekkora arányú befolyással fog káros következményeket okozni. És annál inkább cél lesz: az adott nemzetállam és szövetségeivel ellenséges hatalmaktól kezdve a félhülye magányos kiberbűnözőkig. Ilyen egyszerű ez, és e tekintetben szerintem Musk-nak igaza van – csak nem kéne mindezt leszűkíteni a mesterséges intelligencia buzzword-al jelzett technológiákra.
(Nem gerillamarketing következik) Például Deus Ex Human Revolution játék témájában ez a tényező hangsúlyosan megjelenik, és nagyon egyszerűen megmutatja annak a következményét, hogy hatalmi koncentrációt jelent egy igazán „emberhez közeli” technológia szoftveres részének kontrollálása, illetve ebből adódóan mennyire vissza is lehet (célszerű, szükségszerű és rendszerbe kódolt) ezzel visszaélni.
Minden informatikai technológia, amely valamilyen előnyt nyújt számunkra, mert számítási kapacitások segítségével kiválogat, kalkulál valamit, valamilyen célból, minden esetben tökéletesen alkalmas arra, hogy tevékenységének terén, annak komplexitásával arányosan legalább olyan mértékű kárt okozzon, mint amennyi előnyt létrehozott.
-
Flesy32 #7 Egyetértek vele az állami/nemzetközi szintű ellenőrzésben, mert egy teljes értékű, emberi döntéshozatalra képes/azt meghaladó MI nagyjából egy atomfegyver szintű fenyegetéssel ér majd fel a digitális világunkban, főleg ami a gazdasági manipuláció lehetőségeit illeti. Persze egy ilyen MI-től még évtizedekre vagyunk, és a fenntartáshoz szükséges technológia/energia kb. a világ top 10 vállalatának áll rendelkezésére.
Én inkább azt nem értem, hogy a vészmadárkodás helyett miért nem védelmi MI-t fejleszt az említett aggodalmai megnyugtatására.
Érted, tisztán látja a problémát, a világ összes erőforrása rendelkezésére áll hogy megoldja a problémát, de inkább nyafog... Na persze a Teslában van most a pénz... Kapitalizm rules.... -
end3 #6 Mit érhet állami szabályozáson? Ha az MI így viselkedik, elítélhető lesz és börtönbe záratik? - Ha ügyvédek mindig megtalálják a szükséges kiskapukat, az MI nem fogja?
(Igaza van Musk-nak. Az emberiség ellen, a lehetetlenségen túl is ördögi lehetőségeket jelent...)
Be kéne tiltani mindenféle ilyen fejlesztést. Azonnali hatállyal. Csak ember lehet olyan hülye, hogy játszik a tűzzel, és önmaga feletti hatalomra segít egy nálánál sokkal gyorsabban fejlődő, okosabb gépi inteligenciát. Mit is várhat tőle majd a földön élő fajok legkártékonyabbja? Toleranciát, megértést?
Utoljára szerkesztette: end3, 2017.07.19. 09:01:33 -
gaszton421 #5 Jó poén, de a helyzet az hogy Elon Musk ezzel már hosszabb ideje foglalkozik, több MI-vel kapcsolatos cégben van érdekeltsége, többet ő alapított, és folyamatosan nyomon követi a fejlesztéseket. Az itt hozzászóloknak, magamat is beleértve, nem áll rendelkezésére annyi és olyan minőségű információ mint neki. -
Kryon #3 Van benne valami, és egyáltalán nem sci-fi. Ha jól értelmezem, nem az erős MI-től fél (Skynet), hanem hogy akár a mai, fejlett MI-t bűnözők, terroristák, tetszőleges rossz szándékú csoportok, emberek nagyon rossz dolgokra is fel tudnák használni, ha hozzájutnak, vagy akár csak meghackelik. Ebben van realitás. -
Sir Cryalot #2 Eszelősség veszélyes, augmentált eszelősség veszélyesebb :D , mesterséges eszelősség K.O. ? :D -
Sir Cryalot #1 LOL, hol húzódik a határ? Mert efféle ártó szándékú "mesterséges intelligenciának" egy bizonyos hatalomba bogáncsként csimpaszkodó felcsúti stadionkirály is pont beillik az asperger szindrómás keresett modorával meg az agymosásra remekül használható rögeszméivel.