kvp#11
"Mert szerintem vezetni, a dolgokat kontrol alatt tartani jó, ez ad értelmet az emberi létnek. A gépeinket arra használjuk, hogy a kontrollt kiterjesszük és nem arra, hogy feladjuk."
Anno a lifteket emberek vezettek, volt egy sebessegszabalyzo kar es azzal lehetett gyorsitani meg fekezni. Az ugyes liftesek kepesek voltak pontosan es finoman megallni az egyes emeleteknel. Aztan automatizaltak az egeszet es ma mar nem igazan kepzelheto el, hogy az ember kezzel vezessen egy liftet. Ugyanez figyelheto meg a vonatoknal is, egyre tobb az automata metro/vonat. Varhato, hogy a teherautokat is jobban tudjak majd vezetni a szoftverek mint az atlagos faradt, el-elalvo sofor. Aztan ott vannak a varosi buszok es a taxik. A vege az lehet, hogy a legtobb jarmuvet szoftverek vezetik, mint ma a lifteket. Ettol persze kevesebb lesz a baleset, mint ahogy manapsag a liftek is ritkabban futnak bakra az akna vegen. Az ember azert automatizal, mert onkent senki nem akar kezzel csinalni mindent. Mint ahogy arrol is leszoktunk, hogy kezzel fogjunk halat, ugy ezek az automata rendszerek is csak modern eszkozok.
"Valójában mi nem törekszünk a bennünket veszélyeztető MI kialakítására"
Nem feltetlen attol veszelyes egy rendszer, hogy annak epitettek, boven eleg ha meghibasodas eseten az. Automata katonai rendszerek eseten raadasul pont az a cel, hogy az ellenseget veszelyeztesse. Ebben az a gond, hogy egyreszt mi is lehetunk valaki ellensege, masreszt ha az MI donti el, hogy ki az ellenseg, akkor akar tevedhet is. Ez emberek eseten is megesik, de gepek eseten determinisztikus, tehat ha egyszer veletlen osszekeverte az iskoabuszt a tankkal, akkor atprogramozas nelkul szazadszorra is ossze fogja, mig egy embernek azert egy ido utan feltunik. Ha meg sikerul olyan ontanulo MI-t epiteni, ami van olyan okos mint egy atlag katona, akkor konnyen elofordulhat, hogy a sajat eletet fogja vedeni, nem a parancsokat vegrehajtani.
"Ugye ott a Terminátoros dilemma, ha fel is ruházzuk a gépeket döntési képességgel, hogy lesz képes emellett titokban egy tőlünk független, fenntartható rendszert megtervezni és kivitelezni, illetve miért is kezdene egyáltalán ilyen tevékenységet?"
Eleg ha csak eletben akar maradni. Ez esetben ha nalla van a fegyver es nem nallunk, akkor boven eleg ha raveszi az embereket, hogy kiszolgaljak. Ez nem fuggetlen helyzet, csak eppen nem az ember van az iranyito pozicioban. Mindezt egy viszonylag buta MI-vel is ossze lehet hozni, csak darabszam, jo alapprogram es elni akaras kerdese. Az utobbit akar be is lehet programozni es eleg ha 1 programozo ilyet tesz, a tobbi ember jozan esze ilyenkor nem szamit.