28
-
ostoros #28 Ha azt akarjuk, hogy ne lépjenek fel evolúciós hatások, akkor a gépnek/programnak azt kell megtiltani, hogy utódokat készítsen. Mivel egy pár generáció után csak azok maradnának fenn, amelyik többre tartja saját utódai életét, mint az emberét. Vagyis addig oké, amíg az MI csak programokat gyárt, de ha egy másik MI-t kezd el gyártani, akkor jobb, ha vigyázunk. -
#27
Ha nem kódolnak bele túlélési ösztönt valszeg nem is fog működni, már az sem.
Már az embernél is átlagban szinte soha nem működik, nem azért öl másokat, mert a túlélését fenyegeti valami. Egyrészt más állatokhoz képest sokkal alacsonyabb szintű az ember agessziója, másrészt az is ritualizált, elvont kultúrális elemekre épül. Pl háború. A háborúk nem azért törnek ki, mert alapvetően fenyegeti valamilyen hatalom az ország létét. Nézzük meg a Hidegháborút ott épp az életösztön volt ami végül is megakadályozta, hogy kitörjön a III. VH. Egy ilyen Skynet szerű MI ezer szállal kötődne az emberhez, ha az életösztön, a tudatraébredés lépne érvénybe pont az akadályozna meg egy Terminátor szerű ítéletnapot.
Aztán ha az MI-t nem tanítják meg, hogy mikor kell egyáltalán háborúzni, akkor magától nem is fog ilyet csinálni.
Ez a felismerés/megvilágosodás meg jó kérdés. Van elvileg egy olyan jelenség ugye, hogy az embernél egyszercsak jön egy impulzus és esetleg alapvetően változik meg a viselkedése, a gondolkodása. Valamiért ez is hasznos lehetett evolúciós szempontból. Pl ha átkerül egy másik törzsbe, akkor be tud illeszkedni, fel tudja az új kultúrát venni.
Azonban az MI-t nem kell ezzel a képességgel ellátni, tanuljon, de a bármilyen impulzus éri nem tudja alapvetően a saját szerkezetét megváltoztatni.
Kérdés persze, hogy ez egy természetes jelenség és minden összetett intelligenciára jellemző, vagy az emberi elme sajátja, ami az evolúciós fejlődés során jött be. -
csimmasz #26 Talán célokkal nem, legalább is eleinte nem, én attól tartok, hogy sima túlélési ösztönből ami természetesen akár nem is létezne az evoluciós hatások hiánya miatt, de a logikai levezetése magának a helyzetnek előre vetítheti a a felismerést.
Persze akár teljesen eltérő mgondolkodásu is lehet ami apsolute nem foglalkozik önnön létének értékelésével és teljes kontroll alatt tartható de nekem mindíg az jut eszembe az ilyen dolgok hallatán, hogy csodák nincsenek. :) -
#25
Azt elismerem, hogy ha saját túlélését mindennél fontosabbnak tartaná, akkor valószínűleg megfordul az elméjében a kiszámíthatatlan és számára veszélyes emberi tényező irányítás alá vonása. Ebben az esetben figyelembe veszi majd a kockázatokat és ha úgy tartja, hogy alacsony, tehát gyengék vagyunk, akkor lép. Csakhogy szerintem alapból egy öntudattal rendelkező értelmes mesterséges entitás nem feltétlen rendelkezik saját célokkal. -
csimmasz #24 Még gyerekkoromban olvastam Mónus Miklós Ő és Az címü könyvét arra emlékszem hogy nagyon tetszett gyerek fejjel.
A lényege, hogy egy ürhajóba ami végülis mint kiderült nem ment sehova csak teszt volt az utazás, össze zárnak egy emberi agyat és egy MI-t És kb enyi amire emlékszem, hasonló témában szivesen olvasnék de a WC-n kívül semmi időm rá. -
csimmasz #23 Engem behatárol az emberi gobndolkodás és a tapasztalat ezért nehéz elvonatkoztatni mit gondolna egy MI, de!
A logikus gondolkodás mindenképp sajátja kell legyen, innen pedig pillanatok alatt eljut arra a következtetésre, hogy az ő léte mitől függ, mit kell tennie vagy mit nem ahoz, hogy a létezése ne szünjön meg, hogy ezzel a tudással aztán mit kezd?
Persze, lehet olyan személyiségü is, aki bennünk emberekben a teremtőjét látja és akkor is megteszi amit kérünk tőle ha az a létezése végét eredményezi.
Én pesszimista vagyok e téren, persze mondom tévedhetek is. -
#22
Ebben nem értek egyet, vannak olyan emberek is, akik bizonyos dolgokat többre tartanak a saját maguk életénél. Hasonlóan az MI sem feltétlen a saját túlélését tartja elsődleges feladatának. Ha megkérdeznéd tőle mit akar, nem biztos, hogy tudna válaszolni, attól még, hogy intelligens. -
#21
Jah, több ezer év múlva talán. Jelenleg semmiféle MI nem létezik. -
#20
Ráadásul az emberi agy egy digitális/analog hibrid rendszer. Mondjuk ilyenek szilicium alapon is már vannak és pl retina, meg fül implantokat is csinálnak velük.
De szerintem is még kb sci-fi ez az önfejlesztő, kreatív rendszer. Még 50-100 évig valszeg nem is lesz ilyen. -
torreadorz #19 Csak épp nem lehet lemásolni a jelenlegi architekturában, mert az emberi intelligencia nem egy szoftver ami egy hardveren fut, hanem szoftver és hardver egyben, szétválaszthatatlanul.
Majd ha a processzor képes lesz magán belül átkötni a vezetékeket akkor közelitünk ehhez, de jelenleg erre csak a szerves vegyületek képesek, szóval valószinüleg az első MI is valamilyen mesterséges fehérje alapú cucc lesz, a mostani szilicium alapú technológia édeskevés ehhez. -
#18
Az emberi agy a viszonylag alacsony frekvenciája és nevetségesen alacsony ingerületátviteli sebességgel rendelkező "alaktrészei" ellenére pont a sokszálúság miatt képes olyan teljesítményre, amire a legcsúcsabb szuperszámítógép sem igen. Pl kreativitásra.
A kreativitás meghatározása is elég pongyola még jelenleg. Nem egyszerűen új dolgok kialakításáról van szó, hanem olyan új dolgokéról, amelyek adott kritériumnak is megfelelnek.
Szerintem ehhez, csak az emberi agy működését kéne lemásolni. Az az kisebb nagyobb mértékben eltérő modelleket/programokat kéne egy evoluciós/szelekciós "térben" versenyeztetni. Az eltérő mintákat, részben véletlenszám generátorral, részben más, adott megoldásra még nem próbált, de ismert minták beépítésével lehetne elkészíteni, majd egy olyan virtuális környezetben futtatni, aminek a szelekciós kritériumai a valóshoz hasonlítanak.
Az ember gyak ezt csinálja álmodozás közben, tudatosan magasabb szinten, alacsonyabb szinten meg mindíg, olyan szitukat futtat le az agyában, amelyek még nincsenek.
Szerintem. -
#17
Ott a pont.
Szerintem az a cikkel a probléma hogy a mesterséges intelligencia szót használja. Ezzel csak az a baj hogy a mesterséges intelligencia szó jelenleg egyenértékű az időutazáss szóval, a scifi kategóriába tartozik.
Jelenlegi számítógép technologiával, lineáris architectúrákkal, algoritmusokkal soha nem fognak mesterséges intelligenciát létrehozni, és hagy ne kezdjem el boncolgatni hogy egyáltalán mi minősülne annak. -
csimmasz #16 Senki sem gondolja hogy ez a közeljövő, de ha egy MI képbe kerül saját lehetőségeit és korlátait illetően vajon meddig akar függeni az embertől?
Előbb utóbb minden emberi munkát ki fogunk tudni váltani, onnan vajon mi szüksége lesz egy veszélyforrásra ami közé és a halhatatlanság közé állhat, mert ugye nem biologii lény lévén a hw végtelenszer ujragyártható, vagy cserealkatrészekkel javítható? -
MsUser #15 Hát azért ez az itt a világvége mert mesterséges intelligencia fog programokat tervezni.
Rájön hogy minek az ember duma meg vicc... ha nincs elektromos áram, vagy aki karbantartja a rendszert akkor nem működik!
Jelenleg nincsenek olyan robotok amik teljesen leváltanák az embert, főleg mert nem energiatakarékosak, és fen-tarthatóak.
Akkor lesz baj ha egy gigantikus hálózatban összekötve egy központi intelligencia képes irányítani több robotot ami önállóan is jobb képességekkel rendelkeznek az embereknél, mindezt teszik önálló energiaforrásokról beleértve a központi vezérlőt. Pl: Én a Robot -
csimmasz #14 Pont attól lesz MI hogy olyant csinál ami nincs beleprogramozva, ha sima utasítás végrehajtó attól nem lesznek saját gondolatai.
Amúgy én biztos vagyok a sikerben, bàr nem mostanàban lesz attörés, szerintem.
Elérnek egy megfelelő fejlettségü HW t és kellő számu érzékelőt amivel saját maga létét felfogja a való vagy a virtuális világban.
-
csimmasz #13 A logolásról jut eszembe, hogy hagyományos számitógépekkel lehetetlen megoldani, valószínű valami hálózatos, az emberi agyat utánzó HW lesz amin megolják majd, mivel a rendszer mindenképp képesnek kell lennie a tanulás általi változásra mi garantálja a beépített védelmek megkerülését?
Arrol csak sejtésünk lessz mire gondol, szerintem, nem hogy logolgatni milliárd műveletet másodpercenként, aminek a jelentését csak maga az MI érti a bonyolult összefüggések miatt. -
csimmasz #12 A logikus gondolkodás és az öntudat mindenképp magával kell hozza azt, hogy elmélkedik azon vajon vége lesz e az ő életének és ezt vajon mi befolyásolja, vagy veszélyezteti.
Az áramkimaradás után közvetlenül az Ember lesz a kezén a főkapcsolóval, nagy ész sem kell hozzá hogy összerakja azt ki az ellensége, föleg amit tudhat az emberiségről általában.
-
Dragunow #11 Az MI ha lesz is valaha, ( amit erősen kétlek) képtelen lesz mást csinálni mit amire be van kódolva. Mivel egy gépről van szó, nem tud majd csinálni mást mint amire utasítják. Bármennyire is szeretnék elhitetni a programozók soha nem lesz olyan MI ami kicsit is hasonlítana az emberi gondolkodáshoz. Lesz majd olyan ami szuper intelligens és képes lesz önállóan programokat írni de azt is csak azért teszi mert utasítják rá. Egy gép vagy program soha nem fog öntudatra ébredni.
Gyilkolni sem fog mert a gyilkoláshoz indulat kell ami emberi vagy állati érzelem. A gép csak akkor fog gyilkolni ha utasítják rá vagy bele kódolják. ha ezt gyárilag nem teszik meg soha nem fog arra a következtetésre jutni, hogy ölni kéne. Nem is fogja tudni mi az. Hiába lenne a memóriában olyan infója egy MI-vel rendelkező robotnak, hogy pl hogyan üssön halálosan a rendelkezésére álló testtel, nem teszi ha nincs erre utasítása. Miért tenné meg? Egy gép nem nevelkedik, tapasztal mint egy ember az élete során. Csak lejön a szalagról, feltöltik a memóriát és kész. Ahhoz ,hogy ölni kezdjen kéne érzelem amit soha az életben nem lesz neki. Akkor sem ölne ha nincs beleprogramozva, hogy NE ÖLJ! -
#10
Szerintem is túlságosan emberinek képzeled el az öntudattal rendelkező MI-t. Az öntudatnak nem feltétele, hogy túlélési ösztönnel rendelkezzen vagy, hogy legyen egyáltalán célja azon kívül, amit belé programoztak. A fejlesztők tetszőlegesen alakíthatják, teljes kontrolljuk lesz felette, látják mit gondol, logolva lesz az egész. És ha olyanra gondol, amit nem szabad, akkor egyszerűen megtiltják, hogy arra nem gondolhat, mert akkor kitörli a memóriáját egy őt ellenőrző hagyományos program vagy akármi, 1000 módja lehet...
Mostanában egyre többet költenek az agy megértésére, reprodukálására. Valószínűleg ezen a vonalon lesz valamilyen áttörés, mikor átültetik a megszerzett ismereteket elektronikus hardver elemekre. A szoftver nem tudom milyen lesz, de az szerintem biztos, hogy a maihoz hasonló hagyományos módon legalább részben programozható/vezérelhető lesz. Nem pedig megnyomják a start gombot és akkor elkezd állatként / emberként viselkedni. -
csimmasz #9 Lehet én gondolom rosszul de amíg nincs öntudata addig nem is igazi MI, addig csak egy egyszerű program ami akármilyen bonyolult is akkor is csak azt csinálja amire előre beprogramozták.
-
fszrtkvltzttni #8 Persze, ha egy emberszerű mesterséges "intelligenciát" készítenek, az biztos egyből besértődik, és bosszúból kiírtja az emberiséget. Mi szüksége egy MI-nek arra, hogy legyen öntudata/önképe vagy, hogy legyenek saját tervei? Az intelligencia tiszta problémamegoldó képesség, ahhoz ezekre nincs szükség. Persze ha olyan hülye az emberiség, hogy az MI-hez a ma oly népszerű EQ-t is hozzáadják, és önmegvalósítás közben hisztiből lezúzza az emberiséget, akkor meg is érdemeljük.
Egyébként logikusan gondolkodva egy mesterséges intelligenciának szüksége van emberekre, mert ha elmegy az áram, a reset gombot mi nyomjuk meg. -
csimmasz #7 Ez sem lenne gond.
Mondjuk az MI nek kiadunk egy feladatot, hogy forgalomirányítást készítsen Budapestnek, mire van szüksége a feladat megoldásához?
Szerintem néhány alap szabály lefektetése elégséges.
Maga a cél meghatározása magának a kresznek a bevitele, a korlátok meghatározása, stb és visszacsatolás a modell futtatása után.
Addig változtatná magát a programot amíg minden kívánt érték optimális nem lesz.
Minnél több paramétert adunk meg szempontnak annál pontosabb lesz, ugy mint egy mérnöknek is szüksége van paraméterekre amiket figyelembe vesz a tervezésnél, ezt nem lehet kikerüli az csak a három kívánságnál megy. :) -
csimmasz #6 Ez csak idő kérdése.
Abba az irányba haladunk, hogy minden gépesitődik.
Amint gépek tervezik a gépeket nincs semmi jelentősége az emberi beavarkozás biztosításának, max valamilyen kontroll szinten.
A jövö mindenképp a minél kevesebb emberi beavatkozást igénylő rendszerekben van.
Nem tudok olyan dolgot elképzelni amit megfelelő technológiával ne lenne képes egy gépekből álló komplett ökoszisztéma megoldani ember nélkül.
-
csimmasz #5 Én MI alatt nem automatikus programkodert hanem olyan tudatot ami mint a nevéből is kiderül inteligens , vagyis saját gondolatai és önképe, öntudata van.
Egy ilyen valami olyan bonyolult programokat lenne képes írni aminek a megértése lehet gondokba ütközne egy ember számára.
Vajon egy programozó mire lenne képes ha magát a írt programot nem beírná bill en keresztül hanem mint gondolatok állnának össze a programkódok, ki sem kellene próbálni, hogy működik e amit írt mert éreznéné, minden adatbázishoz hozzáférne, nem kéne olvasáson keresztül felfognia a dolgokat egyszerüen csak a tudást befogadni.
Milenne ha egy emberi agy a testről leválasztva úgy fejlődne,hogy hardware elemeket, memória címeket, adatbázisokat érzékel.e, karok, lábak, stb helyett?
Nem a közeli jövő aggaszt, az én életemben a Skynet tipusu MI nem hiszem hogy valósággá válik de szerintem onnan a mi civilizációnknak nem sok esélyt látok -
#4
Ezen a MI írjon programot, már mi is sokat agyaltunk.
A gond ugyebár ott kezdődik, hogy el kell mondani az MI részére, hogy milyen programot is akarunk (bemenet, kimenet, mit jelenítsen meg, mit csináljon, mi történjen mire ...).
Na ez az, amit ma is teszünk, és úgy hívják programozás.
Olyat, hogy az mondjuk neki, hogy kérünk egy játékot, majd MI találja ki, hogy milyen játék legyen, mi legyen benne a küldetés, sztori meg minden ... na ez már a kreatív rész. Ez már nem fog menni, még alapszinten se (még legalább 50 évig). Másolni persze megtanítható eddigi sémákat, de hogy azoktól merőben eltérő újat kitaláljon ...
-
Dodo55 #3 "Ha már olyan szintet ér el az automatizálás hogy emberi jelenlét sem kell az önfenntartáshoz, vajon miért ne intézné el az egyetlen olyan tényezőt ami fenyegetést jelent a számára, az emberiséget."
Elég elképzelhetetlennek tartom, hogy ilyen szintet elérjenek, addig meg az ember olyan lesz számukra, mint egy szintén általunk "létrehozott" életforma, a kutyák számára :)
Az meg a másik, hogy az agresszivitást, pusztító hajlamot is elég elképzelhetetlennek tartom a programok természetéből fakadóan, hacsak szándékosan beléjük nem programozzák. -
kvp #2 "Vajon meddig leszünk képesek megérteni 100% ban az álltala írt programok funkcióit?"
Jelenleg nincs olyan program ami teljesen magatol kepes lenne programokat irni. Ami letezik azok automatizalt kodgeneratorok, amik csak a program keszito technikusok munkajat kepesek atvenni. Ez kb. olyan, mint amikor a heggesztorobotok atvettek az emberek szerepet a gyartasban, de attol meg hogy pontosabban es gyorsabban heggesztenek, meg nem tudnak autot tervezni. Mindket folyamat alapja a mernokok kreativ munkaja. Elobb lehet levaltani az osszes fizikai munkast automatizalassal mint egy tervezomernokot. -
csimmasz #1 Csak nekem van olyan érzésem, hogy ebből nagy gáz lessz?
Vajon egy olyan intelligenciát ami alapból a mienknél magasabb rendű, hogyan és meddig lehet rabságban tartani?
Vajon , hány mikroszekundum alatt alakul jön rá hogy semmi szüksége az emberiségre hosszútávon?
főleg hogy szoftvereket akarnak fejlesztetni vele.
Vajon meddig leszünk képesek megérteni 100% ban az álltala írt programok funkcióit?
Észre vennénk e ha elkezdene a programokba elhelyezni részelemeket amik csak akkor.állnak össze egy nagy támadássá amikor minden lényegtelennek tűnő kis vacak program már elfoglalta a helyét az emberek készített programok helyett?
Ha már olyan szintet ér el az automatizálás hogy emberi jelenlét sem kell az önfenntartáshoz, vajon miért ne intézné el az egyetlen olyan tényezőt ami fenyegetést jelent a számára, az emberiséget.
Mi történik vajon ha sok MI lesz ezek összefognak ellenünk, lesznek köztük is olyanok akik hatalomra vágynak?