82
-
physis #82 Az lenne a jó, ha a #4, #21-ben említett végtelen behúzási folyamat valahogy elindulna. Akkor akármilyen fejlett agyat tudnánk építeni, legfeljebb elég sok idő kell hozzá. Hogy megérjük-e? Attól is függ, hogy a mi életünkben még feltalálják-e az öregedés lelassítását, mondjuk tíz évvel. Az alatt a tíz év alatt meg még újabb tíz évvel stb, szóval hogy leszünk-e olyan szerencsések, hogy immár akármit megélhetünk. Addig meg bízni lehet az egészséges életben. -
Epikurosz #81 A Blue Brain projektről olvastam már akkor, amikor elindult, majd követtem a híreket. Én nem vagyok ennyire optimista. 10 év alatt lehet, hogy építenek egy modellt, de az annyira fog hasonlítani az emberi agyra, mint egy papírrepülőgép egy igazi repcsire. -
physis #80 Bocsánat, javítanom kell egy csúnya makrohibát, mert szinte olvashatatlan lett:
__________________
Igen, Kukacos írásait és általában a tudat, intelligencia vitát olvasva hirtelen eszembe is jutott, milyen keveset tudok a tudatról (még ismeretterjesztő szinten is keveset). El is szégyelltem magam: szóval lehet, hogy el is kellett volna halasztanom a találgatást. Jó volt a mostani topikcsoportokban (tudat, intelligens gépek) az erről folyó vita.
Úgy tudom, az Általad említett kettős megközelítés egyikében éppen történt egy előrelépés: Blue Brain projektum. Szóval úgy tudom, meglepően jól sikerült a dolog. Bizonyos eredmények alapján úgy gondolják, hogy a szimuláció ,,tényleg működik'', ,,igazi'', és ,,nem csak kívülről tűnik olyannak, mintha jó lenne''. Azt nem tudom pontosan, hogy honnan tudják, hogy -- legalább részben -- valóban ,,igazi'' agyműködést szimuláltak, és nem csak egy ,,lélektelen'', ,,üres'' zombi lett szimulálva. Elhiszem, hogy jó okuk van rá, amiért nem tekintik zombinak az eredményt. Nem tudom megválaszolni az ezzel kapcsolatos kérdéseket, de valamiért eléggé megbízom bennük én is.
Nagyon tetszett, amit a környezet szerepéről leírtál, én is remélem, hogy a tudomány képes lesz ennek a bonyolult egymásra-hatásnak a dinamikáját megragadni. Már a ,,hagyományos'' biológiában is megjelenik a környezet szerepe (genotípus, fenotípus), és ez a látszólag egyszerű többlet rengeteg különös új foglmat és elvet hozott be. Kifejezetten paradox, látszólag lamarcki folyamatok is magyarázatot nyertek (Baldwin-hatás, hogyan jelent meg a hód várépítése, a lugasépítő madár tudománya stb.). Az agykutatásban, elmefilozófiában nyilván még több új meglepetésre számíthatunk.
Nem tudom, hogy mennyire az lesz a fejlődés iránya, hogy az intelligenciát külön modellezzük, és az érzelmeket később tudjuk csak megragadni. Ha a Blue Brain projektum bejön, akkor talán éppen egy fordított irányú fejlődés lesz.
1.
Először modellezünk egy agyat, többé-kevésbé egy az egyben (legalább valami egyszerűsített szinten), ez az agy nagyjából ugyanolyan arányban lesz értelmes és érzelmes, mint a mienk. Ha leegyszerűsített agy sikerül csak, az arányosan kevésbé lesz értelmes és érzelmes, de az értelem és érzelem egymáshoz vett aránya ott is ugyanolyan lesz, mint bennünk (csak mindkettőből arányosan kevesebb).
A baj nem az lesz, hogy a szimulált agy ne tudná az érzelmeket. Nem az lesz a baj, hogy zombi lenne. Igazi érzelmei lesznek. Ebből a szempontból sikeres lesz a dolog.
A baj az lesz, hogy fogalmunk sem lesz, hogy hogyan is működik. Ugyanolyan érthetetlen lesz, mint a mi saját agyunk.
2.
Kvp említett egyfajta behúzási, bootstrapping folyamatot. Ha már tudunk szimulált agyat építeni, fokozatosan képesek leszünk egyre több megértést nyerni az agyunk működéséről. Megértheti-e egy agy a saját működését? Kvp leírt egy fokozatos bootstrap folyamatot, amely ezt a paradoxonnak ható bootstrapping folyamatot megvalósíthatja (#4, #21).
3.
Ha már tényleg értjük az agy működését, akkor építhetünk olyan agyat, ami speciális célokra van kialakítva, például: túlteng benne az értelem. Azért nem vagyok ebben biztos: nem lehetetlen, hogy az értelem mindenképp megköveteli az érzelmek arányos fejlődését is. Lehet, hogy a matekhoz mindenképp kell művészet is, legalább a háttérben. -
physis #79 Igen, Kukacos írásait és általában a tudat, intelligencia vitát olvasva hirtelen eszembe is jutott, milyen keveset tudok a tudatról (még ismeretterjesztő szinten is keveset). El is szégyelltem magam: szóval lehet, hogy el is kellett volna halasztanom a találgatást. Jó volt a mostani topikcsoportokban (tudat, intelligens gépek) az erről folyó vita.
Úgy tudom, az Általad említett kettős megközelítés egyikében éppen történt egy előrelépés: Blue Brain projektum. Szóval úgy tudom, [i]meglepően jól sikerült a dolog[i]. Bizonyos eredmények alapján úgy gondolják, hogy a szimuláció ,,tényleg működik'', ,,igazi'', és ,,nem csak kívülről tűnik olyannak, mintha jó lenne''. Azt nem tudom pontosan, hogy honnan tudják, hogy -- legalább részben -- valóban ,,igazi'' agyműködést szimuláltak, és nem csak egy ,,lélektelen'', ,,üres'' zombi lett szimulálva. Elhiszem, hogy jó okuk van rá, amiért nem tekintik zombinak az eredményt. Nem tudom megválaszolni az ezzel kapcsolatos kérdéseket, de valamiért eléggé megbízom bennük én is.
Nagyon tetszett, amit a környezet szerepéről leírtál, én is remélem, hogy a tudomány képes lesz ennek a bonyolult egymásra-hatásnak a dinamikáját megragadni. Már a ,,hagyományos'' biológiában is megjelenik a környezet szerepe (genotípus, fenotípus), és ez a látszólag egyszerű többlet rengeteg különös új foglmat és elvet hozott be. Kifejezetten paradox, látszólag lamarcki folyamatok is magyarázatot nyertek (Baldwin-hatás, hogyan jelent meg a hód várépítése, a lugasépítő madár tudománya stb.). Az agykutatásban, elmefilozófiában nyilván még több új meglepetésre számíthatunk.
Nem tudom, hogy mennyire az lesz a fejlődés iránya, hogy az intelligenciát külön modellezzük, és az érzelmeket később tudjuk csak megragadni. Ha a Blue Brain projektum bejön, akkor talán éppen egy fordított irányú fejlődés lesz.
1.
Először modellezünk egy agyat, többé-kevésbé egy az egyben (legalább valami egyszerűsített szinten), ez az agy nagyjából ugyanolyan arányban lesz értelmes és érzelmes, mint a mienk. Ha leegyszerűsített agy sikerül csak, az arányosan kevésbé lesz értelmes és érzelmes, de az értelem és érzelem egymáshoz vett aránya ott is ugyanolyan lesz, mint bennünk (csak mindkettőből arányosan kevesebb).
A baj nem az lesz, hogy a szimulált agy ne tudná az érzelmeket. Nem az lesz a baj, hogy zombi lenne. Igazi érzelmei lesznek. Ebből a szempontból sikeres lesz a dolog.
A baj az lesz, hogy fogalmunk sem lesz, hogy hogyan is működik. Ugyanolyan érthetetlen lesz, mint a mi saját agyunk.
2.
Kvp említett egyfajta behúzási, bootstrapping folyamatot. Ha már tudunk szimulált agyat építeni, fokozatosan képesek leszünk egyre több megértést nyerni az agyunk működéséről. Megértheti-e egy agy a saját működését? Kvp leírt egy fokozatos bootstrap folyamatot, amely ezt a paradoxonnak ható bootstrapping folyamatot megvalósíthatja (#4, #21).
3.
Ha már tényleg értjük az agy működését, akkor építhetünk olyan agyat, ami speciális célokra van kialakítva, például: túlteng benne az értelem. Azért nem vagyok ebben biztos: nem lehetetlen, hogy az értelem mindenképp megköveteli az érzelmek arányos fejlődését is. Lehet, hogy a matekhoz mindenképp kell művészet is, legalább a háttérben. -
Lollerka #78 nem tom Epikurosz, de ugyan azt mondtad mint mi, h nem naon lesz olyan lafa pc mint a kis agyacskank amitol probalunk megszabadulni egy ket palesszel mert szomjas a majunk:D -
Epikurosz #77 Rokon topik. -
Epikurosz #76 ...és attól féltek (ha-ha), hogy a számítógépes könyvelést nem lehet macerálni. -
Epikurosz #75 A 80-as évek végén a szocialista államok tervhivatalaiban megjelentek a számítógépek. Kezdetben lyukkártyákkal vezérelték őket, majd mágnesszalagon volt a program. 1987-88-ban aztán olyan gondolatok is megfordultak értlmeiségi köröben (látva a nyugati példát!), hogy a könyvelési rendszert már lehetne számítógépesíteni. Annál a vállalatnál, ahol én dolgoztam, hallani sem akartak erről, mivel a tervelőirányzatoknak csak úgy lehetett megfelelni, hogy meghamisították a könyvelési adatokat. -
Epikurosz #74 Szóval, nyugi, 2019-ben a gépek nem lesznek okosabbak az embereknél. -
Epikurosz #73 A számítástechnikában per pillanat adatok vannak. Azokat lehet ide-oda mozgatni.
A tudatban információk vannak, mely információk rendszerekbe szerveződnek, hierarchia van közöttük, ami persze nem örökéletű, ráadásul versengenek is egymással stb.
A mai számítástechnika adatfeldolgozást végez, a tudat megértéséhez rendkívül bonyolult, időben gyorsan változó információrendszereket és információrendetlenségeket kellene megérteni. Ráadásul, az információnak nincs is mértékegysége (a bit az adaté), és az is kérdés, hogy mennyire pontosan mérhető, ill. írható le adott pillanatban meglévő jellemzőinek mátrixaival vagy egyebeivel. -
Epikurosz #72 Most jutottam el oda, hogy reagáljak a posztodra.
Nehéz téma.
Nekem maga a témafelvetés sem tetszik egyébként, kissé ugyanolyan haszontalannak tartom ezeket az okoskodásokat, mint a középkori teológiai vitákat az angyalok neméről.
Vagy ott van a Frankenstein-probléma, amely lényegében Lázár feltámasztásának modern változata.
De, másként közelítem meg a dolgokat: szerinted mi értelme volt az ókorban arról vitatkozni, hogy az emberi lélek a szívben vagy az agyban lakozik, amikor gyerekcipőben járt a tudomány, ráadásul erre a kérdésre még ma sem tudjuk a választ? Mi értelme 2009-ben a tudatról vitatkozni, esetleg picivel több adat birtokában, de ugyanúgy tapogatózva, mint a naív ókori bölcsek?
Nem kellene ezt a vitát elhalasztani későbbre?
Ezek csak költő kérdések voltak, mert én sem fogom visszafogni magam. :-)
Elöljáróban, én el tudok képzelni olyan embert, akinek a biológia teste visszafordíthatatlanul megsérült, és csak az agyát, és ezzel együtt - ugye ez nem kétséges? - a tudatát sikerül megmenteni. Hogy aztán miként fejlődik ez a tudat, az másodlagos. Tehát, annyi előrelépés az ókoriakkal szemben történt, hogy a tudatot mi egyértelműen az agyhoz kötjük, ahhoz a kb. 1,5 kg-os agyvelőhöz és szürkeállományhoz, amely a gondolkodásért és az érzelmekért felel.
Innen két úton lehet továbbhaladni:
1. A számítástechnika vívmányaira alapozva próbáljuk modellezni az agyat, és lemásolni a funkcióit. Ez egy elméleti munka, filozófusok, matematikusok stb. feladata.
2. Az orvostudomány segítségével megismerjük az agy működését. Persze itt is bejön a számítástechnika, mint eszköz, meg még sok más egyéb.
A két módszer közötti különbséget a repüléstechnika fejlődése világítja jól meg. Az egyik irányzat az aerodinamika és más kapcsolódó technológiák, tudományágakra alapozva egyre hatékonyabb, gyorsabb stb. repülőszerkezetek megépítése. Itt szép eredményeket értünk el. Gondoljunk csak arra, hogy az ember által épített repülőszerkezetek olyan sebességekre képesk, amelyeket egyetlen madár sem tud túlszárnyalni. Másrészt, egyre inkább teret nyer a természetben, az evolúció során kialakult megoldások alkalmazása. Ez főleg a miniatűrizálásban fontos. Meg sem tudjuk közelíteni - például - energiafelhasználásban stb. a szúnyogok repülési teljesítményét.
A fejlődés útja természetesen itt is a két megközelítés együttes alkalmazása.
A tudatra visszatérve:
Az agykutatás és az informatika fejlődése lesz itt is az előrelépés módja, bár a tudattal kapcsolatos spekulációk szerintem még koraiak, először az agy egyik fő funkcióját, az intelligenciát kellene tudni reprodukálni, az érzelmek még hátrébb vannak. Persze, a tudatos embert el lehet választani az érző embertől, és kezdetben el is lesz választva, de egyelőre felmérni sem tudjuk, megint szerintem, ennek az egész fejlődésnek az ütemtervét, és a visszahatását magára az emberre.
Mert lesz visszahatás, de kérdés, hogy mennyire tudjuk tartani a lépést.
Talán 15 évvel ezelőtt, amikor begyűrűzött ide is az MLM (amúgy még mindig gyűrűzik) én is résztvettem 2, max. 3 beszervezős előadáson. Volt egy, amelyet egy amerikás magyar tartott, azzal a címmel, hogy Amerikából jöttem. A pasas kitett magáért, ingyen lehett kólát inni az ELTE egyik előadótermében. Az eseten felbuzdulva, úgy döntöttem, hogy elmegyek egy másik hasonló előadásra is, végülis vesztenivalóm nem volt, érdekeseket lehetett hallani stb. És tényleg! Az előadó, egy intelligensnek látszó ifjú hölgy beszélt a meggazdagodás lehetőségeiről, és egy adott pillanatban a következőket mondta (gondolj bele: 15 év múlva is emlékszem rá, azt hiszem Farkas volt a családneve): ha meg akarsz gazdagodni, neked is meg kell változnod (vagy eleve "olyannak" kell születned, tenném ma hozz én). Korábban én is azt hittem- folytatta - hogy élem tovább az életemet úgy, mint előtte, megtartom minden szokásom, a különbség csak annyi lesz, hogy rengeteg pénz lesz a bankszámlámon. Hát, ez így nem működik!
És tényleg, mekkora igaza volt. :-)
A régebbi, közelmúltbeli sci-fi filmekben (Űrodüszeia, például) van egy bazi nagy számítógép, amelynek nincs teste, de a benne lévő sok áramkör meg hasonlók miatt van tudata. A lényeg itt azon van, hogy bazi nagy. Pedig, szerintem ha eljutunk odáig, hogy már reprodukálni tudjuk a tudatot, legalábbis annak intelligenciával kapcsolatos funkcióit, akkor már az emberre fizikailag teljes mértékben hasonlító androidokat is tudunk összeállítani. Persze, akkor, a távoli jövőben tudattal fel lehetne ruházni egy emelődarut is, de minek?
A tudat tehát kötődik az agyhoz, annak funkcióihoz, ideg- és más sejtekből áll, és mindegyik sejtben ott van a DNS molekula, az örökletesség hordozója. Azonban, a sejt működését sem értjük teljesen, sem a DNS-ét, és az általuk alkotott rendszerét sem. Ráadásul, ezek csak az anyagi szubsztrátumok, mert a belőlük kialakult agy az emberi élet folyamán fejlődik, és a megélt élményeket, tapasztalatokat információkként dolgozza fel és tárolja. Lényegében ez a tudat: az információk halmaza (amelyekben benne vannak az érzelmek is), kiegészítve különböző minőségi jellemzőkkel, prioritásokkal, erkölcsi töltettel stb. és időbeliséggel. A kérdés az, hogy hogyan szerveződik és mozog ez az információtömeg belül, és kölcsönhatásban a külvilággal, ill. hogy a jelenlegi tudomány képes-e leírni. Valószínűleg nem képes; új fogalmakat kell majd bevezetni, sok bizonytalansági tényezővel.
-
Lollerka #71 ha az algoritmus tokeletesen leirna, nem lenne gond, de nehez leirni egy algoritmussal azt amit nem ertunk tegyunk pl:
egy csaj azt mondja vetkozz le
egy ferfi mondja vetkozz le
mashogy reagalsz
egy ovi mondja menj a busba, egy 120kilos skinhead mondja menj a busba
minden leirhato algoritmusokkal ez teny, de egy ilyen programot megirni sokaig tartana, es szerintem ha elemzesekkel is tanulna a gep akkor is lenyegesen tobb ideig tartana
az agyunk is igy csinalja, ha nincs semmi teendo elkezd bizonyos lehetosegeket lefuttatni tudat alatt, am ezek velemenyem szerint lenyegesen gyorsabbak es nem utolso sorban hatekonyabbak is mint a szamitogepes szimulacio, egyszeruen az anyatermeszetet utanozni nem egyszeru:P mintha egy neandervolgyinek adnal egy autot es azt mondanad csinalj ugyan ilyet, sztem az is haladas lenne ha eljutna a lovaskocsiig
de mi lenne ha egy kozossegi portal szerint tobb ember toltene fel infoval, irnanak egy programot, es igaz h relativan, de a nagy szamok fuggvenyeben minden ember beirna a velemenyet bizonyos helyzetekre, igy lenyegesen gyorsabb lenne, bar igaz h elore meghatarozott valaszokat kapnank -
Alfa Of NS #70 Elég lenne az ha Jessica Alba-t tudnák klónozni. A lelkét nem muszáj 
-
andersh #69 Na evvel azt akarom mondani, hogy szerintem semmi különbség nincs aközött hogy egy algoritmus írja elő h hogy kell viselkedned vagy hormonok, vegyi anyagok, meg mittudoménmik amik a szervezetedben vannak. -
andersh #68 "Teszem azt, be lehet programozni, hogy milyen szókapcsolatokra reagáljon úgy egy gép, mintha dühös lenne, a valóságban azért nem igazán lehetne kihozni a sodrából, legfeljebb annyira, mint egy talicskát, vagy egy festékszórópisztolyt."
És te mikor dühös vagy akkor honnan tudod, hogy tényleg dühös vagy és nem úgy viselkedsz mintha dühös lennél?
Ha a festékszórópisztolyt felbasznád idegileg, és jól pofánfújna, szerintem dühösnek látnád. -
Lollerka #67 BlackRose, teljesen igazad van a politikai fekekkel kapcsolatban, el tudnank latni a vilagot, mindenki elhetne jol, mindenki szedhetne a szemetet szelektiven, es akkor milyen jo is lenne, csak egyeseknek ez nem eri meg, masok nem torodnek vele, nem azt mondom h aki eddig igy csinalta, hagyja abba, csak hat a szolo nem erik be egyetlen fenysugartol sem ahogy azt az apostol is megmondta:) -
Lollerka #66 jo, a tundermesekhez tartozik a te elkepzelt vilagod es az agyra hajazo szamitpogep is:)
az ember sosem fogja levetkozni az alap elemi osztonoket, az agyunk ezt pont annyira teszi lehetove h beszeljunk rola es ket vilaghaboruval a hatunk mogott elgondolkozzunk par pillanatra azon h miert is ne kellene elkezdeni egy harmadikat, az allatvilagban nem letezik utopia, egyzseruen lehetetlen ha mar csak azt vesszuk figyelembe h mindenki a sajat celjait helyezi elonybe, ezert is nem mukodo allamforma a demokracia, viszont ha mindenki a koz erdeket tartana szem elott es mindenki osszedolgozna szerintem megrekedtunk volna az alattvilag majom csoportja szinten, az evolucios verseny mindig allatfajok kozott zajlott, egy teruleten legtobbszor egy falka uralkodik gyan abbol az allatfajbol, ami termeszetes, mert minek menjen el ha eltartja a terulet, minek engedne meg h mas odamenjen, viszont az ember lenyegesen nagyobb teruleten tevekenykedik, igy eleg nehez nem betevedni mas teruletere, lenyeg a lenyeg mindenki tudja mit kellene tenni, de senki nem tesz semmit
mindig az eros hozza a szabalyokat es diktalja oket, csak nem tudod ki az eros
utopia rlz csak az a szomoru valosag h aki munka nelkul akar sok penzt keresni kizsiogerli azt aki dolgozik, aki pedig dolgozik nem nezi ezt jo szemmel, de mivel a hatalom a penzes kezeben van nem tehet ellene semmit akkor sem ha tudatositja a helyzetet -
BlackRose #65 "egyszeruen a fold nem kepes eltartani ennyi embert ilyen modon ahogy elunk"
... és ez éppen azért mert nem szabályok által irányított világban élünk hanem hatalmi célokat szolgáló és hatalmi célok által irányított világban. A pazarlás elképesztő mértékeken forog, a hatékonyság meg egyenesen nevetséges ahhoz képest amit már a jelenlegi technológia nyújt. És ez nem gazdasági hanem politikai fékek miatt van igy.
Érdekes pl. amikor a telekomunikációs világban élünk ahol broadban net a norma, az emberek minden területen évente akár többször, többszázan vagy akár még ennél is többen, többtucat országból találkoznak néhány napra (valami szép helyen) dumálni (megbeszélni a problémát)... ez tudod felesleges energiafogyasztás és időpazarlás de ha csak ez lenne akkor semmi gond, merem állítani, hogy az energia és a többi erőforrások 50% egyenes pazarlás és 0 értéket ad hozzá a világhoz a társadalomhoz. És az politika nem gazdaság. És ilyen feltételek melett lehet, hogy sokan vagyunk... de én nem ilyen világról beszélek én egy olyan világról beszélek ahol a hatékonyság magas, ahol a szabályok szerint viselkedik az emberek többsége (sértés ott is volna de itt nem sértés van itt a szabályokat a hatalom céljai alapján hozzák meg tehát minden alapjában szabálysértés) és ahol a gazdasági, tudományos és információ csere dinamikája a lényeg és az annál jobb minnél fejletebb a világ és minnél nagyobb a piac (tehát alapvetően minnél többen vagyunk, persze úgy, hogy mindenki többé kevésbé hasznos része legyen a társadalomnak). -
Lollerka #64 senki sem jatszik szabalyok szerint, mindenkinek celjai vannak ahogy mondod:) az egyetlen gond az aivel az lenne h neki szabalyai es nem celjai lennenek, nem jokedvunkbol engedelmeskedunk a szocialis normaknak, ez az egyetlen lehetoseg h a leheto legtovabb toltsunk idot ezen a vilagon, es a kevesen vagyunk termeszetesen nem igaz, egyszeruen a fold nem kepes eltartani ennyi embert ilyen modon ahogy elunk, a felsobb celok pedig szinten pofon egyszeruek, meg akkor is ha semmi kedvunk bevalanni, az h a leheto legjobban megkonnyitsuk eletunket, mindenki azert jatszik a szabalyok szerint mert a szabalyok megszegese eppenseggel ezt a lehetoseget neheziti meg vagy lehetetleniti el -
BlackRose #63 Még véletlenöl sem. Az első dolog amit tenne (ha tényleg intelligens), hogy olyan környezetet teremtsen amelyben mindenki dolgozhat céljai megvalósításán... röviden céltalan társadalmat hozna létre amelyben szabályok irányítják az embereket és nem "felsőbb" célok. És egy ilyen világban azt venné észre, hogy nem vagyunk elegen...
Egyébként miért biznánk magunkat valakire (mesterséges vagy természetes inteligenciára egyaránt) az ember saját céljait csak akkor tudja megvalósítani ha nem bizza magát senkire.
Mondom a lényeg a cél vs. szabály, és egy mesterséges inteligenciának ez világos lenne (az embernek is ha igazán elgondolkodik és megérti a dolgokat, csak az ember nem becsületes és ezért nem akar olyan világot amelyben szabadság van és amelyben az emberek szabadon élhetnek társadalmi szabályok és normák melett és nem pedig a hatalom célja érdekében működnek). -
Lollerka #62 viszont ha egy mesterseges inteligenciara akarjuk bizni magunkat, es az tenyleg a legjobb megoldast valasztja elso dolog amit tenne kb az lenne h kinyirna olyan 1-1,5 milliard embert -
BlackRose #61 Embereknek van szükségük másik emberekre... és ez egyáltalán nem változik meg akkor sem ha a szuper AI megszületik. Növelni fogja az értéket az ember szemében, olyan dolgokat tesz majd lehetővé amelyek ma elképzelhetetlenek és mindezt nekünk embereknek, mert a gépnek nincs semmire szüksége, a gép még ha szuper AI akkor sincs előtte az ember praxeológiai perspektívája mi szerint javítani akarunk helyzetünkön és ezért cselekszünk, a gép nem fárad, nem ismer kényelmetlenséget és kényelmet még akkor sem ha szuper mesterséges intelligencia és nincs neki érzelmi/nemi világa sem ugyanakkor álmodni sem tud és ezek nélkül az ember marad továbbra is az egyetlen lény amely értékelni tud méghozzá nem kvantitatív hanem enumeratív szemszögből.
Az ember szüksége másik ember iránt annál nagyobb minnél fejletebb társadalomban él, az AI egy sokkal fejletebb társadalmat eredményez majd amelyben az ember értéke nem csökken hanem növekszik, csak éppen nem azokon a helyeken amelyeken esetleg megszoktuk... de hát ez változott és változik akkor is amikor gépi agynak semmi jele nincs. El kell mélyülni a dolgokban és csak akkor érti meg az ember, felszínes naív racionalizmus nem hoz semmi eredményt. -
Zoliz #60 Mi szükség lesz akkor az emberekre Te gépagy? Vagy azok már elavultak?
Ezt az indiai zsidót Dharmendra Modha legszívesebben kitenném egy sivatagba és otthagynám kígyókat kergetni.
-
Lollerka #59 a tobb emberben az a jo h a nagy szamok ertelmeben van 1 aki tudja a jo megoldast, viszont egy ugyan ugy viselkedo gepet nehez éetrehozni, mert igaz h beprogramozhatjuk h a torta eves utan legyen jo a kedved, de a gep csak addig fog eljutni pl h elemzi a torta kemiai osszetetelet es egy bizonyos vegyuletnel boldog lesz, elfelejtjuk h a nyelvunk csak erzi h mit eszunk, viszont a hatast az agykereg asszociativ reszei hatarozzak meg amik lenyegesen nagyobb reszet kepezik az agynak mint az erzekszervek
a gepek a leirt, megszerzett, hasznalt informacio ujrahasznalasaban tokeletesek, es szerintem ellenvetes nelkul bevallhatjuk h sokkal jobbak benne mint az ember, viszont sosem fognak megprobalni valami ujat csinalni, mindig megrekednek a programozasukon alapulo hibakban, mig az ember ambicioi "felulirhatjak" tetjeiket, pl nem olok, de ha szukseg van ra persze h kinyirok akarkit -
BlackRose #58 Az emberiség kollektív tudása és kognitív képessége számtalanszor meghaladja egy ember (egyén) tudás kapacitását és kognitív képpeségeit (ezért is eredményes az együttműködés és a gondolatok megosztása)... tehát semmi gond az embertől okosabb gépet elképzelni és ha a technológia meg van megalkotni... képzelj el egy gépet amelynek pl. egy nagyobb kutatócsoport tudását birtokolja és még ezen kívüli információkhoz is hozzáfér valós időben. -
remark #57 No és ezekbe a zombikba annyira alacsony szinten, annyira szétválaszthatatlanul lesz belekódolva az érzelem, hogy tulajdonképpen tényleg át fogják érezni. mert annyira szétválaszthatatlanok lesznek a teljes lényüktől, hogy nem is tudjuk őket külön kezelni a lehetséges érzéseiktől.
Vagy más szavakkal: Mikor a zombi saját érzéseinek forrása, avagy annak programjába kódolásának mibenléte, avagy az érzések implementálásának módja olyannyira lesz rejtélyes és megfoghatatlan számára mint az ember számára a saját magában lezajló ugyanilyen folyamatok, akkor a zombi egyenértékű lesz a valódival.
Tehát a nem értést kell leprogramozni, és készen is vagyunk.
Ezt viccnek szántam, de egyben arra is rá kívánok ezzel mutatni, hogy az ember olyasmit akar lemásolni amiről csak sejtése van. Egy ilyen módon megalkotott MI folyamatosan arról panaszkodna hogy nem ért semmit...
Vagy a másik oldalról közelítve: Mi érdekes van egy MI létrehozásában akkor, mikor már tudjuk hogy mi teszi az Intelligens lényt Intelligens lénnyé? (Vö: Valami olyasmi maradt meg, hogy szerinte, ha sikerülne igazi filozófiai zombit építeni, akkor az egész kérdés érdektelenné válnék.) Az ember is tele van olyan alacsony szintű folyamatokkal melyeket nem ért vagy nem is érzékel. A világ maga is tele van olyan alacsony szintű folyamatokkal melyeket az ember nem ért vagy nem érzékel. Mi van a tudatalattival? Mi van agyunk azon folyamataival melyekre nincs közvetlen ráhatásunk? Mi a helyzet azokkal az intuíciókkal, ösztönökkel melyek forrása megfoghatatlan, és melyek mintha "nagyon alacsony szinten" lennének belénk programozva? Nem lehet a tudatalattit egy hatalmas (a tudatot vezérlő kódhoz képest hatalmas) spagetti-kód tárnak elképzelni, melyhez direkt nincs közvetlen hozzáférésünk (sem olvasási, sem írási jogunk), és amely a tudattal csak indirekt csatornákon keresztül tartja a kapcsolatot? -
physis #56 Úgy tudom, hogy ennek az érvelésnek külön szakirodalma is van, sőt külön neve is (filozófiai zombi érvelés):
Tehát feltételezzük, hogy készül egy gép, ami teljesen hűen utánozza az ember minden reakcióját
* a piros színű tárgyakra ugyanúgy reagál
* fájdalomra felkiált
* a torta evése közben az öröm látható jeleit mutatja),
de közben valójában nem érez semmit, nincsenek érzései, nincs igazi tudata, és a piros szín is csak csak egy adat neki, de valójában nem ,,látja belülről'' a piros szín ,,pirosságát''. Szóval kváliáról sem lehet beszélni az ő esetében.
Az említett filozófiai zombi Wikipédia cikket még nem olvastam át, de valahol korábban olvastam erről a fogalomról (talán Dennett vagy Pinker egyik könyvében, mikor a tudatról írt, azt hiszem, Steven Pinker: Hogyan működik az elme). Az ő érvelését sem értettem pontosan. Valami olyasmi maradt meg, hogy szerinte, ha sikerülne igazi filozófiai zombit építeni, akkor az egész kérdés érdektelenné válnék. Mindegy, hogy tudatosságot tulajdonítunk-e a zombinak, vagy sem, mert mindenben teljesen ugyanolyan.
Egy tudománytörténei hasonlat, ahog elképzelem: valaha sokat vitáztak a tudósok a komplex számok ,,valódiságáról'', de lassanként, ahogy megszokottá vált, hogy a komplex számok nemcsak precízek és következetessek, de hasznosak is (fizika), úgy megszüntek a korai erőltetett filozófiai viták a komplex számok ,,ontológiájáról''..
Egy másik érvelés szerint az emberi tudatosság is csak illúzió.
Mindezeket az érveket még nem értettem meg igazán. A filozófiai zombi kérdésről a következő sejtésem van:
Igazi filozófia zombit csak úgy lehet építeni, ha a gép az emberi örömöt, bánatot nagyon alacsony szinten szimulálja. Programozói hasonlattal szólva: nem valamiféle magas szintű Java-osztályokba van beleprogramozva a fájdalom, öröm, mint valami objektum-attribútum, hanem az nagyon alacsony szinten szövi át az egész rendszert. Olyan, mint egy rosszul megírt loggoló program, ahol a loggolási lehetőség nem különül el szépen a program fő részétől, hanem teljesen szétválasztatatlan attól, vagyis ad hoc módon szövi át a program egészét, és még csak a fogalmi modellben sem jelenik meg.
Szóval szerintem az emberi kváliát és érzéseket csak így lehet modellezni. A magas szintű modellezési megközelítések (ahol a fájdalom, öröm közvetlenül is megjelenik a modellben) nem eredményeznek teljes zombit: egy jó Turing próbával mindig ki lehet majd mutatni az embertől való lényeges eltérést. Persze lehet teljes zombit is csinálni (amely tényleg átmegy a Turing próbán), de éppen e a zombik megalkotása szükségszerűen olyan megközelítést megkövetelni lesznek, ahol az érzések nagyon alacsony szinten lesznek belekódolva, és közvetlenül nem is jelennek meg a magasabb szintű (fogalmi) modellben.
No és ezekbe a zombikba annyira alacsony szinten, annyira szétválaszthatatlanul lesz belekódolva az érzelem, hogy tulajdonképpen tényleg át fogják érezni. mert annyira szétválaszthatatlanok lesznek a teljes lényüktől, hogy nem is tudjuk őket külön kezelni a lehetséges érzéseiktől. Nem tudjuk fogalmilag sem szétválasztani a viselkedést a megvalósítástól. Kénytelen leszünk úgy gondolni rájuk, mint akik tényleg átérzik a szimulált érzéseiket.
Például, az emberről miért nem hisszük az, hogy csak szimulálja az érzéseit? Azért, mert az ember elválaszthatatlan az érzéseitől, még fogalmilag sem lehet azoktól külön szemlélni.
Például, ha egy nőt nemi erőszak ér, vagy egy gyereket vernek, akkor sokszor igen súlyos poszttraumás stressz fejlődik ki nála: még évekkel azután is rémálmai lesznek, önértékelés és nemi zavar, depresszió. És hiába szeretné ő maga is elfelejteni, meg hiába érvel az ember őelőtte, hogy ez már csak a múlt, akkor sem tudja elfelejteni, mert a félelem meg ezek az érzelmek nagyon alacsony szinten vannak belehuzalozva az agyba, és nem is nagyon lehet szétválasztani az agyat ettől az alacsony szintű huzalozottságtól.
Szóval szentbeszéddel meg prédikációval nem lehet gyógyítani a poszttraumás stresszt, hanem csak úgy, mintha egy spagettikódot kéne idegölő és türelmes bogarászással programsorról programsorra kijavítani. A posztraumás stresszt is csak fokozatosan feldolgozni lehet, nem pedig egyetlen elegáns mozdulattal elegánsan kikapcsolni.
Szóval nem lehet úgy gyógyítani, mintha csak egy Java osztályban átírnék egy rosszul beállított attribútumot. Miért? Mert az érzelmek a legrosszabb, legalacsonyabb szintű spagettikódban lettek leprogramozva. Az evolúció szorgalmas, türelmes, nagy lexikális tudású, de módszertani értelemben hanyag mérnök. Persze lehetne teremteni egy jobb programozási módszertannal tervezett agyat is, de az már egy más lény lenne, nem ugyanaz az ember.
Szóval egyelőre szerintem azért vannak érzelmeink, (meg a mai értelemben vett tudatosságunk, kváliáink), mert az Isten nem járt be akkoriban programozási módszertan órákra, és ezért az evolúció csak spegettikóddal tudta megírni a beadandó házikat, amiket a folyton változó természeti környezetnek (ragadozók, élelemszerzés) kellett rendre beadni.
Persze mindezt így gondolom, még nem értettem meg igazán Dennett és Pinker okfejtéseit, még a wiki cikket sem. -
remark #55 Hoppá:
"Hogy nincs olyan ember aki ne értné hogy mik ezek a bizonyos kauzalitások."
Ez helyesen így hangzik:
Hogy nincs olyan ember aki értené hogy mik ezek a bizonyos kauzalitások. -
remark #54 "Pl a gyerek amit alkotsz lehet okosabb nálad nem? :P"
A gyereket nem te alkotod. ;-) -
#53
"Ezt sosem értettem, hogy lehet okosabb valami az embernél, amit az ember alkotott? Max ügyesebb, gyorsabb, erősebb, nagyobb kapacitású na de okosabb?? Ha okosabb lenne, az paradoxon lenne, mert akkor ki a franc "rakta bele" ezt a tudást?"
Pl a gyerek amit alkotsz lehet okosabb nálad nem? :P
+2 példa:
Egyrészt nem kell hogy kezdetben okosabb legyen, ha rendelkezik az emberhez hasonló tanulási képességekkel, akkor idővel okosabbá válik. A tapasztalati részt tekintve, mert ugye az is kell az okossághoz.
Másrészt tegyük fel ,hogyha mondjuk képesek lennénk elérni egy csimpánz szintjét 1m^3-ben, akkor 10m^3-ben ugyanaz a rendszer szerintem kb 10 szer olyan jo lenne. A mennyiséget elég sokáig növelni tudjuk, ha összekötjük ezeket a rendszereket. Nem lesznek benne új képességek, de amik vannak képességek, azok felgyorsulnak,tehát az adott idő alatt bonyolultabb dolgokat is ki tudna gondolni. -
remark #52 "Modha szerint ekkora számítási kapacitású számítógépekkel lehetővé válik majd a világ vízellátásának vagy pénzügyi rendszerének valósághű elemzése. Az ötlet az, hogy felfedezzük a kauzalitást a jelenségek mögött, és az okozati kapcsolatokat gyorsan és könnyen hozzuk létre, pont ugyanúgy, mint ahogyan az emberi agy működik."
Ez egy jópofa részlet. Azt sugallja hogy a világ pénzügyi helyzete a rendszer jelenlegi üzemeltetői számára egy nagy rejtély. Hogy nincs olyan ember aki ne értné hogy mik ezek a bizonyos kauzalitások. És hogy egy számítógépre van szükség ahhoz hogy elemezni tudjuk hogy mi történik. Nem azt sugallja ez a rész hogy a megértéshez van szükség a rendszerre? Pedig valószínűbb hogy csak az elemzéshez van rá szükség.
Nekem, aki meg vagyok arról győződve hogy egy pofonegyszerű kérdésről van szó a gazdasággal kapcsolatban, inkább az a szovjet elképzelés jutott eszembe miszerint a társadalmat tulajdonképpen egy központi számítógépnek kellene vezérelnie (neki is álltak megvalósítani mindezt). A számítógép pontosan kiszámítaná hogy mikor mire van szükség pl. a boltokban, és a gyártókapacitást ennek megfelelően vezérelnék. Az ötlet "jó volt", de akkoriban megvalósíthatatlan. Helyette a részben decentralizált kapitalista megoldás vált uralkodóvá.
Úgyhogy nem hiszem hogy a valóság modellezése lenne a cél, hanem inkább a valóság alakítása. Egy modell készítése mely kellően valós ahhoz hogy hihető legyen, de kellően mesterséges ahhoz hogy bármilyen önkényesen megválasztott cél elérését hatékonyan képes legyen támogatni.
Hivatkozhatok megint unodue irományára, ha már ilyen jól megfogalmazta a lényeget?
Ahhoz, hogy a háborút elűzzük és a jólét és tudomány magasabb fokára érhessünk szükséges nem csak a világ fegyveres ereje hanem a globális gazdaság termelési hullámzása a népesség hullámzása is kontroll alatt kell legyen.
Nem lehet álmodni átfogó halladásról ellenőrzés nélkül.
Ha ez megvalósul, akkor nagyobb arányban lehet majd az emberiségtől a képességek és energiák tömegét elvonni, hogy a tudományos kutatás és termelő munka szolgálatába álljanak hogy az emberi sorson könnyítsenek s hogy kiterjesszék az emberi lehetőségek határait. -
remark #51 Ez az egész kérdés engem arra emlékeztet mint mikor megpróbálták lemásolni az akkupunktúrát anélkül hogy pontosan értették volna hogy miről is szól az.
Lefektették annak módját hogy hogyan lehet lemásolni az akkupunktúrát mint módszert. Újraalkották azt, azaz annak elkészítették a másolatát. Innen kezdve a másolatokat ezerszámra lehetett egyszerűen legyártani. A másolatok munkába álltak, de az eredmény teljesen más volt mint az eredeti. Hol történt a hiba? Hát a mintavételezésnél. A mintavételező nem értette a módszer mibenlétét, így tévesen határozta meg hogy mit is kellene reprodukálni.
Viszont aki már addig jutott a megértésben hogy értette is hogy mit kell lemásolnia, az felfogta hogy pontosan ez a lényeg: végigjárni a megértéshez vezető utat, merthogy pontosan ez az értelme a "másolat készítésnek", azaz a módszer egyik emberből másikba másolásának: a megértés átvitele. A tudományos metódus a mintavételezéssel azt sugallja hogy a másolat, ami az eredetinél kevesebb részletet tartalmaz, ugyan olyan jó mint az eredeti. De a valóság az, hogy mire a tudományos metódus eljut ahhoz a részletességhez a mintavételezésben hogy képes az eredetivel megegyező mesterséges "másolat-metódust" felállítani (vagy másolat-bármit létrehozni), addigra a tudományos metódust mindenáron alkalmazni akaró ember ráeszmél arra hogy egy ugyan olyan bonyolult rendszert alkotott mint az eredeti. És innen kezdve nincs értelme másolatot készíteni, mert a másolat tulajdonképpen megegyezne az eredetivel, akkor meg mi az értelme a másolat szónak? Hiszen a másolat is eredeti. És az eredeti is másolat.
Ezért a lényeg szerintem nem a másolás, hanem a megértés. Mert a megértés folyamata a másolás folyamata maga. Merthogy mi vagyunk a még félkész másolat. Ha megértettünk valamit, akkor az adott dolog átkerült a másolatba, azaz belénk. Sikeresen feltöltődött az adott "programrészlet" vagy "adatmennyiség". Ahogy a megértés újabb és újabb fokára jutunk, úgy haladunk előre a "másolás" beteljesítésének útján, azaz jutunk közelebb ahhoz hogy azzá váljunk "aminek a másolata" mi magunk vagyunk. Honnan jön a gondolat: "I feel like a prototype"? Van egy "ember", egy "intelligencia", egy "entitás" aminek a másolataivá válhatunk ha önmagunk megértése útján eljutunk arra szintre ahova az eredeti specifikációinknak megfelelően eljuthatunk. Ha azzá válunk amivé a specifikációink engednek válni. A másolás folyamata pedig az élet. A beteljesedett élet nem más, mint a beteljesedett másolás. A másolatba átmásolódik a "szoftvernek" a legfejlettebb változata, így kapunk egy, az eredeti specifikációnak megfelelő másolatot. Persze sok a hibás másolat, sok probléma lép fel "adatátvitel" közben, arról nem is beszélve hogy az adathordozó is túl gyakran sérül és ezért képtelen a "szoftver" befogadására. Sokszor kell ezért a Cancel gombra kattintani a másolás során...
Persze mindezt némileg átvitt értelemben kellene venni, de ha valaki elkapja a fonalat és el tud vonatkoztatni, akkor talán érti hogy miről beszélek. -
#50
Ezt sosem értettem, hogy lehet okosabb valami az embernél, amit az ember alkotott? Max ügyesebb, gyorsabb, erősebb, nagyobb kapacitású na de okosabb?? Ha okosabb lenne, az paradoxon lenne, mert akkor ki a franc "rakta bele" ezt a tudást? -
Lollerka #49 de semmi értelme nem lenne szerintem, miért nem elég h megismerjuk az agyunka, miert kell egybol utanozni?:D amugy eleg nehez beleprogizni vlmi az osztonoket es a feldobok egy ermet es lessz ami lesz parancsokat:D pl szerintem egy gep nagyon jo ha konkret dolgokrol van szo, de hogy mondod meg egy ocnek h irjon le egy almat, ami valojaban nem is letezik?:D -
ike86 #48 Asimov RULE!
"Modha szerint ekkora számítási kapacitású számítógépekkel lehetővé válik majd a világ vízellátásának vagy pénzügyi rendszerének valósághű elemzése."
Ez a rész nagyon tetszik. Emlékeztet az agyakra a robottörténetekből...
És szerintem nagy szükség lenne pár ilyen agyra, mert a világ jelenlegi működését azt hiszem csak a káosz szóval lehet jellemezni. És ha valamire akarunk jutni a jövőben (akár fennmaradni, mint faj, akár kijutni az űrbe, világvégét, vagy bármit), ahhoz bizony terv kell. -
remark #47 "A lenyeg az, hogy a lemasolasahoz nem kell megertenunk, hogyan mukodik egy szoftver."
De legalább azt tudni kell hogy mit akarsz lemásolni. Ha nem érted mit akarsz lemásolni, a másolat egy véletlenszerű valami lesz. Az ember tudja hogy mitől ember? Tudja mit is kell lemásolnia?
Én meg úgy gondolom hogy minél közelebb jutunk annak felismeréséhez hogy mi is az amit le akarunk másolni, annál kevésbé lesz erre szükségünk...
Mert hogyan lehet egy másolat, melyet az eredetit sem értő ember hozott létre jobb annál, mint amilyen az eredeti? Eddig minden amit létrehoztunk maximum az ember hozzáértését vagy hozzá nem értését tükrözte csak különféle formákban. A problémáink is szinte kizárólag a hibás lemásolásból erednek. A megértés képességének a hiányából.
De az egész olyan mintha a számítógépen futó szoftvernek az lenne a célja hogy lemásolja önmagát. De a hardver a szoftverhez képest hogy úgy mondjam egy másik dimenzióban van. A szoftver nem érti a hardver mibenlétét, az annak keretei és annak korlátai között üzemel csak. Hiába vizsgálja hogy miért van az hogy képes adatot továbbítani egy regiszter és a memória között, nem képes érzékelni sem az elektronok jelenlétét, sem a világ azon dimenzióját melyben a hardver létezik. Esetleg ha átlényegülne, hogy úgy mondjam dimenziót váltana?
Ugyanígy az emberi értelem is az értelem létezését lehetővé tevő világ korlátai között létezik csak, már amennyire ilyen fáradtan most látom. És mit tudunk a világról magáról? Sok érdekes és hihetetlennek tűnő dolgot, de hogy ezeknek a dolgoknak mi a közük van a létezésünkhöz, arról pár érdekes elképzelésen kívül nem sokat hallottam eddig. (Mondjuk az hogy én miről hallottam, vagy hogy ebből most hullafáradtan mi jut az eszembe, az nem sokat jelent...) -
remark #46 "...aztán létre kell hozni egy még okosabb számítógépet hogy megfejtse mit jelent a 42 és igy tovább..."
Ha jól emlékszem a könyvre, akkor az a számítógép aminek a feladata az lenne hogy "kiszámítsa" azt hogy melyik az a kérdés amire a válasz a 42 (aka. mit jelent a 42) azt úgy hívják hogy Föld...
...és a program fut töretlenül. Nézz csak körül. ;-) Majd ha lefut, a rendszer kiköpi a választ magából, és végre tudni fogják a rendszer megalkotói, hogy mi a kérdés.
Mert máskülönben hogyan is nevezheti magát egy faj intelligensnek, amelyik még azt sem tudja hogy mi a kérdés? Amelyik azt sem tudja hogy mi az amire a választ keresi? És ha a kérdés se tiszta, akkor válasz sem lesz, csak futunk körbe-körbe a labirintusban, mint a fehér egerek. -
readswift #45 jó link , most találtam -
emile zola #44 hát pedig ez a jövő:) igaz nem egy lehel hűtőre kell gondolni, hanem nanotechnológiára és ilyesmikre -
Alfa Of NS #43 Te most mi a rossebet akarsz mondani? 