dez#46
"Hát persze, hogy kívülről kell. Mindent tanítani kell neki. De utánna a parancs már megmarad, hacsak nem kezdenek el neki mást tanítani."
Önállóság nélkül megreked a dolog egy nagyon alacsony szinten... Azaz, igencsak buta lenne így. Pontosabban, így csak egyszerűbb feladatvégrehajtásokat lehet elsajáttíttatni.
"Az ember esetén kétféle tanítás ütközik, és ebből adódnak a gondok. Egyfelől megvan az evolúciós múlt, amiből az ösztönök jönnek, másrészt ott van a kultúra, ami sokszor az ösztönökkel ellentétes dolgot tanít. Egy robotot viszont kozisztensen tanítanának, így nem lenne hasonló problémája."
Nem ez teszi a különbséget ember és robot között. A robotnak egyéb okokból is szüksége lehet, van önálló gondolkodásra, nem csak ilyenek miatt.
"Nem kívülről befolyásolja valami, hanem ő maga fogja gondolni azokat. Egy intelligencia nem működhet cél nélkül."
Egy viszonlag egyszerűbb "alrendszer" talán nem, de egy összetett rendszernek magának is tudnia kell találni célokat. Ha nem is fő célokat, de alcélokat - egy feladat megoldása során...
"Az elérendő célt szükségszerűen kívülről kell kapnia, így megkérdőjelezni sem tudja, hacsak nincs benne önellentmondás (az embernél ez gyakori).
Egy gép számára nem teher az, hogy parancsokat kell követnie, mert nincs más dolga amivel foglalkozhatna. Az embernek megvan a maga alapvető evolúciós célja (túlélés, szaporodás, stb.), aminek elérésért folyamatosan dolgoznia kell, így bármilyen külső parancs ettől a fontos tevékenységtől vonja el az erőforrásokat.
Az persze könnyen lehet, hogy a robot átlátja, hogy valójában mit akar az ember, és rájön, hogy azt hatékonyabban is el lehet érni, mint ahogy az ember mondja neki. De ettől sem fog fellázadni. Ugyanis hacsak nem erre programozták a hatékonyság sem fontos számára. Nincs benne önzés, hatalomvágy, türelmetlenség, felsőbbrendőségi érzés, stb. Tehát nem fogja zavarni, hogy értelmetlen parancsot kell végrehajtania, legfeljebb közölni fogja, hogy szerinte nem ez a legjobb megoldás."
Te valami olyan egyszerű rendszert képzelsz el, ami szerintem így használhatatlan...
"Egyébként az is engem igazol, hogy ilyeneken vitatkozunk. ez ugyanis azt jelenti, hogy bizonyos ösztönöket, érzéseket, viselkedésmintákat magától értetődőnek és univerzálisnak tartassz. Fel sem merül benned, hogy ezeket kívülről erőszakolja rád valaki/valami (pl. a génjeid és a társadalom), tehát nem is küzdessz ellenük."
Ezeket honnan a francból szeded? Téves következtetés, annyit mondhatok.
Tudom, pl. miért kell ennem, miért érzek éhséget. És egy csomó egyéb dolog okát is tudom, és aminek nem, annak is keresem. Azt is tudom, miért teszem ezt, de ebbe nem megyek itt bele.
"Persze az ember képes arra, hogy ellenszegüljön az ösztöneinek, és tanulással, gyakorlással a legerősebbeket is legyőzze. De ezt mindíg egy másik, általa fontosabbnak tartott cél érdekében teszi (vagy pszichológiai problémák miatt), nem szórakozásból."
Ó, dehogynem, sokszor csak puszta szórakozásból teszi... Persze a szórakozás is egy cél.
"Egy robot viszont sokkal egyszerűbb, és egyértelműbb "ösztönöket" kapna, mert számos problémával nem kell foglalkoznia, ami az embert terheli (szaporodás, utódnevelés, szociális kapcsolatok, stb.), és nincs két egymással harcoló réteg a gondolkodásukban (ösztönök vs. civilizáció).
Az embernél az ösztönök közt nincs egyértelmű rangsor felállítva így vitás esetben nem egyértelmű a döntés. De pl. Asimov törvényinél adott az egyértelmű prioritási sorrend.
De az is igaz, hogy ha csak egy normál neuronhálót nézünk, akkor hosszú tanulással egy gép is képes lehet megváltoztatni a parancsait. Persze ezt sosem szándékosan tenné, hanem vagy valaki tanítja, vagy a körülmények alakítják így (de pl. a rossz bánásmód miatt nem lesz agresszív, mert ehhez emberi ösztönök kellenek). Ez meg elvileg védhető független ellenőrző rendszer beépítésével. Ha "tudatosan" szeg meg a robot egy parancsot, az ezzel detektálható, és a megfelelő ellenintézkedés foganatosítható."
Na, akkor mégegyszer: önállóság nélkül nagyon korlátozott az intelligencia. Ha meg van önállóság, akkor alapjaiban téves az állításod.