BiroAndras#44
"Figyu, ilyen parancsokat nem lehet beépíteni a neuronális hálóba, hiszen az folyamatosan újrarendezi magát. Kívülről kell érvényesíteni a megkívánt szabályokat."
Hát persze, hogy kívülről kell. Mindent tanítani kell neki. De utánna a parancs már megmarad, hacsak nem kezdenek el neki mást tanítani.
Az ember esetén kétféle tanítás ütközik, és ebből adódnak a gondok. Egyfelől megvan az evolúciós múlt, amiből az ösztönök jönnek, másrészt ott van a kultúra, ami sokszor az ösztönökkel ellentétes dolgot tanít. Egy robotot viszont kozisztensen tanítanának, így nem lenne hasonló problémája.
"De ha igazán intelligens, és önálló lesz egy robot (önállóság nélkül erősen korlátozott az intelligencia szintje), akkor nem fog tetszeni neki, hogy a gondolatait erősen befolyásolja valami, és követnie kell olyan parancsokat, amik okaira nem fog értelmes választ kapni (mert akkor még nekiállna kritizálni - bár akár magától is elkezdhet magyarázatokat keresni...)."
Nem kívülről befolyásolja valami, hanem ő maga fogja gondolni azokat. Egy intelligencia nem működhet cél nélkül. Az elérendő célt szükségszerűen kívülről kell kapnia, így megkérdőjelezni sem tudja, hacsak nincs benne önellentmondás (az embernél ez gyakori).
Egy gép számára nem teher az, hogy parancsokat kell követnie, mert nincs más dolga amivel foglalkozhatna. Az embernek megvan a maga alapvető evolúciós célja (túlélés, szaporodás, stb.), aminek elérésért folyamatosan dolgoznia kell, így bármilyen külső parancs ettől a fontos tevékenységtől vonja el az erőforrásokat.
Az persze könnyen lehet, hogy a robot átlátja, hogy valójában mit akar az ember, és rájön, hogy azt hatékonyabban is el lehet érni, mint ahogy az ember mondja neki. De ettől sem fog fellázadni. Ugyanis hacsak nem erre programozták a hatékonyság sem fontos számára. Nincs benne önzés, hatalomvágy, türelmetlenség, felsőbbrendőségi érzés, stb. Tehát nem fogja zavarni, hogy értelmetlen parancsot kell végrehajtania, legfeljebb közölni fogja, hogy szerinte nem ez a legjobb megoldás.
Egyébként az is engem igazol, hogy ilyeneken vitatkozunk. ez ugyanis azt jelenti, hogy bizonyos ösztönöket, érzéseket, viselkedésmintákat magától értetődőnek és univerzálisnak tartassz. Fel sem merül benned, hogy ezeket kívülről erőszakolja rád valaki/valami (pl. a génjeid és a társadalom), tehát nem is küzdessz ellenük.
Persze az ember képes arra, hogy ellenszegüljön az ösztöneinek, és tanulással, gyakorlással a legerősebbeket is legyőzze. De ezt mindíg egy másik, általa fontosabbnak tartott cél érdekében teszi (vagy pszichológiai problémák miatt), nem szórakozásból.
Egy robot viszont sokkal egyszerűbb, és egyértelműbb "ösztönöket" kapna, mert számos problémával nem kell foglalkoznia, ami az embert terheli (szaporodás, utódnevelés, szociális kapcsolatok, stb.), és nincs két egymással harcoló réteg a gondolkodásukban (ösztönök vs. civilizáció).
Az embernél az ösztönök közt nincs egyértelmű rangsor felállítva így vitás esetben nem egyértelmű a döntés. De pl. Asimov törvényinél adott az egyértelmű prioritási sorrend.
De az is igaz, hogy ha csak egy normál neuronhálót nézünk, akkor hosszú tanulással egy gép is képes lehet megváltoztatni a parancsait. Persze ezt sosem szándékosan tenné, hanem vagy valaki tanítja, vagy a körülmények alakítják így (de pl. a rossz bánásmód miatt nem lesz agresszív, mert ehhez emberi ösztönök kellenek). Ez meg elvileg védhető független ellenőrző rendszer beépítésével. Ha "tudatosan" szeg meg a robot egy parancsot, az ezzel detektálható, és a megfelelő ellenintézkedés foganatosítható.