slowtroll#306
"Az univerzum definíció szerint a legnagyobb egység amit vizsgálhatunk, nem látunk ki belőle."
pontosan ezt a gondolatot erőltetem én is. az, hogy hogyan működik az univerzum (milyen szabályok szerint), és hogy mit gondolunk arról, hogy hogyan működik az univerzum (milyen szabályokat alkotunk a működéséről) 2 eltérő dolog. ebben kéne megegyeznünk, mert körbe-körbe haladunk. :) nem állítok semmit, hogy efölött lenne valami vagy, ilyesmi. személy szerint elképzelhetőnek tartom, de nem ez a lényege a mondókámnak, hanem a különbségtétel a konkrét, tényleges, hozzá nem férhető szabályok, és a tapasztalati úton nyert ismeretekre épülő ember által megfogalmazott világot leíró szabályok között.
"Egy idővalon kiolvasom és megállapítom hogy a 3-as eredmény úgy jött létre hogy összeadtál, nem pedig szoroztál, az információ ami ezt tárolja nem megsemmisíthető, nem összekeverhető."
a szorzásos példánál maradva, tételezzük fel, hogy az univerzum egymást követő állapotait (ezt is tételezzük fel, hogy van ilyen) a szorzás eredménye jelenti. az univerzum fejlődése így az egyes t és t+1 időpillanat közti változást jelenti az ezekhez az időpillanatokhoz tartozó eredmény képében. te ebben a belső összefüggésben jelensz meg emergensen. ebből a belső összefüggésből te sehogyan sem tudsz "kinézni", és teljesen értelmetlen arról az időről is beszélni, amiben az egyes szorzatok eredményét előállítják. (jó kérdés, hogy ki kell-e egyáltalán számolnia bárkinek is, vagy a puszta matematikai lehetőség elég.) mert mégcsak nem is azáltal "múlik" az idő ebben a rendszerben, hogy "kívül" egymás után kiszámolgatja valaki az egyes világállapotokat, hanem azáltal, hogy egy emergens szerkezet reflektálni tud benne "önmagára". mivel pusztán a számsorozat alkotja az univerzumot, hogy miért és hogyan lett ez a számsorozat arról az univerzumon belül senki semmit nem tud mondani, annak ellenére, hogy esetleg létezik miért és hogyan, amennyiben a puszta matematikai lehetőség nem elegendő. :)
tegyük fel, hogy valaki egy csoda folytán készítene egy programot, ami - az ellentmondások elkerülése kedvéért - egy másik, miénkkel majdnem megegyező univerzumot tökéletesen képes szimulálni. kérdés: szerinted, ha a programot nem indítja el, létezik az az univerzum, benne léteznek az emberek?
"Csakhogy a magasabb intelligania döntése nem szükségszerűen az én céljaimat szolgálja(főleg ha biblia módon fenyegeted, ahonnan indultunk). Ő lehet hogy azt látja hogy az emberiség lefelezése jó döntés lenne hosszú távon, az azonban ütközik azok érdekével akik a jelenbe élnek."
én teljesen egyetértek veled. de képzeld el, amikor a sziliciumvölgyben george (az első általános MI megalkotója) kapja felülről a nyomást, hogy most már ne szarakodjon a biztonsággal, valamit csináljon, hogy hasznát is lehessen venni az MI-jének, akkor kénytelen kipróbálni minden lehetséges megoldást, ami eszébe jut, mert a bé verzió, hogy lapátra teszik. :)
"Az AI mutassa meg a számítása eredményét miszerint az legjobb eredményt a pusztítás okozza, az emberiség(akit szolgál) pedig eldöntheti hogy végrehajtja-e."
a hangyás példa: a hangya azt látja, hogy az ember az érdekeit szolgálja azzal, hogy ételt tesz ki neki. azért *dönt úgy*, hogy beviszi a bolyba a mérget, mert azt hiszi, hogy ételt visz be, tehát az érdekeit szolgálja.
elég nagy probléma önmagában, hogy az ember érdekeit legfeljebb csak mint biológiai szerkezetét lehet megfogalmazni konkrétan, és intelligenciánk által viszonylag hamar felül tudtunk kerekedni már mi magunk is a biológiai szükségleteinket jelentő "beépített" célokon.