defiant9#307
"hozzá nem férhető szabályok"
Nem igazán értem ezek milyen szabályok lennének. Mi meg tudjuk figyelni az univerzumunkat mozgató szabályokat, és fel tudjuk írni rá a képletrendszert, egyszer remélhetőleg majd a teljeset. Mi az ami ezen túl lenne? Elvileg semmi, ha szimulált világban is vagyunk ránk akkor sincs hatással a a 'gépterem' szabályrendszere. A kvantum fluktuáció pedig pont egy olyan dolog ami minden szabály kapcsán megenged egy kis bizonytalanságot, tehát nyugodtan felírhatjuk a képletünket, akkor is ha csilliárdból egyszer nem a legvalószínűbb eredményt jön ki.
„ebből a belső összefüggésből te sehogyan sem tudsz "kinézni"”
Ahogy mondtam a kulcs az információ, nem kell kinézni sehova, csak össze kell szednem belül az információt. Minden energiakvantum nyomot hagy, ami nem semmisíthető meg, tehát elvi szinten felrajzolható egy múlt, nincs olyan hogy lehet hogy 2 IR foton nyelődött el nem pedig 1 UV, akkor sem ha ugyannyi energiát hordoztak.
„mivel pusztán a számsorozat alkotja az univerzumot”
Így is tekinthetünk rá, de inkább a számok tengere mintsem sorozata, ahol bármit csinálsz az apró hullámokat fog gerjeszteni, amik jelen szabályrendszerünk szerint nem eltüntethetőek.
„szerinted, ha a programot nem indítja el, létezik az az univerzum, benne léteznek az emberek?”
Programot ír, vagy létrehozza az univerzumot leíró állapotot is? Az utóbbiban nyilván mondhatjuk hogy léteznek csak belefagytak az időkeretükbe. Az idő ilyen szempontból valóban egy furcsa természetű jószág, és ez a ’praktikum’ egyébként szerintem is utalhat arra hogy szimulációban vagyunk, csak önmagában számomra ez nem elégséges egy kellően megalapozott feltételezéshez, több jel kéne.
"az első általános MI megalkotója) kapja felülről a nyomást, hogy most már ne szarakodjon a biztonsággal,"
Erre az MI-re nyilván nem fogják a teljes rakétarendszert rábízni. Tegyük fel beteszik egy önvezető autóba ahol azért már elég nagy kárt tud csinálni ha ’elborul’. Mondjuk képes letarolni a lakosság pár %-át, mielőtt szétlőnék az utolsó darabját is. Na ezután George-ok olyan kemény safety beépítési követelményeket kapnak a nyakukba hogy a szuper okos MI el is vágta magát a további pusztító terveitől. Ahogy mondtam a szuperokos MI felismeri hogy ameddig nem képes megnyerni a teljes háborút addig értelemtlen elindítania.
„hogy beviszi a bolyba a mérget”
Ahogy mondtam, kritikus infrastruktúra elemnél nem kaphat az AI lényegsen nagyobb hozzáférést mint amit ma is megkap valaki, ilyen pl. az atomerőmű, bár még ezzel is csak korlátozott kárt tudna tenni. Ez a kockázat jelnleg is megvan, egy elborult ember, főleg vezető pozícióban nagy kárt tud okozni, néha sajnos világégés ennek a vége, de egy jó rendszerben azért ott vannak az ellensúlyok. Kim valszeg tudna háborút indítani, és a végén meg is semmisítené magát, Trump-nak pedig nem engednék a rakétaindítást ameddig nem tudja a többieket is meggyőzni hogy értelmesen cselekszik. Ezért kell kerülni az autokratikus/diktatórikus rendszereket, mert nagyon nagy hibákat is el tud követni, ezért nem szabad a hatalmat erősen koncentrálni.