slowtroll#312
"Nem igazán értem ezek milyen szabályok lennének"
még egyszer megpróbálom. :) van egy függvényem (szabályrendszer), és megengedem, hogy hozzáférj tetszőleges kimenetéhez (tapasztalat), de a definícióját nem árulom el. ehhez a kimenethez keresed a legegyszerűbb megoldást (fizikai elméletek), tehát egy olyan függvényt, ami ugyanazt a kimenetet produkálja, mint amit az én, számodra ismeretlen függvényem adott. elvi akadálya van annak, hogy akármennyi érték feldolgozása után kijelenthesd, hogy a te függvényed ugyanaz, mint az enyém. és ez már abban az idealizált helyzetben is igaz, amikor az összes kimenethez hozzáférsz (tehát látod a jövőt, jelent, múltat), és a kimenetek is konkrétan kimérhetőek. de a valóságban még ez sem adott, tehát még távolabb vagy attól a gyakorlatban, hogy megközelíthesd a függvényem leírását, nemhogy telibe találd. (és mégha telibe találnád, akkor sem tudnád összehasonlítani a definíciódat az enyémmel!)
"Programot ír, vagy létrehozza az univerzumot leíró állapotot is? "
az a kérdés, hogyha megírod ezt a programot, de nem indítod el, tehát az univerzum élettörténete (állapotai) soha semmilyen formábna nem kerül reprezentálásra (pl. egy számítógép memóriájában, és máshol sem), akkor létezik-e ez az univerzum? ez azért érdekes kérdés, mert ha a válaszod "nem", az azt jelenti, hogy az univerzum létéhez kevés az azt megalkotó szabályrendszer léte, kell egy "mozgató" is, ami a szabályrendszer alkalmazása által létrehozza az univerzum konkrét állapotait. (és akkor jön a körkörös kérdés, a mozgatót ki mozgatja stb...:)
"Erre az MI-re nyilván nem fogják a teljes rakétarendszert rábízni."
hangyás példa tovább: szándékai szerint a hangya sem biztosít hozzáférést a királynőhöz (rakétarendszer) az ember számára, ellenőrzi, hogy az étel finom, és miután meggyőződött erről, beviszi a bolyba. :) a probléma abból fakad, hogy az implikációit az érdekeid kielégítésének nem látod át egy szint felett. (egyébként a hangya-ember -> ember-MI analógia még sántít is, mert az ember számítási kapacitása szintén fizikailag korlátozva van az agya által, szemben egy MI-vel, ami alá bármennyi vasat lehet tenni, elméletben a végtelenségig skálázódik felfelé. magyarul egy hangyához közelebb állunk értelmi képességeinket tekintve, mint egy általános MI-hez)
egyébként irreleváns, hogy milyen akadályokat gördítesz elé (hozzáférés korlátozása), ezt az intelligenciát csak a számítási kapacitás oldaláról tudod korlátozni, minden "akadály" végül is redukálódik egy részszámításra. csakhogy a szándék részünkről, ami egy ilyen entitás megteremtésére törekszik éppen az, hogy olyan problémát is meg tudjon oldani az ember, amit önmaga már nem tud, tehát nem fogja korlátozni a számítási kapacitást. (illetve eleve addig tudja ezt tenni, amíg az MI ezt az akadályt el nem képes hárítani)