#114
"Na most képzeld el azt a helyzetet, hogy sikerül olyan robotokat készíteni, amik intelligensebbek az embernél. Sőt, mondjuk elég élethűen tudják utánozni is azt, mintha teljes értékű tudatos lények lennének, de - tegyük fel - valójában semmiféle tudatuk nincs. Ők könnyen arra a logikai következtetésre juthatnak, hogy az ember egy érdekes lény, de haszontalan, sőt, káros, és amúgy is ők már felette állnak. (Mert hogy okosabbak, és a gépi agyukkal más szempontot nem tudnak elképzelni.) És mondjuk szépen kiirtanak minket, sőt, sokan önként mennek a gázkamrába, mert hogy minek éljenek, ha egyszer van náluk "fejlettebb létforma". Nézzük, mi is történt: lecseréltük magunkat, tudatosan érző lényeket automatákra, amik az idők végezetéig csak "működnek"... Ezzel kiöltük a tudatos értelmes életet. (Talán csak a Földről, de esetleg az egész univerzumból is.) De jó! Milyen ügyesek vagyunk!"
Feltételezve, hogy a robotok is emberiek lesznek, és ők is önzők. Ha nem lesznek emberi érzelmeik, akkor a kiírtásunk fel sem merülhet bennük. Meg azért mi fogjuk őket programozni. Képzeld el, annó domini a 70-es években kezdődött a gyilkos-robot mizéria az USA-ban. Figyeld meg: ha valami áttörő eredmény születik a tudományban vagy a technológiában, mindíg lesznek ilyen elrettentő filmek és könyvek.
"Végülis az is lehet, hogy azért nem nagyon találunk más értelmes életet az univerzumban, mert a többiek is belesétáltak ebbe a csapdába. (A robotok meg egy idő után elrozsdásodtak. :P )"
Vagy mert kicsi az esélye annak, hogy radarral találunk, esetleg olyan fejlettek/fejletlenek, hogy nem találjuk őket, stb.
ÁNem te mondtad, hanem Lem,[...]"
Igaz. Csak én mondtam már, hogy Lem mondta.
"[...]és logikailag - legalábbis a dolgok egy szűkebb halmazán értelmezve - igaza volt. De én meg azt mondtam, nem csak a logika létezik."
Persze, erről elvitáztunk egy darabon. :)
"Én inkább azt nevezem erős túlbecsülésnek, hogy azt hisszük, pár évtizednyi kutatással jobb testet tudunk csinálni (magunknak, vagy másnak), mint ami évmilliók alatt kialakult. Közben egy csomó mindent csak most kezdünk egyátalán kapisgálni a testtel kapcsolatban. (És a legtöbbször a saját tudatlanságunk következménye, ha nem érezzük magunkat jól benne.)"
Ezt senki nem tagadja. De csak a bulvár hiszi ezt, a tudósok tudják, hogy mi az ábra.
"Tudsz arra értelmes okot, hogy miért ne tennék, ha egyszer okosabbak, a testük strapabíróbb, nem viselkednek ostobán, nem csinálnak hülyeségeket, pl. nem teszik tönkre a Földet, stb.? Az ő szemükben a buta emberiség nem más, mint potenciális veszélyforrás."
Persze, sokat is:
- Három asimovi törvény
- Nem emberszerűek, ezért nem is merül fel bennük a pusztítás
- A teremtőikkel szembeni tisztesség
- Együttélés. Lehet, hogy ők is rá fognak jönni arra, hogy az ember több, mint a tudat szimulációja.
- stb.
#114