kvp#3
A nagyobb gond nem a vallas, mert az nehezen programozhato. Hanem amikor teljes mertekben racionalis, de hibas peremfeltetelu kovetelmenyeket adunk meg. MI feladata: szuntesse meg a gyerek sirasat. Az MI legegyszerubb valasza: a gyerek megszuntetese megszunteti a sirast is. Igen, illett volna megadni, hogy feltetel, hogy a gyereket nem banthatja. Azaz se o, se rajta keresztul mas valaki, tehat nem kerhet meg senkit, hogy bantsa a gyereket es igy tovabb...
Egy altalanos, tisztan logikus MI, az emberekre jellemzo tanult vilagkep nelkul nagyon veszelyes lehet az egesz emberisegre. A tanult vilagkepunk pedig a tarsadalom korabbi tapasztalataibol felepult es szuletes utan, kommunikacio segitsegevel atadott, "milyen viselkedes a helyes es milyen a rossz" tipusu utasitas lista. Sok helyen ezt vallasoknak hivjak, de eredetileg csak a komplex tarsadalom fennmaradasahoz szukeges szabalyok gyujtemenyei voltak, keso kokorszaki, kora bronzkori szinten megalkotva.
Egy vallasos MI ezert valoszinuleg kevesbe lenne veszelyes mint egy tisztan racionalis, de teljes mertekben szociopata MI.