djhambi#83
Igen, ez azért veszélyes, mert a mi programaink oly bonyolultságúak már ma, hogy sokszor a felhasználó akaratával ellentétes mellékhatások kiütköznek. éldául előfordulhat olyan szituáció, hogy a gép azt teszi, amire programozták, de mivel máshogy "gondolkodik", mint egy ember, kivételes szituációkban kárt tehet az emberekben. (Sarkított példa, történik egy kis baleset, és megsérül egy ember, nyílt seb, látja a robot az ember sértetlen csontját, és úgy érzékeli, hogy azokat a kábeleket most el kell vágnia... Teszi azt, amire az ember programozta, de a programozó ember, ezért hibázik. De csak annyira veszélyes, mint az összes többi "emberiséget javító" technika: autóbalesetek is vannak, mégis beülünk a kocsikba.)