BiroAndras#90
"Ahhoz viszont nem fér kétség, hogy összetett feladatok megoldásához, mint írtam, önálló kezdeményezőkészség kell."
Természetesen.
"Ha ez már megvan, eléggé önállóvá válik a rendszer ahhoz, hogy ne lehessen csak úgy "beprogramozni" célokat, hogy azokat eszébe se jusson felülbírálni..."
Na ez már nem ilyen egyszerű. Bármenniyre is önálló az a gép, kell hogy legyen valami "életcélja". Az embert is alapvetően vágyak, érzelmek mozgatják, amiket nem nagyon tud befolyásolni. Persze felülbírálhatja őket, ha nagyon akarja, de ezt is valmilyen cél érdekében teszi, nem csakúgy. Ugyanígy a robotokba is beépíthetők "vágyak", illetve "érzelmi" reakciók, és ezek fogják vezérelni a gondolataikat és cselekedeteiket.
Természetesen, ha ügyetlenül állítjuk be ezeket a célokat, akkor juthat olyan döntésre a robot, hogy az emberektől meg kell szabadulni.