• Skylake
    #11
    És még ott van egy tényező.

    Engem és másokat emberként bizonyos tettek elkövetésétől meghatározott társadalmi intézményrendszerek életemre való hatása tart vissza. Így például, ha a „lopás” bűntettét sikerül rám bizonyítani, akkor fogház vagy börtön kategóriás szabadságvesztést kaphatok. Ez tartalmában olyan retorzió, amely emberi nézőpontból nagyon kellemetlen, mert a maslow-i szükségletek meghatározott részének kielégítését akadályozza meg. Ha meg embert ölök, akkor ez a retorzió fegyházbüntetésben képeződik le – ez ugye a harmadik, keményebb fokozat. Mindez azért érvényesíthető, mert ember vagyok, halandó vagyok, és emberi tényezőimet korlátozzák le ezek a retorziók, meg azért, mert ez okból jogképes vagyok.

    Ezzel szemben hogy büntetünk egy autonóm robotot? Lekapcsoljuk az áramot? Volt- nincs működése. Frissítjük a szoftverét? Nincs tudata, ezért ezt bármikor és akárhányszor megtehetjük. Olyan működési paramétereket állítunk be, amire az eszközt kontrolláló által igény van. Semmiféle eszközünk nincs arra, hogy bármiféle olyan kontrollt gyakoroljunk az eszközön, ami hasonlít az emberihez, amelyhez igazítani fogja viselkedését, a számára lehetséges kellemetlen következmények miatt, ami emberi mércékkel összemérhető. Mivel nem halandó. Csak egy szofisztikált gép lesz, ami emberi működést utánoz – sok esetben jobb teljesítménnyel, mint egy ember, ugyanabban a műsorszámban. Minket összességében a saját halandóságunkra irányuló fenyegetések kényszerítenek be egy közös működésmódba, amit társadalomnak neveznek. Őt, mivel nem halandó, semmi ilyen kényszer nem kötheti. Csak ezeket szimuláló szoftverkód tetteti annak – ami, mivel szoftver, törhető is.