Ahogy egyre inkább önrendelkezésűvé válnak a robotok, a társadalomnak ki kell alakítania a kordában tartásukkal kapcsolatos szabályokat.

A 2001: Űrodüsszeia című sci-fi klasszikusban az űrhajó számítógépe, HAL egy dilemma elé kerül. Utasításai szerint teljesítenie kell a hajó küldetését, ugyanakkor titokban kell tartania a küldetés valós célját a legénység előtt. Az ellentmondás megoldásaként megkísérli elpusztítani az űrhajósokat.

Ahogy a robotok egyre önállóbbá válnak, az etikai döntések elé állított számítógép vezérelt gépek a tudományos fantasztikum birodalmából a valós világ felé kezdenek elmozdulni. A társadalomnak meg kell találnia a módját, hogy jobb morális felkészítést kapjanak, mint ami HAL döntéseit vezérelte.

A katonai technológia áll az önálló döntéseket hozó gépek frontvonalában. Evolúciójuk elképesztő változatosságot eredményezett ennél a csoportnál. A Sand Flea képes beugrani egy ablakon, vagy fel a tetőre, miközben mindent videóra rögzít. Ezután kerekeken gördül egészen addig, amíg újra ugrania nem kell. A RiSE, egy hatlábú robotcsótány a falakon mászik, az LS3 egy kutyára emlékeztető robot, ami a legkeményebb terepeken kocog az ember után, akár 180 kilogramm felszereléssel a hátán. Az SUGV méretét tekintve nem nagyobb egy irattáskánál, mégis képes beazonosítani egy embert a tömegben és követni. A robotrepülőgépeknél is rendkívül széles a paletta, létezik olyan kémrepülő, ami mindössze egy karikagyűrű méretű, de akad olyan is, ami 2,7 tonnányi bombát képes célba juttatni.

A robotok azonban a civil világban is egyre nagyobb teret hódítanak, a repülőgépek fedélzetétől egészen a műtőasztalokig. Az utasszállító repülőgépek régóta képesek az automatikus leszállásra, a vezető nélküli vonatok sem keltenek döbbenetet. A Volvo új V40-ese saját magát kormányozza a sűrű forgalomban, ha ütközésveszélyt észlel fékez, akárcsak a Ford új egyterűje, a B-Max. A Google teljesen automata járművei is több mint 400.000 kilométert teljesítettek Amerikában, Nevada államban pedig már a közutakon is folyik a tesztelésük. Múlt héten a Volvo Spanyolországban demonstrálta önvezérlő autóinak viselkedését egy autópályán.

Egyre intelligensebbé és elterjedtebbé válásukkal az autonóm gépek elkerülhetetlenül eljutnak az élet-halál döntésekhez, ha valamilyen váratlan helyzetbe kerülnek, ami feltételezi, hogy erkölcsökkel is fel kell majd ruházni ezeket a szerkezeteket. A fegyverrendszereknél jelen van egy emberi operátor, azonban ahogy fejlődnek lehetségessé válik, hogy emberi parancsokat hajtsanak ugyan végre, de emberi beavatkozás nélkül. Ha eljutunk erre a pontra, elkerülhetetlenül megjelennek az etikai dilemmák.

Tüzet nyithat-e egy robot egy házra, amiről tudják, hogy a célszemély ott rejtőzik, ugyanakkor ártatlan civilek is lakhatnak benne? Kitérhet-e egy vezető nélküli jármű egy figyelmetlen gyalogos elől, ha már nem képes lefékezni, ezzel azonban a szemből érkező járművel való összeütközést kockáztatja, veszélybe sodorva az utasait? Egy katasztrófa elhárításban segédkező robot elmondhatja-e az igazságot a kialakult helyzetről, ha ezzel pánikot okoz? Ilyen kérdések vezetnek el a "gépi etika" területének kibontakozásához, ami arra törekszik, hogy megteremtse a gépek számára a megfelelő választások képességének elsajátítását, más szavakkal, megmondja mi a helyes, és mi nem.

A fenti és a hozzájuk hasonló bonyolult kérdések kezelésének az egyik módja, hogy teljes egészében elkerüljük azokat, ez azonban azt jelenti, hogy a robottechnika megragad a jelenlegi szintjén, ami nem feltétlenül jó. A Nemzetközi Robot Fegyverkezés Korlátozási Bizottság a harci robotok növekvő felhasználása ellen kampányol, pedig az önrendelkezésű robotok több hasznot hajthatnak, mint amennyi kárt csinálnak. Egy robot katona nem követ el erőszakot vagy éget fel egy falut pusztán indulatból, és stresszhelyzetekben sem válnak kiszámíthatatlanokká a döntéseiket illetően. A vezető nélküli autók is nagy valószínűséggel biztonságosabbak lennének hagyományos társaiknál, ahogy a robotpilóta is biztonságosabbá tette a repülést. Sebastian Thun, a terület egyik úttörője szerint az önrendelkezésű autók évente egymillió életet mentenének meg.

A megoldás a társadalom kezében van, azáltal, hogy különböző módszereket dolgoznak ki a robotetika kezelésére, méghozzá sürgősen, a technológia ugyanis gyorsabban fejlődik, mint ahogy a törvényhozás malmai őrölnek.

A legismertebb iránymutatás az Isaac Asimov által megfogalmazott a"robotika három törvénye", ami megköveteli a robotoktól az emberek védelmét, az utasításoknak való engedelmeskedést és önmaguk megvédését, szigorúan ebben a sorrendben. Sajnos ezeknek a törvényeknek nem sok hasznuk van a valós világban. A harci robotoknak eleve meg kell szegniük az első törvényt, ezért is lebilincselőek Asimov robot történetei, mert azokat a váratlan eseteket feszegetik, amik kihívás elé állítják a törvényeket követni próbáló gépeket. Az autonóm robotok fejlesztésének és felhasználásának szabályzása egy egészen komplikált feladat, amihez konkrétan három területen kellene előrelépni, véli az Economist.

Elsőként olyan törvényekre lenne szükség, amik meghatározzák, hogy a tervező, a programozó, a gyártó vagy az üzemeltető felelőssége-e, ha egy robot valamilyen hibát vagy balesetet okoz. A felelősség meghatározása érdekében az önrendelkezésű rendszereknek részletes naplót kell vezetniük, hogy szükség esetén megmagyarázhatóak legyenek a döntéseik mögötti okok. Ennek komoly hatásai lennének a rendszer kialakítására, például kizárhatnák a mesterséges neurális hálózatok alkalmazását, az olyan döntéshozó rendszereket, amik elsősorban tapasztalati úton tanulnak, sem mint előre meghatározott szabályoknak engedelmeskednek.

A második terület a beültetett etikai rendszerek területe, ezek döntéseinek olyanoknak kell lenniük, ami a legtöbb ember számára megfelelőnek tűnik. A kísérleti filozófia technikái, ami az emberek etikai dilemmákra adott reakcióit tanulmányozza, nagy segítséget jelenthet. Végül a legfontosabb, nagyobb együttműködésre lenne szükség a mérnökök, az etikusok, az ügyvédek és a törvényalkotók között, ugyanis a felsoroltak mindegyik teljesen eltérő szabályrendszert dolgozna ki, ha egy saját szempontjaiknak megfelelő robotot kellene megalkotniuk.

Az emberiség fejlődését egyértelműen a technológia vezérli, azonban minden egyes új előrelépés új kérdéseket vet föl, amik többnyire nyugtalanítóan hatnak az emberekre. Ez alól az önrendelkezésű gépek sem kivételek, és minél hamarabb választ adunk az általuk felvetett, morális lényükből adódó kérdésekre, annál egyszerűbb lesz az emberiségnek élvezni azokat az előnyöket, amikkel kétségkívül járnak.