Berta Sándor
Harci robotok - vannak érvek és ellenérvek is
Vajon a feladatok precíz végrehajtása jelentette előny megéri-e azt a kockázatot, hogy elvesszen az emberi ellenőrzés az önállóan működő fegyverrendszerek felett?
"A legutóbbi genfi tárgyalásokon az autonóm harci robotokról volt szó. Távvezérelt, részben önállóan és teljesen önállóan működő harcrendszereket különböztetünk meg egymástól. Genfben a jogi, az etikai és a biztonságpolitikai kérdésekről egyaránt tárgyalnak már egy ideje." - jelentette ki Oliver Bendel.
"A felfegyverzett autonóm rendszerekkel kapcsolatban két nagy tábor áll szemben egymással. Vannak, akik az önállóan működő harcrendszereket kutatják, nekik nyilvánvalóan nem érdekük e megoldások betiltása. Ebbe a táborba tartozik az Amerikai Egyesült Államok és Kína. A betiltás mellett érvelők táborában található Svájc, Németország és Franciaország. Mind a két oldalon vannak jó érvek mind etikai, mind szabályozási és társadalmi szempontból. Az autonóm harci rendszerek mellett szól, hogy nagyon precízen működnek és idővel felszerelhetők mesterséges intelligenciával, amely a célokat többé vagy kevésbé egyértelműen tudja azonosítani és precízen megsemmisíteni, ezért a járulékos veszteségek alacsonyan tarthatók. Egy másik érv a gazdaságosabb hadviselés, hiszen a katonák egy részének az életét így meg lehet kímélni. Az is elhangzik érvként, hogy a harci robotok nem fosztogatnak, gyújtogatnak és erőszakolnak."
"Az ellentábor érvei között szerepel, hogy gépek döntenek életről és halálról, ami sérti az alapvető emberi jogokat, például az emberi méltóságot. De nem szabad figyelmen kívül hagyni, hogy ez a jog gyakorlatilag minden háborúban sérül, ráadásul a harci cselekmények gombnyomás szintjére redukálhatók le. A robotok ugyan valóban nem fosztogatnak, erőszakolnak és gyújtogatnak, de ez később beléjük programozható. S van még egy dolog: az emberek nem tudják, hogy ha egy harci robotot látnak, akkor az mire van beprogramozva, mire számíthatnak tőle, mit tehetnek és mit nem, s ez egy nagyobb pszichoterrort válthat ki." - mondta Oliver Bendel.
A szakértő hozzátette, hogy ő a betiltás mellett van, leginkább amiatt, hogy megakadályozható legyen a gombnyomásra való háborúzás. Emellett úgy véli, hogy bizonyos döntéseket nem szabadna a gépeknek meghozniuk. Sokan elfelejtik, hogy már most is vannak a célpontjaikat maguk kikereső fegyverek, például Észak- és Dél-Korea határán. Azok a rendszerek már automatikusan azonosítják a célpontjaikat és automatikusan tüzelnek. Léteznek olyan aknák, amelyek képesek megkülönböztetni az egyes személyeket. Több ilyen fegyverrendszer van annál, mint gondolnánk és ezek is a tiltás hatálya alá eshetnének.
Persze nem mindegyik robotrendszer harci, nagyon sokan kutatják az autonóm szállítási rendszereket is. A megalkotott megoldások elszállítják a sebesülteket, ellátják a katonákat és más logisztikai célokat is szolgálnak. Bendel ezzel kapcsolatban kifejtette, hogy egy sebesültet a tűzből kihúzó robot csodálatos dolog, és a távolról bevethető műtőrobotok is nagyszerűek, mert az orvos irányításával végezhetik a munkájukat a harctereken. "A véleményem az, hogy különbséget kellene tenni a háború és a terrorizmus elleni harc között. Amennyiben felmerült volna a kérdés, hogy Oszama Bin Ladent manuálisan akarják megölni vagy autonóm fegyverrendszerrel, akkor már egyáltalán nem lett volna biztos az elutasító álláspontom" - szögezte le az egyetemi tanár.
Pár hónapja több mint száz technológiai vállalkozó és tudós figyelmeztetett az autonóm fegyverrendszerekkel való esetleges visszaélések veszélyeire, köztük volt Mustafa Suleyman, a Deep Mind társalapítója és vezetője, valamint Elon Musk, a Tesla Motor és a SpaceX vezetője. 2017 novemberében pedig szakértők tanácskoztak Genfben arról, hogy vajon alkalmazhatnak-e az országok halálos autonóm fegyverrendszereket. Szakemberek és különböző szervezetek azt szeretnék, ha az Egyesült Nemzetek Szervezete megtiltaná a harci robotok fejlesztését, gyártását, kereskedelmét és alkalmazását.
| Oliver Bendel robotikával foglalkozó professzor, a szakterületei közé tartozik a gazdasági informatika és a gépi etika. Az elmúlt években többek között morális és nem morális gépeket is tervezett, köztük volt a Ladybird nevű állatbarát porszívó és a Liebot nevű, gyakran hazugságokat közlő chatbot. |
"A felfegyverzett autonóm rendszerekkel kapcsolatban két nagy tábor áll szemben egymással. Vannak, akik az önállóan működő harcrendszereket kutatják, nekik nyilvánvalóan nem érdekük e megoldások betiltása. Ebbe a táborba tartozik az Amerikai Egyesült Államok és Kína. A betiltás mellett érvelők táborában található Svájc, Németország és Franciaország. Mind a két oldalon vannak jó érvek mind etikai, mind szabályozási és társadalmi szempontból. Az autonóm harci rendszerek mellett szól, hogy nagyon precízen működnek és idővel felszerelhetők mesterséges intelligenciával, amely a célokat többé vagy kevésbé egyértelműen tudja azonosítani és precízen megsemmisíteni, ezért a járulékos veszteségek alacsonyan tarthatók. Egy másik érv a gazdaságosabb hadviselés, hiszen a katonák egy részének az életét így meg lehet kímélni. Az is elhangzik érvként, hogy a harci robotok nem fosztogatnak, gyújtogatnak és erőszakolnak."
"Az ellentábor érvei között szerepel, hogy gépek döntenek életről és halálról, ami sérti az alapvető emberi jogokat, például az emberi méltóságot. De nem szabad figyelmen kívül hagyni, hogy ez a jog gyakorlatilag minden háborúban sérül, ráadásul a harci cselekmények gombnyomás szintjére redukálhatók le. A robotok ugyan valóban nem fosztogatnak, erőszakolnak és gyújtogatnak, de ez később beléjük programozható. S van még egy dolog: az emberek nem tudják, hogy ha egy harci robotot látnak, akkor az mire van beprogramozva, mire számíthatnak tőle, mit tehetnek és mit nem, s ez egy nagyobb pszichoterrort válthat ki." - mondta Oliver Bendel.
A szakértő hozzátette, hogy ő a betiltás mellett van, leginkább amiatt, hogy megakadályozható legyen a gombnyomásra való háborúzás. Emellett úgy véli, hogy bizonyos döntéseket nem szabadna a gépeknek meghozniuk. Sokan elfelejtik, hogy már most is vannak a célpontjaikat maguk kikereső fegyverek, például Észak- és Dél-Korea határán. Azok a rendszerek már automatikusan azonosítják a célpontjaikat és automatikusan tüzelnek. Léteznek olyan aknák, amelyek képesek megkülönböztetni az egyes személyeket. Több ilyen fegyverrendszer van annál, mint gondolnánk és ezek is a tiltás hatálya alá eshetnének.
Persze nem mindegyik robotrendszer harci, nagyon sokan kutatják az autonóm szállítási rendszereket is. A megalkotott megoldások elszállítják a sebesülteket, ellátják a katonákat és más logisztikai célokat is szolgálnak. Bendel ezzel kapcsolatban kifejtette, hogy egy sebesültet a tűzből kihúzó robot csodálatos dolog, és a távolról bevethető műtőrobotok is nagyszerűek, mert az orvos irányításával végezhetik a munkájukat a harctereken. "A véleményem az, hogy különbséget kellene tenni a háború és a terrorizmus elleni harc között. Amennyiben felmerült volna a kérdés, hogy Oszama Bin Ladent manuálisan akarják megölni vagy autonóm fegyverrendszerrel, akkor már egyáltalán nem lett volna biztos az elutasító álláspontom" - szögezte le az egyetemi tanár.
Pár hónapja több mint száz technológiai vállalkozó és tudós figyelmeztetett az autonóm fegyverrendszerekkel való esetleges visszaélések veszélyeire, köztük volt Mustafa Suleyman, a Deep Mind társalapítója és vezetője, valamint Elon Musk, a Tesla Motor és a SpaceX vezetője. 2017 novemberében pedig szakértők tanácskoztak Genfben arról, hogy vajon alkalmazhatnak-e az országok halálos autonóm fegyverrendszereket. Szakemberek és különböző szervezetek azt szeretnék, ha az Egyesült Nemzetek Szervezete megtiltaná a harci robotok fejlesztését, gyártását, kereskedelmét és alkalmazását.