Robotok az etika csapdájában

Jaja, ez az addig foglalkozott a döntéshozatallal, hogy közben mindenki odaveszett dolog, azé sántít. Akkor szar az algoritmus, gyenge ehhez a vas stb. Egy gép MINDENKÉPPEN hoz döntést, ha úgy van leprogramozva és elegendő a számításkapacitása ehhez, adott időre. Jót vagy kevésbé jót, de megteszi időben amit kell. Utólag meg lehet okoskodni, de annyi idő alatt, ilyen vassal, ilyen programmal ez volt a lehető legjobb döntés. Ezen még rágódni sem kell. 😄

Embereknél is évekig húzódnak a hadbírósági tárgyalások (avagy csak simák pl. balesetnél) és könnyű bársonyszékből okoskodni, de akik ott voltak, azoknak szemvillanásnyi idő alatt kellett meghozniuk súlyos döntéseket és bezony olyankor minimális infóból kell semmi idő alatt jól dönteni, ami kb. lehetetlen egy ember számára, pláne ha felkészületlen (max. rutinból megy, ha felkészült), de egy gépnek ez nem probléma ha elég gyors és elég részletesen a problémára van kihegyezve a programja. A gép nem lepődik meg. Ha új információk merülnek fel, áttervezi ennek megfelelően a cuccost. Aztán vagy van rá idő, vagy nincs... 😄

Hahaha, jópofa ahogy imbolyog a harmadik esetben ide-oda (aztán meg mindkét megmentendő ráhajt a lyuk zónára). 😊

Szó ami szó, egyetértek Sir Quno Jedi-vel. Ez rém egyszerű modell és nem igazán "vacillált" a robot, hanem kb egyenlő távolságra ért mindkét megmentendő áldozathoz és hol egyik, hol másik került közelebb ahogy haladtak a lyuk zóna felé. Gondolom csak távolságokat számolt.

A gépnek mi határozzuk meg az etikáját. Beállítjuk a feltételeket és elvárásokat, ezzel megadva neki mi a követendő út. Egy ember, bárminő etikus és erkölcsös is, mégis lehet rosszul dönt adott szituban, mert pl. FÉL, vagy meg van zavarodva, vagy személyes érintettsége van a dologban. A gép meg simán feláldozza magát, vagy beáldoz bárki mást, ha az "erkölcsi kódexe" erre szólítja fel. Mert ő azt nézi mi a "helyes" és nem azt, hogy mi az erkölcsös, vagy morálisan elvárható. Ezek emberek által kreált dolgok, tényszerűen nehéz megközelíteni ezeket eleve. De nem is kell.

Másrészt a gépet nem befolyásolják emberi tényezők. Nem fél, nem bizonytalankodik, nem irigy és nincsenek ambíciói. Végrehajtja a feladatát és részéről a fáklyásmenet.

és akkor tegyük hozzá, hogy az egész kibaszott kísérletük csak azért lett olyan, amilyen, mert most épp a robot implementációja olyan volt, amilyen. Nagyon béna ez az egész.

Valóban elég nevetséges "egyszerű" és hiányos/hibás parancssorokat valós etikai döntésként értelmezni.

Nincs ebben semmi nehézkes. "Egyszerű" számítások ezek (valójában murva bonyolultak, de egy gépnek ez nem probléma). Súlyozva minden. Megvizsgálja kit tud megmenteni és mennyi az esélye, nomeg azokat a verziókat is, mikor többeket menthet meg. Azt is beleszámítja, hogy akiket nem menthet meg, azok mekkora sérülést szenvedhetnek (mennyire lesz veszélyes a baleset, ez is megér egy misét). Ezután súlyozza aszerint, ahogy előre feltöltötték az erre vonatkozó adattáblákat, miszerint pl. gyerek megmentése fontosabb, mint egy felnőtté, a saját gazdája élete is nagyobb súllyal esik latba (lásd. gépkocsi, annak elsősorban azokat kell megvédenie akik bent ülnek), nem mindegy ki a hibás/vétkes, mit írnak elő a szabályok, pl. kresz stb. Ha mindent sikerült számításba venni emígy, akkor csak ki kell választani a legideálisabbat és mehet a jöhet. PONTOSAN úgy, mint a katonai gépeknél. Csak itt más szempontok és súlyozások számítanak, mert mások a normák, előírások.

Gyors gép kell, annyi szent. Nyilván egy bizonyos változószám felett túl sok lehetőséget kéne lemodellezni és az lassú, ezért ezeket mindenféle mátrixokkal, valószínűségszámításokkal, differenciálegyenletekkel stb. szokták közelíteni, egyszerűsíteni, sok lehetőséget élből kiszórva stb. (ez erősen felsőfokú matematika, pl. robotikában is hatodfokú Jacobi mátrixokkal számoltunk anno szabadságfok függően, meg ilyenek, az nem embernek való, az tuti) Kb. mint egy sakkautomata. Ott sem feltétlen az a jó megoldás, ha nyersen előre számolunk x lépést, hanem ügyes algoritmusokkal optimalizálják az egészet (és nem mellesleg öntanuló a dolog manapság, maga állítgatja a súlyokat, a tapasztalatai szerint).

Szal. ezeket nem lehet le1xűsíteni primitív döntésekre, hogy kit mentsünk meg, A-t, vagy B-t. Ezernyi (kombinációjukban trilliárdnyi) szempont számít. Ha túl fapados programmal állunk neki modellezni, nagyon (nagyon-nagyon) rémisztő eredményeket fogunk kapni... 😄 ezekből hosszú távú következtetéseket levonni a gépekről, azé meg elég vicces.