Berta Sándor

Néhány területen már elveszítette az ellenőrzést az ember

A technikai fejlődés egyre több félelmet szül, éppen ezért szükség van arra, hogy az etikát is bevonják a folyamatokba.

Armin Grunwald fizikus és filozófus a német parlament technikai következmény-becslő irodájának a vezetője és egyben a német digitalizálás etikai tanácsadója. A szakember 1999 óta vezeti a világ legnagyobb technikai következmény-becslő létesítményét (ITAS), amely Karlsruhe városában működik, emellett a helyi egyetemen műszaki filozófiát és műszaki etikát tanít. Minden héten két napra Berlinbe utazik, ahol 2012 óta vezeti a német parlament technikai következmény-becslő irodáját. A csapatának tíz tagja van és a fő feladatuk az új technológiákban rejlő lehetőségek és veszélyek feltérképezése. A mesterséges intelligencia a lista elején található.

"Világszerte eltérő értékek és társadalmi normák vannak, s az emberről alkotott kép is mindenhol különböző. Ezek az eltérések természetesen megmutatkoznak az új technológiák használatában is. Európában az egyén és a magánélete évszázadok óta kiemelt téma, s ezt megerősítette a május 25. óta hatályos új adatvédelmi rendelet is, amely nemzetközi szinten is jelzésértékű. Az új rendelet azt szimbolizálja, hogy az adatok megfelelő kezelése közfeladat, amelyet nem lehet egyszerűen a piacra bízni. Ezen a területen a társadalmi értékek fontos szerepet játszanak. Az új európai adatvédelmi rendelet megmutatta, hogy befolyásolni lehet a műszaki fejlődést és ugyanezt támasztották alá Mark Zuckerberg meghallgatásai is a Cambridge Analytica-botrány után. Bebizonyosodott, hogy a társadalom nem tehetetlen."

"Az etika ebben a folyamatban segítség lehet a társadalom számára, sokan ugyanis feszült nyugtalansággal tekintenek az új technológiákra. Egyrészt nagy lelkesedéssel várják az új eljárásokat és eszközöket, másrészt azt kérdezik maguktól, hogy hová vezet mindez. Pedig a folyamat nem új, a digitalizálás már körülbelül 60 éve tart, de csak mostanában, a mesterséges intelligencia előtérbe kerülése kapcsán merül fel egyre többször a kérdés, hogy vajon nálunk van-e még az ellenőrzés. A mesterséges intelligencia miatt felerősödtek azok a félelmek, hogy csak a Szilícium-völgy szakértői látják át a technológiát, s annak segítségével és a tudásukkal irányíthatják a világot. Nem kell, de persze nem is tudnánk minden átlagpolgárt bonyolult algoritmusokat megérteni tudó programozóvá képezni."


"A mesterséges intelligenciánál fontos tényező az öntanulás képessége. A hagyományos termékek nem változtatják meg magukat, ha használjuk azokat, míg az ezzel kiegészített dolgok igen. Leginkább amiatt aggódom, hogy egyszer majd a szakértők sem fogják tudni, hogy mi történik. Fontos feladatok elvégzését bízzuk az algoritmusokra, de egy idő után már nem tudjuk majd, hogy miként működik ez a technológia, viszont együtt kell élnünk az intelligens gépek döntéseivel. A technológia nemsokára egy olyan feketedobozzá válik, amelynek hinnünk kell - mint ahogy a középkorban a sorscsapásokat fogadták az emberek -, s eközben ott bujkál bennünk az ellenőrzés elvesztésének félelme is."

"Néhány területen már elveszítettük az ellenőrzést, így például az internetet nem lehet egyszerűen csak lekapcsolni, mert a világgazdaság azonnal összeomlana. Néhány napra rá már halottak is lennének, mert fontos ellátási láncok szakadnának meg, például az élelmiszer-kiszállítás sem működne. Fontos, hogy aggódjunk és kérdéseket tegyünk fel. Többet kellene tudnunk a piaci szereplőkről. A mesterséges intelligencia esetében elsősorban a nemzetközi konszernek a mérvadók. Még biztosan nem jutottunk el ahhoz a ponthoz, ahol az intelligens gépek átveszik a világ irányítását, én ehelyett sokkal nagyobb veszélynek gondolom azt, hogy a mesterséges intelligenciát néhányan kihasználják a profitszerzés vagy a politikai hatalomszerzés céljaira" - mondta Armin Grunwald.

A fizikus és filozófus hozzátette, hogy az emberiség történetében mindig is az volt a jellemző, hogy aki a legújabb technológiákat ellenőrizte azé volt a hatalom és a politikai befolyás. A demokráciában élő polgárok számára éppen ezért az a legfontosabb, hogy a társadalom fektesse le az új technológiák alkalmazásával kapcsolatos szabályokat. Erre azonban a jelenlegi demokrácia nincs felkészülve. Ez kiderült abból is, hogy a meghallgatások során az Európai Parlamentben nem igazán sikerült Mark Zuckerberget megizzasztani. Az informatikában dolgozók készek a párbeszédre az etikai szakemberekkel, például a szoftverek kapcsán, de a gazdaság még nem ért el erre a szintre.

Fontos tudni és tudatosítani, hogy a fejlődésnek mindig két oldala van, az emberi történelemben soha nem volt negatív következmények nélküli találmány. Nagyon lényeges, hogy miként tekintünk magunkra: gépként, amelyet optimalizálni lehet és szükség esetén megjavítani, vagy sérülékeny élőlényként, amelyben van valami különlegesen emberi? A szakember véleménye szerint el kellene fogadnunk azt, hogy nem vagyunk tökéletesek, még akkor is, ha a tökéletesség iránti vágy lenyűgöző. A tapasztalatok ugyanis azt mutatják, hogy ez a vágy csak hamis reményeket kelt. Természetesen a technikai fejlődést nem lehet megállítani, de bizonyos dolgokat annál inkább, elég például csak a klónozással vagy a nukleáris erőművek németországi betiltásával kapcsolatos vitákra gondolni.


"Több időre van szükség, azért, hogy tanuljunk és hogy megtartsuk az ellenőrzést a technológia fölött. S az időre azért is szükségünk van, hogy egyben tartsuk a társadalmat. Amikor az 1980-as években megéltünk egy automatizálási hullámot és csak Nyugat-Németországban ötmillióra nőtt a munkanélküliek száma, akkor komoly szociális kérdéseket kellett megválaszolnunk. A súlyos társadalmi helyzeteket úgy lehet elkerülni, ha időben gondoskodunk a munkavállalók képzéséről és továbbképzéséről, s nem csupán akkor, amikor már munkanélkülivé váltak."

"Emellett el kell gondolkodni új modelleken is, például az alapjövedelmen, bár én nem rajongok ezért az ötletért. Nem mondhatjuk millióknak, hogy nincs már rátok szükségünk, és pénzt adnunk nekik, hogy elfogadják ezt. Szerintem sokkal jobb lenne, ha többre értékelnénk a közösségi tevékenységeket. Ha a klasszikus bevételi források, például a jövedelemadók elapadnak, akkor bizony elképzelhetőnek tartom a robotadó kivetését is, hogy finanszírozni lehessen az alapvető szolgáltatások további működtetését. De ha ebben a kérdésben Németország egyedül döntene, akkor visszaesne a nemzetközi versenyben."

"A technológiai változás hozzájárul az általános elbizonytalanodáshoz, az emberek azt érzékelik, hogy vége a régi szép időknek. Az embereknek érezniük kell, hogy biztonságban vannak, de azt is érzékelniük kell, hogy az új technológiák bizonyos fokú szabadságot kínálnak nekik. De a legfontosabb, hogy az embereket nem bízhatjuk csak a piacra" - szögezte le a német parlament technikai következmény-becslő irodájának vezetője.

Hozzászólások

A témához csak regisztrált és bejelentkezett látogatók szólhatnak hozzá!
Bejelentkezéshez klikk ide
(Regisztráció a fórum nyitóoldalán)
  • _svd_ #13
    "Hát pont itt van a csapda, hogy ha robotok fognak gyártani, akkor nem lesz annyi pénz az embereknél, hogy megvegyék."

    Eddig a szolgáltatásokba terelték át a termelésből kieső embereket.
    Ezután is meglesz a jövedelmek újra felosztási módja, amivel a teljesen automatizált termelés termelés végtermékeit el lehet adni. Raktárra, tartósan, senki sem fog gyártani. Bármennyire olcsó lesz a termékek előállítása.
  • _svd_ #12
    ""Ergo a A BTK es PTK mindent lefed, hiszen emberek csinálták az egészet."
    Dehogy fed le. Már egy egyszerű szoftvernél is felmerül erkölcsi/etikai dilemma, például egy gyerekeket célzó játékprogram mennyire legyen addiktív.."

    Ezt (is) a örvényeknek kell lefedniük. Az etika és erkölcs olyan társadalmi/vallásos törvény, ami csak irányelvekben van megfogalmazva. Az értelmezésük szabadon változik. A filozófia sem teljesen is hasonló problémával küszködik. Túlságosan szabadon értelmezhetőek a világ dolgai a filozófia szemszögéből nézve.
    "Néhány területen már elveszítette az ellenőrzést az ember "
    Ez elég érdekes kijelentés, ahhoz képest, hogy a mai napon még nem létezik valódi mesterséges intelligencia. Az utolsó néhány évben többet léptünk előre, mint előtte a teljes történelmünkben. De még mindig csak a professzionális szakértői rendszerek szintjénél tartunk. Ezeknek a rendszereknek egyetlen önálló gondolatuk sincs.
  • Elmin #11
    Hát pont itt van a csapda, hogy ha robotok fognak gyártani, akkor nem lesz annyi pénz az embereknél, hogy megvegyék. Ha növeled az áfát, akkor még kevesebbet fognak megvenni. Ráadásul a sok munkanélküli emberrel is kell kezdeni valamit.
    Az alapjövedelemnek vannak buktatói, mert a semmiért kapott biztos pénz könnyen tespedésre serkent ha sok, ha kevés akkor meg csak vegetálásra jó.
  • defiant9 #10
    Ráteszel + 100 fabatkát a termék árára amit odaadsz a fogyasztónak, de ő ugyanott van mint korábban, nem tudja megvenni a terméket mert közben felment az ára +100-al.
    Az ÁFA-ból nem tudod fedezni a termék bruttó vételárát mert annak az csak egy része. Excel azt mondaná rá körkörös hivatkozás:)
    A robotnak adózási előnye van e humán munkással szemben mert nem kell utána járulékokat fizetni, sőt még költségként el is számolható a beszerzésük. Az teljesen jogos hogy a kiváltott munkás SZJA-jat be kellene csengetni utánuk, ahogy TB-t+ nyugdíjat is mert ez fedezi a munka nélkül maradt fogyasztó ellátását. Így azonban versenyképtelenek lennének a gép robotok a humán robotokkal szemben, egyrészt megtörné a fejlődésüket, másrészt az áruk szabad áramlása miatt tuti lenne olyan ország aki az élő munkaerő költségcsökkentés mintájára a robot munkaerő költségét kezdené csökkenteni hogy becsábítsa a robot gyárakat. Ez csak úgy működne ha a nagy piacok egységesen alkalmazzák, vagy vámot vetnek ki a nem alkalmazókkal szemben. Jelenleg a munkanélküliség csökken, úgyhogy kaptunk egy kis haladékot. Afelől persze ne legyenek illúzióink hogy a politikusok ezt az időt a probléma megoldására fogják fordítani, most csak kényelmesen hátradőlnek, ezen a hídon majd csak akkor megyünk át ha már ég a ház mögöttünk.
  • globint #9
    Nem kell robotadó.
    Elegendő a fogyasztói adó, magyarán az "ÁFA".
    Akkor teljesen mindegy, gép gyártotta, vagy ember, folyik be az adó.
  • defiant9 #8
    Ez mindig is így volt és mindig is így lesz. Ha focipályát vagy plázát épít valaki, ott sincs szabály hogy mennyi időt tölthet el rajta/benne a gyerek. Ami egyértelműen ártalmas pl. pornó vagy horror tartalom ott pedig mind a médiát mint a SW-t kötelező korhatárhoz kötni.
  • Agyturbinikusz #7
    Te szerinted a szoftvert kell büntetni, nem az őket meggyártó embereket illetve aki a marketinget csinálta? Ezen személyek etikus viselkedésen múlik milyen lesz a termek...Szerintem ennyi....Vagyis a szankciót nem a programra kell alkalmazni hanem annak elkészítőre/terjesztőire. Ezert írom hogy marhaság jelenleg ezzel érvelni.
    Ha nem akarod látni az embert és annak szándékát az a te ügyed, de bűnbakot csinálni egy szoftverből szerintem nagyon nem járja.
    Vagyis a készítőket kell szabályozni nem?
  • esztyopa #6
    Érdekes lesz etikára tanítani a Skynetet...
    Vaknak a rózsaszínt,süketnek Vivaldit.
    Úgy néz ki,hogy megjelent az emberiség *filmjében* a The End !
    Megtanítottuk tanulni,és *átalakítani*magát az MI-t,és be kell ismernünk,hogy már nem tudjuk,hogy mit is csinál.
    /Minden esetre kreáltunk egy gépi Frankensteint./
  • Cat #5
    "Ergo a A BTK es PTK mindent lefed, hiszen emberek csinálták az egészet."
    Dehogy fed le. Már egy egyszerű szoftvernél is felmerül erkölcsi/etikai dilemma, például egy gyerekeket célzó játékprogram mennyire legyen addiktív, milyen gyakran várja el a belépést, milyen jutalmazási/pontozási rendszer legyen, milyen üzleti modellen alapuljon stb. Ezeket a jogszabályok semmilyen formában nem szabályozzák, max. az adott alkalmazásbolt szabályainak kell megfelelni.
  • Agyturbinikusz #4
    Mi az az etika??? Mert a technika es a humán viselkedésforma közti kapcsolatra nem használható fogalom, hiszen a technológia célt szolgál egyenlőre amit az EMBER szab meg. Ergo a A BTK es PTK mindent lefed, hiszen emberek csinálták az egészet.
    Az öntanuló algoritmus az emberi viselkedés formát másolja, és a Majdani AI-is, ergo amilyen marhák vagyunk most kb olyan nagy marha lesz az is amit kitermelünk.... Persze mást/gepeket kell hibáztatni, mert az ETIKUS Sajnos nincs akkora facepalm ami tükrözni tudna csalódottságomat az emberi értelem hiánya miatt