Berta Sándor

Amikor a mesterséges intelligencia életet veszélyeztet

A digitalizálás elterjedésével egyre fontosabbá válik, hogy morálisan tökéletesek legyenek az algoritmusok. A cégeknek meg kell akadályozniuk, hogy a megoldásaik diszkrimináljanak vagy életeket veszélyeztessenek.

Az minden piaci szereplő számára világos, hogy egy találmány csak azután számíthat széles társadalmi elfogadottságra, ha az emberek megbíznak abban. Ennél is fontosabb viszont, hogy az emberek ne féljenek tőle, és attól, hogy hátrányokat jelenthet az alkalmazása vagy akár veszélyes helyzeteket teremthet. Éppen ezért szükség van arra, hogy az etikát már a fejlesztéskor bevonják a folyamatokba.

A 49 éves Christoph Lütge gazdaságetikai szakember fogja vezetni a Müncheni Műszaki Egyetem Mesterséges Intelligencia Etikai Intézetét. A létrehozását a Facebook 6,5 millió euróval támogatta és októbertől fog működni. Az új intézményben informatikusok és filozófusok közösen dolgoznak majd az algoritmusok megalkotásán. Ahogy Lütge fogalmazott, a nagyvállalatoknak fel kell ismerniük, hogy együtt kell működniük az új intézettel. Szinte nem telik el olyan hét, amikor ne keresné meg egy társaság azzal, hogy etikai kérdésekkel akar foglalkozni.

Az IBM már tavaly júliusban etikai és morális elvek alapján működő mesterséges intelligenciát fejlesztett, és a Deutsche Telekom szintén az első vállalatok között volt, amelyek bevezették az etikai irányelvet. Az alapötlet az volt, hogy a technológia csak egy eszköz és önmagában semleges. Az irányelvet Manuela Mackert, a DT egyik vezetője dolgozta ki. Alapvetése szerint a mesterséges intelligencia nem csupán egyszerűen létrejön, hanem mi, emberek fejlesztjük ki. Éppen ezért mi döntjük el, hogy milyen célokra akarjuk alkalmazni azt és a jóléti hasznát is meg kell teremteni. Az irányelv a mesterséges intelligencia fejlesztésére, illetve alkalmazására vonatkozik, viszont nem jelent szabványosítást.

Mackert tagja a mesterséges intelligencia szakértői tanácsnak is, amelyet a Microsoft kezdeményezésére hoztak létre tavaly év végén. A tagok között vannak még a BASF, a Vodafone, a Pro Sieben Sat1, a Munich Re, a Zeiss, az Osram és a Volkswagen képviselői. Ők közösen dolgoznak ki cselekvési ajánlásokat.

Tanja Böhm, a Microsoft berlini csapatának vezetője rávilágított arra, hogy a technológia használata az egészségügyben teljesen más etikai kérdéseket vet fel, mint a kérelmek elbírálása vagy a megelőző jellegű (prediktív) karbantartás az iparban. Minden egyes esetben meg kell vizsgálni, hogy miként kell kialakítani a mesterséges intelligencia etikai szempontból felelősségteljes alkalmazását. Függetlenül attól, hogy robotautókról, biztosítási konstrukcióról vagy az egészségügyről van szó, minél intenzívebb a mesterséges intelligencia és az emberek közötti kapcsolat, annál erősebben nőnek a technológiával szembeni morális követelmények. A rasszizmus vagy a szexizmus elkerülése alapvető feltétel, de miután emberek végzik a programozást, ezért hibákra komoly esély van, amint az az elmúlt hónapokban be is bizonyosodott.

További problémát jelent, hogy a mesterséges intelligencia egyre több területen van nem csupán jelen, hanem dönt is, például a kínai szociális kreditrendszer esetében - az egyes személyek társadalmi elfogadottságról. Éppen ezért kell egyértelműen tudni, hogy mi játszódik le a technológiában és milyen adatokhoz fér hozzá. Továbbá az is fontos, hogy egy algoritmus mennyire vonható felelősségre a döntéseiért. Mert az nagyon is vonzó, hogy a gépekre bízzuk a döntést, de kérdés, hogy a felhasználók hozzájárulnak-e, akarják-e, hogy egy gép döntsön az őket érintő kérdésekben. Szintén problémát jelenthet, hogy ha a technológia emberéletekről vagy veszélyes helyzetekről dönt. Lütge úgy vélte, hogy azzal kell megbarátkozni, hogy a gép valamilyen döntést hozni fog, ezért sürgősen meg kellene állapodni arról, hogy milyen elvek alapján működjön. Ezzel kapcsolatban is volt már kísérlet.

Hozzászólások

A témához csak regisztrált és bejelentkezett látogatók szólhatnak hozzá!
Bejelentkezéshez klikk ide
(Regisztráció a fórum nyitóoldalán)
  • Fefy #29
    "Semmi plusz értéket nem jelent a hasában a purdé, és semmi mínuszt a bácsi életkora."

    Nem tudom eldönteni, hogy a hozzászólásod ironikus akar lenni, vagy nem.

    Remélem, hogy igen...
  • ostoros #28
    Ez nem igaz.
    Már csak törvényileg sem, hiszen ha már túl van az abortusz engedélyezésének határán, akkor azt a magzatot már jogok illetik meg, nem egyetlen személyről van szó.


    Egyébként gyanítom, az adott hipotetikus bácsi jól pofán vágna téged, és inkább mondaná azt, hogy ő haljon meg, mint másik két ember, főleg ha nőről van szó.
    Utoljára szerkesztette: ostoros, 2019.06.07. 20:10:44
  • mrzed001 #27
    Valóban igaz, még ha 4K kamerával menne is a kocsi, a távolságok miatt (meg a zaj, meg a mozgás) lehetetlen egy távoli személyről megállapítani korát, nemét. Magasságát talán tudja tippelni (ha nem épp lehajol), ennyi.
    Az X-box-al (Kinect) ugye az volt a nagy probléma, hogy ráááászistá vúúút, mert a fekete ruhás afrót nem találta meg a sötét szobában.
    Tehát magát azt meghatározni sem egyszerű, hogy az ott egy ember-e egyáltalán !!

    Lásd ez a poén:



    Viszont, @DRFlame -nek igaza van, hogy kissé agresszívra veszed a figurát.
    Ismered a mondást: Ha senki se bánt .... NE ÜVÖLTS ! ;)
    Szóval csak lazán. Barátok között vagy ;) (és nem Barátok közt, meg Jóbarátok ... az más :D )


    Tehát mennyiségi ÉS minőségi (halottak száma és kora) döntést kellene hoznia egy algoritmusnak (de volt már itt aki a nemzetgazdasági értékét is hozzávette) ... amiből egyre sem képes maga az ember.
    Ismét azt látom, hogy isteni képességeket szándékoznak egyesek egy buta gépre testálni.
  • VolJin #26
    A kismama haljon meg a magzatával, ne az idős ember, ha a kismamaszabálytalansága okozza az elkerülhetetlen balesetet.
    Semmi plusz értéket nem jelent a hasában a purdé, és semmi mínuszt a bácsi életkora.
  • molnibalage83 #25
    Nem arrogancia. Műszaki tényleg. Nézd már meg videókon, hogy mit lát és miként értelmezi a dolgokat az önvezető autó. Néhány méteres távolságból tudnád csinálni azt a vizsgálatot, amiről álmodozol. Akkor már régen késő.

    Vagy szerited zoom optikás 4k felontású kamerával fog menni az önvezetés? Jaj...
  • Fefy #24
    Nincs rá megfelelő válasz, de alapvetően én úgy gondolom, hogy ilyen esetben a szabálytalanul közlekedő maradjon ott. Etikailag/morálisan lehet, hogy az öregember jobb (nem a legmegfelelőbb szóhasználat, de remélem a lényeg átmegy) választás, viszont így kismamaként bátran ugrálhatnál a robikocsik elé, úgyis a környező időseket kapná telibe a kocsi (ez kicsit túlzó, de azért remélem átmegy a lényeg).

    A fentiek alapján egyébként lehet, hogy megköveznek, de kitartok a véleményemnél. Viszont, hogy ellent is mondjak a saját válaszomnak: ha csak tisztán morális/társadalmi megközelítésből nézem a problémát, akkor az idős embert ütném el, viszont a mérnöki oldalam alapján a kismama a logikusabb választás. Vonatkoztassunk el attól, hogy kismama vs idős ember (mivel szoftveresen valós időben ezt azért még elég nehéz megállapítani egy dinamikusan változó környezetben). Adott egy szituáció: van 1 szabálytalanul közlekedő ember és egy szabályosan közlekedő ember. Melyiknek legyen "jutalom" a biztos életben maradás? Ha a kismama/idős ember faktort kivonjuk a képletből, csak 1+1 emberről beszélünk (kortól, nemtől, mindentől függetlenül), azért igen csak a szabályosan közledő felé billen a mérleg.

    A legszomorúbb az, hogy az ilyen problémák esetén mivel emberek vagyunk, nem tudjuk figyelmen kívül hagyni a társadalmi/etikai kérdéskört sem. Enélkül ugyanis maradna 1 szabályosan közlekedő vs 1 szabálytalunk közlekedő. Magunknak viszont generálunk olyan problémát, hogy 1 kismama vs 1 idős ember. Így viszont azt sem hagyhatjuk figyelmen kívül, hogy melyik hasznosabb a társadalom szempontjából: Esetlegesen egy 70 éves top kutatómérnök vs egy 25 éves munkakerülő akinek lehet, hogy lesz egy alkoholista gyereke (durva példa, de ezt a szoftver végképp nem tudja eldönteni, de már társadalmilag is megosztó válasz érkezne a kérdés eldöntésére), de lehet egy 70 éves nyugdíjas már csak hobbiból kertészkedő vs egy későbbi Nobel-díjas gyerekkel megáldott kismama. Valahol szerintem meg kell húzni a határt. Én személy szerint a "darab-darab" szintnél magasabbra nem mennék. Gyakorlatilag így a rendszer jutalmazna is, mivel a szabályosan közlekedő életben marad, a szabálytalan meg előbb vagy utóbb az evolúció martaléka lesz.
  • DRFlame #23
    Nem kell rádnéznie. Példa volt. Ha nem néz rád kisebb az esélyed, de testtartásból, mozgásból is tud BECSÜLNI. Az ember is csak ennyit tud tenni, és még szarabbul. És ez a lényeg, hogy az embernél jobban meg tudja tenni. Innentől kezdve a fényviszony nem számít, nem néz rád nem számít, távolság nem számít. Vagyis ezek pont annyira számítanak mint az emberi sofőrnél, innentől kezdve lényegtelen. Akár életkori valószínűségi eloszlást is rá tud tenni (a körülményeket figyelembevéve) és várható értéket maximalizálni/minimalizálni. Tehát megvalósítható, csak nem lesz tévedhetetlen. Mint ahogy az ember sem.

    Amúgy meg "kurvára" meg kéne tanulnod a másikat nem lenézve fórumoznod. Minden karakteredből dől az arrogancia. Az hogy nem értesz velem egyet az egy teljesen normális dolog, de ahogy kommunikálsz az nagyon gáz. Még akkor is ha igazad van, amiről még messze nem győztél meg. Így persze hamar rövidre lehet zárni egy beszélgetést és mindig "igazad lesz", csak éppen nehezen fogsz bármit is tanulni mástól. Mondjuk neked erre feltehetőleg nincs szükséged, legalábbis ezt gondolod.
  • molnibalage83 #22
    Aha.

    Milyen fényviszonyok mellett...?
    Mennyi idő alatt...?
    Milyen távolságból?


    Ki a búbánat mondta, hogy az gyalogos feléd is fog nézni?

    Kurvára ne gondoltad ezt végig.
  • DRFlame #21
    Miért ne lenne megvalósítható? A neurális hálók simán képesek rá. A telefonom helyesen (+/- 2-3 év) megbecsüli az életkoromat az arcomról. Ezek az algoritmusok objektumokat, embereket felismernek, arc alapján azonosítanak. Nyilván nem fogja napra pontosan megmondani a születési idődet, főleg nem távolról, de meglepően pontos becsléseket tudnak adni. Nem látom, hogy ne tudná bekeretezni és felcimkézni az öregembert és a kismamát. Tévedhet, de egy embernél jobb, főleg ha több objektumra kell fókuszálni egyszerre.
  • mrzed001 #20
    Egymás után haladó autók esetén ... hát nem sok információ amit szolgáltatni tudnának.
    Bár van oldalra néző kamera a Tesla-ba is (a B oszlopba), de két autó között annyira kis ideig lát át, csoda lenne ott bármit felismerni.
    A LIDAR meg max viccnek jó, nem tárgy/személy felismerésre való (forgó távolságmérő).


    " a rendszer milyen alapon teszi fel, hogy a motoros nem fog reagálni."
    Egyszerű fizika: motor sebessége, gyorsulása, lassulásához szükséges távolság.

    "Az én szavazatom a "nem", mert a motor és motorosa ettől még ugyanúgy eltalálhat az ütközés után bárkit."
    Belepréseled a bal oldaladdal a parkoló kocsisorba. Senkit se fog eltalálni.
    De nem is ez a lényeg, hanem az etikai és morális dilemma.
    Ez esetben még egyszerű is a dilemma, hisz az elkövetőt gátolnád meg tömeggyilkosságban.

    Viszont vannak olyan morális szituációs helyzetek, ahol egy ártatlant kellene feláldoznod, hogy megments sok embert.
    Pl elszabadul egy busz, egy szakadék felé tart. Mellette mész egy kamionnal. Ha ráhúzod a kormányt a buszt el tudod téríteni, de ott áll egy gyalogos akit így el fog ütni. Mit teszel?

    Vagy éppen önmagadat kellene feláldoznod ... ellököd a buszt a szakadéktól, de te így nem tudsz megállni előtte.

    Ezek nem olyan kérdések, ahol jó meg rossz válasz van. Minden válasz rossz és minden válasz jó is egyszerre.
    A kérdés, hogy miért az a döntésed.