Berta Sándor

Ki a felelős, ha egy magától leparkoló autó elüt egy embert?

Azzal a legtöbb felhasználó tisztában van, hogy a mindennapi életünket gyakorlatilag az algoritmusok irányítják, függetlenül attól, hogy éppen a fogyasztói szokásainkról vagy a pénzügyi tranzakciókról van szó.

Felmerülnek komoly morális és jogi kérdések, ha olyan intelligens számítógépes programokat fejlesztünk ki, amelyek később felelősségteljes emberi feladatok oldanak meg. Egy mai autóban körülbelül 70 mikroprocesszor dolgozik, ezeknek egy hálózaton keresztül együtt kell működniük egymással, amit átfogóan kell megvizsgálni. Ugyan a térhangzás hibája még elviselhető, de egy a kormányt vagy a motorvezérlést érintő hiba már kritikus, de akár az is veszélyes lehet, ha például az elektromos ablakemelő nem működik. Amennyiben például hagyom, hogy a számítógép segítségével parkoljon le az autóm és eközben egy óvatlan gyalogosnak baja esik, de a program mindent helyesen csinált, akkor felmerül a kérdés, hogy ki hibázott, kié a felelősség? A programozó? Amennyiben egy bonyolult, tudományos-ipari folyamat balul üt ki, akkor a hibát már nem lehet egyetlen helyhez kötni.

A Bécsi Műszaki Egyetem két professzora, Stefan Szeider és Helmut Veith két éve kutatják az algoritmusokat, s azt, hogy milyen hatást gyakorolnak az életünkre. Napjainkban elmondható, hogy szinte mindent, ami online megjelenik részben vagy egészben kódsorok irányítanak. Ezek néha egészen egyszerű programocskák, máskor jóval bonyolultabbak. Azonban ezek nem csak a honlapok optimalizálására szolgálnak, hanem segítenek megtalálni a számítógépes programok hibáit vagy megtervezni egy útvonalat.

Az algoritmusokkal kapcsolatos felelősség óriási, elég csak a repülőgépgyártásra gondolni. A programozóknak mindent részletesen dokumentálniuk kell, egyetlen sor leírása akár egy órát is igénybe vehet, így hetente 40 sort lehet rögzíteni. Mindez rendkívül drága eljárás, de cserébe a repülőgépek biztonságosak is. De a többi iparágban olyan verseny van, hogy ez nem megvalósítható. Ellenőrző eszközök segítenek abban, hogy több hibára derüljön fény és felelősségteljesebb szoftvereket lehessen létrehozni.


Stefan Szeider, az új központ vezető professzora

A Bécsi Műszaki Egyetem az algoritmuskutatás egyik vezető intézménye, és nemrég megalapították a Vienna Center for Logic and Algorithms (VCLA) nevű központot, ahol összesen hat professzor dolgozik majd. A hivatalos megnyitón részt vett Edmund M. Clarke is. A VCLA kutatásai három területre összpontosítanak: ellenőrzés, tudásbemutatás és az úgynevezett korlátozás kielégítés (Constraint Satisfaction). Az ellenőrzés alatt a szoftverhibák felkutatását értik a szakemberek, míg a tudásbemutatás segítségével azt akarják elérni, hogy a számítógépek megtanulják önállóan megvizsgálni az információkat, majd azokat fel is használják. Végül a Constraint Satisfaction célja a különböző bonyolultabb problémák adott korlátok közötti megoldása.

"Minden mikroprocesszor algoritmusokra épül, melyek általában egyszerűek, de néha vannak bonyolultabbak is. A mindennapi munkánk során nem jutunk olyan közel az alkalmazásokhoz, hogy feltehessünk nehéz morális kérdéseket" - hangsúlyozta Stefan Szeider. A szakember elmondta, hogy a csoportjuk tudományos szempontból rendkívül sikeres, számos díjat nyertek el eddig. A cél az, hogy az új központ kiaknázza, felerősítse és még inkább láthatóbbá tegye ezeket a sikereket.

"A teljes információkezelésünket átszövi az internet. Miután egy globalizált információs világban élünk, ezért szűrőkre van szükségünk, hiszen nem tudunk mindent elkészített információt befogadni. A kérdés csak az, hogy mi magunk képesek vagyunk-e eldönteni, hogy miként szűrjük meg az információkat vagy sem, s akkor még a mesterséges intelligenciáról nem is beszéltünk. A mesterséges intelligencia legnagyobb kritikusai, például Hubert Dreyfus (What Computers can't do) rámutattak arra, hogy egy valóban emberszerű intelligenciának szüksége lenne egy emberszerű testre is, érzelmekkel és valódi emberi tapasztalatokkal. Nehéz elképzelni, hogy egy mesterséges intelligencia miként reagálna az irodalomra vagy a rockzenére, ha hiányzik belőle a szívdobogás és a szerelmi bánat érzése vagy az ütemérzék. A másik oldalon természetesen ugyanez a mesterséges intelligencia a természettudományi kutatásokban egy rendkívül fontos asszisztens lehet" - szögezte le Hannes Veith.

Hozzászólások

A témához csak regisztrált és bejelentkezett látogatók szólhatnak hozzá!
Bejelentkezéshez klikk ide
(Regisztráció a fórum nyitóoldalán)
  • Zoliz #41
    Senki nem felelos. Mert ha teged elutne egy robot akkor egyedul kene beperelned a vallalatot es elmosnanak, eltusolnak az egeszet, hiszen te csak a businees process egy hibas csavarja vagy mint ember.
  • gforce9 #40
    Javaslom keress rá a "gépjármű veszélyes üzem" kifejezésre, és meg fogod látni, hogy oylan, hogy nincs felelős, olyan gyakorlatilag nem létezik.
  • gforce9 #39
    Hát pedig van, erről pont volt is egy jogi műsor még annó, amikor még értelmes dolgokról is szólt a tv. Olvass utána.
  • Doktor Kotász #38
    Huába könyörögsz, ha a fékhiba nem gondatlanságból ered, tehát az elvárható karbantartás megvolt, és nem volt előjele, akkor senkit sem vonnak felelősségre.
    Mondjuk az útról felpattant egy fémlemez, és a féktárcsa ezért eltört vagy akármi, akkor nincs felelős. Műszaki hiba és kész.
  • nlght #37
    Ki a felelős ha egy kanos kóborkutya megpróbálja megb*szni AIBO-t a robotkutyát, akit sétára vitt a gazdája, az action persze épp egy sétáló robotot kényszerít kikerülő manőverre (ami épp bevásárolni volt) és megcsúszik a jeges aszfalton és épp megkarcolja egy önparkolást próbáló kocsi oldalát, pont amikor Géza sz*patja a Zsuzsit parkolás közben, persze ettől a kis malőrtől Zsuzsi megijed, hogy a koccanó hang egy rendőr kopogása-e és véletlenül lefogazza Gézát aki sikítófrászban tudatja a külvilággal az érzéseit, miközben Zsuzsi félzsidóvá tette. Hány algoritmus játszott szerepet a balesetben és ezek közül melyik volt a hibás? Kit lehet beperelni egy szép summáért? Milyen színű volt a kocsi?
  • orkaman #36
    KIT sosem hibás semmiért.
    ennyi.

    ja, megnézném az automata parkoló funkciót a mostani összevissza-kotort hóban.
  • Lucy in the Sky #35
    Az alapprobléma: a úrvezető tulajdonos-sofőröket ellátjuk olyan balesetveszélyes, ölésre alkalmas automata berendezésekkel amelyek rendeltetésszerű használatához állandó kontrollt kéne gyakorolniuk, úgymint figyelni és szükség szerint felülbírálni a gépet, miközben nagyon jól tudjuk hogy az átlag humanoidok erre nem alkalmasak. Még az önkontrollra sem, tessék körülnézni az utakon.
    Ezek tények, az ilyen gépek által okozott károkban a gyártók és az engedélyező szervek is nyakig sárosak lesznek.
  • gforce9 #34
    Könyörgöm, a busz üzembentartója, a söfőr? Nem. A vállalat. Az üzembentartó a felelős. (természetesen a te példádat alapul véve)

    Ha a söfőr a tulajdonos, akor pedig ő a felelős. Annyira egyszerű és jól átlátható ez jogilag és a józan ész számára is, hogy én nem is értem minek ilyenről cikk.
  • who am I 7 #33
    De nem értem, itt senkinek sincs autója?Egyébként akár brit tudósok is lehetnének, akiknek nincs autójuk, annyira hasznos ez a "kutatás". Fogadni mernék, h az esetek 98-99%-ban esetlegesen úttesten szabálytalanul (+ figyelmetlenül) "közlekedő" gyalogos a vétkes.A másik 1-2% angoltudósfaktor nevezzük így, épp szotyizik a parkoló helyen, ps3azik stb nem figyel, nem figyel az autós, ráparkol.Mesterséges "kiválasztódás", ennyi.
  • who am I 7 #32
    nem akarok beleugatni, de általában legtöbbször a tolató programot használják/juk, amelyik köcsög gyalog beszalad amögé, én azt mondom megérdemli.7milliárdan vagyunk, ez az egyik, a másik, hogy az esetek 0.00000001%-ban van zebra a tolató autó mögött.Harmadik pedig, ha megszánjuk a hülyét, aki épp meghalni készül, nyomunk egy féket.