Egyre többször hoznak meg fontos döntéseket algoritmusok

A szoftverek elsősorban az oktatás, az igazságügy és egészségügy területén kapnak komoly szerepet.

Az AlgorithmWatch nevű szervezet 16 európai országban vizsgálta meg, hogy mekkora mértékben támaszkodnak a döntések az algoritmusokra. Az eredmény kijózanító volt. Észtországban az állam elvileg támogatást ad minden gyermek után és ezért a szülőknek semmit sem kell tenniük. A születés után ugyanis minden szükséges információ bekerül egy adatbázisba, majd egy program magától kielemzi azokat. Akinek jár a támogatás, az automatikusan megkapja azt. Az ilyen eljárások neve Automated Decision Making (ADM).

Az AlgorithmWatch munkatársai több mint 100 ADM rendszert elemeztek ki, amelyeket 16 európai országban alkalmaznak vagy a jövőben használni fognak. Az Automating Society 2020 jelentésben többek között az szerepel, hogy ha valaki a jelenlegi európai ADM megoldásokat megvizsgálja, akkor rájön, hogy nagyon ritkák a pozitív példák. A fejlesztések többsége az embereket inkább kockázatnak tekinti, mint hogy segítsen nekik.

Nagy-Britanniában egy algoritmus számolta ki a diákok jegyeit, amelyek 40 százalékkal rosszabbak lettek a tanárok által prognosztizált jegyeknél. A tiltakozások hatására a brit kormány később kénytelen volt leállítani a kísérletet. Hat svájci kantonban a Dyrias-Intimpartner nevű rendszert alkalmazzák, amely igen-nem kérdések alapján igyekszik eldönteni, hogy valaki veszélyt jelent-e az élettársára. Amennyiben a válasz igen, akkor az illető évekig számíthat a rendőrség kiemelt figyelmére. Egy tanulmány azt írta, hogy a szoftver gyakran téved és a Dyrias által súlyosan veszélyesnek minősített személyek kétharmada soha nem követett el súlyos bűncselekményt.


Sarah Fischer, a Bertelsmann Alapítvány szakértője kifejtette, hogy gyakran találkoznak jó ötletekkel, amelyeket utána rosszul valósítanak meg. Azért, hogy az e megoldásokban lévő nagy lehetőségeket ki lehessen használni, szükség lenne egy európai keretfeltétel-gyűjteményre, amely tartalmazná az átláthatósági, felügyeleti és megvalósítási szabályokat. Az utóbbiakat egy átfogó demokratikus vitában kellene kidolgozni.

Az AlgorithmWatch azt sürgeti, hogy az európai uniós tagállamok vezessenek nyilvántartást a használt ADM fejlesztésekről, az üzemeltetőket pedig szerintük kötelezni kellene arra, hogy dokumentálják az adott rendszer célját és működését, a mögötte lévő modell logikáját és a fejlesztőkkel kapcsolatos információkat is elérhetővé kellene tenni. Továbbá nyilvánosságra kellene hozni, hogy milyen adatokkal képezték a megoldásokat és a független tudósok, az újságírók és a civil szervezetek számára hozzáférhetővé kellene tenni a teszteredményeket. Az arcfelismerésben használt algoritmusokat és technológiákat viszont be kellene tiltani, mert komoly fenyegetést jelentenek a társadalomra és az emberi alapjogokra nézve. Az ok: előkészítik az utat a válogatás nélküli tömeges megfigyeléshez.

Észtországban jelenleg olyan robotbírót fejlesztenek, amely a 7000 euró vagy kisebb értékű vitás ügyekben hozhat döntéseket. A feleknek be kell majd nyújtaniuk a birtokukban lévő adatokat és dokumentumokat, amelyeket a szoftver ki fog elemezni, majd meghozza az ítéletét. Emberi bíró csak akkor fog beavatkozni a folyamatba, ha valaki fellebbez az ítélet ellen. Olaszországban pedig egy olyan rendszert készítenek, amely a közösségi hálózatokból és az apróhirdetési portálokról szerez adatokat az adócsalók felkutatásához. Az információkat összehasonlítják majd azzal az életmóddal, amelyet az illető például az Instagramon mutat magáról. Aki például az adóbevallása alapján szegény, de a szelfijei nem szegénységről árulkodnak, könnyen problémákkal szembesülhet.

Hozzászólások

A témához csak regisztrált és bejelentkezett látogatók szólhatnak hozzá!
Bejelentkezéshez klikk ide
(Regisztráció a fórum nyitóoldalán)
  • Gabbbbbbbbbbbb #6
    "Az AI segíthetne a költségvetés elosztásában is, hogy oda kerüljön pénz amire szükség van és annyi ami muszáj. " Ennek a lehetosegetol 50ev+ ra vagyunk. Ujra hagsulyozom Ai meg egyaltalan nincs. A gepi tanulasra epulo algoritmusok erre lehet soha sem lesznek alkalmasak, amig valaki fel nem talalja az unverzalis igazi Ai-t.
  • repvez #5
    A technologiát lehetne jól is használni és ugy ahogy most.
    Ha minden adat amit a technologia megkap azzal olyan összefüggéseket és olyan dolgokat lehetne összekapcsolni és kiszámolni évekre elöre kiszámithatóan , hogy mindenki számára kedvező dolgok legyenek.
    Ha ez lenne az érdeke azoknak akik megrendelik megcsinálják ezeket a rendszereket.

    például, ha valaki házat akar venni .A hitelfelvételnél is, a AI kiszámolja, hogy az adott illető mekkora keresetből mekkora hitelt szeretne felvenni és , hogy ezt a fütamidő végéig ugy tudja e fizetni , hogy abből meg tudjon élni, ha nem akkor ezt jelzi neki és felajánl alternativát, hogy hogyan tudja megvalósitani. Mondjuk látja az adatokbol, hogy egy másik városban vagy másik cégnél ugyan arra a beosztásra keresnek melóst több pénzért ha elválalja akkor már elég a keresete hozzá, söt esetleg a közelbe tud ajánlani egy másik hasonló házat ami olcsobb . De nem tudott róla a személy.

    Mivel olyan sok információ keletkezik nap mint nap igy ezeknek a rendszereknek ezt kellene segiteni, hogy az embereknek segitsen kiválasztani a legjobbat közülük ami az ö igényeiknek megfelel.

    De ehelyett az van, hogy a cégeket segitik a minél nagyobb profit megszerzésében a kisember kárára és az ö adataik felhasználásával.

    Az AI segíthetne a költségvetés elosztásában is, hogy oda kerüljön pénz amire szükség van és annyi ami muszáj.

    Lehet , hogy utópisztikusan hangzik, de megoldható lenne ha az lenne a cél, hogy minden embernek jobb legyen , jobb körülmények között éljen egészségesebben.
  • Gabbbbbbbbbbbb #4
    AI egyaltalan nem letezik, jelenleg csak gepi tanulasra, minta eszlelesre epulo algoritmusokat szoktak szenzaciohajhasz ujsagirok es marketingesek AI nak hivni, de a cikkben szereplo algoritmusok tobbsege nagyon egyszeru buta algoritmus. Egy osztalyozo algoritmust akar egy tema irant erdeklodo altalanos iskolas gyerek is meg tud irni. A robotbiro mar tenyleg komplexebb, ha dokumentumokat kell valamilyen szinten kiertekelnie, akkor kb. remenytelen ebben az evtizedben. Google-nek es Watsonnak se megy olyan konnyen a szovegertelmezes, majd biztos pont egy random olasz brigad fogja par millio eurobl az olasz jogaszzsargon hiteles ertelmezeset megoldani. Azt el tudom kepzelni, hogy egy adott sablon per lebonyolitasahoz sablon alapjan megirt dokumentumok benyujtasa utan dontson, de itt is komoly etikai problemak lehetnek, meg a fellebezes lehetosege eseten is.
    Utoljára szerkesztette: Gabbbbbbbbbbbb, 2020.10.30. 10:59:27
  • NEXUS6 #3
    1000%-ban egyetértek.
    Tipikus lassítósztrájk szokott lenni, hogy adott ügyintéző, vagy határőr, vagy bolti eladó, vagy akárki 100%-ig betart minden előírást, ami a munkaköréhez tartozik.

    Nem az algoritmusokkal van baj, de még csak nem is az emberekkel, hanem azzal, hogy ezekszerint eddig úgy működött, és amúgy működött a világ, hogy a rögzített eljárások és a gyakorlat csak távoli köszönőviszonyban volt egymással.
    Hát ez van.

    Előbb akkor tegyük rendbe a hivatalos eljárásokat, építsük bele azokat a változókat is, amit amúgy az ügyintéző, tanár, rendőr, katona, bíró, sofőr stb. is figyelembe vesz, és akkor majd ennek végrehajtására kérjük fel a mélyentisztelt AI-t.

    Ja, hogy az AI valójában itt még nem tart, pl erkölcsi jellegű, úgymond emberi szemléletű döntésekre még nem képes?
    Hát ez van barátaim. Akkor térjünk vissza erre a nagy MI mizériára olyan 50 év múlva, amikor már többet tudunk magunkról is, meg a mesterséges intelligencia képességeiről, lehetőségeiről is. Szerintem.
  • takysoft #2
    A világon semmi baj nincs az automatizált döntéshozással. Ha nem szoftver csinálja, hanem ember, akkor is pontosan ugyanazok az irányelvek szerint dönt. Elvben...

    "Nagy-Britanniában egy algoritmus számolta ki a diákok jegyeit, amelyek 40 százalékkal rosszabbak lettek a tanárok által prognosztizált jegyeknél."
    Amennyiben ugyanazokat a követelményeket támasztottuk a szoftver felé, mint a tanárok felé, akkor a tanárok szarul végezték a munkájukat, és jószívűek voltak a diákok egy részével. Ami amúgy az egyenlőség ellen megy. Mert ott valóban számít, hogy a tanár kedvel-e vagy épp ki vizsgáztat téged.
    Nyilván ez így volt, amióta világ a világ. Ez a "jófejség" a méréseik alapján 40%.
    Nyilván a tanárok a "jogosnál" ennyivel magasabb pontszámokat adnak. Ebben az esetben gépi megoldás esetén csökkenteni kell az elvárásokat a diákok felé az ugyanolyan érdemjegyekhez.

    Más kérdés, hogy benyalni a tanárnál, az "social skill", ami az élet sok területén nagyon is jól tud jönni, szóval ezt sem utolsó dolog kitanulni a suliban amúgy...

    "igen-nem kérdések alapján igyekszik eldönteni, hogy valaki veszélyt jelent-e az élettársára"
    Ez nem egzakt tudomány. Egy banki hitel elbírálása egyszerű adatokból, az teljesen korrekt dolog. De valakit watchlist-re tenni ilyesmik miatt, az nonszensz.
    Vagyis hát... nem nonszensz. Egy rendes neurális hálóval kéne elemezni az adatokat, és kifejleszteni egy rendszert, aminek a pontossága legalább 90-95%-os. Engem statisztikákkal is meg lehet győzni ugye.
    (Különvéleményt(Minority Report) ha látta valaki, az ad gondolkodnivalót, még ha ott nem is MI-vel képzelték el a dolgot.)
    A technika jelen állása szerint ilyen jellegű automatizáció nonszensz. Ne várj el a technikától olyat, ami még nem tud. Önjáró autók is csak akkor lesznek, amikor statisztikailag is csak ezredannyi balesetet okoznak, mint az emberi sofőrök.

    A technológia jelen állása mellett automatizált döntéshozásra egyszerűen szükség van.
    A Youtube-ra most másodpercenként több órányi videotartalom kerül fel. Ismétlem, másodperceként.
    És az intelligenciának nem csak azt kell felismernie, hogy mi van a képen. Mert egy meztelen kisgyermek a legtöbb esetben tiltandó. De ha például egy 400 éves festményen szereplő angyalkáról van szó, akkor oké.
    A horogkereszt a legtöbb esetben tiltandó, de egy történelmi dokumentumfilmben például nem gond.

    Az észtek robotbírója szerintem zseniális ötlet. Amíg lehet fellebbezni. Mert messze nincs még ott a technológia, hogy ennél többet várjunk tőle.
    És szerintem mi nem is fogjuk megérni még, hogy egy gép okosabb lesz nálnuk. Bár ki tudja :)
  • Cat #1
    A banki algoritmusok is adott esetben életekről, sorsokról döntenek évtizedek óta: például megkapod a lakáshitelt vagy sem... Fogalmad sincs, mi alapján, és nem kell indokolniuk semmit. Bekérnek elképesztően sok adatot, és csak ők tudják, mit néznek, mi a fontos. Lehet semmi hiba nincs veled, csak egyszerűen a központban úgy látják, hogy behúzzák a féket, és kész.