Berta Sándor

Az előítéletes algoritmusok ellen küzd a Google

A cél a lehetséges problémák kiküszöbölése a fejlesztések elejétől kezdve.

A mesterséges intelligenciával kapcsolatban az egyik legnagyobb kockázatnak tartja számos kutató, hogy az arra épülő rendszerek reprodukálhatják az emberi előítéleteket és ez erősítheti a társadalmi egyenlőtlenségeket. A témával a Google szakemberei is foglalkoznak és Responsible AI gyűjtőnév alatt számos programot hívtak életre. A társaság mesterséges intelligenciával kapcsolatos fejlesztéseinél eleve az az egyik központi pont, hogy nem hozhat létre vagy nem erősíthet fel előítéleteket.

Anna Ukhanova egyike a Google kutatóinak, a szakterülete a gépi tanulás és a mesterséges intelligencia. A szakértő úgy véli, hogy a technológia sikere közvetlenül össze van kötve a felelősségteljes alkalmazásával. Ezzel arra utalt, hogy a múltban mindig voltak olyan műszaki fejlesztések, amelyeknek problémát okozott, hogy minden ember igényeit azonos módon kielégítsék. Ezért volt az, hogy például egy időben a közúti balesetekben a nők gyakrabban sérültek meg. Az ok egyszerű volt: az előzetes biztonsági tesztek során, például a biztonsági övek kialakításakor csak a férfiak testalkatát vették figyelembe. Ukhanova rámutatott, hogy a mesterséges intelligenciánál is bármikor megvalósulhatnak az egyenlőtlenségek, gyakran már a legalapvetőbb dolgok esetében is.

Fernanda Viegas, a Google másik kutatója hozzátette, hogy az előítéletek sokszor magukban az adatokban vannak. Ez azoknak a forrásoknak köszönhető, amelyekkel a gépi tanulást, illetve a mesterséges intelligenciát betanítják. Ezek a hatalmas adatbázisok nehezen ellenőrizhetők, hiszen az emberek nem úgy vannak megalkotva, hogy ilyen nagy információmennyiségekkel dolgozzanak, ezért szükségük van eszközökre, hogy kezelni tudják azokat és a különböző egyenlőtlenségeket már a folyamat elején kiszűrjék. Ők mindenesetre mindent elkövetnek azért, hogy egyre több hatékony eszközt fejlesszenek ki.


Anna Ukhanova

Ukhanova kiemelte, hogy az egyenlőtlenségek ellen a legjobb módszer az átláthatóság. Gyakran egyszerű dizájnmódosítások is nagy változásokat eredményezhetnek. Jó példa erre a Google Fordító, amelynél a különböző nem-semleges kifejezéseket úgy fordítják le, hogy azokat a célnyelvben mind női, mind férfi alakban megadják. Fontos az is, hogy a felhasználóknak megmutassák, hogy a technológiának is vannak korlátai és megpróbálják minél jobban elmagyarázni, hogy az adott rendszer miként jut el bizonyos eredményekhez.

Viegas végül leszögezte, hogy a helyzet azért nehéz, mert a mesterséges intelligenciát mindig szélsőséges nézőpontokból szemlélik: vagy mindent tudó technológiának látják, amely minden problémát megold, vagy olyasminek, amely a pusztulásba viszi az emberiséget. Ahhoz, hogy előre lehessen lépni, meg kellene találni a középutat. Beszélni kell azokról a nagyszerű dolgokról, amelyek lehetővé válnak a mesterséges intelligencia segítségével, például a rák felismeréséről vagy a földrengések előrejelzéséről. Ezzel párhuzamosan azonban azt is meg kell említeni, hogy melyik területeken mond csődöt a technológia, mik a problémái és hol vannak határai. Csak így lehet elérni, hogy az emberek megbízzanak a mesterséges intelligenciában.

Ismert tény, hogy ha a képfelismerő algoritmusok egy konyhát érzékelnek, akkor azt automatikusan a nőkkel hozzák kapcsolatba, és például a további ajánlásokkor így kezelik a felhasználót. A számítógépek és a szoftverek az emberek által létrehozott adatbázisokból és mintákból tanulnak, így az emberek előítéleteit is átveszik. Joy Buolamwini, az MIT Media Lab kutatója és az Algorithmic Justice League vezetője. Utóbbi szervezet a gépi tanuláson alapuló rendszerek előítéletei és sztereotípiái ellen harcol. Hasonlóképpen tesz az IBM programja is, amely azt vizsgálja, hogy a technológia által hozott döntések előítéletesek-e és ha igen, mennyire. A kérdés azért is fontos, mert egyre többször hoznak meg fontos döntéseket algoritmusok, amelyek különösen az oktatás, az igazságügy és egészségügy területén kapnak komoly szerepet.

Hozzászólások

A témához csak regisztrált és bejelentkezett látogatók szólhatnak hozzá!
Bejelentkezéshez klikk ide
(Regisztráció a fórum nyitóoldalán)
  • Agyturbinikusz #57
    Az ugye megvan, hogy teljesen magad ellen beszelsz, hiszen TE mint liberalizmust allitod be fo bajnak, mig a liberalis orszagokat allitod szembe a teokratikusokkal. Vagyis egy konzervativ ertekrendet vedesz(Keresztenyseg) egy masik konzervativ ertekrenddel szemben, mikozben a liberalizmusrol odakat zengesz.

    Ezert irtam, az izumsok magukban nem kepesek kello vilagnezetet adni. Mert minden egy kicsit liberalis, es konzervativ reszben.
    Semmi nem fekete feher, a teljesen konzervativ vilagnezettol amit a europaban/usaban a keresztenyseg alapozott meg, felvaltotta el fel liberalis rendszer. A Populista vezetok pedig konzervativ ertekek menten nyugtatozzak az idosodo tarsadalmat. Felismertek, ahogy oregszunk egyre jobban felunk a valtozastol, foleg ha alacsony az iskolazottsag, hiszen nem latjuk kovetkezmenyeit, igy nagyon egyszeru megvezetni az embereket. Konnyu felelembe tartani.
    A muzulmanokkal meg semmi baj sincs, pontosan ugy tudnak lopni csalni hazudni, mint kereszteny tarsaik, ha mar a negativumokat akarod kiemeleni. Csak jobban osszetartanak. Ahelyett, hogy ekezed oket, peldat kell roluk venni.

    Ezert mondom mar regota, az Osszes vallast el kell torolni, mindenki azt hisz otthon amit akar, de szervezodni tilos ezen az alapon, mert egy hulye szazat gerjeszt a mesekonyvevel. A hit csodalatos dolog, ahhoz, hogy higyjunk nem kell senkinek templomba jarni meg kepmutatoan viselkedni. Inteligensnek kell lenni, es segit megteremteni a szellemi nyugalmat. Mindennek megvan a helye es ideje, a vallasnak a helye a Napban, ideje meg 2000 evvel ezelott lejart.
    Utoljára szerkesztette: Agyturbinikusz, 2020.12.03. 22:54:55
  • Tetsuo #56
    Végre valamiben egyetértünk. A muszlim valóban nem hibás (annyira), ellenben a mindenen nyerészkedő galíciai jöttment már annál inkább - aki kinyittatja Európa kapuit - és az a gój is, aki júdáspénzért kollaborál vele.
    A muszlim, ahogy a cigány is, csak kihasználja a lehetőséget és éppen úgy, ahogy életviteléből arra képes. Ők ez esetben eszközök mások elnyomásához, a káosz megteremtéséhez. Persze így is van felelősségük, de nem ők a főbűnösök.

    Mindamellett a modernség és annak csúcsrajáratott bomlasztó ideológiái, aktuálisan az úgynevezett liberalizmus ellenében álló hagyományos értékrend, mint például a saría törvénykezés, a szalafita és wahabbita irányzatoktól mentes tradicionális Iszlám minden porcikájában hasznosabb és magasabbrendű, mint a fejlett Nyugat, és annak szabadelvűsége.
  • Agyturbinikusz #55
    Ja, hogy gondolkodni kellett volna, mielott gyereket vallasz. Ezert nem tettem. Vagyis nem a muszlim a hibas, hanem az hogy mindenki harcolni akar ellene.

    Vagyis az en eletemben ugysem fog erinteni, masnak meg nem okozok akaratan kivul szenvedest.

    Aztan a muzulman vilagban majd jon egy felvilagosodas, ahogy Iranban is folyamatos felkelesek vannak.

    Csak ugye felelemben elni, rettegni nagyon is jo, ahelyett, hogy vegig gondolnank az egeszet.

    Meg fog tortenni a felvilagosulas naluk is, csak ido kerdese. Addig meg lesz ami lesz.
    Utoljára szerkesztette: Agyturbinikusz, 2020.12.03. 09:20:05
  • gosub #54
    Tőlem röhöghetsz milyen buták az emberek, csak közben a valóság elszalad melletted, vagy szembe jön mint a gyorsvonat. A rasszizmus nem nálunk, vagy nálam van és nem is az MI/AI a rasszista, csak azt szeretnéd hinni, hogy én vagyok a gyerekes és a magam fajta tapasztalati úton gondolkodók miatt nem boldog a világ. Az igazi, húsba vágó rasszizmus most áramlik be Európába. Nem az MI/AI-t kell megregulázni algoritmusokkal. Írom az okot:
    Franciaországban élő, 25 évesnél fiatalabb muszlimok többsége, egész pontosan 57%-a úgy hiszi, hogy a saría (az iszlám törvényei) fontosabb, mint a francia törvények – ez 10%-os növekedés a 2016. évi eredményhez képest. Őket ugye nem kell átnevelni liberális gondolkodásra? Vagy igen?
    Szerinted ezek a fehér rasszizmus áldozatai idős korunkra milyen világot építenek ki? Idővel többségbe fognak kerülni, ez tény. Franciaországban a 80-as években kezdtek igazán bejönni a muszlim bevándorlók, 30 év alatt a lakosság 12-16%-a már muszlim és dinamikusan növekszik, ugyan úgy mint Németországban, Svédországba, Olaszországban. Nekik majd nagyon fontos lesz a véleményed és gondolatod szabadsága és sokkal toleránsabbak lesznek mint én.
  • Agyturbinikusz #53
    Teljesen lenyegtelen, foleg igy, mert ragaszkodik minedenki a sajat kis szokeszletehez, ilyen olyan izmussal.

    Ez semmilyen problemat nem fog megoldani, de lehet orjongeni, meg vicsorogni a masikra.

    Majd talan egyszer, vagy ha nem akkor sem tortent semmi. Legalabbis az en nezopontombol, mert max ugyan olyan silany marad minden amilyen volt. Nekem max 34 evet kell kibirnom, de a tobbiek sajnos maskent dontottek, igy a genetikailag tovabb adott enjuknek meg generaciokon keresztul kell szenvedni. Sokszor ugy, nem is tudjak mi bajuk.
    Utoljára szerkesztette: Agyturbinikusz, 2020.11.30. 10:49:25
  • kvp #52
    Az elozo par hozzaszolas pont jol mutatja azt ahogy az emberek elbeszelnek egymas mellett.

    Az MI nem filozofal vagy gyulolkodik, azt csinalja amire utasitjak. Ha mintakat kell felismernie majd ez alapjan klasszifikalnia, akkor eloiteletes lesz. Mert ez az eloitelet definicioja es mukodese.

    Ha mas mukodest varnak el tole akkor definialjak pontosan mit akarnak. A gond ott van, hogy a legtobb modern tarsadalmi filozofiaban logikai onellentmondasok vannak. Ezeket egy MI rosszul viseli es orulten kezd el viselkedni. Mivel hasonlo viselkedest latunk sok felvilagosult modern filozofiat kovetotol is, ezert ez akar meg is felelhet az elvarasoknak.

    Pelda: Valakit kirabolnak a tulnyomoan feketek lakta gettoban. Az eloiteletes MI a fekete ferfiakra gyanakszik mint legvaloszinubb elkovetore. Meg azt is megmondja mi mennyire valoszinu. A woke MI pedig a feher rasszista rabszolgatarto fehereket tartja hibasnak. Mindketto helyesen mukodik. Kerdes mi volt a cel? A lehetseges elkoveto megtalalasa vagy egy nehezen definialhato tarsadalmi csoport bunbakka tetele. Mindket feladatra keszitheto MI.

    De a pelda lehetne egy termekkivalasztast segito MI. Az egyik a kerdezo profilja alapjan (pl. feher, ferfi, kozeposztalybeli, muszaki ertelmiseg, kozepkoru) megprobalja a szamara legidealisabb termeket megtalalni. A masik pedig hibaztatja a tarsadalom helyzeteert es lebeszeli a vasarlasrol, esetleg felszolitja ngo-k penzugyi tamogatasata. Itt is mindket MI azt csinalta ami az elvaras volt a letrehozasukkor, csak az elso egy rasszista, eloiteletes szoftver, mig a masodik politikailag korrekt es az elvarasok szerinti modon helyesen valaszolt.

    A mostani folyamat vegen mindossze ezeket az MI-ket szeretnek latni a mostani eloiteletes (tehat rasszista, stb.) MI-k helyett. Ha megkerdezzuk milyen az idojaras es az asszisztens azt valaszolja hogy tombol a feher rasszizmus es patriarhalis felsobbrenduseg, akkor sikeresen atallitottak a szoftvereket az uj elvarasok szerinti viselkedesre.

    Ha kozben meg onellentmondasba keveredik akkor meg a kognitiv disszonanciat is sikerult kezelni, ami a mai MI-k eseten egyelore a logikai mintak osszeomlasat okozza. Ha emberek kepesek kezelni es fel se tunik nekik tudati szinten, akkor talan az MI-k eseten is megoldhato. A jelenlegi megoldasok csak tudatos hazugsagra utasitassal vehetok ra ennek kezelesere, de nem ertjuk miert. Valoszinuleg a megallasi problema kezelesenek kornyeken lesz a jo megoldas. (tehat a paradoxonok elvarasok szerinti kezelese a feladat, azok tudatos felismerese nelkul)
  • Agyturbinikusz #51
    Azt úgy hívják vallás, ami a legkarosabb eszme az emberiség történelmében.

    Tudod majd ha az okokat szüntetik meg, nem a látszatot kezelik, akkor megérted, semmilyen izmusrol nem beszélek.
    Te akarod mindenképpen egy dobozba begyomoszolni amit mondok.
  • Tetsuo #50
    A liberális lózungok mind hamisak. Egyik sem igaz, és nem vezet jóra, ha hiszünk bennük. A liberalizmus talán a legkártékonyabb eszme/attitűd az emberiség történelmében.
  • Agyturbinikusz #49
    Igazad, van. Hülyét csinálok magamból.

    De csak azért mert be akartam illeszkedni.

    Szerencsére nem sikerült.
  • Sydra #48
    Én ismerek rendes cigányt aki nem szereti az átlag cigányt. Akkor ő most rasszista?
    Amúgy nem gondolom, hogy Magyarországon egy olyan cigányt, aki szépen beszél, rendesen felöltözik és tisztességesen viselkedik azt több hátrányos megkülönböztetés érné, mint bárki mást. Az emberek nem a sötét bőrszínt nem szeretik, hanem a gazemberséget, meg a gazemberséget éltető kultúrákat.