Berta Sándor

Kevésbé előítéletes lehet a mesterséges intelligencia

Mindenki életére hatással lehet, ha a technológián alapuló algoritmusok igazságosabbak lesznek.

Ismert tény, hogy ha a képfelismerő algoritmusok egy konyhát érzékelnek, akkor azt automatikusan a nőkkel hozzák kapcsolatba és például a további ajánlásoknál így kezelik a felhasználót. A számítógépek és a szoftverek az emberek által létrehozott adatbázisokból és mintákból tanulnak, így az emberek előítéleteit is átveszik. Joy Buolamwini, az MIT Media Lab kutatója és az Algorithmic Justice League vezetője, a szervezet a gépi tanuláson alapuló rendszerek előítéletei és sztereotípiái ellen harcol. Hasonlóképpen tesz az IBM programja is, amely azt vizsgálja, hogy a technológia által hozott döntések előítéletesek-e és ha igen, mennyire. A kérdés azért is fontos, mert egyre többször hoznak meg fontos döntéseket algoritmusok, amelyek különösen az oktatás, az igazságügy és egészségügy területén kapnak komoly szerepet. Szintén az előítéletes algoritmusok ellen küzd a Google.

Az MIT szakértői megállapították, hogy az általuk megvizsgált igazságügyi, banki és más algoritmusok esetenként előítéletesek például az alacsony jövedelműekkel szemben, ha az érintettek hitelt kérnek, állásajánlatra jelentkeznek vagy bíróság előtt állnak. Egy szegényebb személy például kisebb eséllyel fog óvadék ellenében szabadulni az előzetes letartóztatásból.

A kutatók ugyanakkor nem csak tanulmányozták az ilyen eseteket, hanem kifejlesztettek a mesterséges intelligenciához egy programozási nyelvet is, amely az eddigieknél pontosabban és gyorsabban tudja megállapítani, hogy egy adott algoritmus igazságosan járt-e el egy ügyben vagy sem. A Sum Product Probabilistic Language (SPPL) elsősorban azért készült, hogy lehetővé tegye a mesterséges intelligencia rendszerek egyszerűbb kifejlesztését. Az SPPL már számos sikert könyvelt el az adattisztítás és az automatizált adatmodellezés területén.

Feras Saad, az MIT doktorandusza rámutatott, hogy ugyan vannak már hasonló fejlesztések, de az ő rendszerük bizonyos modellekre van specializálva és optimalizálva, így ezerszer gyorsabban tud megoldásokat szállítani. Az SPPL így gyorsan és pontosan tud válaszolni olyan kérdésekre, mint: mennyire valószínű, hogy az adott modell egy 40 évesnél idősebb személynek is hitelt fog ajánlani, vagy jelenthet-e problémát egy elbírálásnál, ha az illető bevándorló vagy sem.

A fejlesztést vezető Vikash Mansinghka leszögezte, hogy az SPPL megmutatja, hogy a pontos valószínűségi következtetések elkészítése az ezzel foglalkozó szoftverek esetében nem csupán elméletben, hanem a gyakorlatban is lehetséges.

Hozzászólások

A témához csak regisztrált és bejelentkezett látogatók szólhatnak hozzá!
Bejelentkezéshez klikk ide
(Regisztráció a fórum nyitóoldalán)
  • kvp #6
    "A nem szükséges dolgok árusítása is nagyon igazságtalan."

    Ilyenek pl. internet hozzaferes, tv musorok, munkaruha kivetelevel minden ruha, disztargyak, maganlakasok es hazak, kb. minden ami nem szukseges a tuleleshez. Igazabol egy eszak koreai munkataborban van az a szint, ahol tenyleg csak a szukseges dolgok elerhetoek. Tudom, hogy az amerikai progressziv balolal ezt szeretne, de alapvetoen azert mert sok amerikai egyetemista azt gondolja, hogy egy sziberiai vagy eszak koreai munkatabor szintjen kellene elnie a teljes emberisegnek nem jelenti azt, hogy ez tenyleg jo is lenne barkinek. Jo pelda a kulturalis forradalom es a nagy lepes kinaja Mao alatt, amikor a vegen a parasztoknak (foldmunkasoknak) mar femszerszamaik se maradtak, mivel azok sem voltak feltetlen szuksegesek.

    Ha az MI-ket arra tanitjak, hogy maoistak legyenek, akkor azok lesznek es az egesz emberiseg letet is figyelmen kivul fogjak hagyni a beallitott celjuk elerese erdekeben. Ez csak a tanito adathalom kerdese. A kapitalistaknak viszont ra kellene jonniuk, hogy ha kommunista vagy maoista ideologia szerint prögramozzak azokat az MI-ket amikre a vagyonukat bizzak, akkor nagyon hamar elveszithetik azt. Meg melle meg az eletuket is, ismerve a ket rendszer mukodeset.
  • Sydra #5
    Ahelyett hogy másokra irigykednél inkább takarodj el dolgozni! Hogy lehet ilyen ormótlan komcsi ostobaságokat írni?
  • Akva #4
    A társadalom igazságtalan, a mesterséges intelligencia ezt csak konstatálja. Nem az a baj, hogy a szegények nem tudják visszafizetni a kölcsönt, hanem az, hogy egyáltalán vannak szegények, és létezik kölcsön, nem tudja az ember a jövedelméből megvenni, ami szükséges. Másrészt, ami nem szükséges, azt meg pláne nem kéne kölcsönből megvenni. A nem szükséges dolgok árusítása is nagyon igazságtalan.
  • caprine #3
    Az előítélet azért van mert olyan tapasztalatai vannak az embernek, vagy azt tanilja az ember a szülöktől, haveroktól vagy éppen a tv-ből. Magyarán ha megtanítják az MI-nek akkor ő is az lesz.

    Ez a mondat: "a pontos valószínűségi következtetések..." Ha a "valószínűségi" szót használod a "biztos" helyet akkor az már eleve nem lehet pontos csak saccolás ami vagy bejön vagy nem.
  • kvp #2
    Igen, ezt lenne a celjuk. Kar, hogy a mai MI-k igazabol csak statiszikai modellek, amiket ezek a tanito adatbazisok hoznak letre. Kezzel korrigalni oket remenytelen, viszont ha direkt hibas adatokat adnak nekik, pl. olyan infot, hogy a genertikailag (biologiailag) ferfiak es nok is egyarant szulhetnek, akkor azt fogja az algoritmusan statiksztikazni es az elvart valaszt adja.

    Ez foleg bankok eseten jo, mert igy olyanok is ugyanugy kapnak hitelt akik biztosan nem tudjak visszafizetni azt igy a bank donthet, hogy vagy masszivan veszteseges lesz vagy inkabb nem ad hitelt senkinek. Mindket esetben csodbe megy. Az MI-k eloiteleteinek megszuntetese, majd ezen eloitelet mentes MI-kre valo hagyatkozas az egyik legbiztosabb modja a nyugati kapitalista rendszer lebontasanak ugyanis a mostani kapitalista gazdasagi rendszerek nem tudnak mukodni ha a profit erdekeben nem eloiteletesek a donteshozok. Mondjuk lehet ez is cel es akkor nagyon jo uton haladnak fele.
  • Sydra #1
    Magyarul kiirtják belőle a statisztikai tapasztalatokat, hogy minden helyzetben polkorrekt döntést hozzon.