Informatika és tudomány

Berta Sándor

Gondot okoznak a nők az Amazon arcfelismerő rendszerének

Újabb problémák merültek fel a kifejlesztett megoldással kapcsolatban.

Az már tavaly júliusban ismertté vált, hogy az Amazon által megalkotott Rekognition nevű arcfelismerő rendszernek vannak hiányosságai. Az American Civil Liberties Union (ACLU) megvásárolta a szoftver licencét, majd mind az 535 amerikai kongresszusi képviselő fotóját összehasonlította egy adatbázissal, amely 25 000 bűnöző fényképét tartalmazta. A Rekognition 3 szenátorról és 25 képviselőről állította azt, hogy a portréjukat fellelte a rendőrség által rabosításkor készített fotók között, vagyis bűnözőkként azonosította őket. A program a bőrszínt fontos összehasonlítási paraméterként használta, a 28 bűnözőként azonosított képviselő közül 11 volt színesbőrű.


Most egy újabb hiányosságra derült fény: a rendszernek problémát jelent a nők és a férfiak megkülönböztetése - különösen akkor, ha a nők színesbőrűek. A Rekognition az esetek 19 százalékában a nőket férfinek tartotta. A színesbőrű nők esetében még rosszabb volt a helyzet, 31 százalék volt ez az arány - minderre az MIT kutatói mutattak rá. Joy Buolamwini, az MIT illetékes kutatója már tavaly júniusban tájékoztatta Jeff Bezost, az Amazon vezetőjét az eredményekről, de azóta sem választ nem kapott a felvetésekre, sem az arcfelismerő rendszer kijavítása vagy továbbfejlesztése nem történt meg.


Matt Wood, az Amazon Web Services mesterséges intelligencia részlegének vezetője megvédte a megoldást, mondván: az MIT munkatársai csak a Rekognition arcelemző funkcióját tesztelték, az arcfelismerő funkcióját nem. Az előbbi azonosítja a digitális képeken és a videókon az arcokat, s olyan dolgokra figyel fel, mint a szemüveg. Csak az arcfelismerésnél hasonlítják össze az adott arcot más arcokról készült fotókkal. Emellett a kutatók egy régebbi szoftververziót teszteltek, miközben tavaly november óta már elérhető egy új változat is. Az utóbbi belső tesztjein semmilyen különbséget sem találtak a különböző nemek felismerésekor.

Hozzászólások

A témához csak regisztrált és bejelentkezett látogatók szólhatnak hozzá!
Bejelentkezéshez klikk ide
(Regisztráció a fórum nyitóoldalán)
  • Magnum PI #10
    Valamint nem kell lebecsülni a gép arcfelismerést. Azt pl hogy két képen ugyanaz a személy van-e a gép már nagyobb pontossággal tudja eldönteni mint az ember. Itt most a klasszifikációval vannak gondok. Szóval ha bűnözésről és körözésről van szó, pontosabb lesz a gép mint az ember mert ott egy konkrét arcot fognak keresni.
  • Magnum PI #9
    "Viszont ha az utcan kiszur egy szoftver valakit, akkor hiaba derul ki par oraval kesobb a rendororson az, hogy tevesen vettek orizetbe"

    Amíg az őrizetbe vételt emberek csinálják szerintem össze fogják vetni az arcot egy fényképpel is hogy biztos azonos az illető. Ezt most is megteszik ha pl egy névtelen bejelentés jön egy körözött személyről. Nem fognak ész nélkül egy embert bilincsbe rakni csak mert valaki rámutatott. Mindegy hogy AI vagy ember.
    Utoljára szerkesztette: Magnum PI, 2019.01.30. 11:57:43
  • kvp #8
    "A szoftver algoritmusai nyilvánvalóan nem tökéletesek, de mi tartja vissza a felhasználókat attól, hogy a szoftverrel szűkített találati listát a saját szemükkel is ellenőrizzék? Már persze a lustaságon és a gépbe vetett vak bizalmon kívül."

    Altalaban ellenorzik. Viszont ha az utcan kiszur egy szoftver valakit, akkor hiaba derul ki par oraval kesobb a rendororson az, hogy tevesen vettek orizetbe, attol meg bevittek az illetot par orara. Aztan az illeto tovabbmegy es a kovetkezo keruletben megint kiszurja a szoftver es megint beviszik a helyi rendorok ellenorzesre. Aztan masnap megint, addig amig a nagyvarosban minden rendor mar ranezesre felismeri, hogy o az akit tevesen azonosit mindig a rendszer. Na most ha a rendszer atlagosan az emberek 5%-at nezi bunozonek, akkor egy 10 millios nagyvaros eseten ez 500 ezer ember. Na ennyit a rendorok nem fognak felismerni, szoval vagy hagyjak a rendszert a fenebe vagy mindenkit bevisznek allandoan, majd kivalogatjak oket bent. Egyik sem igazan jarhato ut.
  • hypno #7
    A szoftver algoritmusai nyilvánvalóan nem tökéletesek, de mi tartja vissza a felhasználókat attól, hogy a szoftverrel szűkített találati listát a saját szemükkel is ellenőrizzék? Már persze a lustaságon és a gépbe vetett vak bizalmon kívül.
  • VolJin #6
    Teljesen logikus, ha a letartóztatott bűnözők 90%-a színes bőrű, és az arcfelismerés pontatlan, akkor nagyobb valószínűséggel azonosítják be a színes bőrű embereket tévesen bűnözőként. Mert amíg egymillió fehér emberrel keverhet össze valakit a rendszer, ha fehér, tízmillióval, ha színes bőrű.
  • TokraFan #5
    MOndjuk emilyen szinten képesek egyes nők szénné szoláriumozni, vagy napoztatni magukat, ott a bőrszín alapján egy szoftverrel felismertetni azt, hogy ez most afro-amerikai vagy csak egy fehér nő megpörkölve, nem lehet egyszerű. És egy rocker srác a seggig érő egyenes hajával? Vagy egy férfias karakterű, kenény arcú, rövid hajú nő? Hülyeség az egész...
    Utoljára szerkesztette: TokraFan, 2019.01.29. 15:58:10
  • Cat #4
    "meg emberekkel is elofordul, hogy egy not ferfinak neznek vagy foritva."
    Ha megnézted a videót, a mintaadatbázisba képviselőket rakott 3 afrikai és 3 nyugati országból. (Gondolom adatvédelmi okokból, mert ezek közszereplők, és a fotóik jó minőségűek.) Szóval itt nem rövidhajú nőkről van szó, és látványos, hogy csak a fekete nőknél ilyen rossz a statisztika. (Lásd a felső képen a százalékokat.)
  • kvp #3
    Azt, hogy az azonositott kepviselok kozzul hany volt az akinel a rendszer tevedett es hany volt a korabban mar tenyleg rabositott, tehat helyes talalat azt nem emlitik.

    A ferfiak-nok tevesztes a rendszer tanitasi hibajabol ered. Eleve az uj politikailag korrekt rendszerben nem lenne szabad az embereket ketfele osztani kulso jegyek alapjan, de ez pont tenyleg olyasvalami ami a mai vilagban nehezen megallapithato es meg emberekkel is elofordul, hogy egy not ferfinak neznek vagy foritva.

    A kiserlet eredmenye egyebkent az, hogy a szamitogep sem sokkal jobb az embernel talalati aranyban, sot neha rosszabb. Az elonye az, hogy gyorsabb es nem farad el. De ettol jobb munkat egyelore meg nem vegez.
  • Zoliz #2
    Ciki, hogy a gép nem tudja megkülönböztetni az embereket. Emiatt agy kell nekik.
    Ha véletlenül kommandósok törik rátok az ajtót, fogjátok a nyuszira!
  • lammaer #1
    Hát valóban szar a cucc, mert 535 bűnözőt kellett volna találnia :D
További bejegyzések a fórumban...