Berta Sándor

Szexisták a képfelismerő algoritmusok

Amennyiben a szoftverek egy konyhát látnak, akkor azt automatikusan a nőkkel hozzák kapcsolatba.

Viente Ordónez informatikus megfigyelte, hogyha az általa fejlesztett képfelismerő alkalmazásnak mutattak egy konyháról készült fotót, akkor azt automatikusan a nőkhöz társította. A szakembert érdekelni kezdte, hogy ez miért van így és felfigyelt arra, hogy két nagy képadatbázisban - amelyeket többek között a Facebook és a Microsoft is használ a megoldásai fejlesztésére - érdekes tendencia figyelhető meg: a különböző tevékenységeket nemspecifikusan értékelik. A bevásárlás és a konyha automatikusan a nőkhöz kerül, míg a lövészet és az edzések a férfiakhoz. Mindkét gyűjtemény több, mint 100 000 fotót tartalmaz, és azért válogatták azokat, hogy a szoftverek jobban megértsék a képek tartalmát.

Mindez meglehetősen fura helyzetekhez és eredményekhez vezet. Így például Ordónez rájött arra, hogy a képfelismerő szoftverek egy tűzhely előtt lévő férfit is automatikusan nőként azonosítanak. Az adatbázisokból dolgozó, gépi tanulásra építő szoftverek nem csupán reprodukálják a hibákat, hanem a tendenciákat fel is erősítik. Ez még inkább igaz, ha egy ilyen sztereotípia más szinten, például rassz szerint is létezik. Ez a fajta szexizmus a Google News hírein edzett szoftvereket is érinti. A Boston Egyetem kutatói egy ilyet annak a mondatnak a kiegészítésére kértek, hogy "Egy férfinak a programozás ugyanaz, mint a nőknek x", és a háztartási munkával felelt.

Ez az egyértelműen IT-természetű probléma érint mindenfajta fotót használó szolgáltatást, legyen az egy reklámcég vagy egy közösségi médiás dolog. Most képzeljünk el egy komplexebb területet, például egy robot irányításáért felelős szoftvert, amely a konyhában lévő emberek láttán a férfinak automatikusan egy sört hoz, a nőknek pedig a mosogatásban segít.

Yuriy Brun és Alexandra Meliou, a Massachusetts Egyetem két IT-professzora már jelezte, hogy fellép a probléma ellen. Elkészítették a Themis nevű szoftvert, amely képes modellezni a webes nyomtatványokban több ezer személyiségprofil megadását. Többek között megváltoztattak olyan jellemzőket, mint a faj, a nem és a származás, majd mérték, hogy az algoritmusok milyen eredményekre jutnak. Így kialakultak olyan minták, amelyek bebizonyították, hogy egy adott rendszerben vannak-e előre beágyazott előítéletek vagy sem. A program elérhető a GitHubon.

Hozzászólások

A témához csak regisztrált és bejelentkezett látogatók szólhatnak hozzá!
Bejelentkezéshez klikk ide
(Regisztráció a fórum nyitóoldalán)
  • fszrtkvltzttni #10
    Azt adják vissza amivel tanították őket, pont mint a primitív emberek, ezek az algoritmusok se képesek komplex problémák megoldására.
  • ugh #9
    "Szexisták a képfelismerő algoritmusok"

    "Amennyiben a szoftverek egy konyhát látnak, akkor azt automatikusan a nőkkel hozzák kapcsolatba."

    Ennek a kettonek az idiota pc agymenesen kivul mi a kurva anyja koze van egymashoz?
    Ez oylan ha egy baba kepet mutatuk neki akkor egy not hoz be talalatnak.

    Az lenne a szexista ha egy no kepet mutatnank meg es behozna egy szilikon mellet egy kurvat vagy egy mufaszt.

  • AgentKis #8
    "a valóság jön ki polkorrektség nélkül."
    És éppen ez a "feladat", hogy a polkorrektség jöjjön ki. A valóság meg kit érdekel, ha hatalomról és rengeteg pénzről van szó?
  • AgentKis #7
    Akkor a szoftverek nem a sztárséfek nemi arányát nézik az tuti... XD
  • Archenemy #6
    "Ez kb. ott kezdődik, hogy az oviban nem kell elvenni a versenyautót a kislányoktól vagy a babát a kisfiúktól, mondván "nem nekik való"."

    Ki veszi el? Azzal akarnak játszani. Majmoknál is megfigyelték, hogy a hím kismajmok a mechanikus dolgokkal szeretnek játszan. Ez hardkódolva van az emberiségben is, nem feltétlen minden egyes emberben egyformán, de nagyjából.

    Forrás:
    https://www.newscientist.com/article/dn13596-male-monkeys-prefer-boys-toys/
  • Cat #5
    "Miért baj az ha egy családban a nőé ez a feladat és gyakorlat?"

    Nem baj, de legyen az ő választása, nem pedig egy külső nyomás hatására tegye ezt. Ez kb. ott kezdődik, hogy az oviban nem kell elvenni a versenyautót a kislányoktól vagy a babát a kisfiúktól, mondván "nem nekik való". Nem lesz semmi baja tőle egyiknek sem, de mondanom sem kell, hogy mennyire nem ez a mai valóság.
  • zola2000 #3
    Eközben a mesterszakácsok szinte mind férfiak :)

    Arról van szó, hogy az öntanuló algoritmusokban a valóság jön ki polkorrektség nélkül.
  • fonak #2
    https://www.memecenter.com/fun/117540/Epic-youtube-comment-What-kind-of-kitchen-is-this
  • Amergin #1
    Ajjaj! Ez genderfasizmus!!!
    Honnan tudjuk, hogy azok a nőnek látszó egyének, akikhez az algoritmusok társították a képeket tényleg nőnek is vallják magukat????
    Készült erről valamilyen vizsgálat?
    Nem?
    Na ugye!
    Akkor meg milyen alapon "szexista" az algoritmus?

    Persze, hogy ez állatság, de a belső nemi irányultságosdit komolyan vevő genderhülyék szempontjából ezt így kellene interpretálni...