SG.hu
Egy holland emberi jogi intézet szerint nemileg elfogult a Facebook
Egy európai emberi jogi testület kimondta, hogy a Facebook algoritmusa nemi előítéletet mutat az álláshirdetések népszerűsítésekor, ami aktivisták szerint döntő lépés a nagy technológiai vállalatok felelősségre vonásában a platformjaik kialakításáért.
A Holland Emberi Jogi Intézet határozatában kimondta, hogy a Facebook algoritmusa a nemi sztereotípiákat erősíti azáltal, hogy elsősorban „tipikusan női szakmákat” mutat a hollandiai női Facebook-felhasználóknak, és hogy a közösségi platform tulajdonosának, a Metának figyelemmel kellett volna kísérnie és módosítania kellett volna algoritmusát, hogy ezt megakadályozza. Az intézet döntése azt követően született, hogy a Global Witness nemzetközi nonprofit szervezet megállapítása szerint a Facebook európai felhasználói a nemek közötti elfogultság miatt kimaradnak egyes munkalehetőségekből.
A szervezet a Facebook álláshirdetéseit vizsgálta, és kiderítette, hogy a hirdetések Hollandiában és öt másik országban gyakran történelmi nemi sztereotípiák alapján célozták meg a felhasználókat. Például a szerelői állásokra vonatkozó hirdetéseket túlnyomórészt férfiaknak, míg az óvodapedagógusi szerepekre vonatkozó hirdetéseket elsősorban nőknek mutatták be. A Global Witness Hollandiában, Franciaországban, Indiában, Írországban, az Egyesült Királyságban és Dél-Afrikában végzett kísérletei azt mutatták, hogy az algoritmus világszerte hasonló előítéleteket tart fenn. A nonprofit szervezet vizsgálata nyomán négy panasz érkezett a bíróságra a Bureau Clara Wichmann holland emberi jogi csoporttól és a Fondation des Femmes francia szervezettől.
A Holland Emberi Jogi Intézet februári döntésében leszögezi, hogy a Facebook-hirdetéseket Európában kezelő Meta Platforms Ireland Ltd. nem tudta bizonyítani, hogy hirdetési algoritmusa nem folytat tiltott nemi megkülönböztetést. A holland testület szerint a Facebooknak felül kell vizsgálnia hirdetési algoritmusát, hogy megakadályozza a további diszkriminációt. Az Európai Unió több irányelv is tiltja a nemi alapon történő megkülönböztetést, többek között az online hirdetésekben. Az intézet döntésében kiemeli, hogy "a Meta Ireland elismerte, hogy a nemi adatpont része lehet az algoritmusnak. A Meta Ireland nem cáfolta, hogy ez az adatpont az algoritmuson keresztül elősegítheti a sztereotipizálást”.
A Meta szóvivője, Ashley Settle korábban elismerte, hogy a vállalat „célzási korlátozásokat alkalmaz a hirdetőkre, amikor a foglalkoztatási, valamint a lakás- és hitelhirdetésekhez kapcsolódó kampányokat állítanak be”. Ezek a közönségcélzási korlátozások az Egyesült Államokban, Kanadában és több mint 40 európai országban és területen, köztük Franciaországban és Hollandiában vannak érvényben a Meta szerint. "Nem engedjük meg a hirdetőknek, hogy ezeket a hirdetéseket nemek alapján célozzák meg” - mondta Settle. "Továbbra is együttműködünk az érdekelt felekkel és szakértőkkel a tudományos életben, emberi jogi csoportokkal és más tudományágakkal az algoritmikus méltányosság vizsgálatának és kezelésének legjobb módjain”.
A Facebook egy 2020-as blogbejegyzésében a hirdetési rendszeréről azt írta, hogy a reklámok számos tényező alapján jelennek meg a felhasználóknak, beleértve a „platformon belüli és kívüli viselkedést”. Berty Bannor, a Clara Wichmann iroda munkatársa ünnepelte a holland intézet döntését, és elmondta, hogy a döntés jelentős. "A mai nap nagy nap a holland Facebook-felhasználók számára, akiknek egy hozzáférhető mechanizmus áll rendelkezésükre, hogy a Meta-hoz hasonló multinacionális technológiai vállalatokat felelősségre vonják, és biztosítsák, hogy az offline élvezett jogaik a digitális térben is érvényesüljenek” - mondta Bannor. "Úgy látom, hogy ez az első lépés annak megmutatásában, hogy a megkülönböztetésellenes törvények ugyanúgy vonatkoznak a nagy techcégekre, mint az offline világra” - tette hozzá.
Rosie Sharpe, a Global Witness digitális fenyegetésekkel foglalkozó vezető kampányfelelőse szerint az ítélet „fontos lépés afelé, hogy az IT-óriásokat felelősségre vonják azért, ahogyan szolgáltatásaikat kialakítják, és hogy algoritmusaik milyen diszkriminatív hatással lehetnek az emberekre”. "Reméljük, hogy ez az ítélet további fellépések ugródeszkájaként szolgálhat Európában és azon túl is” - tette hozzá.
A Holland Emberi Jogi Intézet döntése jogilag nem kötelező érvényű, de szakértők szerint a cégnek figyelembe kell vennie az intézet megállapításait. Anton Ekker holland ügyvéd, aki a mesterséges intelligenciára és a digitális jogokra szakosodott, elmondta, hogy az intézet döntése a holland adatvédelmi szabályozó hatóság által kiszabott bírságokhoz vagy bizonyos algoritmusok módosítására vonatkozó utasításokhoz vezethet, különösen azokhoz, amelyek erősítik az egyenlőtlenségeket és aránytalanul károsítják a nem, faj, etnikum vagy vallás alapján marginalizált csoportokat. Ha a Meta nem tesz lépéseket az álláshirdetések algoritmusával kapcsolatban, a civil szervezetek további jogi lépéseket tehetnek annak érdekében, hogy megállítsák az algoritmusaik diszkriminatív használatát - mondta.
Bannor szerint a holland döntés a digitális jogok védelmének súlyos csorbulása miatt született, különösen a nők és a marginalizált csoportok esetében. A múlt hónapban a Meta közölte, hogy megszünteti a sokszínűségre, egyenlőségre és befogadásra vonatkozó programjait, megváltoztatja a platformjain tanúsított gyűlöletkeltő magatartásra vonatkozó irányelveit, és megszünteti a harmadik fél által végzett tényellenőrző programjait az Egyesült Államokban. A felhasználóknak mostantól például megengedett, hogy „a nőket háztartási tárgyként vagy tulajdonként” vagy „a transznemű vagy nem bináris embereket "ez"-ként emlegessék, az ilyen beszédet tiltó, eltávolított irányelvek egy szakasza szerint. A szabályzat új szakasza megjegyzi, hogy a Meta engedélyezi „a mentális betegségre vagy abnormalitásra vonatkozó állításokat, ha azok nemi vagy szexuális irányultságon alapulnak, tekintettel a transzneműségről és a homoszexualitásról szóló politikai és vallási diskurzusra”. Korábban az ilyen hozzászólásokat a Meta moderátorai eltávolították volna.
A Meta az elmúlt évtizedben különböző diszkriminációs vádakkal szembesült, többek között lakhatási, foglalkoztatási és hitelhirdetésekkel kapcsolatos pereket indítottak az Egyesült Államokban. Ennek eredményeképpen a vállalat az Egyesült Államokban módosította ezekre a hirdetésekre vonatkozó algoritmusát. A Global Witness munkatársa, Sharpe szerint "felháborító”, hogy ugyanezeket a változtatásokat nem alkalmazták globálisan, azzal érvelve, hogy az algoritmusok és az MI egyre inkább hatással vannak a mindennapi életre, és jelentős kockázatot jelentenek a társadalmi igazságosságra.
A Holland Emberi Jogi Intézet határozatában kimondta, hogy a Facebook algoritmusa a nemi sztereotípiákat erősíti azáltal, hogy elsősorban „tipikusan női szakmákat” mutat a hollandiai női Facebook-felhasználóknak, és hogy a közösségi platform tulajdonosának, a Metának figyelemmel kellett volna kísérnie és módosítania kellett volna algoritmusát, hogy ezt megakadályozza. Az intézet döntése azt követően született, hogy a Global Witness nemzetközi nonprofit szervezet megállapítása szerint a Facebook európai felhasználói a nemek közötti elfogultság miatt kimaradnak egyes munkalehetőségekből.
A szervezet a Facebook álláshirdetéseit vizsgálta, és kiderítette, hogy a hirdetések Hollandiában és öt másik országban gyakran történelmi nemi sztereotípiák alapján célozták meg a felhasználókat. Például a szerelői állásokra vonatkozó hirdetéseket túlnyomórészt férfiaknak, míg az óvodapedagógusi szerepekre vonatkozó hirdetéseket elsősorban nőknek mutatták be. A Global Witness Hollandiában, Franciaországban, Indiában, Írországban, az Egyesült Királyságban és Dél-Afrikában végzett kísérletei azt mutatták, hogy az algoritmus világszerte hasonló előítéleteket tart fenn. A nonprofit szervezet vizsgálata nyomán négy panasz érkezett a bíróságra a Bureau Clara Wichmann holland emberi jogi csoporttól és a Fondation des Femmes francia szervezettől.
A Holland Emberi Jogi Intézet februári döntésében leszögezi, hogy a Facebook-hirdetéseket Európában kezelő Meta Platforms Ireland Ltd. nem tudta bizonyítani, hogy hirdetési algoritmusa nem folytat tiltott nemi megkülönböztetést. A holland testület szerint a Facebooknak felül kell vizsgálnia hirdetési algoritmusát, hogy megakadályozza a további diszkriminációt. Az Európai Unió több irányelv is tiltja a nemi alapon történő megkülönböztetést, többek között az online hirdetésekben. Az intézet döntésében kiemeli, hogy "a Meta Ireland elismerte, hogy a nemi adatpont része lehet az algoritmusnak. A Meta Ireland nem cáfolta, hogy ez az adatpont az algoritmuson keresztül elősegítheti a sztereotipizálást”.
A Meta szóvivője, Ashley Settle korábban elismerte, hogy a vállalat „célzási korlátozásokat alkalmaz a hirdetőkre, amikor a foglalkoztatási, valamint a lakás- és hitelhirdetésekhez kapcsolódó kampányokat állítanak be”. Ezek a közönségcélzási korlátozások az Egyesült Államokban, Kanadában és több mint 40 európai országban és területen, köztük Franciaországban és Hollandiában vannak érvényben a Meta szerint. "Nem engedjük meg a hirdetőknek, hogy ezeket a hirdetéseket nemek alapján célozzák meg” - mondta Settle. "Továbbra is együttműködünk az érdekelt felekkel és szakértőkkel a tudományos életben, emberi jogi csoportokkal és más tudományágakkal az algoritmikus méltányosság vizsgálatának és kezelésének legjobb módjain”.
A Facebook egy 2020-as blogbejegyzésében a hirdetési rendszeréről azt írta, hogy a reklámok számos tényező alapján jelennek meg a felhasználóknak, beleértve a „platformon belüli és kívüli viselkedést”. Berty Bannor, a Clara Wichmann iroda munkatársa ünnepelte a holland intézet döntését, és elmondta, hogy a döntés jelentős. "A mai nap nagy nap a holland Facebook-felhasználók számára, akiknek egy hozzáférhető mechanizmus áll rendelkezésükre, hogy a Meta-hoz hasonló multinacionális technológiai vállalatokat felelősségre vonják, és biztosítsák, hogy az offline élvezett jogaik a digitális térben is érvényesüljenek” - mondta Bannor. "Úgy látom, hogy ez az első lépés annak megmutatásában, hogy a megkülönböztetésellenes törvények ugyanúgy vonatkoznak a nagy techcégekre, mint az offline világra” - tette hozzá.
Rosie Sharpe, a Global Witness digitális fenyegetésekkel foglalkozó vezető kampányfelelőse szerint az ítélet „fontos lépés afelé, hogy az IT-óriásokat felelősségre vonják azért, ahogyan szolgáltatásaikat kialakítják, és hogy algoritmusaik milyen diszkriminatív hatással lehetnek az emberekre”. "Reméljük, hogy ez az ítélet további fellépések ugródeszkájaként szolgálhat Európában és azon túl is” - tette hozzá.
A Holland Emberi Jogi Intézet döntése jogilag nem kötelező érvényű, de szakértők szerint a cégnek figyelembe kell vennie az intézet megállapításait. Anton Ekker holland ügyvéd, aki a mesterséges intelligenciára és a digitális jogokra szakosodott, elmondta, hogy az intézet döntése a holland adatvédelmi szabályozó hatóság által kiszabott bírságokhoz vagy bizonyos algoritmusok módosítására vonatkozó utasításokhoz vezethet, különösen azokhoz, amelyek erősítik az egyenlőtlenségeket és aránytalanul károsítják a nem, faj, etnikum vagy vallás alapján marginalizált csoportokat. Ha a Meta nem tesz lépéseket az álláshirdetések algoritmusával kapcsolatban, a civil szervezetek további jogi lépéseket tehetnek annak érdekében, hogy megállítsák az algoritmusaik diszkriminatív használatát - mondta.
Bannor szerint a holland döntés a digitális jogok védelmének súlyos csorbulása miatt született, különösen a nők és a marginalizált csoportok esetében. A múlt hónapban a Meta közölte, hogy megszünteti a sokszínűségre, egyenlőségre és befogadásra vonatkozó programjait, megváltoztatja a platformjain tanúsított gyűlöletkeltő magatartásra vonatkozó irányelveit, és megszünteti a harmadik fél által végzett tényellenőrző programjait az Egyesült Államokban. A felhasználóknak mostantól például megengedett, hogy „a nőket háztartási tárgyként vagy tulajdonként” vagy „a transznemű vagy nem bináris embereket "ez"-ként emlegessék, az ilyen beszédet tiltó, eltávolított irányelvek egy szakasza szerint. A szabályzat új szakasza megjegyzi, hogy a Meta engedélyezi „a mentális betegségre vagy abnormalitásra vonatkozó állításokat, ha azok nemi vagy szexuális irányultságon alapulnak, tekintettel a transzneműségről és a homoszexualitásról szóló politikai és vallási diskurzusra”. Korábban az ilyen hozzászólásokat a Meta moderátorai eltávolították volna.
A Meta az elmúlt évtizedben különböző diszkriminációs vádakkal szembesült, többek között lakhatási, foglalkoztatási és hitelhirdetésekkel kapcsolatos pereket indítottak az Egyesült Államokban. Ennek eredményeképpen a vállalat az Egyesült Államokban módosította ezekre a hirdetésekre vonatkozó algoritmusát. A Global Witness munkatársa, Sharpe szerint "felháborító”, hogy ugyanezeket a változtatásokat nem alkalmazták globálisan, azzal érvelve, hogy az algoritmusok és az MI egyre inkább hatással vannak a mindennapi életre, és jelentős kockázatot jelentenek a társadalmi igazságosságra.