Berta Sándor
Letartóztatást ért az arcfelismerő rendszer "bakija"
Egy újabb ügy mutatott rá arra, hogy a jelenleg használt azonosítási megoldások közel sem kiforrottak.
A The New York Times írta meg, hogy sor került az első olyan esetre, amikor valakit egy arcfelismerő szoftver találata miatt tartóztattak le egy olyan bűncselekményért, amelyet nem ő követett el. Az áldozat egy afroamerikai férfi volt, amely az elmúlt hetek eseményeinek tükrében csak olaj a tűzre, főleg a letartóztatás körülményeinek ismeretében.
A 42 éves Robert Williams aligha gondolta, hogy az a bizonyos estéje más lesz, mint a többi. Januárban csengett az otthoni telefonja és a rendőrség kereste. A hívó közölte vele, hogy menjen el a legközelebbi rendőrőrsre és jelentkezzen, mert gyanúsított. A férfi azt hitte, hogy csak egy rossz viccről van szó, így letette a telefont. Egy órával később rendőrök jelentek meg a házánál, akik a felesége és a 2, valamint 5 éves gyermeke szeme láttára letartóztatták. Az egyenruhások nem árulták el, hogy miért kerül sor az intézkedésre és amikor a felesége ugyanezt megkérdezte, akkor azt válaszolták, hogy keressen rá az interneten.
A rendőrőrsön Williams a kihallgatószobába került, ahol szembesítették egy térfigyelő kamera felvételeivel. A képeken az látszott, hogy egy afroamerikai férfi öt órát ellopott egy üzletből. Az illető és Williams között semmi hasonlóság sem volt, ezért a férfi ezt szóvá is tette a rendőröknek, mondván: reméli, nem hiszik, hogy minden afroamerikai ugyanúgy néz ki. Végül 30 órán át tartották fogva és óvadék ellenében engedték szabadon.
A későbbi bírósági tárgyaláson a detroiti rendőrség elismerte, hogy hibázott és az arcfelismerő szoftver hibájával indokolta a téves intézkedést. Az eset után új szabályokat hoztak, amelyek értelmében a jövőben az arcfelismerő programok nem elemezhetik a rögzített videókból szerzett felvételeket. Phil Mayor, az ACLU nevű szervezet ügyvédje kijelentette, hogy a férfinek nem tettek fel kérdéseket a letartóztatása előtt. Még arra sem voltak kíváncsiak, hogy hol volt egész nap.
Korábban Arvind Krishna, az IBM vezérigazgatója közölte, hogy a társaság nem fejleszt a jövőben arcfelismerő rendszereket, majd az Amazon jelentette be, hogy egy esztendőre felfüggeszti azt a programját, amelynek keretében a rendőrségek számára elérhetővé tette a Rekognition nevű arcfelismerő szoftverét. Június közepén pedig a Microsoft sürgette egy olyan amerikai szövetségi törvény kidolgozását és elfogadását, amely képes megfelelően szabályozni az arcfelismerés használatát. Emellett a vállalat jelezte, hogy az általa kifejlesztett technikát a jövőben nem fogja biztosítani a rendőrségek számára, hanem az kizárólag vészhelyzetekben lesz alkalmazható és akkor, ha ezt jogerős bírósági ítélet kéri.
A The New York Times írta meg, hogy sor került az első olyan esetre, amikor valakit egy arcfelismerő szoftver találata miatt tartóztattak le egy olyan bűncselekményért, amelyet nem ő követett el. Az áldozat egy afroamerikai férfi volt, amely az elmúlt hetek eseményeinek tükrében csak olaj a tűzre, főleg a letartóztatás körülményeinek ismeretében.
A 42 éves Robert Williams aligha gondolta, hogy az a bizonyos estéje más lesz, mint a többi. Januárban csengett az otthoni telefonja és a rendőrség kereste. A hívó közölte vele, hogy menjen el a legközelebbi rendőrőrsre és jelentkezzen, mert gyanúsított. A férfi azt hitte, hogy csak egy rossz viccről van szó, így letette a telefont. Egy órával később rendőrök jelentek meg a házánál, akik a felesége és a 2, valamint 5 éves gyermeke szeme láttára letartóztatták. Az egyenruhások nem árulták el, hogy miért kerül sor az intézkedésre és amikor a felesége ugyanezt megkérdezte, akkor azt válaszolták, hogy keressen rá az interneten.
A rendőrőrsön Williams a kihallgatószobába került, ahol szembesítették egy térfigyelő kamera felvételeivel. A képeken az látszott, hogy egy afroamerikai férfi öt órát ellopott egy üzletből. Az illető és Williams között semmi hasonlóság sem volt, ezért a férfi ezt szóvá is tette a rendőröknek, mondván: reméli, nem hiszik, hogy minden afroamerikai ugyanúgy néz ki. Végül 30 órán át tartották fogva és óvadék ellenében engedték szabadon.
A későbbi bírósági tárgyaláson a detroiti rendőrség elismerte, hogy hibázott és az arcfelismerő szoftver hibájával indokolta a téves intézkedést. Az eset után új szabályokat hoztak, amelyek értelmében a jövőben az arcfelismerő programok nem elemezhetik a rögzített videókból szerzett felvételeket. Phil Mayor, az ACLU nevű szervezet ügyvédje kijelentette, hogy a férfinek nem tettek fel kérdéseket a letartóztatása előtt. Még arra sem voltak kíváncsiak, hogy hol volt egész nap.
Korábban Arvind Krishna, az IBM vezérigazgatója közölte, hogy a társaság nem fejleszt a jövőben arcfelismerő rendszereket, majd az Amazon jelentette be, hogy egy esztendőre felfüggeszti azt a programját, amelynek keretében a rendőrségek számára elérhetővé tette a Rekognition nevű arcfelismerő szoftverét. Június közepén pedig a Microsoft sürgette egy olyan amerikai szövetségi törvény kidolgozását és elfogadását, amely képes megfelelően szabályozni az arcfelismerés használatát. Emellett a vállalat jelezte, hogy az általa kifejlesztett technikát a jövőben nem fogja biztosítani a rendőrségek számára, hanem az kizárólag vészhelyzetekben lesz alkalmazható és akkor, ha ezt jogerős bírósági ítélet kéri.
