A brit belügyminisztérium elismerte, hogy az arcfelismerő technológia problémás a fekete és ázsiai alanyok esetében. Kiderült, hogy a technológia bizonyos beállítások mellett sok hamis találatot ad „egyes demográfiai csoportoknál”.

A brit Nemzeti Fizikai Laboratórium (National Physical Laboratory, NPL) legutóbbi tesztjei után, amelyek a technológia rendőrségi nemzeti adatbázisban történő használatát vizsgálták, a belügyminisztérium közölte, hogy a rendszer „nagyobb valószínűséggel sorol be egyes demográfiai csoportokat tévesen a keresési találatok közé”. A rendőrség szerint az NPL megállapításainak közzététele „aggasztó, beépített torzításra” világít rá, és a biztosok óvatosságra intettek az országos kiterjesztés terveivel kapcsolatban. Az eredményeket csütörtökön hozták nyilvánosságra, órákkal azután, hogy Sarah Jones rendészeti miniszter a technológiát „a DNS-azonosítás óta a legnagyobb áttörésként” írta le.

Az arcfelismerő technológia az emberek arcát pásztázza, majd az így kapott képeket összeveti ismert vagy körözött bűnözők listáival. Alkalmazható valós idejű felvételek elemzésekor - amikor a kamerák előtt elhaladó emberek arcát hasonlítja össze a körözési listákkal -, illetve a rendőrök használhatják egyének célzott ellenőrzésére is, ahogy azok elhaladnak a felszerelt kamerák előtt. A gyanúsítottak képei utólagosan is lefuttathatók a rendőrségi, útlevél- vagy bevándorlási adatbázisokon, hogy azonosítsák őket és ellenőrizzék hátterüket.

Az elemzők, akik a rendőrség országos adatbázisának utólagos arcfelismerő eszközét alacsonyabb beállításon vizsgálták, azt találták, hogy „a fehér alanyokra vonatkozó téves pozitív azonosítási arány (FPIR) - 0,04% - alacsonyabb, mint az ázsiai alanyok esetében (4 %), illetve a fekete alanyok esetében (5,5 %)”. A tesztelés arra is rámutatott, hogy a fekete nőknél különösen magas a hamis találatok száma. „A fekete férfi alanyok téves pozitív aránya (0,4%) alacsonyabb, mint a fekete női alanyoké (9,9%)” - áll a jelentésben.

A Rendőrségi és Bűnügyi Biztosok Szövetsége (Association of Police and Crime Commissioners) közölte, hogy a megállapítások beépített torzítást mutatnak. Azt írták: „Ez azt jelenti, hogy bizonyos körülmények között nagyobb a valószínűsége annak, hogy a technológia tévesen párosít fekete és ázsiai embereket, mint fehéreket. A nyelvezet technikai jellegű, de a részletek mögött egyértelműnek tűnik, hogy a technológiát megfelelő biztosítékok nélkül vetették be a rendészeti gyakorlatba.” A közleményt az APCC vezetői - Darryl Preston, Alison Lowe, John Tizard és Chris Nelson - írták alá, és megkérdőjelezték, hogy a megállapításokat miért nem hozták nyilvánosságra korábban, illetve miért nem osztották meg a fekete és ázsiai közösségekkel. Azt írták: „Bár nincs bizonyíték arra, hogy bármely egyéni esetben kedvezőtlen hatás következett volna be, ez inkább a szerencsének, mint a szándéknak köszönhető. A rendszerhibák már jó ideje ismertek, mégsem közölték őket azokkal a közösségekkel, akiket érintenek, és a szakterület vezető szereplőivel sem.”


A kormány tízhetes nyilvános konzultációt jelentett be, amely reményeik szerint megnyitja az utat a technológia gyakoribb használata előtt. A lakosságot arról kérdezik majd, hogy a rendőrség a saját feljegyzésein túl hozzáférhessen-e más adatbázisokhoz is, például útlevél- és jogosítványfotókhoz, hogy felkutassák a bűnözőket. A köztisztviselők a rendőrséggel együtt egy új, országos arcfelismerő rendszer kiépítésén dolgoznak, amely több millió képet fog tartalmazni.

Charlie Whelton, a Liberty nevű jogvédő csoport szakpolitikai és kampányfelelőse azt mondta: „A statisztikákban megmutatkozó faji torzítás világosan jelzi, hogy milyen káros, valós következményekkel jár az, ha a rendőrség megfelelő biztosítékok nélkül használhat arcfelismerést. Mivel a rendőrség havonta több ezer keresést futtat ezzel a diszkriminatív algoritmussal, most komoly kérdések merülnek fel azzal kapcsolatban, hogy pontosan hány színes bőrű embert azonosítottak tévesen, és milyen következményei voltak ennek. Ez a jelentés újabb bizonyíték arra, hogy ezt az erőteljes és átláthatatlan technológiát nem lehet robusztus biztosítékok nélkül használni, ideértve a valódi átláthatóságot és a jelentős felügyeletet. A kormánynak fel kell függesztenie az arcfelismerő technológia gyors ütemű kiterjesztését mindaddig, amíg ezek a biztosítékok nem állnak rendelkezésre, hogy mindannyiunkat védjenek és a jogainkat helyezzék előtérbe - márpedig tudjuk, hogy a közvélemény ezt szeretné.”

David Davis volt kabinetminiszter aggodalmát fejezte ki, miután rendőrségi vezetők azt mondták, hogy kamerákat helyezhetnek el bevásárlóközpontokban, stadionokban és közlekedési csomópontokban, hogy körözött bűnözőket keressenek. A Daily Mailnek azt mondta: „Üdvözöljük a Nagy Testvér Nagy-Britanniájában. Egyértelmű, hogy a kormány az egész országban be kívánja vezetni ezt a disztópikus technológiát. Egy ekkora horderejű dolog nem történhet meg anélkül, hogy a Képviselőházban teljes és részletes vita ne előzze meg.”

A tisztviselők szerint a technológia segíti a a súlyos bűnelkövetők elfogását. Azt mondják, vannak manuális biztosítékok - ezek szerepelnek a rendőrségi képzésben, az operatív gyakorlatban és az iránymutatásokban is -, amelyek előírják, hogy a rendőrségi nemzeti adatbázis által visszaadott minden lehetséges találatot egy képzett felhasználónak és egy nyomozótisztnek vizuálisan meg kell vizsgálnia.

A belügyminisztérium szóvivője azt mondta: „A belügyminisztérium komolyan veszi a jelentés megállapításait, és már lépéseket tettünk. Egy új algoritmust függetlenül teszteltek és szereztünk be, amelynek nincs statisztikailag kimutatható torzítása. A jövő év elején fogják tesztelni, és értékelésnek vetik alá. Tekintettel a kérdés jelentőségére, felkértük a rendőrségi felügyeletet a törvényszéki tudományok szabályozójával együtt, hogy vizsgálják felül a bűnüldözés arcfelismerési gyakorlatát. Ők fogják értékelni az alkalmazott kockázatcsökkentő intézkedések hatékonyságát, amelyeket a Nemzeti Rendőrfőkapitányok Tanácsa (National Police Chiefs’ Council) is támogat.”