SG.hu·
Olaszország új szabályozása megnyithatja az utat a tömeges arcfelismerés előtt
A Meloni által az MI alapú arcfelismerésről kiadott rendelet aggodalmat kelt a szakértők körében, Olaszország Európa egyik legambiciózusabb szabályozását készíti elő e technológiák rendőrségi használatára.
Egy nem is olyan távoli napon egy koncerten való részvétel, egy tábla felemelése egy tüntetésen vagy egy stadionba való kilátogatás, hogy megnézzünk egy mérkőzést, az MI segítségével a mindenkori kormány számára a tömeges megfigyelés és a kollektív azonosítás lehetőségévé válhat. Ez egy diktatúrához méltó disztópikus forgatókönyvnek tűnik, Európa azonban ezen az úton indult el az arcfelismerési technológiákkal, amelyeket egyre több ország használ. Olaszország pedig élen jár ebben. A rendőrségi biometrikus azonosítás tekintetében a rendelet elméletileg általános tilalmat állapít meg, ugyanakkor kivételeket vezet be, például terrorizmus, eltűnt személyek és „súlyos” bűncselekmények esetére, és minden egyes állam számára széles mozgásteret hagy a konkrét eljárás kidolgozására. És éppen itt van a probléma: Olaszországban, amely már bevezette ezt a szabályozást, hatalmas vita alakult ki körülötte.
Giorgia Meloni kormánya a tervezetek parlamenttel folytatott egyeztetése után véglegesen elfogadta azt a rendeletet, amely az olasz jogot hozzáigazítja az MI-rendelethez, bár az még nem jelent meg a Hivatalos Közlönyben, így tartalma egyelőre csak a kormány közleményéből ismert. Olaszország ezzel az Európai Unió első olyan országává válik, amely részletes jogi keretet alkotott azokhoz a kivételekhez, amelyeket az MI-rendelet nyitva hagy a rendőrségi arcfelismerés használatára. Az olasz rendelet kétféle felhasználást különböztet meg. A valós idejű azonosítást olyan súlyos fenyegetések esetére tartják fenn, mint a terrorizmus vagy eltűnt személyek keresése, és ehhez az ügyész engedélye szükséges. Az utólagos azonosítás ezzel szemben csak egy bűncselekmény elkövetése után aktiválható, és olyan gyanúsítottak azonosítására szolgál, akiket már korábban megjelöltek.
Az első tervezethez képest a legfontosabb változás a „közrendvédelmi szükségletekkel” összefüggő eseményeket, vagyis a tereken, stadionokban és tüntetéseken zajló rendezvényeket érinti. A rendőrség rögzítheti és megőrizheti ezeket a felvételeket, az arcfelismerés azonban már nem aktiválódik automatikusan minden jelenlévőre. Erre csak akkor kerülhet sor, ha bűncselekményt követnek el, és ehhez 24 órán belül bírósági engedélyt kell szerezni. Ha semmi nem történik, az adatokat hét nap után törölni kell.
A polgári jogi szervezetek harcra készen állnak, bár pesszimisták azzal kapcsolatban, hogy a folyamat megállítható-e. Diletta Huyskes, a Milánói Állami Egyetem szociológusa és az Immanence civil szervezet alapítója, aki az olasz parlamenti vita során az egyik legaktívabb megszólaló volt, így fogalmazott: „Nincs mit tenni, abból kiindulva, hogy az európai szabályozók ilyen vagy olyan módon lehetővé teszik a kormányok számára, hogy így járjanak el. Teljes mértékben ellenzem az általuk javasolt felhasználási módokat, de egy évek óta kialakulóban lévő tendenciával állunk szemben.”
A kormány közleménye szerint - a végleges szöveg hiányában - néhány technikai részletet csak kozmetikailag módosítottak, például az adatbázissal kapcsolatos követelményeket, a törlési eljárást és az adatvédelmi hatóság hatásköreit. A legvitatottabb pontokhoz azonban nem nyúltak: továbbra is engedélyezett az utólagos arcfelismerés közterületeken, nem szigorították a valós idejű azonosításra vonatkozó bírósági engedélyezést, és azt sem írják elő, hogy tájékoztassák az állampolgárokat arról, mikor van aktív állapotban a rendszer. „Ennek a technológiának a bevezetése egy mindenütt jelen lévő megfigyelési infrastruktúrát hoz létre. Még egy kormányváltás esetén is könnyen felhasználható autoriter célokra” - bírálta Huyskes.
Fabio Chiusi újságíró és a biometrikus ellenőrzés szakértője egyetért ezzel, sőt még tovább megy: „Vannak a hatalmon lévőknél is szélsőségesebb pártok, például Roberto Vannacci tábornoké, amely hőkamerákkal felszerelt drónokat követel a biztonság garantálása érdekében. El lehet hinni, hogy az ilyen ösztönök által vezérelt intézmények képesek lesznek betartani az MI-rendelet által előírt feltételeket? És meddig?” Hozzátette: „Néhány évvel ezelőtt még a kínai rezsimre gondoltunk, amikor több ezer, mindig nyitott gépszemmel megfigyelt városokról beszéltünk. Ma már ez a legfejlettebb demokráciákat is érinti. Ezt a tendenciát nem lehet néhány célzott módosítással megállítani, hanem csak teljes körű tilalmakkal.”
Huyskes szerint az is problémát jelent, hogy nem átláthatóak a betanítás során alkalmazott kritériumok, illetve a felvételek törlésének eljárásai. „Akadályozzák a demokratikus ellenőrzést és az alapvető jogok védelmét” - mondta. "Ennek a kormánynak az a véleménye, hogy minden jelenlévő automatikus rögzítése egy tüntetésen, vagyis a tömeges megfigyelés, összeegyeztethető egy demokratikus társadalommal.” Laura Carrer újságíró, a Hacking for Human Rights Hermes Center kutatója egyetért ezzel: „Normalizálódik egy olyan megfigyelés, amely korábban nem létezett. Összekapcsoltuk ezt azzal a követelménnyel, hogy a használatához bűncselekménynek kell történnie, de közben az adatokat rögzítik.” A külső ellenőrzés hiányát is kifogásolja: „Az egyetlen megmaradt pillér a bírósági felügyelet, bár az aktiválást nem bíró, hanem ügyész engedélyezheti. Az ügyész vezeti a nyomozást, ezért nagyobb valószínűséggel engedélyezi azt.”
Aljosa Ajanovic Andelic, az EDRi, vagyis az European Digital Rights munkatársa ugyanezt a problémát hangsúlyozza: „Az engedélyező szervnek értékelnie kellene a szükségességet és az arányosságot. A fontos kérdés az, hogy a hatóság valóban megvizsgálja-e az adott bevetés szükségességét, vagy egyszerűen rutinszerűen jóváhagyja a rendőrség már meghozott döntését.” Ajanovic szerint az olasz törvény „próbára teszi a valós idejű és az utólagos arcfelismerés közötti határt”, aminek Olaszországon túlmutató következményei is lehetnek: „Ha egy közterületen folyamatosan rögzítik és tárolják minden ott áthaladó személy biometrikus adatait, majd később eldöntik, hogy kit azonosítanak, akkor ez valóban utólagos rendszer, vagy egy olyan módszer, amely egy másik technikai folyamat révén nagyon hasonló megfigyelési hatást ér el? Ha ezeket az adatokat később arra használják, hogy kriminalizálják egy tüntetés résztvevőit, akkor de facto valós idejű rendszerként működnének.”
A szakértő Magyarország példáját is felhozza, amely „szintén kizárta a gyors arcfelismerést a valós idejű kategóriából azzal, hogy élő közvetítés helyett állóképeket használt, majd azzal fenyegetőzött, hogy ezt arra használja, hogy azonosítsa és megbírságolja azokat, akik részt vettek a Budapest Pride-on, amelyet Orbán Viktor kormánya betiltott”. „Elemzésünk szerint a magyar rendszer valós időben működik, mert képes befolyásolni a viselkedést egy tiltakozás során, ezért sérti az MI-rendeletet” - mondta. Az EDRi attól tart, hogy a nemzeti jogszabályokat „a tilalmak megkerülésére és a tömeges biometrikus megfigyelőrendszerek kiterjesztésére használják majd”.
Ajanovic az EDRi előtt 2022-ben az Òmnium Cultural szervezetnél koordinálta a Catalangate kampányt, amely a katalán politikusok, aktivisták és újságírók ellen a Pegasus izraeli kémszoftverrel végrehajtott megfigyelésről szólt a katalán függetlenségi folyamat, a procés összefüggésében. „A bűnözés elleni küzdelem céljából alkalmazott megfigyelőrendszerek kizárólag bírósági engedéllyel történő használata olyan elképzelés, amely könnyen félrevezetővé válhat. Nemcsak Katalóniában láttuk ezt, hanem a franciaországi környezetvédőknél, illetve a németországi és brit palesztinpárti mozgalmak esetében is. Amikor bizonyos mozgalmakat terroristának minősítenek, a bírósági garanciák csak papíron léteznek.” Ajanovic szerint az adatok megőrzésének időbeli korlátozása elvileg hasznos, mert ellenőrizhető, „de a probléma ugyanaz, mint amit a migráció területén látunk: az átláthatóság hiánya és a titkolózás ellenőrizhetetlenné teszi a rendszert”.
A migránsok és menedékkérők esetében szerinte az elrettentő hatás „különösen jelentős lehet, mert a hatóságokkal való kapcsolatuk eleve bizonytalanabb”. Ehhez társul az úgynevezett function creep, vagyis a funkciók kiterjesztésének problémája: „Egy migráns biometrikus adatai olyan okokból is bekerülhetnek egy adatbázisba, amelyeknek semmi közük a bűnözéshez. Ha a rendőrség hozzáférhet ezekhez az adatbázisokhoz, egy téves egyezés következményei sokkal súlyosabbak lehetnek. Az EU új kitoloncolási rendeletével az államoknak nyilvántartásba kell venniük az okmányokkal nem rendelkező személyeket, így ez az interoperabilitás - vagyis az adatbázisok közötti együttműködés - szinte automatikusan megvalósulhat.”
Egy nem is olyan távoli napon egy koncerten való részvétel, egy tábla felemelése egy tüntetésen vagy egy stadionba való kilátogatás, hogy megnézzünk egy mérkőzést, az MI segítségével a mindenkori kormány számára a tömeges megfigyelés és a kollektív azonosítás lehetőségévé válhat. Ez egy diktatúrához méltó disztópikus forgatókönyvnek tűnik, Európa azonban ezen az úton indult el az arcfelismerési technológiákkal, amelyeket egyre több ország használ. Olaszország pedig élen jár ebben. A rendőrségi biometrikus azonosítás tekintetében a rendelet elméletileg általános tilalmat állapít meg, ugyanakkor kivételeket vezet be, például terrorizmus, eltűnt személyek és „súlyos” bűncselekmények esetére, és minden egyes állam számára széles mozgásteret hagy a konkrét eljárás kidolgozására. És éppen itt van a probléma: Olaszországban, amely már bevezette ezt a szabályozást, hatalmas vita alakult ki körülötte.
Giorgia Meloni kormánya a tervezetek parlamenttel folytatott egyeztetése után véglegesen elfogadta azt a rendeletet, amely az olasz jogot hozzáigazítja az MI-rendelethez, bár az még nem jelent meg a Hivatalos Közlönyben, így tartalma egyelőre csak a kormány közleményéből ismert. Olaszország ezzel az Európai Unió első olyan országává válik, amely részletes jogi keretet alkotott azokhoz a kivételekhez, amelyeket az MI-rendelet nyitva hagy a rendőrségi arcfelismerés használatára. Az olasz rendelet kétféle felhasználást különböztet meg. A valós idejű azonosítást olyan súlyos fenyegetések esetére tartják fenn, mint a terrorizmus vagy eltűnt személyek keresése, és ehhez az ügyész engedélye szükséges. Az utólagos azonosítás ezzel szemben csak egy bűncselekmény elkövetése után aktiválható, és olyan gyanúsítottak azonosítására szolgál, akiket már korábban megjelöltek.
Az első tervezethez képest a legfontosabb változás a „közrendvédelmi szükségletekkel” összefüggő eseményeket, vagyis a tereken, stadionokban és tüntetéseken zajló rendezvényeket érinti. A rendőrség rögzítheti és megőrizheti ezeket a felvételeket, az arcfelismerés azonban már nem aktiválódik automatikusan minden jelenlévőre. Erre csak akkor kerülhet sor, ha bűncselekményt követnek el, és ehhez 24 órán belül bírósági engedélyt kell szerezni. Ha semmi nem történik, az adatokat hét nap után törölni kell.
A polgári jogi szervezetek harcra készen állnak, bár pesszimisták azzal kapcsolatban, hogy a folyamat megállítható-e. Diletta Huyskes, a Milánói Állami Egyetem szociológusa és az Immanence civil szervezet alapítója, aki az olasz parlamenti vita során az egyik legaktívabb megszólaló volt, így fogalmazott: „Nincs mit tenni, abból kiindulva, hogy az európai szabályozók ilyen vagy olyan módon lehetővé teszik a kormányok számára, hogy így járjanak el. Teljes mértékben ellenzem az általuk javasolt felhasználási módokat, de egy évek óta kialakulóban lévő tendenciával állunk szemben.”
A kormány közleménye szerint - a végleges szöveg hiányában - néhány technikai részletet csak kozmetikailag módosítottak, például az adatbázissal kapcsolatos követelményeket, a törlési eljárást és az adatvédelmi hatóság hatásköreit. A legvitatottabb pontokhoz azonban nem nyúltak: továbbra is engedélyezett az utólagos arcfelismerés közterületeken, nem szigorították a valós idejű azonosításra vonatkozó bírósági engedélyezést, és azt sem írják elő, hogy tájékoztassák az állampolgárokat arról, mikor van aktív állapotban a rendszer. „Ennek a technológiának a bevezetése egy mindenütt jelen lévő megfigyelési infrastruktúrát hoz létre. Még egy kormányváltás esetén is könnyen felhasználható autoriter célokra” - bírálta Huyskes.
Fabio Chiusi újságíró és a biometrikus ellenőrzés szakértője egyetért ezzel, sőt még tovább megy: „Vannak a hatalmon lévőknél is szélsőségesebb pártok, például Roberto Vannacci tábornoké, amely hőkamerákkal felszerelt drónokat követel a biztonság garantálása érdekében. El lehet hinni, hogy az ilyen ösztönök által vezérelt intézmények képesek lesznek betartani az MI-rendelet által előírt feltételeket? És meddig?” Hozzátette: „Néhány évvel ezelőtt még a kínai rezsimre gondoltunk, amikor több ezer, mindig nyitott gépszemmel megfigyelt városokról beszéltünk. Ma már ez a legfejlettebb demokráciákat is érinti. Ezt a tendenciát nem lehet néhány célzott módosítással megállítani, hanem csak teljes körű tilalmakkal.”
Huyskes szerint az is problémát jelent, hogy nem átláthatóak a betanítás során alkalmazott kritériumok, illetve a felvételek törlésének eljárásai. „Akadályozzák a demokratikus ellenőrzést és az alapvető jogok védelmét” - mondta. "Ennek a kormánynak az a véleménye, hogy minden jelenlévő automatikus rögzítése egy tüntetésen, vagyis a tömeges megfigyelés, összeegyeztethető egy demokratikus társadalommal.” Laura Carrer újságíró, a Hacking for Human Rights Hermes Center kutatója egyetért ezzel: „Normalizálódik egy olyan megfigyelés, amely korábban nem létezett. Összekapcsoltuk ezt azzal a követelménnyel, hogy a használatához bűncselekménynek kell történnie, de közben az adatokat rögzítik.” A külső ellenőrzés hiányát is kifogásolja: „Az egyetlen megmaradt pillér a bírósági felügyelet, bár az aktiválást nem bíró, hanem ügyész engedélyezheti. Az ügyész vezeti a nyomozást, ezért nagyobb valószínűséggel engedélyezi azt.”
Aljosa Ajanovic Andelic, az EDRi, vagyis az European Digital Rights munkatársa ugyanezt a problémát hangsúlyozza: „Az engedélyező szervnek értékelnie kellene a szükségességet és az arányosságot. A fontos kérdés az, hogy a hatóság valóban megvizsgálja-e az adott bevetés szükségességét, vagy egyszerűen rutinszerűen jóváhagyja a rendőrség már meghozott döntését.” Ajanovic szerint az olasz törvény „próbára teszi a valós idejű és az utólagos arcfelismerés közötti határt”, aminek Olaszországon túlmutató következményei is lehetnek: „Ha egy közterületen folyamatosan rögzítik és tárolják minden ott áthaladó személy biometrikus adatait, majd később eldöntik, hogy kit azonosítanak, akkor ez valóban utólagos rendszer, vagy egy olyan módszer, amely egy másik technikai folyamat révén nagyon hasonló megfigyelési hatást ér el? Ha ezeket az adatokat később arra használják, hogy kriminalizálják egy tüntetés résztvevőit, akkor de facto valós idejű rendszerként működnének.”
A szakértő Magyarország példáját is felhozza, amely „szintén kizárta a gyors arcfelismerést a valós idejű kategóriából azzal, hogy élő közvetítés helyett állóképeket használt, majd azzal fenyegetőzött, hogy ezt arra használja, hogy azonosítsa és megbírságolja azokat, akik részt vettek a Budapest Pride-on, amelyet Orbán Viktor kormánya betiltott”. „Elemzésünk szerint a magyar rendszer valós időben működik, mert képes befolyásolni a viselkedést egy tiltakozás során, ezért sérti az MI-rendeletet” - mondta. Az EDRi attól tart, hogy a nemzeti jogszabályokat „a tilalmak megkerülésére és a tömeges biometrikus megfigyelőrendszerek kiterjesztésére használják majd”.
Ajanovic az EDRi előtt 2022-ben az Òmnium Cultural szervezetnél koordinálta a Catalangate kampányt, amely a katalán politikusok, aktivisták és újságírók ellen a Pegasus izraeli kémszoftverrel végrehajtott megfigyelésről szólt a katalán függetlenségi folyamat, a procés összefüggésében. „A bűnözés elleni küzdelem céljából alkalmazott megfigyelőrendszerek kizárólag bírósági engedéllyel történő használata olyan elképzelés, amely könnyen félrevezetővé válhat. Nemcsak Katalóniában láttuk ezt, hanem a franciaországi környezetvédőknél, illetve a németországi és brit palesztinpárti mozgalmak esetében is. Amikor bizonyos mozgalmakat terroristának minősítenek, a bírósági garanciák csak papíron léteznek.” Ajanovic szerint az adatok megőrzésének időbeli korlátozása elvileg hasznos, mert ellenőrizhető, „de a probléma ugyanaz, mint amit a migráció területén látunk: az átláthatóság hiánya és a titkolózás ellenőrizhetetlenné teszi a rendszert”.
A migránsok és menedékkérők esetében szerinte az elrettentő hatás „különösen jelentős lehet, mert a hatóságokkal való kapcsolatuk eleve bizonytalanabb”. Ehhez társul az úgynevezett function creep, vagyis a funkciók kiterjesztésének problémája: „Egy migráns biometrikus adatai olyan okokból is bekerülhetnek egy adatbázisba, amelyeknek semmi közük a bűnözéshez. Ha a rendőrség hozzáférhet ezekhez az adatbázisokhoz, egy téves egyezés következményei sokkal súlyosabbak lehetnek. Az EU új kitoloncolási rendeletével az államoknak nyilvántartásba kell venniük az okmányokkal nem rendelkező személyeket, így ez az interoperabilitás - vagyis az adatbázisok közötti együttműködés - szinte automatikusan megvalósulhat.”