SG.hu
A párizsi olimpia egyben az MI-megfigyelés tesztje is lesz
A nyári párizsi olimpiai játékok idejére kísérleti jelleggel engedélyezték a rendőrség számára a mesterséges intelligencia segítségével történő videokamerás megfigyelést. Ez félelmet kelt a polgárok digitális jogait védő szervezetek körében.
Egy most kiadott rendeletben a párizsi prefektúra engedélyezte az algoritmikus videós megfigyelési eszközök (franciául VSA) kísérleti alkalmazását 46 párizsi metróállomáson, összhangban a 2023. május 19-i olimpiai és paralimpiai játékokról szóló törvénnyel, amely a kísérlet jogi keretét 2025 márciusának végéig határozza meg. A játékok a francia fővárosban július 26. és augusztus 11. között zajlanak. "A VSA használata 46 párizsi metróállomáson - még azokon is, ahol nem lesznek sportesemények - kérdéseket vet fel azzal kapcsolatban, hogy milyen célra használják” - mondta Noémie Levain, a La Quadrature du Net nevű jog- és szabadságjogi szervezet jogi és politikai elemzésért felelős vezetője. "A République metróállomáson telepített kamerákat például arra fogják használni, hogy megfigyeljék a tüntetésekre menő embereket?” - tette fel a kérdést.
A belügyminisztérium szerint a közösségi közlekedés területén csak bizonyos helyzeteket - például „a tömegek mozgását”, olyan időpontokat, amikor „túl nagy az embersűrűség”, vagy amikor „elhagyott tárgyak jelenléte” tapasztalható - fog figyelni a mesterséges intelligencia. Ezek a felhasználási esetek azonban kockázatokat rejtenek magukban, és idővel visszaélésekhez vezethetnek, mivel definícióik néha túl tágak - véli Katia Roux, az Amnesty International France technológiai és emberi jogi szakértője.
A mesterséges intelligenciát alkalmazó szoftverek a „fegyverek jelenlététől vagy használatától” a „tűzek kitörésig” terjednek - olvasható a belügyminisztérium honlapján. Míg ezek a felhasználási esetek önmagukban nem problémásak, mások - például a „forgalmi irány be nem tartása” - kérdéseket vetnek fel a szakértők körében az ilyen típusú események esetleges tág értelmezésével kapcsolatban. A mesterséges intelligencia megoldások tesztelése „az alapvető és egyéni szabadságjogokat védő egyértelmű jogi keretek között zajlik” - áll a belügyminisztérium honlapján. A bevetett eszközök nem teszik lehetővé az arcfelismerést, és az MI-algoritmusokat csak nyolc magas kockázatú helyzet felismerésére képezték ki. A VSA alkalmazásának jogi keretét az Alkotmánytanács is jóváhagyta 2023 májusában.
Az uniós MI-törvény - amely augusztus 1-jétől az egész EU-ban egyformán alkalmazandó lesz - megtiltja a valós idejű biometrikus azonosítás, így az arcfelismerés alkalmazását nyilvános helyeken, kivéve bizonyos bűnüldözési eseteket, például eltűnt gyermekek felkutatását és a küszöbön álló terrortámadásokat. Ugyanakkor „az algoritmikus videómegfigyelés elemezhet biometrikus adatokat (testadatok, viselkedési adatok, járás), amelyek védett személyes adatok” - figyelmeztetett Roux. Véleménye szerint a VSA „rendkívül tolakodó technológia, amely az arcfelismeréshez hasonlóan veszélyt jelent az alapvető jogokra”.
A minisztérium azt állítja, hogy a VSA lehetővé teszi „a szokatlan helyzetek felismerését, anélkül, hogy valaha is felülírná az emberek által hozott döntést”. Azonban „politikai döntés, hogy ezt a technológiát használni akarjuk” - magyarázta Levain. "A cél annak a hitnek az érvényesítése, hogy az eszköz használható, miközben megkerüli a problémáit” - folytatta, utalva a tömeges megfigyelés kérdésére, a mesterséges intelligencia algoritmusainak elfogultságára és a diszkrimináció megerősítésének veszélyeire.
Az alapvető online szabadságjogokat védő szervezetek un. csúszós lejtőre figyelmeztetnek, attól tartanak, hogy a francia jogalkotók a kísérletet később új felhasználási esetekre is kiterjesztik, vagy 2025 márciusán túl is fenntartják a VSA használatát Franciaországban. Ezt a kiterjesztést már egy szenátusi jelentés is javasolta. "A tömeges megfigyelést lehetővé tevő technológiák a nemzetközi jog szerint egyszerűen összeegyeztethetetlenek az emberi jogokkal” - mondta Roux.
Az olimpiai játékok során alkalmazott eszközök még nem kiforrottak, mondta Agn?s Canayer szenátor (Les Républicains, EPP) egy korábbi sajtótájékoztatón az olimpiai és paralimpiai játékokról szóló törvény (JOP) alkalmazásáról szóló tájékoztatáson. "Az olimpiai játékok nem az algoritmikus videómegfigyelés végcélja, hanem a technológia hasznosságának tesztelésére adnak lehetőséget” - mondta. A JOP-törvény eredetileg a drónok által készített képek távoli és valós idejű elemzésének kísérleti alkalmazását írta elő, de a bevetett eszközök csak a fix kamerák által készített képeken fognak futni.
Egy most kiadott rendeletben a párizsi prefektúra engedélyezte az algoritmikus videós megfigyelési eszközök (franciául VSA) kísérleti alkalmazását 46 párizsi metróállomáson, összhangban a 2023. május 19-i olimpiai és paralimpiai játékokról szóló törvénnyel, amely a kísérlet jogi keretét 2025 márciusának végéig határozza meg. A játékok a francia fővárosban július 26. és augusztus 11. között zajlanak. "A VSA használata 46 párizsi metróállomáson - még azokon is, ahol nem lesznek sportesemények - kérdéseket vet fel azzal kapcsolatban, hogy milyen célra használják” - mondta Noémie Levain, a La Quadrature du Net nevű jog- és szabadságjogi szervezet jogi és politikai elemzésért felelős vezetője. "A République metróállomáson telepített kamerákat például arra fogják használni, hogy megfigyeljék a tüntetésekre menő embereket?” - tette fel a kérdést.
A belügyminisztérium szerint a közösségi közlekedés területén csak bizonyos helyzeteket - például „a tömegek mozgását”, olyan időpontokat, amikor „túl nagy az embersűrűség”, vagy amikor „elhagyott tárgyak jelenléte” tapasztalható - fog figyelni a mesterséges intelligencia. Ezek a felhasználási esetek azonban kockázatokat rejtenek magukban, és idővel visszaélésekhez vezethetnek, mivel definícióik néha túl tágak - véli Katia Roux, az Amnesty International France technológiai és emberi jogi szakértője.
A mesterséges intelligenciát alkalmazó szoftverek a „fegyverek jelenlététől vagy használatától” a „tűzek kitörésig” terjednek - olvasható a belügyminisztérium honlapján. Míg ezek a felhasználási esetek önmagukban nem problémásak, mások - például a „forgalmi irány be nem tartása” - kérdéseket vetnek fel a szakértők körében az ilyen típusú események esetleges tág értelmezésével kapcsolatban. A mesterséges intelligencia megoldások tesztelése „az alapvető és egyéni szabadságjogokat védő egyértelmű jogi keretek között zajlik” - áll a belügyminisztérium honlapján. A bevetett eszközök nem teszik lehetővé az arcfelismerést, és az MI-algoritmusokat csak nyolc magas kockázatú helyzet felismerésére képezték ki. A VSA alkalmazásának jogi keretét az Alkotmánytanács is jóváhagyta 2023 májusában.
Az uniós MI-törvény - amely augusztus 1-jétől az egész EU-ban egyformán alkalmazandó lesz - megtiltja a valós idejű biometrikus azonosítás, így az arcfelismerés alkalmazását nyilvános helyeken, kivéve bizonyos bűnüldözési eseteket, például eltűnt gyermekek felkutatását és a küszöbön álló terrortámadásokat. Ugyanakkor „az algoritmikus videómegfigyelés elemezhet biometrikus adatokat (testadatok, viselkedési adatok, járás), amelyek védett személyes adatok” - figyelmeztetett Roux. Véleménye szerint a VSA „rendkívül tolakodó technológia, amely az arcfelismeréshez hasonlóan veszélyt jelent az alapvető jogokra”.
A minisztérium azt állítja, hogy a VSA lehetővé teszi „a szokatlan helyzetek felismerését, anélkül, hogy valaha is felülírná az emberek által hozott döntést”. Azonban „politikai döntés, hogy ezt a technológiát használni akarjuk” - magyarázta Levain. "A cél annak a hitnek az érvényesítése, hogy az eszköz használható, miközben megkerüli a problémáit” - folytatta, utalva a tömeges megfigyelés kérdésére, a mesterséges intelligencia algoritmusainak elfogultságára és a diszkrimináció megerősítésének veszélyeire.
Az alapvető online szabadságjogokat védő szervezetek un. csúszós lejtőre figyelmeztetnek, attól tartanak, hogy a francia jogalkotók a kísérletet később új felhasználási esetekre is kiterjesztik, vagy 2025 márciusán túl is fenntartják a VSA használatát Franciaországban. Ezt a kiterjesztést már egy szenátusi jelentés is javasolta. "A tömeges megfigyelést lehetővé tevő technológiák a nemzetközi jog szerint egyszerűen összeegyeztethetetlenek az emberi jogokkal” - mondta Roux.
Az olimpiai játékok során alkalmazott eszközök még nem kiforrottak, mondta Agn?s Canayer szenátor (Les Républicains, EPP) egy korábbi sajtótájékoztatón az olimpiai és paralimpiai játékokról szóló törvény (JOP) alkalmazásáról szóló tájékoztatáson. "Az olimpiai játékok nem az algoritmikus videómegfigyelés végcélja, hanem a technológia hasznosságának tesztelésére adnak lehetőséget” - mondta. A JOP-törvény eredetileg a drónok által készített képek távoli és valós idejű elemzésének kísérleti alkalmazását írta elő, de a bevetett eszközök csak a fix kamerák által készített képeken fognak futni.