SG.hu
Emberek valós idejű azonosítására képes a Meta szemüvege
Egy demonstráció megmutatja az AR-szemüvegek sötét oldalát: egyetemi hallgatók a Meta okosszemüvegét használták arra, hogy valós időben azonosítsanak embereket.
Két harvardi diák hátborzongató demót készített arról, hogy az okosszemüvegek az arcfelismerő technológia segítségével hogyan tudják azonnal megtudni idegenek személyazonosságát, telefonszámát és címét. A legnyugtalanítóbb az, hogy a demó olyan jelenlegi, széles körben elérhető technológiát használ, mint a Ray-Ban Meta okosszemüveg és nyilvános adatbázisok.
AnhPhu Nguyen, a két diák egyike egy videóban mutatja be a technológiát működés közben. Az I-XRAY névre keresztelt technológia a Meta okosszemüveg azon képességét használja, hogy élő videót közvetítsen az Instagramra. Ezt követően egy számítógépes program figyeli a képfolyamot, és mesterséges intelligencia segítségével azonosítja az arcokat. Ezeket a képeket aztán nyilvános adatbázisokba táplálják, hogy megtalálják a neveket, címeket, telefonszámokat és akár a rokonokat is. Ezeket az információkat aztán egy telefonos alkalmazáson keresztül visszaküldik a viselő nek.
A demóban látható, ahogy Nguyen és Caine Ardayfio, a projekt mögött álló másik diák a szemüveg segítségével valós időben azonosítja több osztálytársát, címét és rokonainak nevét. Ami talán még megdöbbentőbb, hogy Nguyen és Ardayfio a tömegközlekedési eszközökön vadidegenekkel beszélgetnek, és úgy tesznek, mintha ismernék őket a technológiából nyert információk alapján.
Az arcfelismerő technológia már egy ideje ijesztően pontos, és az I-XRAY nagyrészt csak egy csomó meglévő technológiát kapcsol össze. Részben a PimEyesre támaszkodik, amelyet a The New York Times 2022-ben „riasztóan pontos” arckereső motornak nevezett, amelyet „bárki használhat”. Az ezzel a technológiával kapcsolatos aggodalmak azóta fokozódtak, mióta kiderült, hogy a Clearview AI arcfelismerést használ a bűnüldözés segítésére. Nguyen és Ardayfio bemutatójában az az újdonság, hogy a technológiát egy fogyasztói kütyüvel párosítják, amely diszkrét és könnyen hozzáférhető.
"Az eszköz megépítésének célja nem a visszaélés, és nem adjuk ki” - írja Nguyen és Ardafiyo a projektet magyarázó dokumentumban. Ehelyett a diákok azt mondják, céljuk az, hogy felhívják a figyelmet arra, hogy mindez nem valami disztópikus jövő; mindez már most is lehetséges a meglévő technológiával. Külön kiemelik, hogy az I-XRAY azért egyedülálló, mert a nagyméretű nyelvi modellek (LLM) lehetővé teszik, hogy automatikusan működjön, és hatalmas adatforrásokból összefüggéseket rajzoljon ki a nevek és a fényképek között.
Az okosszemüvegek esetében mindig is nagy gondot jelentett az adatvédelem. A Google Glass részben azért bukott meg, mert a közvéleményben visszatetszést váltott ki, hogy nyilvános helyeken beleegyezés nélkül rögzítette az embereket. Ugyanakkor az is igaz, hogy az azóta eltelt évtizedben az emberek az okostelefonok, a vloggerek és a TikTok térhódításának köszönhetően jobban hozzászoktak ahhoz, hogy filmezik őket. Ami azonban nyugtalanító a modern okosszemüvegekkel kapcsolatban, az az, hogy nem tűnnek fel annyira, mint a Google Glass.
A bemutatóban használt Ray-Ban Meta szemüveg ugyanúgy néz ki, mint bármelyik másik Ray-Ban szemüveg. Ez ugyan kritikus az okosszemüvegek elterjedése szempontjából, de az emberek számára nehezebbé teszi annak felismerését, hogy beszélgetőtársa kamerát visel az arcán. A Meta szemüveg tartalmaz egy adatvédelmi LED-et, amely automatikusan bekapcsol, amikor videót rögzít. Azonban ezt a lámpácskát kültéren és erős napsütésben nehéz észrevenni, és az emberek nem is igen figyelnek rá - különösen zsúfolt, nyilvános helyeken.
A Meta a maga részéről a Ray-Ban adatvédelmi szabályzatában óva inti a felhasználókat attól, hogy ilyen dolgokat tegyenek. A cég arra ösztönzi a felhasználókat, hogy „tartsák tiszteletben más emberek preferenciáit”, és egyértelműen jelezzék, vagy használják a hangvezérlést, amikor videót rögzítenek, livestreamelnek vagy fényképeket készítenek. A valóság azonban az, hogy az emberek dönthetnek úgy is, hogy nem követik ezt etikettet, függetlenül attól, hogy mit mond a Meta. A hallgatók projektje kijózanító emlékeztető arra, hogy az okosszemüvegekkel hogyan lehet visszaélni, de van néhány dolog, amit az emberek megtehetnek, hogy megvédjék magukat. Dokumentumukban Nguyen és Ardafiyo felsorolja a fordított arckeresést és azokat az adatbázisokat, amelyek lehetővé teszik az azonosítást. De egy embernek az online jelenlétét szinte lehetetlen teljesen törölni - csak azt érheti el, hogy információi kevésbé legyenek elérhetők.
Két harvardi diák hátborzongató demót készített arról, hogy az okosszemüvegek az arcfelismerő technológia segítségével hogyan tudják azonnal megtudni idegenek személyazonosságát, telefonszámát és címét. A legnyugtalanítóbb az, hogy a demó olyan jelenlegi, széles körben elérhető technológiát használ, mint a Ray-Ban Meta okosszemüveg és nyilvános adatbázisok.
AnhPhu Nguyen, a két diák egyike egy videóban mutatja be a technológiát működés közben. Az I-XRAY névre keresztelt technológia a Meta okosszemüveg azon képességét használja, hogy élő videót közvetítsen az Instagramra. Ezt követően egy számítógépes program figyeli a képfolyamot, és mesterséges intelligencia segítségével azonosítja az arcokat. Ezeket a képeket aztán nyilvános adatbázisokba táplálják, hogy megtalálják a neveket, címeket, telefonszámokat és akár a rokonokat is. Ezeket az információkat aztán egy telefonos alkalmazáson keresztül visszaküldik a viselő nek.
Are we ready for a world where our data is exposed at a glance? @CaineArdayfio and I offer an answer to protect yourself here:https://t.co/LhxModhDpk pic.twitter.com/Oo35TxBNtD
— AnhPhu Nguyen (@AnhPhuNguyen1) September 30, 2024
A demóban látható, ahogy Nguyen és Caine Ardayfio, a projekt mögött álló másik diák a szemüveg segítségével valós időben azonosítja több osztálytársát, címét és rokonainak nevét. Ami talán még megdöbbentőbb, hogy Nguyen és Ardayfio a tömegközlekedési eszközökön vadidegenekkel beszélgetnek, és úgy tesznek, mintha ismernék őket a technológiából nyert információk alapján.
Az arcfelismerő technológia már egy ideje ijesztően pontos, és az I-XRAY nagyrészt csak egy csomó meglévő technológiát kapcsol össze. Részben a PimEyesre támaszkodik, amelyet a The New York Times 2022-ben „riasztóan pontos” arckereső motornak nevezett, amelyet „bárki használhat”. Az ezzel a technológiával kapcsolatos aggodalmak azóta fokozódtak, mióta kiderült, hogy a Clearview AI arcfelismerést használ a bűnüldözés segítésére. Nguyen és Ardayfio bemutatójában az az újdonság, hogy a technológiát egy fogyasztói kütyüvel párosítják, amely diszkrét és könnyen hozzáférhető.
"Az eszköz megépítésének célja nem a visszaélés, és nem adjuk ki” - írja Nguyen és Ardafiyo a projektet magyarázó dokumentumban. Ehelyett a diákok azt mondják, céljuk az, hogy felhívják a figyelmet arra, hogy mindez nem valami disztópikus jövő; mindez már most is lehetséges a meglévő technológiával. Külön kiemelik, hogy az I-XRAY azért egyedülálló, mert a nagyméretű nyelvi modellek (LLM) lehetővé teszik, hogy automatikusan működjön, és hatalmas adatforrásokból összefüggéseket rajzoljon ki a nevek és a fényképek között.
Az okosszemüvegek esetében mindig is nagy gondot jelentett az adatvédelem. A Google Glass részben azért bukott meg, mert a közvéleményben visszatetszést váltott ki, hogy nyilvános helyeken beleegyezés nélkül rögzítette az embereket. Ugyanakkor az is igaz, hogy az azóta eltelt évtizedben az emberek az okostelefonok, a vloggerek és a TikTok térhódításának köszönhetően jobban hozzászoktak ahhoz, hogy filmezik őket. Ami azonban nyugtalanító a modern okosszemüvegekkel kapcsolatban, az az, hogy nem tűnnek fel annyira, mint a Google Glass.
A bemutatóban használt Ray-Ban Meta szemüveg ugyanúgy néz ki, mint bármelyik másik Ray-Ban szemüveg. Ez ugyan kritikus az okosszemüvegek elterjedése szempontjából, de az emberek számára nehezebbé teszi annak felismerését, hogy beszélgetőtársa kamerát visel az arcán. A Meta szemüveg tartalmaz egy adatvédelmi LED-et, amely automatikusan bekapcsol, amikor videót rögzít. Azonban ezt a lámpácskát kültéren és erős napsütésben nehéz észrevenni, és az emberek nem is igen figyelnek rá - különösen zsúfolt, nyilvános helyeken.
A Meta a maga részéről a Ray-Ban adatvédelmi szabályzatában óva inti a felhasználókat attól, hogy ilyen dolgokat tegyenek. A cég arra ösztönzi a felhasználókat, hogy „tartsák tiszteletben más emberek preferenciáit”, és egyértelműen jelezzék, vagy használják a hangvezérlést, amikor videót rögzítenek, livestreamelnek vagy fényképeket készítenek. A valóság azonban az, hogy az emberek dönthetnek úgy is, hogy nem követik ezt etikettet, függetlenül attól, hogy mit mond a Meta. A hallgatók projektje kijózanító emlékeztető arra, hogy az okosszemüvegekkel hogyan lehet visszaélni, de van néhány dolog, amit az emberek megtehetnek, hogy megvédjék magukat. Dokumentumukban Nguyen és Ardafiyo felsorolja a fordított arckeresést és azokat az adatbázisokat, amelyek lehetővé teszik az azonosítást. De egy embernek az online jelenlétét szinte lehetetlen teljesen törölni - csak azt érheti el, hogy információi kevésbé legyenek elérhetők.