SG.hu
A közösségi platformoknak 48 órán belül el kell távolítaniuk a bosszúpornót
Miután évekig húzta az időt, Amerika végre megtette az első nagy lépést a nem konszenzuson alapuló intim képek (NCII) - más néven bosszúpornó - áldozatainak védelme érdekében, hogy ne kelljen folyamatosan újra traumatizálódniuk az interneten. Donald Trump hétfő délután írta alá a Take It Down törvényt. Ez azt jelenti, hogy egy éven belül minden online platform köteles lesz eltávolítani mind a tényleges NCII-t, mind a mesterséges intelligencia által generált hamis aktfotókat az áldozatok bejelentését követő 48 órán belül, különben súlyos büntetésre számíthatnak.
A törvényt az amerikai Kongresszus mindkét kamarája szinte egyhangúlag fogadta el, és csak két képviselő ellenezte, ami a kétpárti konszenzus ritka pillanata. Több mint 100 szervezet, köztük nonprofit szervezetek és olyan nagy technológiai vállalatok, mint a Meta, a TikTok és a Google is támogatták a jogszabályt. A First Lady, Melania Trump is támogatta a törekvést, és áprilisban lobbizott a képviselőházi törvényhozóknál a jogszabály elfogadása érdekében. Az elnök pedig utalt a törvényjavaslatra a kongresszus márciusi együttes ülésén tartott beszédében, amelynek során a First Lady vendége volt egy tizenéves áldozat, Elliston Berry.
Berry ma részt vett a Fehér Ház Rózsakertjében tartott törvényjavaslat aláírási eseményen, Francesca Manival, egy másik tinédzserrel együtt, aki jogi védelmet követelt, miután a zaklatás ezen formája őt is elérte. "Ma a Take It Down Act révén megerősítjük, hogy gyermekeink jóléte központi jelentőségű családjaink jövője szempontjából Amerikában” - mondta a First Lady.
Néhány hónapja a texasi gimnazista Berry egyik osztálytársa megosztott a Snapchaten egy képet, amelyet Berry Instagramjáról töltött le, és mesterséges intelligencia segítségével úgy módosította, hogy úgy tűnjön, mintha meztelen lenne. Berry nem volt egyedül - New Jerseyben, Kaliforniában és máshol is voltak már tizenéves lányok a zaklatás ezen formájának áldozatai. "Minden nap azzal a félelemmel kellett együtt élnem, hogy ezek a fotók előkerülnek vagy újra felbukkannak” - mondta Berry. "Ha ezt a törvényt elfogadják, többé nem kell félelemben élnem, mert tudom, hogy bárki is hozza elő ezeket a képeket, meg lesz büntetve.”
A kérdéssel kapcsolatos növekvő nyomással szembesülve néhány nagyvállalat már tett lépéseket annak érdekében, hogy megkönnyítse az áldozatok számára a nem beleegyezésen alapuló szexuális képek eltávolítását az oldalaikról. A Google, a Meta és a Snapchat már rendelkezik olyan űrlapokkal, amelyeken a felhasználók kérhetik az ilyen képek eltávolítását. Mások pedig együttműködtek a StopNCII.org és a Take It Down nonprofit szervezetekkel, amelyek megkönnyítik az ilyen képek eltávolítását egyszerre több platformon, bár nem minden oldal működik együtt a csoportokkal.
A támogatók a 48 órás határidőt figyelemre méltóan gyorsnak nevezték, mivel lehetővé teszi az áldozatok számára, hogy azonnal megakadályozzák a bosszúpornó széles körű online terjedését. A törvény elfogadása egy olyan időszakban történik, amikor az MI által generált bosszúpornó egyre több áldozatnak okoz szenvedést. A törvény elismeri, hogy ez a gyerekeknek már most is jelentős problémákat okoz, és szigorúbb büntetéseket tartalmaz a kiskorú áldozatokat célzó NCII-re.
A kritikusok aggodalmukat fejezik ki a törvény nyelvezetének homályosságával kapcsolatban és támadták a 48 órás határidőt, arra figyelmeztetve, hogy a platformok sietni fognak az NCII eltávolításával, és valószínűleg az online tartalmak szélesebb körét cenzúrázzák majd. A törvény kiterjedhet a szervereken tárolt nem nyilvános tartalmakra, például a közvetlen üzenetek tartalmára, és a szolgáltatóknak fel kell törniük a végponttól végpontig terjedő titkosítást ahhoz, hogy reagálni tudjanak a letiltási értesítésekre. Ez a kritikusok félelme szerint esetleg megnyitja az utat a hivatalnokok előtt a kritikusok magánüzeneteinek cenzúrázásához. A bejelentési és letiltási rendszerrel a rosszhiszemű szereplők is visszaélhetnek, akik hamisan azonosítják magukat és töröltetnek legális tartalmakat. Ezen okok miatt jogi kihívások várhatóak.
Akár túlélhet egy esetleges alkotmányos támadást a Take It Down Act, akár nem, a 48 órás határidő azonban más okokból is hiányos lehet - sugallják az áldozatok tanúvallomásai. Az áldozatok számára valószínűleg zavaró, hogy a törvényt még körülbelül egy évig nem fogják széles körben alkalmazni, miközben a már online lévő bosszúpornó tovább terjed. Talán a legfrusztrálóbb, hogy amint a törvény életbe lép, az áldozatoknak továbbra is maguknak kell majd felügyelniük a bosszúpornót az interneten. A 48 órás időablak pedig időt hagy a tartalmak letöltésére és újbóli közzétételére, így a sértettek sebezhetővé válnak a nem ellenőrzött platformokon.
Néhány áldozat már belefáradt a harcba. Tavaly júliusban, amikor a Google elkezdte a keresőjében hátrébb sorolni a deepfake pornóalkalmazásokat, hogy az MI által generált NCII kevésbé legyen felfedezhető, az egyik mélyhamisítás áldozata, Sabrina Javellana újságíróknak elmondta, hogy hónapokig jelentette a különböző online platformokon található káros tartalmakat. És ez sem állította meg a hamis képek terjedését. Joe Morelle, egy demokrata párti amerikai képviselő, aki beszélt a deepfake pornó áldozataival, és szponzorálta a segítségükre hozandó törvényeket, egyetértett azzal, hogy "ezek a képek örökké élnek". "Ennek egyszerűen sosincs vége" - mondta Javellana. "Egyszerűen el kell fogadnom".
Az Alecto AI egy bosszúpornó-áldozat által alapított alkalmazás, amely segít az érintetteknek eltávolítani az online lévő NCII-t. A fejlesztő Andrea Powell egy 2024-es panelbeszélgetésen elmondta, hogy az áldozatoktól jelentős energiát igényel "a saját képeik felkutatása és többszörös igények benyújtása a különböző platformokon, ami növeli az elszigeteltség, a szégyen és a félelem érzését".
Bár a Take It Down Actnak vannak problémái, egy olyan törvény, amely büntetést szab ki a deepfake pornó posztok engedélyezéséért, visszatartó erővel szolgálhat a rosszindulatú szereplők számára, vagy esetleg kulturális változást idézhet elő azzal, hogy világossá teszi, hogy az MI által generált NCII közzététele káros. Az áldozatok már régóta javasolják, hogy a következetesség a kulcs a bosszúpornó offline tartásához, és a Take It Down Act minden bizonnyal ezt kínálja, mivel minden nagyobb platformon létrehoz egy mérsékelten késleltetett törlés gombot.
"Ez a jogszabály végre arra kényszeríti a közösségi média cégeket, hogy tegyék a dolgukat, és védjék meg a nőket a jogaik rendkívül intim és invazív megsértésétől” - mondta Imran Ahmed, a Center for Countering Digital Hate nonprofit szervezet vezérigazgatója. "Bár egyetlen jogszabály sem jelent csodaszert, a status quo - ahol a fiatal nők szörnyű sérelmekkel szembesülnek online - elfogadhatatlan”.
A törvényt az amerikai Kongresszus mindkét kamarája szinte egyhangúlag fogadta el, és csak két képviselő ellenezte, ami a kétpárti konszenzus ritka pillanata. Több mint 100 szervezet, köztük nonprofit szervezetek és olyan nagy technológiai vállalatok, mint a Meta, a TikTok és a Google is támogatták a jogszabályt. A First Lady, Melania Trump is támogatta a törekvést, és áprilisban lobbizott a képviselőházi törvényhozóknál a jogszabály elfogadása érdekében. Az elnök pedig utalt a törvényjavaslatra a kongresszus márciusi együttes ülésén tartott beszédében, amelynek során a First Lady vendége volt egy tizenéves áldozat, Elliston Berry.
Berry ma részt vett a Fehér Ház Rózsakertjében tartott törvényjavaslat aláírási eseményen, Francesca Manival, egy másik tinédzserrel együtt, aki jogi védelmet követelt, miután a zaklatás ezen formája őt is elérte. "Ma a Take It Down Act révén megerősítjük, hogy gyermekeink jóléte központi jelentőségű családjaink jövője szempontjából Amerikában” - mondta a First Lady.
Néhány hónapja a texasi gimnazista Berry egyik osztálytársa megosztott a Snapchaten egy képet, amelyet Berry Instagramjáról töltött le, és mesterséges intelligencia segítségével úgy módosította, hogy úgy tűnjön, mintha meztelen lenne. Berry nem volt egyedül - New Jerseyben, Kaliforniában és máshol is voltak már tizenéves lányok a zaklatás ezen formájának áldozatai. "Minden nap azzal a félelemmel kellett együtt élnem, hogy ezek a fotók előkerülnek vagy újra felbukkannak” - mondta Berry. "Ha ezt a törvényt elfogadják, többé nem kell félelemben élnem, mert tudom, hogy bárki is hozza elő ezeket a képeket, meg lesz büntetve.”
A kérdéssel kapcsolatos növekvő nyomással szembesülve néhány nagyvállalat már tett lépéseket annak érdekében, hogy megkönnyítse az áldozatok számára a nem beleegyezésen alapuló szexuális képek eltávolítását az oldalaikról. A Google, a Meta és a Snapchat már rendelkezik olyan űrlapokkal, amelyeken a felhasználók kérhetik az ilyen képek eltávolítását. Mások pedig együttműködtek a StopNCII.org és a Take It Down nonprofit szervezetekkel, amelyek megkönnyítik az ilyen képek eltávolítását egyszerre több platformon, bár nem minden oldal működik együtt a csoportokkal.
A támogatók a 48 órás határidőt figyelemre méltóan gyorsnak nevezték, mivel lehetővé teszi az áldozatok számára, hogy azonnal megakadályozzák a bosszúpornó széles körű online terjedését. A törvény elfogadása egy olyan időszakban történik, amikor az MI által generált bosszúpornó egyre több áldozatnak okoz szenvedést. A törvény elismeri, hogy ez a gyerekeknek már most is jelentős problémákat okoz, és szigorúbb büntetéseket tartalmaz a kiskorú áldozatokat célzó NCII-re.
A kritikusok aggodalmukat fejezik ki a törvény nyelvezetének homályosságával kapcsolatban és támadták a 48 órás határidőt, arra figyelmeztetve, hogy a platformok sietni fognak az NCII eltávolításával, és valószínűleg az online tartalmak szélesebb körét cenzúrázzák majd. A törvény kiterjedhet a szervereken tárolt nem nyilvános tartalmakra, például a közvetlen üzenetek tartalmára, és a szolgáltatóknak fel kell törniük a végponttól végpontig terjedő titkosítást ahhoz, hogy reagálni tudjanak a letiltási értesítésekre. Ez a kritikusok félelme szerint esetleg megnyitja az utat a hivatalnokok előtt a kritikusok magánüzeneteinek cenzúrázásához. A bejelentési és letiltási rendszerrel a rosszhiszemű szereplők is visszaélhetnek, akik hamisan azonosítják magukat és töröltetnek legális tartalmakat. Ezen okok miatt jogi kihívások várhatóak.
Akár túlélhet egy esetleges alkotmányos támadást a Take It Down Act, akár nem, a 48 órás határidő azonban más okokból is hiányos lehet - sugallják az áldozatok tanúvallomásai. Az áldozatok számára valószínűleg zavaró, hogy a törvényt még körülbelül egy évig nem fogják széles körben alkalmazni, miközben a már online lévő bosszúpornó tovább terjed. Talán a legfrusztrálóbb, hogy amint a törvény életbe lép, az áldozatoknak továbbra is maguknak kell majd felügyelniük a bosszúpornót az interneten. A 48 órás időablak pedig időt hagy a tartalmak letöltésére és újbóli közzétételére, így a sértettek sebezhetővé válnak a nem ellenőrzött platformokon.
Néhány áldozat már belefáradt a harcba. Tavaly júliusban, amikor a Google elkezdte a keresőjében hátrébb sorolni a deepfake pornóalkalmazásokat, hogy az MI által generált NCII kevésbé legyen felfedezhető, az egyik mélyhamisítás áldozata, Sabrina Javellana újságíróknak elmondta, hogy hónapokig jelentette a különböző online platformokon található káros tartalmakat. És ez sem állította meg a hamis képek terjedését. Joe Morelle, egy demokrata párti amerikai képviselő, aki beszélt a deepfake pornó áldozataival, és szponzorálta a segítségükre hozandó törvényeket, egyetértett azzal, hogy "ezek a képek örökké élnek". "Ennek egyszerűen sosincs vége" - mondta Javellana. "Egyszerűen el kell fogadnom".
Az Alecto AI egy bosszúpornó-áldozat által alapított alkalmazás, amely segít az érintetteknek eltávolítani az online lévő NCII-t. A fejlesztő Andrea Powell egy 2024-es panelbeszélgetésen elmondta, hogy az áldozatoktól jelentős energiát igényel "a saját képeik felkutatása és többszörös igények benyújtása a különböző platformokon, ami növeli az elszigeteltség, a szégyen és a félelem érzését".
Bár a Take It Down Actnak vannak problémái, egy olyan törvény, amely büntetést szab ki a deepfake pornó posztok engedélyezéséért, visszatartó erővel szolgálhat a rosszindulatú szereplők számára, vagy esetleg kulturális változást idézhet elő azzal, hogy világossá teszi, hogy az MI által generált NCII közzététele káros. Az áldozatok már régóta javasolják, hogy a következetesség a kulcs a bosszúpornó offline tartásához, és a Take It Down Act minden bizonnyal ezt kínálja, mivel minden nagyobb platformon létrehoz egy mérsékelten késleltetett törlés gombot.
"Ez a jogszabály végre arra kényszeríti a közösségi média cégeket, hogy tegyék a dolgukat, és védjék meg a nőket a jogaik rendkívül intim és invazív megsértésétől” - mondta Imran Ahmed, a Center for Countering Digital Hate nonprofit szervezet vezérigazgatója. "Bár egyetlen jogszabály sem jelent csodaszert, a status quo - ahol a fiatal nők szörnyű sérelmekkel szembesülnek online - elfogadhatatlan”.