SG.hu
Dél-koreai lányok százainak okoznak szenvedést az interneten róluk megosztott hamis szexuális képek
A dél-koreai elnök, Yoon Suk Yeol a kormányülésen kijelentette, hogy a nemzet mély válságban van. Az elnök igyekezett mozgósítani a hatóságokat a felháborító anyagok elleni küzdelemre, amelynek egy több mint 220 ezer tagot számláló Telegram-csoport a forrása.
Múlt szombaton egy Telegram-üzenet bukkant fel egy dél-koreai lány (nevezzük Heejinnek) telefonján egy névtelen feladótól. „A képeid és személyes adataid kiszivárogtak. Beszéljük meg”. Amikor az egyetemista belépett az alkalmazásba, hogy elolvassa az üzenetet, egy olyan fotót kapott magáról, amely néhány évvel ezelőtt készült, amikor még iskolába járt. Ezt egy második kép követte, amely ugyanazt a fotót használta, csakhogy ez egy hamis szexuális verzió volt. A lány nem válaszolt, de újabb képek jöttek. Az arcát mindegyiken egy szexuális aktusban részt vevő testhez illesztették, kifinomult mélyhamisítási, un. deepfake technológiával. A deepfake-ek többsége egy valódi személy arcát kombinálja egy hamis testtel, és ezeket egyre gyakrabban generálják mesterséges intelligencia segítségével. "Megkövültem, annyira egyedül éreztem magam” - mondta Heejin.
De nem volt egyedül. Ko Narin dél-koreai újságíró két nappal korábban tette közzé karrierje legnagyobb szenzációját. Nemrégiben derült ki, hogy a rendőrség az ország két nagy egyetemén működő deepfake pornóhálózat után nyomozott, és Ko meg volt győződve arról, hogy többről van szó. Elkezdte átkutatni a közösségi médiát, és a Telegram üzenetküldő alkalmazáson több tucat csevegőcsoportot fedezett fel, ahol a felhasználók ismerős nők fotóit osztották meg, és mesterséges intelligencia szoftverrel másodpercek alatt hamis pornográf képekké alakították át őket. "Az emberek percenként töltötték fel az általuk ismert lányok fotóit, és kérték, hogy alakítsák át őket deepfake-ekké” - mondta Ko.
Ko felfedezte, hogy ezek a csoportok nem csak egyetemi hallgatókat céloztak meg. Voltak bizonyos középiskoláknak, sőt általános iskoláknak fenntartott szobák is. Ha sok tartalom készült egy adott diák képeit felhasználva, akár saját szobát is kaphatott. Voltak "megalázó szobák” vagy „barátok barátai szobák” elnevezésűek, és egyesek szigorú belépési feltételekkel rendelkeznek. A Hankyoreh újságban megjelent cikk sokkolta Dél-Koreát. Múlt hét hétfőn a rendőrség bejelentette, hogy a francia hatóságok példáját követve - akik nemrég vádat emeltek a Telegram orosz alapítója ellen az alkalmazással kapcsolatos bűncselekmények miatt - vizsgálatot indítanak a Telegram ellen. A kormány megfogadta, hogy szigorúbb büntetéseket szab ki az érintettekre, az elnök pedig a fiatalok jobb nevelésére szólított fel.
A Telegram kiadott egy közleményt, miszerint "aktívan küzd a platformján található káros tartalmak ellen, beleértve az illegális pornográfiát is". Leszögezik, hogy moderátoraik „proaktívan figyelik az alkalmazás nyilvános részeit, mesterséges intelligencia eszközöket használnak és felhasználói jelentéseket olvasnak annak érdekében, hogy naponta több millió olyan tartalmat távolítsanak el, amelyek sértik a Telegram szolgáltatási feltételeit”.
Az egyik ilyen chatszobában arra szólítják fel a tagokat, hogy négynél több fényképet tegyenek közzé valakiről, a nevével, életkorával és a lakóhelyével együtt. "Megdöbbentett, hogy milyen szisztematikus és szervezett volt a folyamat” - mondta Ko. "A legborzalmasabb dolog, amit felfedeztem, egy olyan csoport volt, amely egy iskola kiskorú diákjainak szólt, és amelynek több mint 2000 tagja volt”. Ko cikkének megjelenését követő napokban női jogvédők is elkezdték átfésülni a Telegramot, és követni a nyomokat. A hét végére több mint 500 iskolát és felsőoktatási intézményt jelöltek meg célpontként. A tényleges érintettek számát még nem sikerült megállapítani, de feltételezhetően sokan 16 év alattiak, ami Dél-Koreában a beleegyezési korhatár. A feltételezett elkövetők nagy része maga is tinédzser.
Heejin elmondta, hogy a válság mértékének megismerése csak fokozta a szorongását, mivel most már azért aggódik, hogy hányan nézhették meg a róla készített deepfake-eket. Kezdetben saját magát hibáztatta. "Nem tudtam nem gondolkodni azon, hogy vajon azért történt-e ez, mert feltöltöttem a fotóimat a közösségi médiába. Óvatosabbnak kellett volna lennem?” Azóta országszerte nők és tinédzserek sokasága távolította el a fotóit a különböző platformokról, vagy deaktiválta teljesen a fiókját, attól tartva, hogy legközelebb őket is kihasználhatják. "Frusztráltak és dühösek vagyunk, hogy cenzúrázni kell a viselkedésünket és a közösségi média használatát, amikor semmi rosszat nem tettünk” - mondta egy egyetemi hallgató, Ah-eun, akinek a társait célba vették. Ah-eun elmondta, hogy az egyik áldozatnak az egyetemén azt mondta a rendőrség, hogy ne foglalkozzon a dologgal, mivel túl nehéz lenne elkapni az elkövetőt, és „nem is volt igazi bűncselekmény”, mivel „a fotók hamisak voltak”.
A botrány középpontjában a Telegram üzenetküldő alkalmazás áll. Az alkalmazás arról ismert, hogy a moderációhoz való hozzáállása laza, és évek óta azzal vádolják, hogy nem tesz eleget a tartalmak és különösen a csoportok felügyelete érdekében. Ezáltal a bűnözői magatartás virágzásának elsődleges terepévé vált. A politikusok és a rendőrség határozottan reagált, és ígéretet tettek arra, hogy kivizsgálják ezeket a bűncselekményeket, és az elkövetőket bíróság elé állítják. Hétfőn a Szöuli Nemzeti Rendőrségi Ügynökség bejelentette, hogy vizsgálatot indít a Telegram ellen, mivel az lehetővé tette a gyermekekről készült hamis pornográf képek terjesztését. Az alkalmazás alapítóját, Pavel Durovot múlt héten Franciaországban megvádolták azzal, hogy bűnrészes volt az alkalmazással kapcsolatos számos bűncselekményben, többek között gyermekpornográfia megosztásának lehetővé tételében.
Nőjogi aktivisták azzal vádolják a dél-koreai hatóságokat, hogy túl sokáig hagyták, hogy a szexuális visszaélések a Telegramon ellenőrizetlenül szunnyadjanak, mert Korea már korábban is szembesült ezzel a válsággal. 2019-ben kiderült, hogy egy szexbanda arra használta a Telegramot, hogy nőket és gyerekeket kényszerítsen arra, hogy szexuálisan szabados képeket készítsenek és osszanak meg magukról. A rendőrség akkor a Telegramtől kért segítséget a nyomozáshoz, de az alkalmazás mind a hét kérésüket figyelmen kívül hagyta. Bár a bandavezért végül több mint 40 év börtönbüntetésre ítélték, a cenzúra körüli félelmek miatt a platformmal szemben nem tettek lépéseket. "Elítélték a főszereplőket, de egyébként elhanyagolták a dolgot, és úgy gondolom, hogy ez súlyosbította a helyzetet” - mondta Ko.
Park Jihyun, aki fiatal diákújságíróként még 2019-ben leplezte le az Nth szexcsoportot, azóta a digitális szexuális bűncselekmények áldozatainak politikai szószólója lett. Elmondta, hogy a deepfake-botrány kirobbanása óta a diákok és a szülők naponta többször is felhívták őt sírva. "Látták az iskolájukat a közösségi médiában megosztott listán, és megrémültek”. Park a kormányt arra szólította fel, hogy szabályozza vagy akár tiltsa be az alkalmazást Dél-Koreában. "Ha ezek a technológiai cégek nem működnek együtt a bűnüldöző szervekkel, akkor az államnak kell szabályoznia őket, hogy megvédje polgárait” - mondta.
A legújabb válság kirobbanása előtt a dél-koreai online szexuális visszaélések áldozatainak érdekvédelmi központja (ACOSAV) már észlelte a deepfake pornográfia kiskorú áldozatainak számának ugrásszerű növekedését. A 2023-as évben 86 tizenéves áldozatnak adtak tanácsokat. Ez a szám csak az idei év első nyolc hónapjában 238-ra ugrott. Csak az elmúlt héten további 64 tizenéves áldozat jelentkezett. A központ egyik vezetője, Park Seonghye elmondta, hogy az elmúlt héten munkatársait elárasztották a hívások, és éjjel-nappal dolgoznak. "Ez egy teljes körű vészhelyzet volt számunkra, olyan, mint egy háborús helyzet” - mondta. "A legújabb deepfake technológiával már sokkal több felvétel készül, mint korábban, és aggódunk, hogy ez csak fokozódni fog.” Az áldozatoknak nyújtott tanácsadás mellett a központ felkutatja a káros tartalmakat, és együttműködik az online platformokkal azok eltávolítása érdekében. Park elmondta, hogy volt néhány eset, amikor a Telegram az ő kérésükre távolított el tartalmakat. „Tehát nem lehetetlen” - jegyezte meg.
Noha a nőjogi szervezetek elfogadják, hogy a mesterséges intelligencia-technológia megkönnyíti az áldozatok kizsákmányolását, szerintük ez csak a nőgyűlölet legújabb formája, amely Dél-Koreában online játszódik le. Először szóbeli bántalmazás hullámai érték a nőket az interneten. Aztán jött a kémkamera-járvány, amikor titokban filmezték őket, amint nyilvános vécéket és öltözőket használnak. "Ennek gyökere a strukturális szexizmus, a megoldás pedig a nemek közötti egyenlőség” - áll egy 84 női csoport által aláírt közös nyilatkozatban. Ez közvetlen kritika az ország elnökével, Yoon Suk Yeol-lal szemben, aki tagadja a strukturális szexizmus létezését, csökkentette az áldozatsegítő csoportok támogatását, és megszüntette a kormány nemek közötti egyenlőséggel foglalkozó minisztériumát.
Lee Myung-hwa, aki fiatal szexuális bűnözőket kezel, egyetértett azzal, hogy bár a hamisított visszaélések kitörése hirtelennek tűnhet, a felszín alatt már régóta forrt a mély. "A tinédzserek számára a deepfake a kultúrájuk részévé vált, játéknak vagy csínynek tekintik” - mondta a tanácsadó, aki az Aha Seoul Ifjúsági Kulturális Központot vezeti. Lee szerint kiemelkedően fontos a fiatal férfiak felvilágosítása, hivatkozva egy kutatásra, amely szerint ha az elkövetőknek pontosan elmondják, hogy mit követtek el rosszul, akkor jobban tisztában lesznek azzal, hogy mi számít szexuális visszaélésnek, ami megakadályozza őket a bűnismétlésben. Közben a kormány közölte, hogy szigorítani fogja a mélyhamisított képek készítőinek és megosztóinak büntetését, és azokat is büntetni fogja, akik a pornográfiát nézik. Ezt azután a kritikák nyomán teszik, hogy nem büntetik eléggé az elkövetőket. Az elkövetők többsége tinédzser, akiket jellemzően fiatalkorú bíróságok elé állítanak, ahol enyhébb büntetést kapnak.
A chatszobák leleplezése óta sokakat bezártak, de szinte biztos, hogy újak veszik át a helyüket. Egy "megalázó szobát" már létrehoztak, ez az eseményekkel foglalkozó újságírókat célozza meg. Ko - aki a hírt nyilvánosságra hozta - azt mondta, hogy ez álmatlan éjszakákat okozott neki. "Állandóan ellenőrzöm a szobát, hogy feltöltötték-e a fényképemet” - mondta. Ez a szorongás szinte minden tizenéves lányra és fiatal nőre átterjedt Dél-Koreában. Ah-eun, az egyetemista lány azt mondta, hogy emiatt gyanakvóvá vált férfi ismerőseivel szemben. "Most már nem lehetek biztos benne, hogy az emberek nem követnek el ilyen bűncselekményeket a hátam mögött, anélkül, hogy tudnék róla” - mondta. „Hiperéber lettem az emberekkel való kapcsolataimban, ami nem jó.”
Múlt szombaton egy Telegram-üzenet bukkant fel egy dél-koreai lány (nevezzük Heejinnek) telefonján egy névtelen feladótól. „A képeid és személyes adataid kiszivárogtak. Beszéljük meg”. Amikor az egyetemista belépett az alkalmazásba, hogy elolvassa az üzenetet, egy olyan fotót kapott magáról, amely néhány évvel ezelőtt készült, amikor még iskolába járt. Ezt egy második kép követte, amely ugyanazt a fotót használta, csakhogy ez egy hamis szexuális verzió volt. A lány nem válaszolt, de újabb képek jöttek. Az arcát mindegyiken egy szexuális aktusban részt vevő testhez illesztették, kifinomult mélyhamisítási, un. deepfake technológiával. A deepfake-ek többsége egy valódi személy arcát kombinálja egy hamis testtel, és ezeket egyre gyakrabban generálják mesterséges intelligencia segítségével. "Megkövültem, annyira egyedül éreztem magam” - mondta Heejin.
De nem volt egyedül. Ko Narin dél-koreai újságíró két nappal korábban tette közzé karrierje legnagyobb szenzációját. Nemrégiben derült ki, hogy a rendőrség az ország két nagy egyetemén működő deepfake pornóhálózat után nyomozott, és Ko meg volt győződve arról, hogy többről van szó. Elkezdte átkutatni a közösségi médiát, és a Telegram üzenetküldő alkalmazáson több tucat csevegőcsoportot fedezett fel, ahol a felhasználók ismerős nők fotóit osztották meg, és mesterséges intelligencia szoftverrel másodpercek alatt hamis pornográf képekké alakították át őket. "Az emberek percenként töltötték fel az általuk ismert lányok fotóit, és kérték, hogy alakítsák át őket deepfake-ekké” - mondta Ko.
Ko felfedezte, hogy ezek a csoportok nem csak egyetemi hallgatókat céloztak meg. Voltak bizonyos középiskoláknak, sőt általános iskoláknak fenntartott szobák is. Ha sok tartalom készült egy adott diák képeit felhasználva, akár saját szobát is kaphatott. Voltak "megalázó szobák” vagy „barátok barátai szobák” elnevezésűek, és egyesek szigorú belépési feltételekkel rendelkeznek. A Hankyoreh újságban megjelent cikk sokkolta Dél-Koreát. Múlt hét hétfőn a rendőrség bejelentette, hogy a francia hatóságok példáját követve - akik nemrég vádat emeltek a Telegram orosz alapítója ellen az alkalmazással kapcsolatos bűncselekmények miatt - vizsgálatot indítanak a Telegram ellen. A kormány megfogadta, hogy szigorúbb büntetéseket szab ki az érintettekre, az elnök pedig a fiatalok jobb nevelésére szólított fel.
A Telegram kiadott egy közleményt, miszerint "aktívan küzd a platformján található káros tartalmak ellen, beleértve az illegális pornográfiát is". Leszögezik, hogy moderátoraik „proaktívan figyelik az alkalmazás nyilvános részeit, mesterséges intelligencia eszközöket használnak és felhasználói jelentéseket olvasnak annak érdekében, hogy naponta több millió olyan tartalmat távolítsanak el, amelyek sértik a Telegram szolgáltatási feltételeit”.
Az egyik ilyen chatszobában arra szólítják fel a tagokat, hogy négynél több fényképet tegyenek közzé valakiről, a nevével, életkorával és a lakóhelyével együtt. "Megdöbbentett, hogy milyen szisztematikus és szervezett volt a folyamat” - mondta Ko. "A legborzalmasabb dolog, amit felfedeztem, egy olyan csoport volt, amely egy iskola kiskorú diákjainak szólt, és amelynek több mint 2000 tagja volt”. Ko cikkének megjelenését követő napokban női jogvédők is elkezdték átfésülni a Telegramot, és követni a nyomokat. A hét végére több mint 500 iskolát és felsőoktatási intézményt jelöltek meg célpontként. A tényleges érintettek számát még nem sikerült megállapítani, de feltételezhetően sokan 16 év alattiak, ami Dél-Koreában a beleegyezési korhatár. A feltételezett elkövetők nagy része maga is tinédzser.
Heejin elmondta, hogy a válság mértékének megismerése csak fokozta a szorongását, mivel most már azért aggódik, hogy hányan nézhették meg a róla készített deepfake-eket. Kezdetben saját magát hibáztatta. "Nem tudtam nem gondolkodni azon, hogy vajon azért történt-e ez, mert feltöltöttem a fotóimat a közösségi médiába. Óvatosabbnak kellett volna lennem?” Azóta országszerte nők és tinédzserek sokasága távolította el a fotóit a különböző platformokról, vagy deaktiválta teljesen a fiókját, attól tartva, hogy legközelebb őket is kihasználhatják. "Frusztráltak és dühösek vagyunk, hogy cenzúrázni kell a viselkedésünket és a közösségi média használatát, amikor semmi rosszat nem tettünk” - mondta egy egyetemi hallgató, Ah-eun, akinek a társait célba vették. Ah-eun elmondta, hogy az egyik áldozatnak az egyetemén azt mondta a rendőrség, hogy ne foglalkozzon a dologgal, mivel túl nehéz lenne elkapni az elkövetőt, és „nem is volt igazi bűncselekmény”, mivel „a fotók hamisak voltak”.
A botrány középpontjában a Telegram üzenetküldő alkalmazás áll. Az alkalmazás arról ismert, hogy a moderációhoz való hozzáállása laza, és évek óta azzal vádolják, hogy nem tesz eleget a tartalmak és különösen a csoportok felügyelete érdekében. Ezáltal a bűnözői magatartás virágzásának elsődleges terepévé vált. A politikusok és a rendőrség határozottan reagált, és ígéretet tettek arra, hogy kivizsgálják ezeket a bűncselekményeket, és az elkövetőket bíróság elé állítják. Hétfőn a Szöuli Nemzeti Rendőrségi Ügynökség bejelentette, hogy vizsgálatot indít a Telegram ellen, mivel az lehetővé tette a gyermekekről készült hamis pornográf képek terjesztését. Az alkalmazás alapítóját, Pavel Durovot múlt héten Franciaországban megvádolták azzal, hogy bűnrészes volt az alkalmazással kapcsolatos számos bűncselekményben, többek között gyermekpornográfia megosztásának lehetővé tételében.
Nőjogi aktivisták azzal vádolják a dél-koreai hatóságokat, hogy túl sokáig hagyták, hogy a szexuális visszaélések a Telegramon ellenőrizetlenül szunnyadjanak, mert Korea már korábban is szembesült ezzel a válsággal. 2019-ben kiderült, hogy egy szexbanda arra használta a Telegramot, hogy nőket és gyerekeket kényszerítsen arra, hogy szexuálisan szabados képeket készítsenek és osszanak meg magukról. A rendőrség akkor a Telegramtől kért segítséget a nyomozáshoz, de az alkalmazás mind a hét kérésüket figyelmen kívül hagyta. Bár a bandavezért végül több mint 40 év börtönbüntetésre ítélték, a cenzúra körüli félelmek miatt a platformmal szemben nem tettek lépéseket. "Elítélték a főszereplőket, de egyébként elhanyagolták a dolgot, és úgy gondolom, hogy ez súlyosbította a helyzetet” - mondta Ko.
Park Jihyun, aki fiatal diákújságíróként még 2019-ben leplezte le az Nth szexcsoportot, azóta a digitális szexuális bűncselekmények áldozatainak politikai szószólója lett. Elmondta, hogy a deepfake-botrány kirobbanása óta a diákok és a szülők naponta többször is felhívták őt sírva. "Látták az iskolájukat a közösségi médiában megosztott listán, és megrémültek”. Park a kormányt arra szólította fel, hogy szabályozza vagy akár tiltsa be az alkalmazást Dél-Koreában. "Ha ezek a technológiai cégek nem működnek együtt a bűnüldöző szervekkel, akkor az államnak kell szabályoznia őket, hogy megvédje polgárait” - mondta.
A legújabb válság kirobbanása előtt a dél-koreai online szexuális visszaélések áldozatainak érdekvédelmi központja (ACOSAV) már észlelte a deepfake pornográfia kiskorú áldozatainak számának ugrásszerű növekedését. A 2023-as évben 86 tizenéves áldozatnak adtak tanácsokat. Ez a szám csak az idei év első nyolc hónapjában 238-ra ugrott. Csak az elmúlt héten további 64 tizenéves áldozat jelentkezett. A központ egyik vezetője, Park Seonghye elmondta, hogy az elmúlt héten munkatársait elárasztották a hívások, és éjjel-nappal dolgoznak. "Ez egy teljes körű vészhelyzet volt számunkra, olyan, mint egy háborús helyzet” - mondta. "A legújabb deepfake technológiával már sokkal több felvétel készül, mint korábban, és aggódunk, hogy ez csak fokozódni fog.” Az áldozatoknak nyújtott tanácsadás mellett a központ felkutatja a káros tartalmakat, és együttműködik az online platformokkal azok eltávolítása érdekében. Park elmondta, hogy volt néhány eset, amikor a Telegram az ő kérésükre távolított el tartalmakat. „Tehát nem lehetetlen” - jegyezte meg.
Noha a nőjogi szervezetek elfogadják, hogy a mesterséges intelligencia-technológia megkönnyíti az áldozatok kizsákmányolását, szerintük ez csak a nőgyűlölet legújabb formája, amely Dél-Koreában online játszódik le. Először szóbeli bántalmazás hullámai érték a nőket az interneten. Aztán jött a kémkamera-járvány, amikor titokban filmezték őket, amint nyilvános vécéket és öltözőket használnak. "Ennek gyökere a strukturális szexizmus, a megoldás pedig a nemek közötti egyenlőség” - áll egy 84 női csoport által aláírt közös nyilatkozatban. Ez közvetlen kritika az ország elnökével, Yoon Suk Yeol-lal szemben, aki tagadja a strukturális szexizmus létezését, csökkentette az áldozatsegítő csoportok támogatását, és megszüntette a kormány nemek közötti egyenlőséggel foglalkozó minisztériumát.
Lee Myung-hwa, aki fiatal szexuális bűnözőket kezel, egyetértett azzal, hogy bár a hamisított visszaélések kitörése hirtelennek tűnhet, a felszín alatt már régóta forrt a mély. "A tinédzserek számára a deepfake a kultúrájuk részévé vált, játéknak vagy csínynek tekintik” - mondta a tanácsadó, aki az Aha Seoul Ifjúsági Kulturális Központot vezeti. Lee szerint kiemelkedően fontos a fiatal férfiak felvilágosítása, hivatkozva egy kutatásra, amely szerint ha az elkövetőknek pontosan elmondják, hogy mit követtek el rosszul, akkor jobban tisztában lesznek azzal, hogy mi számít szexuális visszaélésnek, ami megakadályozza őket a bűnismétlésben. Közben a kormány közölte, hogy szigorítani fogja a mélyhamisított képek készítőinek és megosztóinak büntetését, és azokat is büntetni fogja, akik a pornográfiát nézik. Ezt azután a kritikák nyomán teszik, hogy nem büntetik eléggé az elkövetőket. Az elkövetők többsége tinédzser, akiket jellemzően fiatalkorú bíróságok elé állítanak, ahol enyhébb büntetést kapnak.
A chatszobák leleplezése óta sokakat bezártak, de szinte biztos, hogy újak veszik át a helyüket. Egy "megalázó szobát" már létrehoztak, ez az eseményekkel foglalkozó újságírókat célozza meg. Ko - aki a hírt nyilvánosságra hozta - azt mondta, hogy ez álmatlan éjszakákat okozott neki. "Állandóan ellenőrzöm a szobát, hogy feltöltötték-e a fényképemet” - mondta. Ez a szorongás szinte minden tizenéves lányra és fiatal nőre átterjedt Dél-Koreában. Ah-eun, az egyetemista lány azt mondta, hogy emiatt gyanakvóvá vált férfi ismerőseivel szemben. "Most már nem lehetek biztos benne, hogy az emberek nem követnek el ilyen bűncselekményeket a hátam mögött, anélkül, hogy tudnék róla” - mondta. „Hiperéber lettem az emberekkel való kapcsolataimban, ami nem jó.”