SG.hu·
Az MI által generált gyermekpornográf képek elterjedése leterheli a hatóságokat
A mesterséges intelligencia által létrehozott tartalmak mennyisége meredeken növekszik, ami soha nem látott kihívások elé állítja a bűnüldöző szerveket.
2025. január 8-án a dániai Randersben egy 29 éves férfi jelent meg a bíróságon egy újfajta ügyben. Néhány héttel korábban a rendőrök betörtek a lakásába, és a számítógép előtt találtak rá flagranti delicto: a képernyőn gyermekpornográfiát ábrázoló képek voltak, amelyek különlegessége az volt, hogy mesterséges intelligencia programmal készítették őket. A nyomozók 36 209 ilyen típusú képet találtak nála. Ez az egyetlen, a rendőrség számára ismeretlen férfi havonta több ezer képet generált, amelyeket díj ellenében kínált az interneten. A nyomozás során még azzal is dicsekedett, hogy a világ tíz legjobbja közé tartozik, és képes egyre valósághűbb képeket készíteni mindenféle korú gyerekekről.
A tárgyalás napján az ügyész megkérdezte tőle, hogy szerinte „jót cselekedett-e”. A férfi igennel válaszolt a dán közszolgálati TV 2 tudósítása szerint. "Azt hiszem, megakadályoztam, hogy néhány internetező valódi gyerekek fotóit nézegesse. És megakadályoztam, hogy valódi gyerekeket bántalmazzanak. Ha a gyermek nem valódi, akkor, ami engem illet, nem illegális”. Ez az érvelés nem tartotta távol a börtöntől, egy év és három hónap letöltendő büntetésre ítélték. Néhány ügyfelét is bevonták az Europol által vezetett nagyszabású művelet részeként, amely során 273 gyanúsítottat azonosítottak és 25-öt tartóztattak le 19 országban, köztük Franciaországban.
Míg ezen a területen még mindig ritkák a letartóztatások, az interneten egyre szaporodnak a mesterséges intelligencia segítségével létrehozott pedofil képek. "Ez egyre nagyobb problémát jelent számunkra, mivel a fenyegetés egyre nő és egyre gyorsul” - figyelmeztet Catherine De Bolle, az Europol ügyvezető igazgatója. Az ilyen képek elkészítéséhez "nem kell nagy szakértelem, nem kell gyerek, nem kell valódi erőszakot elkövetni. Mindössze egy számítógépre van szükség".
Nem lehet tudni, hogy mennyi ilyen tartalom kering az interneten, de számos mutatóval mérhető a jelenség fejlődése. A National Center for Missing & Exploited Children (NCMEC) az az amerikai szervezet, amelynek a technológiai cégek és magánszemélyek jelentik a gyermekbűnözéssel kapcsolatos online tartalmak jelenlétét vagy közzétételének kísérletét. "2023-ban 4700 MI-val kapcsolatos bejelentést kaptunk. Ez a szám 2024-ben 67 000-re emelkedett. A 2025-ös év első felében már több mint 485 000-nél tartunk. Ez tényleg robbanásszerűen növekszik" - panaszolja John Shehan, a gyermekbűnözés elleni műveletek vezetője. A brit Internet Watch Foundation nevű civil szervezet is észrevette a korábban igen ritka videós tartalmak terjedését. Az év eleje óta 1286 darabot azonosított, míg 2024-ben ugyanebben az időszakban kettőt.
"Összességében az ágazat valamennyi szakembere aggódik a fejlemények miatt” - jegyzi meg Alejandra Mariscal Lopez, a jelentéseket fogadó francia Point de Contact egyesület igazgatója. Bár ezek még mindig csak töredékét teszik ki az interneten elérhető több millió pedofil tartalomnak, „az elemzők egyre rendszeresebben találkoznak velük” - mondja. Korábban rögtön látták, hogy valamit mesterséges intelligencia hozott-e létre. Most már ezek a képek sokkal valósághűbbek". És némelyikük még szélsőségesebb.
Különböző típusú képek készülnek. Vannak olyan képek, amelyeket a semmiből hoztak létre, és olyan gyerekeket ábrázolnak, akik nem is léteznek - bár ez azt jelenti, hogy a programot valódi gyerekfotókon „képezték ki”. Mások valódi gyermekeket ábrázolnak: elég lehet egy közönséges fényképet átalakítani, például egy szülő közösségi hálózatából, hogy a gyermeket modellezzék, és beillesszék egy pedokriminális képbe. 2024 augusztusában egy 27 éves brit férfit 18 év börtönbüntetésre ítéltek, miután ilyen típusú tartalmakat készített: „ügyfelei” gyerekeket ábrázoló képeket adtak neki, néha a saját környezetükből, és azt a megbízást adták neki, hogy hozzon létre konkrét jeleneteket.
John Shehan, az NCMEC munkatársa kifejtette: "Az is előfordul, hogy magánszemélyek valódi pedofil képekhez jutnak hozzá, amelyeken valódi, bántalmazott gyermekek szerepelnek, és ezt felhasználva új, őket ábrázoló tartalmakat készítenek. Amikor már áldozatok, valaki új tartalmat hoz létre róluk: ez súlyosbítja a traumájukat".
Végül, egyre több a mesterséges intelligencia segítségével „levetkőztetett” gyermekek esete. Ezt a technikát a gyermekbűnözők, de a tinédzserek is alkalmazzák zaklatás esetén, valamint csalók is „szexzsarolás” céljából. Eddig a bűnözők az interneten keresztül vették fel a kapcsolatot kiskorúakkal, és szexuális képeket próbáltak szerezni tőlük, majd a képek közzétételével fenyegetőzve pénzt követeltek tőlük. Most már nincs szükségük arra, hogy a gyermek képet küldjön nekik; azt maguk is elkészíthetik.
Tehát ez határozottan nem áldozat nélküli bűncselekmény, ellentétben a dán vádlott védekezésével. Joëlle Sicamois, a bírósági ügyekben rendszeresen polgári félként fellépő Fondation pour l'enfance igazgatója felháborodott ezen az érvelésen: "A pedofil képek fogyasztói gyakran mondják, hogy ”nem ártottam a gyerekeknek, mert csak képeket néztem". A mesterséges intelligencia miatt a nevük tisztázásánál ráadásul azt mondhatják, hogy "ezek nem is valódi gyerekek!" De nem számít, hogy a képek valódiak vagy hamisak. Aláássák a gyermekek integritását, bagatellizálják a pedofil bűncselekményeket, és most már tudjuk, hogy a képek megtekintése és a bűncselekmény elkövetése között okozati összefüggés van.
Véronique Béchu idén nyár óta a kiskorúak elleni digitális erőszakot regisztráló e-Enfance Megfigyelőközpont igazgatója, korábban pedig az Office mineurs de la police judiciaire (Ofmin) stratégiai vezetője volt. Úgy véli, hogy néhány éven belül „a pedofil tartalmak túlnyomó többségét a mesterséges intelligencia fogja generálni”, de ettől még a többiek nem lesznek ritkábbak. "Ellenkezőleg: számuk növekedni fog, mivel a képek cselekvésre ösztönzik az embereket."
A rendőrök a mesterséges intelligencia által generált tartalmak elterjedésére számítanak, már csak a pedofil közösség működése miatt is. "Általában cserekereskedelemről van szó: a nagyon erőszakos tartalmak megszerzéséhez például azonos értékű tartalmakat kell tudni adni. Ha ezt nem tudod előállítani egy valódi gyerekkel, akkor megpróbálod mesterséges intelligenciával legenerálni. Ez a tartalom előállításának fokozódását, és ezáltal annak elbagatellizálódását jelenti. Sürgős cselekvésre van szükség, most kell fellépnünk ez ellen a jelenség ellen. Most az egyszer lehetőségünk van arra, hogy proaktívak legyünk, ne pedig reaktívak."
A nyomozókat elárasztják az MI által generált tartalmak, amelyek gyakran rendkívül valósághűek, és értékes időt pazarolnak el. "Ez nagyon megnehezíti számunkra a valódi áldozatok azonosítását, akiket meg kell védenünk” - panaszolja Catherine De Bolle, az Europol vezetője. Úgy véli, hogy a mesterséges intelligenciával készült képek áradata elavulttá tesz bizonyos rendszereket, mint például a Trace an Object, amely arra kéri az internetfelhasználókat, hogy azonosítsák a gyermekpornográf képeken megjelenő tárgyakat, amelyek segíthetnek az elkövető megtalálásában.
„Nincsenek meg a megfelelő eszközeink” - figyelmeztet Catherine De Bolle. Az Europolnak engedélyre lenne szüksége különösen ahhoz, hogy olyan mesterséges intelligencia-technológiákat használhasson, amelyek képesek felismerni a mesterséges intelligencia által generált tartalmakat, így megkímélve a nyomozókat a válogatás fáradságos feladatától. A kérelmet már benyújtották, de még jóvá kell hagyni, „és ez egy nagyon hosszú folyamat, akár két évig is eltarthat” - mutat rá. Normális dolog az elővigyázatosság, de gyorsabban kell történnie, mert így elveszítjük a lehetőséget, hogy az elkövetőket bíróság elé állítsuk".
Az intézményeknek gyakran túl sok időbe telik, amíg lépést tartanak a technológiai fejlődéssel. Franciaországban a büntető törvénykönyv 227-23. cikke bünteti a pedofil képek és ábrázolások megtekintését, birtoklását és terjesztését. Elméletileg ez a mesterséges intelligencia tartalmát is magában foglalja. Véronique Béchu, az e-Enfance munkatársa azonban úgy véli, hogy vannak hiányosságok: „Például az ilyen típusú tartalmak létrehozására szánt mesterséges intelligencia eszközök használata és értékesítése nem bűncselekmény”.
Az egyesület segítségével Xavier Iacovelli, Hauts-de-Seine képviselője törvényjavaslatot dolgozott ki a személyes adatok pedofil tartalmak létrehozására történő felhasználásának tiltására. Az egykori Ofmin-tag számára az intézkedés egyéni szinten azonnal meghozható. A szülőket szólítja meg: "Jelenleg a pedofil hálózatokon keringő tartalmak nagy része a szülők közösségi hálózatokra felöltött fotóiból származik. Nem szabad elfelejteni, hogy ez lehetőséget ad az embereknek arra, hogy ezeket a képeket gyermekek zsarolására használják, vagy pedofil célokra módosítsák. Ezért az ilyen típusú kitettségnek véget kell vetni".
2025. január 8-án a dániai Randersben egy 29 éves férfi jelent meg a bíróságon egy újfajta ügyben. Néhány héttel korábban a rendőrök betörtek a lakásába, és a számítógép előtt találtak rá flagranti delicto: a képernyőn gyermekpornográfiát ábrázoló képek voltak, amelyek különlegessége az volt, hogy mesterséges intelligencia programmal készítették őket. A nyomozók 36 209 ilyen típusú képet találtak nála. Ez az egyetlen, a rendőrség számára ismeretlen férfi havonta több ezer képet generált, amelyeket díj ellenében kínált az interneten. A nyomozás során még azzal is dicsekedett, hogy a világ tíz legjobbja közé tartozik, és képes egyre valósághűbb képeket készíteni mindenféle korú gyerekekről.
A tárgyalás napján az ügyész megkérdezte tőle, hogy szerinte „jót cselekedett-e”. A férfi igennel válaszolt a dán közszolgálati TV 2 tudósítása szerint. "Azt hiszem, megakadályoztam, hogy néhány internetező valódi gyerekek fotóit nézegesse. És megakadályoztam, hogy valódi gyerekeket bántalmazzanak. Ha a gyermek nem valódi, akkor, ami engem illet, nem illegális”. Ez az érvelés nem tartotta távol a börtöntől, egy év és három hónap letöltendő büntetésre ítélték. Néhány ügyfelét is bevonták az Europol által vezetett nagyszabású művelet részeként, amely során 273 gyanúsítottat azonosítottak és 25-öt tartóztattak le 19 országban, köztük Franciaországban.
Míg ezen a területen még mindig ritkák a letartóztatások, az interneten egyre szaporodnak a mesterséges intelligencia segítségével létrehozott pedofil képek. "Ez egyre nagyobb problémát jelent számunkra, mivel a fenyegetés egyre nő és egyre gyorsul” - figyelmeztet Catherine De Bolle, az Europol ügyvezető igazgatója. Az ilyen képek elkészítéséhez "nem kell nagy szakértelem, nem kell gyerek, nem kell valódi erőszakot elkövetni. Mindössze egy számítógépre van szükség".
Nem lehet tudni, hogy mennyi ilyen tartalom kering az interneten, de számos mutatóval mérhető a jelenség fejlődése. A National Center for Missing & Exploited Children (NCMEC) az az amerikai szervezet, amelynek a technológiai cégek és magánszemélyek jelentik a gyermekbűnözéssel kapcsolatos online tartalmak jelenlétét vagy közzétételének kísérletét. "2023-ban 4700 MI-val kapcsolatos bejelentést kaptunk. Ez a szám 2024-ben 67 000-re emelkedett. A 2025-ös év első felében már több mint 485 000-nél tartunk. Ez tényleg robbanásszerűen növekszik" - panaszolja John Shehan, a gyermekbűnözés elleni műveletek vezetője. A brit Internet Watch Foundation nevű civil szervezet is észrevette a korábban igen ritka videós tartalmak terjedését. Az év eleje óta 1286 darabot azonosított, míg 2024-ben ugyanebben az időszakban kettőt.
"Összességében az ágazat valamennyi szakembere aggódik a fejlemények miatt” - jegyzi meg Alejandra Mariscal Lopez, a jelentéseket fogadó francia Point de Contact egyesület igazgatója. Bár ezek még mindig csak töredékét teszik ki az interneten elérhető több millió pedofil tartalomnak, „az elemzők egyre rendszeresebben találkoznak velük” - mondja. Korábban rögtön látták, hogy valamit mesterséges intelligencia hozott-e létre. Most már ezek a képek sokkal valósághűbbek". És némelyikük még szélsőségesebb.
Különböző típusú képek készülnek. Vannak olyan képek, amelyeket a semmiből hoztak létre, és olyan gyerekeket ábrázolnak, akik nem is léteznek - bár ez azt jelenti, hogy a programot valódi gyerekfotókon „képezték ki”. Mások valódi gyermekeket ábrázolnak: elég lehet egy közönséges fényképet átalakítani, például egy szülő közösségi hálózatából, hogy a gyermeket modellezzék, és beillesszék egy pedokriminális képbe. 2024 augusztusában egy 27 éves brit férfit 18 év börtönbüntetésre ítéltek, miután ilyen típusú tartalmakat készített: „ügyfelei” gyerekeket ábrázoló képeket adtak neki, néha a saját környezetükből, és azt a megbízást adták neki, hogy hozzon létre konkrét jeleneteket.
John Shehan, az NCMEC munkatársa kifejtette: "Az is előfordul, hogy magánszemélyek valódi pedofil képekhez jutnak hozzá, amelyeken valódi, bántalmazott gyermekek szerepelnek, és ezt felhasználva új, őket ábrázoló tartalmakat készítenek. Amikor már áldozatok, valaki új tartalmat hoz létre róluk: ez súlyosbítja a traumájukat".
Végül, egyre több a mesterséges intelligencia segítségével „levetkőztetett” gyermekek esete. Ezt a technikát a gyermekbűnözők, de a tinédzserek is alkalmazzák zaklatás esetén, valamint csalók is „szexzsarolás” céljából. Eddig a bűnözők az interneten keresztül vették fel a kapcsolatot kiskorúakkal, és szexuális képeket próbáltak szerezni tőlük, majd a képek közzétételével fenyegetőzve pénzt követeltek tőlük. Most már nincs szükségük arra, hogy a gyermek képet küldjön nekik; azt maguk is elkészíthetik.
Tehát ez határozottan nem áldozat nélküli bűncselekmény, ellentétben a dán vádlott védekezésével. Joëlle Sicamois, a bírósági ügyekben rendszeresen polgári félként fellépő Fondation pour l'enfance igazgatója felháborodott ezen az érvelésen: "A pedofil képek fogyasztói gyakran mondják, hogy ”nem ártottam a gyerekeknek, mert csak képeket néztem". A mesterséges intelligencia miatt a nevük tisztázásánál ráadásul azt mondhatják, hogy "ezek nem is valódi gyerekek!" De nem számít, hogy a képek valódiak vagy hamisak. Aláássák a gyermekek integritását, bagatellizálják a pedofil bűncselekményeket, és most már tudjuk, hogy a képek megtekintése és a bűncselekmény elkövetése között okozati összefüggés van.
Véronique Béchu idén nyár óta a kiskorúak elleni digitális erőszakot regisztráló e-Enfance Megfigyelőközpont igazgatója, korábban pedig az Office mineurs de la police judiciaire (Ofmin) stratégiai vezetője volt. Úgy véli, hogy néhány éven belül „a pedofil tartalmak túlnyomó többségét a mesterséges intelligencia fogja generálni”, de ettől még a többiek nem lesznek ritkábbak. "Ellenkezőleg: számuk növekedni fog, mivel a képek cselekvésre ösztönzik az embereket."
A rendőrök a mesterséges intelligencia által generált tartalmak elterjedésére számítanak, már csak a pedofil közösség működése miatt is. "Általában cserekereskedelemről van szó: a nagyon erőszakos tartalmak megszerzéséhez például azonos értékű tartalmakat kell tudni adni. Ha ezt nem tudod előállítani egy valódi gyerekkel, akkor megpróbálod mesterséges intelligenciával legenerálni. Ez a tartalom előállításának fokozódását, és ezáltal annak elbagatellizálódását jelenti. Sürgős cselekvésre van szükség, most kell fellépnünk ez ellen a jelenség ellen. Most az egyszer lehetőségünk van arra, hogy proaktívak legyünk, ne pedig reaktívak."
A nyomozókat elárasztják az MI által generált tartalmak, amelyek gyakran rendkívül valósághűek, és értékes időt pazarolnak el. "Ez nagyon megnehezíti számunkra a valódi áldozatok azonosítását, akiket meg kell védenünk” - panaszolja Catherine De Bolle, az Europol vezetője. Úgy véli, hogy a mesterséges intelligenciával készült képek áradata elavulttá tesz bizonyos rendszereket, mint például a Trace an Object, amely arra kéri az internetfelhasználókat, hogy azonosítsák a gyermekpornográf képeken megjelenő tárgyakat, amelyek segíthetnek az elkövető megtalálásában.
„Nincsenek meg a megfelelő eszközeink” - figyelmeztet Catherine De Bolle. Az Europolnak engedélyre lenne szüksége különösen ahhoz, hogy olyan mesterséges intelligencia-technológiákat használhasson, amelyek képesek felismerni a mesterséges intelligencia által generált tartalmakat, így megkímélve a nyomozókat a válogatás fáradságos feladatától. A kérelmet már benyújtották, de még jóvá kell hagyni, „és ez egy nagyon hosszú folyamat, akár két évig is eltarthat” - mutat rá. Normális dolog az elővigyázatosság, de gyorsabban kell történnie, mert így elveszítjük a lehetőséget, hogy az elkövetőket bíróság elé állítsuk".
Az intézményeknek gyakran túl sok időbe telik, amíg lépést tartanak a technológiai fejlődéssel. Franciaországban a büntető törvénykönyv 227-23. cikke bünteti a pedofil képek és ábrázolások megtekintését, birtoklását és terjesztését. Elméletileg ez a mesterséges intelligencia tartalmát is magában foglalja. Véronique Béchu, az e-Enfance munkatársa azonban úgy véli, hogy vannak hiányosságok: „Például az ilyen típusú tartalmak létrehozására szánt mesterséges intelligencia eszközök használata és értékesítése nem bűncselekmény”.
Az egyesület segítségével Xavier Iacovelli, Hauts-de-Seine képviselője törvényjavaslatot dolgozott ki a személyes adatok pedofil tartalmak létrehozására történő felhasználásának tiltására. Az egykori Ofmin-tag számára az intézkedés egyéni szinten azonnal meghozható. A szülőket szólítja meg: "Jelenleg a pedofil hálózatokon keringő tartalmak nagy része a szülők közösségi hálózatokra felöltött fotóiból származik. Nem szabad elfelejteni, hogy ez lehetőséget ad az embereknek arra, hogy ezeket a képeket gyermekek zsarolására használják, vagy pedofil célokra módosítsák. Ezért az ilyen típusú kitettségnek véget kell vetni".