A mesterséges intelligencia által létrehozott, a gyermekek szexuális zaklatásáról készült képek egyre „jelentősen valósághűbbek” - állítja egy online biztonságot felügyelő szervezet.

Az Internet Watch Foundation (IWF) szerint a mesterséges intelligencia fejlődése a pedofilok által létrehozott és fogyasztott illegális tartalmakban is megmutatkozik: "2024-ben az MI által generált videók minősége exponenciálisan javult, és a technológia fejlődésével az MI által létrehozott minden típusú képi anyag jelentősen valósághűbbnek tűnik”. Az IWF éves jelentésében feltárta, hogy 2024-ben 245 olyan, mesterséges intelligenciával generált, gyermekekkel szembeni szexuális visszaélést ábrázoló képi anyagról érkezett hozzájuk jelentés, amely megszegte az Egyesült Királyság törvényeit - ez 380%-os növekedést jelent a 2023-as 51-hez képest.

E képek legnagyobb része „A” kategóriájú anyag volt, amely a gyermekek szexuális zaklatásának legszélsőségesebb típusú, átható szexuális tevékenységet vagy szadizmust tartalmazó tartalmát jelenti. Ez az IWF által látott ilyen MI-anyagok 39%-át tette ki.

A brit kormány februárban bejelentette, hogy illegálissá válik a gyermekek szexuális zaklatására alkalmas mesterséges intelligencia eszközök birtoklása, létrehozása vagy terjesztése, ezzel bezárva egy olyan jogi kiskaput, amely riadalmat keltett a rendőrség és az online biztonságért küzdő aktivisták körében. Az is illegálissá válik, ha valaki olyan útmutatót birtokol, amelyek megtanítják az embereket arra, hogyan használják a mesterséges intelligencia eszközeit bántalmazó képeket készítésére, vagy hogy bárki segítsen másoknak ilyenek előállításában.

Az IWF - amely forródrótot működtet az Egyesült Királyságban, de globális hatáskörrel rendelkezik - szerint a mesterséges intelligenciával előállított képek egyre gyakrabban jelennek meg a nyílt interneten, azaz nem csak a „sötét weben” - az internet egy olyan területén, amelyhez csak speciális (tor) böngészőkkel lehet hozzáférni. A szervezet szerint a legmeggyőzőbb mesterséges intelligencia által generált anyagok még az IWF képzett elemzői számára is megkülönböztethetetlenek lehetnek a valódi képektől és videóktól.

A megfigyelőszerv éves jelentésében azt is közölte, hogy 2024-ben rekordszámú weboldal fogadja a gyermekek szexuális zaklatását ábrázoló képeket. Hollandiában történik a világon a legtöbb visszaélés (29%, 83 037 azonosított URL), a legnagyobb, 8000%-os növekedéssel pedig Lengyelország az ötödik helyre tört előre a tárhelyek uniós listáján. Az IWF elemzői szerint ez leginkább egy problémás weboldalnak tudható be, ahol nagy mennyiségű bűnügyi anyag került fel lengyelországi szerverekre. Az IWF szerint tavaly 291 273 bejelentés érkezett gyermekek szexuális zaklatásáról készült képekről, ami 6%-os növekedést jelent 2023-hoz képest. A jelentésekben szereplő áldozatok többsége lány volt.


Az IWF azt is bejelentette, hogy egy új biztonsági eszközt bocsát a kisebb weboldalak rendelkezésére ingyenesen, hogy segítsen nekik felismerni és megelőzni a visszaélésekkel kapcsolatos anyagok terjedését a platformjaikon. Az Image Intercept nevű eszköz képes felismerni és blokkolni azokat a képeket, amelyek benne vannak az IWF 2,8 millió, digitálisan bűnügyi képként megjelölt fotót tartalmazó adatbázisában. A felügyeleti hatóság szerint ez segíthet a kisebb platformoknak megfelelni az újonnan bevezetett online biztonsági törvénynek, amely rendelkezéseket tartalmaz a gyermekek védelméről és az illegális tartalmak, például a gyermekek szexuális zaklatását tartalmazó anyagok elleni küzdelemről. Derek Ray-Hill, az IWF vezérigazgatója szerint az eszköz szabadon hozzáférhetővé tétele „jelentős lépés az online biztonság terén”.

A brit technológiai miniszter, Peter Kyle szerint a mesterséges intelligencia által generált visszaélések és a szexuális tartalmakkal való zsarolás - ahol a gyerekeket intim képek küldésével veszik rá dolgokra - terjedése azt mutatja, hogy „a fiatalokat fenyegető online fenyegetések folyamatosan fejlődnek”. Úgy vélte, az új képazonosító eszköz „erőteljes példája annak, hogy az innováció hogyan lehet a megoldás része abban, hogy az online tereket biztonságosabbá tegyük a gyermekek számára”.