SG.hu
Jogilag szürke terület másokról meztelen képeket generálni
Míg a kiskorúakat ábrázoló pornográf tartalom terjesztése illegális, addig a kiskorúak jellemzőinek bevitele egy felnőttek által készített pornográf képbe egy olyan szürke jogi terület, amely próbára teszi a nemzeti büntető törvénykönyvek rugalmasságát.
Egyre gyakoribbak az interneten a meztelen emberekről készült mélyhamisítványok, un. deepfake képek, mivel az ezek létrehozásához szükséges eszközök egyre könnyebben hozzáférhetők, a jogszabályok azonban erősen lemaradásban vannak az ilyen anyagok szabályozásában. A deepfake-ek olyan szintetizált vizuális tartalmak, amelyek célja az ábrázolt személyek személyazonosságának felcserélése vagy megváltoztatása. Ilyenek számos céllal hozhatók létre, a szórakoztatástól a dezinformációig. Múlt hónapban például Tom Hanks hollywoodi színész figyelmeztette Instagram-követőit, hogy van egy "videó, amely valamilyen fogászati kezelést népszerűsít, amelyben az én mesterséges intelligenciám szerepel. Semmi közöm hozzá".
Az áldozatok számára - akiknek a személyazonosságát általában beleegyezésük nélkül használják fel szexuális tartalmakban, az élmény traumatizáló - és az életüket megváltoztató - esemény lehet. Még májusban egy mélyen hamisított pornográf videó miatt Muharrem Ince, Törökország egyik politikusa kénytelen volt visszavonni indulását. A videó egy izraeli pornóoldal felvételeinek felhasználásával készült. A technológiával való visszaélés hatásai még súlyosabbak, ha kiskorúakról van szó: ugyanebben a hónapban Spanyolországban több mint 20 tinédzser lány kapott magáról MI által generált meztelen képeket melyek az Instagram-fiókjaikban lévő olyan képek alapján készültek, amelyeken teljesen fel voltak öltözve.
A brit Internet Watch Foundation (IWF) októberben közzétett kutatási jelentése szerint a mesterséges intelligenciát egyre gyakrabban használják a gyermekek szexuális zaklatását bemutató anyagok (CSAM) mélyhamisításainak létrehozására. "Ezek mondhatni mindenütt jelen vannak, és viszonylag könnyen előállíthatók" - mondta Matthew Green, a Johns Hopkins Whiting School of Engineering informatikai tanszékének docense. A "mindenhol" magában foglalhatja a nem kifejezetten ilyen típusú tartalomra készült MI-weboldalakat is - mondta Green. Susie Hargreaves, az IWF vezérigazgatója azt is elmondta, hogy "az év elején arra figyelmeztettünk, hogy a mesterséges intelligenciával készült képek hamarosan megkülönböztethetetlenné válhatnak a szexuális visszaélést elszenvedő gyermekek valódi képeitől, és hogy idővel ezek a képek sokkal nagyobb számban fognak elterjedni. Most ezen a ponton már túl vagyunk" - mondta.
Az Európai Bizottság 2022 márciusában a számítógépes bűnözésről szóló irányelvben javasolta az ilyen típusú bűncselekmények büntethetővé tételét, de Európában a holland büntető törvénykönyv az egyetlen, amely kezeli ezt a kérdést. A holland jogszabályban "van egy olyan terminológia, amellyel a valódi és a nem valódi gyermekpornográfiát is le lehet fedni" - mondta Evert Stamhuis, a rotterdami Erasmus School of Law jogi professzora. Ez egy "széles körű és inkluzív bűncselekmény-leírás" - mondta. Stamhuis szerint a holland bíróságok mindig megpróbálják úgy értelmezni a terminológiát, hogy az új jelenségekre, például a gyermekekkel való szexuális visszaélést bemutató mélyhamisított anyagokra is kiterjedjen, "amíg az lehetséges. De mindig van egy pont, amikor már nem lehetséges." Tapasztalatai szerint azonban ez továbbra is ritka. Még ha egy törvény elavult is, "ugyanaz a fajta kár, amelyet a jogalkotók a hagyományos megközelítéssel akartak kezelni, az új körülmények között is előfordul."
Spanyolországban a mesterséges intelligencia által generált fotók egy részét a lányok osztálytársai készítették. Az elkövetett bűncselekmény szempontjából nincs különbség, hogy fiatalkorú vagy felnőtt készít ilyen anyagot, de a büntetőeljárás szempontjából hatalmas az eltérés. A holland büntető törvénykönyv azonban kivétel, nem pedig szabály a kérdés kezelésére való képességét illetően. Manuel Cancio, a Madridi Autonóm Egyetem büntetőjogi professzora szerint a kérdés Spanyolországban és számos más európai jogi keretben is tisztázatlan. "Mivel a kép generált, a jog szerint az érintett személy tényleges magánéletét nem érinti. Azonban a hatása az áldozatra nagyon hasonló lehet, mint egy valódi meztelen képé, de a törvény egy lépéssel hátrébb van" - mondta Cancio.
Deborah Denis, a Lucy Faithfull Foundation, a gyermekek szexuális zaklatásának megelőzését célzó, az Egyesült Királyságban működő jótékonysági szervezet vezérigazgatója szerint "egyesek talán azzal próbálják igazolni tettüket, hogy a mesterséges intelligenciával generált, gyermekekről készült szexuális képek kevésbé károsak, de ez nem igaz". "A mesterséges intelligencia által generált, gyermekek szexuális zaklatásával kapcsolatos anyagok megosztása a legtöbb tagállamban bűncselekménynek minősül" - szögezte le az EU bűnüldöző szerve, az Europol, hozzátéve, hogy "a spanyol hatóságok tájékoztatták őket az ügyről, de nem kértek tőlünk támogatást".
Ugyanakkor az EU gyermekpornográfiáról szóló irányelve elég rugalmas lehet ahhoz, hogy a kiskorúakat illetően foglalkozzon az új jelenséggel, mivel az irányelv hatálya alá tartozik "minden olyan anyag, amely vizuálisan olyan személyt ábrázol, aki gyermeknek látszik, és valós vagy szimulált szexuálisan egyértelmű magatartást folytat, vagy olyan személy nemi szerveit ábrázolja, aki gyermeknek látszik, és amely elsősorban szexuális célokat szolgál". Szintén uniós szinten a politikai döntéshozók jelenleg tárgyalnak a mesterséges intelligenciáról szóló törvényről, amely a mélyhamisítványokat létrehozó rendszerekre vonatkozó átláthatósági kötelezettségeket is tartalmazhat, például vízjelek feltüntetését, amelyek egyértelműen jelzik, hogy egy képet manipuláltak.
A bűnüldöző szerveknek azonban nehéz dolguk van a gyanús tartalmak felderítésében a naponta több milliárd online megosztott kép és videó között. "A kiskorúakról készült, mesterséges intelligenciával készített meztelen képek terjesztése már egy ideje aggodalomra ad okot a bűnüldöző szervek számára, és ez a probléma minden bizonnyal egyre nehezebben kezelhető lesz" - közölte az Europol. A bűnüldöző ügynökség szóvivője hozzátette, hogy a mesterséges intelligenciával létrehozott anyagokat mesterséges intelligencia-osztályozó eszközökkel lehet felismerni, de jelenleg nincs felhatalmazásuk arra, hogy osztályozóeszközöket használjanak erre a konkrét célra.
A gyermekek szexuális zaklatására szolgáló anyagok felderítését célzó technológiák csak körülbelül 80 százalékos pontosságúak, és a sikerességi arány várhatóan csökkenni fog a technológia fejlődésével. Stamhuis szerint "a szoftverfejlesztés és -gyártás tudása a nagy technológiai cégeknél van", amelyek a nagy közösségi médiaplatformok tulajdonosaiként is működnek, így közvetve ők profitálhatnak abból, ha egy felvétel vírusként terjed.
Egyre gyakoribbak az interneten a meztelen emberekről készült mélyhamisítványok, un. deepfake képek, mivel az ezek létrehozásához szükséges eszközök egyre könnyebben hozzáférhetők, a jogszabályok azonban erősen lemaradásban vannak az ilyen anyagok szabályozásában. A deepfake-ek olyan szintetizált vizuális tartalmak, amelyek célja az ábrázolt személyek személyazonosságának felcserélése vagy megváltoztatása. Ilyenek számos céllal hozhatók létre, a szórakoztatástól a dezinformációig. Múlt hónapban például Tom Hanks hollywoodi színész figyelmeztette Instagram-követőit, hogy van egy "videó, amely valamilyen fogászati kezelést népszerűsít, amelyben az én mesterséges intelligenciám szerepel. Semmi közöm hozzá".
Az áldozatok számára - akiknek a személyazonosságát általában beleegyezésük nélkül használják fel szexuális tartalmakban, az élmény traumatizáló - és az életüket megváltoztató - esemény lehet. Még májusban egy mélyen hamisított pornográf videó miatt Muharrem Ince, Törökország egyik politikusa kénytelen volt visszavonni indulását. A videó egy izraeli pornóoldal felvételeinek felhasználásával készült. A technológiával való visszaélés hatásai még súlyosabbak, ha kiskorúakról van szó: ugyanebben a hónapban Spanyolországban több mint 20 tinédzser lány kapott magáról MI által generált meztelen képeket melyek az Instagram-fiókjaikban lévő olyan képek alapján készültek, amelyeken teljesen fel voltak öltözve.
A brit Internet Watch Foundation (IWF) októberben közzétett kutatási jelentése szerint a mesterséges intelligenciát egyre gyakrabban használják a gyermekek szexuális zaklatását bemutató anyagok (CSAM) mélyhamisításainak létrehozására. "Ezek mondhatni mindenütt jelen vannak, és viszonylag könnyen előállíthatók" - mondta Matthew Green, a Johns Hopkins Whiting School of Engineering informatikai tanszékének docense. A "mindenhol" magában foglalhatja a nem kifejezetten ilyen típusú tartalomra készült MI-weboldalakat is - mondta Green. Susie Hargreaves, az IWF vezérigazgatója azt is elmondta, hogy "az év elején arra figyelmeztettünk, hogy a mesterséges intelligenciával készült képek hamarosan megkülönböztethetetlenné válhatnak a szexuális visszaélést elszenvedő gyermekek valódi képeitől, és hogy idővel ezek a képek sokkal nagyobb számban fognak elterjedni. Most ezen a ponton már túl vagyunk" - mondta.
Az Európai Bizottság 2022 márciusában a számítógépes bűnözésről szóló irányelvben javasolta az ilyen típusú bűncselekmények büntethetővé tételét, de Európában a holland büntető törvénykönyv az egyetlen, amely kezeli ezt a kérdést. A holland jogszabályban "van egy olyan terminológia, amellyel a valódi és a nem valódi gyermekpornográfiát is le lehet fedni" - mondta Evert Stamhuis, a rotterdami Erasmus School of Law jogi professzora. Ez egy "széles körű és inkluzív bűncselekmény-leírás" - mondta. Stamhuis szerint a holland bíróságok mindig megpróbálják úgy értelmezni a terminológiát, hogy az új jelenségekre, például a gyermekekkel való szexuális visszaélést bemutató mélyhamisított anyagokra is kiterjedjen, "amíg az lehetséges. De mindig van egy pont, amikor már nem lehetséges." Tapasztalatai szerint azonban ez továbbra is ritka. Még ha egy törvény elavult is, "ugyanaz a fajta kár, amelyet a jogalkotók a hagyományos megközelítéssel akartak kezelni, az új körülmények között is előfordul."
Spanyolországban a mesterséges intelligencia által generált fotók egy részét a lányok osztálytársai készítették. Az elkövetett bűncselekmény szempontjából nincs különbség, hogy fiatalkorú vagy felnőtt készít ilyen anyagot, de a büntetőeljárás szempontjából hatalmas az eltérés. A holland büntető törvénykönyv azonban kivétel, nem pedig szabály a kérdés kezelésére való képességét illetően. Manuel Cancio, a Madridi Autonóm Egyetem büntetőjogi professzora szerint a kérdés Spanyolországban és számos más európai jogi keretben is tisztázatlan. "Mivel a kép generált, a jog szerint az érintett személy tényleges magánéletét nem érinti. Azonban a hatása az áldozatra nagyon hasonló lehet, mint egy valódi meztelen képé, de a törvény egy lépéssel hátrébb van" - mondta Cancio.
Deborah Denis, a Lucy Faithfull Foundation, a gyermekek szexuális zaklatásának megelőzését célzó, az Egyesült Királyságban működő jótékonysági szervezet vezérigazgatója szerint "egyesek talán azzal próbálják igazolni tettüket, hogy a mesterséges intelligenciával generált, gyermekekről készült szexuális képek kevésbé károsak, de ez nem igaz". "A mesterséges intelligencia által generált, gyermekek szexuális zaklatásával kapcsolatos anyagok megosztása a legtöbb tagállamban bűncselekménynek minősül" - szögezte le az EU bűnüldöző szerve, az Europol, hozzátéve, hogy "a spanyol hatóságok tájékoztatták őket az ügyről, de nem kértek tőlünk támogatást".
Ugyanakkor az EU gyermekpornográfiáról szóló irányelve elég rugalmas lehet ahhoz, hogy a kiskorúakat illetően foglalkozzon az új jelenséggel, mivel az irányelv hatálya alá tartozik "minden olyan anyag, amely vizuálisan olyan személyt ábrázol, aki gyermeknek látszik, és valós vagy szimulált szexuálisan egyértelmű magatartást folytat, vagy olyan személy nemi szerveit ábrázolja, aki gyermeknek látszik, és amely elsősorban szexuális célokat szolgál". Szintén uniós szinten a politikai döntéshozók jelenleg tárgyalnak a mesterséges intelligenciáról szóló törvényről, amely a mélyhamisítványokat létrehozó rendszerekre vonatkozó átláthatósági kötelezettségeket is tartalmazhat, például vízjelek feltüntetését, amelyek egyértelműen jelzik, hogy egy képet manipuláltak.
A bűnüldöző szerveknek azonban nehéz dolguk van a gyanús tartalmak felderítésében a naponta több milliárd online megosztott kép és videó között. "A kiskorúakról készült, mesterséges intelligenciával készített meztelen képek terjesztése már egy ideje aggodalomra ad okot a bűnüldöző szervek számára, és ez a probléma minden bizonnyal egyre nehezebben kezelhető lesz" - közölte az Europol. A bűnüldöző ügynökség szóvivője hozzátette, hogy a mesterséges intelligenciával létrehozott anyagokat mesterséges intelligencia-osztályozó eszközökkel lehet felismerni, de jelenleg nincs felhatalmazásuk arra, hogy osztályozóeszközöket használjanak erre a konkrét célra.
A gyermekek szexuális zaklatására szolgáló anyagok felderítését célzó technológiák csak körülbelül 80 százalékos pontosságúak, és a sikerességi arány várhatóan csökkenni fog a technológia fejlődésével. Stamhuis szerint "a szoftverfejlesztés és -gyártás tudása a nagy technológiai cégeknél van", amelyek a nagy közösségi médiaplatformok tulajdonosaiként is működnek, így közvetve ők profitálhatnak abból, ha egy felvétel vírusként terjed.