SG.hu
Dollármilliókat kaszálnak az un. "meztelenítő” weboldalak
Emberek milliói látogatják a mesterséges intelligenciával működő "meztelenítő” weboldalakat. Egy új elemzés szerint ezek a honlapok hatalmas bevételt könyvelhetnek el.
Évek óta gombamód szaporodnak az úgynevezett „nudify” alkalmazások és weboldalak az interneten, amelyek lehetővé teszik, hogy az emberek nőkről és lányokról érzéketlen és visszaélésszerű képeket készítsenek, beleértve a gyermekek szexuális zaklatását ábrázoló anyagokat is. Annak ellenére, hogy egyes törvényhozók és technológiai cégek lépéseket tesznek a káros szolgáltatások korlátozására, havonta még mindig emberek milliói férnek hozzá ezekhez a weboldalakhoz, és az oldalak készítői évente dollármilliókat kereshetnek - derül ki egy új kutatásból.
A nudify és "undress" (levetkőztető) weboldalak lehetővé teszik az emberek számára, hogy fényképeket töltsenek fel, és a mesterséges intelligencia segítségével néhány kattintással „meztelen” képeket generáljanak az alanyokról. Kutatók 85 ilyen weblap elemzésével megállapították, hogy az oldalak többsége a Google, az Amazon és a Cloudflare szolgáltatásaira támaszkodik a működéshez és az online maradáshoz. A digitális megtévesztést vizsgáló Indicator című kiadvány által nyilvánosságra hozott eredmények szerint a weboldalaknak az elmúlt hat hónapban átlagosan 18,5 millió látogatójuk volt, és együttesen akár évi 36 millió dollárt is kereshetnek.
Alexios Mantzarlis, az Indicator társalapítója és biztonsági szakértő szerint a meztelenítő oldalak működtetése jövedelmező üzletággá vált, amelyet a „Szilícium-völgy laissez-faire megközelítése a generatív mesterséges intelligenciához tett lehetővé. "Be kellett volna szüntetniük mindenféle szolgáltatás nyújtását az MI nudifiereknek, amikor világossá vált, hogy az egyetlen felhasználási területük a szexuális zaklatás” - mondja Mantzarlis a technológiai vállalatokról. A kutatás szerint az Amazon és a Cloudflare a 85 weboldal közül 62-nek nyújt tárhely- vagy tartalomszolgáltatást, míg a Google bejelentkezési rendszerét 54 weboldalon használták. A meztelenítő weboldalak számos más, mainstream cégek által nyújtott szolgáltatást, például fizetési rendszereket is használnak.
Ryan Walsh, az Amazon Web Services szóvivője szerint az AWS-nek egyértelmű szolgáltatási feltételei vannak, amelyek megkövetelik az ügyfelektől a törvények betartását. "Amikor a feltételeink lehetséges megsértéséről kapunk bejelentést, gyorsan cselekszünk, hogy felülvizsgáljuk és lépéseket tegyünk a tiltott tartalmak letiltására” - mondja Walsh, hozzátéve, hogy az emberek jelenthetik a problémákat a biztonsági csapatoknak. "Néhány ilyen oldal megsérti a feltételeinket, és csapataink lépéseket tesznek a jogsértések kezelésére, valamint hosszabb távú megoldásokon dolgoznak” - mondja Karl Ryan, a Google szóvivője, rámutatva, hogy a Google bejelentkezési rendszere megköveteli a fejlesztőktől, hogy elfogadják a Google irányelveit, amelyek tiltják az illegális és a másokat zaklató tartalmakat.
A meztelenítő és vetkőztető weboldalak és botok 2019 óta virágoznak. Ezek eredetileg az első explicit „deepfake-ek” létrehozásához használt eszközökből és folyamatokból nőttek ki. Összekapcsolt cégek hálózatai jelentek meg az interneten, amelyek a technológiát kínálják és pénzt keresnek a rendszerekkel. Általánosságban elmondható, hogy a szolgáltatások mesterséges intelligenciát használnak arra, hogy a fotókat meztelen képi anyagokká alakítsák át beleegyezés nélkül, és általában a fotók létrehozásához felhasználható „kreditek” vagy előfizetések eladásával keresnek pénzt.
Ezen szolgáltatások terjedését az elmúlt néhány évben megjelent generatív mesterséges intelligenciával működő képgenerátorok hulláma gyorsította meg. Az ezek által generált képek rendkívül károsak. Jellemzően a közösségi médiából lopják le az alapul szolgáló fotókat és bántalmazó képek készítésére használják fel őket. A cyberbullying és a bántalmazás új formájaként világszerte tizenéves fiúk készítenek képeket osztálytársaikról. Az ilyen intim képekkel való visszaélés megrázó az áldozatok számára, és a képeket nehéz lehet kitörölni a világhálóról.
Az Indicator munkatársai különböző nyílt forráskódú eszközök és adatok, köztük a Built With weboldal-elemző eszköz segítségével vizsgálták meg a 85 weboldal infrastruktúráját és rendszereit. A tartalomszolgáltató hálózatokat, a tárhelyszolgáltatásokat, a domainnév-szolgáltatókat és a webmester-szolgáltatásokat a legnagyobb technológiai cégek, valamint néhány kisebb vállalkozás keveréke nyújtja. Az előfizetési költségeket, a becsült ügyfél-átváltási arányokat és az oldalak által a fizetési szolgáltatóknak küldött webes forgalmat kombináló számítások alapján a kutatók úgy becsülik, hogy a weboldalak közül 18 az elmúlt hat hónapban 2,6 és 18,4 millió dollár között keresett, ami évente körülbelül 36 millió dollárnak felelhet meg. (Megjegyzik, hogy ez valószínűleg óvatos becslés, mivel nem tartalmazza az összes olyan webhelyet és tranzakciót, amely a webhelyeken kívül zajlik, például a Telegramon).
A közelmúltban a Der Spiegel német médium által közölt, kiszivárgott adatok szerint az egyik prominens weboldal több millió dolláros költségvetéssel rendelkezhet. Egy másik weboldal saját maga közölte, hogy 2,6 millió dollárt keresett. A kutatás szerint a 10 leglátogatottabb oldalt leginkább az Egyesült Államokból látogatják, majd India, Brazília, Mexikó és Németország követi őket a sorban. Bár a keresőmotorok irányítják az embereket a nudify weboldalakra, egyre több látogató érkezik más online forrásokból is.
A meztelenítők annyira népszerűvé váltak, hogy orosz hackerek hamis, rosszindulatú szoftverekkel megspékelt verziókat hoztak létre. A legnagyobbak szponzorált videókat készítenek felnőtt művészekkel, és a weboldalak egyre gyakrabban használnak fizetett partner- és ajánlóprogramokat is. A meztelenítők viselkedésének elemzése azt jelzi, hogy a felnőttipar egy résébe kívánnak beágyazódni.
Jól ismert, hogy a techcégek lehetővé teszik a nudify platformok számára a rendszereik használatát. A tech-újságírók évek óta beszámolnak arról, hogy a deepfake-gazdaság hogyan használja a mainstream fizetési szolgáltatásokat, a közösségi média hirdetéseket, a keresőmotoros megjelenést és a nagyvállalatok technológiáját a működéséhez. Mégis kevés átfogó intézkedés történt.
"2019 óta a nudifikációs alkalmazások egy maroknyi alacsony minőségű mellékprojektből több millió felhasználóval rendelkező, professzionális illegális vállalkozásokká váltak” - mondja Henry Ajder deepfake szakértője, aki 2020-ban fedezte fel először a nudifikációs ökoszisztéma növekedését. "Csak akkor fogunk érdemi előrelépést látni abban, hogy megnehezítsük az ilyen alkalmazásokhoz való hozzáférést és a belőlük származó profitot, ha célzottan lépnek fel ellenük azok az vállalkozások, amelyek elősegítik a nudifikációs alkalmazások perverz ügyfélútját.”
Vannak arra utaló jelek, hogy a meztelenítő weboldalak frissítik taktikájukat és megközelítéseiket, hogy megpróbálják elkerülni az esetleges kitiltásokat. Ezek az oldalak leginkább a Google, az Apple és a Discord bejelentkezési rendszereit használták, az Indicator szerint 85 weboldalból 54 a Google-nél van. A weboldalak készítői lépéseket tettek annak érdekében, hogy elkerüljék a Google általi észlelést. A jelentés szerint egy „közvetítő webhelyet” használnának, hogy „más URL-nek adják ki magukat a regisztrációhoz”.
A technológiai vállalatok és a szabályozó hatóságok több mint egy évtizede, az első megjelenésük óta nem iparkodnak a visszaélésszerű hamisítványok elleni fellépéssel, de a közelmúltban történt némi elmozdulás. A Microsoft azonosította a hírességekkel kapcsolatos deepfake-ek mögött álló fejlesztőket, a Meta pedig pert indított egy olyan cég ellen, amely állítólag egy nudify alkalmazás mögött állt, és amely a Meta szerint többször is hirdetéseket tett közzé a platformján. Eközben az ellentmondásos Take It Down Act, amelyet Donald Trump amerikai elnök májusban írt alá törvényként, követelményeket támaszt a technológiai vállalatokkal szemben a nem konszenzuson alapuló képmásolás gyors eltávolítására, az Egyesült Királyság kormánya pedig illegálissá tette az explicit deepfake-ek létrehozását.
Ezek a lépések ugyan visszaszoríthatnak néhány meztelenítő és vetkőztető szolgáltatást, de átfogóbb fellépésre van szükség ezen káros iparág lelassításához. Mantzarlis szerint ha a technológiai vállalatok proaktívabbak lennének és szigorúbban érvényesítenék a szabályzataikat, a meztelenítők virágzási lehetőségei csökkennének. "Igen, ez a dolog át fog vándorolni az internet kevésbé szabályozott szegleteibe” - mondja Mantzarlis. "De ha ezeket a weboldalakat nehezebb felfedezni, elérni és használni, akkor a közönségük és a bevételeik is csökkenni fognak. Sajnos a generatív mesterséges intelligencia korszakának ezt a mérgező ajándékát nem lehet visszaadni. De minden bizonnyal drasztikusan csökkenthető a terjedelme."
Évek óta gombamód szaporodnak az úgynevezett „nudify” alkalmazások és weboldalak az interneten, amelyek lehetővé teszik, hogy az emberek nőkről és lányokról érzéketlen és visszaélésszerű képeket készítsenek, beleértve a gyermekek szexuális zaklatását ábrázoló anyagokat is. Annak ellenére, hogy egyes törvényhozók és technológiai cégek lépéseket tesznek a káros szolgáltatások korlátozására, havonta még mindig emberek milliói férnek hozzá ezekhez a weboldalakhoz, és az oldalak készítői évente dollármilliókat kereshetnek - derül ki egy új kutatásból.
A nudify és "undress" (levetkőztető) weboldalak lehetővé teszik az emberek számára, hogy fényképeket töltsenek fel, és a mesterséges intelligencia segítségével néhány kattintással „meztelen” képeket generáljanak az alanyokról. Kutatók 85 ilyen weblap elemzésével megállapították, hogy az oldalak többsége a Google, az Amazon és a Cloudflare szolgáltatásaira támaszkodik a működéshez és az online maradáshoz. A digitális megtévesztést vizsgáló Indicator című kiadvány által nyilvánosságra hozott eredmények szerint a weboldalaknak az elmúlt hat hónapban átlagosan 18,5 millió látogatójuk volt, és együttesen akár évi 36 millió dollárt is kereshetnek.
Alexios Mantzarlis, az Indicator társalapítója és biztonsági szakértő szerint a meztelenítő oldalak működtetése jövedelmező üzletággá vált, amelyet a „Szilícium-völgy laissez-faire megközelítése a generatív mesterséges intelligenciához tett lehetővé. "Be kellett volna szüntetniük mindenféle szolgáltatás nyújtását az MI nudifiereknek, amikor világossá vált, hogy az egyetlen felhasználási területük a szexuális zaklatás” - mondja Mantzarlis a technológiai vállalatokról. A kutatás szerint az Amazon és a Cloudflare a 85 weboldal közül 62-nek nyújt tárhely- vagy tartalomszolgáltatást, míg a Google bejelentkezési rendszerét 54 weboldalon használták. A meztelenítő weboldalak számos más, mainstream cégek által nyújtott szolgáltatást, például fizetési rendszereket is használnak.
Ryan Walsh, az Amazon Web Services szóvivője szerint az AWS-nek egyértelmű szolgáltatási feltételei vannak, amelyek megkövetelik az ügyfelektől a törvények betartását. "Amikor a feltételeink lehetséges megsértéséről kapunk bejelentést, gyorsan cselekszünk, hogy felülvizsgáljuk és lépéseket tegyünk a tiltott tartalmak letiltására” - mondja Walsh, hozzátéve, hogy az emberek jelenthetik a problémákat a biztonsági csapatoknak. "Néhány ilyen oldal megsérti a feltételeinket, és csapataink lépéseket tesznek a jogsértések kezelésére, valamint hosszabb távú megoldásokon dolgoznak” - mondja Karl Ryan, a Google szóvivője, rámutatva, hogy a Google bejelentkezési rendszere megköveteli a fejlesztőktől, hogy elfogadják a Google irányelveit, amelyek tiltják az illegális és a másokat zaklató tartalmakat.
A meztelenítő és vetkőztető weboldalak és botok 2019 óta virágoznak. Ezek eredetileg az első explicit „deepfake-ek” létrehozásához használt eszközökből és folyamatokból nőttek ki. Összekapcsolt cégek hálózatai jelentek meg az interneten, amelyek a technológiát kínálják és pénzt keresnek a rendszerekkel. Általánosságban elmondható, hogy a szolgáltatások mesterséges intelligenciát használnak arra, hogy a fotókat meztelen képi anyagokká alakítsák át beleegyezés nélkül, és általában a fotók létrehozásához felhasználható „kreditek” vagy előfizetések eladásával keresnek pénzt.
Ezen szolgáltatások terjedését az elmúlt néhány évben megjelent generatív mesterséges intelligenciával működő képgenerátorok hulláma gyorsította meg. Az ezek által generált képek rendkívül károsak. Jellemzően a közösségi médiából lopják le az alapul szolgáló fotókat és bántalmazó képek készítésére használják fel őket. A cyberbullying és a bántalmazás új formájaként világszerte tizenéves fiúk készítenek képeket osztálytársaikról. Az ilyen intim képekkel való visszaélés megrázó az áldozatok számára, és a képeket nehéz lehet kitörölni a világhálóról.
Az Indicator munkatársai különböző nyílt forráskódú eszközök és adatok, köztük a Built With weboldal-elemző eszköz segítségével vizsgálták meg a 85 weboldal infrastruktúráját és rendszereit. A tartalomszolgáltató hálózatokat, a tárhelyszolgáltatásokat, a domainnév-szolgáltatókat és a webmester-szolgáltatásokat a legnagyobb technológiai cégek, valamint néhány kisebb vállalkozás keveréke nyújtja. Az előfizetési költségeket, a becsült ügyfél-átváltási arányokat és az oldalak által a fizetési szolgáltatóknak küldött webes forgalmat kombináló számítások alapján a kutatók úgy becsülik, hogy a weboldalak közül 18 az elmúlt hat hónapban 2,6 és 18,4 millió dollár között keresett, ami évente körülbelül 36 millió dollárnak felelhet meg. (Megjegyzik, hogy ez valószínűleg óvatos becslés, mivel nem tartalmazza az összes olyan webhelyet és tranzakciót, amely a webhelyeken kívül zajlik, például a Telegramon).
A közelmúltban a Der Spiegel német médium által közölt, kiszivárgott adatok szerint az egyik prominens weboldal több millió dolláros költségvetéssel rendelkezhet. Egy másik weboldal saját maga közölte, hogy 2,6 millió dollárt keresett. A kutatás szerint a 10 leglátogatottabb oldalt leginkább az Egyesült Államokból látogatják, majd India, Brazília, Mexikó és Németország követi őket a sorban. Bár a keresőmotorok irányítják az embereket a nudify weboldalakra, egyre több látogató érkezik más online forrásokból is.
A meztelenítők annyira népszerűvé váltak, hogy orosz hackerek hamis, rosszindulatú szoftverekkel megspékelt verziókat hoztak létre. A legnagyobbak szponzorált videókat készítenek felnőtt művészekkel, és a weboldalak egyre gyakrabban használnak fizetett partner- és ajánlóprogramokat is. A meztelenítők viselkedésének elemzése azt jelzi, hogy a felnőttipar egy résébe kívánnak beágyazódni.
Jól ismert, hogy a techcégek lehetővé teszik a nudify platformok számára a rendszereik használatát. A tech-újságírók évek óta beszámolnak arról, hogy a deepfake-gazdaság hogyan használja a mainstream fizetési szolgáltatásokat, a közösségi média hirdetéseket, a keresőmotoros megjelenést és a nagyvállalatok technológiáját a működéséhez. Mégis kevés átfogó intézkedés történt.
"2019 óta a nudifikációs alkalmazások egy maroknyi alacsony minőségű mellékprojektből több millió felhasználóval rendelkező, professzionális illegális vállalkozásokká váltak” - mondja Henry Ajder deepfake szakértője, aki 2020-ban fedezte fel először a nudifikációs ökoszisztéma növekedését. "Csak akkor fogunk érdemi előrelépést látni abban, hogy megnehezítsük az ilyen alkalmazásokhoz való hozzáférést és a belőlük származó profitot, ha célzottan lépnek fel ellenük azok az vállalkozások, amelyek elősegítik a nudifikációs alkalmazások perverz ügyfélútját.”
Vannak arra utaló jelek, hogy a meztelenítő weboldalak frissítik taktikájukat és megközelítéseiket, hogy megpróbálják elkerülni az esetleges kitiltásokat. Ezek az oldalak leginkább a Google, az Apple és a Discord bejelentkezési rendszereit használták, az Indicator szerint 85 weboldalból 54 a Google-nél van. A weboldalak készítői lépéseket tettek annak érdekében, hogy elkerüljék a Google általi észlelést. A jelentés szerint egy „közvetítő webhelyet” használnának, hogy „más URL-nek adják ki magukat a regisztrációhoz”.
A technológiai vállalatok és a szabályozó hatóságok több mint egy évtizede, az első megjelenésük óta nem iparkodnak a visszaélésszerű hamisítványok elleni fellépéssel, de a közelmúltban történt némi elmozdulás. A Microsoft azonosította a hírességekkel kapcsolatos deepfake-ek mögött álló fejlesztőket, a Meta pedig pert indított egy olyan cég ellen, amely állítólag egy nudify alkalmazás mögött állt, és amely a Meta szerint többször is hirdetéseket tett közzé a platformján. Eközben az ellentmondásos Take It Down Act, amelyet Donald Trump amerikai elnök májusban írt alá törvényként, követelményeket támaszt a technológiai vállalatokkal szemben a nem konszenzuson alapuló képmásolás gyors eltávolítására, az Egyesült Királyság kormánya pedig illegálissá tette az explicit deepfake-ek létrehozását.
Ezek a lépések ugyan visszaszoríthatnak néhány meztelenítő és vetkőztető szolgáltatást, de átfogóbb fellépésre van szükség ezen káros iparág lelassításához. Mantzarlis szerint ha a technológiai vállalatok proaktívabbak lennének és szigorúbban érvényesítenék a szabályzataikat, a meztelenítők virágzási lehetőségei csökkennének. "Igen, ez a dolog át fog vándorolni az internet kevésbé szabályozott szegleteibe” - mondja Mantzarlis. "De ha ezeket a weboldalakat nehezebb felfedezni, elérni és használni, akkor a közönségük és a bevételeik is csökkenni fognak. Sajnos a generatív mesterséges intelligencia korszakának ezt a mérgező ajándékát nem lehet visszaadni. De minden bizonnyal drasztikusan csökkenthető a terjedelme."