A mesterséges intelligencia alkalmazások, amelyek hamis meztelen fotókat generálnak, és egyéb adatvédelmi aggályok miatt a gyerekek képeinek kirakása sokkal kockázatosabbá vált, mint néhány évvel ezelőtt.

A szülők évtizedek óta vitatkoznak a gyermekeikről készült fotók online közzétételének kockázatairól és előnyeiről - körülbelül amióta léteznek a fotómegosztó oldalak. De a közösségi hálózatoknak a társadalom szövetébe való beépüléssel együtt az ilyenfajta megosztás normává vált. Tanulmányok szerint csak a szülők negyede nem osztja meg gyermekeinek fotóit az interneten, attól tartva, hogy az online ragadozók és a cégek begyűjthetik személyes adataikat. De egyes szülőket egy újabb fenyegetés késztette a „soha nem posztolok” táborhoz való csatlakozásra: olyan alkalmazások, amelyek generatív mesterséges intelligenciával, a népszerű csevegőrobotokat működtető technológiával automatikusan deepfake meztelen fotókat generálnak bárki arcával.

Az úgynevezett nudifier alkalmazások egyszerűek és olcsók, bárki használhatja őket, néhányuk még ingyenes próbaverziót is kínál. Ezeket az alkalmazásokat széles körben használják a diákok az iskolákban, és az áldozatok számára az, hogy mesterségesen generált meztelen fotóik nyilvánosságra kerültek, ugyanolyan traumatikus élmény, mintha a fotók valódiak lennének. Bár egyes országokban a törvények bűncselekménynek minősítik a nem konszenzusos hamis meztelen fotók online közzétételét, semmi sem akadályozza meg az embereket abban, hogy használják a nudifier alkalmazásokat, amelyek nagyon elterjedtek az interneten. Több tucat nudifier webhely évente több millió dollárt bevételt termel.

"Mindenhol ott vannak” - mondta Alexios Mantzarlis, az Indicator technológiai kiadvány alapítója, amely 85 nudifier weboldalt vizsgált meg. "Bármelyik gyerek, aki hozzáfér az internethez, lehet áldozat vagy elkövető.” Az MI deepfake-ek mellett a fotók közzétételével további kockázatok is járnak - például a fiatalok érzékeny személyes adatainak rosszindulatú személyek számára való potenciális kiszolgáltatása -, amelyek elriaszthatják a szülőket. Persze a családi fotók közzététele személyes döntés, ezért ez a cikk nem ítéli el azokat a szülőket, akik fotókat tesznek közzé. Inkább ez legyen egy útmutató arra, hogy mit kell figyelembe venni, amikor a szülők gyermekek fotóit teszik közzé az interneten.

A valódi emberekről készült hamis meztelen fotók nem új keletűek. A fotószerkesztő alkalmazások, mint például az Adobe Photoshop, képesek az ilyen fotókat valósághű képekké alakítani. Mivel azonban korábban a meggyőző hamisítványok elkészítése sok időt és szakértelmet igényelt, az áldozatok általában hírességek voltak. Az MI-alapú meztelenítő alkalmazások megváltoztatták a helyzetet. A visszaélőknek csak egy weboldalt kell felkeresniük és feltölteniük az áldozatuk képét. A meztelenítő alkalmazások gyakran elfogadnak hitelkártyás fizetést vagy kriptovalutát cserébe a hamis meztelen képek előállításához szükséges virtuális tokenekért.

Bár a törvény előírja a közösségi oldalaknak, hogy távolítsák el a sértő képeket, nem tiltja meg a vállalkozásoknak, hogy maguk kínáljanak hasonló alkalmazásokat. A Snap, a TikTok és a Meta közösségi média cégek tiltják a nudifikátorok reklámozását az alkalmazásaikban, de az ilyen alkalmazások készítőinek többsége harmadik országban található. Más szavakkal, bárki könnyen használhat nudifikátor alkalmazást egy gyermeken, és megtarthatja a fotókat, és senki sem fogja megtudni. Sokan töltenek fel fotókat ezekbe a nudifier alkalmazásokba, amelyek évente körülbelül 36 millió dollár bevételt hoznak a szoftvert kínáló cégeknek - mondta Mantzarlis, aki becslését egy sor weboldal forgalmi adataira alapozta.

Az MI pornóalkalmazások ellen a Meta tett már lépéseket. Júniusban a vállalat Hongkongban pert indított egy ottani fejlesztő ellen, aki különböző mesterséges intelligenciával működő meztelenítő alkalmazásokat fejlesztett, és sikerült kijátszania a Meta hirdetésfelismerő technológiáit, hogy szoftvereit az Instagramon és a Facebookon népszerűsítse. A Meta szóvivője elmondta, hogy a vállalat megosztotta a szabálysértő alkalmazásokkal és weboldalakkal kapcsolatos információkat a Tech Coalition Lantern Programmal, egy olyan vállalatcsoporttal, amelynek tagjai között van a Google és a Microsoft is, és amelynek célja a gyermekek védelme az online szexuális visszaélésektől.

A tetteseknek azonban csak egy nudifier webhely nevét kell tudniuk, hogy böngészőn keresztül elérjék azt, és az iskolákban a diákok ismerik a népszerű webhelyeket - mondta Josh Golin, a Fairplay for Kids ügyvezető igazgatója, egy nonprofit szervezet, amely a gyermekek káros médiától való védelmét tűzte ki célul. "Azok a tanárok és iskolai vezetők, akikkel beszéltem, azt mondják, hogy ez folyamatosan előfordul az iskoláikban, a gyerekek hamis meztelen képeket készítenek” - mondta. Bár az új törvények megnehezíthetik a bántalmazók számára a deepfake-ek másokkal való megosztását, sok áldozat számára a kár már megtörtént.


Azok a szülők, akik szeretnék megosztani gyermekeik fotóit a közösségi médiában, jelentősen csökkenthetik a kockázatot azzal, hogy a fotókat csak olyan fiókon teszik közzé, amelyet csak a közeli barátok és családtagok láthatnak. De ennek is vannak korlátai. A gyermekek szexuális bántalmazói általában ismerik az áldozatot, így egy Instagram-követő is lehet a tettes, aki hozzáfér a profilhoz - mondta Sarah Gardner, a gyermekek biztonságáért küzdő Heat Initiative alapítója. "Az, hogy privát fiókod van, nem jelenti azt, hogy valaki, akit ismersz, nem fogja ellopni a fotóidat, és nem fog velük rosszindulatú dolgokat csinálni” – mondta.

Az MI-alapú deepfake-eken kívül még mindig vannak olyan régi típusú fenyegetések, mint például az identitáslopás. Egy gyermek születésnapi partyja olyan mérföldkőnek tűnhet, amelyet érdemes megosztani a közösségi médiában, de még ez a látszólag ártalmatlan megosztás is kockázatot jelenthet a gyermekek számára a jövőben. A születésnapi buli képei felfedhetik a gyermek születésének pontos napját és évét, ami olyan információ, amelyet a hackerek a kiberbiztonsági rések révén gyűjtött egyéb adatokkal összekapcsolva felhasználhatnak személyazonosság-lopás céljára. Bármennyire is valószínűtlennek tűnik, a kiskorúakat érintő személyazonosság-lopások száma 2021 és 2024 között 40 százalékkal nőtt, és az FTC, azaz a Szövetségi Kereskedelmi Bizottság szerint évente körülbelül 1,1 millió gyermek személyazonosságát lopják el.

Bizonyos adatok megosztása a digitális korszak társadalmi szerződésének része. Például megosztjuk a tartózkodási helyünket, hogy hasznos útbaigazítást kapjunk a térképalkalmazásoktól. Azok a szülők, akik fontolgatják, hogy közzétegyék-e gyermekeik fényképeit, hasznos gyakorlatnak tekinthetik a következő kérdést: mi az előnye? Az Instagram, a Snapchat és a TikTokhoz hasonló közösségi médiaalkalmazások kényelmes eszközök arra, hogy szép fotókat és videókat osszunk meg hatékonyan a számunkra fontos emberek széles körével. De az igazi haszonélvezők maguk a közösségi média cégek, amelyek adatokat gyűjtenek termékeik fejlesztése érdekében, hogy az emberek, köztük gyermekeink is, továbbra is használják termékeiket.

Több tucat tanulmány szerint a fiatalok körében a közösségi média gyakori használata összefüggésbe hozható mentális egészségügyi problémákkal, például szorongással, depresszióval és a magányosság érzésével. "A céljuk nem az, hogy segítsenek egy kiegyensúlyozott, egészséges gyermek fejlődésében, hanem hogy minél több pénzt keressenek azzal, hogy a gyermekeinket minél tovább a platformon tartják” – mondta Nicki Reisberg, egy volt marketinges, aki podcastot vezet a digitális korszakban való szülői szerepről. "Ha több tízezer adat áll rendelkezésükre, mielőtt gyermeke online lenne, akkor ezt hatékonyabban tudják megtenni." Vannak kockázatmentesebb módszerek is a gyermekeinkről készült fotók megosztására. Néhány szülő online szolgáltatások, például az Apple iCloud és a Google Photos segítségével osztja meg családi fotóalbumait egy kis csoporttal. Persze ez az egész egy vesztes csata, hiszen sok iskola posztol fotókat a közösségi médiában, hogy megmutassa, milyen jól érzik magukat a diákok.