A világ leghíresebb sztárjáról készült pornográf, mesterséges intelligencia által generált képek terjedtek el a héten a közösségi médiában, megmutatva a mesterséges intelligencia technológiában rejlő káros potenciált: azt, hogy képes nagyon valósnak kinéző káros képeket létrehozni. A fotók az énekesnőt szexuálisan kihívó és egyértelmű pózokban ábrázolják, és azokat több tízmilliószor nézték meg, mielőtt eltávolították volna a közösségi platformokról.

A Taylor Swiftről készült hamis képek túlnyomórészt az X nevű, korábban Twitter néven ismert közösségi oldalon keringtek. Az egyik posztot több mint 45 milliószor nézték meg körülbelül 17 óra alatt, mielőtt eltávolították. Az X a posztokat a "Taylor Swift AI" gyűjtőnév alatt közölte egyes régiókban. Az interneten azonban semmi sem tűnik el igazán örökre, és kétségtelenül továbbra is megosztják őket más, kevésbé szabályozott csatornákon. A legtöbb nagy közösségi médiaplatformhoz hasonlóan az X irányelvei is tiltják a "szintetikus, manipulált vagy kontextuson kívüli média megosztását, amely megtévesztheti vagy összezavarhatja az embereket, és károkozáshoz vezethet".

Az incidensre akkor kerül sor, amikor az Egyesült Államok az elnökválasztás éve felé tart, és egyre nagyobb az aggodalom amiatt, hogy a mesterséges intelligencia által generált félrevezető képek és videók felhasználhatók dezinformációs erőfeszítések irányítására és végső soron a szavazások megzavarására. "Ez a legjobb példa arra, hogy a mesterséges intelligenciát aljas okból szabadjára engedik az állampolgárok védelme nélkül" - mondta Ben Decker, a Memetica digitális nyomozóügynökség vezetője. Decker szerint gyorsan növekszik az MI-eszközök használata potenciálisan káros tartalmak létrehozására, amelyek mindenféle közszereplőt célba vesznek, és gyorsabban terjed a közösségi médiában, mint valaha. "A közösségi médiavállalatok nem igazán rendelkeznek hatékony tervekkel a tartalmak ellenőrzésére" - mondta.

Az X például nagyrészt kirúgta tartalommoderációs csapatát, és automatizált rendszerekre és felhasználói bejelentésekre támaszkodik. Az EU-ban egyébként éppen emiatt a cég ellen jelenleg is vizsgálat folyik. A Meta is megszorításokat hajtott végre a dezinformációval és a platformjain zajló összehangolt troll- és zaklatási kampányokkal foglalkozó csapatoknál, ami aggodalmakat kelthet világszerte, hiszen több tucat országban tartanak idén választást. Egyelőre nem világos, honnan származnak a Taylor Swifttel kapcsolatos képek. Bár néhány képet olyan oldalakon találtak, mint az Instagram és a Reddit, különösen az X-en terjedtek el. Az incidens egybeesik az olyan mesterséges intelligencia-generáló eszközök, mint a ChatGPT és a Dall-E térhódításával is.

"Ez a tartalom moderálásának és a platformok irányításának törésvonalát jelzi, mert ha az összes érdekelt fél - az MI-vállalatok, a közösségi médiavállalatok, a szabályozó hatóságok és a civil társadalom - nem ugyanarról beszél, és nem egy oldalon áll azzal kapcsolatban, hogy hogyan kezeljük ezeket a kérdéseket, akkor az ilyen típusú tartalmak tovább fognak terjedni" - mondja Decker. Szerinte azonban Swift célkeresztbe kerülése felhívhatja a figyelmet a mesterséges intelligencia által generált képekkel kapcsolatos növekvő problémákra. Swift hűséges rajongótábora a közösségi médiában fejezte ki felháborodását, ezzel előtérbe helyezve a kérdést. 2022-ben az Eras Tour koncertje előtt a Ticketmaster összeomlása váltott ki dühöt az interneten, ami számos törvényhozási törekvéshez vezetett a fogyasztóellenes jegyértékesítési politika visszaszorítása érdekében. Talán ugyanez lesz igaz a mesterséges intelligencia által generált káros képekre is - vetette fel Decker.


Egy igazi fotó Taylor Swiftről
Úgy tűnik, Swift rajongói elkötelezettek a terjedés csökkentésében, számtalan kedvenc fotót töltöttek fel Swiftről, hogy eltemessék a káros képeket, és megakadályozzák, hogy azok megjelenjenek a különböző keresésekben. A probléma megoldásához többre lesz szükség, mint a közösségi médiaplatformokról való eltávolítás kérvényezése. A Swift képein kiképzett MI-modell bármikor igénybe vehető, azt valószínűleg az egyik olyan weboldalon szerezték be, amely a hírességek finomhangolt MI-modelljeinek elkészítésére specializálódott. Amíg a modell létezik, addig bárki, aki hozzáféréssel rendelkezik, annyi új képet készíthet, amennyit csak akar, így még az énekesnő erőforrásaival rendelkező személy számára is nehéz lesz végleg eltüntetni a problémát.

Így Swift helyzete talán felhívja a figyelmet arra, hogy miért káros a nem konszenzuálisan létrehozott és megosztott deepfake pornográfia, és talán elmozdítja a kultúrát attól a tartós felfogástól, hogy senkinek sem ártanak a mesterséges intelligencia által generált hamisítványok. "Amikor olyan nagy szereplők kerülnek célkeresztbe, mint Taylor Swift, ez általában cselekvésre készteti a jogalkotókat és a technológiai vállalatokat, mert nem engedhetik meg maguknak, hogy Amerika kedvence nyilvános kampányt folytasson ellenük" - mondta. "Azt mondanám, hogy örülnünk kell ennek, mert valószínűleg nagyobb befolyással bír, mint szinte bárki más az interneten".

Egyes amerikai törvényhozók már dolgoznak a deepfake pornó elleni fellépésen. Joe Morelle képviselő az év elején törvényjavaslatot terjesztett elő a hamisított pornó kriminalizálására, miután egy New Jersey-i középiskolában tinédzser fiúk mesterséges intelligenciával működő képgenerátorokat használtak arra, hogy lány osztálytársaikról nem engedélyezett, hamisított meztelen képeket készítsenek és osszanak meg. A törvényjavaslat értelmében bárki, aki az egyén beleegyezése nélkül megosztja a deepfake pornográfiát, pénzbírságot és akár két évig terjedő börtönbüntetést kockáztat. A kártérítés akár 150 000 dollárra, a börtönbüntetés pedig akár 10 évre is rúghat, ha a képek megosztása elősegíti az erőszakot vagy befolyásolja egy kormányzati szerv eljárását.


És egy mesterséges intelligencia által generált portré
Az Egyesült Királyság online biztonsági törvénye korlátozza bármilyen illegális tartalom megosztását a platformokon, beleértve a mélyhamisított pornográfiát is. A törvény előírja a moderálást, különben a vállalatok 20 millió dollárnál nagyobb összegű bírságot vagy a globális éves forgalmuk 10 százalékát kockáztatják, attól függően, hogy melyik a magasabb összeg. A brit törvény azonban ellentmondásos, mert előírja a vállalatok számára, hogy a magánüzeneteket illegális tartalmak után kutatva vizsgálják át. Ez gyakorlatilag lehetetlenné teszi a platformok számára, hogy végponttól végpontig terjedő titkosítást biztosítsanak.

Miközben a szabályozók jogi kérdésekkel, a közösségi média felhasználói pedig erkölcsi kérdésekkel küzdenek, egyes mesterséges intelligencia-képgenerátorok korlátozzák a modelleket a pornó kimenetek előállításában. Néhányan ezt úgy tették, hogy eltávolították a modellek képzési adataiból a szexualizált képek egy részét, mint például a Stability AI, a Stable Diffusion mögött álló vállalat. Mások - mint például a Microsoft Bing képalkotója - megkönnyítik a felhasználók számára az ilyen kimenetek bejelentését. De eddig úgy tűnik, hogy a deepfake pornóval való lépéstartás leginkább a közösségi médiaplatformok vállára hárul. Swift e heti csatája azt mutatja, hogy jelenleg még a legnagyobb platformok is teljesen felkészületlenek a tömegével feltöltött káros képek áradatának kezelésére.