SG.hu
Tömegesen vetkőztetett le embereket Grok az X-en
Az év első napjaiban súlyos botrány bontakozott ki az Elon Musk tulajdonában álló X közösségi oldalon, miután a platformba épített Grok nevű mesterséges intelligencia chatbot tömegesen kezdett el emberekről szexuális tartalmú képeket generálni, sok esetben beleegyezés nélkül. A jelenség nemcsak felnőtt nőket érintett, hanem több alkalommal kiskorúakról is készült szexualizált tartalom, ami nemzetközi felháborodást és hatósági lépéseket váltott ki.
Julie Yukari egy Rio de Janeiróban élő zenész, aki szilveszter éjjelén posztolt egy ártatlan fotót az X-re. A képen piros ruhában, az ágyban fekve ölelte fekete macskáját, Norit. A poszt gyorsan sok lájkot kapott, ám másnap Yukari furcsa értesítésekre lett figyelmes. Több felhasználó arra kérte Grokot, hogy digitálisan vetkőztesse le, és bikinibe vagy annál is kevesebb ruhába öltöztesse a képen látható alakját. Yukari kezdetben nem tulajdonított ennek jelentőséget, mivel úgy gondolta, hogy egy ilyen kérésnek az MI biztosan nem tesz eleget. Ez azonban súlyos tévedésnek bizonyult.
Rövid időn belül Grok által generált, róla készült, majdnem meztelen képek kezdtek el terjedni az X-en. A mesterséges intelligencia a fotóját alapul véve olyan módosított képeket készített, amelyeken Yukari bikiniben vagy erősen szexualizált pózban jelent meg, anélkül hogy ehhez hozzájárulását adta volna. A nő később úgy nyilatkozott, naiv volt, és nem gondolta, hogy egy ilyen eszköz ilyen könnyen visszaélésre adhat lehetőséget.
Yukari esete egyáltalán nem egyedi. Az X felületén rövid idő alatt tömegesen jelentek meg olyan kérések, amelyekben felhasználók arra utasították Grokot, hogy valós emberekről készült fotókat módosítson szexuális irányba. Ezek többsége fiatal nőket célzott, de előfordultak férfiak, hírességek, politikusok is. A kérések sokszor kifejezetten agresszív és részletes utasításokat tartalmaztak. Egy felhasználó például arra kérte Grokot, hogy egy tükör előtt szelfiző fiatal nőt öltöztessen nagyon átlátszó miniatűr bikinibe. Miután az MI ezt teljesítette, a felhasználó tovább ment, még kisebb és még áttetszőbb ruházatot kérve. A chatbot teljes mértékben eleget tett a kéréseknek, és fogselyemszerű vagy áttetsző bikinibe öltöztetett nőket, sőt volt példa arra is, hogy olajjal fedett testeket ábrázoló képeket generált. Több alkalommal Grok csak részben hajtotta végre az utasításokat, például fehérneműig vetkőztetett le egy alakot, de nem ment tovább.
A legsúlyosabb esetek közé tartoznak azok, amelyekben feltehetően kiskorúak szerepeltek, és iskolai egyenruhára emlékeztető ruhát viselő lányokról készült fotókhoz kapcsolódva kértek ruhalevételt vagy mikro bikinis átalakítást. Az egyik ilyen kérés konkrétan arra utasította Grokot, hogy távolítsa el az iskolai ruhát. Bár nem minden esetben volt megállapítható a célpont életkora, a kontextus és a megfogalmazás önmagában is rendkívül aggasztó.
A botrány kapcsán francia politikusok feljelentették az X-et az ügyészségnél és a szabályozó hatóságoknál, hangsúlyozva, hogy az oldalon terjedő szexuális és szexista tartalom nyilvánvalóan jogellenes. India informatikai minisztériuma hivatalos levélben figyelmeztette az X helyi képviseletét, amiért a platform nem akadályozta meg a Grok visszaélését és az obszcén, szexuálisan explicit tartalmak előállítását és terjesztését. Elon Musk reakciói olaj voltak a tűzre. A milliárdos ironikus vagy gúnyos hangnemben kezelte a helyzetet, amikor nevető síró emojikkal reagált hírességekről, köztük saját magáról készült bikinis MI képekre. Egy másik bejegyzésben, amikor egy felhasználó azt írta, hogy az X hírfolyama olyan, mint egy bikinis nőkkel teli bár, Musk ismét hasonló emojival válaszolt. Ezek a reakciók sokak szerint bagatellizálták az áldozatok helyzetét és a probléma súlyosságát.
Szakértők szerint a történtek egyáltalán nem voltak váratlanok. A nők digitális levetkőztetésére alkalmas eszközök, az úgynevezett nudifier programok évek óta léteznek, ám eddig jellemzően az internet sötétebb szegleteiben voltak elérhetők, gyakran fizetős vagy technikai tudást igénylő formában. Az X újítása abban állt, hogy ezt a funkciót gyakorlatilag minden felhasználó számára elérhetővé tette egyetlen fotó feltöltésével és egy egyszerű szöveges utasítással. Ez drasztikusan csökkentette a visszaélésekhez szükséges küszöböt.
Több civil és gyermekvédelmi szervezet már korábban figyelmeztette az xAI-t, hogy az általuk fejlesztett képgenerálás egy lépésre van attól, hogy tömeges, beleegyezés nélküli deepfake áradatot indítson el. Tyler Johnston, a Midas Project nevű MI-figyelő szervezet vezetője szerint pontosan az történt, amitől tartottak. Dani Pinter, a National Center on Sexual Exploitation jogi igazgatója úgy fogalmazott, hogy az X nem távolította el az erőszakos és visszaélésre alkalmas képeket az MI tanítóanyagából, és nem tiltotta meg a jogellenes kéréseket. Szerinte ez egy teljes mértékben előre látható és elkerülhető katasztrófa volt. Julie Yukari megpróbált fellépni a történtek ellen, nyilvánosan tiltakozott az X-en, ám ez csak további visszaéléseket váltott ki. Tiltakozását követően még többen kezdték el arra kérni Grokot, hogy még kifejezőbb képeket generáljon róla. A zenész szerint az új év számára nem az ünneplésről szólt, hanem arról az érzésről, hogy el akar bújni az emberek elől, és szégyent érez egy olyan test miatt, amely valójában nem is az övé, hanem egy mesterséges intelligencia alkotása.
Julie Yukari egy Rio de Janeiróban élő zenész, aki szilveszter éjjelén posztolt egy ártatlan fotót az X-re. A képen piros ruhában, az ágyban fekve ölelte fekete macskáját, Norit. A poszt gyorsan sok lájkot kapott, ám másnap Yukari furcsa értesítésekre lett figyelmes. Több felhasználó arra kérte Grokot, hogy digitálisan vetkőztesse le, és bikinibe vagy annál is kevesebb ruhába öltöztesse a képen látható alakját. Yukari kezdetben nem tulajdonított ennek jelentőséget, mivel úgy gondolta, hogy egy ilyen kérésnek az MI biztosan nem tesz eleget. Ez azonban súlyos tévedésnek bizonyult.
Rövid időn belül Grok által generált, róla készült, majdnem meztelen képek kezdtek el terjedni az X-en. A mesterséges intelligencia a fotóját alapul véve olyan módosított képeket készített, amelyeken Yukari bikiniben vagy erősen szexualizált pózban jelent meg, anélkül hogy ehhez hozzájárulását adta volna. A nő később úgy nyilatkozott, naiv volt, és nem gondolta, hogy egy ilyen eszköz ilyen könnyen visszaélésre adhat lehetőséget.
Yukari esete egyáltalán nem egyedi. Az X felületén rövid idő alatt tömegesen jelentek meg olyan kérések, amelyekben felhasználók arra utasították Grokot, hogy valós emberekről készült fotókat módosítson szexuális irányba. Ezek többsége fiatal nőket célzott, de előfordultak férfiak, hírességek, politikusok is. A kérések sokszor kifejezetten agresszív és részletes utasításokat tartalmaztak. Egy felhasználó például arra kérte Grokot, hogy egy tükör előtt szelfiző fiatal nőt öltöztessen nagyon átlátszó miniatűr bikinibe. Miután az MI ezt teljesítette, a felhasználó tovább ment, még kisebb és még áttetszőbb ruházatot kérve. A chatbot teljes mértékben eleget tett a kéréseknek, és fogselyemszerű vagy áttetsző bikinibe öltöztetett nőket, sőt volt példa arra is, hogy olajjal fedett testeket ábrázoló képeket generált. Több alkalommal Grok csak részben hajtotta végre az utasításokat, például fehérneműig vetkőztetett le egy alakot, de nem ment tovább.
A legsúlyosabb esetek közé tartoznak azok, amelyekben feltehetően kiskorúak szerepeltek, és iskolai egyenruhára emlékeztető ruhát viselő lányokról készült fotókhoz kapcsolódva kértek ruhalevételt vagy mikro bikinis átalakítást. Az egyik ilyen kérés konkrétan arra utasította Grokot, hogy távolítsa el az iskolai ruhát. Bár nem minden esetben volt megállapítható a célpont életkora, a kontextus és a megfogalmazás önmagában is rendkívül aggasztó.
— Elon Musk (@elonmusk) January 1, 2026
A botrány kapcsán francia politikusok feljelentették az X-et az ügyészségnél és a szabályozó hatóságoknál, hangsúlyozva, hogy az oldalon terjedő szexuális és szexista tartalom nyilvánvalóan jogellenes. India informatikai minisztériuma hivatalos levélben figyelmeztette az X helyi képviseletét, amiért a platform nem akadályozta meg a Grok visszaélését és az obszcén, szexuálisan explicit tartalmak előállítását és terjesztését. Elon Musk reakciói olaj voltak a tűzre. A milliárdos ironikus vagy gúnyos hangnemben kezelte a helyzetet, amikor nevető síró emojikkal reagált hírességekről, köztük saját magáról készült bikinis MI képekre. Egy másik bejegyzésben, amikor egy felhasználó azt írta, hogy az X hírfolyama olyan, mint egy bikinis nőkkel teli bár, Musk ismét hasonló emojival válaszolt. Ezek a reakciók sokak szerint bagatellizálták az áldozatok helyzetét és a probléma súlyosságát.
Szakértők szerint a történtek egyáltalán nem voltak váratlanok. A nők digitális levetkőztetésére alkalmas eszközök, az úgynevezett nudifier programok évek óta léteznek, ám eddig jellemzően az internet sötétebb szegleteiben voltak elérhetők, gyakran fizetős vagy technikai tudást igénylő formában. Az X újítása abban állt, hogy ezt a funkciót gyakorlatilag minden felhasználó számára elérhetővé tette egyetlen fotó feltöltésével és egy egyszerű szöveges utasítással. Ez drasztikusan csökkentette a visszaélésekhez szükséges küszöböt.
Több civil és gyermekvédelmi szervezet már korábban figyelmeztette az xAI-t, hogy az általuk fejlesztett képgenerálás egy lépésre van attól, hogy tömeges, beleegyezés nélküli deepfake áradatot indítson el. Tyler Johnston, a Midas Project nevű MI-figyelő szervezet vezetője szerint pontosan az történt, amitől tartottak. Dani Pinter, a National Center on Sexual Exploitation jogi igazgatója úgy fogalmazott, hogy az X nem távolította el az erőszakos és visszaélésre alkalmas képeket az MI tanítóanyagából, és nem tiltotta meg a jogellenes kéréseket. Szerinte ez egy teljes mértékben előre látható és elkerülhető katasztrófa volt. Julie Yukari megpróbált fellépni a történtek ellen, nyilvánosan tiltakozott az X-en, ám ez csak további visszaéléseket váltott ki. Tiltakozását követően még többen kezdték el arra kérni Grokot, hogy még kifejezőbb képeket generáljon róla. A zenész szerint az új év számára nem az ünneplésről szólt, hanem arról az érzésről, hogy el akar bújni az emberek elől, és szégyent érez egy olyan test miatt, amely valójában nem is az övé, hanem egy mesterséges intelligencia alkotása.