SG.hu
Milliók kíváncsiak az MI segítségével angolul beszélő Hitlerre
A szélsőjobboldal arra használja a mesterséges intelligenciát, hogy Hitlert eladja egy új generációnak. Az angolul beszélő náci vezérről készült videók milliókhoz jutnak el az interneten. Szakértők attól tartanak, hogy ez az antiszemitizmus fellendülését táplálja.
A szélsőségesek mesterséges intelligenciát használnak arra, hogy Adolf Hitlert online formában élesszék újjá egy új generáció számára. Ezek az anyagok a holokausztért felelős náci vezetőt meg nem értett figurának állítják be, akinek antiszemita és bevándorlásellenes üzenetei ma is frissen visszhangoznak a politikában. Az elmúlt hónapban a TikTok, az X, az Instagram és a YouTube oldalakon több millió nézőhöz eljutott hang- és videoklipekben a Führer mesterséges intelligenciával klónozott hangja remegve és crescendósan szólal meg, miközben leghírhedtebb beszédeinek angol nyelvű változatát adja elő, köztük az 1939-es Reichstag-beszédet, amelyben az európai zsidóság végét jósolta.
Az olcsó és népszerű MI hangklónozó eszközöket használó posztok az X és a TikTok kommentekben olyan dicséreteket váltottak ki, mint „Hiányzol A. bácsi”, „Hős volt” és „Talán NEM ő a gonosztevő”. A Telegramon a szélsőségesek azzal hencegnek, hogy az MI által manipulált beszédek megnyerő és könnyed módot kínálnak Hitler eszméinek újracsomagolására, hogy radikalizálják a fiatalokat. "Az ilyen típusú tartalmak villámgyorsan terjesztik a piros pirulákat hatalmas közönségnek” - írta az American Futurist, egy fasisztaként azonosított weboldal a nyilvános Telegram-csatornáján szeptember 17-én, egy olyan Mátrixból ismert kifejezést használva, amely valaki világnézetének drámai átformálását írja le. „A propaganda szempontjából páratlan”.
A propaganda - amelyet videók, chatfórum-üzenetek és a neonáci tevékenység képernyőfelvételei dokumentálnak, és amelyeket a nonprofit Institute for Strategic Dialogue és a SITE Intelligence Group - osztott meg - szakértők szerint hozzájárul ahhoz, hogy a jobboldalon újra felélénküljön az online érdeklődés Hitler iránt. Az ISD kutatói jelentésükben megállapították, hogy a Hitler beszédeit dicsőítő, mentegető vagy angolra fordító tartalmak augusztus 13. óta mintegy 25 millió megtekintést értek el az X-en, a TikTokon és az Instagramon. A videók egyre nagyobb teret nyernek, mivel Donald Trump volt elnök és republikánus jelöltje, az ohiói JD Vance szenátor az online neonáci közösségek körében népszerű összeesküvés-elméleteket terjesztett elő, köztük azt az alaptalan állítást, hogy az ohiói haiti bevándorlók háziállatokat esznek.
Szakértők szerint a mesterséges intelligencia legújabb generációs eszközei, amelyek másodpercek alatt képesek élethű képeket, hangokat és videókat varázsolni, lehetővé teszik a szélsőséges csoportok számára, hogy új életet leheljenek a gyűlölt ideológiákba, lehetőséget teremtve a radikalizálódásra - és kihívást jelentve a moderálás terén a közösségi médiavállalatok számára. "Ez egy újfajta érzelmi elkötelezettséget tesz lehetővé, amely nagyon csábító lehet egy új generáció számára” - mondta Emerson T. Brooking, az Atlantic Council főmunkatársa.
Az egyik felhasználó tavaly élő közvetítést tartott az Odysee videómegosztó oldalon, ahol az ElevenLabs hangklónozó eszközének és egy videószoftvernek a segítségével Hitler-videók készítésére tanította az embereket. Nagyjából öt perc alatt létrehozott egy mesterséges intelligenciával működő hangklónt Hitlerről, aki angolul mondott beszédet, és a kapitalista rendszerből profitáló zsidókról szónokolt. A felhasználó - aki az OMGITSFLOOD nevet használja, és akit a SITE Intelligence Group, amely a fehér fajgyűlölő és dzsihadista online tevékenységet követi nyomon, „prominens neonáci tartalomkészítőként” azonosított -, azt mondta a livestreamben, hogy Hitler „az egyik legnagyobb király vezető, aki valaha élt”. A felhasználó hozzátette, hogy reméli, hogy inspirálni tud egy olyan jövőbeli vezetőt, mint Hitler, aki talán „Trumpra szavaz”.
Artemis Seaford, az ElevenLabs MI-biztonságért felelős alelnöke elmondta, hogy a vállalat tiltja, hogy eszközeit erőszakos, gyűlöletkeltő vagy zaklató tartalmak létrehozására használják. A videó elkészítéséhez mindössze egy néhány másodperces minta kellett Hitler beszédéből, amelyet a YouTube-ról töltöttek le. A mesterséges intelligencia nélkül a hamisításhoz fejlett programozási képességekre lett volna szükség. Egyes félretájékoztatási és gyűlöletbeszéd-szakértők szerint a mesterséges intelligencia könnyűsége felgyorsítja az antiszemita tartalmak online terjedését. „Most már sokkal könnyebb ilyen dolgokat létrehozni” - mondta Abbie Richards, a Media Matters for America nevű baloldali nonprofit szervezet félretájékoztatási kutatója. „Minél többet posztolsz, annál nagyobb az esélye annak, hogy ez sokkal több emberhez jut el, mint korábban”.
"A neonácik mindig keresik a módját annak, hogyan vihetik be saját narratíváikat a mainstream diskurzusba" - mondta Rita Katz, a SITE Intelligence Group ügyvezető igazgatója, aki egy jelentésben részletezte hogyan használják a szélsőségesek a mesterséges intelligenciát. A mesterséges intelligencia olyan üzenetek létrehozásával segít, amelyek megragadják az emberek figyelmét - tette hozzá. "Ezek az álcázott Hitler MI-videók megragadják a kiváncsi felhasználókat, majd ráveszik őket, hogy meghallgassanak egy népirtó szörnyeteget” - mondta Katz.
A TikTok-on, az X-en és az Instagramon az MI által generált hitleri beszédek gyakran nem viselik a náci propaganda jegyeit. Hitler-beszédei akkor is hatékonyak lehetnek a radikalizálódás eszközeként, ha nem kísérik kifejezett neonáci kommentárok - mondta Isabelle Frances-Wright, az ISD technológia és társadalom igazgatója. „Nagy különbség van a Hitler-beszédek német fordításának olvasása és aközött, hogy angolul halljuk őt nagyon érzelemdúsan valamit mondani” - mondta. A TikTok-on a felhasználók könnyen megoszthatják és továbbfejleszthetik a videókat az alkalmazás „duett” funkciói segítségével, amelyek lehetővé teszik, hogy az emberek az eredeti videót a saját magukról készült, arra reagáló videóval együtt tegyék közzé - mondta Richards. Mivel a videók nem tartalmaznak nyíltan terrorista vagy szélsőséges logókat, a technológiai cégek számára rendkívül nehéz ellenőrizni őket - tette hozzá Katz.
A nonprofit Southern Poverty Law Center éves jelentései szerint 2017 óta csökkent az aktív neonáci csoportok száma, ez azonban nem jelenti azt, hogy a nácizmus visszaszorulóban van - mondta Hannah Gais, a központ vezető kutatási elemzője. A szélsőjobboldali szélsőségesek a hivatalos csoportok helyett inkább az online fórumokhoz fordulnak a szerveződés és a tartalom előállítása érdekében, és a mainstream közösségi médiaplatformokat használják arra, hogy szélesebb közönséget érjenek el és új követőket toborozzanak. Bár lehetetlen számszerűsíteni a szélsőjobboldali online propaganda valós hatását - mondta Gais -, a befolyás bizonyítékait láthatjuk, amikor olyan prominens személyiségek, mint Tucker Carlson konzervatív műsorvezető, Elon Musk milliárdos és Stephen Miller Trump tanácsadó az antiszemita „nagy csere” összeesküvés-elmélet elemeit vallják, vagy amikor a Buffalóban, El Pasóban és az új-zélandi Christchurchben elkövetett tömeges lövöldözések inspirációként hivatkoznak rá.
Ezek a nagy horderejű hírek újra felkeltik az online érdeklődést a szélsőjobboldali ideológiák iránt. Az ISD jelentése szerint a Hitlert dicsőítő vagy védelmező posztok száma ebben a hónapban megugrott az X-en, miután Carlson egy interjút tett közzé a holokauszt revizionista Darryl Cooperrel, amelyet Musk újraposztolt és „érdemesnek nevezett”. (Musk később törölte a posztját.)
Az év elején a Trump-párti összeesküvés-elméleteket hangoztató Dominick McGee az X-en Hitler 1939-es Reichstag-beszédének angol nyelvű mesterséges intelligencia-hangutánzatát posztolta, amely az X mérési adatai szerint 13 000 retweetet, 56 000 like-ot és több mint 10 millió megtekintést gyűjtött. "Ez az MI-fordítás bepillantást enged a nézőknek Hitler elméjébe” - írta McGee, akinek X-fiókját Musk tavaly visszaállította, miután felfüggesztették, mert egy gyermekekkel való szexuális visszaélésről szóló videót tett közzé. Bár McGee posztja nem támogatta Hitler nézeteit, a válaszok közül sokan helyeslést jeleztek, mások pedig a beszéd francia, arab és bengáli nyelvű fordítását kérték.
Jared Holt, az ISD vezető kutatója, aki társszerzője volt a fehér nacionalizmus TikTok-on való térnyeréséről szóló, nemrégiben készült külön jelentésnek, elmondta, hogy a szélsőségesek gyakran a leggyorsabb csoportok között vannak, akik kihasználják a feltörekvő technológiákat, amelyek gyakran lehetővé teszik számukra, hogy kijátsszák az ilyen anyagokat a bevett platformokon blokkoló akadályokat. Holt szerint nem feltételezhető, hogy mindenki, aki megnéz vagy megoszt egy MI Hitler-videót vagy mémeket, egyetért velük - egyesek talán csak viccesnek vagy érdekesnek találják. "De a politika tágabb rendszerében érzéketlenítő vagy normalizáló hatása lehet, ha az emberek újra és újra találkoznak ezzel a tartalommal” - mondta.
A szélsőségesek mesterséges intelligenciát használnak arra, hogy Adolf Hitlert online formában élesszék újjá egy új generáció számára. Ezek az anyagok a holokausztért felelős náci vezetőt meg nem értett figurának állítják be, akinek antiszemita és bevándorlásellenes üzenetei ma is frissen visszhangoznak a politikában. Az elmúlt hónapban a TikTok, az X, az Instagram és a YouTube oldalakon több millió nézőhöz eljutott hang- és videoklipekben a Führer mesterséges intelligenciával klónozott hangja remegve és crescendósan szólal meg, miközben leghírhedtebb beszédeinek angol nyelvű változatát adja elő, köztük az 1939-es Reichstag-beszédet, amelyben az európai zsidóság végét jósolta.
Az olcsó és népszerű MI hangklónozó eszközöket használó posztok az X és a TikTok kommentekben olyan dicséreteket váltottak ki, mint „Hiányzol A. bácsi”, „Hős volt” és „Talán NEM ő a gonosztevő”. A Telegramon a szélsőségesek azzal hencegnek, hogy az MI által manipulált beszédek megnyerő és könnyed módot kínálnak Hitler eszméinek újracsomagolására, hogy radikalizálják a fiatalokat. "Az ilyen típusú tartalmak villámgyorsan terjesztik a piros pirulákat hatalmas közönségnek” - írta az American Futurist, egy fasisztaként azonosított weboldal a nyilvános Telegram-csatornáján szeptember 17-én, egy olyan Mátrixból ismert kifejezést használva, amely valaki világnézetének drámai átformálását írja le. „A propaganda szempontjából páratlan”.
A propaganda - amelyet videók, chatfórum-üzenetek és a neonáci tevékenység képernyőfelvételei dokumentálnak, és amelyeket a nonprofit Institute for Strategic Dialogue és a SITE Intelligence Group - osztott meg - szakértők szerint hozzájárul ahhoz, hogy a jobboldalon újra felélénküljön az online érdeklődés Hitler iránt. Az ISD kutatói jelentésükben megállapították, hogy a Hitler beszédeit dicsőítő, mentegető vagy angolra fordító tartalmak augusztus 13. óta mintegy 25 millió megtekintést értek el az X-en, a TikTokon és az Instagramon. A videók egyre nagyobb teret nyernek, mivel Donald Trump volt elnök és republikánus jelöltje, az ohiói JD Vance szenátor az online neonáci közösségek körében népszerű összeesküvés-elméleteket terjesztett elő, köztük azt az alaptalan állítást, hogy az ohiói haiti bevándorlók háziállatokat esznek.
Szakértők szerint a mesterséges intelligencia legújabb generációs eszközei, amelyek másodpercek alatt képesek élethű képeket, hangokat és videókat varázsolni, lehetővé teszik a szélsőséges csoportok számára, hogy új életet leheljenek a gyűlölt ideológiákba, lehetőséget teremtve a radikalizálódásra - és kihívást jelentve a moderálás terén a közösségi médiavállalatok számára. "Ez egy újfajta érzelmi elkötelezettséget tesz lehetővé, amely nagyon csábító lehet egy új generáció számára” - mondta Emerson T. Brooking, az Atlantic Council főmunkatársa.
Az egyik felhasználó tavaly élő közvetítést tartott az Odysee videómegosztó oldalon, ahol az ElevenLabs hangklónozó eszközének és egy videószoftvernek a segítségével Hitler-videók készítésére tanította az embereket. Nagyjából öt perc alatt létrehozott egy mesterséges intelligenciával működő hangklónt Hitlerről, aki angolul mondott beszédet, és a kapitalista rendszerből profitáló zsidókról szónokolt. A felhasználó - aki az OMGITSFLOOD nevet használja, és akit a SITE Intelligence Group, amely a fehér fajgyűlölő és dzsihadista online tevékenységet követi nyomon, „prominens neonáci tartalomkészítőként” azonosított -, azt mondta a livestreamben, hogy Hitler „az egyik legnagyobb király vezető, aki valaha élt”. A felhasználó hozzátette, hogy reméli, hogy inspirálni tud egy olyan jövőbeli vezetőt, mint Hitler, aki talán „Trumpra szavaz”.
Artemis Seaford, az ElevenLabs MI-biztonságért felelős alelnöke elmondta, hogy a vállalat tiltja, hogy eszközeit erőszakos, gyűlöletkeltő vagy zaklató tartalmak létrehozására használják. A videó elkészítéséhez mindössze egy néhány másodperces minta kellett Hitler beszédéből, amelyet a YouTube-ról töltöttek le. A mesterséges intelligencia nélkül a hamisításhoz fejlett programozási képességekre lett volna szükség. Egyes félretájékoztatási és gyűlöletbeszéd-szakértők szerint a mesterséges intelligencia könnyűsége felgyorsítja az antiszemita tartalmak online terjedését. „Most már sokkal könnyebb ilyen dolgokat létrehozni” - mondta Abbie Richards, a Media Matters for America nevű baloldali nonprofit szervezet félretájékoztatási kutatója. „Minél többet posztolsz, annál nagyobb az esélye annak, hogy ez sokkal több emberhez jut el, mint korábban”.
"A neonácik mindig keresik a módját annak, hogyan vihetik be saját narratíváikat a mainstream diskurzusba" - mondta Rita Katz, a SITE Intelligence Group ügyvezető igazgatója, aki egy jelentésben részletezte hogyan használják a szélsőségesek a mesterséges intelligenciát. A mesterséges intelligencia olyan üzenetek létrehozásával segít, amelyek megragadják az emberek figyelmét - tette hozzá. "Ezek az álcázott Hitler MI-videók megragadják a kiváncsi felhasználókat, majd ráveszik őket, hogy meghallgassanak egy népirtó szörnyeteget” - mondta Katz.
A TikTok-on, az X-en és az Instagramon az MI által generált hitleri beszédek gyakran nem viselik a náci propaganda jegyeit. Hitler-beszédei akkor is hatékonyak lehetnek a radikalizálódás eszközeként, ha nem kísérik kifejezett neonáci kommentárok - mondta Isabelle Frances-Wright, az ISD technológia és társadalom igazgatója. „Nagy különbség van a Hitler-beszédek német fordításának olvasása és aközött, hogy angolul halljuk őt nagyon érzelemdúsan valamit mondani” - mondta. A TikTok-on a felhasználók könnyen megoszthatják és továbbfejleszthetik a videókat az alkalmazás „duett” funkciói segítségével, amelyek lehetővé teszik, hogy az emberek az eredeti videót a saját magukról készült, arra reagáló videóval együtt tegyék közzé - mondta Richards. Mivel a videók nem tartalmaznak nyíltan terrorista vagy szélsőséges logókat, a technológiai cégek számára rendkívül nehéz ellenőrizni őket - tette hozzá Katz.
A nonprofit Southern Poverty Law Center éves jelentései szerint 2017 óta csökkent az aktív neonáci csoportok száma, ez azonban nem jelenti azt, hogy a nácizmus visszaszorulóban van - mondta Hannah Gais, a központ vezető kutatási elemzője. A szélsőjobboldali szélsőségesek a hivatalos csoportok helyett inkább az online fórumokhoz fordulnak a szerveződés és a tartalom előállítása érdekében, és a mainstream közösségi médiaplatformokat használják arra, hogy szélesebb közönséget érjenek el és új követőket toborozzanak. Bár lehetetlen számszerűsíteni a szélsőjobboldali online propaganda valós hatását - mondta Gais -, a befolyás bizonyítékait láthatjuk, amikor olyan prominens személyiségek, mint Tucker Carlson konzervatív műsorvezető, Elon Musk milliárdos és Stephen Miller Trump tanácsadó az antiszemita „nagy csere” összeesküvés-elmélet elemeit vallják, vagy amikor a Buffalóban, El Pasóban és az új-zélandi Christchurchben elkövetett tömeges lövöldözések inspirációként hivatkoznak rá.
Ezek a nagy horderejű hírek újra felkeltik az online érdeklődést a szélsőjobboldali ideológiák iránt. Az ISD jelentése szerint a Hitlert dicsőítő vagy védelmező posztok száma ebben a hónapban megugrott az X-en, miután Carlson egy interjút tett közzé a holokauszt revizionista Darryl Cooperrel, amelyet Musk újraposztolt és „érdemesnek nevezett”. (Musk később törölte a posztját.)
Az év elején a Trump-párti összeesküvés-elméleteket hangoztató Dominick McGee az X-en Hitler 1939-es Reichstag-beszédének angol nyelvű mesterséges intelligencia-hangutánzatát posztolta, amely az X mérési adatai szerint 13 000 retweetet, 56 000 like-ot és több mint 10 millió megtekintést gyűjtött. "Ez az MI-fordítás bepillantást enged a nézőknek Hitler elméjébe” - írta McGee, akinek X-fiókját Musk tavaly visszaállította, miután felfüggesztették, mert egy gyermekekkel való szexuális visszaélésről szóló videót tett közzé. Bár McGee posztja nem támogatta Hitler nézeteit, a válaszok közül sokan helyeslést jeleztek, mások pedig a beszéd francia, arab és bengáli nyelvű fordítását kérték.
Jared Holt, az ISD vezető kutatója, aki társszerzője volt a fehér nacionalizmus TikTok-on való térnyeréséről szóló, nemrégiben készült külön jelentésnek, elmondta, hogy a szélsőségesek gyakran a leggyorsabb csoportok között vannak, akik kihasználják a feltörekvő technológiákat, amelyek gyakran lehetővé teszik számukra, hogy kijátsszák az ilyen anyagokat a bevett platformokon blokkoló akadályokat. Holt szerint nem feltételezhető, hogy mindenki, aki megnéz vagy megoszt egy MI Hitler-videót vagy mémeket, egyetért velük - egyesek talán csak viccesnek vagy érdekesnek találják. "De a politika tágabb rendszerében érzéketlenítő vagy normalizáló hatása lehet, ha az emberek újra és újra találkoznak ezzel a tartalommal” - mondta.