SG.hu
MI-vel készített híradósok mondják fel az ISIS propagandáját
Az Iszlám Állam hírműsora, a News Harvest megmutatja hogyan lehet az MI-t szélsőséges nézetek gyors és olcsó terjesztésére használni.
Két hónapja, március 22-én több terepruhás fegyveres tüzet nyitott egy moszkvai koncertteremben, a Crocus City Hallban. Négy nappal később egy videó jelent meg egy az ISIS terrorcsoporthoz kapcsolódó magánplatformon. A 92 másodperces adásban egy sisakos, katonaruhás híradós azt mondta, hogy a támadás nem terrorista akció volt, hanem „az Iszlám Állam és az iszlám ellen harcoló országok között dühöngő háború” része. A „műsorvezető” hamis volt, egy mesterséges intelligencia által generált klón, amelyet az Iszlám Állam támogatói hoztak létre a News Harvest nevű új, mesterséges intelligencia által generált médiaprogram részeként - derül ki a terrorista és szélsőséges online mozgalmakat nyomon követő SITE Intelligence Group jelentéséből.
A News Harvest március óta heti rendszerességgel mutat videóanyagokat az Iszlám Állam műveleteiről szerte a világon. "Az Al Jazeera hírműsorára hasonlító adás a mesterséges intelligencia, mint erőteljes propagandaeszköz megjelenését jelzi, ahogy az Iszlám Állam leányvállalatai egyre nagyobb teret nyernek és újjáépítik a csoport médiaműveleteit" - mondta Rita Katz, a SITE Intelligence Group társalapítója. "Az ISIS számára a mesterséges intelligencia a játék megváltoztatását jelenti. Ez egy gyors módja annak, hogy bemutassák a véres támadásaikat, hogy a világ szinte minden sarkába eljussanak.” - mondta Katz. A műsorok egy grafikus logó és egy címsor megjelenítésével kezdődnek. A képernyőn mesterséges intelligencia által generált bemondók jelennek meg harci felszerelésben, miközben órák ketyegnek és videofelvételek mutatják az Iszlám Állam tagjait, amint terrorista küldetéseket hajtanak végre. A bemondók az Iszlám Állam hivatalos médiumainak, köztük az al-Nabának és az Amaqnak a közleményeit olvassák fel.
A terrorista média-szakértői szerint ezek a videók a legkorábbi jelei annak, hogy az MI segítségét használják a terrorista csoportok a propagandájuk gyors terjesztésében és a tagok toborzásában - és még belső vitát is kiváltottak a technológia iszlám törvények szerinti alkalmazásáról. Az Iszlám Állam ismert a pezsgő médiaműveleteiről, amely hollywoodi szintű toborzó videókat készít, amelyek vonzók a fiatalok számára. A mesterséges intelligencia-videógenerátorok most lehetővé teszik számukra, hogy az eddigi költségek töredékéből hozzanak létre ilyen tartalmakat. Több iszlamista militáns szervezet, köztük az al-Kaida is jelezte érdeklődését MI chatbotok, képgenerátorok és hangklónozók gyors dezinformáció létrehozására való felhasználása iránt.
A mesterséges intelligencia lehetőséget ad az Iszlám Állam támogatóinak arra, hogy ártalmatlan módon, például hírműsornak álcázott propagandát hozzanak létre, ami megnehezíti a technológiai cégek számára a platformjukon való beavatkozást - mondta Katz. Az olcsó és könnyen használható mesterséges intelligenciaeszközök lehetővé teszik, hogy a videókat gyorsan és alacsony költségvetésből készítsék el, ami olyan csoportoknak kedvez, mint az Iszlám Állam és az al-Kaida, amelyeket a katonai támadások meggyengítettek.
Az Iszlám Állam tagjai legalább 133 embert öltek meg a Moszkva környéki zeneterem elleni támadásban. A szélsőséges csoport egyik támogatója, a Hisad nevű szervezet gyorsan mozgósított, hogy készítsen egy mesterséges intelligencia által generált videót. Március 26-án Hisad egy privát üzenetküldő platformon tette közzé a News Harvest első epizódját. Az orosz támadás óta hat News Harvest adást tettek közzé, amelyek áttekintést adnak az Iszlám Állam társszervezeteinek közelmúltbeli műveleteiről világszerte, többek között Nigerben, Kamerunban, Irakban, Szíriában és Nigériában. Nem világos, hogy pontosan milyen szoftvert használnak, bár néhány támogató a posztokban „jó” mesterséges intelligencia szoftverek használatára buzdított, mint például az Eleven Labs, egy mesterséges intelligencia hanggeneráló cég hangklónozó eszköze.
Steven Stalinsky, a Közel-Keleti Médiakutató Intézet (MEMRI) ügyvezető igazgatója szerint az epizódokat nem az Iszlám Állam hivatalos karja készítette, így nem világos, hogy azok összhangban vannak-e a csoport átfogó stratégiájával. De azt mondta, nem lepődne meg, ha létrehoznának egy mesterséges intelligencia alapú média részleget, mivel mindig is gyorsan alkalmazták a csúcstechnológiát. Elmondása szerint az Iszlám Államot támogató médiumok már most is keresnek MI-képzettséggel rendelkező embereket. A MEMRI által megszerzett április 23-i üzenet szerint plakátkészítésben, cikkek írásában és videószerkesztésben jártas szakértőket keresnek. „Ó, a média mudzsahedjei” - állt a bejegyzésben. „A média várja a támadásotokat”.
Más iszlamista militáns szervezetek, például az al-Kaida, szintén tárgyalnak a mesterséges intelligencia alkalmazásáról. Február 9-én egy al-Kaidához kötődő csoport bejelentette, hogy online MI-workshopokat fog tartani. Másnap egy másik al-Kaidához kapcsolódó szervezettel együttműködve egy 50 oldalas útmutatót tettek közzé „Hihetetlen módok a mesterséges intelligencia chatbotok használatára” címmel, amely alapvető áttekintést nyújtott az OpenAI ChatGPT-ről - beleértve az olyan kiadványok, mint a Wired Magazin arabra lefordított, az MI-ról szóló tudósításait is. "A ChatGPT egy hatékony eszköz” - állt az útmutató bevezetőjében. „Lássuk hát, mit tudsz kezdeni ezzel az eszközzel.”
Stalinsky szerint azok a technológiai platformok, ahol az Iszlám Állam támogatói tartalmakat terjesztenek - például a Rocket.Chat, a Telegram és az X - rosszul végzik az iszlamista militáns anyagok leszedését. Most, hogy az MI lehetővé teszi, hogy még több ilyen típusú média kerüljön felszínre, ez kihívást jelent majd a szabályozók és a terrorizmusellenes erőfeszítések számára. Laís Machado Rocha, a Rocket.Chat PR-képviselője elmondta, hogy a vállalat egy nyílt forráskódú platform, amely nem tárolja az üzeneteket a szerverein, ezért nem tudja azokat levenni. „Az üzenetek terjesztése az adott felhasználóra korlátozódik” - mondta Rocha.
Több mint egy évtizeddel ezelőtt az Iszlám Állam médiaágazata, az al-Hayat lehetővé tette, hogy az Iszlám Állam jó minőségű videókat készítsen, ami kulcsfontosságú taktika volt a világ minden tájáról történő toborzásban. Miközben a nyugati katonai támadások felszámolták a részleget, a terrorizmus szakértői szerint a mesterséges intelligencia lehetővé teszi az Iszlám Állam támogatói számára, hogy egy terrortámadás utáni napokban gyorsan készítsenek propagandát, amely hosszabb ideig maradhat online, mint a véres tartalmak, amikor nagy a lehetőség az új tagok radikalizálására. "Ha végrehajtod a világ legjobb támadását, és nem propagálod, akkor elvesztetted az eredményedet” - mondta Katz. „Az MI most lehetővé teszi számukra, hogy pillanatok alatt annyi tartalmat hozzanak létre, amennyit csak akarnak”.
Az iszlám törvények szerint az emberábrázolások tiltottak, ezért a hírműsor legújabb epizódjában elmosták az MI által generált bemondó arcát
A videók eközben belső vitát is kirobbantottak az Iszlám Állam támogatói között arról, hogy a mesterségesen létrehozott emberábrázolások tiltottak-e az iszlám törvények szerint, amelyeket „haram”-nak neveznek. „A rajzok ne mutassanak arcot vagy animációkat, mert az HARAM” - írta egy Hamed 123 nevű Iszlám Állam támogató a News Harvest sorozat készítőjének egy privát platformon a SITE Intelligence Group szerint. Hamed 123 azt írta, hogy azok az emberek, akik „rajzolással vagy véséssel” készítenek képeket, az iszlám feltámadás napján büntetést fognak kapni. „Tiltottak az élőlények, például emberek, állatok és madarak képei” - tette hozzá Hamed 123. Hisad május elején válaszolt. „Elmentem és beszéltem a sejkkel erről, és azt mondta, hogy haram az animációs vagy MI rajzok megjelenítése” - írta Hisad. „Ezért azt mondta, hogy homályosítsam el a modell arcát, és ezért látják most így”, utalva a News Harvest adásának újabb epizódjaira, ahol az MI által generált műsorvezető karikatúraszerűbbnek tűnik, eltakart arccal.
Aaron Zelin, a washingtoni Közel-Keleti Politikai Intézet vezető munkatársa szerint a mesterséges intelligencia segítheti a szélsőségesség növekedését azáltal, hogy bárhol lehetőséget nyújt az embereknek arra, hogy propagandát szívjanak magukba, mesterséges intelligenciával generált médiát hozzanak létre, és bekapcsolódjanak a szélsőséges csoportba. "Ha több tésztát vágsz a falhoz, végül az egyik meg fog ragadni” - mondta. „Ez több utat biztosíthat az ilyen típusú tartalmak viralitásához”.
Két hónapja, március 22-én több terepruhás fegyveres tüzet nyitott egy moszkvai koncertteremben, a Crocus City Hallban. Négy nappal később egy videó jelent meg egy az ISIS terrorcsoporthoz kapcsolódó magánplatformon. A 92 másodperces adásban egy sisakos, katonaruhás híradós azt mondta, hogy a támadás nem terrorista akció volt, hanem „az Iszlám Állam és az iszlám ellen harcoló országok között dühöngő háború” része. A „műsorvezető” hamis volt, egy mesterséges intelligencia által generált klón, amelyet az Iszlám Állam támogatói hoztak létre a News Harvest nevű új, mesterséges intelligencia által generált médiaprogram részeként - derül ki a terrorista és szélsőséges online mozgalmakat nyomon követő SITE Intelligence Group jelentéséből.
A News Harvest március óta heti rendszerességgel mutat videóanyagokat az Iszlám Állam műveleteiről szerte a világon. "Az Al Jazeera hírműsorára hasonlító adás a mesterséges intelligencia, mint erőteljes propagandaeszköz megjelenését jelzi, ahogy az Iszlám Állam leányvállalatai egyre nagyobb teret nyernek és újjáépítik a csoport médiaműveleteit" - mondta Rita Katz, a SITE Intelligence Group társalapítója. "Az ISIS számára a mesterséges intelligencia a játék megváltoztatását jelenti. Ez egy gyors módja annak, hogy bemutassák a véres támadásaikat, hogy a világ szinte minden sarkába eljussanak.” - mondta Katz. A műsorok egy grafikus logó és egy címsor megjelenítésével kezdődnek. A képernyőn mesterséges intelligencia által generált bemondók jelennek meg harci felszerelésben, miközben órák ketyegnek és videofelvételek mutatják az Iszlám Állam tagjait, amint terrorista küldetéseket hajtanak végre. A bemondók az Iszlám Állam hivatalos médiumainak, köztük az al-Nabának és az Amaqnak a közleményeit olvassák fel.
A terrorista média-szakértői szerint ezek a videók a legkorábbi jelei annak, hogy az MI segítségét használják a terrorista csoportok a propagandájuk gyors terjesztésében és a tagok toborzásában - és még belső vitát is kiváltottak a technológia iszlám törvények szerinti alkalmazásáról. Az Iszlám Állam ismert a pezsgő médiaműveleteiről, amely hollywoodi szintű toborzó videókat készít, amelyek vonzók a fiatalok számára. A mesterséges intelligencia-videógenerátorok most lehetővé teszik számukra, hogy az eddigi költségek töredékéből hozzanak létre ilyen tartalmakat. Több iszlamista militáns szervezet, köztük az al-Kaida is jelezte érdeklődését MI chatbotok, képgenerátorok és hangklónozók gyors dezinformáció létrehozására való felhasználása iránt.
A mesterséges intelligencia lehetőséget ad az Iszlám Állam támogatóinak arra, hogy ártalmatlan módon, például hírműsornak álcázott propagandát hozzanak létre, ami megnehezíti a technológiai cégek számára a platformjukon való beavatkozást - mondta Katz. Az olcsó és könnyen használható mesterséges intelligenciaeszközök lehetővé teszik, hogy a videókat gyorsan és alacsony költségvetésből készítsék el, ami olyan csoportoknak kedvez, mint az Iszlám Állam és az al-Kaida, amelyeket a katonai támadások meggyengítettek.
Az Iszlám Állam tagjai legalább 133 embert öltek meg a Moszkva környéki zeneterem elleni támadásban. A szélsőséges csoport egyik támogatója, a Hisad nevű szervezet gyorsan mozgósított, hogy készítsen egy mesterséges intelligencia által generált videót. Március 26-án Hisad egy privát üzenetküldő platformon tette közzé a News Harvest első epizódját. Az orosz támadás óta hat News Harvest adást tettek közzé, amelyek áttekintést adnak az Iszlám Állam társszervezeteinek közelmúltbeli műveleteiről világszerte, többek között Nigerben, Kamerunban, Irakban, Szíriában és Nigériában. Nem világos, hogy pontosan milyen szoftvert használnak, bár néhány támogató a posztokban „jó” mesterséges intelligencia szoftverek használatára buzdított, mint például az Eleven Labs, egy mesterséges intelligencia hanggeneráló cég hangklónozó eszköze.
Steven Stalinsky, a Közel-Keleti Médiakutató Intézet (MEMRI) ügyvezető igazgatója szerint az epizódokat nem az Iszlám Állam hivatalos karja készítette, így nem világos, hogy azok összhangban vannak-e a csoport átfogó stratégiájával. De azt mondta, nem lepődne meg, ha létrehoznának egy mesterséges intelligencia alapú média részleget, mivel mindig is gyorsan alkalmazták a csúcstechnológiát. Elmondása szerint az Iszlám Államot támogató médiumok már most is keresnek MI-képzettséggel rendelkező embereket. A MEMRI által megszerzett április 23-i üzenet szerint plakátkészítésben, cikkek írásában és videószerkesztésben jártas szakértőket keresnek. „Ó, a média mudzsahedjei” - állt a bejegyzésben. „A média várja a támadásotokat”.
Más iszlamista militáns szervezetek, például az al-Kaida, szintén tárgyalnak a mesterséges intelligencia alkalmazásáról. Február 9-én egy al-Kaidához kötődő csoport bejelentette, hogy online MI-workshopokat fog tartani. Másnap egy másik al-Kaidához kapcsolódó szervezettel együttműködve egy 50 oldalas útmutatót tettek közzé „Hihetetlen módok a mesterséges intelligencia chatbotok használatára” címmel, amely alapvető áttekintést nyújtott az OpenAI ChatGPT-ről - beleértve az olyan kiadványok, mint a Wired Magazin arabra lefordított, az MI-ról szóló tudósításait is. "A ChatGPT egy hatékony eszköz” - állt az útmutató bevezetőjében. „Lássuk hát, mit tudsz kezdeni ezzel az eszközzel.”
Stalinsky szerint azok a technológiai platformok, ahol az Iszlám Állam támogatói tartalmakat terjesztenek - például a Rocket.Chat, a Telegram és az X - rosszul végzik az iszlamista militáns anyagok leszedését. Most, hogy az MI lehetővé teszi, hogy még több ilyen típusú média kerüljön felszínre, ez kihívást jelent majd a szabályozók és a terrorizmusellenes erőfeszítések számára. Laís Machado Rocha, a Rocket.Chat PR-képviselője elmondta, hogy a vállalat egy nyílt forráskódú platform, amely nem tárolja az üzeneteket a szerverein, ezért nem tudja azokat levenni. „Az üzenetek terjesztése az adott felhasználóra korlátozódik” - mondta Rocha.
Több mint egy évtizeddel ezelőtt az Iszlám Állam médiaágazata, az al-Hayat lehetővé tette, hogy az Iszlám Állam jó minőségű videókat készítsen, ami kulcsfontosságú taktika volt a világ minden tájáról történő toborzásban. Miközben a nyugati katonai támadások felszámolták a részleget, a terrorizmus szakértői szerint a mesterséges intelligencia lehetővé teszi az Iszlám Állam támogatói számára, hogy egy terrortámadás utáni napokban gyorsan készítsenek propagandát, amely hosszabb ideig maradhat online, mint a véres tartalmak, amikor nagy a lehetőség az új tagok radikalizálására. "Ha végrehajtod a világ legjobb támadását, és nem propagálod, akkor elvesztetted az eredményedet” - mondta Katz. „Az MI most lehetővé teszi számukra, hogy pillanatok alatt annyi tartalmat hozzanak létre, amennyit csak akarnak”.
Az iszlám törvények szerint az emberábrázolások tiltottak, ezért a hírműsor legújabb epizódjában elmosták az MI által generált bemondó arcát
A videók eközben belső vitát is kirobbantottak az Iszlám Állam támogatói között arról, hogy a mesterségesen létrehozott emberábrázolások tiltottak-e az iszlám törvények szerint, amelyeket „haram”-nak neveznek. „A rajzok ne mutassanak arcot vagy animációkat, mert az HARAM” - írta egy Hamed 123 nevű Iszlám Állam támogató a News Harvest sorozat készítőjének egy privát platformon a SITE Intelligence Group szerint. Hamed 123 azt írta, hogy azok az emberek, akik „rajzolással vagy véséssel” készítenek képeket, az iszlám feltámadás napján büntetést fognak kapni. „Tiltottak az élőlények, például emberek, állatok és madarak képei” - tette hozzá Hamed 123. Hisad május elején válaszolt. „Elmentem és beszéltem a sejkkel erről, és azt mondta, hogy haram az animációs vagy MI rajzok megjelenítése” - írta Hisad. „Ezért azt mondta, hogy homályosítsam el a modell arcát, és ezért látják most így”, utalva a News Harvest adásának újabb epizódjaira, ahol az MI által generált műsorvezető karikatúraszerűbbnek tűnik, eltakart arccal.
Aaron Zelin, a washingtoni Közel-Keleti Politikai Intézet vezető munkatársa szerint a mesterséges intelligencia segítheti a szélsőségesség növekedését azáltal, hogy bárhol lehetőséget nyújt az embereknek arra, hogy propagandát szívjanak magukba, mesterséges intelligenciával generált médiát hozzanak létre, és bekapcsolódjanak a szélsőséges csoportba. "Ha több tésztát vágsz a falhoz, végül az egyik meg fog ragadni” - mondta. „Ez több utat biztosíthat az ilyen típusú tartalmak viralitásához”.