SG.hu
A mesterséges intelligencia betört a választásokba
Az embereket megtévesztő deepfake videók és MI-generált tartalmak komoly kérdéseket vetnek fel a demokratikus folyamatok védelmével kapcsolatban.
A holland és az ír választások azt mutatják, hogy a választóknak mostantól aggódniuk kell, hogy a politikai tartalmak, amelyeket fogyasztanak, valódiak-e. Amikor a választók az urnákhoz járultak, hogy megválasszák Írország következő elnökét, néhányan meglepődtek, amikor Catherine Connolly nevét látták a szavazólapon. Alig néhány nappal korábban egy deepfake videó keringett, amelyen a későbbi győztes visszalépett a választásoktól, és amelyben Connollyt és több újságírót is utánoztak a hamis valóságban. Hollandiában két szélsőjobboldali parlamenti képviselő állt egy olyan Facebook-oldal mögött, amely a vasárnapi választások előtt deepfake képeket terjesztett baloldali riválisukról, ami bocsánatkéréseket és vádaskodásokat váltott ki.
A mesterséges intelligencia két európai választási kampányt is jelentősen befolyásolt a héten, és feltárta a választókra gyakorolt indokolatlan befolyás visszaszorítására irányuló folyamatos erőfeszítések jelentős hiányosságait. Aggodalmak merültek fel azzal kapcsolatban, hogy ez mit jelent az európai politikára és a választókra nézve, miközben a politikusok és a szabályozók ráébredtek az MI által generált szöveg- és videotartalmakra, amelyek már egy ideje részét képezik az amerikai politikai életnek.
"Az ilyen gyakorlatok normalizálódása aggasztó” - mondta Hannes Cools, az Amszterdami Egyetem új technológiákban rejlő emberi tényezővel foglalkozó adjunktusa. A holland választás „az egyik első olyan választás Európában, ahol azt látjuk, hogy a technológia különböző módon a választási kampányok szerves részévé vált” - mondta Claes de Vreese, az Amszterdami Egyetem mesterséges intelligencia és társadalom professzora. Az Amszterdami Egyetem és a Mainzi Egyetem kutatói mintegy 20 000 választásokkal kapcsolatos hollandiai bejegyzést vizsgáltak meg, és megállapították, hogy több mint 400 bejegyzés mesterséges intelligencia által generált volt.
A szélsőjobboldali vezető, Geert Wilders pártja, a Szabadság Párt (PVV) végzett az élen a mesterséges intelligencia használatában. A mesterséges intelligenciával létrehozott bejegyzések több mint egynegyede (összesen 120) a PVV-hez kapcsolódó fiókokhoz vezethető vissza. Wilders a PVV kampányát egy mesterséges intelligenciával generált videóval indította, amely egy fiktív, a saría törvényei alatt élő jövőbeli Hollandiát ábrázolt. A De Groene Amsterdammer holland hetilap arról számolt be, hogy a videót az OpenAI Sora videógenerátorával készítették.
Amikor a szélsőséges vagy marginális pártok mesterséges intelligencia használatában betöltött domináns szerepéről kérdezték, Fabio Votta kutató így válaszolt: „A mesterséges intelligencia használatának még mindig van egy normatív aspektusa. A szélsőjobboldal esetében a módszereik nagy része normaszegő és sokkoló. Nem félnek a hírnevük romlásától.” Wilders azonban szokatlan lépést tett, és bocsánatot kért Frans Timmermans-tól, az Európai Bizottság korábbi erős emberétől, a Zöld-Munkáspárt-Baloldal koalíció vezetőjétől, miután a holland sajtóban kiderült, hogy két PVV-s parlamenti képviselő állt egy Facebook-oldal mögött, amely MI-generált, felkavaró ábrázolásokat terjesztett róla. Az egyik képen, amelyet a holland De Volkskrant napilap mutatott be, Timmermans látható, ahogy a rendőrség bilincsben viszi el. Egy másik képen pedig egy halom pénzzel a kezében látható.
Írországban a hamis videót, amelyben Connolly bejelentette visszalépését az elnökválasztásról, a jelölt "szégyenletes kísérletnek" nevezte a választók megtévesztésére és demokráciánk aláásására. Az ír nemzeti műsorszolgáltató RTÉ hamis híradójában a videóban egy deepfake változatú Connolly kijelentette: „Nagy sajnálattal jelentem be, hogy visszalépek a jelöltségtől és befejezem a kampányomat”, miközben két ismert tévés műsorvezető deepfake változatai megerősítették a hírt és megvitatták annak hatását. A Meta és a YouTube is eltávolította a Connolly-videót a platformjairól, anélkül, hogy megadta volna, mennyi ideig volt online. Az ír baloldali független jelölt 63 százalékos szavazati aránnyal nyerte meg a választásokat.
Kitalált események ábrázolása, más jelöltek támadása vagy hiteltelenítése csak két módja annak, ahogyan az MI által generált tartalmakat felhasználják a közvélemény befolyásolására. A kutatók egy harmadik, vitathatatlanul közvetlenebb módszerre is figyelmeztetnek, amellyel az MI befolyásolhatja a választási eredményeket: a felhasználók megkérdezik a chatbotokat, hogy kire szavazzanak. Mivel a szavazók nagy többsége általában a választás utolsó napjáig nem dönti el, kire szavazzon, a holland adatvédelmi hatóság október 21-én figyelmeztette a szavazókat, hogy ne kérjenek szavazási tanácsot a chatbotoktól, mivel ezek „rendkívül torz és polarizált képet adnak a holland politikai helyzetről”.
"A chatbotok tele vannak hibákkal” - mondta de Vreese, hozzátéve, hogy „rossz pártállásokat rendelnek különböző pártokhoz, és úgy tűnik, hogy egyfajta vonzó hatást gyakorolnak” egy bizonyos politikai irányba. Egy kísérlet kimutatta, hogy a chatbotok a baloldali szavazók számára a GreenLeft-Labour jelölteket részesítették előnyben, míg a jobboldali szavazókat főként a szélsőjobboldali PVV felé irányították. "„Az alacsony műveltségű emberek különösen érzékenyek az MI által generált dezinformációra” - mondta Cools.
A brüsszeli szabályozó hatóságok a választások integritását, az MI kockázatait és az online dezinformációt tették fő prioritássá, de a folyamatban lévő erőfeszítések miatt csak tétlenül figyelhették a választások lefolyását .Mivel az MI-tartalmak létrehozására szolgáló technológia és azok terjesztésére szolgáló platformok többnyire az Egyesült Államokban találhatók, minden szem Brüsszelre szegeződik, hogy az egész kontinensen egységes válaszlépéseket tegyenek. Az EU digitális szolgáltatásokról szóló törvénye bizonyos felelősséget ró a platformokra a választásokkal kapcsolatos kockázatok kezelése terén, és mind a Meta, mind a Google elismerte a generatív mesterséges intelligenciát jelentős kockázati tényezőnek - ami valószínűleg hozzájárult a Connolly-videó eltávolításáról szóló döntésükhöz.
A követelmények azonban elsősorban a félrevezető információkkal kapcsolatos aggodalmakból fakadnak, nem pedig abból a törekvésből, hogy szabályozzák, hogyan használják az európai politikai pártok a generatív mesterséges intelligenciát üzeneteik terjesztésére. A címkézés is fontos része a válaszlépésnek, amint azt egy külön, a mesterséges intelligenciára vonatkozó uniós jogszabály előírja. Az Amszterdami Egyetem kutatói rámutattak, hogy a holland választásokkal kapcsolatban nyomon követett bejegyzések többségén nem volt MI-címkézésre vonatkozó nyilatkozat. Azoknál, ahol volt, azt a platform tette hozzá, nem a politikai pártok.
A magyar miniszterelnök Amerika kapitányként, egy másik ország védelmezőjeként pózol
További, az ügyet szabályozó jogszabályok vannak előkészítés alatt. Az Európai Bizottság iránymutatást dolgoz ki az úgynevezett magas kockázatú mesterséges intelligencia rendszerekre vonatkozóan, amelyek veszélyt jelenthetnek az emberek alapvető jogaira, és amelyek legkorábban 2026 augusztusában lépnek hatályba. „Ezek az iránymutatások tartalmazni fognak egy részt a választási eredményeket vagy népszavazásokat befolyásolni hivatott mesterséges intelligencia rendszerekről” - mondta Thomas Regnier, a Bizottság szóvivője.
A legösszetettebb mesterséges intelligencia modellek, mint például az OpenAI GPT vagy a Google Gemini fejlesztői már augusztus óta kötelesek betartani egy sor kötelezettséget, többek között a demokratikus folyamatokra jelentett „rendszerkockázatok” enyhítését. Jövő hónapban Brüsszel újabb javaslatot fog előterjeszteni, amelynek célja, hogy támogassa az EU-tagállamokat a választási kampányok tisztességességének és integritásának fenntartásában a külföldi manipulációk és beavatkozások ellen. Ez várhatóan nem fog kötelező jogi követelményeket tartalmazni.
A holland és az ír választások azt mutatják, hogy a választóknak mostantól aggódniuk kell, hogy a politikai tartalmak, amelyeket fogyasztanak, valódiak-e. Amikor a választók az urnákhoz járultak, hogy megválasszák Írország következő elnökét, néhányan meglepődtek, amikor Catherine Connolly nevét látták a szavazólapon. Alig néhány nappal korábban egy deepfake videó keringett, amelyen a későbbi győztes visszalépett a választásoktól, és amelyben Connollyt és több újságírót is utánoztak a hamis valóságban. Hollandiában két szélsőjobboldali parlamenti képviselő állt egy olyan Facebook-oldal mögött, amely a vasárnapi választások előtt deepfake képeket terjesztett baloldali riválisukról, ami bocsánatkéréseket és vádaskodásokat váltott ki.
A mesterséges intelligencia két európai választási kampányt is jelentősen befolyásolt a héten, és feltárta a választókra gyakorolt indokolatlan befolyás visszaszorítására irányuló folyamatos erőfeszítések jelentős hiányosságait. Aggodalmak merültek fel azzal kapcsolatban, hogy ez mit jelent az európai politikára és a választókra nézve, miközben a politikusok és a szabályozók ráébredtek az MI által generált szöveg- és videotartalmakra, amelyek már egy ideje részét képezik az amerikai politikai életnek.
"Az ilyen gyakorlatok normalizálódása aggasztó” - mondta Hannes Cools, az Amszterdami Egyetem új technológiákban rejlő emberi tényezővel foglalkozó adjunktusa. A holland választás „az egyik első olyan választás Európában, ahol azt látjuk, hogy a technológia különböző módon a választási kampányok szerves részévé vált” - mondta Claes de Vreese, az Amszterdami Egyetem mesterséges intelligencia és társadalom professzora. Az Amszterdami Egyetem és a Mainzi Egyetem kutatói mintegy 20 000 választásokkal kapcsolatos hollandiai bejegyzést vizsgáltak meg, és megállapították, hogy több mint 400 bejegyzés mesterséges intelligencia által generált volt.
A szélsőjobboldali vezető, Geert Wilders pártja, a Szabadság Párt (PVV) végzett az élen a mesterséges intelligencia használatában. A mesterséges intelligenciával létrehozott bejegyzések több mint egynegyede (összesen 120) a PVV-hez kapcsolódó fiókokhoz vezethető vissza. Wilders a PVV kampányát egy mesterséges intelligenciával generált videóval indította, amely egy fiktív, a saría törvényei alatt élő jövőbeli Hollandiát ábrázolt. A De Groene Amsterdammer holland hetilap arról számolt be, hogy a videót az OpenAI Sora videógenerátorával készítették.
Amikor a szélsőséges vagy marginális pártok mesterséges intelligencia használatában betöltött domináns szerepéről kérdezték, Fabio Votta kutató így válaszolt: „A mesterséges intelligencia használatának még mindig van egy normatív aspektusa. A szélsőjobboldal esetében a módszereik nagy része normaszegő és sokkoló. Nem félnek a hírnevük romlásától.” Wilders azonban szokatlan lépést tett, és bocsánatot kért Frans Timmermans-tól, az Európai Bizottság korábbi erős emberétől, a Zöld-Munkáspárt-Baloldal koalíció vezetőjétől, miután a holland sajtóban kiderült, hogy két PVV-s parlamenti képviselő állt egy Facebook-oldal mögött, amely MI-generált, felkavaró ábrázolásokat terjesztett róla. Az egyik képen, amelyet a holland De Volkskrant napilap mutatott be, Timmermans látható, ahogy a rendőrség bilincsben viszi el. Egy másik képen pedig egy halom pénzzel a kezében látható.
Írországban a hamis videót, amelyben Connolly bejelentette visszalépését az elnökválasztásról, a jelölt "szégyenletes kísérletnek" nevezte a választók megtévesztésére és demokráciánk aláásására. Az ír nemzeti műsorszolgáltató RTÉ hamis híradójában a videóban egy deepfake változatú Connolly kijelentette: „Nagy sajnálattal jelentem be, hogy visszalépek a jelöltségtől és befejezem a kampányomat”, miközben két ismert tévés műsorvezető deepfake változatai megerősítették a hírt és megvitatták annak hatását. A Meta és a YouTube is eltávolította a Connolly-videót a platformjairól, anélkül, hogy megadta volna, mennyi ideig volt online. Az ír baloldali független jelölt 63 százalékos szavazati aránnyal nyerte meg a választásokat.
Kitalált események ábrázolása, más jelöltek támadása vagy hiteltelenítése csak két módja annak, ahogyan az MI által generált tartalmakat felhasználják a közvélemény befolyásolására. A kutatók egy harmadik, vitathatatlanul közvetlenebb módszerre is figyelmeztetnek, amellyel az MI befolyásolhatja a választási eredményeket: a felhasználók megkérdezik a chatbotokat, hogy kire szavazzanak. Mivel a szavazók nagy többsége általában a választás utolsó napjáig nem dönti el, kire szavazzon, a holland adatvédelmi hatóság október 21-én figyelmeztette a szavazókat, hogy ne kérjenek szavazási tanácsot a chatbotoktól, mivel ezek „rendkívül torz és polarizált képet adnak a holland politikai helyzetről”.
"A chatbotok tele vannak hibákkal” - mondta de Vreese, hozzátéve, hogy „rossz pártállásokat rendelnek különböző pártokhoz, és úgy tűnik, hogy egyfajta vonzó hatást gyakorolnak” egy bizonyos politikai irányba. Egy kísérlet kimutatta, hogy a chatbotok a baloldali szavazók számára a GreenLeft-Labour jelölteket részesítették előnyben, míg a jobboldali szavazókat főként a szélsőjobboldali PVV felé irányították. "„Az alacsony műveltségű emberek különösen érzékenyek az MI által generált dezinformációra” - mondta Cools.
A brüsszeli szabályozó hatóságok a választások integritását, az MI kockázatait és az online dezinformációt tették fő prioritássá, de a folyamatban lévő erőfeszítések miatt csak tétlenül figyelhették a választások lefolyását .Mivel az MI-tartalmak létrehozására szolgáló technológia és azok terjesztésére szolgáló platformok többnyire az Egyesült Államokban találhatók, minden szem Brüsszelre szegeződik, hogy az egész kontinensen egységes válaszlépéseket tegyenek. Az EU digitális szolgáltatásokról szóló törvénye bizonyos felelősséget ró a platformokra a választásokkal kapcsolatos kockázatok kezelése terén, és mind a Meta, mind a Google elismerte a generatív mesterséges intelligenciát jelentős kockázati tényezőnek - ami valószínűleg hozzájárult a Connolly-videó eltávolításáról szóló döntésükhöz.
A követelmények azonban elsősorban a félrevezető információkkal kapcsolatos aggodalmakból fakadnak, nem pedig abból a törekvésből, hogy szabályozzák, hogyan használják az európai politikai pártok a generatív mesterséges intelligenciát üzeneteik terjesztésére. A címkézés is fontos része a válaszlépésnek, amint azt egy külön, a mesterséges intelligenciára vonatkozó uniós jogszabály előírja. Az Amszterdami Egyetem kutatói rámutattak, hogy a holland választásokkal kapcsolatban nyomon követett bejegyzések többségén nem volt MI-címkézésre vonatkozó nyilatkozat. Azoknál, ahol volt, azt a platform tette hozzá, nem a politikai pártok.
@szijjarto.peter JÖVÜNK #magyartiktok #szijjartotiktok #fyp #marvelstudios #spiderman ? eredeti hang - Szijjártó Péter
A magyar miniszterelnök Amerika kapitányként, egy másik ország védelmezőjeként pózol
További, az ügyet szabályozó jogszabályok vannak előkészítés alatt. Az Európai Bizottság iránymutatást dolgoz ki az úgynevezett magas kockázatú mesterséges intelligencia rendszerekre vonatkozóan, amelyek veszélyt jelenthetnek az emberek alapvető jogaira, és amelyek legkorábban 2026 augusztusában lépnek hatályba. „Ezek az iránymutatások tartalmazni fognak egy részt a választási eredményeket vagy népszavazásokat befolyásolni hivatott mesterséges intelligencia rendszerekről” - mondta Thomas Regnier, a Bizottság szóvivője.
A legösszetettebb mesterséges intelligencia modellek, mint például az OpenAI GPT vagy a Google Gemini fejlesztői már augusztus óta kötelesek betartani egy sor kötelezettséget, többek között a demokratikus folyamatokra jelentett „rendszerkockázatok” enyhítését. Jövő hónapban Brüsszel újabb javaslatot fog előterjeszteni, amelynek célja, hogy támogassa az EU-tagállamokat a választási kampányok tisztességességének és integritásának fenntartásában a külföldi manipulációk és beavatkozások ellen. Ez várhatóan nem fog kötelező jogi követelményeket tartalmazni.