SG.hu
Az MI nem befolyásolta az amerikai választást, de elmélyítette az oldalak közötti szakadékot
Az előrejelzések alapján a szakértők attól tartottak, hogy a mesterséges intelligencia megzavarja a 2024-es amerikai választásokat, de csak megingatta az emberek igazságba vetett hitét, mintsem megváltoztatta volna a véleményüket.
Idén attól tartottak, hogy a mesterséges intelligencia pusztítást fog végezni a világszerte tartandó tucatnyi választáson. Két éven át a szakértők a Szilícium-völgyből arra figyelmeztettek, hogy a technológia gyors fejlődése fel fogja turbózni a félretájékoztatást, a propagandát és a gyűlöletbeszédet. Aggodalmuk szerint ez alááshatja a demokratikus folyamatokat, és esetleg elferdítheti az amerikai elnökválasztás kimenetelét. Ezek a legrosszabb félelmek nem váltak valóra - más félelmek azonban igen. Úgy tűnik, hogy a mesterséges intelligencia kevésbé befolyásolta az emberek szavazását, és sokkal inkább aláásta a valóságba vetett hitüket. A félretájékoztatási elemzők és az MI-szakértők által készített interjúk és adatok szerint a pártpropaganda új eszköze a szatírát, a hamis politikai narratívákat és a gyűlöletbeszédet erősítette fel, hogy megszilárdítsa a párthiedelmeket, mintsem hogy megváltoztassa a gondolkodásmódot.
Az Institute for Strategic Dialogue (ISD) kutatóinak elemzése szerint az MI által generált tartalmak gyors növekedése „alapvetően szennyezett információs ökoszisztémát” hozott létre, amelyben a választók egyre nehezebben tudták megkülönböztetni, hogy mi mesterséges és mi valós. "Megváltoztatta a választásokat a mesterséges intelligencia? Nem” - mondta Hany Farid, a Berkeley-i Kaliforniai Egyetem professzora, aki a digitális propagandát és félretájékoztatást tanulmányozza. „De mint társadalom most egy alternatív valóságban élünk. Nem értünk egyet abban, hogy kettő plusz kettő az négy”. Az X közösségi médiaplatform, amelynek tulajdonosa, Elon Musk mindent beleadott Donald Trump kampányának támogatásába, szintén bebetonozta szerepét, mint olyan hely, ahol a mesterséges intelligenciával kapcsolatos tartalmak korlátok nélkül terjedhetnek.
Ahogy Trump hivatalba lépésére készül, szakértők szerint a mesterséges intelligencia - különösen az X-en - kreatív médiumot biztosíthat támogatóinak a közösségépítéshez és az olyan ellentmondásos politikai álláspontok elfogadásához, mint a tömeges kitoloncolások vagy az abortusztilalom. Az MI által generált hamisítványok - mondták - valószínűleg segítenek majd a befolyásolóknak hamis narratívákat terjeszteni a lazán szabályozott közösségi médiaplatformokon, és emberek millióinak pártos meggyőződését erősíteni. „Ez lesz a jövő” - mondta Farid. „Ha valami nem tetszik, csak hazudj, majd erősítsd meg”.
A deepfake-ek már a választási ciklus elején megjelentek, nevezetesen amikor Joe Biden elnök hangját meghamisították januárban, hogy elriasszák a New Hampshire-i szavazókat attól, hogy szavazzanak az állam előválasztásán. A mögötte álló személyt, aki azt állította, hogy a mesterséges intelligencia veszélyeire akarta felhívni a figyelmet, 6 millió dollárra büntette a Szövetségi Kommunikációs Bizottság, amely a távközlési szabályok megsértésére hivatkozott. Júliusban Musk megosztott az X-en egy mesterséges intelligencia által generált hamis hangfelvételt, amelyen Kamala Harris alelnök asszony ünnepli Biden döntését, hogy kiszállt a versenyből, és „sokszínűségre törekvő alkalmazottnak” nevezte magát. A posztot az X nyilvános mérési adatai szerint több mint 100 milliószor nézték meg, és a platformon címke vagy tényellenőrzés nélkül jelent meg.
Egyértelműen hamis videót népszerűsített Musk, ami ma is elérhető
Másik alkalommal karikatúraszerű MI-képek Trumpot náci ruházatban, Harrist pedig szexuálisan szuggesztív és bőrszínét érintően sértő módon ábrázolták. Márciusban a BBC több tucat mesterséges intelligencia által generált hamis képről számolt be, amelyeken Trumpot támogató feketék láthatóak, egy olyan szavazó demográfiai csoport, amelyet mindkét oldal udvarolt. Bár több mint egy tucat államban törvények büntetik azokat, akik mesterséges intelligenciát használnak arra, hogy megtévesztő videókat készítsenek politikusokról, az ilyen tartalmak nagyrészt moderálatlanok maradtak, ami hiányosságokat mutat a törvények és a közösségi médiapolitikák érvényesítésében. A mesterséges intelligenciával készült hamisítványok leleplezésére létrehozott szoftverek sora nem váltotta be a hozzá fűzött reményeket, így a mainstream média tényellenőrzői és kutatói véletlenszerűen jeleztek hamis képeket és felvételeket, ahogy azok a közösségi médiában elterjedtek.
A NewsGuard félretájékoztatást nyomon követő szervezet szerint külföldi aktorok egészen a választások utolsó óráiig használták a mesterséges intelligenciát, alaptalan állításokat terjesztve a választási csalásról olyan csatatérállamokban, mint Arizona, és hamis képeket terjesztve olyan világvezetőkről, mint Volodimir Zelenszkij ukrán elnök, akik arra buzdították az embereket, hogy Harrisre szavazzanak. A mesterséges intelligencia elterjedtsége ellenére azonban nem volt bizonyíték arra, hogy a rosszindulatú tevékenységnek „lényeges hatása” lett volna a szavazási folyamatra - mondta Jen Easterly, a szövetségi kormány választási infrastruktúrák biztonságáért felelős főosztályának, a Cybersecurity and Infrastructure Security Agency-nek az igazgatója.
A kutatók csak néhány olyan esetet azonosítottak, amikor a mesterséges intelligenciát arra használták, hogy dezinformációt generáljanak a szavazási folyamatról - mondta Kate Starbird, a Washingtoni Egyetem Center for an Informed Public társalapítója egy sajtótájékoztatón. "A legtöbb esetben az általunk látott pletykák általában inkább valós bizonyítékok félreértelmezésén alapulnak, mintsem koholt bizonyítékokon” - mondta. „Ez a választások napján is kitartott.”
Ez tükrözi a külföldi választások tendenciáit. A brit adattudomány és mesterséges intelligencia nemzeti központja, az Alan Turing Institute szeptemberi kutatási jelentése szerint a mesterséges intelligencia nem befolyásolta a választásokat Nagy-Britanniában és az Európai Unióban. A kutatók mindössze 16 megerősített vírusos MI-dezinformációs vagy deepfake esetet találtak a brit parlamenti választások során - közölték. Az európai uniós és a francia választásokon együttesen csak 11 vírusos esetet azonosítottak. "Továbbra sincs bizonyíték arra, hogy a mesterséges intelligencia befolyásolta volna a választások eredményét” - mondta Sam Stockwell, a jelentés vezető szerzője, az Alan Turing Intézet tudományos munkatársa. "De továbbra is aggódunk amiatt, hogy az online térben folyamatosan csökken a bizalom a valódi és a hamisítványok között.”
Hasonlóképpen, csak azért, mert a mesterséges intelligencia nem okozott a választásokat megváltoztató „októberi meglepetést”, nem jelenti azt, hogy nem volt hatással az amerikai szavazókra. A szélsőjobboldali szereplők mesterséges intelligencia által generált félretájékoztatás áradatát hozták létre az X-en. Ezek közé tartoztak a Helene hurrikán utáni, mesterséges intelligencia által generált képek is, amelyek a Biden-kormány tisztviselői és mások ellen irányuló összeesküvés-elméleteket és antiszemita támadásokat tápláltak, megnehezítve a katasztrófára adott válaszlépéseket. Nem sokkal Trump megválasztása után, mondta Farid, deepfake hangfelvétel bukkant fel, amelyen a megválasztott elnök hangja hamisan azt állította, hogy meg fogja ölni Justin Trudeau kanadai miniszterelnököt.
Farid szerint az X a jövőben az MI által generált félretájékoztatás puskaporos hordójává válik, mivel laza moderálása és a széles közönség elérésének lehetősége miatt az emberek számára laboratóriumként szolgál arra, hogy gyorsan teszteljék, milyen típusú deepfake-ek és propaganda terjedhet vírusként. "Az a képesség, hogy MI botokat, képeket, hangokat és videókat hozhatunk létre, amelyek támogatják ezt a sok ostobaságot, teljesen megmérgezi az emberek elméjét, akik információik nagy részét a közösségi médiából szerzik” - mondta Farid. „Egyre könnyebb és könnyebb hazudni 350 millió embernek egy olyan országban, ahol ez nem lenne szabad, hogy ilyen könnyű legyen.”
Trump és szövetségesei a ciklus több pontján is használták a mesterséges intelligenciát - bár nem világos, hogy az erőfeszítés végül segített vagy ártott a kampányának. Augusztusban megosztottak a mesterséges intelligencia által generált képeket Taylor Swift rajongóiról, akik látszólag őt támogatták - Swift szerint ez a lépés késztette arra, hogy nyilvánosan támogassa Harrist. Ugyanebben a hónapban a republikánus jelölt tévesen azt állította, hogy a detroiti gyűlésen nagy tömeget üdvözlő Harrisről készült fotók mesterséges intelligencia által generáltak. Az, hogy sok támogatója hitt neki, szakértők szerint a "liar’s dividend" néven ismert jelenség egyik példája, amelyben a mesterséges intelligencia-hamisítások lehetőségének nyilvános tudatosítása lehetővé teszi a tisztességtelen szereplők számára, hogy kétségbe vonják a valós állításokat vagy a valódi képeket.
A Purdue Egyetem kutatói 582, az elnökválasztási ciklus alatt felbukkant politikai hamisítvány elemzésében azt találták, hogy 33 százalékuk Trumpról szólt, míg nagyjából 16 százalékuk Harrisre, 16 százalékuk pedig Bidenre fókuszált. Ezek között olyan tartalmak is voltak, amelyek pozitív és negatív fényben tüntették fel a jelölteket. Ezeknek az MI-hamisításoknak nagyjából 40 százalékát szatirikus céllal osztották meg - derült ki a Purdue Egyetem kutatója, Christina Walker által megosztott adatokból. Körülbelül 35 százalékot olyan „véletlenszerű felhasználók” osztottak meg, akiknek minimális volt a közösségi média követőtábora, míg nagyjából 8 százalékot olyan személyek osztottak meg, akiknek több mint 100 ezer követőjük volt azon a közösségi médiaplatformon, ahol megosztották.
Ezek az MI által generált mémek lehetővé tették, hogy az emberek megragadják a népszerű aktuális eseményeket és divathullámokat - például Trump támogatói a kormányzati túlkapások első számú példáját látták egy mókus, egy állítólag illegális háziállat esetében, amelyet közvetlenül a választások napja előtt foglaltak le és altattak el -, hogy elősegítsék a közösség és a közös identitás érzését - mondta Kaylyn Jackson Schiff, a Purdue Egyetem politológia adjunktusa. Az MI-hamisítványok segítenek a szavazóknak „pozitív attitűdöket vagy az aktuális események megértését kialakítani az általuk megosztott deepfake-ek körül, még akkor is, ha nem gondolják, hogy maga a kép valójában valódi” - mondta.
A szakértők szerint azonban a mesterséges intelligencia legmaradandóbb kárai közé tartozik, hogy elhomályosítja a valóságot, és az embereket arra készteti, hogy szélesebb körben megkérdőjelezzék, mi az igazság. Az ISD kutatói több mint egymillió, a mesterséges intelligenciával és a választásokkal kapcsolatos közösségi média posztot gyűjtöttek össze az X-en, a YouTube-on és a Redditen - amelyek együttesen több milliárd megtekintést gyűjtöttek össze -, majd ezekből 300 véletlenszerű mintát elemeztek. Azt találták, hogy a platformok rendszeresen elmulasztják megjelölni vagy eltávolítani az MI által generált tartalmakat, még akkor is, ha azokat már megcáfolták. Arra a következtetésre is jutottak, hogy azok a felhasználók, akik azt állították, hogy egy adott tartalom mesterséges intelligencia által generált-e, az esetek 52 százalékában tévedtek.
Érdekes módon a kutatók azt találták, hogy a felhasználók sokkal gyakrabban tekintették a hiteles tartalmat mesterséges intelligencia által generáltnak, mint fordítva. Isabelle Frances-Wright, az ISD technológiai és társadalmi igazgatója szerint a platformok igyekeztek megerősíteni a hamis tartalmak felderítésére szolgáló eljárásaikat, de „mostanában valóban válságot tapasztalunk, amikor a tartalom igaz”. Az ISD megállapítása szerint a téves értékelések közül sokan elavult feltételezésekre támaszkodtak azzal kapcsolatban, hogy hogyan lehet kiszűrni az MI által generált tartalmakat, és a felhasználók gyakran túlbecsülték az erre való képességüket. Úgy tűnt, hogy az MI-felismerő eszközök sem segítettek, néhány széles körben megtekintett posztban ezeket az eszközöket használták vagy hamisan ábrázolták, hogy téves következtetéseket vonjanak le.
Ráadásul a választások során a mesterséges intelligencia használatával kapcsolatos posztok közül sok - 44,8 százalék - azt sugallta, hogy a másik oldal szokás szerint mesterséges intelligenciát használ, és ezért semmiben sem lehet megbízni, amit mond. Néhány felhasználó aggodalmát fejezte ki amiatt, hogy a mesterséges intelligencia miatt szinte mindenre gyanakodni kezdtek. Frances-Wright szerint a gyanakvás elvetése, amelyet az emberek a saját meggyőződésüknek megfelelően alkalmaznak, az MI egyik legfontosabb hatása. "Ez csak egy újabb mechanizmust ad az embereknek, amelyet arra használhatnak, hogy tovább erősítsék a saját előítéleteiket”.
Idén attól tartottak, hogy a mesterséges intelligencia pusztítást fog végezni a világszerte tartandó tucatnyi választáson. Két éven át a szakértők a Szilícium-völgyből arra figyelmeztettek, hogy a technológia gyors fejlődése fel fogja turbózni a félretájékoztatást, a propagandát és a gyűlöletbeszédet. Aggodalmuk szerint ez alááshatja a demokratikus folyamatokat, és esetleg elferdítheti az amerikai elnökválasztás kimenetelét. Ezek a legrosszabb félelmek nem váltak valóra - más félelmek azonban igen. Úgy tűnik, hogy a mesterséges intelligencia kevésbé befolyásolta az emberek szavazását, és sokkal inkább aláásta a valóságba vetett hitüket. A félretájékoztatási elemzők és az MI-szakértők által készített interjúk és adatok szerint a pártpropaganda új eszköze a szatírát, a hamis politikai narratívákat és a gyűlöletbeszédet erősítette fel, hogy megszilárdítsa a párthiedelmeket, mintsem hogy megváltoztassa a gondolkodásmódot.
Az Institute for Strategic Dialogue (ISD) kutatóinak elemzése szerint az MI által generált tartalmak gyors növekedése „alapvetően szennyezett információs ökoszisztémát” hozott létre, amelyben a választók egyre nehezebben tudták megkülönböztetni, hogy mi mesterséges és mi valós. "Megváltoztatta a választásokat a mesterséges intelligencia? Nem” - mondta Hany Farid, a Berkeley-i Kaliforniai Egyetem professzora, aki a digitális propagandát és félretájékoztatást tanulmányozza. „De mint társadalom most egy alternatív valóságban élünk. Nem értünk egyet abban, hogy kettő plusz kettő az négy”. Az X közösségi médiaplatform, amelynek tulajdonosa, Elon Musk mindent beleadott Donald Trump kampányának támogatásába, szintén bebetonozta szerepét, mint olyan hely, ahol a mesterséges intelligenciával kapcsolatos tartalmak korlátok nélkül terjedhetnek.
Ahogy Trump hivatalba lépésére készül, szakértők szerint a mesterséges intelligencia - különösen az X-en - kreatív médiumot biztosíthat támogatóinak a közösségépítéshez és az olyan ellentmondásos politikai álláspontok elfogadásához, mint a tömeges kitoloncolások vagy az abortusztilalom. Az MI által generált hamisítványok - mondták - valószínűleg segítenek majd a befolyásolóknak hamis narratívákat terjeszteni a lazán szabályozott közösségi médiaplatformokon, és emberek millióinak pártos meggyőződését erősíteni. „Ez lesz a jövő” - mondta Farid. „Ha valami nem tetszik, csak hazudj, majd erősítsd meg”.
A deepfake-ek már a választási ciklus elején megjelentek, nevezetesen amikor Joe Biden elnök hangját meghamisították januárban, hogy elriasszák a New Hampshire-i szavazókat attól, hogy szavazzanak az állam előválasztásán. A mögötte álló személyt, aki azt állította, hogy a mesterséges intelligencia veszélyeire akarta felhívni a figyelmet, 6 millió dollárra büntette a Szövetségi Kommunikációs Bizottság, amely a távközlési szabályok megsértésére hivatkozott. Júliusban Musk megosztott az X-en egy mesterséges intelligencia által generált hamis hangfelvételt, amelyen Kamala Harris alelnök asszony ünnepli Biden döntését, hogy kiszállt a versenyből, és „sokszínűségre törekvő alkalmazottnak” nevezte magát. A posztot az X nyilvános mérési adatai szerint több mint 100 milliószor nézték meg, és a platformon címke vagy tényellenőrzés nélkül jelent meg.
This is amazing
— Elon Musk (@elonmusk) July 26, 2024
pic.twitter.com/KpnBKGUUwn
Egyértelműen hamis videót népszerűsített Musk, ami ma is elérhető
Másik alkalommal karikatúraszerű MI-képek Trumpot náci ruházatban, Harrist pedig szexuálisan szuggesztív és bőrszínét érintően sértő módon ábrázolták. Márciusban a BBC több tucat mesterséges intelligencia által generált hamis képről számolt be, amelyeken Trumpot támogató feketék láthatóak, egy olyan szavazó demográfiai csoport, amelyet mindkét oldal udvarolt. Bár több mint egy tucat államban törvények büntetik azokat, akik mesterséges intelligenciát használnak arra, hogy megtévesztő videókat készítsenek politikusokról, az ilyen tartalmak nagyrészt moderálatlanok maradtak, ami hiányosságokat mutat a törvények és a közösségi médiapolitikák érvényesítésében. A mesterséges intelligenciával készült hamisítványok leleplezésére létrehozott szoftverek sora nem váltotta be a hozzá fűzött reményeket, így a mainstream média tényellenőrzői és kutatói véletlenszerűen jeleztek hamis képeket és felvételeket, ahogy azok a közösségi médiában elterjedtek.
A NewsGuard félretájékoztatást nyomon követő szervezet szerint külföldi aktorok egészen a választások utolsó óráiig használták a mesterséges intelligenciát, alaptalan állításokat terjesztve a választási csalásról olyan csatatérállamokban, mint Arizona, és hamis képeket terjesztve olyan világvezetőkről, mint Volodimir Zelenszkij ukrán elnök, akik arra buzdították az embereket, hogy Harrisre szavazzanak. A mesterséges intelligencia elterjedtsége ellenére azonban nem volt bizonyíték arra, hogy a rosszindulatú tevékenységnek „lényeges hatása” lett volna a szavazási folyamatra - mondta Jen Easterly, a szövetségi kormány választási infrastruktúrák biztonságáért felelős főosztályának, a Cybersecurity and Infrastructure Security Agency-nek az igazgatója.
A kutatók csak néhány olyan esetet azonosítottak, amikor a mesterséges intelligenciát arra használták, hogy dezinformációt generáljanak a szavazási folyamatról - mondta Kate Starbird, a Washingtoni Egyetem Center for an Informed Public társalapítója egy sajtótájékoztatón. "A legtöbb esetben az általunk látott pletykák általában inkább valós bizonyítékok félreértelmezésén alapulnak, mintsem koholt bizonyítékokon” - mondta. „Ez a választások napján is kitartott.”
Ez tükrözi a külföldi választások tendenciáit. A brit adattudomány és mesterséges intelligencia nemzeti központja, az Alan Turing Institute szeptemberi kutatási jelentése szerint a mesterséges intelligencia nem befolyásolta a választásokat Nagy-Britanniában és az Európai Unióban. A kutatók mindössze 16 megerősített vírusos MI-dezinformációs vagy deepfake esetet találtak a brit parlamenti választások során - közölték. Az európai uniós és a francia választásokon együttesen csak 11 vírusos esetet azonosítottak. "Továbbra sincs bizonyíték arra, hogy a mesterséges intelligencia befolyásolta volna a választások eredményét” - mondta Sam Stockwell, a jelentés vezető szerzője, az Alan Turing Intézet tudományos munkatársa. "De továbbra is aggódunk amiatt, hogy az online térben folyamatosan csökken a bizalom a valódi és a hamisítványok között.”
Hasonlóképpen, csak azért, mert a mesterséges intelligencia nem okozott a választásokat megváltoztató „októberi meglepetést”, nem jelenti azt, hogy nem volt hatással az amerikai szavazókra. A szélsőjobboldali szereplők mesterséges intelligencia által generált félretájékoztatás áradatát hozták létre az X-en. Ezek közé tartoztak a Helene hurrikán utáni, mesterséges intelligencia által generált képek is, amelyek a Biden-kormány tisztviselői és mások ellen irányuló összeesküvés-elméleteket és antiszemita támadásokat tápláltak, megnehezítve a katasztrófára adott válaszlépéseket. Nem sokkal Trump megválasztása után, mondta Farid, deepfake hangfelvétel bukkant fel, amelyen a megválasztott elnök hangja hamisan azt állította, hogy meg fogja ölni Justin Trudeau kanadai miniszterelnököt.
Farid szerint az X a jövőben az MI által generált félretájékoztatás puskaporos hordójává válik, mivel laza moderálása és a széles közönség elérésének lehetősége miatt az emberek számára laboratóriumként szolgál arra, hogy gyorsan teszteljék, milyen típusú deepfake-ek és propaganda terjedhet vírusként. "Az a képesség, hogy MI botokat, képeket, hangokat és videókat hozhatunk létre, amelyek támogatják ezt a sok ostobaságot, teljesen megmérgezi az emberek elméjét, akik információik nagy részét a közösségi médiából szerzik” - mondta Farid. „Egyre könnyebb és könnyebb hazudni 350 millió embernek egy olyan országban, ahol ez nem lenne szabad, hogy ilyen könnyű legyen.”
Trump és szövetségesei a ciklus több pontján is használták a mesterséges intelligenciát - bár nem világos, hogy az erőfeszítés végül segített vagy ártott a kampányának. Augusztusban megosztottak a mesterséges intelligencia által generált képeket Taylor Swift rajongóiról, akik látszólag őt támogatták - Swift szerint ez a lépés késztette arra, hogy nyilvánosan támogassa Harrist. Ugyanebben a hónapban a republikánus jelölt tévesen azt állította, hogy a detroiti gyűlésen nagy tömeget üdvözlő Harrisről készült fotók mesterséges intelligencia által generáltak. Az, hogy sok támogatója hitt neki, szakértők szerint a "liar’s dividend" néven ismert jelenség egyik példája, amelyben a mesterséges intelligencia-hamisítások lehetőségének nyilvános tudatosítása lehetővé teszi a tisztességtelen szereplők számára, hogy kétségbe vonják a valós állításokat vagy a valódi képeket.
A Purdue Egyetem kutatói 582, az elnökválasztási ciklus alatt felbukkant politikai hamisítvány elemzésében azt találták, hogy 33 százalékuk Trumpról szólt, míg nagyjából 16 százalékuk Harrisre, 16 százalékuk pedig Bidenre fókuszált. Ezek között olyan tartalmak is voltak, amelyek pozitív és negatív fényben tüntették fel a jelölteket. Ezeknek az MI-hamisításoknak nagyjából 40 százalékát szatirikus céllal osztották meg - derült ki a Purdue Egyetem kutatója, Christina Walker által megosztott adatokból. Körülbelül 35 százalékot olyan „véletlenszerű felhasználók” osztottak meg, akiknek minimális volt a közösségi média követőtábora, míg nagyjából 8 százalékot olyan személyek osztottak meg, akiknek több mint 100 ezer követőjük volt azon a közösségi médiaplatformon, ahol megosztották.
Ezek az MI által generált mémek lehetővé tették, hogy az emberek megragadják a népszerű aktuális eseményeket és divathullámokat - például Trump támogatói a kormányzati túlkapások első számú példáját látták egy mókus, egy állítólag illegális háziállat esetében, amelyet közvetlenül a választások napja előtt foglaltak le és altattak el -, hogy elősegítsék a közösség és a közös identitás érzését - mondta Kaylyn Jackson Schiff, a Purdue Egyetem politológia adjunktusa. Az MI-hamisítványok segítenek a szavazóknak „pozitív attitűdöket vagy az aktuális események megértését kialakítani az általuk megosztott deepfake-ek körül, még akkor is, ha nem gondolják, hogy maga a kép valójában valódi” - mondta.
A szakértők szerint azonban a mesterséges intelligencia legmaradandóbb kárai közé tartozik, hogy elhomályosítja a valóságot, és az embereket arra készteti, hogy szélesebb körben megkérdőjelezzék, mi az igazság. Az ISD kutatói több mint egymillió, a mesterséges intelligenciával és a választásokkal kapcsolatos közösségi média posztot gyűjtöttek össze az X-en, a YouTube-on és a Redditen - amelyek együttesen több milliárd megtekintést gyűjtöttek össze -, majd ezekből 300 véletlenszerű mintát elemeztek. Azt találták, hogy a platformok rendszeresen elmulasztják megjelölni vagy eltávolítani az MI által generált tartalmakat, még akkor is, ha azokat már megcáfolták. Arra a következtetésre is jutottak, hogy azok a felhasználók, akik azt állították, hogy egy adott tartalom mesterséges intelligencia által generált-e, az esetek 52 százalékában tévedtek.
Érdekes módon a kutatók azt találták, hogy a felhasználók sokkal gyakrabban tekintették a hiteles tartalmat mesterséges intelligencia által generáltnak, mint fordítva. Isabelle Frances-Wright, az ISD technológiai és társadalmi igazgatója szerint a platformok igyekeztek megerősíteni a hamis tartalmak felderítésére szolgáló eljárásaikat, de „mostanában valóban válságot tapasztalunk, amikor a tartalom igaz”. Az ISD megállapítása szerint a téves értékelések közül sokan elavult feltételezésekre támaszkodtak azzal kapcsolatban, hogy hogyan lehet kiszűrni az MI által generált tartalmakat, és a felhasználók gyakran túlbecsülték az erre való képességüket. Úgy tűnt, hogy az MI-felismerő eszközök sem segítettek, néhány széles körben megtekintett posztban ezeket az eszközöket használták vagy hamisan ábrázolták, hogy téves következtetéseket vonjanak le.
Ráadásul a választások során a mesterséges intelligencia használatával kapcsolatos posztok közül sok - 44,8 százalék - azt sugallta, hogy a másik oldal szokás szerint mesterséges intelligenciát használ, és ezért semmiben sem lehet megbízni, amit mond. Néhány felhasználó aggodalmát fejezte ki amiatt, hogy a mesterséges intelligencia miatt szinte mindenre gyanakodni kezdtek. Frances-Wright szerint a gyanakvás elvetése, amelyet az emberek a saját meggyőződésüknek megfelelően alkalmaznak, az MI egyik legfontosabb hatása. "Ez csak egy újabb mechanizmust ad az embereknek, amelyet arra használhatnak, hogy tovább erősítsék a saját előítéleteiket”.