Berta Sándor

Az emberek többségét megtévesztik a deepfake-videók

A tapasztalatok alapján szinte bárki átverhető ilyen tartalmakkal, és a később érkező cáfolat már nagyon kevesekhez jut el.

Az úgynevezett deepfake-anyagok számítógéppel generált álló- és mozgóképek, amelyeket meglévő fotókból és videókból készítenek, azaz általában közismert személyekről készült valósághű felvételek. Bár a manipulált tartalmak számítógéppel valós időben felismerhetők és ezáltal kiszűrhetők, ennek ellenére komoly problémát jelentenek a honlapüzemeltetők számára.

Az Amszterdami Egyetem munkatársai arra voltak kíváncsiak, hogy a felhasználók felismerik-e, ha valaki deepfake-anyagokat mutat nekik. Nos, mint kiderült, az emberek többsége simán elfogadta valódinak a megtévesztő felvételeket, még akkor is, ha azok minősége nem volt túl jó. Sőt, számos közösségi média-használó kérdés nélkül hajlandó volt elfogadni valódinak ezeket a videókat.


A jelenségre a figyelmet felhívó Obama-videó már két éves, és ez alatt rengeteget fejlődött a technika. Ezért egyre fontosabbá válik, hogy mely forrásokból tájékozódunk

A kutatók egy saját deepfake-tartalmat készítettek azért, hogy azt tesztelhessék az internetezőkön. Az anyagban egy holland politikus volt látható, aki olyan dolgokat mondott, amiket a valódi életben biztosan nem árult volna el magáról. A felvételt 287 felhasználó nézhette meg, majd közölniük kellett, hogy mi a véleményük a dologról. A megkérdezettek többsége valódinak nevezte a videót. Nadia Metoui, az egyetem egyik munkatársa kijelentette, hogy rövid idő alatt és viszonylag korlátozott műszaki erőforrások segítségével készítették el a tartalmat, amelyet később a legtöbb kísérleti személy kérdések nélkül elfogadott valódi anyagként.

A tudósok hangsúlyozták, hogy a deepfake-felvételek elsősorban a közösségi portálokon veszélyesek, mert ugyan gyorsan kiszűrhetők, de általában csak a tényeket közlés előtt ellenőrző (azaz az alanyt vagy az adott szervezetet felhívó) klasszikus sajtóorgánumok jönnek rá a csalásra. Azonban hiába a leleplezés, úgy tűnik, hogy a közösségi platformok tagjai gyakran egy buborékban élnek és továbbra is meggyőződésük, hogy az adott videó valódi. Ez nem csupán a politikusok számára jelenthet problémát, hanem a deepfake-tartalmak az online csalások, a kiberzaklatások és a zsarolások esetében is veszélyes eszközök lehetnek.

Hozzászólások

A témához csak regisztrált és bejelentkezett látogatók szólhatnak hozzá!
Bejelentkezéshez klikk ide
(Regisztráció a fórum nyitóoldalán)
  • ugh #21
    Mert ez egy fos állókép.
    A mozgókép lehetősége sokkal messzebre visz.
  • ximix #20
    :) igaz, igaz, nem fogalmaztam jól.
  • Palinko #19
    Leutánozza az már a felsoroltakat is... Sehol nem írtam le azt a szavat amit sikerült odalátnod.
  • Ender Wiggin #18
    A hang leutánzása még messze van a hiteles beszédimitációtól, mert a hanglejtés, akcentus, dialektus alapján is eldönthető, hogy hamis vagy igazi. Obamára célzol az "élősködéssel"? Szerintem a politikai nézeteidet ne kevejük ide... Köszi.
    Utoljára szerkesztette: Ender Wiggin, 2020.08.27. 10:28:23
  • Cat #17
    "mar itthon sincs messze a fake gyartastol"

    Bírósági ítéletek vannak, ami szerint a közmédia hazudik. Persze nem ilyen deepfake videókkal, hanem vágással, kitakarással és kreatív kamerakezeléssel. Emlékezzünk csak a az Operánál megtartott ellenzéki tüntetésre, amelyen az M1 hiradója szerint nem volt ott senki.



    Lomnici kitakarása: https://index.hu/kultur/media/2011/12/06/bunozokent_kezeltek_lomnicit_a_hiradoban/

    Vagy amikor az MTV szerint megfutamodott a kínos kérdések elől Daniel-Cohn Bendit: feltettek neki egy sajtótájékoztatón egy kérdést, majd utána odavágták, ahogy a végén kimegy a teremből, mintha menekülne.
    https://index.hu/kultur/2014/11/27/kimondta_a_birosag_hivhatjuk_hirhamisitonak_a_hirhamisito_koztevest/
  • Nos #16
    Lattal mar M1 hiradot, vagy olvastal mti-t? A hivatalos kormanyoldal mediaja mar itthon sincs messze a fake gyartastol
  • kvp #15
    Van egy olyan fogalom hogy konfidencia (bizonyossagi) szint. Nem csak biztosan igaz es biztosan hamis kategoriak vannak hanem a ketto kozott barhol lehet egy video. A gyanus, de jo minosegu hamisitott video es a valojaban igazi, de rossz kameraval felvett is hasonloan a "nem tudom biztosra mondani" kategoriaban vegzi. A gond, hogy az emberek nagyresze nem veszi a faradtsagot a gondolkozasra es alapbol elhisz barmit. Ekkor okozhat gondot, hogy most mar a hamisitott hangfelvetelek es fotok mellett a videokat is viszonylag konnyu es olcso hamisitani. Ha nem is tokeletesre, de eleg jora a kivant celok eleresehez.
  • ToxiMaxi #14
    Egykor a photoshop érkezése után is voltak ilyen hangok, aztán mégsem lett világvége.
  • Palinko #13
    Egyébként itt mindenki gangszter meg hú így szar úgy szar mikor mindenki tudja hogy mi a helyes válasz, de úgy derülne ki az egész ha fognák a jelenleg elérhető legjobb technikát, nem 2 éveset és csinálnának olyan tesztet ahol megnézel 50-100 videót és ki kell találnod hogy deepfake vagy rendes és ha valami szarabb kamerával vennék fel szarabb tömörítéssel és homályos lenne rányomnád hogy deepfake közben meg nem is?
  • Palinko #12
    Wannak hangutánzó szoftverek is már csak alá kell vágni, ha egy embertől elég hangmintát talál már le tudja utánozni, ez egy átlagembernél valószerűtlen hogy találjon elég hangot de egy 8 évig elnökösködő személynél meg van dögivel :D