SG.hu
Semmi értelme vízjelet rakni az MI által gyártott tartalomra
Kutatók bebizonyították, hogy nagyon egyszerű kijátszani a jelenlegi módszereket, vagy akár hamisat hozzáadni emberi tartalmakhoz.
"Jelenleg nincs megbízható vízjelünk" - állítja Soheil Feizi, a Marylandi Egyetem informatika professzora. Feizi és szerzőtársai azt vizsgálták, hogy rossz szándékú szereplők hogyan tudják kijátszani a technológiát, azaz "kimosni" azokat a tartalmakból. A tanulmány amellett, hogy bemutatja, hogyan távolíthatják el a támadók a vízjeleket, azt is megmutatja, hogyan lehet vízjeleket hozzáadni emberek által generált képekhez, hamis pozitív jelzést kiváltva. A héten online megjelent preprint tanulmányt még nem bírálták el, de Feizi vezető szerepet tölt be a mesterséges intelligencia felismerésének lehetséges módját vizsgáló kutatásoknál, így még ebben a korai szakaszban is érdemes odafigyelni az eredményére.
A vízjelek használata az egyik legígéretesebb stratégia az MI által generált képek és szövegek azonosítására. Ahogyan a papírpénzeken és bélyegeken a fizikai vízjelek a hitelesség bizonyítására szolgálnak, a digitális vízjelek célja a képek és szövegek eredetének nyomon követése az interneten, segítve az embereket a hamisított videók és a robotok által írt könyvek kiszűrésében. A 2024-ben esedékes amerikai elnökválasztás és egyéb választások határozottan megnövelik a manipulált médiával kapcsolatos aggodalmakat, mert már most is sok ember bedől a hamis híreknek.
Idén nyáron az OpenAI, az Alphabet, a Meta, az Amazon és számos más jelentős MI-szereplőígéretet tett arra, hogy vízjel-technológiát fejleszt a félretájékoztatás elleni küzdelemhez. Augusztus végén a Google DeepMind kiadta új vízjelző eszköze, a SynthID béta verzióját. Az elképzelés az, hogy a mesterséges intelligenciával előállított tartalmakat már a létrehozásuk során meg kell jelölni, hasonlóan ahhoz ahogyan minden papírpénz is hitelesítve van fizikai vízjelekkel. Ez egy szilárd, egyszerű stratégia, de nem biztos, hogy nyerő. Nem ez a tanulmány az egyetlen munka, amely rámutat a vízjelek jelentős hiányosságaira. "Jól ismert, hogy a vízjelek támadhatóak" - mondja Hany Farid, a UC Berkeley School of Information professzora.
Idén augusztusban a Kaliforniai Egyetem, Santa Barbara és a Carnegie Mellon kutatói saját kísérleti támadásaik után egy másik, hasonló eredményeket bemutató tanulmányt írtak. "Minden láthatatlan vízjel sebezhető" - olvasható benne. Ez a legújabb tanulmány még tovább megy. Míg egyes kutatók reménykedtek abban, hogy látható vízjeleket ki lehet fejleszteni úgy, hogy ellenálljanak a támadásoknak, Feizi és kollégái szerint még ez az ígéretesebb típus is manipulálható.
A vízjelek hibái nem tántorították el a technológiai óriásokat attól, hogy a technológiát megoldásként kínálják fel, de a mesterséges intelligencia felismerésével foglalkozó szakemberek óvatosak. "A vízjelek elsőre nemes és ígéretes megoldásnak tűnnek, de a valós alkalmazások már a kezdetektől fogva kudarcot vallanak, mert könnyen hamisíthatók, eltávolíthatók vagy figyelmen kívül hagyhatók" - mondja Ben Colman, a Reality Defender nevű, mesterséges intelligencia-felderítéssel foglalkozó startup cég vezérigazgatója. "A vízjelek nem hatékonyak" - teszi hozzá Juhasz Bars, az Undetectable nevű startup társalapítója, aki MI-érzékelők kijátszásának segítésével foglalkozik. "Egész iparágak - például a miénk - azért jöttek létre, hogy megbizonyosodjanak arról, hogy ez nem hatékony." Juhasz szerint az olyan cégek, mint az övé, már képesek gyors vízjel-eltávolítási szolgáltatásokat nyújtani.
Mások úgy gondolják, hogy a vízjeleknek helye van a mesterséges intelligencia felderítésében - feltéve, hogy tisztában vagyunk a korlátaival. "Fontos megérteni, hogy senki sem gondolja, hogy a vízjelek önmagukban elegendőek lennének" - mondja Farid. "De úgy vélem, hogy a robusztus vízjelek a megoldás részei." Úgy véli, hogy a vízjelek tökéletesítése, majd más technológiákkal kombinálva történő alkalmazása megnehezíti a rossz szándékú szereplők számára a meggyőző hamisítványok létrehozását.
Feizi néhány kollégája szerint a vízjeleknek is megvan a maguk helye. "Az, hogy ez csapás-e a vízjelezésnek, nagyban függ a vízjelezéshez, mint megoldáshoz fűzött feltételezésektől és reményektől" - mondja Yuxin Wen, a Marylandi Egyetem doktorandusza, aki társszerzője volt egy új vízjelezési technikát javasló, nemrégiben megjelent tanulmánynak. Wen és társszerzői - köztük Tom Goldstein informatika professzor - számára ez a tanulmány lehetőséget ad arra, hogy felülvizsgáljuk a vízjelekkel szemben támasztott elvárásokat, és nem ok arra, hogy elutasítsuk a vízjeleket, mint egy hitelesítési eszközt a sok közül. "Mindig lesznek olyan kifinomult szereplők, akik képesek megkerülni a felismerést" - mondja Goldstein. "Nem baj, ha van egy olyan rendszer, amely csak bizonyos dolgokat képes felismerni." A vízjeleket a kárcsökkentés egy formájának tekinti, és érdemesnek tartja az alacsonyabb szintű MI-hamisítási kísérletek elkapására, még akkor is, ha a magas szintű támadásokat nem tudják megakadályozni.
Az elvárásoknak mérséklése már most is folyamatban van. A SynthID bejelentéséről szóló blogbejegyzésében a DeepMind óvatos mondatokat használ, megjegyezve, hogy az eszköz "nem bolondbiztos" és "nem tökéletes". Feizi nagyrészt szkeptikus azzal kapcsolatban, hogy a vízjelek használatának lenne bármi értelme az olyan vállalatok számára, mint a Google. "Talán hozzá kellene szoknunk ahhoz a tényhez, hogy nem fogjuk tudni megbízhatóan megjelölni az MI által generált képeket" - mondja. Ennek ellenére a tanulmánya kissé derűlátóbb következtetést von le. "Eredményeink alapján egy robusztus vízjel megtervezése kihívást jelentő, de nem feltétlenül lehetetlen feladat" - olvasható benne.
"Jelenleg nincs megbízható vízjelünk" - állítja Soheil Feizi, a Marylandi Egyetem informatika professzora. Feizi és szerzőtársai azt vizsgálták, hogy rossz szándékú szereplők hogyan tudják kijátszani a technológiát, azaz "kimosni" azokat a tartalmakból. A tanulmány amellett, hogy bemutatja, hogyan távolíthatják el a támadók a vízjeleket, azt is megmutatja, hogyan lehet vízjeleket hozzáadni emberek által generált képekhez, hamis pozitív jelzést kiváltva. A héten online megjelent preprint tanulmányt még nem bírálták el, de Feizi vezető szerepet tölt be a mesterséges intelligencia felismerésének lehetséges módját vizsgáló kutatásoknál, így még ebben a korai szakaszban is érdemes odafigyelni az eredményére.
A vízjelek használata az egyik legígéretesebb stratégia az MI által generált képek és szövegek azonosítására. Ahogyan a papírpénzeken és bélyegeken a fizikai vízjelek a hitelesség bizonyítására szolgálnak, a digitális vízjelek célja a képek és szövegek eredetének nyomon követése az interneten, segítve az embereket a hamisított videók és a robotok által írt könyvek kiszűrésében. A 2024-ben esedékes amerikai elnökválasztás és egyéb választások határozottan megnövelik a manipulált médiával kapcsolatos aggodalmakat, mert már most is sok ember bedől a hamis híreknek.
Idén nyáron az OpenAI, az Alphabet, a Meta, az Amazon és számos más jelentős MI-szereplőígéretet tett arra, hogy vízjel-technológiát fejleszt a félretájékoztatás elleni küzdelemhez. Augusztus végén a Google DeepMind kiadta új vízjelző eszköze, a SynthID béta verzióját. Az elképzelés az, hogy a mesterséges intelligenciával előállított tartalmakat már a létrehozásuk során meg kell jelölni, hasonlóan ahhoz ahogyan minden papírpénz is hitelesítve van fizikai vízjelekkel. Ez egy szilárd, egyszerű stratégia, de nem biztos, hogy nyerő. Nem ez a tanulmány az egyetlen munka, amely rámutat a vízjelek jelentős hiányosságaira. "Jól ismert, hogy a vízjelek támadhatóak" - mondja Hany Farid, a UC Berkeley School of Information professzora.
Idén augusztusban a Kaliforniai Egyetem, Santa Barbara és a Carnegie Mellon kutatói saját kísérleti támadásaik után egy másik, hasonló eredményeket bemutató tanulmányt írtak. "Minden láthatatlan vízjel sebezhető" - olvasható benne. Ez a legújabb tanulmány még tovább megy. Míg egyes kutatók reménykedtek abban, hogy látható vízjeleket ki lehet fejleszteni úgy, hogy ellenálljanak a támadásoknak, Feizi és kollégái szerint még ez az ígéretesebb típus is manipulálható.
A vízjelek hibái nem tántorították el a technológiai óriásokat attól, hogy a technológiát megoldásként kínálják fel, de a mesterséges intelligencia felismerésével foglalkozó szakemberek óvatosak. "A vízjelek elsőre nemes és ígéretes megoldásnak tűnnek, de a valós alkalmazások már a kezdetektől fogva kudarcot vallanak, mert könnyen hamisíthatók, eltávolíthatók vagy figyelmen kívül hagyhatók" - mondja Ben Colman, a Reality Defender nevű, mesterséges intelligencia-felderítéssel foglalkozó startup cég vezérigazgatója. "A vízjelek nem hatékonyak" - teszi hozzá Juhasz Bars, az Undetectable nevű startup társalapítója, aki MI-érzékelők kijátszásának segítésével foglalkozik. "Egész iparágak - például a miénk - azért jöttek létre, hogy megbizonyosodjanak arról, hogy ez nem hatékony." Juhasz szerint az olyan cégek, mint az övé, már képesek gyors vízjel-eltávolítási szolgáltatásokat nyújtani.
Mások úgy gondolják, hogy a vízjeleknek helye van a mesterséges intelligencia felderítésében - feltéve, hogy tisztában vagyunk a korlátaival. "Fontos megérteni, hogy senki sem gondolja, hogy a vízjelek önmagukban elegendőek lennének" - mondja Farid. "De úgy vélem, hogy a robusztus vízjelek a megoldás részei." Úgy véli, hogy a vízjelek tökéletesítése, majd más technológiákkal kombinálva történő alkalmazása megnehezíti a rossz szándékú szereplők számára a meggyőző hamisítványok létrehozását.
Feizi néhány kollégája szerint a vízjeleknek is megvan a maguk helye. "Az, hogy ez csapás-e a vízjelezésnek, nagyban függ a vízjelezéshez, mint megoldáshoz fűzött feltételezésektől és reményektől" - mondja Yuxin Wen, a Marylandi Egyetem doktorandusza, aki társszerzője volt egy új vízjelezési technikát javasló, nemrégiben megjelent tanulmánynak. Wen és társszerzői - köztük Tom Goldstein informatika professzor - számára ez a tanulmány lehetőséget ad arra, hogy felülvizsgáljuk a vízjelekkel szemben támasztott elvárásokat, és nem ok arra, hogy elutasítsuk a vízjeleket, mint egy hitelesítési eszközt a sok közül. "Mindig lesznek olyan kifinomult szereplők, akik képesek megkerülni a felismerést" - mondja Goldstein. "Nem baj, ha van egy olyan rendszer, amely csak bizonyos dolgokat képes felismerni." A vízjeleket a kárcsökkentés egy formájának tekinti, és érdemesnek tartja az alacsonyabb szintű MI-hamisítási kísérletek elkapására, még akkor is, ha a magas szintű támadásokat nem tudják megakadályozni.
Az elvárásoknak mérséklése már most is folyamatban van. A SynthID bejelentéséről szóló blogbejegyzésében a DeepMind óvatos mondatokat használ, megjegyezve, hogy az eszköz "nem bolondbiztos" és "nem tökéletes". Feizi nagyrészt szkeptikus azzal kapcsolatban, hogy a vízjelek használatának lenne bármi értelme az olyan vállalatok számára, mint a Google. "Talán hozzá kellene szoknunk ahhoz a tényhez, hogy nem fogjuk tudni megbízhatóan megjelölni az MI által generált képeket" - mondja. Ennek ellenére a tanulmánya kissé derűlátóbb következtetést von le. "Eredményeink alapján egy robusztus vízjel megtervezése kihívást jelentő, de nem feltétlenül lehetetlen feladat" - olvasható benne.