Berta Sándor
Szabvánnyá válnak a bűnözőknél a deepfake-anyagok
Az Europol az ilyen tartalmak elterjedésére figyelmeztetett, de szerencsére ezek még viszonylag könnyen szűrhetők.
Az úgynevezett deepfake-anyagok számítógéppel generált álló- és mozgóképek, amelyeket meglévő fotókból és videókból készítenek. Csupán 500 képre vagy 10 másodperc videóra van szükség ahhoz, hogy létre lehessen hozni egy teljesen valósághű hamis tartalmat. Ilyen felvételek gyakorlatilag bárkiről készíthetők, aki valaha feltöltött magáról legalább egy képet a közösségi oldalakra. Ben Dickson újságíró nemrég írt egy olyan esetről, amelyben a csalók a mesterséges intelligencia által generált hamis arcokat használtak fel az áldozataik megtévesztésére.
Az Europol Innovációs Laboratóriuma most hozta nyilvánosságra a Facing reality? - Law enforcement and the challenge of deepfakes című anyagát, amelyben azt taglalta, hogy az a veszély fenyeget, hogy a deepfake-tartalmak a bűnözők szabvány eszközévé válnak. Különösen a szervezett bűnözés használja egyre inkább a számítógépekkel generált manipulációkat. Éppen ezért nagyon valószínű, hogy a következő években egyre hangsúlyosabb szerepet fognak kapni ezek a felvételek az egyszerűbb bűncselekmények elkövetésében.
Az ilyen anyagok szintén növekvő mennyiségben és arányban jelenhetnek meg a dezinformációs kampányokban, amelyek célja a közvélemény befolyásolása vagy torzítása. Akár olyan eseményeket is ábrázolhatnak a sajtóorgánumokban, amelyek meg sem történtek vagy nem úgy történtek meg. Jó példa erre a mostani orosz-ukrán háborúban mind a két fél által alkalmazott dezinformációs tevékenység. A tanulmány szerzői kiemelték, hogy a technika alkalmazása a súlyosabb bűncselekmények esetében is egyre nagyobb teret kaphat. Ide tartoznak például az olyan adathalász kampányok, amikor az elkövetők cégvezetőknek és -elnököknek vagy más, magas beosztású menedzsernek adják ki magukat, hogy így jussanak pénzhez vagy fontos információkhoz.
A két szélső arcból jött létre a középső arc, amit például egy hamis profil létrehozására lehet használni
Szerencse a bajban, hogy ezek a tartalmak a jelenlegi fejlettségi szintjükön még valós időben szűrhetők, árulkodó jel lehet például a pislogás vagy annak a hiánya. Wang Weimin, a Bytedance munkatársa az általa fejlesztett rendszerrel megnyerte a Szingapúri Állami Egyetem által vezetett AI Singapore programot, amelyben 470 csapat mutatta be a mesterséges intelligencián alapuló megoldásait a deepfake-videók azonosítására. Wang Weimin kiemelte, hogy függetlenül attól, hogy a deepfake-anyagokról ki, mit gondol, egy feltörekvő technológiáról van szó, amelyet nem lehet figyelmen kívül hagyni. Ő mindenképpen hozzá akar járulni a mesterséges intelligencián alapuló megoldásaival a probléma orvoslásához.
A szakember egyedül versenyzett és az általa megalkotott mesterséges intelligencia modell a 98,5 százalékos felismeri pontosságával kiemelkedett a mezőnyből. A pénzdíja 100 000 szingapúri dollár volt és emellett 300 000 szingapúri dollárt kapott a találmányából terméket készítő startup létrehozására. A szakértő elmondta, hogy ha a munkaadóját érdekli a fejlesztés, akkor azt integrálja a BytePlus platformba, hogy a felhasználók számára elérhető legyen szolgáltatásként.
A második helyet a Peter Gronquist svájci szoftverfejlesztő és a Ren Yufan kínai PhD-hallgató alkotta csapat szerezte meg, míg a harmadikat egy négy kínai hallgatóból álló csoport. Az általuk kifejlesztett rendszerek felismerési pontossága is meghaladta a 98 százalékot. Tan Kiat How szingapúri távközlési miniszter kijelentette, hogy a műszaki problémák orvoslásakor nem lehet csupán a technikai megoldásokra hagyatkozni, egyéb intézkedések széles körére van szükség. A dezinformáció elleni harcban pedig az egyik kulcsfontosságú tényezőt a megbízható regionális sajtóorgánumok jelentik.
Az úgynevezett deepfake-anyagok számítógéppel generált álló- és mozgóképek, amelyeket meglévő fotókból és videókból készítenek. Csupán 500 képre vagy 10 másodperc videóra van szükség ahhoz, hogy létre lehessen hozni egy teljesen valósághű hamis tartalmat. Ilyen felvételek gyakorlatilag bárkiről készíthetők, aki valaha feltöltött magáról legalább egy képet a közösségi oldalakra. Ben Dickson újságíró nemrég írt egy olyan esetről, amelyben a csalók a mesterséges intelligencia által generált hamis arcokat használtak fel az áldozataik megtévesztésére.
Az Europol Innovációs Laboratóriuma most hozta nyilvánosságra a Facing reality? - Law enforcement and the challenge of deepfakes című anyagát, amelyben azt taglalta, hogy az a veszély fenyeget, hogy a deepfake-tartalmak a bűnözők szabvány eszközévé válnak. Különösen a szervezett bűnözés használja egyre inkább a számítógépekkel generált manipulációkat. Éppen ezért nagyon valószínű, hogy a következő években egyre hangsúlyosabb szerepet fognak kapni ezek a felvételek az egyszerűbb bűncselekmények elkövetésében.
Az ilyen anyagok szintén növekvő mennyiségben és arányban jelenhetnek meg a dezinformációs kampányokban, amelyek célja a közvélemény befolyásolása vagy torzítása. Akár olyan eseményeket is ábrázolhatnak a sajtóorgánumokban, amelyek meg sem történtek vagy nem úgy történtek meg. Jó példa erre a mostani orosz-ukrán háborúban mind a két fél által alkalmazott dezinformációs tevékenység. A tanulmány szerzői kiemelték, hogy a technika alkalmazása a súlyosabb bűncselekmények esetében is egyre nagyobb teret kaphat. Ide tartoznak például az olyan adathalász kampányok, amikor az elkövetők cégvezetőknek és -elnököknek vagy más, magas beosztású menedzsernek adják ki magukat, hogy így jussanak pénzhez vagy fontos információkhoz.
A két szélső arcból jött létre a középső arc, amit például egy hamis profil létrehozására lehet használni
Szerencse a bajban, hogy ezek a tartalmak a jelenlegi fejlettségi szintjükön még valós időben szűrhetők, árulkodó jel lehet például a pislogás vagy annak a hiánya. Wang Weimin, a Bytedance munkatársa az általa fejlesztett rendszerrel megnyerte a Szingapúri Állami Egyetem által vezetett AI Singapore programot, amelyben 470 csapat mutatta be a mesterséges intelligencián alapuló megoldásait a deepfake-videók azonosítására. Wang Weimin kiemelte, hogy függetlenül attól, hogy a deepfake-anyagokról ki, mit gondol, egy feltörekvő technológiáról van szó, amelyet nem lehet figyelmen kívül hagyni. Ő mindenképpen hozzá akar járulni a mesterséges intelligencián alapuló megoldásaival a probléma orvoslásához.
A szakember egyedül versenyzett és az általa megalkotott mesterséges intelligencia modell a 98,5 százalékos felismeri pontosságával kiemelkedett a mezőnyből. A pénzdíja 100 000 szingapúri dollár volt és emellett 300 000 szingapúri dollárt kapott a találmányából terméket készítő startup létrehozására. A szakértő elmondta, hogy ha a munkaadóját érdekli a fejlesztés, akkor azt integrálja a BytePlus platformba, hogy a felhasználók számára elérhető legyen szolgáltatásként.
A második helyet a Peter Gronquist svájci szoftverfejlesztő és a Ren Yufan kínai PhD-hallgató alkotta csapat szerezte meg, míg a harmadikat egy négy kínai hallgatóból álló csoport. Az általuk kifejlesztett rendszerek felismerési pontossága is meghaladta a 98 százalékot. Tan Kiat How szingapúri távközlési miniszter kijelentette, hogy a műszaki problémák orvoslásakor nem lehet csupán a technikai megoldásokra hagyatkozni, egyéb intézkedések széles körére van szükség. A dezinformáció elleni harcban pedig az egyik kulcsfontosságú tényezőt a megbízható regionális sajtóorgánumok jelentik.