Berta Sándor
Még az út elején tart a gépi álhírszűrés
Meglepő eredménnyel zárult a Facebook megmérettetése.
A társaság még tavaly szeptemberben hirdette meg a Microsofttal és számos műszaki egyetemmel közösen a Deepfake Detection Challenge nevű versenyt, amelyre összesen 2114 fejlesztőcsapat jelentkezett saját fejlesztésű mesterséges intelligencián alapuló modellekkel. A feladat az volt, hogy a szoftverek automatikusan és minél megbízhatóbban felismerjék az úgynevezett deepfake-anyagokat, amelyek meglévő fotókból és videókból számítógéppel generált álló- és mozgóképek. Így lehet valósághű felvételeket gyártani például ismert személyekről.
A program nyertese Szelim Szeferbekov alkalmazása lett, amely 65,18 százalékos pontossággal tudta kiszűrni a az ismeretlen deepfake-tartalmakat egy 10 000 videót tartalmazó adatbázisból. A szakembereket leginkább az alacsony felismerési pontosság döbbentette meg, hiszen a 65 százalék csupán kicsivel több az egyszerű találgatásos módszer 50 százalékos arányánál. Érdekesség, hogy volt egy előzetes tesztelési lehetőség, amelynek a keretében 4000 mozgókép volt minden résztvevő számára elérhető. Azon felvételek esetében az automatikus felismerési pontosság 82,56 százalékos volt.
A Facebook úgy reagált az eredményekre, hogy bár azok kijózanítóak, de fontos tapasztalatokat szereztek a segítségükkel. Az utóbbiak egyike, hogy egyik fejlesztőcsapat sem alkalmazott törvényszéki módszereket az arcfelismeréshez, például a képzajok megvizsgálásához. Az utóbbiak ugyanis megjelenhetnek egy deepfake-anyag elkészítésekor. A fejlesztők a DS-WAN nevű modellt is használták, amely elemzi az arc bizonyos részeit, például a szemeket, a szájat és az orrot, majd az eredményeket vagy figyelmen kívül hagyja vagy még jobban górcső alá veszi. A DS-WAN az úgynevezett overfitting jelenséget tudja ellensúlyozni, amelynél a különböző modellek a túl sok alkalmazott paraméter miatt kevésbé hatékonyak és túlzottan egyszerű módon csak a forrás adatokat reprodukálják.
A Facebook is megpróbált elkészíteni egy modellt, de az nem tudott eredményeket szállítani. A társaság ugyanakkor nem adja fel a dolgot, mert, amint megfogalmazta: a deepfake-tartalmakat hatékonyan felderítő technikák kifejlesztése mindenki számára fontos. Ezért a cég a jövőben is együtt fog dolgozni más szakemberekkel és velük közösen akar megfelelni ennek a kihívásnak.
A társaság még tavaly szeptemberben hirdette meg a Microsofttal és számos műszaki egyetemmel közösen a Deepfake Detection Challenge nevű versenyt, amelyre összesen 2114 fejlesztőcsapat jelentkezett saját fejlesztésű mesterséges intelligencián alapuló modellekkel. A feladat az volt, hogy a szoftverek automatikusan és minél megbízhatóbban felismerjék az úgynevezett deepfake-anyagokat, amelyek meglévő fotókból és videókból számítógéppel generált álló- és mozgóképek. Így lehet valósághű felvételeket gyártani például ismert személyekről.
A program nyertese Szelim Szeferbekov alkalmazása lett, amely 65,18 százalékos pontossággal tudta kiszűrni a az ismeretlen deepfake-tartalmakat egy 10 000 videót tartalmazó adatbázisból. A szakembereket leginkább az alacsony felismerési pontosság döbbentette meg, hiszen a 65 százalék csupán kicsivel több az egyszerű találgatásos módszer 50 százalékos arányánál. Érdekesség, hogy volt egy előzetes tesztelési lehetőség, amelynek a keretében 4000 mozgókép volt minden résztvevő számára elérhető. Azon felvételek esetében az automatikus felismerési pontosság 82,56 százalékos volt.
A Facebook úgy reagált az eredményekre, hogy bár azok kijózanítóak, de fontos tapasztalatokat szereztek a segítségükkel. Az utóbbiak egyike, hogy egyik fejlesztőcsapat sem alkalmazott törvényszéki módszereket az arcfelismeréshez, például a képzajok megvizsgálásához. Az utóbbiak ugyanis megjelenhetnek egy deepfake-anyag elkészítésekor. A fejlesztők a DS-WAN nevű modellt is használták, amely elemzi az arc bizonyos részeit, például a szemeket, a szájat és az orrot, majd az eredményeket vagy figyelmen kívül hagyja vagy még jobban górcső alá veszi. A DS-WAN az úgynevezett overfitting jelenséget tudja ellensúlyozni, amelynél a különböző modellek a túl sok alkalmazott paraméter miatt kevésbé hatékonyak és túlzottan egyszerű módon csak a forrás adatokat reprodukálják.
A Facebook is megpróbált elkészíteni egy modellt, de az nem tudott eredményeket szállítani. A társaság ugyanakkor nem adja fel a dolgot, mert, amint megfogalmazta: a deepfake-tartalmakat hatékonyan felderítő technikák kifejlesztése mindenki számára fontos. Ezért a cég a jövőben is együtt fog dolgozni más szakemberekkel és velük közösen akar megfelelni ennek a kihívásnak.