Berta Sándor
Bizonyos képek felismerésére képtelen a mesterséges intelligencia
Kutatók összegyűjtötték azokat a fotókat, amelyeket az emberek gond nélkül azonosítottak, de a neurális hálózatok nem.
Dan Hendrycks, Jacob Steinhardt és Dawn Song, a Berkeley Egyetem, valamint Kevin Zhao, a Washingtoni Egyetem és Steven Basart, a Chicagói Egyetem munkatársa Natural Adversarial Examples című anyagukban összegezték a tapasztalataikat.
A szakemberek szabadon elérhetővé tették az ImageNet-A nevű 7500 felvételes adatbázist is, amely azokat a képeket tartalmazza, amelyek a mesterséges intelligencián alapuló mintafelismerés elbukott. Az egyik fotó például egy szitakötőt ábrázol, amelyet a gépi rendszer csatornafedélként azonosított, míg egy mókust oroszlánfókaként, egy ívelt gombát pedig perecként. Az egyetemi kutatók hangsúlyozták, hogy nem módosított felvételeket használtak.
A neurális hálózatok közül a DenseNet-121 csak a 7500 kép 2 százalékát ismerte fel jól. Mindez egyébként nem véletlen, ugyanis Hendrycks és kollégái kifejezetten úgy válogatták össze a fotókat, hogy kihasználták a neurális hálózatok azon jellemzőit, miszerint túlértékelik a megjelenített szövegeket és színeket. A szerzett tapasztalatok azt mutatták, hogy a jobb felismeréshez további kutatások kellenek.
Dan Hendrycks, Jacob Steinhardt és Dawn Song, a Berkeley Egyetem, valamint Kevin Zhao, a Washingtoni Egyetem és Steven Basart, a Chicagói Egyetem munkatársa Natural Adversarial Examples című anyagukban összegezték a tapasztalataikat.
A szakemberek szabadon elérhetővé tették az ImageNet-A nevű 7500 felvételes adatbázist is, amely azokat a képeket tartalmazza, amelyek a mesterséges intelligencián alapuló mintafelismerés elbukott. Az egyik fotó például egy szitakötőt ábrázol, amelyet a gépi rendszer csatornafedélként azonosított, míg egy mókust oroszlánfókaként, egy ívelt gombát pedig perecként. Az egyetemi kutatók hangsúlyozták, hogy nem módosított felvételeket használtak.
A neurális hálózatok közül a DenseNet-121 csak a 7500 kép 2 százalékát ismerte fel jól. Mindez egyébként nem véletlen, ugyanis Hendrycks és kollégái kifejezetten úgy válogatták össze a fotókat, hogy kihasználták a neurális hálózatok azon jellemzőit, miszerint túlértékelik a megjelenített szövegeket és színeket. A szerzett tapasztalatok azt mutatták, hogy a jobb felismeréshez további kutatások kellenek.