Az emberi beszédhangokon alapuló hitelesítést gyakran használják ügyfélszolgálati központok, bankok, kormányzati szervek. De az emberi hangokat klónozni képes, készen kapható mesterséges intelligenciaeszközök térhódítása arra kényszeríti a hanghitelesítési szoftverek fejlesztőit, hogy egy extra biztonsági réteget építsenek ki annak felismerésére, hogy egy hangminta emberi vagy gépi generáltnak tűnik-e. A mesterséges intelligencia azonban megkönnyíti az ilyen rendszerek megtámadását: kutatók 99 százalékos sikerességi aránnyal kerülték meg az ilyen biztonsági rendszereket.

A hanghitelesítés arra a tényre támaszkodik, hogy mindenki hangja egyedi, köszönhetően az olyan fizikai jellemzőknek, mint a hangszálak hossza és a gége mérete és alakja, valamint az olyan társadalmi tényezőknek, mint az akcentus. A hanghitelesítési rendszerek ezeket az árnyalatokat hangmintákban rögzítik. Bár a mesterséges intelligencia által generált hang meglehetősen reálisan utánozhatja az emberek hangját, ezeknek az algoritmusoknak megvannak a maguk jellegzetes azonosítói, amelyekkel az elemzők kiszúrhatják a mesterségesen létrehozott hangokat. A kutatók által kifejlesztett technika megpróbálja eltávolítani ezeket a jellegzetességeket, miközben megőrzi az általános hangzást.

A kanadai Waterloo Egyetem informatikusai ezért kifejlesztettek egy olyan technikát, amellyel ezeket a rendszereket is ki lehet cselezni. A 44. IEEE Symposium on Security and Privacy (IEEE Szimpózium a Biztonságról és az Adatvédelemről) című konferencián megjelent kutatási dokumentumban leírták, hogy az MI által generált beszédfelvételek meghamisításával olyan "ellenséges" mintákat hoztak létre, amelyek rendkívül hatékonyak voltak. "Az ötlet az volt, hogy a felhasználó hangmintáját belevéssük a hamisított mintába" - írják Andre Kassis és Urs Hengartner kutatók a tanulmányukban. "A mi motorunk eltávolítja az ilyen mintákban uralkodó gépi nyomokat".

A kutatók 107 beszélő megnyilatkozásának mintáin képezték ki a rendszerüket, hogy pontosabb képet kapjanak arról, mitől hangzik emberi hangon egy beszéd. Algoritmusuk teszteléséhez több ellenmintát is készítettek, hogy megtévesszék a hitelesítési rendszereket - 72 százalékos sikerrel. Néhány meglehetősen gyenge rendszerrel szemben hat kísérlet után 99 százalékos sikerarányt értek el. Ez azonban még nem jelenti azt, hogy a hanghitelesítő szoftverek teljesen értelmetlenné váltak volna. Az Amazon Connect - a felhőalapú kapcsolattartó központok számára biztosított szoftver - ellen négy másodperces támadással mindössze tíz százalékos sikert értek el, 30 másodpercnél rövidebb idő alatt pedig 40 százalékot. És a hitelesítési szoftverek is fejlődnek.

Az ilyen típusú támadások végrehajtásában reménykedő bűnözőknek hozzáféréssel kell rendelkezniük a célpontjuk hangjához, és eléggé jártasnak kell lenniük a technikában ahhoz, hogy saját ellenséges hangmintákat tudjanak generálni, ha egy biztonságosabb rendszert próbálnak feltörni. Bár a küszöb magas, a kutatók arra figyelmeztették a hanghitelesítő szoftvereket fejlesztő vállalatokat, hogy folytassák a munkát. "A támadásaink sikerességi aránya aggasztó" - írták - "elsősorban azért, mert azokat fekete dobozos környezetben és reális fenyegetettségi modellek feltételezései mellett értük el". Az eredmények "rávilágítanak a hanghitelesítési rendszerek súlyos buktatóira, és hangsúlyozzák a megbízhatóbb mechanizmusok szükségességét".