Berta Sándor
Kivédhető a virtuális asszisztensek manipulálása
Az egy évvel ezelőtt ismertetett módszernek van ellenszere.
A Ruhr Egyetem tudósai tavaly állapították meg, hogy titkos parancsokkal manipulálhatók a virtuális asszisztensek, s kimondott mondatok, madárhangok és zenék egyaránt felhasználhatók a szolgáltatások félrevezetésére. A szakembereknek sikerült a Kaldi nevű beszédfelismerő rendszerbe titkos parancsokat becsempészniük. A módosított hangokat az emberi fül nem tudta felfedezni és kiszűrni, viszont a gépek nagyon is jól felismerték azokat.
Az eltelt egy év során a kutatók további ismeretekre tettek szert. Lea Schönherr, az intézet kognitív jelfeldolgozási munkacsoportjának tagja közölte, hogy a manipulált felvételek immár akár bizonyos terekhez is igazíthatók, így például csak egy adott helyiségben fejtik ki a hatásukat. Szerencsére ezek a tartalmak még nem tudnak nagy pusztítást kifejteni, de azért, hogy ez így is maradjon, a tudósok kidolgoztak egy védelmi mechanizmust is.
Thorsten Eisenhofer IT-biztonsági kutató leszögezte, hogy kiszűrték azokat az audiojeleket, amelyeket az emberi fül nem hall. Természetesen ezáltal még nem akadályozható meg a felvételek módosítása. Ekkor jött a másik ötlet: az MP3 tömörítés. A szakember ötvözte a Kaldi nevű beszédfelismerő rendszert egy MP3-kódolóval, amely az audiofájlokat megtisztítja. A tesztek azt mutatták, hogy a megoldás bevált és a Kaldi már nem értette meg a titkos utasításokat. Mindenesetre a téma a közeljövőben bőven ad majd munkát a tudósoknak.
A Ruhr Egyetem tudósai tavaly állapították meg, hogy titkos parancsokkal manipulálhatók a virtuális asszisztensek, s kimondott mondatok, madárhangok és zenék egyaránt felhasználhatók a szolgáltatások félrevezetésére. A szakembereknek sikerült a Kaldi nevű beszédfelismerő rendszerbe titkos parancsokat becsempészniük. A módosított hangokat az emberi fül nem tudta felfedezni és kiszűrni, viszont a gépek nagyon is jól felismerték azokat.
Az eltelt egy év során a kutatók további ismeretekre tettek szert. Lea Schönherr, az intézet kognitív jelfeldolgozási munkacsoportjának tagja közölte, hogy a manipulált felvételek immár akár bizonyos terekhez is igazíthatók, így például csak egy adott helyiségben fejtik ki a hatásukat. Szerencsére ezek a tartalmak még nem tudnak nagy pusztítást kifejteni, de azért, hogy ez így is maradjon, a tudósok kidolgoztak egy védelmi mechanizmust is.
Thorsten Eisenhofer IT-biztonsági kutató leszögezte, hogy kiszűrték azokat az audiojeleket, amelyeket az emberi fül nem hall. Természetesen ezáltal még nem akadályozható meg a felvételek módosítása. Ekkor jött a másik ötlet: az MP3 tömörítés. A szakember ötvözte a Kaldi nevű beszédfelismerő rendszert egy MP3-kódolóval, amely az audiofájlokat megtisztítja. A tesztek azt mutatták, hogy a megoldás bevált és a Kaldi már nem értette meg a titkos utasításokat. Mindenesetre a téma a közeljövőben bőven ad majd munkát a tudósoknak.