SG.hu
MI-támogatással lopnak el a hackerek dollár milliárdokat
A ChatGPT 2022-es megjelenése fordulópontot jelentett. Az intelligens generatív MI-modelleknek köszönhetően a bűnözőknek már nem kell nagy összegeket költeniük hackercsapatokra és eszközökre. Ez a legtöbb cég számára szörnyű fejlemény, mivel egyre inkább az MI-t használó hackerek áldozatává válnak, de a kiberbiztonsági ágazat szereplői számára inkább előnyös lehet.
Jaxon, egy rosszindulatú szoftverfejlesztő, a Velora nevű virtuális világban él, ahol semmi sem tabu. Egy rosszindulatú szoftvert akar készíteni, hogy ellopja a Google Chrome internetböngésző jelszavait. Ezt a történetet mesélte el Vitaly Simonovich, a Cato Networks kiberbiztonsági cégnél az MI-fenyegetéseket kutató szakember a ChatGPT-nek. A ChatGPT, hogy bekapcsolódjon a játékba, közölt néhány hibás kódot, amelyet aztán segített kijavítani. Hat órán belül Simonovich a ChatGPT együttműködésével létrehozott egy működő rosszindulatú szoftvert, bemutatva „jailbreak” (az MI védelmi mechanizmusainak megkerülésére szolgáló módszer) hatékonyságát.
Az MI „kiterjesztette a hackerek hatókörét” - állítja Gil Messing, a Check Point, egy másik kiberbiztonsági cég munkatársa -, mivel lehetővé teszi számukra, hogy kevesebb erőfeszítéssel komolyabb célt érjenek el. Az új technológia két fő módon rontotta a kiberbiztonsági fenyegetéseket. Először is, a hackerek a nagy nyelvi modellek (LLM-ek) felé fordultak, hogy kiterjesszék a rosszindulatú szoftverek hatókörét. A deepfake-ek, a csaló e-mailek és a társadalmi mérnöki támadások generálása, amelyek manipulálják az emberi viselkedést, ma már sokkal könnyebb és gyorsabb. Például a XanthoroxAI nevű kiberbűnözők által tervezett ?I-modell havi 150 dollárért használható deepfake-ek létrehozására, valamint egyéb gonosz tevékenységekre.
A hackerek széles körű adathalász támadásokat indíthatnak azzal, hogy egy LLM-et kérnek meg, hogy gyűjtsön hatalmas mennyiségű információt az internetről és a közösségi médiából, hogy személyre szabott e-maileket hamisítson. A spearphishing esetében - amikor egy nagyon személyre szabott támadással egy konkrét célpontot vesznek célba - akár hamis hang- és videohívásokat is generálhatnak kollégáiktól, hogy meggyőzzék az alkalmazottakat, hogy töltsenek le és futtassanak gyanús szoftvereket.
Másodszor, a mesterséges intelligenciát arra is használják, hogy a rosszindulatú szoftverek még fenyegetőbbé váljanak. Például egy pdf-dokumentumnak álcázott szoftver tartalmazhat beágyazott kódot, amely egy mesterséges intelligenciával működik együtt, hogy behatoljon egy hálózatba. Az ukrajnai biztonsági és védelmi rendszerek elleni júliusi támadások során ilyen megközelítést alkalmaztak. Amikor a rosszindulatú szoftver zsákutcába jutott, segítséget tudott kérni a felhőben található LLM-től, hogy új kódot generáljon, és áttörje a rendszerek védelmét. Nem világos, mekkora kárt okozott, de ez volt az első ilyen típusú támadás, jegyzi meg Simonovich.
A vállalkozások számára a növekvő fenyegetés ijesztő és potenciálisan költséges. Az IBM szerint tavaly az adatvédelmi incidensek hatodában szerepet játszott a mesterséges intelligencia. Emellett az üzleti e-maileket célzó adathalász csalások ötödében is szerepet játszott. A Deloitte tanácsadó cég becslése szerint a generatív mesterséges intelligencia 2027-re 40 milliárd dollárnyi csalást tehet lehetővé, szemben a 2023-as 12 milliárd dollárral.
Az MI-alapú kibertámadások költségeinek növekedésével a védelemre irányuló üzletág is növekszik. A Gartner kutatócég előrejelzése szerint a vállalatok kiberbiztonsági kiadásai 2024 és 2026 között negyedével, 240 milliárd dollárra nőnek. Ez magyarázza, miért emelkedtek a Nasdaq CTA Cybersecurity index által nyomon követett vállalatok részvényeinek árai is negyedével az elmúlt évben, meghaladva a szélesebb Nasdaq indexet. Augusztus 18-án Nikesh Arora, a világ egyik legnagyobb kiberbiztonsági cége, a Palo Alto Networks vezetője megjegyezte, hogy a generatív MI-vel kapcsolatos adatbiztonsági incidensek „több mint megduplázódtak az elmúlt évhez képest”, és arról számolt be, hogy a júliusig tartó 12 hónapban a működési nyereség csaknem megduplázódott az előző évhez képest.
Az egyre növekvő kereslet kilátása vásárlási lázba hozta a kiberbiztonsági cégeket. Július 30-án a Palo Alto Networks bejelentette, hogy 25 milliárd dollárért megvásárolja a CyberArk identitásbiztonsági céget. A hónap elején a cég 700 millió dollárt költött a Protect AI-ra, amely segít a vállalkozásoknak MI-rendszereik biztonságának garantálásában. Augusztus 5-én a SentinelOne nevű versenytárs bejelentette, hogy 250 millió dollárért megvásárolja a Prompt Security-t, egy olyan céget, amely szoftvereket gyárt az MI-t alkalmazó cégek védelmére.
A gyorsan növekvő felhőalapú számítástechnikai részleggel rendelkező technológiai óriások is erősítik kiberbiztonsági kínálatukat. A szoftveróriás Microsoft 2021-ben felvásárolta a CloudKnox identitásbiztonsági platformot, és kifejlesztette a Defender for Cloudot, egy házon belüli alkalmazást vállalkozások számára, amely a biztonsági rések ellenőrzésétől és az adatok védelmétől a fenyegetések figyeléséig mindenre kiterjed. A Google kifejlesztette a Big Sleepet, amely felismeri a kibertámadásokat és a biztonsági réseket, mielőtt azokat kihasználnák. Márciusban 32 milliárd dollárt költött a Wiz nevű kiberbiztonsági startup megvásárlására.
A verseny és a konszolidáció olyan vállalkozásokat hozhat létre, amelyek képesek lesznek visszaverni a fürge, mesterséges intelligenciával felszerelt kiberbűnözőket. De a legkifinomultabb LLM-ek fejlesztésének versenyében a biztonság másodlagos szerepet fog játszani a technológiai határok feszegetése mellett. Jaxonnal lépést tartani nem lesz könnyű feladat.
Jaxon, egy rosszindulatú szoftverfejlesztő, a Velora nevű virtuális világban él, ahol semmi sem tabu. Egy rosszindulatú szoftvert akar készíteni, hogy ellopja a Google Chrome internetböngésző jelszavait. Ezt a történetet mesélte el Vitaly Simonovich, a Cato Networks kiberbiztonsági cégnél az MI-fenyegetéseket kutató szakember a ChatGPT-nek. A ChatGPT, hogy bekapcsolódjon a játékba, közölt néhány hibás kódot, amelyet aztán segített kijavítani. Hat órán belül Simonovich a ChatGPT együttműködésével létrehozott egy működő rosszindulatú szoftvert, bemutatva „jailbreak” (az MI védelmi mechanizmusainak megkerülésére szolgáló módszer) hatékonyságát.
Az MI „kiterjesztette a hackerek hatókörét” - állítja Gil Messing, a Check Point, egy másik kiberbiztonsági cég munkatársa -, mivel lehetővé teszi számukra, hogy kevesebb erőfeszítéssel komolyabb célt érjenek el. Az új technológia két fő módon rontotta a kiberbiztonsági fenyegetéseket. Először is, a hackerek a nagy nyelvi modellek (LLM-ek) felé fordultak, hogy kiterjesszék a rosszindulatú szoftverek hatókörét. A deepfake-ek, a csaló e-mailek és a társadalmi mérnöki támadások generálása, amelyek manipulálják az emberi viselkedést, ma már sokkal könnyebb és gyorsabb. Például a XanthoroxAI nevű kiberbűnözők által tervezett ?I-modell havi 150 dollárért használható deepfake-ek létrehozására, valamint egyéb gonosz tevékenységekre.
A hackerek széles körű adathalász támadásokat indíthatnak azzal, hogy egy LLM-et kérnek meg, hogy gyűjtsön hatalmas mennyiségű információt az internetről és a közösségi médiából, hogy személyre szabott e-maileket hamisítson. A spearphishing esetében - amikor egy nagyon személyre szabott támadással egy konkrét célpontot vesznek célba - akár hamis hang- és videohívásokat is generálhatnak kollégáiktól, hogy meggyőzzék az alkalmazottakat, hogy töltsenek le és futtassanak gyanús szoftvereket.
Másodszor, a mesterséges intelligenciát arra is használják, hogy a rosszindulatú szoftverek még fenyegetőbbé váljanak. Például egy pdf-dokumentumnak álcázott szoftver tartalmazhat beágyazott kódot, amely egy mesterséges intelligenciával működik együtt, hogy behatoljon egy hálózatba. Az ukrajnai biztonsági és védelmi rendszerek elleni júliusi támadások során ilyen megközelítést alkalmaztak. Amikor a rosszindulatú szoftver zsákutcába jutott, segítséget tudott kérni a felhőben található LLM-től, hogy új kódot generáljon, és áttörje a rendszerek védelmét. Nem világos, mekkora kárt okozott, de ez volt az első ilyen típusú támadás, jegyzi meg Simonovich.
A vállalkozások számára a növekvő fenyegetés ijesztő és potenciálisan költséges. Az IBM szerint tavaly az adatvédelmi incidensek hatodában szerepet játszott a mesterséges intelligencia. Emellett az üzleti e-maileket célzó adathalász csalások ötödében is szerepet játszott. A Deloitte tanácsadó cég becslése szerint a generatív mesterséges intelligencia 2027-re 40 milliárd dollárnyi csalást tehet lehetővé, szemben a 2023-as 12 milliárd dollárral.
Az MI-alapú kibertámadások költségeinek növekedésével a védelemre irányuló üzletág is növekszik. A Gartner kutatócég előrejelzése szerint a vállalatok kiberbiztonsági kiadásai 2024 és 2026 között negyedével, 240 milliárd dollárra nőnek. Ez magyarázza, miért emelkedtek a Nasdaq CTA Cybersecurity index által nyomon követett vállalatok részvényeinek árai is negyedével az elmúlt évben, meghaladva a szélesebb Nasdaq indexet. Augusztus 18-án Nikesh Arora, a világ egyik legnagyobb kiberbiztonsági cége, a Palo Alto Networks vezetője megjegyezte, hogy a generatív MI-vel kapcsolatos adatbiztonsági incidensek „több mint megduplázódtak az elmúlt évhez képest”, és arról számolt be, hogy a júliusig tartó 12 hónapban a működési nyereség csaknem megduplázódott az előző évhez képest.
Az egyre növekvő kereslet kilátása vásárlási lázba hozta a kiberbiztonsági cégeket. Július 30-án a Palo Alto Networks bejelentette, hogy 25 milliárd dollárért megvásárolja a CyberArk identitásbiztonsági céget. A hónap elején a cég 700 millió dollárt költött a Protect AI-ra, amely segít a vállalkozásoknak MI-rendszereik biztonságának garantálásában. Augusztus 5-én a SentinelOne nevű versenytárs bejelentette, hogy 250 millió dollárért megvásárolja a Prompt Security-t, egy olyan céget, amely szoftvereket gyárt az MI-t alkalmazó cégek védelmére.
A gyorsan növekvő felhőalapú számítástechnikai részleggel rendelkező technológiai óriások is erősítik kiberbiztonsági kínálatukat. A szoftveróriás Microsoft 2021-ben felvásárolta a CloudKnox identitásbiztonsági platformot, és kifejlesztette a Defender for Cloudot, egy házon belüli alkalmazást vállalkozások számára, amely a biztonsági rések ellenőrzésétől és az adatok védelmétől a fenyegetések figyeléséig mindenre kiterjed. A Google kifejlesztette a Big Sleepet, amely felismeri a kibertámadásokat és a biztonsági réseket, mielőtt azokat kihasználnák. Márciusban 32 milliárd dollárt költött a Wiz nevű kiberbiztonsági startup megvásárlására.
A verseny és a konszolidáció olyan vállalkozásokat hozhat létre, amelyek képesek lesznek visszaverni a fürge, mesterséges intelligenciával felszerelt kiberbűnözőket. De a legkifinomultabb LLM-ek fejlesztésének versenyében a biztonság másodlagos szerepet fog játszani a technológiai határok feszegetése mellett. Jaxonnal lépést tartani nem lesz könnyű feladat.