SG.hu·
A Mythos nevű MI modell új korszakot hozhat a hackelés világában
Az Anthropic új mesterséges intelligencia rendszere olyan gyorsan képes szoftverhibákat keresni és kihasználni, hogy a vállalat egyelőre csak a legnagyobb technológiai cégekkel osztja azt meg.
Az Anthropic nevű MI fejlesztő vállalat egy új mesterséges intelligencia modellt készített, amely a szakértők szerint gyökeresen megváltoztathatja a kibertámadások és a kiberbiztonság világát. A vállalat azonban egyelőre nem meri széles körben elérhetővé tenni a technológiát, mert attól tart, hogy a rendszer a bűnözők és kémek kezében rendkívül veszélyes eszközzé válhat. A cég ezért szokatlan megoldást választott. Ahelyett, hogy az új modellt azonnal nyilvánosan kiadná, először a világ legnagyobb technológiai és kiberbiztonsági vállalataival osztja meg a rendszert. A cél az, hogy ezek a cégek felkészülhessenek arra az új korszakra, amelyben a mesterséges intelligencia nemcsak a védekezést, hanem a támadásokat is radikálisan felgyorsíthatja.
Az Anthropic bejelentette, hogy a Mythos nevű modell kódjához több nagyvállalat is hozzáférést kap. A listán szerepel az Amazon, az Apple, a Cisco, a Google, a JPMorgan Chase és a Microsoft is. A cégek a modellt kiberbiztonsági védekezési célokra használhatják, például szoftverhibák felkutatására, valamint annak tesztelésére, hogy bizonyos hackelési módszerek mennyire működnek a saját rendszereik ellen. A Mythos hivatalos neve Claude Mythos Preview, és a vállalat szerint egyelőre nem áll készen a nyilvános bevezetésre. Ennek oka az, hogy a technológia könnyen visszaélésre adhat lehetőséget. A vállalat vezetői attól tartanak, hogy ha a modell széles körben elérhetővé válna, a kiberbűnözők és állami hírszerző szervezetek is felhasználhatnák támadásokhoz.
A kérdés már Washingtonban és a Szilícium-völgyben is komoly aggodalmat keltett. Biztonsági szakértők szerint az MI ügynökök olyan sebességgel és méretben képesek szoftverhibákat keresni, amely messze meghaladja az emberi képességeket. Egyetlen MI rendszer képes lehet sebezhetőségeket felkutatni és kihasználni gyorsabban és kitartóbban, mint akár több száz emberi hacker együtt. Logan Graham, aki az Anthropicnál a MI modellek védelmével foglalkozó csapatot vezeti, így fogalmazott. „Nem éreztük magunkat komfortosan azzal, hogy ezt általánosan kiadjuk. Úgy gondoljuk, még hosszú út áll előttünk, mire a megfelelő védelmi mechanizmusok rendelkezésre állnak.”
A vállalat nemcsak a nagy technológiai cégeket vonta be az együttműködésbe. Az Anthropic tájékoztatást adott a Mythos képességeiről az Egyesült Államok kormánya magas rangú tisztviselőinek is. Egy vállalati illetékes szerint a cég „az amerikai kormány különböző szerveinek vezető tisztviselőit” is informálta a modell támadó és védelmi kiberképességeiről. A vállalat azt is jelezte, hogy kész támogatni a kormány saját tesztelési és értékelési folyamatait. Az Anthropic vezetői abban reménykednek, hogy a Mythos korlátozott körű kiadása segíthet kiegyenlíteni az erőviszonyokat a támadók és a védekezők között. A rendszer segítségével a vállalatok már a nyilvános megjelenés előtt felfedezhetik a súlyos biztonsági hibákat az olyan széles körben használt szoftverekben, mint az internetböngészők vagy az operációs rendszerek.
A Mythoshoz hozzáférő szervezetek között több más fontos szereplő is található. Az Anthropic szerint a modell használatára jogosult lesz a Broadcom és az Nvidia chipgyártó vállalat, a Linux Foundation nonprofit szervezet, amely a széles körben használt Linux operációs rendszert támogatja, valamint a CrowdStrike és a Palo Alto Networks kiberbiztonsági cégek is. Logan Graham szerint a technológiai világ gyors alkalmazkodásra kényszerül. „Ha a modellek ilyen jók lesznek minden kiberbiztonsági feladatban - és valószínűleg még sokkal jobbak -, akkor nagyon gyorsan fel kell készülnünk” - mondta. „A világ nagyon más lesz, ha ezek a modellképességek a mindennapi életünk részévé válnak.”
A Mythos képességeiről egy blogbejegyzés is kiszivárgott a múlt hónapban, amely betekintést adott a rendszer működésébe. A bejegyzés szerint a modell kiberbiztonsági képességei „jóval megelőzik” más MI rendszerekét. A szöveg úgy fogalmazott, hogy a Mythos „előrevetíti a modellek közelgő hullámát, amelyek képesek lesznek sebezhetőségeket kihasználni olyan módon, amely messze meghaladja a védelmi erőfeszítések sebességét”. Egyes biztonsági szakemberek ugyanakkor úgy vélik, hogy a modell körüli aggodalmak részben túlzóak, és bár a technológia veszélyei valósak, de nem feltétlenül olyan drámaiak, mint ahogyan azt néhány kommentátor állítja.
Persze ha a jelenlegi fejlesztési irány nem változik, akkor a MI által támogatott támadók és védelmi rendszerek közötti különbség akár tovább is nőhet. Az Anthropic szerint a Mythos már most is látványos eredményeket produkált. A vállalat állítása szerint a modell az elmúlt hetekben „több ezer” korábban ismeretlen szoftverhibát fedezett fel. A cég szerint ez az ütem messze meghaladja azt, amire emberi kutatók képesek lennének. Az ilyen szoftverhibák felderítése rendkívül időigényes munka. Az emberi biztonsági kutatók gyakran hónapokat töltenek egy-egy komoly sérülékenység megtalálásával. Ezek a hibák rendkívül értékesek lehetnek hírszerző szervezetek és kiberbűnözők számára, mert segítségükkel rejtett támadásokat lehet végrehajtani.
Fontos azonban megjegyezni, hogy a kiberbiztonsági szakértők már jóval a Mythos megjelenése előtt is használtak MI rendszereket védekezési célokra. Gadi Evron és más biztonsági kutatók például tavaly decemberben mutattak be egy eszközt, amely az Anthropic Claude modelljére épül, és képes javításokat generálni súlyos szoftverhibákra. Evron - aki a Knostic nevű MI biztonsági vállalat alapítója - szerint a védekezők egyelőre hátrányban vannak. „A támadókkal ellentétben a védekezők még nem rendelkeznek olyan mértékű MI képességekkel, amelyek ugyanilyen mértékben gyorsítanák fel őket” - mondta. Ugyanakkor hangsúlyozta, hogy a technológia mindkét oldal számára elérhető. „A támadási képességek mind a támadók, mind a védekezők számára rendelkezésre állnak, és a védekezőknek használniuk kell őket, ha lépést akarnak tartani.”
Az Anthropic nevű MI fejlesztő vállalat egy új mesterséges intelligencia modellt készített, amely a szakértők szerint gyökeresen megváltoztathatja a kibertámadások és a kiberbiztonság világát. A vállalat azonban egyelőre nem meri széles körben elérhetővé tenni a technológiát, mert attól tart, hogy a rendszer a bűnözők és kémek kezében rendkívül veszélyes eszközzé válhat. A cég ezért szokatlan megoldást választott. Ahelyett, hogy az új modellt azonnal nyilvánosan kiadná, először a világ legnagyobb technológiai és kiberbiztonsági vállalataival osztja meg a rendszert. A cél az, hogy ezek a cégek felkészülhessenek arra az új korszakra, amelyben a mesterséges intelligencia nemcsak a védekezést, hanem a támadásokat is radikálisan felgyorsíthatja.
Az Anthropic bejelentette, hogy a Mythos nevű modell kódjához több nagyvállalat is hozzáférést kap. A listán szerepel az Amazon, az Apple, a Cisco, a Google, a JPMorgan Chase és a Microsoft is. A cégek a modellt kiberbiztonsági védekezési célokra használhatják, például szoftverhibák felkutatására, valamint annak tesztelésére, hogy bizonyos hackelési módszerek mennyire működnek a saját rendszereik ellen. A Mythos hivatalos neve Claude Mythos Preview, és a vállalat szerint egyelőre nem áll készen a nyilvános bevezetésre. Ennek oka az, hogy a technológia könnyen visszaélésre adhat lehetőséget. A vállalat vezetői attól tartanak, hogy ha a modell széles körben elérhetővé válna, a kiberbűnözők és állami hírszerző szervezetek is felhasználhatnák támadásokhoz.
A kérdés már Washingtonban és a Szilícium-völgyben is komoly aggodalmat keltett. Biztonsági szakértők szerint az MI ügynökök olyan sebességgel és méretben képesek szoftverhibákat keresni, amely messze meghaladja az emberi képességeket. Egyetlen MI rendszer képes lehet sebezhetőségeket felkutatni és kihasználni gyorsabban és kitartóbban, mint akár több száz emberi hacker együtt. Logan Graham, aki az Anthropicnál a MI modellek védelmével foglalkozó csapatot vezeti, így fogalmazott. „Nem éreztük magunkat komfortosan azzal, hogy ezt általánosan kiadjuk. Úgy gondoljuk, még hosszú út áll előttünk, mire a megfelelő védelmi mechanizmusok rendelkezésre állnak.”
A vállalat nemcsak a nagy technológiai cégeket vonta be az együttműködésbe. Az Anthropic tájékoztatást adott a Mythos képességeiről az Egyesült Államok kormánya magas rangú tisztviselőinek is. Egy vállalati illetékes szerint a cég „az amerikai kormány különböző szerveinek vezető tisztviselőit” is informálta a modell támadó és védelmi kiberképességeiről. A vállalat azt is jelezte, hogy kész támogatni a kormány saját tesztelési és értékelési folyamatait. Az Anthropic vezetői abban reménykednek, hogy a Mythos korlátozott körű kiadása segíthet kiegyenlíteni az erőviszonyokat a támadók és a védekezők között. A rendszer segítségével a vállalatok már a nyilvános megjelenés előtt felfedezhetik a súlyos biztonsági hibákat az olyan széles körben használt szoftverekben, mint az internetböngészők vagy az operációs rendszerek.
A Mythoshoz hozzáférő szervezetek között több más fontos szereplő is található. Az Anthropic szerint a modell használatára jogosult lesz a Broadcom és az Nvidia chipgyártó vállalat, a Linux Foundation nonprofit szervezet, amely a széles körben használt Linux operációs rendszert támogatja, valamint a CrowdStrike és a Palo Alto Networks kiberbiztonsági cégek is. Logan Graham szerint a technológiai világ gyors alkalmazkodásra kényszerül. „Ha a modellek ilyen jók lesznek minden kiberbiztonsági feladatban - és valószínűleg még sokkal jobbak -, akkor nagyon gyorsan fel kell készülnünk” - mondta. „A világ nagyon más lesz, ha ezek a modellképességek a mindennapi életünk részévé válnak.”
A Mythos képességeiről egy blogbejegyzés is kiszivárgott a múlt hónapban, amely betekintést adott a rendszer működésébe. A bejegyzés szerint a modell kiberbiztonsági képességei „jóval megelőzik” más MI rendszerekét. A szöveg úgy fogalmazott, hogy a Mythos „előrevetíti a modellek közelgő hullámát, amelyek képesek lesznek sebezhetőségeket kihasználni olyan módon, amely messze meghaladja a védelmi erőfeszítések sebességét”. Egyes biztonsági szakemberek ugyanakkor úgy vélik, hogy a modell körüli aggodalmak részben túlzóak, és bár a technológia veszélyei valósak, de nem feltétlenül olyan drámaiak, mint ahogyan azt néhány kommentátor állítja.
Persze ha a jelenlegi fejlesztési irány nem változik, akkor a MI által támogatott támadók és védelmi rendszerek közötti különbség akár tovább is nőhet. Az Anthropic szerint a Mythos már most is látványos eredményeket produkált. A vállalat állítása szerint a modell az elmúlt hetekben „több ezer” korábban ismeretlen szoftverhibát fedezett fel. A cég szerint ez az ütem messze meghaladja azt, amire emberi kutatók képesek lennének. Az ilyen szoftverhibák felderítése rendkívül időigényes munka. Az emberi biztonsági kutatók gyakran hónapokat töltenek egy-egy komoly sérülékenység megtalálásával. Ezek a hibák rendkívül értékesek lehetnek hírszerző szervezetek és kiberbűnözők számára, mert segítségükkel rejtett támadásokat lehet végrehajtani.
Fontos azonban megjegyezni, hogy a kiberbiztonsági szakértők már jóval a Mythos megjelenése előtt is használtak MI rendszereket védekezési célokra. Gadi Evron és más biztonsági kutatók például tavaly decemberben mutattak be egy eszközt, amely az Anthropic Claude modelljére épül, és képes javításokat generálni súlyos szoftverhibákra. Evron - aki a Knostic nevű MI biztonsági vállalat alapítója - szerint a védekezők egyelőre hátrányban vannak. „A támadókkal ellentétben a védekezők még nem rendelkeznek olyan mértékű MI képességekkel, amelyek ugyanilyen mértékben gyorsítanák fel őket” - mondta. Ugyanakkor hangsúlyozta, hogy a technológia mindkét oldal számára elérhető. „A támadási képességek mind a támadók, mind a védekezők számára rendelkezésre állnak, és a védekezőknek használniuk kell őket, ha lépést akarnak tartani.”