SG.hu·
Mennyire veszélyes a Mythos, az Anthropic új MI modellje?
Az Anthropic szerint a Mythos képes súlyos szoftveres sérülékenységeket feltárni minden jelentős operációs rendszerben.
Amikor 2019-ben az OpenAI befejezte egy új nagy nyelvi modell, a GPT-2 betanítását, a mesterséges intelligenciával foglalkozó kutatólaboratórium kezdetben túl veszélyesnek nyilvánította azt ahhoz, hogy nyilvánosan kiadják. Dario Amodei, aki akkor az OpenAI kutatási igazgatója volt, ragaszkodott ahhoz az állásponthoz, hogy a világnak időre van szüksége a felkészüléshez. Végül még abban az évben megjelent a modell. Azóta jóval erősebb rendszerek egész sora készült el anélkül, hogy világvége következett volna be. Hét évvel később azonban Amodei - aki ma már az OpenAI egyik legádázabb riválisának számító Anthropic vezetője - ismét aggodalmát fejezte ki.
A hét elején bejelentette, hogy a laboratóriuma Claude nevű modellcsaládjának legújabb tagja, amely a Mythos nevet kapta, egyelőre túl nagy teljesítményű ahhoz, hogy széles körben elérhetővé tegyék. Ezúttal akár igaza is lehet. Az Anthropic szerint a Mythos képességei "lényegesen meghaladják bármely olyan modell képességeit, amelyet korábban betanítottunk". A labor különösen amiatt aggódik, hogy a rendszer képes szoftveres sérülékenységeket találni, és ezeket vagy kijavítani, ha védelmi feladatokra használják, vagy kihasználni, ha hacker szerepben működik.
Az ilyen állításokat általában érdemes némi fenntartással kezelni. Az Anthropic építette a modellt, maga végezte el a teszteket, és nyilvánvalóan érdekelt abban, hogy rendszerét minden korábbinál kiemelkedőbbnek lássák. A labor az utóbbi időben különösen jó formában van. A héten a cég évesített bevétele elérte a 30 milliárd dollárt, ami jelentős növekedés a tavalyi év végén mért 9 milliárd dollárhoz képest. A vállalat minden bizonnyal szeretné fenntartani ezt a lendületet. Ennek ellenére több ok is van arra, hogy az Anthropic mostani figyelmeztetéseit komolyan vegyük. A vállalat szerint a Mythos már most súlyos biztonsági hibákat talált "minden jelentős operációs rendszerben és webböngészőben", köztük egy olyat is, amely 27 éven át rejtve maradt.
A második ok más vállalatok reakciója. Az Anthropic a modell széles körű kiadásának elhalasztásával egy időben bejelentette a Project Glasswing nevű kezdeményezést. Ez a program azt a célt szolgálja, hogy a vállalatok a Mythos segítségével megerősíthessék kiberbiztonsági védelmüket még azelőtt, hogy a modell széles körben elérhetővé válna. Az, hogy a kezdeményezéshez vezető szoftverfejlesztők csatlakoztak, köztük az Apple, a Linux Foundation és a CrowdStrike, valamint a Google is, amely közvetlenül versenyez az Anthropickal az MI területén, arra utal, hogy a fenyegetés hiteles.
Amodei megközelítése a veszély mérséklésére meglehetősen ésszerű. Ha a vállalatok előnyt kapnak, a Mythos segítségével tesztelhetik a még publikálatlan kódokat, feltárhatják azok gyengeségeit, és a megjelenés előtt kijavíthatják azokat. Mindez azonban az Anthropic számára is jelentős előnyökkel jár. A labor vállalta, hogy az első 100 millió dollárnyi költséget fedezi, amely a modell használatából származik a kezdeményezés keretében. Később azonban a résztvevőktől már ötször magasabb díjat kér majd a Mythos használatáért, mint amennyit az előző modell, az Opus esetében számít fel. Lehet azonban, hogy ez az ár megéri. Az Anthropic versenytársai előbb vagy utóbb minden bizonnyal hasonló hackelési képességekkel rendelkező modelleket fejlesztenek ki. Más élvonalbeli laboratóriumok, például az OpenAI és a Google, saját átgondolt kiadási szabályokkal rendelkeznek. A nyílt forráskódú fejlesztésekkel foglalkozó laborok azonban, különösen azok, amelyek Kínában működnek, általában kevésbé helyeznek hangsúlyt a biztonságra.
A hackerek azonban nem az egyetlenek, akiket bosszanthat a Project Glasswing. Az Egyesült Államok kormánya hosszú ideje igyekszik kihasználni ellenfelei kiberbiztonsági rendszereinek gyengeségeit. Ennek része az is, hogy a még fel nem fedezett sérülékenységeket gyakran titokban tartják, beleértve az amerikai fejlesztésű, külföldön használt szoftverek hibáit is, hogy az úgynevezett "zero day" sebezhetőségeket akkor lehessen bevetni, amikor azok a legnagyobb hatást érhetik el. Ha a Project Glasswing sikeres lesz, az számos amerikai kibertámadó eszközt hatástalaníthat. Ez minden bizonnyal feldühítené Pete Hegseth amerikai védelmi minisztert, aki az év elején ellátási láncot fenyegető kockázatnak nevezte az Anthropic vállalatot, miután vita alakult ki a cég és a Pentagon között a labor modelljeinek katonai felhasználását korlátozó szabályok miatt. Egy bíró azóta ideiglenesen blokkolta az "orwelli" jelző használatát. Amodei azonban minden bizonnyal továbbra is kellemetlen ellenfél marad számára.
Amikor 2019-ben az OpenAI befejezte egy új nagy nyelvi modell, a GPT-2 betanítását, a mesterséges intelligenciával foglalkozó kutatólaboratórium kezdetben túl veszélyesnek nyilvánította azt ahhoz, hogy nyilvánosan kiadják. Dario Amodei, aki akkor az OpenAI kutatási igazgatója volt, ragaszkodott ahhoz az állásponthoz, hogy a világnak időre van szüksége a felkészüléshez. Végül még abban az évben megjelent a modell. Azóta jóval erősebb rendszerek egész sora készült el anélkül, hogy világvége következett volna be. Hét évvel később azonban Amodei - aki ma már az OpenAI egyik legádázabb riválisának számító Anthropic vezetője - ismét aggodalmát fejezte ki.
A hét elején bejelentette, hogy a laboratóriuma Claude nevű modellcsaládjának legújabb tagja, amely a Mythos nevet kapta, egyelőre túl nagy teljesítményű ahhoz, hogy széles körben elérhetővé tegyék. Ezúttal akár igaza is lehet. Az Anthropic szerint a Mythos képességei "lényegesen meghaladják bármely olyan modell képességeit, amelyet korábban betanítottunk". A labor különösen amiatt aggódik, hogy a rendszer képes szoftveres sérülékenységeket találni, és ezeket vagy kijavítani, ha védelmi feladatokra használják, vagy kihasználni, ha hacker szerepben működik.
Az ilyen állításokat általában érdemes némi fenntartással kezelni. Az Anthropic építette a modellt, maga végezte el a teszteket, és nyilvánvalóan érdekelt abban, hogy rendszerét minden korábbinál kiemelkedőbbnek lássák. A labor az utóbbi időben különösen jó formában van. A héten a cég évesített bevétele elérte a 30 milliárd dollárt, ami jelentős növekedés a tavalyi év végén mért 9 milliárd dollárhoz képest. A vállalat minden bizonnyal szeretné fenntartani ezt a lendületet. Ennek ellenére több ok is van arra, hogy az Anthropic mostani figyelmeztetéseit komolyan vegyük. A vállalat szerint a Mythos már most súlyos biztonsági hibákat talált "minden jelentős operációs rendszerben és webböngészőben", köztük egy olyat is, amely 27 éven át rejtve maradt.
A második ok más vállalatok reakciója. Az Anthropic a modell széles körű kiadásának elhalasztásával egy időben bejelentette a Project Glasswing nevű kezdeményezést. Ez a program azt a célt szolgálja, hogy a vállalatok a Mythos segítségével megerősíthessék kiberbiztonsági védelmüket még azelőtt, hogy a modell széles körben elérhetővé válna. Az, hogy a kezdeményezéshez vezető szoftverfejlesztők csatlakoztak, köztük az Apple, a Linux Foundation és a CrowdStrike, valamint a Google is, amely közvetlenül versenyez az Anthropickal az MI területén, arra utal, hogy a fenyegetés hiteles.
Amodei megközelítése a veszély mérséklésére meglehetősen ésszerű. Ha a vállalatok előnyt kapnak, a Mythos segítségével tesztelhetik a még publikálatlan kódokat, feltárhatják azok gyengeségeit, és a megjelenés előtt kijavíthatják azokat. Mindez azonban az Anthropic számára is jelentős előnyökkel jár. A labor vállalta, hogy az első 100 millió dollárnyi költséget fedezi, amely a modell használatából származik a kezdeményezés keretében. Később azonban a résztvevőktől már ötször magasabb díjat kér majd a Mythos használatáért, mint amennyit az előző modell, az Opus esetében számít fel. Lehet azonban, hogy ez az ár megéri. Az Anthropic versenytársai előbb vagy utóbb minden bizonnyal hasonló hackelési képességekkel rendelkező modelleket fejlesztenek ki. Más élvonalbeli laboratóriumok, például az OpenAI és a Google, saját átgondolt kiadási szabályokkal rendelkeznek. A nyílt forráskódú fejlesztésekkel foglalkozó laborok azonban, különösen azok, amelyek Kínában működnek, általában kevésbé helyeznek hangsúlyt a biztonságra.
A hackerek azonban nem az egyetlenek, akiket bosszanthat a Project Glasswing. Az Egyesült Államok kormánya hosszú ideje igyekszik kihasználni ellenfelei kiberbiztonsági rendszereinek gyengeségeit. Ennek része az is, hogy a még fel nem fedezett sérülékenységeket gyakran titokban tartják, beleértve az amerikai fejlesztésű, külföldön használt szoftverek hibáit is, hogy az úgynevezett "zero day" sebezhetőségeket akkor lehessen bevetni, amikor azok a legnagyobb hatást érhetik el. Ha a Project Glasswing sikeres lesz, az számos amerikai kibertámadó eszközt hatástalaníthat. Ez minden bizonnyal feldühítené Pete Hegseth amerikai védelmi minisztert, aki az év elején ellátási láncot fenyegető kockázatnak nevezte az Anthropic vállalatot, miután vita alakult ki a cég és a Pentagon között a labor modelljeinek katonai felhasználását korlátozó szabályok miatt. Egy bíró azóta ideiglenesen blokkolta az "orwelli" jelző használatát. Amodei azonban minden bizonnyal továbbra is kellemetlen ellenfél marad számára.