SG.hu·
Az Anthropic amerikai kormányzati utasításra lekapcsolta új MI modelljeit
Az Anthropic péntek este mindössze néhány nappal azok bevezetését követően teljesen megszüntette a hozzáférést a Mythos 5 és Fable 5 nevű modelljeihez.
A vállalat péntek este értesítést kapott az amerikai Kereskedelmi Minisztériumtól, miszerint exportkorlátozások alá helyezték az új modelleket, és megtiltották azok használatát az Egyesült Államokon kívül. Az Anthropic péntek esti közleményében azt írta, hogy azonnali jogszabályi megfelelésének egyetlen módja az, ha "letiltjuk a Fable 5 és a Mythos 5 modelleket valamennyi ügyfelünk számára". A vállalat hangsúlyozta, hogy az intézkedés nem érinti az Anthropic többi modelljét.
A kormányzat egyik tisztviselője úgy nyilatkozott, hogy az adminisztrációt aggasztják azok a jelentések, amelyek szerint egy úgynevezett jailbreak módszer képes megkerülni a Fable 5 modellbe épített, osztályozó rendszereken alapuló védelmeket. Ezek a biztonsági mechanizmusok arra szolgálnak, hogy megakadályozzák a kiberbiztonsággal, kémiával és biológiával kapcsolatos kényes kérdések megválaszolását. A kormányzat állítólag azt kérte, hogy ideiglenesen függesszék fel a modellek használatát annak érdekében, hogy időt nyerjenek a "nemzetbiztonsági apparátus" megerősítésére az ilyen típusú fenyegetésekkel szemben. Ez a folyamat akár "a következő néhány hétben" lezárulhat.
Az Anthropic péntek esti közleményében ugyanakkor azt állította, hogy a kormányzat mindössze "szóbeli bizonyítékot" mutatott be egy lehetséges, szűk körű és nem általánosan alkalmazható jailbreak eljárásról. A vállalat szerint ez az eljárás arra használható, hogy a Fable 5 modellt egy meghatározott szoftverkódbázis elemzésére kérjék fel annak érdekében, hogy programhibákat és biztonsági réseket találjon. A cég közlése szerint eddig csak arra láttak bizonyítékot, hogy ezt a módszert "kisebb" és "viszonylag egyszerű" szoftveres sérülékenységek felkutatására alkalmazták. Az Anthropic hozzátette, hogy más, nyilvánosan elérhető modellek, például a GPT-5.5 is hasonló képességekkel rendelkeznek ezen a területen.
"Eleget teszünk a kormány jogi iránymutatásának, és minden felhasználó számára megszüntetjük a Fable 5 és a Mythos 5 elérését." A cég azonban nem ért egyet az intézkedés indokoltságával: "Nem értünk egyet azzal, hogy egy szűk körű, lehetséges jailbreak felfedezése elegendő ok legyen egy olyan kereskedelmi modell visszahívására, amelyet emberek százmilliói használnak. Ha ezt a mércét az egész iparágra alkalmaznák, véleményünk szerint gyakorlatilag leállna minden új modell bevezetése a fejlett MI rendszereket fejlesztő vállalatoknál."
Az ügy előzménye, hogy Donald Trump amerikai elnök a hónap elején végrehajtási rendeletet írt alá, amely arra ösztönzi az MI modellek fejlesztőit, hogy önkéntes alapon vessék alá rendszereiket kormányzati biztonsági vizsgálatoknak. Az intézkedés aláírását eredetileg már az előző hónapban tervezték, azonban az ünnepélyes ceremóniát váratlanul elhalasztották, miután hírek jelentek meg arról, hogy az adminisztráción belül nézeteltérések alakultak ki a kérdéssel kapcsolatban. Az Anthropic elnézést kért ügyfeleitől a kialakult kellemetlenségek miatt, amelyeket állítása szerint egy "félreértés" idézett elő. A vállalat közölte, hogy a következő 24 órában további részleteket tesz közzé az esettel kapcsolatban.
Az eset újabb példája annak, hogy a fejlett MI rendszerek fejlesztése egyre inkább nemzetbiztonsági kérdéssé válik az Egyesült Államokban. Miközben a technológiai vállalatok az innováció gyorsítását sürgetik, a döntéshozók egyre nagyobb figyelmet fordítanak arra, hogy ezek a rendszerek milyen potenciális kockázatokat hordozhatnak a kiberbiztonság, a biológiai kutatások vagy más érzékeny területek szempontjából. A mostani lépés ráadásul azt is felveti, hogy a jövőben milyen feltételek mellett korlátozhatják vagy akár vonhatják vissza a már nyilvánosan elérhető MI modelleket.
A vállalat péntek este értesítést kapott az amerikai Kereskedelmi Minisztériumtól, miszerint exportkorlátozások alá helyezték az új modelleket, és megtiltották azok használatát az Egyesült Államokon kívül. Az Anthropic péntek esti közleményében azt írta, hogy azonnali jogszabályi megfelelésének egyetlen módja az, ha "letiltjuk a Fable 5 és a Mythos 5 modelleket valamennyi ügyfelünk számára". A vállalat hangsúlyozta, hogy az intézkedés nem érinti az Anthropic többi modelljét.
A kormányzat egyik tisztviselője úgy nyilatkozott, hogy az adminisztrációt aggasztják azok a jelentések, amelyek szerint egy úgynevezett jailbreak módszer képes megkerülni a Fable 5 modellbe épített, osztályozó rendszereken alapuló védelmeket. Ezek a biztonsági mechanizmusok arra szolgálnak, hogy megakadályozzák a kiberbiztonsággal, kémiával és biológiával kapcsolatos kényes kérdések megválaszolását. A kormányzat állítólag azt kérte, hogy ideiglenesen függesszék fel a modellek használatát annak érdekében, hogy időt nyerjenek a "nemzetbiztonsági apparátus" megerősítésére az ilyen típusú fenyegetésekkel szemben. Ez a folyamat akár "a következő néhány hétben" lezárulhat.
Az Anthropic péntek esti közleményében ugyanakkor azt állította, hogy a kormányzat mindössze "szóbeli bizonyítékot" mutatott be egy lehetséges, szűk körű és nem általánosan alkalmazható jailbreak eljárásról. A vállalat szerint ez az eljárás arra használható, hogy a Fable 5 modellt egy meghatározott szoftverkódbázis elemzésére kérjék fel annak érdekében, hogy programhibákat és biztonsági réseket találjon. A cég közlése szerint eddig csak arra láttak bizonyítékot, hogy ezt a módszert "kisebb" és "viszonylag egyszerű" szoftveres sérülékenységek felkutatására alkalmazták. Az Anthropic hozzátette, hogy más, nyilvánosan elérhető modellek, például a GPT-5.5 is hasonló képességekkel rendelkeznek ezen a területen.
"Eleget teszünk a kormány jogi iránymutatásának, és minden felhasználó számára megszüntetjük a Fable 5 és a Mythos 5 elérését." A cég azonban nem ért egyet az intézkedés indokoltságával: "Nem értünk egyet azzal, hogy egy szűk körű, lehetséges jailbreak felfedezése elegendő ok legyen egy olyan kereskedelmi modell visszahívására, amelyet emberek százmilliói használnak. Ha ezt a mércét az egész iparágra alkalmaznák, véleményünk szerint gyakorlatilag leállna minden új modell bevezetése a fejlett MI rendszereket fejlesztő vállalatoknál."
Az ügy előzménye, hogy Donald Trump amerikai elnök a hónap elején végrehajtási rendeletet írt alá, amely arra ösztönzi az MI modellek fejlesztőit, hogy önkéntes alapon vessék alá rendszereiket kormányzati biztonsági vizsgálatoknak. Az intézkedés aláírását eredetileg már az előző hónapban tervezték, azonban az ünnepélyes ceremóniát váratlanul elhalasztották, miután hírek jelentek meg arról, hogy az adminisztráción belül nézeteltérések alakultak ki a kérdéssel kapcsolatban. Az Anthropic elnézést kért ügyfeleitől a kialakult kellemetlenségek miatt, amelyeket állítása szerint egy "félreértés" idézett elő. A vállalat közölte, hogy a következő 24 órában további részleteket tesz közzé az esettel kapcsolatban.
Az eset újabb példája annak, hogy a fejlett MI rendszerek fejlesztése egyre inkább nemzetbiztonsági kérdéssé válik az Egyesült Államokban. Miközben a technológiai vállalatok az innováció gyorsítását sürgetik, a döntéshozók egyre nagyobb figyelmet fordítanak arra, hogy ezek a rendszerek milyen potenciális kockázatokat hordozhatnak a kiberbiztonság, a biológiai kutatások vagy más érzékeny területek szempontjából. A mostani lépés ráadásul azt is felveti, hogy a jövőben milyen feltételek mellett korlátozhatják vagy akár vonhatják vissza a már nyilvánosan elérhető MI modelleket.