SG.hu·
Amerikai kormányzati aggodalmak középpontjában az Anthropic új MI rendszere
A Mythos nevű új MI modell egyszerre ígér áttörést a kiberbiztonságban és hordoz komoly fenyegetéseket a globális digitális infrastruktúrára.
Az Anthropic vezérigazgatója, Dario Amodei találkozott a Fehér Ház kabinetfőnökével, Susie Wiles-szal, mert a szövetségi kormány igyekszik felmérni az új, rendkívül erős mesterséges intelligencia modelljük nemzetbiztonsági következményeit. A találkozó jól mutatja azt a különös viszonyt, amely az Anthropic és a Trump adminisztráció között kialakult. A Fehér Ház korábban igyekezett feketelistára tenni a céget, és megakadályozni, hogy állami szervekkel üzleteljen, miután az idei évben elfajult egy vita arról, hogyan használhatja a Pentagon a vállalat MI modelljét. Ugyanakkor a kormányzat kénytelen együttműködni a céggel, hogy kezelje az általa fejlesztett következő generációs rendszer, a Mythos által jelentett kockázatokat.
Az Anthropic szerint az új modell rendkívül fejlett képességekkel rendelkezik a számítógépes kódokban rejlő biztonsági hibák felderítése terén. Ez segítheti a fejlesztőket abban, hogy régóta rejtve maradt sérülékenységeket javítsanak ki, ugyanakkor jelentősen növelheti a hackerek hatékonyságát is, akik amerikai vállalatokat és kormányzati szerveket vehetnek célba. A vállalat közlése szerint már tájékoztatta az amerikai kiberbiztonsági ügynökségeket az új modellről. A Fehér Ház és a National Institute of Standards and Technology tisztviselői is vizsgálják annak hatásait egy belső e-mail és egy, a megbeszéléseket ismerő forrás szerint. A hatóságok azt is mérlegelik, hogy több ügynökség számára hozzáférést biztosítanak a modell egy változatához.
Egyes döntéshozók különösen aggódnak a fejlemények miatt, köztük Wiles, az alelnök JD Vance és a pénzügyminiszter Scott Bessent. A Trump-kormányzat igyekezett felgyorsítani a MI fejlesztését, és lebontani azokat a szabályozásokat, amelyek lassíthatják az iparágat, hogy az Egyesült Államok előnyt szerezzen a technológia uralásáért folytatott versenyben Kínával szemben. Az új generációs rendszerek növekvő ereje azonban arra kényszeríti a döntéshozókat, hogy szembenézzenek a technológia lehetséges árnyoldalaival is. Donald Trump továbbra is optimistán nyilatkozott a technológia jövőjéről, de a múlt héten, amikor arról kérdezték, szükség van-e bizonyos MI rendszerek esetében „vészleállító kapcsolóra”: „Szükség lenne rá” - mondta a Fox Businessnek. Egy fehér házi tisztviselő közölte, hogy a kormányzat együtt dolgozik a vezető MI laborokkal „annak biztosítása érdekében, hogy modelljeik segítsenek a kritikus szoftveres sérülékenységek kijavításában”.
Az Anthropic két hete jelentette be az új modellt, és közölte, hogy nem teszi nyilvánosan elérhetővé. Ehelyett egy nagy technológiai cégekből és más jelentős vállalatokból álló koalíciót hozott létre, hogy felmérjék a kockázatokat és megpróbálják kijavítani az esetleges hibákat. A kezdeményezés a Project Glasswing nevet kapta. A vállalat szerint a Mythos már több ezer sérülékenységet tárt fel, amelyek minden jelentős operációs rendszert és webböngészőt érintenek. Egy másik vezető labor, az OpenAI is egy erős, következő generációs rendszeren dolgozik, amely Spud kódnéven fut. „A MI fejlődésének ütemét figyelembe véve nem telik el sok idő, amíg ezek a képességek széles körben elterjednek, akár olyan szereplők körében is, akik nem elkötelezettek a biztonságos alkalmazás mellett” - közölte az Anthropic. „Ennek következményei a gazdaságokra, a közbiztonságra és a nemzetbiztonságra nézve súlyosak lehetnek.”
A szövetségi ügynökségek gyorsan reagáltak. A bejelentést követő napokban Bessent és a Federal Reserve elnöke, Jerome H. Powell Washingtonban találkozott a nagy bankok vezetőivel, hogy felhívják a figyelmüket a kockázatok komolyan vételére. Bessent szerint a MI rendszerek ereje gyorsan növekszik, és egyes pénzügyi intézmények jobban állnak a kiberbiztonság terén, mint mások. „Biztos vagyok benne, hogy mostanra mindenki egy irányba evez, és azon dolgozik, hogy növelje az ellenálló képességet” - mondta Bessent.
Egészen idén tavaszig az Anthropic szoros kapcsolatot ápolt a szövetségi kormánnyal, és az elsők között kapott engedélyt arra, hogy olyan minősített rendszereken dolgozzon, ahol az ügynökségek titkos adatokat tárolnak. Amikor azonban a védelmi minisztérium nagyobb ellenőrzést akart a Claude modell használata felett, és azt szerette volna, hogy bármilyen törvényes célra alkalmazhassák, Amodei ellenállt, kijelentve, hogy nem járul hozzá ahhoz, hogy az eszközt teljesen autonóm fegyverek működtetésére vagy tömeges belföldi megfigyelésre használják. Amodei személyesen is tárgyalt Pete Hegseth védelmi miniszterrel a megállapodás érdekében, de a tárgyalások február végén megszakadtak. Trump ezt követően „baloldali őrülteknek” nevezte az Anthropic vezetőit. Egy san franciscói bíróság kimondta, hogy a feketelistázás valószínűleg jogellenes, de egy washingtoni szövetségi bírói testület előzetes döntésben lehetővé tette annak fenntartását.
A Claude modell mélyen beépült a hadsereg rendszereibe. Ugyanazon az estén, amikor a Trump-kormányzat bejelentette a kapcsolat megszakítását az Anthropickal, a rendszert már egy iráni bombázási művelet támogatására használták. Annak jeleként, hogy a vállalat igyekszik helyreállítani kapcsolatát a Fehér Házzal, a múlt héten benyújtott dokumentumok szerint márciusban 130 ezer dollárt költöttek arra, hogy felvegyék Brian Ballard lobbistát, aki szoros kapcsolatban áll az elnök környezetével.
Az Anthropic vezérigazgatója, Dario Amodei találkozott a Fehér Ház kabinetfőnökével, Susie Wiles-szal, mert a szövetségi kormány igyekszik felmérni az új, rendkívül erős mesterséges intelligencia modelljük nemzetbiztonsági következményeit. A találkozó jól mutatja azt a különös viszonyt, amely az Anthropic és a Trump adminisztráció között kialakult. A Fehér Ház korábban igyekezett feketelistára tenni a céget, és megakadályozni, hogy állami szervekkel üzleteljen, miután az idei évben elfajult egy vita arról, hogyan használhatja a Pentagon a vállalat MI modelljét. Ugyanakkor a kormányzat kénytelen együttműködni a céggel, hogy kezelje az általa fejlesztett következő generációs rendszer, a Mythos által jelentett kockázatokat.
Az Anthropic szerint az új modell rendkívül fejlett képességekkel rendelkezik a számítógépes kódokban rejlő biztonsági hibák felderítése terén. Ez segítheti a fejlesztőket abban, hogy régóta rejtve maradt sérülékenységeket javítsanak ki, ugyanakkor jelentősen növelheti a hackerek hatékonyságát is, akik amerikai vállalatokat és kormányzati szerveket vehetnek célba. A vállalat közlése szerint már tájékoztatta az amerikai kiberbiztonsági ügynökségeket az új modellről. A Fehér Ház és a National Institute of Standards and Technology tisztviselői is vizsgálják annak hatásait egy belső e-mail és egy, a megbeszéléseket ismerő forrás szerint. A hatóságok azt is mérlegelik, hogy több ügynökség számára hozzáférést biztosítanak a modell egy változatához.
Egyes döntéshozók különösen aggódnak a fejlemények miatt, köztük Wiles, az alelnök JD Vance és a pénzügyminiszter Scott Bessent. A Trump-kormányzat igyekezett felgyorsítani a MI fejlesztését, és lebontani azokat a szabályozásokat, amelyek lassíthatják az iparágat, hogy az Egyesült Államok előnyt szerezzen a technológia uralásáért folytatott versenyben Kínával szemben. Az új generációs rendszerek növekvő ereje azonban arra kényszeríti a döntéshozókat, hogy szembenézzenek a technológia lehetséges árnyoldalaival is. Donald Trump továbbra is optimistán nyilatkozott a technológia jövőjéről, de a múlt héten, amikor arról kérdezték, szükség van-e bizonyos MI rendszerek esetében „vészleállító kapcsolóra”: „Szükség lenne rá” - mondta a Fox Businessnek. Egy fehér házi tisztviselő közölte, hogy a kormányzat együtt dolgozik a vezető MI laborokkal „annak biztosítása érdekében, hogy modelljeik segítsenek a kritikus szoftveres sérülékenységek kijavításában”.
Az Anthropic két hete jelentette be az új modellt, és közölte, hogy nem teszi nyilvánosan elérhetővé. Ehelyett egy nagy technológiai cégekből és más jelentős vállalatokból álló koalíciót hozott létre, hogy felmérjék a kockázatokat és megpróbálják kijavítani az esetleges hibákat. A kezdeményezés a Project Glasswing nevet kapta. A vállalat szerint a Mythos már több ezer sérülékenységet tárt fel, amelyek minden jelentős operációs rendszert és webböngészőt érintenek. Egy másik vezető labor, az OpenAI is egy erős, következő generációs rendszeren dolgozik, amely Spud kódnéven fut. „A MI fejlődésének ütemét figyelembe véve nem telik el sok idő, amíg ezek a képességek széles körben elterjednek, akár olyan szereplők körében is, akik nem elkötelezettek a biztonságos alkalmazás mellett” - közölte az Anthropic. „Ennek következményei a gazdaságokra, a közbiztonságra és a nemzetbiztonságra nézve súlyosak lehetnek.”
A szövetségi ügynökségek gyorsan reagáltak. A bejelentést követő napokban Bessent és a Federal Reserve elnöke, Jerome H. Powell Washingtonban találkozott a nagy bankok vezetőivel, hogy felhívják a figyelmüket a kockázatok komolyan vételére. Bessent szerint a MI rendszerek ereje gyorsan növekszik, és egyes pénzügyi intézmények jobban állnak a kiberbiztonság terén, mint mások. „Biztos vagyok benne, hogy mostanra mindenki egy irányba evez, és azon dolgozik, hogy növelje az ellenálló képességet” - mondta Bessent.
Egészen idén tavaszig az Anthropic szoros kapcsolatot ápolt a szövetségi kormánnyal, és az elsők között kapott engedélyt arra, hogy olyan minősített rendszereken dolgozzon, ahol az ügynökségek titkos adatokat tárolnak. Amikor azonban a védelmi minisztérium nagyobb ellenőrzést akart a Claude modell használata felett, és azt szerette volna, hogy bármilyen törvényes célra alkalmazhassák, Amodei ellenállt, kijelentve, hogy nem járul hozzá ahhoz, hogy az eszközt teljesen autonóm fegyverek működtetésére vagy tömeges belföldi megfigyelésre használják. Amodei személyesen is tárgyalt Pete Hegseth védelmi miniszterrel a megállapodás érdekében, de a tárgyalások február végén megszakadtak. Trump ezt követően „baloldali őrülteknek” nevezte az Anthropic vezetőit. Egy san franciscói bíróság kimondta, hogy a feketelistázás valószínűleg jogellenes, de egy washingtoni szövetségi bírói testület előzetes döntésben lehetővé tette annak fenntartását.
A Claude modell mélyen beépült a hadsereg rendszereibe. Ugyanazon az estén, amikor a Trump-kormányzat bejelentette a kapcsolat megszakítását az Anthropickal, a rendszert már egy iráni bombázási művelet támogatására használták. Annak jeleként, hogy a vállalat igyekszik helyreállítani kapcsolatát a Fehér Házzal, a múlt héten benyújtott dokumentumok szerint márciusban 130 ezer dollárt költöttek arra, hogy felvegyék Brian Ballard lobbistát, aki szoros kapcsolatban áll az elnök környezetével.