SG.hu·
Több cégnek adna hozzáférést hacker MI-jéhez az Anthropic, de ennek komoly kockázatai vannak
A Fehér Ház ellenzi az Anthropic azon tervét, hogy kibővítse a hozzáférést a Mythos nevű nagy teljesítményű mesterséges intelligencia modelljéhez, amely képes kibertámadások végrehajtására és széles körű online zavarok okozására.
A tervek szerint az Anthropic mintegy 70 további vállalatnak és szervezetnek adna hozzáférést a Mythoshoz, amivel az engedéllyel rendelkező szereplők száma körülbelül 120-ra nőne. A kormányzati tisztviselők azonban közölték a céggel, hogy biztonsági aggályok miatt ellenzik a bővítést. Egyes Fehér Házi tisztviselők attól is tartottak, hogy az Anthropic nem rendelkezik elegendő számítási kapacitással ahhoz, hogy ennyi új felhasználót kiszolgáljon anélkül, hogy ez rontaná a kormányzati felhasználás hatékonyságát. A Fehér Ház azért vesz részt a Mythos bevezetésének felügyeletében, mert a modell nemzetbiztonsági kockázatokat hordoz. Az a képessége, hogy szoftveres sebezhetőségeket találjon és kihasználjon, az elmúlt hetekben komoly aggodalmat keltett kormányzati szervekben és vállalatoknál. Az Anthropic és a Fehér Ház közötti egyeztetések célja ezeknek a kockázatoknak a kezelése, valamint a két fél közötti viszony javítása.
A Fehér Ház elutasító lépése azt mutatja, hogy a kapcsolat továbbra is bonyolult, annak ellenére, hogy mindkét fél igyekszik enyhíteni a feszültséget. A kormányzat korábban már megpróbálta megszakítani a kapcsolatokat a céggel egy Pentagon körüli vita miatt, amely az MI-eszközök katonai felhasználását érinti, és amely jelenleg két különböző bírósági ügyben is zajlik. Az Anthropic kezdetben körülbelül 50 olyan vállalatnak és szervezetnek adott hozzáférést, amelyek kritikus infrastruktúrát kezelnek, és jelenleg nincs tervben nyilvános, széles körű bevezetés. Egyes kormányzati szervek már hozzáférnek a rendszerhez, és a Trump-kormányzat ennek kiterjesztésén dolgozik.
Az Anthropic szóvivője szerint a vállalat produktív egyeztetéseket folytat a kormánnyal az új hozzáférések és számítási kapacitások ügyében, és a kapacitás nem jelent korlátozó tényezőt. A Fehér Ház egyik tisztviselője szerint a kormányzat az innováció és a biztonság közötti egyensúlyra törekszik, miközben együttműködik a magánszektorral annak érdekében, hogy az MI-modellek biztonságosan kerüljenek bevezetésre. Az Anthropic a múlt héten közölte, hogy vizsgálatot folytat a Mythos modell esetleges jogosulatlan hozzáférése ügyében, ami tovább növelte a szoftverhibák elszaporodásával kapcsolatos aggodalmakat. A kormányzat bírálta az Anthropicot amiatt is, hogy kapcsolatban áll olyan szervezetekkel, amelyek liberális ügyeket támogatnak, például a szigorú MI-szabályozás bevezetését. A Trump-kormányzat azt is kifogásolja, hogy a cégnél több korábbi Biden-kormányzati tisztviselő dolgozik.
Elemzők úgy vélik, hogy kontraproduktív az ellentét az Anthropic és a kormányzat között, mivel a kiberbiztonság területén együtt kellene működniük. Biztonsági szakértők szerint a Mythos, valamint az OpenAI és a Google legfejlettebb MI-modelljei egyre jobbak a szoftverhibák felderítésében és kihasználásában, ami megkönnyítheti a kibertámadások indítását. Mindhárom vállalat lépéseket tett annak érdekében, hogy a biztonsági kutatók korai hozzáférést kapjanak a modellekhez, így azok segíthetnek a hibák megtalálásában és javításában, mielőtt azokat rosszindulatúan kihasználnák. Ennek ellenére a felfedezett hibák hatalmas mennyisége, valamint a javítások létrehozásának, tesztelésének és telepítésének feladata aggodalmat kelt az iparágban.
Az Anthropic április elején bejelentette, hogy a Mythos előzetes verzióját elérhetővé teszi kiemelt vállalatok és szervezetek számára, ami világszerte versenyt indított el a potenciálisan szélesebb körű bevezetés előkészítésére. Egyes Fehér Házi MI-tanácsadók, köztük a kockázati tőkebefektető David Sacks, azt feltételezték, hogy a korlátozott hozzáférés egyik oka az lehet, hogy a cég nem rendelkezik annyi számítási kapacitással, mint versenytársai. Ez a kapacitás szükséges az MI-felhasználók feladatainak végrehajtásához. Az Anthropic nemrég megállapodásokat kötött az Amazon.commal, a Google-lel és a Broadcommal a számítási kapacitás bővítésére, de ezek a projektek még időt igényelnek, mire működésbe lépnek. Az MI-vállalatok képesek prioritást adni bizonyos felhasználók, például a kormány számára a számítási erőforrások elérhetőségében. Sokan abban bíznak, hogy a hatékonyabb modellek enyhíthetik a szűk keresztmetszeteket.
A tervek szerint az Anthropic mintegy 70 további vállalatnak és szervezetnek adna hozzáférést a Mythoshoz, amivel az engedéllyel rendelkező szereplők száma körülbelül 120-ra nőne. A kormányzati tisztviselők azonban közölték a céggel, hogy biztonsági aggályok miatt ellenzik a bővítést. Egyes Fehér Házi tisztviselők attól is tartottak, hogy az Anthropic nem rendelkezik elegendő számítási kapacitással ahhoz, hogy ennyi új felhasználót kiszolgáljon anélkül, hogy ez rontaná a kormányzati felhasználás hatékonyságát. A Fehér Ház azért vesz részt a Mythos bevezetésének felügyeletében, mert a modell nemzetbiztonsági kockázatokat hordoz. Az a képessége, hogy szoftveres sebezhetőségeket találjon és kihasználjon, az elmúlt hetekben komoly aggodalmat keltett kormányzati szervekben és vállalatoknál. Az Anthropic és a Fehér Ház közötti egyeztetések célja ezeknek a kockázatoknak a kezelése, valamint a két fél közötti viszony javítása.
A Fehér Ház elutasító lépése azt mutatja, hogy a kapcsolat továbbra is bonyolult, annak ellenére, hogy mindkét fél igyekszik enyhíteni a feszültséget. A kormányzat korábban már megpróbálta megszakítani a kapcsolatokat a céggel egy Pentagon körüli vita miatt, amely az MI-eszközök katonai felhasználását érinti, és amely jelenleg két különböző bírósági ügyben is zajlik. Az Anthropic kezdetben körülbelül 50 olyan vállalatnak és szervezetnek adott hozzáférést, amelyek kritikus infrastruktúrát kezelnek, és jelenleg nincs tervben nyilvános, széles körű bevezetés. Egyes kormányzati szervek már hozzáférnek a rendszerhez, és a Trump-kormányzat ennek kiterjesztésén dolgozik.
Az Anthropic szóvivője szerint a vállalat produktív egyeztetéseket folytat a kormánnyal az új hozzáférések és számítási kapacitások ügyében, és a kapacitás nem jelent korlátozó tényezőt. A Fehér Ház egyik tisztviselője szerint a kormányzat az innováció és a biztonság közötti egyensúlyra törekszik, miközben együttműködik a magánszektorral annak érdekében, hogy az MI-modellek biztonságosan kerüljenek bevezetésre. Az Anthropic a múlt héten közölte, hogy vizsgálatot folytat a Mythos modell esetleges jogosulatlan hozzáférése ügyében, ami tovább növelte a szoftverhibák elszaporodásával kapcsolatos aggodalmakat. A kormányzat bírálta az Anthropicot amiatt is, hogy kapcsolatban áll olyan szervezetekkel, amelyek liberális ügyeket támogatnak, például a szigorú MI-szabályozás bevezetését. A Trump-kormányzat azt is kifogásolja, hogy a cégnél több korábbi Biden-kormányzati tisztviselő dolgozik.
Elemzők úgy vélik, hogy kontraproduktív az ellentét az Anthropic és a kormányzat között, mivel a kiberbiztonság területén együtt kellene működniük. Biztonsági szakértők szerint a Mythos, valamint az OpenAI és a Google legfejlettebb MI-modelljei egyre jobbak a szoftverhibák felderítésében és kihasználásában, ami megkönnyítheti a kibertámadások indítását. Mindhárom vállalat lépéseket tett annak érdekében, hogy a biztonsági kutatók korai hozzáférést kapjanak a modellekhez, így azok segíthetnek a hibák megtalálásában és javításában, mielőtt azokat rosszindulatúan kihasználnák. Ennek ellenére a felfedezett hibák hatalmas mennyisége, valamint a javítások létrehozásának, tesztelésének és telepítésének feladata aggodalmat kelt az iparágban.
Az Anthropic április elején bejelentette, hogy a Mythos előzetes verzióját elérhetővé teszi kiemelt vállalatok és szervezetek számára, ami világszerte versenyt indított el a potenciálisan szélesebb körű bevezetés előkészítésére. Egyes Fehér Házi MI-tanácsadók, köztük a kockázati tőkebefektető David Sacks, azt feltételezték, hogy a korlátozott hozzáférés egyik oka az lehet, hogy a cég nem rendelkezik annyi számítási kapacitással, mint versenytársai. Ez a kapacitás szükséges az MI-felhasználók feladatainak végrehajtásához. Az Anthropic nemrég megállapodásokat kötött az Amazon.commal, a Google-lel és a Broadcommal a számítási kapacitás bővítésére, de ezek a projektek még időt igényelnek, mire működésbe lépnek. Az MI-vállalatok képesek prioritást adni bizonyos felhasználók, például a kormány számára a számítási erőforrások elérhetőségében. Sokan abban bíznak, hogy a hatékonyabb modellek enyhíthetik a szűk keresztmetszeteket.