SG.hu·
Ha az Anthropic nem adja át a technológiáját a Pentagonnak, elveszik tőle
Élesedik a vita a Pentagon és az Anthropic között arról, milyen korlátok mellett használható a Claude MI modell a nemzetbiztonsági műveletekben Az Anthropic fenntartásokat táplál azzal kapcsolatban, miként használnák fel a technológiáját. A védelmi miniszter péntekig adott határidőt a MI cégnek, hogy elfogadja a Védelmi Minisztérium feltételeit.
Pete Hegseth védelmi miniszter megfenyegette az Anthropicot, és közölte, hogy a tisztviselők olyan felhatalmazásokhoz nyúlhatnak, amelyek lehetővé teszik az amerikai kormány számára, hogy nemzetbiztonsági okokra hivatkozva rákényszerítse a mesterséges intelligenciával foglalkozó vállalatot technológiájának megosztására, amennyiben a cég péntekig nem fogadja el a hadsereg számára kedvező feltételeket. Az értesülések szerint azonban az Anthropic kész elállni a tárgyalásoktól - és a Védelmi Minisztériummal kötött 200 millió dolláros szerződésétől is -, ha nem kezelik a technológiája autonóm fegyverekhez vagy tömeges megfigyeléshez való felhasználásával kapcsolatos aggályait.
A Pentagon azzal érvelt, hogy nem javasol az Anthropic technológiájára vonatkozóan semmilyen olyan felhasználást, amely jogellenes lenne. A Védelmi Minisztérium egyik magas rangú tisztviselője nyilatkozatában azt mondta, hogy ha a vállalat péntek 17 óra 1 percig nem tesz eleget a követelményeknek, Hegseth biztosítani fogja, hogy alkalmazzák Defense Production Actet az Anthropickal szemben, ami arra kötelezné a céget, hogy a Pentagon használhassa a technológiáját, függetlenül attól, hogy ezt akarja-e vagy sem. Ez nem a tömeges megfigyelésről és az autonóm fegyverek alkalmazásáról szól - mondta a védelmi tisztviselő.
Az Anthropic az első vállalat, amely technológiáját integrálta a Pentagon minősített hálózataiba, és a cég határozottan arra törekszik, hogy a nemzetbiztonság kulcsszereplőjévé váljon. A keddi, Hegsethhel folytatott találkozón Dario Amodei, a vállalat társalapítója és vezérigazgatója kitartott amellett, hogy a Claude nevű MI modelljét ne használják autonóm fegyverek működtetésére vagy amerikaiak tömeges megfigyelésére.
Dario Amodei
Az elmúlt hetekben nőtt a feszültség a cég és a Pentagon között azzal kapcsolatban, miként alkalmazták az Anthropic MI rendszerét a venezuelai elnök, Nicolás Maduro elfogására irányuló rajtaütés során. A védelmi tisztviselők gyorsan reagáltak, és jelezték, hogy ha az Anthropic nem engedi meg a Pentagonnak, hogy a jogszabályi kereteken belül úgy alkalmazza az MI-t, ahogyan azt szeretné, akkor a vállalatot ellátási láncbeli kockázatnak tekintik, ami megfoszthatja a jövőbeni üzleti lehetőségektől őt és minden olyan céget, amely az ő MI rendszerét alvállalkozóként használja.
A keddi találkozón Hegseth még tovább ment, és kijelentette, hogy az Anthropic a Defense Production Act hatálya alá kerülhet, amely lehetővé teszi a kormány számára, hogy nemzetbiztonsági indokra hivatkozva ellenőrzést szerezzen vállalatok és termékeik felett. A DPA-t a covid járvány idején alkalmazták az egészségügyi ellátmány hiányának kezelésére. A DPA szakértői ugyanakkor megkérdőjelezték, hogy a törvény felhasználható-e arra, hogy az Anthropicot rákényszerítsék a technológiája felhasználására vonatkozó korlátozások feladására. "Nem vagyok biztos benne, hogy a DPA ezen részét általában így alkalmazták volna, vagy hogy valaha is alkalmazták volna így" - mondta Jerry McGinn, a Center for Strategic and International Studies ipari bázissal foglalkozó igazgatója.
Az egyeztetés összességében komoly, de tiszteletteljes hangvételű volt - mondta az egyik, a megbeszéléseket ismerő személy -, és Hegseth méltatta az Anthropic technológiáját. A miniszter kijelentette, hogy továbbra is együtt kíván dolgozni a vállalattal, ugyanakkor azzal fenyegetett, hogy a hét végéig felmondja a szerződést. Amodei azzal érvelt, hogy az általa kért korlátozások egyike sem akadályozná a minisztérium munkáját. A beszélgetés során Dario kifejezte elismerését a minisztérium munkája iránt, és megköszönte a miniszter szolgálatát - áll az Anthropic közleményében. "Jóhiszemű egyeztetéseket folytattunk a felhasználási szabályzatunkról annak érdekében, hogy az Anthropic továbbra is támogathassa a kormány nemzetbiztonsági küldetését összhangban azzal, amire a modelljeink megbízhatóan és felelősen képesek." - írják.
A találkozóra azt követően került sor, hogy a Pentagon tisztviselői egyre élesebb bírálatokat fogalmaztak meg az Anthropickal szemben. Hegseth és csapata az elmúlt hetekben azt hangsúlyozták, hogy a hadseregnek szabad kezet kell kapnia az MI eszközök használatában, amelyet kizárólag a jogszabályok korlátoznak, nem pedig a rendszereket fejlesztő vállalatok által felállított korlátok. A védelmi tisztviselők szerint más vezető vállalatok, legalábbis a nem minősített munkák esetében, már beleegyeztek ebbe, így az Anthropic kivételnek számít. A magas rangú védelmi tisztviselő közölte, hogy Elon Musk Grok nevű chatbotja - amelyet az xAI MI cég xAI fejlesztett - szintén engedélyt kapott minősített környezetben történő használatra, és más MI vállalatok is közel állnak ahhoz, hogy lehetővé tegyék a minősített felhasználást.
Pete Hegseth
Az Anthropic és Amodei igyekeznek kényes egyensúlyt tartani, egyszerre hangsúlyozva, hogy készek együttműködni a Pentagonnal, és azt is, hogy az MI kulcsfontosságú technológia ahhoz, hogy a demokratikus országok meg tudják védeni magukat. Nem sokkal azután azonban, hogy Hegseth egy belső irányelvben ismertette álláspontját, Amodei egy esszét tett közzé, amelyben a teljesen autonóm fegyverek és a tömeges megfigyelési eszközök veszélyeire figyelmeztetett. Azt írta, hogy bár a demokratikus országoktól elvárható, hogy korlátokat szabjanak az ilyen rendszerek használatának, ezen biztosítékok némelyike már most fokozatosan erodálódik egyes demokráciákban.
A Pentagon felgyorsította erőfeszítéseit az MI fegyverrendszerekbe történő integrálására, amit egyrészt a Kínával folytatott verseny hajt - amely sietve igyekszik MI technológiát szerezni hadserege számára -, másrészt az olyan új fenyegetések, mint a rendkívül gyors hiperszonikus rakéták, amelyekre az emberek nehezen tudnak időben reagálni. Az ukrajnai és a gázai konfliktus előképet adott arról, milyen szerepet tölthet be az MI egy jövőbeli háborúban, hiszen széles körben alkalmaznak olcsó, félautonóm drónokat és olyan eszközöket, amelyek hatalmas mennyiségű adat elemzésével azonosítják a támadási célpontokat. Az amerikai légierő az elmúlt években tesztelt egy MI által irányított vadászgépet, és megállapította, hogy az képes legyőzni az elit pilótákat azzal, hogy a fordulók és manőverek során a másodperc töredékeivel gyorsabb reakcióidőt produkál.
A szakértők szerint a teljesen autonóm fegyverek valószínűleg még több évre vannak. A Védelmi Minisztérium jelenlegi szabályzata előírja, hogy minden rendszernek több szintű felülvizsgálaton kell átesnie, és olyan biztosítékokkal kell rendelkeznie, amelyek garantálják, hogy az erő alkalmazásáról szóló döntés az emberek kezében marad. A tisztviselők szerint a szabályzatot szükség szerint felülvizsgálják.
"A modern katonai műveletek összetettek, több ezer ember hoz gyorsan élet-halál kérdéseiben döntéseket" - mondta Emelia Probasco, a Georgetown University Center for Security and Emerging Technology vezető kutatója. Nem meglepő, hogy ezek az emberek hibáznak, és az MI eszközök számos olyan módon képesek lehetnek hadjáratokat irányítani, amelyek nem járnak közvetlen fegyverhasználattal - tette hozzá. "Mindenki azt próbálja végiggondolni, mi a legjobb módja annak, hogy ezeket a rendszereket a döntéseink javítására használjuk" - mondta Probasco, a haditengerészet egykori tisztje. "Senkinek sincs még végleges válasza."
Pete Hegseth védelmi miniszter megfenyegette az Anthropicot, és közölte, hogy a tisztviselők olyan felhatalmazásokhoz nyúlhatnak, amelyek lehetővé teszik az amerikai kormány számára, hogy nemzetbiztonsági okokra hivatkozva rákényszerítse a mesterséges intelligenciával foglalkozó vállalatot technológiájának megosztására, amennyiben a cég péntekig nem fogadja el a hadsereg számára kedvező feltételeket. Az értesülések szerint azonban az Anthropic kész elállni a tárgyalásoktól - és a Védelmi Minisztériummal kötött 200 millió dolláros szerződésétől is -, ha nem kezelik a technológiája autonóm fegyverekhez vagy tömeges megfigyeléshez való felhasználásával kapcsolatos aggályait.
A Pentagon azzal érvelt, hogy nem javasol az Anthropic technológiájára vonatkozóan semmilyen olyan felhasználást, amely jogellenes lenne. A Védelmi Minisztérium egyik magas rangú tisztviselője nyilatkozatában azt mondta, hogy ha a vállalat péntek 17 óra 1 percig nem tesz eleget a követelményeknek, Hegseth biztosítani fogja, hogy alkalmazzák Defense Production Actet az Anthropickal szemben, ami arra kötelezné a céget, hogy a Pentagon használhassa a technológiáját, függetlenül attól, hogy ezt akarja-e vagy sem. Ez nem a tömeges megfigyelésről és az autonóm fegyverek alkalmazásáról szól - mondta a védelmi tisztviselő.
Az Anthropic az első vállalat, amely technológiáját integrálta a Pentagon minősített hálózataiba, és a cég határozottan arra törekszik, hogy a nemzetbiztonság kulcsszereplőjévé váljon. A keddi, Hegsethhel folytatott találkozón Dario Amodei, a vállalat társalapítója és vezérigazgatója kitartott amellett, hogy a Claude nevű MI modelljét ne használják autonóm fegyverek működtetésére vagy amerikaiak tömeges megfigyelésére.
Dario Amodei
Az elmúlt hetekben nőtt a feszültség a cég és a Pentagon között azzal kapcsolatban, miként alkalmazták az Anthropic MI rendszerét a venezuelai elnök, Nicolás Maduro elfogására irányuló rajtaütés során. A védelmi tisztviselők gyorsan reagáltak, és jelezték, hogy ha az Anthropic nem engedi meg a Pentagonnak, hogy a jogszabályi kereteken belül úgy alkalmazza az MI-t, ahogyan azt szeretné, akkor a vállalatot ellátási láncbeli kockázatnak tekintik, ami megfoszthatja a jövőbeni üzleti lehetőségektől őt és minden olyan céget, amely az ő MI rendszerét alvállalkozóként használja.
A keddi találkozón Hegseth még tovább ment, és kijelentette, hogy az Anthropic a Defense Production Act hatálya alá kerülhet, amely lehetővé teszi a kormány számára, hogy nemzetbiztonsági indokra hivatkozva ellenőrzést szerezzen vállalatok és termékeik felett. A DPA-t a covid járvány idején alkalmazták az egészségügyi ellátmány hiányának kezelésére. A DPA szakértői ugyanakkor megkérdőjelezték, hogy a törvény felhasználható-e arra, hogy az Anthropicot rákényszerítsék a technológiája felhasználására vonatkozó korlátozások feladására. "Nem vagyok biztos benne, hogy a DPA ezen részét általában így alkalmazták volna, vagy hogy valaha is alkalmazták volna így" - mondta Jerry McGinn, a Center for Strategic and International Studies ipari bázissal foglalkozó igazgatója.
Az egyeztetés összességében komoly, de tiszteletteljes hangvételű volt - mondta az egyik, a megbeszéléseket ismerő személy -, és Hegseth méltatta az Anthropic technológiáját. A miniszter kijelentette, hogy továbbra is együtt kíván dolgozni a vállalattal, ugyanakkor azzal fenyegetett, hogy a hét végéig felmondja a szerződést. Amodei azzal érvelt, hogy az általa kért korlátozások egyike sem akadályozná a minisztérium munkáját. A beszélgetés során Dario kifejezte elismerését a minisztérium munkája iránt, és megköszönte a miniszter szolgálatát - áll az Anthropic közleményében. "Jóhiszemű egyeztetéseket folytattunk a felhasználási szabályzatunkról annak érdekében, hogy az Anthropic továbbra is támogathassa a kormány nemzetbiztonsági küldetését összhangban azzal, amire a modelljeink megbízhatóan és felelősen képesek." - írják.
A találkozóra azt követően került sor, hogy a Pentagon tisztviselői egyre élesebb bírálatokat fogalmaztak meg az Anthropickal szemben. Hegseth és csapata az elmúlt hetekben azt hangsúlyozták, hogy a hadseregnek szabad kezet kell kapnia az MI eszközök használatában, amelyet kizárólag a jogszabályok korlátoznak, nem pedig a rendszereket fejlesztő vállalatok által felállított korlátok. A védelmi tisztviselők szerint más vezető vállalatok, legalábbis a nem minősített munkák esetében, már beleegyeztek ebbe, így az Anthropic kivételnek számít. A magas rangú védelmi tisztviselő közölte, hogy Elon Musk Grok nevű chatbotja - amelyet az xAI MI cég xAI fejlesztett - szintén engedélyt kapott minősített környezetben történő használatra, és más MI vállalatok is közel állnak ahhoz, hogy lehetővé tegyék a minősített felhasználást.
Pete Hegseth
Az Anthropic és Amodei igyekeznek kényes egyensúlyt tartani, egyszerre hangsúlyozva, hogy készek együttműködni a Pentagonnal, és azt is, hogy az MI kulcsfontosságú technológia ahhoz, hogy a demokratikus országok meg tudják védeni magukat. Nem sokkal azután azonban, hogy Hegseth egy belső irányelvben ismertette álláspontját, Amodei egy esszét tett közzé, amelyben a teljesen autonóm fegyverek és a tömeges megfigyelési eszközök veszélyeire figyelmeztetett. Azt írta, hogy bár a demokratikus országoktól elvárható, hogy korlátokat szabjanak az ilyen rendszerek használatának, ezen biztosítékok némelyike már most fokozatosan erodálódik egyes demokráciákban.
A Pentagon felgyorsította erőfeszítéseit az MI fegyverrendszerekbe történő integrálására, amit egyrészt a Kínával folytatott verseny hajt - amely sietve igyekszik MI technológiát szerezni hadserege számára -, másrészt az olyan új fenyegetések, mint a rendkívül gyors hiperszonikus rakéták, amelyekre az emberek nehezen tudnak időben reagálni. Az ukrajnai és a gázai konfliktus előképet adott arról, milyen szerepet tölthet be az MI egy jövőbeli háborúban, hiszen széles körben alkalmaznak olcsó, félautonóm drónokat és olyan eszközöket, amelyek hatalmas mennyiségű adat elemzésével azonosítják a támadási célpontokat. Az amerikai légierő az elmúlt években tesztelt egy MI által irányított vadászgépet, és megállapította, hogy az képes legyőzni az elit pilótákat azzal, hogy a fordulók és manőverek során a másodperc töredékeivel gyorsabb reakcióidőt produkál.
A szakértők szerint a teljesen autonóm fegyverek valószínűleg még több évre vannak. A Védelmi Minisztérium jelenlegi szabályzata előírja, hogy minden rendszernek több szintű felülvizsgálaton kell átesnie, és olyan biztosítékokkal kell rendelkeznie, amelyek garantálják, hogy az erő alkalmazásáról szóló döntés az emberek kezében marad. A tisztviselők szerint a szabályzatot szükség szerint felülvizsgálják.
"A modern katonai műveletek összetettek, több ezer ember hoz gyorsan élet-halál kérdéseiben döntéseket" - mondta Emelia Probasco, a Georgetown University Center for Security and Emerging Technology vezető kutatója. Nem meglepő, hogy ezek az emberek hibáznak, és az MI eszközök számos olyan módon képesek lehetnek hadjáratokat irányítani, amelyek nem járnak közvetlen fegyverhasználattal - tette hozzá. "Mindenki azt próbálja végiggondolni, mi a legjobb módja annak, hogy ezeket a rendszereket a döntéseink javítására használjuk" - mondta Probasco, a haditengerészet egykori tisztje. "Senkinek sincs még végleges válasza."