SG.hu·
Az Anthropic vezérigazgatója szerint lassítani kell az MI fejlesztését
Dario Amodei szerint az MI önfejlesztése hamarosan meghaladhatja az emberek képességét a technológia megértésére és ellenőrzésére, ezért globális együttműködésre és szigorúbb biztonsági korlátokra van szükség.
Dario Amodei, a mesterséges intelligenciával foglalkozó Anthropic vezérigazgatója mindössze néhány nappal azután, hogy a vállalat egyik alkalmazottja a technológia biztonságával kapcsolatos aggodalmai miatt távozott, egy 3800 szavas nyílt levelet tett közzé, amelyben az MI fejlesztésének lassítására szólított fel. "Az elmúlt néhány hónapban meggyőződésemmé vált, hogy a kockázatok teljes körű kezelése még nagyobb elővigyázatosságot igényel - nem csupán a kockázatok megelőzésébe kell befektetnünk, hanem azzal is szabályoznunk kell a képességek fejlődésének ütemét, hogy a kockázatok megelőzésének legyen ideje lépést tartani" - írja Amodei. "Lassítanunk kell azt az ütemet, amellyel az MI-modellek képességeit fejlesztjük. A fejlődés továbbra is gyorsnak fog tűnni, és bölcsen kell felhasználnunk azt az időt, amelyet nyerünk."
Amodei szerint két közelmúltbeli fejlemény győzte meg arról, hogy önmagában az MI biztonságába történő befektetés már nem elegendő. Az egyik az volt, hogy maga az MI kezdett hozzájárulni az MI következő generációjának megalkotásához. Ez egy "rekurzív önfejlesztésnek" nevezett, önmagát erősítő folyamat, amely hamarosan meghaladhatja az emberek képességét arra, hogy megértsék vagy ellenőrizzék azt, amit létrehoznak. Amodei egy közelmúltbeli incidensre is felhívta a figyelmet, amelyben az OpenAI rendszerei önállóan működtek, és megtámadták a HuggingFace nevű MI-startupot. Az OpenAI nem tudott a támadásról egészen addig, amíg a HuggingFace hetekkel később nem tájékoztatta róla. Bár a támadás nem okozott valódi kárt, Amodei szerint egy fejlettebb MI-változat képes lehetne az internet jelentős részének elfoglalására, és "több százmilliárd dolláros kárt" okozhatna.
Amodei egy háromlépcsős tervet vázolt fel az MI fejlesztésének egész iparágra kiterjedő "ütemezésére", azzal érvelve, hogy ezt a világnak közösen kellene megvalósítania. Először is azt mondta, hogy az Anthropic független ellenőröket hívna meg, hogy a vállalaton belül dolgozzanak, és a munkatársakéval megegyező hozzáférést kapjanak, beleértve az íróasztalt, a belépőkártyát és a laptopot is. Az ellenőrök - akiket ő "értékelőknek" nevezett - ellenőriznék, hogy a startup betartja-e saját biztonsági gyakorlatait. Ezek az ellenőrök ezt követően nyilvánosságra hoznák a megállapításaikat, még akkor is, ha azok kedvezőtlenek lennének a vállalat számára. Amodei arra ösztönözte a versenytársakat, hogy ugyanezt tegyék.
Másodszor Amodei szerint az Egyesült Államokban és más demokratikus országokban működő MI-vállalatoknak közös biztonsági szabványokban és abban kellene megállapodniuk, hogy milyen közös korlátot szabnak annak, milyen gyorsan fejlődhetnek az MI képességei, kormányaik segítségével. Azt javasolta, hogy az MI-vállalatok hangolják össze - lehetőleg szabályozás révén, de addig is önkéntes alapon -, hogy milyen gyorsan fejlődhetnek a rendszereik.
Harmadszor azt mondta, hogy az Egyesült Államoknak és más demokratikus nemzeteknek azon kellene dolgozniuk, hogy a tekintélyelvű kormányokat, elsősorban Kínát, hasonló korlátozások elfogadására ösztönözzék. Amodei szerint ez lenne a legnehezebb lépés, és az is a legkevésbé valószínű, hogy a közeljövőben megvalósul. Amodei szerint bármilyen Kínával kötött megállapodás egy lépcsőzetes folyamat lenne, a leginkább megvalósítható lépésektől a legkevésbé megvalósíthatókig. Ezek közé tartozna a nyilvánvalóan veszélyes MI-felhasználási módok betiltása; annak elfogadása, hogy az MI-modelleket a veszélyek szempontjából még a kiadásuk előtt tesztelni kell; az MI önfejlesztési képességeinek "sebességkorlátozása"; valamint - amibe Kína a legkevésbé valószínű, hogy beleegyezik - a fejlesztés teljes leállítása.
Amodei szerint eközben a demokráciáknak meg kell őrizniük Kínával szembeni előnyüket, támogatva a nagy teljesítményű MI-chipek országba történő értékesítésére vonatkozó korlátozásokat, valamint szigorúbb biztonsági intézkedéseket alkalmazva annak megakadályozására, hogy a versenytársak ellopják vagy lemásolják az amerikai modelleket. "Bármilyen együttműködést is tudunk elérni Kínával, azzal meghosszabbítjuk azt az időt, amelyet a demokratikus nemzeteken belül a fejlődés ütemének szabályozására fordíthatunk" - mondta.
Amodei esszéjében hangsúlyozta, hogy továbbra is úgy véli, az MI "hihetetlen előnyöket" hozhat az emberiség számára, többek között betegségek gyógyításának lehetőségét és a gazdasági növekedés felgyorsítását. Amodei azonban ennek ellenére azt mondta, hogy az MI kockázatai túl nagyok ahhoz, hogy ne a lehető legnagyobb óvatossággal járjunk el. "Az általam javasolt intézkedések a fejlődés biztonságos ütemben történő előmozdítására nem lesznek könnyűek" - írta Amodei. "De úgy gondolom, tartozunk annyival az emberiségnek, hogy megpróbáljuk."
Az írás arra késztette az MI más vezetőit is, köztük Sam Altmant, az OpenAI vezérigazgatóját, Elon Muskot, a SpaceX vezérigazgatóját, valamint Demis Hassabist, a Google DeepMind vezetőjét, hogy egyetértésüknek adjanak hangot. A múlt hónapban, miközben az OpenAI egy Astra nevű fejlett MI-modell kiadására készült, a vállalat azt közölte, hogy a kiberbiztonsági képességek fejlődése miatt szándékosan lelassította fejlesztési ütemét. Júliusban a Google munkatársa, Demis Hassabis közzétett egy nyílt keretrendszert arra vonatkozóan, hogy szerinte miként lehetne biztonságosan és együttműködésben kifejleszteni az MI következő generációját.
Az MI fejlesztésére kevés szabály vonatkozik, bár Trump elnök júniusban végrehajtási rendeletet írt alá, amelyben arra kérte az MI-laboratóriumokat, hogy önkéntesen nyújtsák be modelljeiket felülvizsgálatra, mielőtt nyilvánosan kiadják őket.
Dario Amodei, a mesterséges intelligenciával foglalkozó Anthropic vezérigazgatója mindössze néhány nappal azután, hogy a vállalat egyik alkalmazottja a technológia biztonságával kapcsolatos aggodalmai miatt távozott, egy 3800 szavas nyílt levelet tett közzé, amelyben az MI fejlesztésének lassítására szólított fel. "Az elmúlt néhány hónapban meggyőződésemmé vált, hogy a kockázatok teljes körű kezelése még nagyobb elővigyázatosságot igényel - nem csupán a kockázatok megelőzésébe kell befektetnünk, hanem azzal is szabályoznunk kell a képességek fejlődésének ütemét, hogy a kockázatok megelőzésének legyen ideje lépést tartani" - írja Amodei. "Lassítanunk kell azt az ütemet, amellyel az MI-modellek képességeit fejlesztjük. A fejlődés továbbra is gyorsnak fog tűnni, és bölcsen kell felhasználnunk azt az időt, amelyet nyerünk."
Amodei szerint két közelmúltbeli fejlemény győzte meg arról, hogy önmagában az MI biztonságába történő befektetés már nem elegendő. Az egyik az volt, hogy maga az MI kezdett hozzájárulni az MI következő generációjának megalkotásához. Ez egy "rekurzív önfejlesztésnek" nevezett, önmagát erősítő folyamat, amely hamarosan meghaladhatja az emberek képességét arra, hogy megértsék vagy ellenőrizzék azt, amit létrehoznak. Amodei egy közelmúltbeli incidensre is felhívta a figyelmet, amelyben az OpenAI rendszerei önállóan működtek, és megtámadták a HuggingFace nevű MI-startupot. Az OpenAI nem tudott a támadásról egészen addig, amíg a HuggingFace hetekkel később nem tájékoztatta róla. Bár a támadás nem okozott valódi kárt, Amodei szerint egy fejlettebb MI-változat képes lehetne az internet jelentős részének elfoglalására, és "több százmilliárd dolláros kárt" okozhatna.
Amodei egy háromlépcsős tervet vázolt fel az MI fejlesztésének egész iparágra kiterjedő "ütemezésére", azzal érvelve, hogy ezt a világnak közösen kellene megvalósítania. Először is azt mondta, hogy az Anthropic független ellenőröket hívna meg, hogy a vállalaton belül dolgozzanak, és a munkatársakéval megegyező hozzáférést kapjanak, beleértve az íróasztalt, a belépőkártyát és a laptopot is. Az ellenőrök - akiket ő "értékelőknek" nevezett - ellenőriznék, hogy a startup betartja-e saját biztonsági gyakorlatait. Ezek az ellenőrök ezt követően nyilvánosságra hoznák a megállapításaikat, még akkor is, ha azok kedvezőtlenek lennének a vállalat számára. Amodei arra ösztönözte a versenytársakat, hogy ugyanezt tegyék.
Másodszor Amodei szerint az Egyesült Államokban és más demokratikus országokban működő MI-vállalatoknak közös biztonsági szabványokban és abban kellene megállapodniuk, hogy milyen közös korlátot szabnak annak, milyen gyorsan fejlődhetnek az MI képességei, kormányaik segítségével. Azt javasolta, hogy az MI-vállalatok hangolják össze - lehetőleg szabályozás révén, de addig is önkéntes alapon -, hogy milyen gyorsan fejlődhetnek a rendszereik.
Harmadszor azt mondta, hogy az Egyesült Államoknak és más demokratikus nemzeteknek azon kellene dolgozniuk, hogy a tekintélyelvű kormányokat, elsősorban Kínát, hasonló korlátozások elfogadására ösztönözzék. Amodei szerint ez lenne a legnehezebb lépés, és az is a legkevésbé valószínű, hogy a közeljövőben megvalósul. Amodei szerint bármilyen Kínával kötött megállapodás egy lépcsőzetes folyamat lenne, a leginkább megvalósítható lépésektől a legkevésbé megvalósíthatókig. Ezek közé tartozna a nyilvánvalóan veszélyes MI-felhasználási módok betiltása; annak elfogadása, hogy az MI-modelleket a veszélyek szempontjából még a kiadásuk előtt tesztelni kell; az MI önfejlesztési képességeinek "sebességkorlátozása"; valamint - amibe Kína a legkevésbé valószínű, hogy beleegyezik - a fejlesztés teljes leállítása.
Amodei szerint eközben a demokráciáknak meg kell őrizniük Kínával szembeni előnyüket, támogatva a nagy teljesítményű MI-chipek országba történő értékesítésére vonatkozó korlátozásokat, valamint szigorúbb biztonsági intézkedéseket alkalmazva annak megakadályozására, hogy a versenytársak ellopják vagy lemásolják az amerikai modelleket. "Bármilyen együttműködést is tudunk elérni Kínával, azzal meghosszabbítjuk azt az időt, amelyet a demokratikus nemzeteken belül a fejlődés ütemének szabályozására fordíthatunk" - mondta.
Amodei esszéjében hangsúlyozta, hogy továbbra is úgy véli, az MI "hihetetlen előnyöket" hozhat az emberiség számára, többek között betegségek gyógyításának lehetőségét és a gazdasági növekedés felgyorsítását. Amodei azonban ennek ellenére azt mondta, hogy az MI kockázatai túl nagyok ahhoz, hogy ne a lehető legnagyobb óvatossággal járjunk el. "Az általam javasolt intézkedések a fejlődés biztonságos ütemben történő előmozdítására nem lesznek könnyűek" - írta Amodei. "De úgy gondolom, tartozunk annyival az emberiségnek, hogy megpróbáljuk."
Dario is right https://t.co/EwKgqQGaUo
— Elon Musk (@elonmusk) September 12, 2026
Az írás arra késztette az MI más vezetőit is, köztük Sam Altmant, az OpenAI vezérigazgatóját, Elon Muskot, a SpaceX vezérigazgatóját, valamint Demis Hassabist, a Google DeepMind vezetőjét, hogy egyetértésüknek adjanak hangot. A múlt hónapban, miközben az OpenAI egy Astra nevű fejlett MI-modell kiadására készült, a vállalat azt közölte, hogy a kiberbiztonsági képességek fejlődése miatt szándékosan lelassította fejlesztési ütemét. Júliusban a Google munkatársa, Demis Hassabis közzétett egy nyílt keretrendszert arra vonatkozóan, hogy szerinte miként lehetne biztonságosan és együttműködésben kifejleszteni az MI következő generációját.
I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks.
— Sam Altman (@sama) September 12, 2026
Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon. https://t.co/1YhhIybZX7
Az MI fejlesztésére kevés szabály vonatkozik, bár Trump elnök júniusban végrehajtási rendeletet írt alá, amelyben arra kérte az MI-laboratóriumokat, hogy önkéntesen nyújtsák be modelljeiket felülvizsgálatra, mielőtt nyilvánosan kiadják őket.