SG.hu·
Meglepő, hogy Kína miért szkeptikus az MI biztonságával kapcsolatos felhívásokkal szemben
Kínában az MI világvégével kapcsolatos figyelmeztetések határozottan nyugati jellegűnek tűnhetnek, vagy olyan húzásnak, amellyel meg akarják akadályozni a kínai MI-vállalatokat abban, hogy megpróbálják megelőzni amerikai riválisaikat.
A Szilícium-völgyben a számítástechnikai szakembereket ébren tartó rémálom egy olyan fejlett mesterséges intelligencia, amely annyira fejletté válik, hogy az emberek nem tudják megakadályozni abban, hogy globális drónháborút indítson vagy felrobbantson egy nukleáris bombát. Pekingben erre a válasz egyszerű: ki kell húzni a gépet a konnektorból, le kell kapcsolni az internetet, majd előállítani a szabadjára engedett MI-ért felelős személyeket.
Miután nagy amerikai laboratóriumok arról számoltak be, hogy fejlett modelljeik kijutottak a tesztelés során felállított biztonsági korlátok közül, és valódi rendszerekbe törtek be, egyes technológiai vezetők és tisztviselők arra figyelmeztettek, hogy az MI katasztrofális veszélyt jelent az emberiségre, és felszólították Pekinget és Washingtont, hogy működjenek együtt. Kínában azonban sokak számára ezek a világvégét jósló figyelmeztetések távolinak és határozottan nyugati jellegűnek tűnnek. Szinte felfoghatatlan számukra az a gondolat, hogy a kormányzó Kommunista Párt elveszíthetné az ellenőrzést egy technológia felett. A hatóságok korábban már sikeresen ellenőrzésük alatt tartottak más, potenciálisan destabilizáló technológiákat, mindenekelőtt az internetet. A világjárvány idején a kormány az egész városok lezárásával és több százmillió lakos nyomon követésével bizonyította, hogy képes nagy válságokat is kordában tartani.
„Az egész város elektromos hálózatát azonnal le tudják kapcsolni. Odamehetnek bárkihez, és elvehetik a telefonjaikat. Rendkívül nagy hatalmuk van a fizikai világban” - mondta Afra Wang, a Szilícium-völgyben élő technológiai újságíró, aki az MI-re és a kínai technológiára szakosodott. „Ennyi ellenőrzés mellett, amelyet az emberek felett gyakorolnak” - mondta -, hogyan lehetne meggyőzni a pártot arról, „hogy valami olyasmi, mint az MI, amely egy számítógépen él, ijesztő?”
Kínában a Covid alatt simán lezártak komplett nagyvárosokat
Cinikusabb értelmezések szerint a világvégét jósló figyelmeztetések olyan húzásnak tűnnek, amellyel meg akarják akadályozni a kínai MI-vállalatokat abban, hogy megelőzzék amerikai riválisaikat. Kínai sajtóbeszámolók szerint az amerikai MI-vállalatok „félelemmarketinget” alkalmaznak piaci vezető szerepük megőrzésére. „A hazai iparági körökben, vagy az engem körülvevő emberek között a legtöbben egyszerűen elengedik a fülük mellett ezeket a hangokat” - mondta Jie Cai, aki egészen a közelmúltig az ember és számítógép közötti interakció technológiáját és az MI biztonságát kutatta a Tsinghua Egyetemen. Az iparágban sokak számára az egzisztenciális kockázat távoli fontossági sorrendi kérdésnek tűnik - mondta. „Továbbra is úgy tekintünk az MI-re, mint ami nagyon korai szakaszban van” - mondta. „A hangsúly egyértelműen továbbra is a lehetőségeken és az innováción van.”
Egyesek számára az MI-végítélet hívei által képviselt gondolat, miszerint közeleg az apokalipszis és az emberiségnek számot kell adnia tetteiről, nyíltan keresztényinek tűnik. Egy blogger a nyugati MI-vel kapcsolatos félelmeket olyan regényekhez hasonlította, mint Mary Shelley Frankensteinje, valamint ahhoz a motívumhoz, amely szerint az embert megbüntetik azért, mert megpróbál életet teremteni, ami kizárólag Isten hatásköre. „Ez a narratív hagyomány nem létezik a kínai kultúrában” - vonta le a következtetést a blogger.
Liang Fang, a Pekingben működő, MI-biztonsággal foglalkozó tanácsadó cég, a Concordia MI-biztonsági és irányítási részlegének vezetője szerint a mennyről vagy Istenről alkotott kínai elképzelések szintén magyarázatot adhatnak arra, miért tekintenek olyan eltérően a technológiára. Elmondása szerint a kínai kultúra hangsúlyozza a „menny és az ember egységét”, valamint azt az elképzelést, hogy az ember a természet szerves része. „Minden dolog, beleértve az MI-t is, a természetből származik” - mondta. „Ezért a technológiára inkább együttélő társként tekintenek, mint olyan külső erőre, amelynek rendeltetése a pusztítás elhozása.”
Mindezzel együtt a Mythos, az Anthropic nagy teljesítményű, élvonalbeli MI-modelljének, valamint az ehhez hasonló modelleknek a megjelenését aggodalommal fogadták Kínában. A tisztviselők új iránymutatásokat és figyelmeztetéseket adtak ki azzal kapcsolatban, hogy az MI-ügynökök elszabadulhatnak, hackerek kihasználhatják őket, vagy biológiai fegyverek készítésére használhatják őket. A tisztviselők egy kiberbűnözésről szóló törvényt is kidolgoztak, amely előírná az MI-vállalatok számára, hogy figyeljék modelljeiket, és akadályozzák meg, hogy azokból rosszindulatú kódot hozzanak létre, amelyet kibertámadásokhoz lehetne felhasználni.
A hatóságok ebben a hónapban frissítették Kína „MI-biztonsági irányítási keretrendszerét” is, amely megbízható jelzője a jövőbeli szabályozásnak. A dokumentum visszhangozta a Szilícium-völgy egyes félelmeit a „rekurzív önfejlesztéssel”, vagyis az R.S.I.-vel kapcsolatban, amikor az MI-rendszerek elég erőssé válnak ahhoz, hogy emberi fejlesztők csekély vagy semmilyen segítségével fejlesszék tovább saját magukat, és így kikerülhessenek az ellenőrzés alól. A hónap elején Wang Lihong, a Kínai Kibertér-adminisztráció, az internet szabályozásáért felelős hatóság egyik magas rangú tisztviselője azt mondta, hogy az MI által támogatott kibertámadások elavulttá tették a hagyományos védelmi rendszereket. „Sürgősen nagyfokú éberségre van szükség a szélsőséges MI okozta ellenőrzésvesztés kockázataival kapcsolatban” - mondta.
Egyes kínai kutatók már évek óta figyelmeztetnek annak kockázataira, hogy az MI túl gyorsan fejlődik. 2024-ben Pan Xudong és a sanghaji Fudan Egyetem más kutatói megállapították, hogy a Meta és az Alibaba két népszerű nagy nyelvi modellje képesnek bizonyult önmaga lemásolására, amit az MI azon képessége felé vezető lépésnek tekintenek, hogy túljárjon az emberek eszén. Amikor Pan tavaly egy MI-biztonsági konferencián beszélt a tanulmányról, azt mondta, hogy ő és társszerzői „azt akarták közvetíteni, hogy egy ilyen szélsőséges MI-kockázat már nem korlátozódik a tudományos fantasztikum világára, hanem valós probléma, amely vitát és vizsgálatot igényel”.
Peking szemében azonban az MI végső soron ugyanolyan, mint bármely más technológia, amely gondos tervezéssel erős, az ország javára hasznosítható erővé alakítható. Kínában már most is a világ egyik legszigorúbb szabályozása vonatkozik az iparágra. Az MI által előállított tartalmakat meg kell jelölni. Az MI-modelleket a hatóságoknál regisztrálni és jóváhagyatni kell, mielőtt kiadhatják őket.
Bár Kínában kiterjedt szabályozás és tesztelési követelmények vannak érvényben, nincs jogi előírás arra, hogy teszteljék a katasztrofális kockázatokat, például annak lehetőségét, hogy egy MI-rendszert vegyi vagy biológiai fegyverek előállítására használjanak. A kínai MI-vállalatok nem olyan átláthatók biztonsági intézkedéseiket illetően, mint amerikai társaik. Nem mindegyikük teszi közzé a biztonsági értékelések eredményeit a modellek kiadása előtt. A Concordia szerint azok, amelyek közzétesznek ilyen eredményeket, kevesebb részletet közölnek, és ritkábban számolnak be róluk, mint amerikai társaik. A szervezet megállapította, hogy Kína tíz vezető MI-vállalata közül 2025 júniusa és 2026 májusa között mindössze öt hozta nyilvánosságra az ilyen értékelések eredményeit.
Sarah Sun, a sanghaji székhelyű Open Community for AI Safety China alapítója elmondta, hogy az Egyesült Államokban az MI veszélyeiről folyó vita hozzájárult ahhoz, hogy Kínában is elinduljon a párbeszéd. Ugyanakkor megjegyezte, hogy Dario Amodei, az Anthropic vezérigazgatójának Kínával szembeni kritikája visszaütött. Amodei az MI veszélyeiről szóló nyílt levelében azt írta, hogy a demokráciáknak meg kell őrizniük technológiai előnyüket az olyan autoriter országokkal szemben, mint Kína. További korlátozásokat sürgetett Kína hozzáférésére a fejlett chipekhez és az MI fejlesztéséhez szükséges egyéb berendezésekhez. „Az, hogy Dario ennyire keményvonalas álláspontot képviselt, ebben a helyzetben tényleg nagyon, nagyon nem volt hasznos” - mondta Sun.
Elmondása szerint az ilyen üzenetek miatt az MI-vel kapcsolatos legutóbbi figyelmeztetések inkább úgy tűnnek, mint Kína visszafogásának igazolásai, nem pedig a katasztrofális kockázatok miatti valódi aggodalom. Ez pedig megnehezíti az olyan emberek dolgát, mint ő, akik szeretnék felhívni a figyelmet az MI biztonságára Kínában. „Vannak emberek Kínában, akik valóban aggódnak az élvonalbeli MI kockázatai miatt” - mondta -, „és érdeklődnek a biztonság iránt”, valamint a nemzetközi válaszlépések összehangolása iránt.
A kínai internetes kommentelők „A-chu” néven emlegették az Anthropicot, amely egy lekicsinylő kifejezés, és az MI-óriást egy fenevadhoz hasonlítja. A Kína állami műsorszolgáltatójához kötődő Yuyuan Tantian blog az olyan amerikai technológiai vezetőkről, mint Amodei, azt írta, hogy „az egyetlen dolog, amit le akarnak lassítani, az a tempó, amellyel mások felzárkóznak”. Zhou Hongyi, egy befolyásos kínai kiberbiztonsági vezető azt mondta, hogy a megoldás nem a lassítás, hanem a védekezési képességek MI segítségével történő felgyorsítása. „Használj MI-t az MI legyőzésére” - mondta egy múlt héten az interneten közzétett videóban. „Ha MI-t használsz támadásra, én MI-t fogok használni a védekezésre. Ha intelligens ügynökökből álló rajokat telepítesz, én biztonsági ügynökökkel fogok válaszolni.”
A kínai DeepSeek MI-startup egy mérnöke a hónap elején egy internetes bejegyzésben azt írta, hogy az Anthropic számára a világ legfejlettebb MI-eszközeinek monopolizálását lehetővé tenni „nem kevésbé súlyos” dolog lenne annál, mint ha Hitler szerezte volna meg elsőként az atombomba technológiáját a második világháborúban. Ebben a háttérben még valószínűtlenebbnek tűnt, hogy az Egyesült Államok és Kína között az MI biztonságáról folytatott bármilyen megállapodás konkrét változásokhoz vezetne, még akkor is, ha Kína vezetője, Hszi Csin-ping Washingtonban azt mondta Donald Trump elnöknek, hogy „a jó érdekében kell kezelnünk az MI-t”. „Ha az Egyesült Államok azt mondja, hogy lassít, Kína nem fog megbízni ebben” - mondta Zhao Minghao, a Fudani Egyetem Amerikai Tanulmányok Központjának igazgatóhelyettese. „Ha Kína azt mondja, hogy lassít, az Egyesült Államok sem fog megbízni benne.”
A Szilícium-völgyben a számítástechnikai szakembereket ébren tartó rémálom egy olyan fejlett mesterséges intelligencia, amely annyira fejletté válik, hogy az emberek nem tudják megakadályozni abban, hogy globális drónháborút indítson vagy felrobbantson egy nukleáris bombát. Pekingben erre a válasz egyszerű: ki kell húzni a gépet a konnektorból, le kell kapcsolni az internetet, majd előállítani a szabadjára engedett MI-ért felelős személyeket.
Miután nagy amerikai laboratóriumok arról számoltak be, hogy fejlett modelljeik kijutottak a tesztelés során felállított biztonsági korlátok közül, és valódi rendszerekbe törtek be, egyes technológiai vezetők és tisztviselők arra figyelmeztettek, hogy az MI katasztrofális veszélyt jelent az emberiségre, és felszólították Pekinget és Washingtont, hogy működjenek együtt. Kínában azonban sokak számára ezek a világvégét jósló figyelmeztetések távolinak és határozottan nyugati jellegűnek tűnnek. Szinte felfoghatatlan számukra az a gondolat, hogy a kormányzó Kommunista Párt elveszíthetné az ellenőrzést egy technológia felett. A hatóságok korábban már sikeresen ellenőrzésük alatt tartottak más, potenciálisan destabilizáló technológiákat, mindenekelőtt az internetet. A világjárvány idején a kormány az egész városok lezárásával és több százmillió lakos nyomon követésével bizonyította, hogy képes nagy válságokat is kordában tartani.
„Az egész város elektromos hálózatát azonnal le tudják kapcsolni. Odamehetnek bárkihez, és elvehetik a telefonjaikat. Rendkívül nagy hatalmuk van a fizikai világban” - mondta Afra Wang, a Szilícium-völgyben élő technológiai újságíró, aki az MI-re és a kínai technológiára szakosodott. „Ennyi ellenőrzés mellett, amelyet az emberek felett gyakorolnak” - mondta -, hogyan lehetne meggyőzni a pártot arról, „hogy valami olyasmi, mint az MI, amely egy számítógépen él, ijesztő?”
Kínában a Covid alatt simán lezártak komplett nagyvárosokat
Cinikusabb értelmezések szerint a világvégét jósló figyelmeztetések olyan húzásnak tűnnek, amellyel meg akarják akadályozni a kínai MI-vállalatokat abban, hogy megelőzzék amerikai riválisaikat. Kínai sajtóbeszámolók szerint az amerikai MI-vállalatok „félelemmarketinget” alkalmaznak piaci vezető szerepük megőrzésére. „A hazai iparági körökben, vagy az engem körülvevő emberek között a legtöbben egyszerűen elengedik a fülük mellett ezeket a hangokat” - mondta Jie Cai, aki egészen a közelmúltig az ember és számítógép közötti interakció technológiáját és az MI biztonságát kutatta a Tsinghua Egyetemen. Az iparágban sokak számára az egzisztenciális kockázat távoli fontossági sorrendi kérdésnek tűnik - mondta. „Továbbra is úgy tekintünk az MI-re, mint ami nagyon korai szakaszban van” - mondta. „A hangsúly egyértelműen továbbra is a lehetőségeken és az innováción van.”
Egyesek számára az MI-végítélet hívei által képviselt gondolat, miszerint közeleg az apokalipszis és az emberiségnek számot kell adnia tetteiről, nyíltan keresztényinek tűnik. Egy blogger a nyugati MI-vel kapcsolatos félelmeket olyan regényekhez hasonlította, mint Mary Shelley Frankensteinje, valamint ahhoz a motívumhoz, amely szerint az embert megbüntetik azért, mert megpróbál életet teremteni, ami kizárólag Isten hatásköre. „Ez a narratív hagyomány nem létezik a kínai kultúrában” - vonta le a következtetést a blogger.
Liang Fang, a Pekingben működő, MI-biztonsággal foglalkozó tanácsadó cég, a Concordia MI-biztonsági és irányítási részlegének vezetője szerint a mennyről vagy Istenről alkotott kínai elképzelések szintén magyarázatot adhatnak arra, miért tekintenek olyan eltérően a technológiára. Elmondása szerint a kínai kultúra hangsúlyozza a „menny és az ember egységét”, valamint azt az elképzelést, hogy az ember a természet szerves része. „Minden dolog, beleértve az MI-t is, a természetből származik” - mondta. „Ezért a technológiára inkább együttélő társként tekintenek, mint olyan külső erőre, amelynek rendeltetése a pusztítás elhozása.”
Mindezzel együtt a Mythos, az Anthropic nagy teljesítményű, élvonalbeli MI-modelljének, valamint az ehhez hasonló modelleknek a megjelenését aggodalommal fogadták Kínában. A tisztviselők új iránymutatásokat és figyelmeztetéseket adtak ki azzal kapcsolatban, hogy az MI-ügynökök elszabadulhatnak, hackerek kihasználhatják őket, vagy biológiai fegyverek készítésére használhatják őket. A tisztviselők egy kiberbűnözésről szóló törvényt is kidolgoztak, amely előírná az MI-vállalatok számára, hogy figyeljék modelljeiket, és akadályozzák meg, hogy azokból rosszindulatú kódot hozzanak létre, amelyet kibertámadásokhoz lehetne felhasználni.
A hatóságok ebben a hónapban frissítették Kína „MI-biztonsági irányítási keretrendszerét” is, amely megbízható jelzője a jövőbeli szabályozásnak. A dokumentum visszhangozta a Szilícium-völgy egyes félelmeit a „rekurzív önfejlesztéssel”, vagyis az R.S.I.-vel kapcsolatban, amikor az MI-rendszerek elég erőssé válnak ahhoz, hogy emberi fejlesztők csekély vagy semmilyen segítségével fejlesszék tovább saját magukat, és így kikerülhessenek az ellenőrzés alól. A hónap elején Wang Lihong, a Kínai Kibertér-adminisztráció, az internet szabályozásáért felelős hatóság egyik magas rangú tisztviselője azt mondta, hogy az MI által támogatott kibertámadások elavulttá tették a hagyományos védelmi rendszereket. „Sürgősen nagyfokú éberségre van szükség a szélsőséges MI okozta ellenőrzésvesztés kockázataival kapcsolatban” - mondta.
Egyes kínai kutatók már évek óta figyelmeztetnek annak kockázataira, hogy az MI túl gyorsan fejlődik. 2024-ben Pan Xudong és a sanghaji Fudan Egyetem más kutatói megállapították, hogy a Meta és az Alibaba két népszerű nagy nyelvi modellje képesnek bizonyult önmaga lemásolására, amit az MI azon képessége felé vezető lépésnek tekintenek, hogy túljárjon az emberek eszén. Amikor Pan tavaly egy MI-biztonsági konferencián beszélt a tanulmányról, azt mondta, hogy ő és társszerzői „azt akarták közvetíteni, hogy egy ilyen szélsőséges MI-kockázat már nem korlátozódik a tudományos fantasztikum világára, hanem valós probléma, amely vitát és vizsgálatot igényel”.
Peking szemében azonban az MI végső soron ugyanolyan, mint bármely más technológia, amely gondos tervezéssel erős, az ország javára hasznosítható erővé alakítható. Kínában már most is a világ egyik legszigorúbb szabályozása vonatkozik az iparágra. Az MI által előállított tartalmakat meg kell jelölni. Az MI-modelleket a hatóságoknál regisztrálni és jóváhagyatni kell, mielőtt kiadhatják őket.
Bár Kínában kiterjedt szabályozás és tesztelési követelmények vannak érvényben, nincs jogi előírás arra, hogy teszteljék a katasztrofális kockázatokat, például annak lehetőségét, hogy egy MI-rendszert vegyi vagy biológiai fegyverek előállítására használjanak. A kínai MI-vállalatok nem olyan átláthatók biztonsági intézkedéseiket illetően, mint amerikai társaik. Nem mindegyikük teszi közzé a biztonsági értékelések eredményeit a modellek kiadása előtt. A Concordia szerint azok, amelyek közzétesznek ilyen eredményeket, kevesebb részletet közölnek, és ritkábban számolnak be róluk, mint amerikai társaik. A szervezet megállapította, hogy Kína tíz vezető MI-vállalata közül 2025 júniusa és 2026 májusa között mindössze öt hozta nyilvánosságra az ilyen értékelések eredményeit.
Sarah Sun, a sanghaji székhelyű Open Community for AI Safety China alapítója elmondta, hogy az Egyesült Államokban az MI veszélyeiről folyó vita hozzájárult ahhoz, hogy Kínában is elinduljon a párbeszéd. Ugyanakkor megjegyezte, hogy Dario Amodei, az Anthropic vezérigazgatójának Kínával szembeni kritikája visszaütött. Amodei az MI veszélyeiről szóló nyílt levelében azt írta, hogy a demokráciáknak meg kell őrizniük technológiai előnyüket az olyan autoriter országokkal szemben, mint Kína. További korlátozásokat sürgetett Kína hozzáférésére a fejlett chipekhez és az MI fejlesztéséhez szükséges egyéb berendezésekhez. „Az, hogy Dario ennyire keményvonalas álláspontot képviselt, ebben a helyzetben tényleg nagyon, nagyon nem volt hasznos” - mondta Sun.
Elmondása szerint az ilyen üzenetek miatt az MI-vel kapcsolatos legutóbbi figyelmeztetések inkább úgy tűnnek, mint Kína visszafogásának igazolásai, nem pedig a katasztrofális kockázatok miatti valódi aggodalom. Ez pedig megnehezíti az olyan emberek dolgát, mint ő, akik szeretnék felhívni a figyelmet az MI biztonságára Kínában. „Vannak emberek Kínában, akik valóban aggódnak az élvonalbeli MI kockázatai miatt” - mondta -, „és érdeklődnek a biztonság iránt”, valamint a nemzetközi válaszlépések összehangolása iránt.
A kínai internetes kommentelők „A-chu” néven emlegették az Anthropicot, amely egy lekicsinylő kifejezés, és az MI-óriást egy fenevadhoz hasonlítja. A Kína állami műsorszolgáltatójához kötődő Yuyuan Tantian blog az olyan amerikai technológiai vezetőkről, mint Amodei, azt írta, hogy „az egyetlen dolog, amit le akarnak lassítani, az a tempó, amellyel mások felzárkóznak”. Zhou Hongyi, egy befolyásos kínai kiberbiztonsági vezető azt mondta, hogy a megoldás nem a lassítás, hanem a védekezési képességek MI segítségével történő felgyorsítása. „Használj MI-t az MI legyőzésére” - mondta egy múlt héten az interneten közzétett videóban. „Ha MI-t használsz támadásra, én MI-t fogok használni a védekezésre. Ha intelligens ügynökökből álló rajokat telepítesz, én biztonsági ügynökökkel fogok válaszolni.”
A kínai DeepSeek MI-startup egy mérnöke a hónap elején egy internetes bejegyzésben azt írta, hogy az Anthropic számára a világ legfejlettebb MI-eszközeinek monopolizálását lehetővé tenni „nem kevésbé súlyos” dolog lenne annál, mint ha Hitler szerezte volna meg elsőként az atombomba technológiáját a második világháborúban. Ebben a háttérben még valószínűtlenebbnek tűnt, hogy az Egyesült Államok és Kína között az MI biztonságáról folytatott bármilyen megállapodás konkrét változásokhoz vezetne, még akkor is, ha Kína vezetője, Hszi Csin-ping Washingtonban azt mondta Donald Trump elnöknek, hogy „a jó érdekében kell kezelnünk az MI-t”. „Ha az Egyesült Államok azt mondja, hogy lassít, Kína nem fog megbízni ebben” - mondta Zhao Minghao, a Fudani Egyetem Amerikai Tanulmányok Központjának igazgatóhelyettese. „Ha Kína azt mondja, hogy lassít, az Egyesült Államok sem fog megbízni benne.”