SG.hu·
Kína is elkezdett az MI veszélyeiről beszélni, de Trump továbbra is ellenzi a szabályozást
A kínai tisztviselők az elmúlt hónapokban nyilvánosan is elismerték, hogy szükség van a mesterséges intelligencia szabályozására.
Miután a vezető mesterségesintelligencia-vállalatok vezérigazgatói arra szólították fel az amerikai kormányt, hogy működjön együtt Kínával a technológia veszélyeinek megfékezésében, Donald Trump elnök azzal kezdte kínai kollégájával, Hszi Csin-pinggel tartott csúcstalálkozójának napját, hogy jelezte, nem igazán érdekli a kérdés. „A szuperintelligencia (SI) nagy téma lesz a megbeszéléseken, de én pontosan ott akarom hagyni, ahol van” - írta Trump a Truth Socialön közzétett bejegyzésében, a saját maga által előnyben részesített kifejezést használva az MI-re.
Az elnök a Fehér Házban, a Hszivel folytatott tárgyalásai előtt tett rövid megjegyzéseiben nem említette a technológiát. Amikor azonban Trump után Hszi megszólalt, a kínai elnök felhozta az MI kérdését, és kijelentette, hogy a technológiát felelősen kell irányítani. „Kína és az Egyesült Államok egyaránt vezető ország az MI területén” - mondta Hszi. „Mindkettőnknek megvan a képessége és a felelőssége arra, hogy az MI-t a jó érdekében fejlesszük és kezeljük, biztosítsuk, hogy az MI fejlődése mindig emberi ellenőrzés alatt maradjon, és az emberek jólétét szolgálja.”
Trump és a Szilícium-völgyben működő szövetségesei határozottan elutasították egyes MI-vezetők közelmúltbeli felhívásait az MI fejlesztésének lassítására, azzal érvelve, hogy Kína erre úgy reagálna, hogy versenyelőnyre tesz szert az Egyesült Államokkal szemben. Hszi és más kínai tisztviselők nyilvános kijelentései azonban arra utalnak, hogy a helyzet ennél árnyaltabb. Bár a fejlesztések lassításának gondolatát a kormányhoz közel álló kínai kommentátorok szkepticizmussal fogadták, Hszi és más prominens személyiségek egyre inkább aggodalmuknak adnak hangot amiatt, hogy a technológia veszélyessé vagy a társadalom működését megzavaróvá válhat.
Hszi júliusban, Kína legnagyobb éves MI-konferenciáján tartott beszédében azt mondta, hogy a technológia felügyeletét úgy kell kialakítani, hogy „megelőzze az ellenőrzés elvesztését”. Az országban már most is szigorúbb MI-szabályozás van érvényben, mint az Egyesült Államokban. A hónap elején Kína legfontosabb MI-szabályozó hatóságának egyik tisztviselője egy sajtótájékoztatón arra figyelmeztetett, hogy az MI-modellek növekvő képessége arra, hogy szoftveres sebezhetőségeket találjanak és használjanak ki, „szélsőséges mértékű ellenőrzésvesztés” kockázatát teremti meg. A csúcstalálkozóról Kína által kiadott összefoglaló szerint Hszi azt mondta Trumpnak, hogy a két ország „folytathatja párbeszédét az MI-ről, megoszthatja egymással a technológia kockázataival és előnyeivel kapcsolatos álláspontját, valamint közösen megelőzheti az MI helytelen és visszaélésszerű használatát”. Az összefoglaló nem tett említést arról, hogy tárgyaltak volna a technológiára vonatkozó formális megállapodásról.
Szakértők szerint Trump ellenállása az MI szabályozásával szemben, valamint Kína neheztelése az Egyesült Államoknak az elmúlt tíz évben tett azon erőfeszítései miatt, amelyek exportkorlátozásokkal igyekeztek visszavetni az ország MI-iparát, valószínűtlenné tesznek egy átfogó amerikai-kínai megállapodást a technológiáról. Matt Sheehan, a Carnegie Endowment for International Peace vezető munkatársa azonban azt mondta, hogy a kínai tisztviselők közelmúltbeli hajlandósága az MI kockázatainak elismerésére, valamint az újabb és újabb, a technológia helytelen működését bizonyító esetek felfedezése miatt nem szabad teljesen elvetni annak lehetőségét, hogy valamilyen nemzetközi megállapodás szülessen a technológia szabályozásáról. „A valóság mindkét félre sürgősségérzetet fog kényszeríteni” - mondta Sheehan, aki a globális technológiai kérdéseket kutatja, különös tekintettel Kínára. „A dolgok nagyon sokat változhatnak.”
Az amerikai és a kínai vezetők nagyjából egy évtizede az MI-t tekintik a két ország közötti versengés egyik központi elemének. Peking 2017-ben közölte, hogy 2030-ra a technológia világelsőjévé kíván válni. A Pentagon tervezői arra számítanak, hogy az MI egyre nagyobb szerepet játszik majd a hadviselésben azáltal, hogy lehetővé teszi az autonóm drónok használatát és felgyorsítja a taktikai döntéshozatalt, ami potenciálisan alapjaiban változtathatja meg az Egyesült Államok katonai befolyását a csendes-óceáni térségben. Az MI-képességek gyors bővülése mindkét ország üzleti és politikai vezetőit meggyőzte arról, hogy a technológia hamarosan a gazdasági növekedés egyik alapvető pillérévé válik, növelve a termelékenységet és új tudományos áttörésekhez vezetve.
A kínai MI-vállalatok rendkívül fejlettek, és olyan MI-modelleket indítanak, amelyek teljesítményben csaknem felveszik a versenyt az amerikai vállalatok legjobb modelljeivel, annak ellenére, hogy az Egyesült Államok exportkorlátozásai elvágták Kínát a fejlett MI betanításához és futtatásához szükséges csúcskategóriás számítógépes chipek szabad hozzáférésétől. A kínai kormány kiállt hazai MI-bajnokai mellett, és arra ösztönözte őket, hogy váljanak függetlenné az amerikai technológiától.
Az amerikai vállalatok vezetői ismételten azt mondták, hogy versenyt kell futniuk az MI teljesítményének növeléséért, hogy lépést tudjanak tartani Kína fejlődő képességeivel. Dario Amodei, az Anthropic vezérigazgatója, aki nemrégiben biztonsági aggályokra hivatkozva az iparág egészére kiterjedő lassítást javasolt, egy közelmúltbeli esszéjében azt írta, hogy az Egyesült Államok MI-fejlesztését nem szabad annyira lelassítani, hogy Kína fel tudjon zárkózni.
Kína számos országos MI-szabályozást vezetett be: olyan szabályokat léptetett életbe, amelyek előírják az MI által létrehozott tartalmak egyértelmű megjelölését, korlátozta az algoritmusok használatát hírek és egyéb tartalmak terjesztésében, valamint megtiltotta a kiskorúaknak, hogy chatbotként működő társakat használjanak. Az MI-politikával Kínában foglalkozó szakemberek szerint a kínai kormány tisztviselői rendszeresen beszélnek nyilvános beszédekben és cikkekben az MI-ről és annak kockázatairól. Ugyanaz a tisztviselő, aki a hónap elején nyilvánosan figyelmeztetett az MI feletti ellenőrzés elvesztésének veszélyére, azt is mondta, hogy a technológia „csökkenti a hagyományos munkaerő iránti keresletet”.
Chen Yixin, Kína állambiztonsági minisztere egy szeptember 12-én egy kínai kiberbiztonsági folyóiratban megjelent cikkben arra figyelmeztetett, hogy az MI által létrehozott propaganda és deepfake-ek felhasználhatók politikai megosztottság előidézésére Kínán belül, veszélyeztetve az ország stabilitását. Azt írta, hogy a Kínai Kommunista Pártnak ellenőrzése alatt kell tartania a technológiát e kockázatok minimalizálása érdekében. „A közpolitikai vitákban az MI-kockázatainak gyakorlatilag minden kategóriája jelen van. Az a benyomásom, hogy a politikai és társadalmi stabilitással kapcsolatos kockázatok nagyobb figyelmet kapnak, mint az egzisztenciális kockázat a Szilícium-völgyben használt értelemben” - mondta Zichen Wang, a Center for China and Globalization nevű pekingi székhelyű agytröszt főtitkárhelyettese, utalva az Egyesült Államokban zajló közelmúltbeli vitákra arról, hogy az MI veszélyt jelenthet-e az emberiségre. „A technikai ellenőrzésvesztés azonban egyértelműen szerepel a kínaiak radarján” - mondta Wang.
„A kínai vezetők egyértelműen komolyan veszik az MI kockázatait” - mondta Erik Lindblad, a pekingi székhelyű, MI-biztonságra szakosodott tanácsadó cég, a Concordia AI vezető kutatási menedzsere. „Az MI biztonsága Kínában már nem egy szűk réteget érintő kérdés. Megjelenik a legfelsőbb vezetés beszédeiben, kötelező érvényű szabályozásokban és nemzeti szabványokban.”
Az amerikai Kongresszusban és az állami kormányzatokban mindkét nagy párthoz tartozó politikusok egyre nagyobb számban beszélnek az MI kockázatairól. Közülük sokan az amerikaiaknak a technológia társadalomra gyakorolt hatásával kapcsolatos aggodalmaira, valamint a biztonságról folyó közelmúltbeli vitára reagálva új szabályozás bevezetését sürgetik. A múlt héten Sam Liccardo demokrata és Kevin Kiley független képviselő egy olyan törvényjavaslatot terjesztettek elő, amely arra utasítaná a külügyminisztériumot, hogy mélyítse el a Kínával folytatott tárgyalásokat az MI teszteléséről és átláthatóságáról.
Liccardo csütörtökön egy interjúban azt mondta, egyértelmű, hogy Trump kabinetjének egyes tagjai is támogatják, hogy többet tegyenek az MI kockázataival kapcsolatban. Scott Bessent pénzügyminiszter a kínai kollégájával arról tárgyalt, hogy létrehozzanak egy „értesítési mechanizmust” a két ország között az MI-vel kapcsolatos biztonsági incidensek nyomon követésére. „Nem tudom, miért lenne szükségük vörös telefonra, hacsak nem gondolták úgy, hogy van itt egy megvitatandó kockázat” - mondta Liccardo. Úgy véli, lehetséges, hogy Trump a következő hónapokban megváltoztatja álláspontját az MI-ről, miközben az elnökre egyes tanácsadói részéről egyre nagyobb nyomás nehezedik, és a közvélemény szkepticizmusa a technológiával kapcsolatban tovább növekszik. Liccardo szerint amikor a Fehér Ház úgy dönt, hogy cselekszik, Kínának - amely az MI egyik globális szereplője, és amelynek technológiáját világszerte, így az Egyesült Államokban is használják - része kell legyen a válasznak. „Kínának ott kell lennie a tárgyalóasztalnál, különben az MI biztonsága egyszerűen nem lesz megvalósítható.”
Miután a vezető mesterségesintelligencia-vállalatok vezérigazgatói arra szólították fel az amerikai kormányt, hogy működjön együtt Kínával a technológia veszélyeinek megfékezésében, Donald Trump elnök azzal kezdte kínai kollégájával, Hszi Csin-pinggel tartott csúcstalálkozójának napját, hogy jelezte, nem igazán érdekli a kérdés. „A szuperintelligencia (SI) nagy téma lesz a megbeszéléseken, de én pontosan ott akarom hagyni, ahol van” - írta Trump a Truth Socialön közzétett bejegyzésében, a saját maga által előnyben részesített kifejezést használva az MI-re.
Az elnök a Fehér Házban, a Hszivel folytatott tárgyalásai előtt tett rövid megjegyzéseiben nem említette a technológiát. Amikor azonban Trump után Hszi megszólalt, a kínai elnök felhozta az MI kérdését, és kijelentette, hogy a technológiát felelősen kell irányítani. „Kína és az Egyesült Államok egyaránt vezető ország az MI területén” - mondta Hszi. „Mindkettőnknek megvan a képessége és a felelőssége arra, hogy az MI-t a jó érdekében fejlesszük és kezeljük, biztosítsuk, hogy az MI fejlődése mindig emberi ellenőrzés alatt maradjon, és az emberek jólétét szolgálja.”
Trump és a Szilícium-völgyben működő szövetségesei határozottan elutasították egyes MI-vezetők közelmúltbeli felhívásait az MI fejlesztésének lassítására, azzal érvelve, hogy Kína erre úgy reagálna, hogy versenyelőnyre tesz szert az Egyesült Államokkal szemben. Hszi és más kínai tisztviselők nyilvános kijelentései azonban arra utalnak, hogy a helyzet ennél árnyaltabb. Bár a fejlesztések lassításának gondolatát a kormányhoz közel álló kínai kommentátorok szkepticizmussal fogadták, Hszi és más prominens személyiségek egyre inkább aggodalmuknak adnak hangot amiatt, hogy a technológia veszélyessé vagy a társadalom működését megzavaróvá válhat.
Hszi júliusban, Kína legnagyobb éves MI-konferenciáján tartott beszédében azt mondta, hogy a technológia felügyeletét úgy kell kialakítani, hogy „megelőzze az ellenőrzés elvesztését”. Az országban már most is szigorúbb MI-szabályozás van érvényben, mint az Egyesült Államokban. A hónap elején Kína legfontosabb MI-szabályozó hatóságának egyik tisztviselője egy sajtótájékoztatón arra figyelmeztetett, hogy az MI-modellek növekvő képessége arra, hogy szoftveres sebezhetőségeket találjanak és használjanak ki, „szélsőséges mértékű ellenőrzésvesztés” kockázatát teremti meg. A csúcstalálkozóról Kína által kiadott összefoglaló szerint Hszi azt mondta Trumpnak, hogy a két ország „folytathatja párbeszédét az MI-ről, megoszthatja egymással a technológia kockázataival és előnyeivel kapcsolatos álláspontját, valamint közösen megelőzheti az MI helytelen és visszaélésszerű használatát”. Az összefoglaló nem tett említést arról, hogy tárgyaltak volna a technológiára vonatkozó formális megállapodásról.
Szakértők szerint Trump ellenállása az MI szabályozásával szemben, valamint Kína neheztelése az Egyesült Államoknak az elmúlt tíz évben tett azon erőfeszítései miatt, amelyek exportkorlátozásokkal igyekeztek visszavetni az ország MI-iparát, valószínűtlenné tesznek egy átfogó amerikai-kínai megállapodást a technológiáról. Matt Sheehan, a Carnegie Endowment for International Peace vezető munkatársa azonban azt mondta, hogy a kínai tisztviselők közelmúltbeli hajlandósága az MI kockázatainak elismerésére, valamint az újabb és újabb, a technológia helytelen működését bizonyító esetek felfedezése miatt nem szabad teljesen elvetni annak lehetőségét, hogy valamilyen nemzetközi megállapodás szülessen a technológia szabályozásáról. „A valóság mindkét félre sürgősségérzetet fog kényszeríteni” - mondta Sheehan, aki a globális technológiai kérdéseket kutatja, különös tekintettel Kínára. „A dolgok nagyon sokat változhatnak.”
Az amerikai és a kínai vezetők nagyjából egy évtizede az MI-t tekintik a két ország közötti versengés egyik központi elemének. Peking 2017-ben közölte, hogy 2030-ra a technológia világelsőjévé kíván válni. A Pentagon tervezői arra számítanak, hogy az MI egyre nagyobb szerepet játszik majd a hadviselésben azáltal, hogy lehetővé teszi az autonóm drónok használatát és felgyorsítja a taktikai döntéshozatalt, ami potenciálisan alapjaiban változtathatja meg az Egyesült Államok katonai befolyását a csendes-óceáni térségben. Az MI-képességek gyors bővülése mindkét ország üzleti és politikai vezetőit meggyőzte arról, hogy a technológia hamarosan a gazdasági növekedés egyik alapvető pillérévé válik, növelve a termelékenységet és új tudományos áttörésekhez vezetve.
A kínai MI-vállalatok rendkívül fejlettek, és olyan MI-modelleket indítanak, amelyek teljesítményben csaknem felveszik a versenyt az amerikai vállalatok legjobb modelljeivel, annak ellenére, hogy az Egyesült Államok exportkorlátozásai elvágták Kínát a fejlett MI betanításához és futtatásához szükséges csúcskategóriás számítógépes chipek szabad hozzáférésétől. A kínai kormány kiállt hazai MI-bajnokai mellett, és arra ösztönözte őket, hogy váljanak függetlenné az amerikai technológiától.
Az amerikai vállalatok vezetői ismételten azt mondták, hogy versenyt kell futniuk az MI teljesítményének növeléséért, hogy lépést tudjanak tartani Kína fejlődő képességeivel. Dario Amodei, az Anthropic vezérigazgatója, aki nemrégiben biztonsági aggályokra hivatkozva az iparág egészére kiterjedő lassítást javasolt, egy közelmúltbeli esszéjében azt írta, hogy az Egyesült Államok MI-fejlesztését nem szabad annyira lelassítani, hogy Kína fel tudjon zárkózni.
Kína számos országos MI-szabályozást vezetett be: olyan szabályokat léptetett életbe, amelyek előírják az MI által létrehozott tartalmak egyértelmű megjelölését, korlátozta az algoritmusok használatát hírek és egyéb tartalmak terjesztésében, valamint megtiltotta a kiskorúaknak, hogy chatbotként működő társakat használjanak. Az MI-politikával Kínában foglalkozó szakemberek szerint a kínai kormány tisztviselői rendszeresen beszélnek nyilvános beszédekben és cikkekben az MI-ről és annak kockázatairól. Ugyanaz a tisztviselő, aki a hónap elején nyilvánosan figyelmeztetett az MI feletti ellenőrzés elvesztésének veszélyére, azt is mondta, hogy a technológia „csökkenti a hagyományos munkaerő iránti keresletet”.
Chen Yixin, Kína állambiztonsági minisztere egy szeptember 12-én egy kínai kiberbiztonsági folyóiratban megjelent cikkben arra figyelmeztetett, hogy az MI által létrehozott propaganda és deepfake-ek felhasználhatók politikai megosztottság előidézésére Kínán belül, veszélyeztetve az ország stabilitását. Azt írta, hogy a Kínai Kommunista Pártnak ellenőrzése alatt kell tartania a technológiát e kockázatok minimalizálása érdekében. „A közpolitikai vitákban az MI-kockázatainak gyakorlatilag minden kategóriája jelen van. Az a benyomásom, hogy a politikai és társadalmi stabilitással kapcsolatos kockázatok nagyobb figyelmet kapnak, mint az egzisztenciális kockázat a Szilícium-völgyben használt értelemben” - mondta Zichen Wang, a Center for China and Globalization nevű pekingi székhelyű agytröszt főtitkárhelyettese, utalva az Egyesült Államokban zajló közelmúltbeli vitákra arról, hogy az MI veszélyt jelenthet-e az emberiségre. „A technikai ellenőrzésvesztés azonban egyértelműen szerepel a kínaiak radarján” - mondta Wang.
„A kínai vezetők egyértelműen komolyan veszik az MI kockázatait” - mondta Erik Lindblad, a pekingi székhelyű, MI-biztonságra szakosodott tanácsadó cég, a Concordia AI vezető kutatási menedzsere. „Az MI biztonsága Kínában már nem egy szűk réteget érintő kérdés. Megjelenik a legfelsőbb vezetés beszédeiben, kötelező érvényű szabályozásokban és nemzeti szabványokban.”
Az amerikai Kongresszusban és az állami kormányzatokban mindkét nagy párthoz tartozó politikusok egyre nagyobb számban beszélnek az MI kockázatairól. Közülük sokan az amerikaiaknak a technológia társadalomra gyakorolt hatásával kapcsolatos aggodalmaira, valamint a biztonságról folyó közelmúltbeli vitára reagálva új szabályozás bevezetését sürgetik. A múlt héten Sam Liccardo demokrata és Kevin Kiley független képviselő egy olyan törvényjavaslatot terjesztettek elő, amely arra utasítaná a külügyminisztériumot, hogy mélyítse el a Kínával folytatott tárgyalásokat az MI teszteléséről és átláthatóságáról.
Liccardo csütörtökön egy interjúban azt mondta, egyértelmű, hogy Trump kabinetjének egyes tagjai is támogatják, hogy többet tegyenek az MI kockázataival kapcsolatban. Scott Bessent pénzügyminiszter a kínai kollégájával arról tárgyalt, hogy létrehozzanak egy „értesítési mechanizmust” a két ország között az MI-vel kapcsolatos biztonsági incidensek nyomon követésére. „Nem tudom, miért lenne szükségük vörös telefonra, hacsak nem gondolták úgy, hogy van itt egy megvitatandó kockázat” - mondta Liccardo. Úgy véli, lehetséges, hogy Trump a következő hónapokban megváltoztatja álláspontját az MI-ről, miközben az elnökre egyes tanácsadói részéről egyre nagyobb nyomás nehezedik, és a közvélemény szkepticizmusa a technológiával kapcsolatban tovább növekszik. Liccardo szerint amikor a Fehér Ház úgy dönt, hogy cselekszik, Kínának - amely az MI egyik globális szereplője, és amelynek technológiáját világszerte, így az Egyesült Államokban is használják - része kell legyen a válasznak. „Kínának ott kell lennie a tárgyalóasztalnál, különben az MI biztonsága egyszerűen nem lesz megvalósítható.”