SG.hu
Az MI veszélyeiről tárgyalt az ENSZ
Az ENSZ Biztonsági Tanácsa kedden tartotta első ülését a mesterséges intelligenciáról, amelyen Kína szerint a technológia nem válhat "elszabadult lóvá", az Egyesült Államok pedig óva intett attól, hogy az emberek cenzúrázására vagy elnyomására használják.
James Cleverly brit külügyminiszter - aki a testület júliusi brit elnöksége alatt az ülést vezette - azt mondta, hogy a mesterséges intelligencia "alapvetően meg fogja változtatni az emberi élet minden aspektusát". "Sürgősen meg kell oldanunk ezen technológiák globális szabályozását, mert a mesterséges intelligencia nem ismer határokat" - tette hozzá, miután kijelentette, hogy a mesterséges intelligencia segíthet az éghajlatváltozás kezelésében és a gazdaságok fellendítésében. Ugyanakkor arra is figyelmeztetett, hogy a technológia táplálja a dezinformációt, és segítheti az állami és nem állami szereplőket e fegyverek megszerzésében. Felszólított arra, hogy a mesterséges intelligencia nemzetközi szabályozását a szabadság és a demokrácia, az emberi jogok és a jogállamiság tiszteletben tartása, a biztonság - beleértve a fizikai biztonságot, valamint a tulajdonjogok és a magánélet védelmét - és a megbízhatóság elveihez kell kötni.
A 15 tagú tanácsot Antonio Guterres ENSZ-főtitkár, Jack Clark, az Anthropic nevű, magasan jegyzett MI startup társalapítója és Zeng Yi professzor, a China-UK Research Center for AI Ethics and Governance társigazgatója tájékoztatta. "A mesterséges intelligencia katonai és nem katonai alkalmazásai egyaránt nagyon komoly következményekkel járhatnak a globális békére és biztonságra nézve" - mondta Guterres. Guterres támogatja egyes államok felhívását egy új ENSZ-szervezet létrehozására, "amely a Nemzetközi Atomenergia-ügynökség, a Nemzetközi Polgári Repülési Szervezet vagy az Éghajlatváltozási Kormányközi Testület mintájára támogatná a rendkívüli technológia szabályozására irányuló közös erőfeszítéseket".
"Az ENSZ-nek lehetősége van arra, hogy globálisan elfogadott szabályokat határozzon meg a mesterséges intelligencia felügyeletére és szabályozására" - mondta Guterres. "Az ENSZ már most is alkalmaz mesterséges intelligenciát saját műveleteiben a tűzszünetek megfigyelésére és az erőszakos cselekmények mintáinak azonosítására" - tette hozzá, és az ENSZ békefenntartó és humanitárius műveletei is célpontjai az ellenséges szereplők által rosszindulatú célokra használt mesterséges intelligenciának, "nagy emberi szenvedést okozva".
Guterres szerint az ENSZ-nek 2026-ig ki kell dolgoznia egy jogilag kötelező érvényű megállapodást, amely tiltja a mesterséges intelligencia teljesen automatizált háborús fegyverek használatát. Azt is ígérte, hogy az év végéig összeállít egy tanácsadó testületet, amely javaslatokat dolgoz ki a mesterséges intelligencia szélesebb körű szabályozására, és egy hamarosan megjelenő politikai tájékoztatót ígért, amely ajánlásokat tartalmaz a kormányok számára a technológia felelősségteljes megközelítésének módjára vonatkozóan.
Kína ENSZ-nagykövete, Zhang Jun "kétélű kardnak" nevezte a mesterséges intelligenciát, és kijelentette, hogy Peking támogatja, hogy az ENSZ központi koordináló szerepet töltsön be a mesterséges intelligencia irányadó elveinek meghatározásában. "Az, hogy jó vagy rossz attól függ, hogy az emberiség hogyan használja fel, hogyan szabályozza, és hogyan egyensúlyozzuk ki a tudományos fejlődést és a biztonságot" - mondta Zhang, hozzátéve, hogy az emberekre és a mesterséges intelligenciára kell összpontosítani a fejlődés szabályozása érdekében, és hogy "megakadályozzuk, hogy ez a technológia elszabadult lóvá váljon".
"A mesterséges intelligenciával kapcsolatos nemzetközi törvényeknek és normáknak rugalmasnak kell lenniük, hogy az országoknak szabadságot adjanak saját nemzeti szintű szabályozásaik kialakítására" - mondta Zhang Jun kínai nagykövet, aki egyúttal meg nem nevezett "fejlett országokat" bírált, amiért megpróbálnak dominanciát elérni a mesterséges intelligencia területén. "Egyes fejlett országok a technológiai hegemóniára való törekvés érdekében erőfeszítéseket tesznek arra, hogy exkluzív kis klubokat hozzanak létre, és rosszindulatúan akadályozzák más országok technológiai fejlődését, valamint mesterségesen technológiai akadályokat állítanak fel" - mondta Zhang. "Kína határozottan ellenzi ezeket a magatartásokat." (Zhang megjegyzései arra vonatkoztak, hogy az Egyesült Államok kormánya arra törekszik, hogy korlátozza a nagy teljesítményű mesterséges intelligencia chipek Kínába irányuló áramlását.)
Az Egyesült Államokat a találkozón képviselő tisztviselő nem foglalkozott közvetlenül a kínai kormány vádjaival. Jeffrey DeLaurentis, az Egyesült Államok ENSZ-nagykövetének helyettese szintén azt mondta, hogy az országoknak együtt kell működniük a mesterséges intelligencia és más új technológiák terén is, hogy kezeljék a békét és biztonságot veszélyeztető emberi jogi kockázatokat. "Egyetlen tagállam sem használhatja a mesterséges intelligenciát arra, hogy cenzúrázza, korlátozza, elnyomja vagy ellehetetlenítse az embereket" - mondta a tanács előtt. Oroszország megkérdőjelezte, hogy a tanácsnak, amelynek feladata a nemzetközi béke és biztonság fenntartása, meg kellene-e vitatnia a mesterséges intelligenciát. "Amire szükség van, az egy szakmai, tudományos, szakértői alapú vita, amely több évig is eltarthat, és ez a vita már folyamatban van a szakosodott platformokon" - mondta Dmitrij Poljanszkij, Oroszország ENSZ-nagykövet-helyettese.
A találkozón a technológiai ipar részéről is elhangzott néhány hang. Jack Clark, az Anthropic nevű mesterséges intelligenciával foglalkozó vállalat társalapítója telekonferencián keresztül szólt a Biztonsági Tanácshoz, és sürgette a tagállamokat, hogy ne engedjék, hogy a magáncégek uralják a mesterséges intelligencia fejlesztését. "Nem hagyhatjuk a mesterséges intelligencia fejlesztését kizárólag a magánszektor szereplőire" - mondta Clark. "A világ kormányainak össze kell fogniuk a biztonságos fejlesztés érdekében, és a nagy teljesítményű mesterséges intelligencia rendszerek további fejlesztését a társadalom minden részének közös vállalkozásává kell tenniük, nem pedig kizárólag néhány, egymással a piacon versengő cég által diktált törekvéssé."
James Cleverly brit külügyminiszter - aki a testület júliusi brit elnöksége alatt az ülést vezette - azt mondta, hogy a mesterséges intelligencia "alapvetően meg fogja változtatni az emberi élet minden aspektusát". "Sürgősen meg kell oldanunk ezen technológiák globális szabályozását, mert a mesterséges intelligencia nem ismer határokat" - tette hozzá, miután kijelentette, hogy a mesterséges intelligencia segíthet az éghajlatváltozás kezelésében és a gazdaságok fellendítésében. Ugyanakkor arra is figyelmeztetett, hogy a technológia táplálja a dezinformációt, és segítheti az állami és nem állami szereplőket e fegyverek megszerzésében. Felszólított arra, hogy a mesterséges intelligencia nemzetközi szabályozását a szabadság és a demokrácia, az emberi jogok és a jogállamiság tiszteletben tartása, a biztonság - beleértve a fizikai biztonságot, valamint a tulajdonjogok és a magánélet védelmét - és a megbízhatóság elveihez kell kötni.
A 15 tagú tanácsot Antonio Guterres ENSZ-főtitkár, Jack Clark, az Anthropic nevű, magasan jegyzett MI startup társalapítója és Zeng Yi professzor, a China-UK Research Center for AI Ethics and Governance társigazgatója tájékoztatta. "A mesterséges intelligencia katonai és nem katonai alkalmazásai egyaránt nagyon komoly következményekkel járhatnak a globális békére és biztonságra nézve" - mondta Guterres. Guterres támogatja egyes államok felhívását egy új ENSZ-szervezet létrehozására, "amely a Nemzetközi Atomenergia-ügynökség, a Nemzetközi Polgári Repülési Szervezet vagy az Éghajlatváltozási Kormányközi Testület mintájára támogatná a rendkívüli technológia szabályozására irányuló közös erőfeszítéseket".
"Az ENSZ-nek lehetősége van arra, hogy globálisan elfogadott szabályokat határozzon meg a mesterséges intelligencia felügyeletére és szabályozására" - mondta Guterres. "Az ENSZ már most is alkalmaz mesterséges intelligenciát saját műveleteiben a tűzszünetek megfigyelésére és az erőszakos cselekmények mintáinak azonosítására" - tette hozzá, és az ENSZ békefenntartó és humanitárius műveletei is célpontjai az ellenséges szereplők által rosszindulatú célokra használt mesterséges intelligenciának, "nagy emberi szenvedést okozva".
Guterres szerint az ENSZ-nek 2026-ig ki kell dolgoznia egy jogilag kötelező érvényű megállapodást, amely tiltja a mesterséges intelligencia teljesen automatizált háborús fegyverek használatát. Azt is ígérte, hogy az év végéig összeállít egy tanácsadó testületet, amely javaslatokat dolgoz ki a mesterséges intelligencia szélesebb körű szabályozására, és egy hamarosan megjelenő politikai tájékoztatót ígért, amely ajánlásokat tartalmaz a kormányok számára a technológia felelősségteljes megközelítésének módjára vonatkozóan.
Kína ENSZ-nagykövete, Zhang Jun "kétélű kardnak" nevezte a mesterséges intelligenciát, és kijelentette, hogy Peking támogatja, hogy az ENSZ központi koordináló szerepet töltsön be a mesterséges intelligencia irányadó elveinek meghatározásában. "Az, hogy jó vagy rossz attól függ, hogy az emberiség hogyan használja fel, hogyan szabályozza, és hogyan egyensúlyozzuk ki a tudományos fejlődést és a biztonságot" - mondta Zhang, hozzátéve, hogy az emberekre és a mesterséges intelligenciára kell összpontosítani a fejlődés szabályozása érdekében, és hogy "megakadályozzuk, hogy ez a technológia elszabadult lóvá váljon".
"A mesterséges intelligenciával kapcsolatos nemzetközi törvényeknek és normáknak rugalmasnak kell lenniük, hogy az országoknak szabadságot adjanak saját nemzeti szintű szabályozásaik kialakítására" - mondta Zhang Jun kínai nagykövet, aki egyúttal meg nem nevezett "fejlett országokat" bírált, amiért megpróbálnak dominanciát elérni a mesterséges intelligencia területén. "Egyes fejlett országok a technológiai hegemóniára való törekvés érdekében erőfeszítéseket tesznek arra, hogy exkluzív kis klubokat hozzanak létre, és rosszindulatúan akadályozzák más országok technológiai fejlődését, valamint mesterségesen technológiai akadályokat állítanak fel" - mondta Zhang. "Kína határozottan ellenzi ezeket a magatartásokat." (Zhang megjegyzései arra vonatkoztak, hogy az Egyesült Államok kormánya arra törekszik, hogy korlátozza a nagy teljesítményű mesterséges intelligencia chipek Kínába irányuló áramlását.)
Az Egyesült Államokat a találkozón képviselő tisztviselő nem foglalkozott közvetlenül a kínai kormány vádjaival. Jeffrey DeLaurentis, az Egyesült Államok ENSZ-nagykövetének helyettese szintén azt mondta, hogy az országoknak együtt kell működniük a mesterséges intelligencia és más új technológiák terén is, hogy kezeljék a békét és biztonságot veszélyeztető emberi jogi kockázatokat. "Egyetlen tagállam sem használhatja a mesterséges intelligenciát arra, hogy cenzúrázza, korlátozza, elnyomja vagy ellehetetlenítse az embereket" - mondta a tanács előtt. Oroszország megkérdőjelezte, hogy a tanácsnak, amelynek feladata a nemzetközi béke és biztonság fenntartása, meg kellene-e vitatnia a mesterséges intelligenciát. "Amire szükség van, az egy szakmai, tudományos, szakértői alapú vita, amely több évig is eltarthat, és ez a vita már folyamatban van a szakosodott platformokon" - mondta Dmitrij Poljanszkij, Oroszország ENSZ-nagykövet-helyettese.
A találkozón a technológiai ipar részéről is elhangzott néhány hang. Jack Clark, az Anthropic nevű mesterséges intelligenciával foglalkozó vállalat társalapítója telekonferencián keresztül szólt a Biztonsági Tanácshoz, és sürgette a tagállamokat, hogy ne engedjék, hogy a magáncégek uralják a mesterséges intelligencia fejlesztését. "Nem hagyhatjuk a mesterséges intelligencia fejlesztését kizárólag a magánszektor szereplőire" - mondta Clark. "A világ kormányainak össze kell fogniuk a biztonságos fejlesztés érdekében, és a nagy teljesítményű mesterséges intelligencia rendszerek további fejlesztését a társadalom minden részének közös vállalkozásává kell tenniük, nem pedig kizárólag néhány, egymással a piacon versengő cég által diktált törekvéssé."