SG.hu
MI biztonsági csúcstalálkozó: az EU, Kína és az USA megállapodtak az együttműködésben
Nagy Britannia mesterséges intelligencia biztonsági csúcstalálkozót tartott a Londontól nem messze lévő Bletchley Parkban, amelyen több mint 25 ország vezetői és számos nagyvállalat elnöke vett részt. Kína beleegyezett, hogy együttműködik az Egyesült Államokkal, az Európai Unióval és más országokkal a mesterséges intelligenciából eredő kockázatok közös kezelése érdekében a csúcstalálkozón, amelynek célja a gyorsan fejlődő technológia biztonságos útjának kijelölése volt.
Az elmúlt évben egyes technológiai vezetők és politikai vezetők arra figyelmeztettek, hogy a mesterséges intelligencia gyors fejlődése egzisztenciális fenyegetést jelent a világra nézve ha nem sikerül ellenőrizni, és ez a kormányok és a nemzetközi intézmények között versenyt indított a biztosítékok és a szabályozás megtervezéséért. Az MI biztonságos fejlesztésének irányítására irányuló nyugati erőfeszítések közül ez az első, aminél egy kínai miniszterhelyettes is csatlakozott az amerikai és az uniós vezetőkhöz, valamint olyan technológiai vezetőkhöz, mint Elon Musk és Sam Altman, a ChatGPT vezetője, a második világháborús brit kódfejtők otthonában, a Bletchley Parkban. Itt működött az a csoport, amely feltörte a német hadvezetés által megfejthetetlennek hitt Enigma-kódot. Ezt a kódot használták az Atlanti-óceán északi vizein szövetséges konvojokra vadászó, a háború első szakaszában súlyos veszteségeket okozó német tengeralattjárók kommunikációjához is. A kódfejtő csoportot Alan Turing vezette, akit a modern számítástudomány és a mesterséges intelligencia koncepciójának megalapozójaként tisztel a tudományos utókor.
Az esemény végén a több mint 25 jelenlévő ország, köztük az Egyesült Államok és Kína, valamint az EU aláírta a "Bletchley-i nyilatkozatot", amely szerint az országoknak együtt kell működniük és közös megközelítést kell kialakítaniuk a felügyelet terén. A deklaráció szerint a konferencián egyetértés született arról, hogy a mesterséges intelligencia fejlesztésében benne van "a szándékos vagy akaratlan, de súlyos, sőt katasztrofális károkozás lehetősége". A dokumentum szerint e rizikótényezők közé tartoznak a kiberbiztonsági, biotechnológiai és dezinformációs kockázatok is. A nyilatkozat kétirányú menetrendet fogalmazott meg, amelynek középpontjában a közös érdekű kockázatok azonosítása és tudományos megértésük fejlesztése, valamint az ezek mérséklésére irányuló, országokat átfogó szakpolitikák kidolgozása áll.
A rendezvény résztvevőihez intézett üzenetében III. Károly király úgy fogalmazott: ha a világ ki akarja aknázni a mesterséges intelligencia kínálta felmérhetetlen előnyöket, akkor közösen kell fellépnie az AI-technológiai jelentette komoly kockázatok ellen is. A brit uralkodó kijelentette: az AI-technológia fejlődése egyre gyorsabban halad olyan modellek felé, amelyek kezelése egyes előrejelzések szerint túlterjedhet az emberiség jelenlegi képességein, sőt felfogóképességén is. A király szerint éppen ezért sürgősen, egységesen, kollektív erőfeszítéssel kell kezelni az AI-technológia fejlesztésével járó kockázatokat.
Wu Zhaohui, Kína tudományos és technológiai miniszterhelyettese a kétnapos csúcstalálkozó nyitóülésén elmondta, hogy Peking készen áll arra, hogy fokozza az együttműködést a mesterséges intelligencia biztonsága terén, hogy segítsen egy nemzetközi "irányítási keretrendszer" létrehozásában. "Az országoknak méretüktől és nagyságrendjüktől függetlenül egyenlő joguk van a mesterséges intelligencia fejlesztésére és alkalmazására" - mondta.
A mesterséges intelligencia gazdaságra és társadalomra gyakorolt hatásával kapcsolatos félelmek tavaly novemberben kaptak szárnyra, amikor a Microsoft által támogatott OpenAI elérhetővé tette a ChatGPT-t a nyilvánosság számára. Ez természetes nyelvfeldolgozó eszközök segítségével emberihez hasonló párbeszédre képes, és ezzel felszította azokat a félelmeket - többek között az MI egyes úttörőinek körében -, hogy a gépek idővel nagyobb intelligenciát érhetnek el, mint az emberek, ami korlátlan, nem szándékolt következményekhez vezethet. A kormányok és a tisztviselők most megpróbálják kijelölni az előre vezető utat az MI-vállalatokkal együtt, amelyek attól tartanak, hogy szabályozással terhelik őket, mielőtt a technológia elérné teljes potenciálját.
Az ukrán digitális átalakulásért felelős miniszter, Georgi Dubyinski is ott volt
"Nem tudom, hogy mik a feltétlenül tisztességes szabályok, de a felügyelet előtt a belátással kell kezdeni" - mondta Elon Musk újságíróknak, hozzátéve, hogy egy "harmadik fél bíró" segítségével riadót lehetne fújni, ha kockázatok alakulnak ki. Míg az Európai Unió a mesterséges intelligencia felügyeletét az adatvédelemre és a megfigyelésre, valamint az emberi jogokra gyakorolt lehetséges hatásukra összpontosította, a brit csúcstalálkozó a nagy képességű, általános célú modellek egzisztenciális kockázatait vizsgálja. Mustafa Suleyman, a Google Deepmind társalapítója újságíróknak elmondta, hogy nem gondolja, hogy a jelenlegi MI-modellek "jelentős katasztrofális károkat" okoznának, de azt mondta, hogy érdemes előre tervezni, mivel az ipar egyre nagyobb modelleket hoz létre.
A csúcstalálkozó ötletgazdája Rishi Sunak brit miniszterelnök volt, aki országa Brexit utáni szerepét keresi, és szívesen lenne közvetítő az Egyesült Államok, Kína és az EU gazdasági blokkjai között. Michelle Donelan brit digitális miniszter szerint már az is nagy eredmény, hogy ennyi kulcsszereplő egy teremben van. Két további mesterséges intelligencia biztonsági csúcstalálkozót jelentett be, az egyiket hat hónap múlva Dél-Koreában, a másikat pedig hat hónappal később Franciaországban tartják. "Most először van olyan ország, amely egyetért abban, hogy nem csak egymástól függetlenül, hanem közösen kell megvizsgálnunk a mesterséges intelligenciával kapcsolatos kockázatokat" - mondta Donelan újságíróknak.
Miközben a technológiai cégek a mesterséges intelligencia terén a dominanciáért küzdenek, a kormányok a szabályozás terén is igyekeznek az élen járni. Kína kulcsfontosságú résztvevője a csúcstalálkozónak, tekintettel az ország mesterséges intelligencia fejlesztésében betöltött szerepére. Néhány brit törvényhozó azonban megkérdőjelezte, hogy ott kellene-e lennie, tekintettel a Peking, Washington és számos európai főváros közötti bizalom alacsony szintjére, amikor a kínaiak technológiai szerepvállalásáról van szó. Az Egyesült Államok a csúcstalálkozó előestéjén világossá tette, hogy a Pekinghez intézett felhívás Nagy-Britanniából érkezett, londoni nagykövete, Jane Hartley pedig kiemelte: "Ez az Egyesült Királyság meghívása, nem az Egyesült Államoké".
Kamala Harris amerikai alelnök különmegbeszéléseket tartott
Beszédet tartott kormányának a mesterséges intelligenciára adott válaszáról Kamala Harris amerikai alelnök is, és több kutatócsoportot is meghívott egy zártkörű rendezvényre a londoni nagykövetségre, ami azt jelentette, hogy egyes résztvevőknek korábban el kellett hagyniuk a Bletchley Parkban tartott csúcstalálkozót. Ez sokak nem tetszésével találkozott, időzítését megkérdőjelezte néhány brit vezető és törvényhozó, akik szerint Washington megpróbálta beárnyékolni Rishi Sunak miniszterelnök rendezvényét. Sachin Dev Duggal, a londoni székhelyű Builder.ai MI cég alapítója szerint ez azzal a kockázattal jár, hogy aláássa az esemény központi témáját. Brit tisztviselők ezt cáfolták, mondván, hogy a lehető legtöbb szereplő bevonása volt a céljuk. Harris ma este együtt vacsorázik Sunakkal, és csütörtökön részt vesz a csúcstalálkozó második napján.
Beszédében Harris a mesterséges intelligencia biztonságának tágabb meghatározására szólított fel, hogy az magában foglalja a fenyegetések "teljes spektrumát", beleértve az elfogultságot, a diszkriminációt és a dezinformáció terjedését. Példaként említette, hogy idős emberektől megtagadhatják az egészségügyi ellátást egy hibás mesterséges intelligencia algoritmus miatt, vagy hogy nőket bántalmazó partnerek fenyegetnek explicit hamis fényképekkel. "Amikor az emberek világszerte nem tudják megkülönböztetni a tényeket a fikcióktól a mesterséges intelligenciával támogatott mítoszok és dezinformációk áradata miatt, akkor azt kérdezem, hogy ez nem létfontosságú-e a demokrácia számára?" - mondta.
Harris beszéde azt követően hangzott el, hogy Joe Biden amerikai elnök aláírta azt a végrehajtási rendeletet, amelynek célja, hogy az amerikai kormány nagyobb felügyeletet gyakoroljon az olyan mesterséges intelligencia rendszerek felett, amelyek kockázatot jelenthetnek a nemzetbiztonságra, a gazdaságra, a közegészségügyre vagy a közbiztonságra. Az új amerikai mesterséges intelligencia-biztonsági intézet információt fog megosztani és együttműködik majd a kutatásban a nemzetközi társintézményekkel, köztük a tervezett brit AI Safety Institute-tal. Harris azt is elmondta, hogy 30 ország beleegyezett egy, az Egyesült Államok által támogatott, a mesterséges intelligencia nemzeti hadseregek általi felhasználására vonatkozó politikai nyilatkozat aláírásába.
Az elmúlt évben egyes technológiai vezetők és politikai vezetők arra figyelmeztettek, hogy a mesterséges intelligencia gyors fejlődése egzisztenciális fenyegetést jelent a világra nézve ha nem sikerül ellenőrizni, és ez a kormányok és a nemzetközi intézmények között versenyt indított a biztosítékok és a szabályozás megtervezéséért. Az MI biztonságos fejlesztésének irányítására irányuló nyugati erőfeszítések közül ez az első, aminél egy kínai miniszterhelyettes is csatlakozott az amerikai és az uniós vezetőkhöz, valamint olyan technológiai vezetőkhöz, mint Elon Musk és Sam Altman, a ChatGPT vezetője, a második világháborús brit kódfejtők otthonában, a Bletchley Parkban. Itt működött az a csoport, amely feltörte a német hadvezetés által megfejthetetlennek hitt Enigma-kódot. Ezt a kódot használták az Atlanti-óceán északi vizein szövetséges konvojokra vadászó, a háború első szakaszában súlyos veszteségeket okozó német tengeralattjárók kommunikációjához is. A kódfejtő csoportot Alan Turing vezette, akit a modern számítástudomány és a mesterséges intelligencia koncepciójának megalapozójaként tisztel a tudományos utókor.
Az esemény végén a több mint 25 jelenlévő ország, köztük az Egyesült Államok és Kína, valamint az EU aláírta a "Bletchley-i nyilatkozatot", amely szerint az országoknak együtt kell működniük és közös megközelítést kell kialakítaniuk a felügyelet terén. A deklaráció szerint a konferencián egyetértés született arról, hogy a mesterséges intelligencia fejlesztésében benne van "a szándékos vagy akaratlan, de súlyos, sőt katasztrofális károkozás lehetősége". A dokumentum szerint e rizikótényezők közé tartoznak a kiberbiztonsági, biotechnológiai és dezinformációs kockázatok is. A nyilatkozat kétirányú menetrendet fogalmazott meg, amelynek középpontjában a közös érdekű kockázatok azonosítása és tudományos megértésük fejlesztése, valamint az ezek mérséklésére irányuló, országokat átfogó szakpolitikák kidolgozása áll.
A rendezvény résztvevőihez intézett üzenetében III. Károly király úgy fogalmazott: ha a világ ki akarja aknázni a mesterséges intelligencia kínálta felmérhetetlen előnyöket, akkor közösen kell fellépnie az AI-technológiai jelentette komoly kockázatok ellen is. A brit uralkodó kijelentette: az AI-technológia fejlődése egyre gyorsabban halad olyan modellek felé, amelyek kezelése egyes előrejelzések szerint túlterjedhet az emberiség jelenlegi képességein, sőt felfogóképességén is. A király szerint éppen ezért sürgősen, egységesen, kollektív erőfeszítéssel kell kezelni az AI-technológia fejlesztésével járó kockázatokat.
Wu Zhaohui, Kína tudományos és technológiai miniszterhelyettese a kétnapos csúcstalálkozó nyitóülésén elmondta, hogy Peking készen áll arra, hogy fokozza az együttműködést a mesterséges intelligencia biztonsága terén, hogy segítsen egy nemzetközi "irányítási keretrendszer" létrehozásában. "Az országoknak méretüktől és nagyságrendjüktől függetlenül egyenlő joguk van a mesterséges intelligencia fejlesztésére és alkalmazására" - mondta.
A mesterséges intelligencia gazdaságra és társadalomra gyakorolt hatásával kapcsolatos félelmek tavaly novemberben kaptak szárnyra, amikor a Microsoft által támogatott OpenAI elérhetővé tette a ChatGPT-t a nyilvánosság számára. Ez természetes nyelvfeldolgozó eszközök segítségével emberihez hasonló párbeszédre képes, és ezzel felszította azokat a félelmeket - többek között az MI egyes úttörőinek körében -, hogy a gépek idővel nagyobb intelligenciát érhetnek el, mint az emberek, ami korlátlan, nem szándékolt következményekhez vezethet. A kormányok és a tisztviselők most megpróbálják kijelölni az előre vezető utat az MI-vállalatokkal együtt, amelyek attól tartanak, hogy szabályozással terhelik őket, mielőtt a technológia elérné teljes potenciálját.
Az ukrán digitális átalakulásért felelős miniszter, Georgi Dubyinski is ott volt
"Nem tudom, hogy mik a feltétlenül tisztességes szabályok, de a felügyelet előtt a belátással kell kezdeni" - mondta Elon Musk újságíróknak, hozzátéve, hogy egy "harmadik fél bíró" segítségével riadót lehetne fújni, ha kockázatok alakulnak ki. Míg az Európai Unió a mesterséges intelligencia felügyeletét az adatvédelemre és a megfigyelésre, valamint az emberi jogokra gyakorolt lehetséges hatásukra összpontosította, a brit csúcstalálkozó a nagy képességű, általános célú modellek egzisztenciális kockázatait vizsgálja. Mustafa Suleyman, a Google Deepmind társalapítója újságíróknak elmondta, hogy nem gondolja, hogy a jelenlegi MI-modellek "jelentős katasztrofális károkat" okoznának, de azt mondta, hogy érdemes előre tervezni, mivel az ipar egyre nagyobb modelleket hoz létre.
A csúcstalálkozó ötletgazdája Rishi Sunak brit miniszterelnök volt, aki országa Brexit utáni szerepét keresi, és szívesen lenne közvetítő az Egyesült Államok, Kína és az EU gazdasági blokkjai között. Michelle Donelan brit digitális miniszter szerint már az is nagy eredmény, hogy ennyi kulcsszereplő egy teremben van. Két további mesterséges intelligencia biztonsági csúcstalálkozót jelentett be, az egyiket hat hónap múlva Dél-Koreában, a másikat pedig hat hónappal később Franciaországban tartják. "Most először van olyan ország, amely egyetért abban, hogy nem csak egymástól függetlenül, hanem közösen kell megvizsgálnunk a mesterséges intelligenciával kapcsolatos kockázatokat" - mondta Donelan újságíróknak.
Miközben a technológiai cégek a mesterséges intelligencia terén a dominanciáért küzdenek, a kormányok a szabályozás terén is igyekeznek az élen járni. Kína kulcsfontosságú résztvevője a csúcstalálkozónak, tekintettel az ország mesterséges intelligencia fejlesztésében betöltött szerepére. Néhány brit törvényhozó azonban megkérdőjelezte, hogy ott kellene-e lennie, tekintettel a Peking, Washington és számos európai főváros közötti bizalom alacsony szintjére, amikor a kínaiak technológiai szerepvállalásáról van szó. Az Egyesült Államok a csúcstalálkozó előestéjén világossá tette, hogy a Pekinghez intézett felhívás Nagy-Britanniából érkezett, londoni nagykövete, Jane Hartley pedig kiemelte: "Ez az Egyesült Királyság meghívása, nem az Egyesült Államoké".
Kamala Harris amerikai alelnök különmegbeszéléseket tartott
Beszédet tartott kormányának a mesterséges intelligenciára adott válaszáról Kamala Harris amerikai alelnök is, és több kutatócsoportot is meghívott egy zártkörű rendezvényre a londoni nagykövetségre, ami azt jelentette, hogy egyes résztvevőknek korábban el kellett hagyniuk a Bletchley Parkban tartott csúcstalálkozót. Ez sokak nem tetszésével találkozott, időzítését megkérdőjelezte néhány brit vezető és törvényhozó, akik szerint Washington megpróbálta beárnyékolni Rishi Sunak miniszterelnök rendezvényét. Sachin Dev Duggal, a londoni székhelyű Builder.ai MI cég alapítója szerint ez azzal a kockázattal jár, hogy aláássa az esemény központi témáját. Brit tisztviselők ezt cáfolták, mondván, hogy a lehető legtöbb szereplő bevonása volt a céljuk. Harris ma este együtt vacsorázik Sunakkal, és csütörtökön részt vesz a csúcstalálkozó második napján.
Beszédében Harris a mesterséges intelligencia biztonságának tágabb meghatározására szólított fel, hogy az magában foglalja a fenyegetések "teljes spektrumát", beleértve az elfogultságot, a diszkriminációt és a dezinformáció terjedését. Példaként említette, hogy idős emberektől megtagadhatják az egészségügyi ellátást egy hibás mesterséges intelligencia algoritmus miatt, vagy hogy nőket bántalmazó partnerek fenyegetnek explicit hamis fényképekkel. "Amikor az emberek világszerte nem tudják megkülönböztetni a tényeket a fikcióktól a mesterséges intelligenciával támogatott mítoszok és dezinformációk áradata miatt, akkor azt kérdezem, hogy ez nem létfontosságú-e a demokrácia számára?" - mondta.
Harris beszéde azt követően hangzott el, hogy Joe Biden amerikai elnök aláírta azt a végrehajtási rendeletet, amelynek célja, hogy az amerikai kormány nagyobb felügyeletet gyakoroljon az olyan mesterséges intelligencia rendszerek felett, amelyek kockázatot jelenthetnek a nemzetbiztonságra, a gazdaságra, a közegészségügyre vagy a közbiztonságra. Az új amerikai mesterséges intelligencia-biztonsági intézet információt fog megosztani és együttműködik majd a kutatásban a nemzetközi társintézményekkel, köztük a tervezett brit AI Safety Institute-tal. Harris azt is elmondta, hogy 30 ország beleegyezett egy, az Egyesült Államok által támogatott, a mesterséges intelligencia nemzeti hadseregek általi felhasználására vonatkozó politikai nyilatkozat aláírásába.