SG.hu
Külső tesztelésen kell átesniük az MI-modelleknek
Rishi Sunak brit miniszterelnök szerint nem hagyható a technológiai vállalatok kizárólagos hatáskörében a mesterséges intelligencia új modelljeinek biztonsági ellenőrzése.
Sunak, aki a brit kormány által összehívott kétnapos magas szintű nemzetközi MI-biztonsági konferencia csütörtöki zárónapján összegezte a rendezvény eredményeit, kijelentette: jelenleg egyedül éppen azok a vállalatok ellenőrzik az új MI-modellek biztonságosságát, amelyek e modelleket kifejlesztik. Ez nem maradhat így, ezért az angliai MI-biztonsági konferencia kormányzati résztvevői és az MI-fejlesztő cégek mérföldkőnek számító megállapodásra jutottak, amelynek alapján az új MI-modellek biztonságosságát még alkalmazásuk előtt közösen tesztelik - jelentette be a brit kormányfő.
A Downing Street által csütörtök este kiadott részletes tájékoztatás szerint a konferencián jelenlévő kormányok és MI-technológiai vállalatok egyezségre jutottak abban, hogy mindkét félnek döntő fontosságú szerepe van az új generációs MI-modellek tesztelésében annak érdekében, hogy szavatolható legyen e modellek biztonságossága alkalmazásuk előtt és használatba vételük után is. Ennek része az olyan tesztelési módszertan kidolgozása, amely a mesterséges intelligencia új modelljeinek potenciálisan káros - például a kritikus nemzetbiztonsági infrastruktúra ellen bevethető - képességeit vizsgálja. A megállapodás részesei elfogadják azt is, hogy a kormányoknak meg kell győződniük az élenjáró MI-modellek külső biztonsági tesztelésének megtörténtéről. Ezzel megszűnik az az eddigi gyakorlat, amelynek alapján e modellek biztonsági ellenőrzése kizárólag a fejlesztővállalatok felelősségi körébe tartozik - áll a londoni miniszterelnöki hivatal ismertetésében.
Rishi Sunak a Downing Street tájékoztatásához fűzött nyilatkozatában úgy fogalmazott: nem szabad a mesterséges intelligencia fejlesztésével foglalkozó vállalatokra bízni, hogy saját maguk osztályozzák házi feladatukat, és ezzel az MI-ágazat számos vállalata is egyetért. A brit miniszterelnök bejelentette azt is, hogy a brit kormány az ellenőrzési tevékenység összehangolására - az Egyesült Államokhoz hasonlóan - MI-biztonsági intézetet hoz létre. Von der Leyen szerint az összetett algoritmusokat soha nem lehet kimerítően tesztelni, ezért "mindenekelőtt biztosítanunk kell, hogy a fejlesztők gyorsan cselekedjenek, ha problémák merülnek fel, mind a modellek forgalomba hozatala előtt, mind pedig utána".
Wu Zhaohui, Kína tudományos és technológiai miniszterhelyettese szerdán aláírta a "Bletchley-i nyilatkozatot", de Kína csütörtökön nem volt jelen, és nem adta nevét a tesztelésről szóló megállapodáshoz. Sunakot saját pártjának egyes törvényhozói bírálták Kína meghívása miatt, miután számos nyugati kormány csökkentette a Pekinggel folytatott technológiai együttműködését, de Sunak szerint a mesterséges intelligencia biztonságával kapcsolatos minden erőfeszítésnek magában kell foglalnia a vezető szereplőket. "Nem volt könnyű döntés Kínát meghívni, és sokan bíráltak is érte, de úgy gondolom, hogy hosszú távon ez volt a helyes döntés" - mondta Sunak.
Elon Musk azt mondta a többi résztvevőnek, hogy a kormányoknak nem szabad elsietniük a mesterséges intelligenciára vonatkozó jogszabályok bevezetését. Ehelyett azt javasolta, hogy a technológiát használó vállalatok jobb helyzetben vannak ahhoz, hogy feltárják a problémákat, és megoszthatják eredményeiket az új törvények megalkotásáért felelős törvényhozókkal. "Ha az Egyesült Államok, az Egyesült Királyság és Kína összehangolódik a biztonság terén, akkor az jó dolog lesz, mert általában ott van a vezető szerep" - mondta.
Musk és Sunak egyetértett abban, hogy szükség lehet fizikai "kikapcsolókra", amelyek megakadályozzák, hogy a robotok veszélyes módon kicsússzanak az irányítás alól, utalva a Terminátor-filmsorozatra és más sci-fi filmekre. "Ezek az alapvetően azonos cselekményű filmek mind azzal végződnek, hogy az ember kikapcsolja őket" - mondta Sunak, hozzátéve, hogy a fizikai kikapcsolók fontossága a csúcstalálkozón korábban folytatott megbeszélések részét képezte.
Musk azt mondta Sunaknak, hogy szerinte a mesterséges intelligencia "a történelem legnagyobb bomlasztó ereje", és úgy vélte, hogy a technológia képes lesz "mindent megcsinálni", és az általunk ma ismert foglalkoztatást a múlté teszi. "Nem tudom, hogy ez az embereket kényelmesen vagy kényelmetlenül érinti-e" - mondta. "A legérdekesebb időket éljük. És úgy gondolom, hogy ez 80%-ban jó, 20%-ban pedig rossz, és ha tudatosan és óvatosan kezeljük a rossz részt, akkor összességében ez lesz az a jövő, amit szeretnénk."
Az angliai MI-biztonsági csúcson - amely a brit kormány szerint a világ első ilyen jellegű szakkonferenciája volt - 28 ország és szervezet képviseltette magát, köztük az Egyesült Államok, Kína, India, Japán, Németország, Franciaország, Olaszország, Izrael és Ukrajna, valamint az Európai Unió és az ENSZ. Az Egyesült Államokat Kamala Harris alelnök képviselte, az EU részéről Ursula von der Leyen, az Európai Bizottság elnöke, az ENSZ nevében António Guterres főtitkár volt jelen a rendezvényen. Az AI-technológiai szektor legnagyobb vállalatai közül részt vett a rendezvényen az Amazon, a Google, a Google DeepMind, az Inflection AI, a Meta, a Microsoft, a Mistral AI és az Open AI is. A találkozót Bletchley Park kastélyában, a brit katonai hírszerzés kódfejtésre szakosodott egykori titkos központjában tartották.
Sunak, aki a brit kormány által összehívott kétnapos magas szintű nemzetközi MI-biztonsági konferencia csütörtöki zárónapján összegezte a rendezvény eredményeit, kijelentette: jelenleg egyedül éppen azok a vállalatok ellenőrzik az új MI-modellek biztonságosságát, amelyek e modelleket kifejlesztik. Ez nem maradhat így, ezért az angliai MI-biztonsági konferencia kormányzati résztvevői és az MI-fejlesztő cégek mérföldkőnek számító megállapodásra jutottak, amelynek alapján az új MI-modellek biztonságosságát még alkalmazásuk előtt közösen tesztelik - jelentette be a brit kormányfő.
A Downing Street által csütörtök este kiadott részletes tájékoztatás szerint a konferencián jelenlévő kormányok és MI-technológiai vállalatok egyezségre jutottak abban, hogy mindkét félnek döntő fontosságú szerepe van az új generációs MI-modellek tesztelésében annak érdekében, hogy szavatolható legyen e modellek biztonságossága alkalmazásuk előtt és használatba vételük után is. Ennek része az olyan tesztelési módszertan kidolgozása, amely a mesterséges intelligencia új modelljeinek potenciálisan káros - például a kritikus nemzetbiztonsági infrastruktúra ellen bevethető - képességeit vizsgálja. A megállapodás részesei elfogadják azt is, hogy a kormányoknak meg kell győződniük az élenjáró MI-modellek külső biztonsági tesztelésének megtörténtéről. Ezzel megszűnik az az eddigi gyakorlat, amelynek alapján e modellek biztonsági ellenőrzése kizárólag a fejlesztővállalatok felelősségi körébe tartozik - áll a londoni miniszterelnöki hivatal ismertetésében.
Rishi Sunak a Downing Street tájékoztatásához fűzött nyilatkozatában úgy fogalmazott: nem szabad a mesterséges intelligencia fejlesztésével foglalkozó vállalatokra bízni, hogy saját maguk osztályozzák házi feladatukat, és ezzel az MI-ágazat számos vállalata is egyetért. A brit miniszterelnök bejelentette azt is, hogy a brit kormány az ellenőrzési tevékenység összehangolására - az Egyesült Államokhoz hasonlóan - MI-biztonsági intézetet hoz létre. Von der Leyen szerint az összetett algoritmusokat soha nem lehet kimerítően tesztelni, ezért "mindenekelőtt biztosítanunk kell, hogy a fejlesztők gyorsan cselekedjenek, ha problémák merülnek fel, mind a modellek forgalomba hozatala előtt, mind pedig utána".
Wu Zhaohui, Kína tudományos és technológiai miniszterhelyettese szerdán aláírta a "Bletchley-i nyilatkozatot", de Kína csütörtökön nem volt jelen, és nem adta nevét a tesztelésről szóló megállapodáshoz. Sunakot saját pártjának egyes törvényhozói bírálták Kína meghívása miatt, miután számos nyugati kormány csökkentette a Pekinggel folytatott technológiai együttműködését, de Sunak szerint a mesterséges intelligencia biztonságával kapcsolatos minden erőfeszítésnek magában kell foglalnia a vezető szereplőket. "Nem volt könnyű döntés Kínát meghívni, és sokan bíráltak is érte, de úgy gondolom, hogy hosszú távon ez volt a helyes döntés" - mondta Sunak.
Elon Musk azt mondta a többi résztvevőnek, hogy a kormányoknak nem szabad elsietniük a mesterséges intelligenciára vonatkozó jogszabályok bevezetését. Ehelyett azt javasolta, hogy a technológiát használó vállalatok jobb helyzetben vannak ahhoz, hogy feltárják a problémákat, és megoszthatják eredményeiket az új törvények megalkotásáért felelős törvényhozókkal. "Ha az Egyesült Államok, az Egyesült Királyság és Kína összehangolódik a biztonság terén, akkor az jó dolog lesz, mert általában ott van a vezető szerep" - mondta.
Musk és Sunak egyetértett abban, hogy szükség lehet fizikai "kikapcsolókra", amelyek megakadályozzák, hogy a robotok veszélyes módon kicsússzanak az irányítás alól, utalva a Terminátor-filmsorozatra és más sci-fi filmekre. "Ezek az alapvetően azonos cselekményű filmek mind azzal végződnek, hogy az ember kikapcsolja őket" - mondta Sunak, hozzátéve, hogy a fizikai kikapcsolók fontossága a csúcstalálkozón korábban folytatott megbeszélések részét képezte.
Musk azt mondta Sunaknak, hogy szerinte a mesterséges intelligencia "a történelem legnagyobb bomlasztó ereje", és úgy vélte, hogy a technológia képes lesz "mindent megcsinálni", és az általunk ma ismert foglalkoztatást a múlté teszi. "Nem tudom, hogy ez az embereket kényelmesen vagy kényelmetlenül érinti-e" - mondta. "A legérdekesebb időket éljük. És úgy gondolom, hogy ez 80%-ban jó, 20%-ban pedig rossz, és ha tudatosan és óvatosan kezeljük a rossz részt, akkor összességében ez lesz az a jövő, amit szeretnénk."
Az angliai MI-biztonsági csúcson - amely a brit kormány szerint a világ első ilyen jellegű szakkonferenciája volt - 28 ország és szervezet képviseltette magát, köztük az Egyesült Államok, Kína, India, Japán, Németország, Franciaország, Olaszország, Izrael és Ukrajna, valamint az Európai Unió és az ENSZ. Az Egyesült Államokat Kamala Harris alelnök képviselte, az EU részéről Ursula von der Leyen, az Európai Bizottság elnöke, az ENSZ nevében António Guterres főtitkár volt jelen a rendezvényen. Az AI-technológiai szektor legnagyobb vállalatai közül részt vett a rendezvényen az Amazon, a Google, a Google DeepMind, az Inflection AI, a Meta, a Microsoft, a Mistral AI és az Open AI is. A találkozót Bletchley Park kastélyában, a brit katonai hírszerzés kódfejtésre szakosodott egykori titkos központjában tartották.