SG.hu
Megszületett az EU mesterséges intelligencia-szabályozása
Európa ideiglenes megállapodásra jutott a mesterséges intelligencia használatát szabályozó, mérföldkőnek számító európai uniós szabályokról, köztük arról, hogy a kormányok hogyan használhatják a mesterséges intelligenciát a biometrikus megfigyelésben, és hogyan szabályozzák az olyan mesterséges intelligencia-rendszereket, mint a ChatGPT. A politikai megállapodással az EU elindul afelé, hogy a világ első nagyhatalmaként törvényeket alkosson a mesterséges intelligenciára vonatkozóan. Az uniós országok és az Európai Parlament tagjai közötti pénteki megállapodás közel 15 órás tárgyalást követően született meg, egy előző napi, majdnem 24 órás vitát követően. A két fél az elkövetkező napokban még egyeztetni fog a részletekről, ami megváltoztathatja a végleges jogszabály formáját.
"Európa úttörőként pozícionálta magát, és megértette, hogy globális szabványalkotó szerepének fontosságát. Úgy vélem, ez egy történelmi nap" - mondta Thierry Breton európai biztos az eredményt bejelentő sajtótájékoztatón. A megállapodás előírja, hogy az olyan alapmodelleknek, mint a ChatGPT és az általános célú mesterséges intelligencia rendszereknek (GPAI) forgalomba hozatal előtt meg kell felelniük bizonyos átláthatósági kötelezettségeknek. Ezek közé tartozik a technikai dokumentáció elkészítése, az uniós szerzői jogi előírások betartása és a képzéshez használt tartalmakról szóló részletes összefoglalók terjesztése.
A rendszerszintű kockázatot jelentő, nagy hatású alapmodelleknél modellértékeléseket kell végezni, a cégeknek értékelniük és csökkenteniük kell a rendszerszintű kockázatokat, támadhatósági teszteket kell végezniük, jelentést kell tenniük az Európai Bizottságnak a súlyos incidensekről, biztosítaniuk kell a kiberbiztonságot, és jelentést kell tenniük az energiahatékonyságukról. A rendszerszintű kockázattal rendelkező GPAI-k az új rendeletnek való megfelelés érdekében gyakorlati kódexekre támaszkodhatnak.
A kormányok csak bizonyos bűncselekmények áldozatainak esetében alkalmazhatnak valós idejű biometrikus megfigyelést a közterületeken, a valós, jelenlegi vagy előrelátható fenyegetések - például terrortámadások - megelőzése, valamint a legsúlyosabb bűncselekményekkel gyanúsított személyek felkutatása esetén. A megállapodás tiltja a kognitív viselkedésmanipulációt, az internetről vagy a térfigyelő kamerák felvételeiből származó arcképek konkrét cél nélküli összegyűjtését, a szociális pontozást és a politikai, vallási, filozófiai meggyőződésre, szexuális irányultságra és faji hovatartozásra következtető biometrikus kategorizálási rendszereket. A fogyasztóknak joguk lesz panaszt tenni és érdemi magyarázatot kapni, míg a jogsértésekért kiszabható bírságok összege 7,5 millió eurótól vagy a forgalom 1,5%-ától 35 millió euróig (a globális forgalom 7%-a) terjedne.
"A képviselőknek sikerült elérniük, hogy a javaslatba - más követelmények mellett - a biztosítási és a banki ágazatra is alkalmazandó kötelező alapjogi hatásvizsgálatot is beillesszenek. A választások kimenetelének és a választói magatartás befolyásolására használt mesterséges intelligencia rendszerek szintén magas kockázatúnak minősülnek" - írta a Parlament. Míg a törvény értelmében a kereskedelmi forgalomba hozott alapmodellekre/GPAI-kra szabályozás vonatkozik, a K+F nem tartozik a törvény hatálya alá - és a teljesen nyílt forráskódú modellekre a mai nyilatkozatok szerint enyhébb szabályozási követelmények vonatkoznak majd, mint a zárt forráskódúakra.
A ma elfogadott megállapodás a törvény elfogadását követően fokozatosan lép hatályba. A tiltott felhasználási esetekre vonatkozó szabályok bevezetéséig hat hónap, az átláthatósági és irányítási követelmények esetében 12 hónap, az összes többi követelmény esetében pedig 24 hónap áll rendelkezésre. Így az EU mesterséges intelligenciáról szóló törvényének teljes ereje csak 2026-ban lesz érezhető.
A DigitalEurope üzleti csoport kritizálta a szabályokat, mivel azok újabb terhet jelentenek a vállalatok számára. "Megegyeztünk, de milyen áron? Teljes mértékben támogattuk a kockázatalapú megközelítést, amely a mesterséges intelligencia felhasználásán alapul, nem pedig magán a technológián, de az alapmodellek szabályozására tett utolsó pillanatban tett kísérlet ezt a feje tetejére állította" - mondta Cecilia Bonefeld-Dahl, a szervezet főigazgatója. Egy másik adatvédelmi jogvédő csoport, az European Digital Rights ugyanilyen kritikusan nyilatkozott. "Nehéz lelkesedni egy olyan törvényért, amely az EU-ban először tett lépéseket az élő nyilvános arcfelismerés legalizálására" - mondta Ella Jakubowska, a szervezet vezető politikai tanácsadója. "Bár a Parlament keményen küzdött a károk korlátozásáért, a biometrikus megfigyeléssel és profilalkotással kapcsolatos átfogó csomag a legjobb esetben is csak középszerű."
Ursula von der Leyen, az EU elnöke "globális elsőségként" méltatta a politikai megállapodást. Carme Artigas, Spanyolország digitális és mesterséges intelligenciával kapcsolatos ügyekért felelős államtitkára - aki a nyár óta a Tanács soros elnökségét betöltő Spanyolország képviselőjeként vezette a tanácsi tárgyalásokat - "a digitális információ európai történetének legnagyobb mérföldköveként" üdvözölte a megállapodást, amely a blokk egységes digitális piaca - de szerinte "a világ számára is" - fontos.
Az Európai Parlament nevében Dragos Tudorache és Brando Benifei társelőadók elmondták, hogy céljuk az volt, hogy olyan jogszabályokat hozzanak a mesterséges intelligenciáról, amelyek biztosítják, hogy az ökoszisztéma "emberközpontú megközelítéssel" fejlődjön, amely tiszteletben tartja az alapvető jogokat és az európai értékeket. Az eredményekről szóló értékelésük hasonlóan pozitív volt, és jelentős győzelemként említették, hogy az elfogadott szövegben szerepel a mesterséges intelligencia rendőrségi és biometrikus kategorizálási célú felhasználásának teljes tilalma.
"Végre a helyes útra léptünk, megvédtük az alapvető jogokat, hogy demokráciáink elviselhessék az ilyen hihetetlen változásokat" - mondta Benifei. "Mi vagyunk az elsők a világon, akiknek van egy olyan horizontális jogszabályuk, amely az alapvető jogokra vonatkozó ilyen irányú, a mesterséges intelligencia fejlesztését kontinensünkön támogató, és a mesterséges intelligencia határterületein a legerősebb modelleket is beleértve naprakész. "Mindig is megkérdőjelezték, hogy van-e elég védelem, van-e elég ösztönző erő az innovációhoz ebben a szövegben, és azt mondhatom, hogy ez az egyensúly megvan" - tette hozzá Tudorache. "Megvannak a biztosítékok, megvan minden olyan rendelkezés, amelyre szükségünk van ahhoz, hogy biztathassuk polgárainkat a mesterséges intelligenciával való interakciókra."
Annak ellenére, hogy az EU láthatóan vállon veregette magát, hogy "világelsőként" sikerült megállapodnia a mesterséges intelligenciára vonatkozó szabályokról, ez még nem jelenti az út végét a blokk jogalkotási folyamatában, mivel még néhány hivatalos lépés hátravan - nem utolsósorban a végleges szöveg elfogadása érdekében a Parlamentben és a Tanácsban is szavazásra kerül majd sor. Tekintettel azonban arra, hogy a mesterséges intelligencia szabályozásának mikéntjéről (vagy akár annak szükségességéről) eddig is nagy volt a megosztottság és a nézeteltérés, a legnagyobb akadályok ezzel a politikai megállapodással elhárultak, és az elkövetkező hónapokban egyértelműnek tűnik az út a mesterséges intelligenciáról szóló uniós jogszabály elfogadásához.
A Bizottság mindenképpen bizakodó. Breton szerint a megállapodás végrehajtásához szükséges munka azonnal megkezdődik az EU végrehajtó testületén belül egy MI-hivatal felállításával, amelynek a tagállamok felügyeleti szerveivel való koordináció lesz a feladata, utóbbiaknak kell majd érvényre juttatniuk a jogszabályokat a mesterséges intelligenciával foglalkozó cégekkel szemben. "Sok új kollégát fogunk üdvözölni." - mondta. "Holnaptól kezdve a felkészülésen fogunk dolgozni."
A kormányok világszerte igyekeznek egyensúlyt teremteni az emberhez hasonló beszélgetésekre, kérdésekre való válaszadásra és számítógépes kódok írására képes technológia előnyei és a védőkorlátok felállításának szükségessége között. Az ambiciózus európai MI-szabályok akkor születnek, amikor az olyan vállalatok, mint az OpenAI folyamatosan új felhasználási lehetőségeket fedeznek fel a technológiájuk számára, és ez egyszerre vált ki elismerést és aggodalmat. A Google tulajdonosa, az Alphabet csütörtökön egy új MI-modellt, a Gemini-t indította útjára, hogy az OpenAI riválisa legyen.
"Európa úttörőként pozícionálta magát, és megértette, hogy globális szabványalkotó szerepének fontosságát. Úgy vélem, ez egy történelmi nap" - mondta Thierry Breton európai biztos az eredményt bejelentő sajtótájékoztatón. A megállapodás előírja, hogy az olyan alapmodelleknek, mint a ChatGPT és az általános célú mesterséges intelligencia rendszereknek (GPAI) forgalomba hozatal előtt meg kell felelniük bizonyos átláthatósági kötelezettségeknek. Ezek közé tartozik a technikai dokumentáció elkészítése, az uniós szerzői jogi előírások betartása és a képzéshez használt tartalmakról szóló részletes összefoglalók terjesztése.
A rendszerszintű kockázatot jelentő, nagy hatású alapmodelleknél modellértékeléseket kell végezni, a cégeknek értékelniük és csökkenteniük kell a rendszerszintű kockázatokat, támadhatósági teszteket kell végezniük, jelentést kell tenniük az Európai Bizottságnak a súlyos incidensekről, biztosítaniuk kell a kiberbiztonságot, és jelentést kell tenniük az energiahatékonyságukról. A rendszerszintű kockázattal rendelkező GPAI-k az új rendeletnek való megfelelés érdekében gyakorlati kódexekre támaszkodhatnak.
A kormányok csak bizonyos bűncselekmények áldozatainak esetében alkalmazhatnak valós idejű biometrikus megfigyelést a közterületeken, a valós, jelenlegi vagy előrelátható fenyegetések - például terrortámadások - megelőzése, valamint a legsúlyosabb bűncselekményekkel gyanúsított személyek felkutatása esetén. A megállapodás tiltja a kognitív viselkedésmanipulációt, az internetről vagy a térfigyelő kamerák felvételeiből származó arcképek konkrét cél nélküli összegyűjtését, a szociális pontozást és a politikai, vallási, filozófiai meggyőződésre, szexuális irányultságra és faji hovatartozásra következtető biometrikus kategorizálási rendszereket. A fogyasztóknak joguk lesz panaszt tenni és érdemi magyarázatot kapni, míg a jogsértésekért kiszabható bírságok összege 7,5 millió eurótól vagy a forgalom 1,5%-ától 35 millió euróig (a globális forgalom 7%-a) terjedne.
"A képviselőknek sikerült elérniük, hogy a javaslatba - más követelmények mellett - a biztosítási és a banki ágazatra is alkalmazandó kötelező alapjogi hatásvizsgálatot is beillesszenek. A választások kimenetelének és a választói magatartás befolyásolására használt mesterséges intelligencia rendszerek szintén magas kockázatúnak minősülnek" - írta a Parlament. Míg a törvény értelmében a kereskedelmi forgalomba hozott alapmodellekre/GPAI-kra szabályozás vonatkozik, a K+F nem tartozik a törvény hatálya alá - és a teljesen nyílt forráskódú modellekre a mai nyilatkozatok szerint enyhébb szabályozási követelmények vonatkoznak majd, mint a zárt forráskódúakra.
A ma elfogadott megállapodás a törvény elfogadását követően fokozatosan lép hatályba. A tiltott felhasználási esetekre vonatkozó szabályok bevezetéséig hat hónap, az átláthatósági és irányítási követelmények esetében 12 hónap, az összes többi követelmény esetében pedig 24 hónap áll rendelkezésre. Így az EU mesterséges intelligenciáról szóló törvényének teljes ereje csak 2026-ban lesz érezhető.
A DigitalEurope üzleti csoport kritizálta a szabályokat, mivel azok újabb terhet jelentenek a vállalatok számára. "Megegyeztünk, de milyen áron? Teljes mértékben támogattuk a kockázatalapú megközelítést, amely a mesterséges intelligencia felhasználásán alapul, nem pedig magán a technológián, de az alapmodellek szabályozására tett utolsó pillanatban tett kísérlet ezt a feje tetejére állította" - mondta Cecilia Bonefeld-Dahl, a szervezet főigazgatója. Egy másik adatvédelmi jogvédő csoport, az European Digital Rights ugyanilyen kritikusan nyilatkozott. "Nehéz lelkesedni egy olyan törvényért, amely az EU-ban először tett lépéseket az élő nyilvános arcfelismerés legalizálására" - mondta Ella Jakubowska, a szervezet vezető politikai tanácsadója. "Bár a Parlament keményen küzdött a károk korlátozásáért, a biometrikus megfigyeléssel és profilalkotással kapcsolatos átfogó csomag a legjobb esetben is csak középszerű."
Ursula von der Leyen, az EU elnöke "globális elsőségként" méltatta a politikai megállapodást. Carme Artigas, Spanyolország digitális és mesterséges intelligenciával kapcsolatos ügyekért felelős államtitkára - aki a nyár óta a Tanács soros elnökségét betöltő Spanyolország képviselőjeként vezette a tanácsi tárgyalásokat - "a digitális információ európai történetének legnagyobb mérföldköveként" üdvözölte a megállapodást, amely a blokk egységes digitális piaca - de szerinte "a világ számára is" - fontos.
Az Európai Parlament nevében Dragos Tudorache és Brando Benifei társelőadók elmondták, hogy céljuk az volt, hogy olyan jogszabályokat hozzanak a mesterséges intelligenciáról, amelyek biztosítják, hogy az ökoszisztéma "emberközpontú megközelítéssel" fejlődjön, amely tiszteletben tartja az alapvető jogokat és az európai értékeket. Az eredményekről szóló értékelésük hasonlóan pozitív volt, és jelentős győzelemként említették, hogy az elfogadott szövegben szerepel a mesterséges intelligencia rendőrségi és biometrikus kategorizálási célú felhasználásának teljes tilalma.
"Végre a helyes útra léptünk, megvédtük az alapvető jogokat, hogy demokráciáink elviselhessék az ilyen hihetetlen változásokat" - mondta Benifei. "Mi vagyunk az elsők a világon, akiknek van egy olyan horizontális jogszabályuk, amely az alapvető jogokra vonatkozó ilyen irányú, a mesterséges intelligencia fejlesztését kontinensünkön támogató, és a mesterséges intelligencia határterületein a legerősebb modelleket is beleértve naprakész. "Mindig is megkérdőjelezték, hogy van-e elég védelem, van-e elég ösztönző erő az innovációhoz ebben a szövegben, és azt mondhatom, hogy ez az egyensúly megvan" - tette hozzá Tudorache. "Megvannak a biztosítékok, megvan minden olyan rendelkezés, amelyre szükségünk van ahhoz, hogy biztathassuk polgárainkat a mesterséges intelligenciával való interakciókra."
Annak ellenére, hogy az EU láthatóan vállon veregette magát, hogy "világelsőként" sikerült megállapodnia a mesterséges intelligenciára vonatkozó szabályokról, ez még nem jelenti az út végét a blokk jogalkotási folyamatában, mivel még néhány hivatalos lépés hátravan - nem utolsósorban a végleges szöveg elfogadása érdekében a Parlamentben és a Tanácsban is szavazásra kerül majd sor. Tekintettel azonban arra, hogy a mesterséges intelligencia szabályozásának mikéntjéről (vagy akár annak szükségességéről) eddig is nagy volt a megosztottság és a nézeteltérés, a legnagyobb akadályok ezzel a politikai megállapodással elhárultak, és az elkövetkező hónapokban egyértelműnek tűnik az út a mesterséges intelligenciáról szóló uniós jogszabály elfogadásához.
A Bizottság mindenképpen bizakodó. Breton szerint a megállapodás végrehajtásához szükséges munka azonnal megkezdődik az EU végrehajtó testületén belül egy MI-hivatal felállításával, amelynek a tagállamok felügyeleti szerveivel való koordináció lesz a feladata, utóbbiaknak kell majd érvényre juttatniuk a jogszabályokat a mesterséges intelligenciával foglalkozó cégekkel szemben. "Sok új kollégát fogunk üdvözölni." - mondta. "Holnaptól kezdve a felkészülésen fogunk dolgozni."
A kormányok világszerte igyekeznek egyensúlyt teremteni az emberhez hasonló beszélgetésekre, kérdésekre való válaszadásra és számítógépes kódok írására képes technológia előnyei és a védőkorlátok felállításának szükségessége között. Az ambiciózus európai MI-szabályok akkor születnek, amikor az olyan vállalatok, mint az OpenAI folyamatosan új felhasználási lehetőségeket fedeznek fel a technológiájuk számára, és ez egyszerre vált ki elismerést és aggodalmat. A Google tulajdonosa, az Alphabet csütörtökön egy új MI-modellt, a Gemini-t indította útjára, hogy az OpenAI riválisa legyen.