SG.hu·
Spanyolország betiltja a szexuális deepfake-eket és súlyos bírságokat vezet be az MI visszaélései ellen
Az új szabályozás emberi felügyeletet és átláthatósági kötelezettségeket követel meg, és akár 35 millió eurós bírságok kiszabását teszi lehetővé.
A spanyol minisztertanács elfogadta a mesterséges intelligencia etikus, befogadó és hasznos alkalmazásáról szóló törvénytervezetet, amelynek célja, hogy rendet teremtsen ezeknek a technológiáknak és eszközöknek a gyakorlati alkalmazásában. A jogszabály a spanyol jogrendbe ülteti át az Európai Unió mesterséges intelligenciáról szóló rendeletének előírásait, amelyről az uniós intézmények 2023. december 8-án állapodtak meg, és amelyet az Európai Parlament tavaly március 13-án hagyott jóvá. Mindezt a kormány szóvivője, Elma Saiz szavaival élve "humanista és joggaranciákat biztosító" szemléletből teszi.
"Ez egy olyan vita, amely mindennek a jelenét és a jövőjét érinti" - jelentette ki Óscar López digitális átalakulásért felelős miniszter. "Éppen ezért különösen értékes az a szemlélet, amelyet a pápa képvisel" - mondta López, utalva XIV. Leó első enciklikájára. "Olyan megközelítésről van szó, amely védi az emberi jogokat, és amellyel teljes mértékben azonosulni tudunk" - hangsúlyozta a miniszter a törvény bemutatásakor, szembeállítva ezt "a nagy technológiai oligarchákkal", akik szerinte "ellenzik a szabályozást, az adatvédelmet és a kiskorúak védelmét".
A törvény felelősséget ír elő az MI-szolgáltatók számára, valamint kötelezővé teszi az emberi felügyeletet az MI-modellek felett, ami a miniszter szerint "minden vita központi eleme". López hangsúlyozta, hogy az algoritmusok átláthatósága, a vezetők felelőssége és a kiskorúak védelme a jogszabály legfontosabb pillérei közé tartozik. "Ez civilizációs kérdés, amely arról szól, hogy előrelépünk vagy visszalépünk" - jelentette ki. "Amikor egy megbízható MI-modellről beszélünk, amely védi az állampolgárok jogait, akkor a világ legelőrehaladottabb országa vagyunk ezen a területen" - tette hozzá, mielőtt felsorolta volna a kormány kezdeményezéseit.
A törvényszöveg beépíti a spanyol jogrendbe azokat a szankciókat, amelyeket az európai rendelet ír elő a szabályok megsértése esetén. Ezek az enyhébb jogsértéseknél 6000 eurótól indulnak, súlyos esetekben pedig elérhetik a 35 millió eurót, illetve a vállalat globális árbevételének 5-7 százalékát. A törvény egyik újdonsága - amely eredetileg nem szerepelt az uniós szabályozásban - a szexuális jellegű deepfake-ek, vagyis hiperrealisztikus szexvideók betiltása. Az Európai Unió ebben a hónapban fogadta el Spanyolország javaslatát, és beemelte ezt a módosítást a Brüsszel által kidolgozott digitális szabályozás egyszerűsített szövegébe. A nem szexuális célú deepfake-ek továbbra is legálisak maradnak, azonban az európai szabályok szerint "egyértelmű és jól megkülönböztethető módon meg kell őket jelölni legkésőbb az első interakció vagy megjelenés alkalmával".
Pontosan hogyan kell majd ezt a jelölést megvalósítani? A minisztérium ezt egyelőre nem részletezte. A szabályok kidolgozása a Mesterséges Intelligencia Felügyeleti Ügynökségének (la Agencia Española de Supervisión de la Inteligencia Artificial, Aesia) feladata lesz. A biometrikus adatok kezelése és feldolgozása a Spanyol Adatvédelmi Ügynökség (Agencia Española de Protección de Datos, AEPD) hatáskörébe tartozik majd, míg azok az MI-rendszerek, amelyek hatással lehetnek a demokráciára, a Központi Választási Bizottság (Junta Electoral Central) felügyelete alá kerülnek. Az igazságszolgáltatás működését érintő rendszerek esetében pedig az Igazságszolgáltatás Általános Tanácsa (Consejo General del Poder Judicial) jár el.
Minden egyéb esetet az Aesia vizsgál majd. A La Coruñában működő szervezetet Alberto Gago vezeti, és azt tervezi, hogy még az év vége előtt 50 elemzőt foglalkoztat majd, akik különböző MI-alkalmazások megfelelőségét vizsgálják a hatályos szabályozás alapján. Az ügynökség eddig nem talált olyan Spanyolországban működő rendszert, amely a tiltott kategóriába tartozna. A törvénytervezet egy évvel az előzetes tervezet bemutatása után került a Minisztertanács elé, miután lezajlott a véleményezési és társadalmi egyeztetési időszak. Most megkezdődik a parlamenti tárgyalása. A cél az, hogy még az idei év augusztus 2-a előtt végleges jóváhagyást kapjon, mivel ezen a napon lép hatályba az európai MI-rendelet rendelkezéseinek többsége.
A mesterséges intelligenciáról szóló európai rendeletet ezen a területen a világ legfejlettebb szabályozásának tartják. A különböző MI-alkalmazásokat használatuk kockázata alapján kategorizálja, és eltérő követelményeket, illetve kötelezettségeket ír elő számukra. A skála a korlátozás nélküli használattól - például egy spamszűrő vagy tartalomajánló rendszer esetében - egészen a teljes tiltásig terjed. Az utóbbi kategóriába azok az alkalmazások tartoznak, amelyek "befolyásolják az egyén tudatosságát vagy szándékosan manipulatív technikákat alkalmaznak", kihasználják az emberek sérülékenységeit, illetve érzelmeikre, faji hovatartozásukra vagy politikai nézeteikre következtetnek.
A két véglet között helyezkednek el az úgynevezett "magas kockázatú" technológiák, amelyek folyamatos felügyelet alatt állnak. Ezeket figyeli az Aesia is. Ebbe a kategóriába tartoznak a távoli biometrikus azonosító rendszerek, a biometrikus kategorizáló rendszerek és az érzelemfelismerő technológiák. Ide sorolják továbbá a kritikus infrastruktúrák biztonságát érintő rendszereket, valamint az oktatáshoz kapcsolódó alkalmazásokat - például a viselkedésértékelést, a felvételi rendszereket és a vizsgákat -, a foglalkoztatással kapcsolatos rendszereket, mint a munkaerő-kiválasztás, továbbá az alapvető közszolgáltatások, a bűnüldözés és a migrációkezelés területén használt megoldásokat is.
A rendelet azt is előírja, hogy rendszeres jelentéseket kell készíteni a besorolások frissítésére, hogy az újonnan megjelenő, a dokumentumban eredetileg nem szereplő alkalmazások esetében meghatározható legyen, melyik kategóriába tartoznak: korlátozás nélküli használat, korlátozott használat vagy tiltás. Pontosan ez történt például a generatív MI esetében, amely olyan eszközök mögött áll, mint a ChatGPT. Ez a technológia akkor jelent meg robbanásszerűen, amikor a rendeletről szóló tárgyalások már nagyon előrehaladott állapotban voltak. Hosszas vita folyt arról, hogy külön említést tegyenek-e róla. Végül bekerült a szabályozásba, és előírták, hogy az úgynevezett alapmodelleknek átláthatósági követelményeknek kell megfelelniük. Többek között egyértelműen fel kell tüntetniük, ha egy szöveg, dal vagy fénykép MI segítségével készült, valamint garantálniuk kell, hogy a modellek betanításához felhasznált adatok tiszteletben tartják a szerzői jogokat.
A konzultációs szakaszban a törvény egyik legtöbbet bírált eleme az volt, hogy az előirányzott szankciórendszer nem vonatkozik az állami közigazgatásra. Az európai rendelet az egyes tagállamokra bízza annak eldöntését, hogy ilyen esetekben milyen büntetéseket alkalmaznak. Spanyolországban a most elfogadott törvény kizárólag "megrovást", "figyelmeztetést" és "fegyelmi intézkedéseket" ír elő. Ez azt jelenti, hogy ha egy állami szerv tiltott technológiát használna, például valós idejű távoli biometrikus azonosító rendszereket, akkor legfeljebb figyelmeztetésben részesülne, miközben egy magánvállalat ugyanezért akár 35 millió eurós bírságot is kaphatna.
A spanyol minisztertanács elfogadta a mesterséges intelligencia etikus, befogadó és hasznos alkalmazásáról szóló törvénytervezetet, amelynek célja, hogy rendet teremtsen ezeknek a technológiáknak és eszközöknek a gyakorlati alkalmazásában. A jogszabály a spanyol jogrendbe ülteti át az Európai Unió mesterséges intelligenciáról szóló rendeletének előírásait, amelyről az uniós intézmények 2023. december 8-án állapodtak meg, és amelyet az Európai Parlament tavaly március 13-án hagyott jóvá. Mindezt a kormány szóvivője, Elma Saiz szavaival élve "humanista és joggaranciákat biztosító" szemléletből teszi.
"Ez egy olyan vita, amely mindennek a jelenét és a jövőjét érinti" - jelentette ki Óscar López digitális átalakulásért felelős miniszter. "Éppen ezért különösen értékes az a szemlélet, amelyet a pápa képvisel" - mondta López, utalva XIV. Leó első enciklikájára. "Olyan megközelítésről van szó, amely védi az emberi jogokat, és amellyel teljes mértékben azonosulni tudunk" - hangsúlyozta a miniszter a törvény bemutatásakor, szembeállítva ezt "a nagy technológiai oligarchákkal", akik szerinte "ellenzik a szabályozást, az adatvédelmet és a kiskorúak védelmét".
A törvény felelősséget ír elő az MI-szolgáltatók számára, valamint kötelezővé teszi az emberi felügyeletet az MI-modellek felett, ami a miniszter szerint "minden vita központi eleme". López hangsúlyozta, hogy az algoritmusok átláthatósága, a vezetők felelőssége és a kiskorúak védelme a jogszabály legfontosabb pillérei közé tartozik. "Ez civilizációs kérdés, amely arról szól, hogy előrelépünk vagy visszalépünk" - jelentette ki. "Amikor egy megbízható MI-modellről beszélünk, amely védi az állampolgárok jogait, akkor a világ legelőrehaladottabb országa vagyunk ezen a területen" - tette hozzá, mielőtt felsorolta volna a kormány kezdeményezéseit.
A törvényszöveg beépíti a spanyol jogrendbe azokat a szankciókat, amelyeket az európai rendelet ír elő a szabályok megsértése esetén. Ezek az enyhébb jogsértéseknél 6000 eurótól indulnak, súlyos esetekben pedig elérhetik a 35 millió eurót, illetve a vállalat globális árbevételének 5-7 százalékát. A törvény egyik újdonsága - amely eredetileg nem szerepelt az uniós szabályozásban - a szexuális jellegű deepfake-ek, vagyis hiperrealisztikus szexvideók betiltása. Az Európai Unió ebben a hónapban fogadta el Spanyolország javaslatát, és beemelte ezt a módosítást a Brüsszel által kidolgozott digitális szabályozás egyszerűsített szövegébe. A nem szexuális célú deepfake-ek továbbra is legálisak maradnak, azonban az európai szabályok szerint "egyértelmű és jól megkülönböztethető módon meg kell őket jelölni legkésőbb az első interakció vagy megjelenés alkalmával".
Pontosan hogyan kell majd ezt a jelölést megvalósítani? A minisztérium ezt egyelőre nem részletezte. A szabályok kidolgozása a Mesterséges Intelligencia Felügyeleti Ügynökségének (la Agencia Española de Supervisión de la Inteligencia Artificial, Aesia) feladata lesz. A biometrikus adatok kezelése és feldolgozása a Spanyol Adatvédelmi Ügynökség (Agencia Española de Protección de Datos, AEPD) hatáskörébe tartozik majd, míg azok az MI-rendszerek, amelyek hatással lehetnek a demokráciára, a Központi Választási Bizottság (Junta Electoral Central) felügyelete alá kerülnek. Az igazságszolgáltatás működését érintő rendszerek esetében pedig az Igazságszolgáltatás Általános Tanácsa (Consejo General del Poder Judicial) jár el.
Minden egyéb esetet az Aesia vizsgál majd. A La Coruñában működő szervezetet Alberto Gago vezeti, és azt tervezi, hogy még az év vége előtt 50 elemzőt foglalkoztat majd, akik különböző MI-alkalmazások megfelelőségét vizsgálják a hatályos szabályozás alapján. Az ügynökség eddig nem talált olyan Spanyolországban működő rendszert, amely a tiltott kategóriába tartozna. A törvénytervezet egy évvel az előzetes tervezet bemutatása után került a Minisztertanács elé, miután lezajlott a véleményezési és társadalmi egyeztetési időszak. Most megkezdődik a parlamenti tárgyalása. A cél az, hogy még az idei év augusztus 2-a előtt végleges jóváhagyást kapjon, mivel ezen a napon lép hatályba az európai MI-rendelet rendelkezéseinek többsége.
A mesterséges intelligenciáról szóló európai rendeletet ezen a területen a világ legfejlettebb szabályozásának tartják. A különböző MI-alkalmazásokat használatuk kockázata alapján kategorizálja, és eltérő követelményeket, illetve kötelezettségeket ír elő számukra. A skála a korlátozás nélküli használattól - például egy spamszűrő vagy tartalomajánló rendszer esetében - egészen a teljes tiltásig terjed. Az utóbbi kategóriába azok az alkalmazások tartoznak, amelyek "befolyásolják az egyén tudatosságát vagy szándékosan manipulatív technikákat alkalmaznak", kihasználják az emberek sérülékenységeit, illetve érzelmeikre, faji hovatartozásukra vagy politikai nézeteikre következtetnek.
A két véglet között helyezkednek el az úgynevezett "magas kockázatú" technológiák, amelyek folyamatos felügyelet alatt állnak. Ezeket figyeli az Aesia is. Ebbe a kategóriába tartoznak a távoli biometrikus azonosító rendszerek, a biometrikus kategorizáló rendszerek és az érzelemfelismerő technológiák. Ide sorolják továbbá a kritikus infrastruktúrák biztonságát érintő rendszereket, valamint az oktatáshoz kapcsolódó alkalmazásokat - például a viselkedésértékelést, a felvételi rendszereket és a vizsgákat -, a foglalkoztatással kapcsolatos rendszereket, mint a munkaerő-kiválasztás, továbbá az alapvető közszolgáltatások, a bűnüldözés és a migrációkezelés területén használt megoldásokat is.
A rendelet azt is előírja, hogy rendszeres jelentéseket kell készíteni a besorolások frissítésére, hogy az újonnan megjelenő, a dokumentumban eredetileg nem szereplő alkalmazások esetében meghatározható legyen, melyik kategóriába tartoznak: korlátozás nélküli használat, korlátozott használat vagy tiltás. Pontosan ez történt például a generatív MI esetében, amely olyan eszközök mögött áll, mint a ChatGPT. Ez a technológia akkor jelent meg robbanásszerűen, amikor a rendeletről szóló tárgyalások már nagyon előrehaladott állapotban voltak. Hosszas vita folyt arról, hogy külön említést tegyenek-e róla. Végül bekerült a szabályozásba, és előírták, hogy az úgynevezett alapmodelleknek átláthatósági követelményeknek kell megfelelniük. Többek között egyértelműen fel kell tüntetniük, ha egy szöveg, dal vagy fénykép MI segítségével készült, valamint garantálniuk kell, hogy a modellek betanításához felhasznált adatok tiszteletben tartják a szerzői jogokat.
A konzultációs szakaszban a törvény egyik legtöbbet bírált eleme az volt, hogy az előirányzott szankciórendszer nem vonatkozik az állami közigazgatásra. Az európai rendelet az egyes tagállamokra bízza annak eldöntését, hogy ilyen esetekben milyen büntetéseket alkalmaznak. Spanyolországban a most elfogadott törvény kizárólag "megrovást", "figyelmeztetést" és "fegyelmi intézkedéseket" ír elő. Ez azt jelenti, hogy ha egy állami szerv tiltott technológiát használna, például valós idejű távoli biometrikus azonosító rendszereket, akkor legfeljebb figyelmeztetésben részesülne, miközben egy magánvállalat ugyanezért akár 35 millió eurós bírságot is kaphatna.