SG.hu
Az EU tárgyalásokat kezd az iparral az MI-alapú deepfake-ek címkézéséről
Az EU erőfeszítéseket indít annak érdekében, hogy a mesterséges intelligencia által létrehozott tartalmak könnyen azonosíthatók legyenek az interneten.
Az Európai Bizottság technológiai iparági csoportokkal találkozik, hogy megvitassák a tartalmak címkézését. Ez az első alkalom, hogy a szabályozók a jövőre életbe lépő új követelmények előtt mérlegelik a kérdést. Az MI által generált deepfake-ek és képek számának növekedése - többek között a két legutóbbi választási kampányban - aggodalmakat keltett azzal kapcsolatban, hogy az internetet hamarosan elárasztják a felhasználókat megtévesztő, manipulált képek, amelyek veszélyt jelentenek Európa választásaira és demokráciáira. De az iparág máris óva int attól, hogy túl szigorú szabályokat vezessenek be, és széles körben bírálja az EU mesterséges intelligencia szabályozására irányuló megközelítését.
Az EU 2024-ben elfogadott mesterséges intelligencia törvénye általános követelményeket határoz meg, miszerint a mesterséges intelligencia által generált szövegeket, videókat és képeket meg kell jelölni, és a felhasználókat tájékoztatni kell, amikor mesterséges intelligenciával lépnek kapcsolatba. Ezek az úgynevezett „átláthatósági követelmények” jövő év augusztusában lépnek hatályba. Ennek előkészítéseként a Bizottságnak szüksége van az iparág támogatására egy önkéntes szabályrendszer - az úgynevezett magatartási kódex – kidolgozásához, amely elmagyarázza, hogyan tudnak a vállalatok megfelelni a törvénynek.
A szerdai találkozó volt a kódexről szóló nyolc hónapos tárgyalások kezdete. A Digital Europe - amely számos nagy technológiai vállalatot képvisel Brüsszelben -, és az Információs Technológiai Ipari Tanács (ITI) is részt vesz a tárgyalásokon. "Az MI által generált tartalom jelölésére szolgáló technikák még kezdetlegesek és korlátozottak” - mondta Marco Leto Barone, az ITI Europe politikai igazgatója, aki szerint az iparágnak képesnek kell lennie „különböző megoldások használatára és kombinálására” a törvény betartása érdekében.
Több MI-vállalat már kísérletezik a címkékkel. Az OpenAI új videógenerátora, a Sora 2 látható vízjelet ad minden kimenethez, mely változás olyan weboldalak megjelenésével is együtt járt, amelyek eltávolíthatják a jeleket. Az OpenAI, a Microsoft, a Google és a Meta összefogtak a Tartalom eredete és hitelessége koalícióban (Coalition for Content Provenance and Authenticity, C2PA), amely egy olyan technikát fejlesztett ki, amellyel a tartalom eredetére és arra vonatkozó információkat lehet beágyazni a metaadatokba, hogy az mesterséges intelligencia által készült-e. Az erőfeszítések ellenére a kutatások kimutatták, hogy a holland választási kampányban az MI által generált bejegyzések többségén nem volt semmilyen nyilatkozat. „Az MI-tartalmak többsége nincs címkézve, és ez átláthatósági kérdés, szabályozási kérdés” - mondta Simon Kruschinski, a németországi Mainzi Egyetem politikai kampányokkal foglalkozó kutatója.
A Bizottság tervei szerint decemberre közzéteszi a címkézésre vonatkozó magatartási kódex első tervezetét. A második tervezet márciusra, a végleges változat pedig júniusra várható. Az iparág nemcsak a kódex túlzottan előíró jellege miatt emel kifogást, hanem a határidő szűkössége miatt is. A prezentáció „aggodalmakat” említ az iparág „felkészültségével” kapcsolatban az átláthatósági szabályok tekintetében. Az MI-törvény augusztusi követelményei közül egy másik fontos, a magas kockázatú rendszerekre vonatkozó rész késhet, mivel a vonatkozó műszaki szabványok még nem állnak készen. A Google egy nemrégiben benyújtott EU-konzultációs anyagban kijelentette, hogy a címkézési és átláthatósági szabályok „legkorábban hat hónappal” a gyakorlati kódex véglegesítése után léphetnek hatályba.
Leto Barone arra is figyelmeztetett, hogy ne ismételjék meg azt a tapasztalatot, amelyet az emberek a cookie-bannerekkel szereztek, amelyeket a felhasználók csak gondolkozás nélkül átklikkelnek. "A deepfake-ekhez hasonló tartalmak címkézésére vonatkozó rugalmatlan megközelítés a túlzott és gyakran figyelmen kívül hagyott figyelmeztetések és címkék miatt ronthatja a felhasználók online élményét” - mondta.
Az Európai Bizottság technológiai iparági csoportokkal találkozik, hogy megvitassák a tartalmak címkézését. Ez az első alkalom, hogy a szabályozók a jövőre életbe lépő új követelmények előtt mérlegelik a kérdést. Az MI által generált deepfake-ek és képek számának növekedése - többek között a két legutóbbi választási kampányban - aggodalmakat keltett azzal kapcsolatban, hogy az internetet hamarosan elárasztják a felhasználókat megtévesztő, manipulált képek, amelyek veszélyt jelentenek Európa választásaira és demokráciáira. De az iparág máris óva int attól, hogy túl szigorú szabályokat vezessenek be, és széles körben bírálja az EU mesterséges intelligencia szabályozására irányuló megközelítését.
Az EU 2024-ben elfogadott mesterséges intelligencia törvénye általános követelményeket határoz meg, miszerint a mesterséges intelligencia által generált szövegeket, videókat és képeket meg kell jelölni, és a felhasználókat tájékoztatni kell, amikor mesterséges intelligenciával lépnek kapcsolatba. Ezek az úgynevezett „átláthatósági követelmények” jövő év augusztusában lépnek hatályba. Ennek előkészítéseként a Bizottságnak szüksége van az iparág támogatására egy önkéntes szabályrendszer - az úgynevezett magatartási kódex – kidolgozásához, amely elmagyarázza, hogyan tudnak a vállalatok megfelelni a törvénynek.
A szerdai találkozó volt a kódexről szóló nyolc hónapos tárgyalások kezdete. A Digital Europe - amely számos nagy technológiai vállalatot képvisel Brüsszelben -, és az Információs Technológiai Ipari Tanács (ITI) is részt vesz a tárgyalásokon. "Az MI által generált tartalom jelölésére szolgáló technikák még kezdetlegesek és korlátozottak” - mondta Marco Leto Barone, az ITI Europe politikai igazgatója, aki szerint az iparágnak képesnek kell lennie „különböző megoldások használatára és kombinálására” a törvény betartása érdekében.
Több MI-vállalat már kísérletezik a címkékkel. Az OpenAI új videógenerátora, a Sora 2 látható vízjelet ad minden kimenethez, mely változás olyan weboldalak megjelenésével is együtt járt, amelyek eltávolíthatják a jeleket. Az OpenAI, a Microsoft, a Google és a Meta összefogtak a Tartalom eredete és hitelessége koalícióban (Coalition for Content Provenance and Authenticity, C2PA), amely egy olyan technikát fejlesztett ki, amellyel a tartalom eredetére és arra vonatkozó információkat lehet beágyazni a metaadatokba, hogy az mesterséges intelligencia által készült-e. Az erőfeszítések ellenére a kutatások kimutatták, hogy a holland választási kampányban az MI által generált bejegyzések többségén nem volt semmilyen nyilatkozat. „Az MI-tartalmak többsége nincs címkézve, és ez átláthatósági kérdés, szabályozási kérdés” - mondta Simon Kruschinski, a németországi Mainzi Egyetem politikai kampányokkal foglalkozó kutatója.
A Bizottság tervei szerint decemberre közzéteszi a címkézésre vonatkozó magatartási kódex első tervezetét. A második tervezet márciusra, a végleges változat pedig júniusra várható. Az iparág nemcsak a kódex túlzottan előíró jellege miatt emel kifogást, hanem a határidő szűkössége miatt is. A prezentáció „aggodalmakat” említ az iparág „felkészültségével” kapcsolatban az átláthatósági szabályok tekintetében. Az MI-törvény augusztusi követelményei közül egy másik fontos, a magas kockázatú rendszerekre vonatkozó rész késhet, mivel a vonatkozó műszaki szabványok még nem állnak készen. A Google egy nemrégiben benyújtott EU-konzultációs anyagban kijelentette, hogy a címkézési és átláthatósági szabályok „legkorábban hat hónappal” a gyakorlati kódex véglegesítése után léphetnek hatályba.
Leto Barone arra is figyelmeztetett, hogy ne ismételjék meg azt a tapasztalatot, amelyet az emberek a cookie-bannerekkel szereztek, amelyeket a felhasználók csak gondolkozás nélkül átklikkelnek. "A deepfake-ekhez hasonló tartalmak címkézésére vonatkozó rugalmatlan megközelítés a túlzott és gyakran figyelmen kívül hagyott figyelmeztetések és címkék miatt ronthatja a felhasználók online élményét” - mondta.