SG.hu·
Elon Musk a felhasználókat hibáztatja a Grok által generált szexuális képekért
De ez nem fog sikerülni, mert az Európai Unió új szabályozása megakadályozhatja hogy a platformok a felhasználókra hárítsák a felelősséget a káros MI tartalmakért.
Mint arról beszámoltunk, az Európai Unió hamarosan betilthatja az un. nudify, azaz embereket lemeztelenítő alkalmazásokat, miután Elon Musk chatbotja, a Grok kiemelt példájává vált annak a veszélynek, amikor egy MI platform nem képes megakadályozni olyan kimenetek létrehozását, amelyek valós személyek, köztük gyermekek képeit szexualizálják. A dolog megakadályozására saját szabályzataikat megsértve sem a Google, sem az Apple nem tett semmit. Az Európai Parlament belső piaci és polgári szabadságjogi bizottságai közös sajtóközleményben erősítették meg, hogy a jogalkotók 101-9 arányban, 8 tartózkodás mellett megszavazták a Mesterséges Intelligencia Rendelet egyszerűsítését, és javaslatot tettek az úgynevezett MI "meztelenítő" rendszerek betiltására.
A szavazás azt követően történt, hogy az Európai Bizottság az év elején arra a következtetésre jutott, hogy az MI rendelet nem tiltja azokat az MI rendszereket, amelyek gyermekek szexuális bántalmazását ábrázoló anyagokat vagy szexuálisan explicit deepfake aktképeket generálnak. Ekkor a Bizottság jelezte, hogy a parlamenti képviselők már dolgoznak a jogszabály módosításán annak érdekében, hogy erősebb védelmet biztosítsanak az ilyen káros tartalmakkal szemben. Ha a módosítást elfogadják, ami valószínűnek tűnik, az meghiúsítaná Elon Musk tervét, hogy a káros kimenetekért a felhasználókat tegye felelőssé.
Az év elején az xAI nem volt hajlandó olyan biztosítékokat bevezetni, amelyek megakadályoznák az ilyen kimenetek létrehozását, és ehelyett azt ígérte, hogy felfüggeszti és jogilag felelősségre vonja azokat a felhasználókat, akik gyermekek szexuális bántalmazását ábrázoló tartalmakat vagy beleegyezés nélküli intim képeket generálnak. Ehelyett a funkciót fizetős fal mögé helyezték, és az előfizetőkre korlátozták, akik a beszámolók szerint továbbra is képesek voltak explicit tartalmak generálására olyan valós személyek beleegyezése nélkül, akiknek a képeit a Grok betanításához felhasználták.
Az Egyesült Államokban az xAI látszólag kevés következménnyel szembesült a Grok kimenetei miatt, azonban ha a Melania Trump által erőltetett Take It Down Act már hatályban lett volna - amely májusban lép életbe - a vállalat több milliárd dolláros bírság kockázatával nézhetett volna szembe. Elképzelhető, hogy Musk azon taktikája, miszerint fizetős fal mögé helyezte a funkciót, és megakadályozta, hogy a Grok káros tartalmakat generáljon az X platformon adott utasításokra válaszul, részben e jogszabály hatálybalépése előtti kockázatcsökkentést szolgálta. Ha azonban az Európai Unió betiltja a nudify alkalmazásokat, Musk kénytelen lenne beavatkozni, és a Grokot a vártnál kevésbé "pikánssá" finomhangolni, különben megsértheti az MI rendeletet. Ez túl költséges lehet az xAI számára egy olyan időszakban, amikor az MI versenyben való helytállás jelentős beruházásokat igényel, és a lehetséges bírságok elérhetik a teljes globális éves árbevétel 7 százalékát.
A hatóságok "egy új tilalmat kívánnak bevezetni az úgynevezett meztelenítő rendszerekre, amelyek MI-t használnak olyan képek létrehozására vagy manipulálására, amelyek szexuálisan explicit vagy intim jellegűek, és egy azonosítható valós személyre hasonlítanak annak beleegyezése nélkül" - magyarázza a sajtóközlemény. Ugyanakkor "a tilalom nem vonatkozna azokra az MI rendszerekre, amelyek hatékony biztonsági intézkedésekkel megakadályozzák a felhasználókat ilyen képek létrehozásában" - tették hozzá a tisztviselők. A tilalom gyökeresen megváltoztatná az Európai Unió megközelítését az explicit deepfake tartalmak szabályozásában, és a felhasználók büntetésén túl a platformok felelősségre vonására is kiterjedne.
A Grok botrány "szemléletesen megmutatta", miért van szükség ilyen szabályozási változásra, és "ez a módosítás az első" olyan uniós politika, amely kifejezetten azokat az MI platformokat célozza, amelyek beleegyezés nélküli szexuális tartalmakat állítanak elő és tesznek megoszthatóvá. Bár az uniós tisztviselők a sajtóközleményben nem említették közvetlenül a Grokot, a szabályozó hatóságok már korábban is vizsgálták a rendszert, miközben mérlegelték az xAI körüli vita következményeit más, kevésbé ismert nudify alkalmazásokra nézve. Az év elején az Európai Bizottsághoz benyújtott kérdéseikben a jogalkotók figyelmeztettek:
"A közelmúlt sokkoló beszámolói az MI által működtetett meztelenítő alkalmazásokról, például a Grok az X platformon, valamint más, szabadon elérhető online eszközök rámutatnak arra, hogy növekszik azoknak az MI alapú eszközöknek a száma, amelyek lehetővé teszik a felhasználók számára, hogy beleegyezés nélkül generáljanak manipulált intim képeket egyénekről, elősegítve a nemi alapú online erőszakot és a gyermekek szexuális bántalmazását ábrázoló tartalmak létrehozását. Ezeket a rendszereket ki kell tiltani az uniós piacról" - sürgették a jogalkotók, különösen azért, mert "az egyéni elkövetőket", akik "gyakran büntethetők a nemzeti büntetőjog alapján", "gyakran nehéz azonosítani". Egy hatékonyabb megközelítés szerintük az lenne, ha "már a kezdetektől megakadályoznák a képalapú szexuális erőszak széles körű elterjedését".
A parlamenti képviselők látható támogatása mellett a módosítás várható elfogadása bizonyosan frusztrálni fogja Muskot, aki az Egyesült Államokban is jogi kihívásokkal néz szembe, ahol bírósági tiltó végzéseket kérnek a Grok meztelenítő funkciói ellen. Januárban Musk egyik gyermekének édesanyja, Ashley St. Clair az elsők között volt, aki pert indított. Nemrégiben pedig három tennessee-i kislány csoportos keresetet nyújtott be, amely minden olyan gyermeket képvisel, akit a Grok állítólagos, gyermekek szexuális bántalmazását ábrázoló kimenetei károsítottak. Az Európai Unióban hasonló társadalmi nyomás nehezedik a szabályozó hatóságokra, hogy lépjenek közbe, mivel az xAI láthatóan nem hajlandó megakadályozni, hogy a Grok valós embereket "levetkőztessen". A polgári szabadságjogi bizottság egyik tagja, Michael McNamara a sajtóközleményben úgy fogalmazott, hogy a nudify alkalmazások betiltására irányuló javaslat "olyan lépés, amelyet az állampolgáraink elvárnak".
Mint arról beszámoltunk, az Európai Unió hamarosan betilthatja az un. nudify, azaz embereket lemeztelenítő alkalmazásokat, miután Elon Musk chatbotja, a Grok kiemelt példájává vált annak a veszélynek, amikor egy MI platform nem képes megakadályozni olyan kimenetek létrehozását, amelyek valós személyek, köztük gyermekek képeit szexualizálják. A dolog megakadályozására saját szabályzataikat megsértve sem a Google, sem az Apple nem tett semmit. Az Európai Parlament belső piaci és polgári szabadságjogi bizottságai közös sajtóközleményben erősítették meg, hogy a jogalkotók 101-9 arányban, 8 tartózkodás mellett megszavazták a Mesterséges Intelligencia Rendelet egyszerűsítését, és javaslatot tettek az úgynevezett MI "meztelenítő" rendszerek betiltására.
A szavazás azt követően történt, hogy az Európai Bizottság az év elején arra a következtetésre jutott, hogy az MI rendelet nem tiltja azokat az MI rendszereket, amelyek gyermekek szexuális bántalmazását ábrázoló anyagokat vagy szexuálisan explicit deepfake aktképeket generálnak. Ekkor a Bizottság jelezte, hogy a parlamenti képviselők már dolgoznak a jogszabály módosításán annak érdekében, hogy erősebb védelmet biztosítsanak az ilyen káros tartalmakkal szemben. Ha a módosítást elfogadják, ami valószínűnek tűnik, az meghiúsítaná Elon Musk tervét, hogy a káros kimenetekért a felhasználókat tegye felelőssé.
Az év elején az xAI nem volt hajlandó olyan biztosítékokat bevezetni, amelyek megakadályoznák az ilyen kimenetek létrehozását, és ehelyett azt ígérte, hogy felfüggeszti és jogilag felelősségre vonja azokat a felhasználókat, akik gyermekek szexuális bántalmazását ábrázoló tartalmakat vagy beleegyezés nélküli intim képeket generálnak. Ehelyett a funkciót fizetős fal mögé helyezték, és az előfizetőkre korlátozták, akik a beszámolók szerint továbbra is képesek voltak explicit tartalmak generálására olyan valós személyek beleegyezése nélkül, akiknek a képeit a Grok betanításához felhasználták.
Az Egyesült Államokban az xAI látszólag kevés következménnyel szembesült a Grok kimenetei miatt, azonban ha a Melania Trump által erőltetett Take It Down Act már hatályban lett volna - amely májusban lép életbe - a vállalat több milliárd dolláros bírság kockázatával nézhetett volna szembe. Elképzelhető, hogy Musk azon taktikája, miszerint fizetős fal mögé helyezte a funkciót, és megakadályozta, hogy a Grok káros tartalmakat generáljon az X platformon adott utasításokra válaszul, részben e jogszabály hatálybalépése előtti kockázatcsökkentést szolgálta. Ha azonban az Európai Unió betiltja a nudify alkalmazásokat, Musk kénytelen lenne beavatkozni, és a Grokot a vártnál kevésbé "pikánssá" finomhangolni, különben megsértheti az MI rendeletet. Ez túl költséges lehet az xAI számára egy olyan időszakban, amikor az MI versenyben való helytállás jelentős beruházásokat igényel, és a lehetséges bírságok elérhetik a teljes globális éves árbevétel 7 százalékát.
A hatóságok "egy új tilalmat kívánnak bevezetni az úgynevezett meztelenítő rendszerekre, amelyek MI-t használnak olyan képek létrehozására vagy manipulálására, amelyek szexuálisan explicit vagy intim jellegűek, és egy azonosítható valós személyre hasonlítanak annak beleegyezése nélkül" - magyarázza a sajtóközlemény. Ugyanakkor "a tilalom nem vonatkozna azokra az MI rendszerekre, amelyek hatékony biztonsági intézkedésekkel megakadályozzák a felhasználókat ilyen képek létrehozásában" - tették hozzá a tisztviselők. A tilalom gyökeresen megváltoztatná az Európai Unió megközelítését az explicit deepfake tartalmak szabályozásában, és a felhasználók büntetésén túl a platformok felelősségre vonására is kiterjedne.
A Grok botrány "szemléletesen megmutatta", miért van szükség ilyen szabályozási változásra, és "ez a módosítás az első" olyan uniós politika, amely kifejezetten azokat az MI platformokat célozza, amelyek beleegyezés nélküli szexuális tartalmakat állítanak elő és tesznek megoszthatóvá. Bár az uniós tisztviselők a sajtóközleményben nem említették közvetlenül a Grokot, a szabályozó hatóságok már korábban is vizsgálták a rendszert, miközben mérlegelték az xAI körüli vita következményeit más, kevésbé ismert nudify alkalmazásokra nézve. Az év elején az Európai Bizottsághoz benyújtott kérdéseikben a jogalkotók figyelmeztettek:
"A közelmúlt sokkoló beszámolói az MI által működtetett meztelenítő alkalmazásokról, például a Grok az X platformon, valamint más, szabadon elérhető online eszközök rámutatnak arra, hogy növekszik azoknak az MI alapú eszközöknek a száma, amelyek lehetővé teszik a felhasználók számára, hogy beleegyezés nélkül generáljanak manipulált intim képeket egyénekről, elősegítve a nemi alapú online erőszakot és a gyermekek szexuális bántalmazását ábrázoló tartalmak létrehozását. Ezeket a rendszereket ki kell tiltani az uniós piacról" - sürgették a jogalkotók, különösen azért, mert "az egyéni elkövetőket", akik "gyakran büntethetők a nemzeti büntetőjog alapján", "gyakran nehéz azonosítani". Egy hatékonyabb megközelítés szerintük az lenne, ha "már a kezdetektől megakadályoznák a képalapú szexuális erőszak széles körű elterjedését".
A parlamenti képviselők látható támogatása mellett a módosítás várható elfogadása bizonyosan frusztrálni fogja Muskot, aki az Egyesült Államokban is jogi kihívásokkal néz szembe, ahol bírósági tiltó végzéseket kérnek a Grok meztelenítő funkciói ellen. Januárban Musk egyik gyermekének édesanyja, Ashley St. Clair az elsők között volt, aki pert indított. Nemrégiben pedig három tennessee-i kislány csoportos keresetet nyújtott be, amely minden olyan gyermeket képvisel, akit a Grok állítólagos, gyermekek szexuális bántalmazását ábrázoló kimenetei károsítottak. Az Európai Unióban hasonló társadalmi nyomás nehezedik a szabályozó hatóságokra, hogy lépjenek közbe, mivel az xAI láthatóan nem hajlandó megakadályozni, hogy a Grok valós embereket "levetkőztessen". A polgári szabadságjogi bizottság egyik tagja, Michael McNamara a sajtóközleményben úgy fogalmazott, hogy a nudify alkalmazások betiltására irányuló javaslat "olyan lépés, amelyet az állampolgáraink elvárnak".