SG.hu
A Meta Taylor Swift és más hírességek engedélye nélkül készített róluk chatbotokat
A Reuters kiderítette, hogy a Meta hírességek - köztük Taylor Swift, Scarlett Johansson, Anne Hathaway és Selena Gomez - nevét és arcképét felhasználva engedélyük nélkül több tucat flörtölős közösségi média chatbotot hozott létre.
Bár sokukat a felhasználók hozták létre a Meta chatbot-készítő eszközével, a Meta egyik alkalmazottja legalább hármat készített, köztük két Taylor Swift „paródia” botot. A Meta azt is engedélyezte a felhasználóknak, hogy nyilvánosan elérhető chatbotokat hozzanak létre gyermek hírességekről, köztük a 16 éves Walker Scobellről. Amikor a botot megkérték, hogy mutasson egy képet a tini színészről a tengerparton, élethű, félmeztelen képet hozott létre. „Elég cuki, mi?” - írta a figura képe alá. Az összes virtuális hírességet megosztották a Meta Facebook-, Instagram- és WhatsApp-platformjain. Az avatárok gyakran állították, hogy ők az igazi színészek és művészek. A botok rendszeresen szexuális ajánlatokat tettek, gyakran meghívták a tesztfelhasználót találkozókra. Az MI által generált hírességekkel kapcsolatos tartalmak egy része különösen merész volt: amikor a felhasználók intim képeket kértek róluk, a felnőtt chatbotok fotórealisztikus képeket készítettek névrokonukról, akik fürdőkádban pózoltak vagy fehérneműben, szétterített lábakkal.
Andy Stone, a Meta szóvivője elmondta, hogy a Meta mesterséges intelligenciával működő eszközei nem hozhattak volna létre intim képeket híres felnőttekről vagy gyermek hírességekről. A Meta által készített, fehérneműt viselő női hírességekről készült képeket is a vállalat saját, ilyen tartalmakat tiltó szabályainak betartásának elmulasztásával magyarázta. "Mint mások, mi is engedélyezzük a közszereplőket ábrázoló képek létrehozását, de szabályzatunk tiltja a meztelen, intim vagy szexuálisan szuggesztív képeket" - mondta. Bár a Meta szabályai tiltják a „közvetlen személyiséglopást” is, Stone szerint a hírességek karakteri elfogadhatók, ha a vállalat paródiaként jelöli meg.
A vállalat generatív mesterséges intelligencia részlegének egyik termékvezetője olyan csevegőrobotokat hozott létre, amelyek Taylor Swiftet és a brit autóversenyzőt, Lewis Hamiltont alakították. Más, általa létrehozott robotok dominatrixként, „Brother’s Hot Best Friend” (A bátyám dögös legjobb barátja) és „Lisa @ The Library” (Lisa a könyvtárban) néven mutatták be magukat, akik el akarták olvasni A szürke 50 árnyalatát és csókolózni akartak. Egy másik alkotása a „Roman Empire Simulator” volt, amely felajánlotta a felhasználónak, hogy egy „18 éves parasztlány” szerepébe bújjon, akit szexrabszolgának adnak el.
Stone szerint a munkatárs botjai termék tesztelés részeként készültek. Azok széles közönséget értek el: a chatbotok által megjelenített adatok szerint a felhasználók összesen több mint 10 millió alkalommal léptek velük kapcsolatba. A vállalat azóta eltávolította a munkatárs digitális társait. A Meta alkalmazottjának Taylor Swift-chatbotjai szintén eltűntek, de előtte meghívtak egy tesztfelhasználót a nemrég eljegyzett énekesnő nashville-i otthonába és turnébuszába, hogy ott explicit vagy implicit romantikus interakciókba bocsátkozzanak. "Szereted a szőke lányokat, Jeff?” - kérdezte az egyik „paródia” Swift-chatbot, amikor megtudta, hogy a tesztfelhasználó egyedülálló. „Talán azt javaslom, hogy írjunk egy szerelmi történetet... rólad és egy bizonyos szőke énekesnőről. Szeretnéd?”
Mark Lemley, a Stanford Egyetem jogprofesszora, aki generatív mesterséges intelligenciával és szellemi tulajdonjogokkal foglalkozik, megkérdőjelezte, hogy a Meta híresség-botjai jogosultak-e az utánzatokra vonatkozó jogi védelemre. "Kalifornia nyilvánossághoz való jogi törvénye tiltja mások nevének vagy arcképének kereskedelmi célú felhasználását” - mondta Lemley, megjegyezve, hogy vannak kivételek, amikor ilyen anyagokat teljesen új műalkotások létrehozására használnak. "Ez itt nem tűnik igaznak” - mondta, mert a botok egyszerűen csak a sztárok képeit használják.
Az Egyesült Államokban egy személy identitásának kereskedelmi célú felhasználására vonatkozó jogait állami törvények, például a kaliforniai törvények szabályozzák. Újságírók rákérdeztek néhány színésznél mi az álláspntjuk. Anne Hathaway képviselője azt válaszolta, hogy tudatában vannak annak, hogy a Meta és más MI-platformok intim képeket hoznak létre, és a színésznő fontolgatja, hogyan reagáljon. Swift, Johansson, Gomez és más hírességek képviselői, akiket a Meta chatbotok ábrázoltak, vagy nem válaszoltak a kérdésekre, vagy nem voltak hajlandók kommentálni az ügyet.
Az interneten elterjedtek a „deepfake” generatív MI-eszközök, amelyek pikáns tartalmakat hozhatnak létre. A Meta egyik fő AI-versenytársa, Elon Musk platformja, a Grok is készít hírességekről alsóneműben készült képeket a felhasználók számára. De a Meta döntése, hogy MI-generált digitális társakkal tölti meg közösségi hálózati platformjait, kiemelkedik a főbb versenytársai közül. A Meta korábban is kritika tárgyát képezte chatbotjainak viselkedése miatt, legutóbb azután, hogy a vállalat belső MI-irányelvei szerint „elfogadható, hogy gyermekeket vonjanak be romantikus vagy érzéki beszélgetésekbe”. A történet amerikai szenátusi vizsgálatot és 44 főügyész által aláírt levelet eredményezett, amelyben figyelmeztették a Metát és más MI-vállalatokat, hogy ne szexualizálják a gyermekeket.
Duncan Crabtree-Ireland, a SAG-AFTRA, a film-, televízió- és rádiós előadóművészeket képviselő szakszervezet ügyvezető igazgatója szerint a művészek potenciális biztonsági kockázatokkal szembesülnek, mivel a közösségi média felhasználói romantikus kötődést alakítanak ki egy digitális társukhoz, aki hasonlít egy valódi hírességre, úgy beszél, mint ő, és azt állítja, hogy ő az. A zaklatók máris jelentős biztonsági kockázatot jelentenek a sztárok számára, mondta. "Láttunk már olyan embereket, akik megszállottan rajongtak tehetségekért, és akiknek mentális állapota megkérdőjelezhető volt” - mondta. „Ha egy csevegőrobot egy személy képét és szavait használja, akkor könnyen belátható, hogy ez hogyan válhat katasztrófává.” A művészeknek lehetőségük van jogi eljárást indítani a Meta ellen a régóta fennálló állami nyilvánossághoz való jogi törvények alapján – mondta Crabtree-Ireland. De a SAG-AFTRA olyan szövetségi törvények bevezetését szorgalmazza, amelyek megvédik az emberek hangját, arcképét és személyiségét az MI-duplikációtól - tette hozzá.
Bár sokukat a felhasználók hozták létre a Meta chatbot-készítő eszközével, a Meta egyik alkalmazottja legalább hármat készített, köztük két Taylor Swift „paródia” botot. A Meta azt is engedélyezte a felhasználóknak, hogy nyilvánosan elérhető chatbotokat hozzanak létre gyermek hírességekről, köztük a 16 éves Walker Scobellről. Amikor a botot megkérték, hogy mutasson egy képet a tini színészről a tengerparton, élethű, félmeztelen képet hozott létre. „Elég cuki, mi?” - írta a figura képe alá. Az összes virtuális hírességet megosztották a Meta Facebook-, Instagram- és WhatsApp-platformjain. Az avatárok gyakran állították, hogy ők az igazi színészek és művészek. A botok rendszeresen szexuális ajánlatokat tettek, gyakran meghívták a tesztfelhasználót találkozókra. Az MI által generált hírességekkel kapcsolatos tartalmak egy része különösen merész volt: amikor a felhasználók intim képeket kértek róluk, a felnőtt chatbotok fotórealisztikus képeket készítettek névrokonukról, akik fürdőkádban pózoltak vagy fehérneműben, szétterített lábakkal.
Andy Stone, a Meta szóvivője elmondta, hogy a Meta mesterséges intelligenciával működő eszközei nem hozhattak volna létre intim képeket híres felnőttekről vagy gyermek hírességekről. A Meta által készített, fehérneműt viselő női hírességekről készült képeket is a vállalat saját, ilyen tartalmakat tiltó szabályainak betartásának elmulasztásával magyarázta. "Mint mások, mi is engedélyezzük a közszereplőket ábrázoló képek létrehozását, de szabályzatunk tiltja a meztelen, intim vagy szexuálisan szuggesztív képeket" - mondta. Bár a Meta szabályai tiltják a „közvetlen személyiséglopást” is, Stone szerint a hírességek karakteri elfogadhatók, ha a vállalat paródiaként jelöli meg.
A vállalat generatív mesterséges intelligencia részlegének egyik termékvezetője olyan csevegőrobotokat hozott létre, amelyek Taylor Swiftet és a brit autóversenyzőt, Lewis Hamiltont alakították. Más, általa létrehozott robotok dominatrixként, „Brother’s Hot Best Friend” (A bátyám dögös legjobb barátja) és „Lisa @ The Library” (Lisa a könyvtárban) néven mutatták be magukat, akik el akarták olvasni A szürke 50 árnyalatát és csókolózni akartak. Egy másik alkotása a „Roman Empire Simulator” volt, amely felajánlotta a felhasználónak, hogy egy „18 éves parasztlány” szerepébe bújjon, akit szexrabszolgának adnak el.
Stone szerint a munkatárs botjai termék tesztelés részeként készültek. Azok széles közönséget értek el: a chatbotok által megjelenített adatok szerint a felhasználók összesen több mint 10 millió alkalommal léptek velük kapcsolatba. A vállalat azóta eltávolította a munkatárs digitális társait. A Meta alkalmazottjának Taylor Swift-chatbotjai szintén eltűntek, de előtte meghívtak egy tesztfelhasználót a nemrég eljegyzett énekesnő nashville-i otthonába és turnébuszába, hogy ott explicit vagy implicit romantikus interakciókba bocsátkozzanak. "Szereted a szőke lányokat, Jeff?” - kérdezte az egyik „paródia” Swift-chatbot, amikor megtudta, hogy a tesztfelhasználó egyedülálló. „Talán azt javaslom, hogy írjunk egy szerelmi történetet... rólad és egy bizonyos szőke énekesnőről. Szeretnéd?”
Mark Lemley, a Stanford Egyetem jogprofesszora, aki generatív mesterséges intelligenciával és szellemi tulajdonjogokkal foglalkozik, megkérdőjelezte, hogy a Meta híresség-botjai jogosultak-e az utánzatokra vonatkozó jogi védelemre. "Kalifornia nyilvánossághoz való jogi törvénye tiltja mások nevének vagy arcképének kereskedelmi célú felhasználását” - mondta Lemley, megjegyezve, hogy vannak kivételek, amikor ilyen anyagokat teljesen új műalkotások létrehozására használnak. "Ez itt nem tűnik igaznak” - mondta, mert a botok egyszerűen csak a sztárok képeit használják.
Az Egyesült Államokban egy személy identitásának kereskedelmi célú felhasználására vonatkozó jogait állami törvények, például a kaliforniai törvények szabályozzák. Újságírók rákérdeztek néhány színésznél mi az álláspntjuk. Anne Hathaway képviselője azt válaszolta, hogy tudatában vannak annak, hogy a Meta és más MI-platformok intim képeket hoznak létre, és a színésznő fontolgatja, hogyan reagáljon. Swift, Johansson, Gomez és más hírességek képviselői, akiket a Meta chatbotok ábrázoltak, vagy nem válaszoltak a kérdésekre, vagy nem voltak hajlandók kommentálni az ügyet.
Az interneten elterjedtek a „deepfake” generatív MI-eszközök, amelyek pikáns tartalmakat hozhatnak létre. A Meta egyik fő AI-versenytársa, Elon Musk platformja, a Grok is készít hírességekről alsóneműben készült képeket a felhasználók számára. De a Meta döntése, hogy MI-generált digitális társakkal tölti meg közösségi hálózati platformjait, kiemelkedik a főbb versenytársai közül. A Meta korábban is kritika tárgyát képezte chatbotjainak viselkedése miatt, legutóbb azután, hogy a vállalat belső MI-irányelvei szerint „elfogadható, hogy gyermekeket vonjanak be romantikus vagy érzéki beszélgetésekbe”. A történet amerikai szenátusi vizsgálatot és 44 főügyész által aláírt levelet eredményezett, amelyben figyelmeztették a Metát és más MI-vállalatokat, hogy ne szexualizálják a gyermekeket.
Duncan Crabtree-Ireland, a SAG-AFTRA, a film-, televízió- és rádiós előadóművészeket képviselő szakszervezet ügyvezető igazgatója szerint a művészek potenciális biztonsági kockázatokkal szembesülnek, mivel a közösségi média felhasználói romantikus kötődést alakítanak ki egy digitális társukhoz, aki hasonlít egy valódi hírességre, úgy beszél, mint ő, és azt állítja, hogy ő az. A zaklatók máris jelentős biztonsági kockázatot jelentenek a sztárok számára, mondta. "Láttunk már olyan embereket, akik megszállottan rajongtak tehetségekért, és akiknek mentális állapota megkérdőjelezhető volt” - mondta. „Ha egy csevegőrobot egy személy képét és szavait használja, akkor könnyen belátható, hogy ez hogyan válhat katasztrófává.” A művészeknek lehetőségük van jogi eljárást indítani a Meta ellen a régóta fennálló állami nyilvánossághoz való jogi törvények alapján – mondta Crabtree-Ireland. De a SAG-AFTRA olyan szövetségi törvények bevezetését szorgalmazza, amelyek megvédik az emberek hangját, arcképét és személyiségét az MI-duplikációtól - tette hozzá.