SG.hu
A hollywoodi színészeknek nagyon elegük van az MI által készített hamisítványokból
A hírességek deepfake-jei elárasztják az internetet, ezért Hollywood állami beavatkozást sürget.
Steve Harvey leginkább arról ismert, hogy pénzt osztogat a Family Feud versenyzőinek, vagy tanácsokat osztogat a rádióműsorában. Az utóbbi években azonban az MI által generált mémek népszerű célpontjává vált, amelyek közül sok humoros és látszólag ártalmatlan - például olyanok, amelyeken Harvey rocksztárként szerepel, vagy démonok elől menekül. Egyes bűnözők azonban Harvey képének, hangjának és hasonmásának mesterséges intelligenciával generált változatait használják csalásokhoz. Harvey azon hírességek közé tartozik, mint Taylor Swift és Joe Rogan, akiknek a hangját mesterséges intelligenciával utánozták és átverések népszerűsítésére használták. Most Harvey felemeli a szavát, és jogszabályokat és büntetéseket követel az ilyen átverések mögött álló emberekre - és az őket befogadó platformokra - vonatkozóan.
Úgy tűnik, az amerikai kongresszus is meghallgatja: a szenátorok több olyan jogszabályt is fontolgatnak, amelyek célja a mesterséges intelligencia aljas felhasználása mögött állók megbüntetése. Ilyen lenne a No Fakes Act frissített változata, amelynek célja, hogy az alkotók és a platformok felelősségre vonhatók legyenek a mesterséges intelligencia által generált, nem engedélyezett képekért, videókért és hangokért. A törvény mögött álló szenátorok kétpárti csoportja - köztük a delaware-i Chris Coons és Amy Klobuchar minnesotai demokraták, valamint a Tennessee-i Marsha Blackburn és az észak-karolinai Thom Tillis republikánusok - azt tervezi, hogy a következő hetekben benyújtják a törvényt. A javaslat csatlakozik egy másik, a mesterséges intelligencia által generált mélyen hamisított pornográfia kriminalizálását célzó, Take It Down Act nevű jogszabályhoz, amely szintén a kongresszus előtt van, és amely a héten elnyerte Melania Trump first lady támogatását.
Az elmúlt két évben jelentős DJ-k, színészek és más hírességek keveredtek mesterséges intelligenciával kapcsolatos botrányokba. Egy franciaországi nő 850 000 dollárt vesztett, miután csalók mesterséges intelligencia által generált képeket használtak Brad Pittről, hogy elhitessék vele, hogy a színésznek segít. Scarlett Johansson színésznő, aki nyíltan küzdött a képmását utánzó mesterséges intelligenciával, szintén a jogszabályok mögé állt. "A mesterséges intelligenciával kapcsolatban egy 1000 láb magas hullám közeledik, amelyre több ország, köztük az Egyesült Államok sem reagált felelősségteljesen” - mondta Johansson februárban, miután egy mesterséges intelligencia által generált videó terjedt el, amelyben a hamis változata Kanye West antiszemita megjegyzéseire reagál. „Ijesztő, hogy az amerikai kormány megbénult, amikor olyan jogszabályok elfogadásáról van szó, amelyek védik az állampolgárait a mesterséges intelligencia fenyegető veszélyeitől”.”
A jogszabály a Recording Academy, a Screen Actors Guild, a Motion Picture Association, a nagy tehetségkutató ügynökségek és Hollywood néhány legnagyobb nevének támogatását is megszerezte. A No Fakes Act benyújtása előtt a szenátorok remélik, hogy az online platformok támogatását is elnyerik, amelyeket a törvényjavaslat értelmében potenciálisan büntetnének az ilyen MI-tartalmak befogadásáért. A jelenlegi törvényjavaslat szerint a platformokat 5000 dollárra büntetik minden egyes jogsértésért - ami azt jelenti, hogy egy vírusos MI-alkotás gyorsan több millió dolláros bírságra ugorhat fel. De a platformokat nem az alacsonyabb büntetések árán vonnák be. „Nagyon világosan megmondtuk a platformoknak, akik egyelőre visszatartották a támogatásukat, hogy nem fogunk változtatni, hacsak azok az emberek, akikért ezt a törvényjavaslatot készítjük, azaz a kreatív iparágak emberei, nem értenek egyet vele. Nem fogjuk eladni őket azért, hogy megpróbáljuk a platformokat a fedélzeten tartani”.
A törvényjavaslat kritikusai azonban - köztük olyan érdekvédelmi szervezetek, mint a Public Knowledge, a Center for Democracy and Technology, az American Library Association és az Electronic Frontier Foundation - attól tartanak, hogy a törvényjavaslat a maga formájában túl sok korlátozást tartalmaz. A szenátoroknak tavaly írt levelükben arra figyelmeztettek, hogy a törvény veszélyeztetheti az első alkotmánymódosításhoz fűződő jogokat, és lehetővé teheti a félretájékoztatást, miközben perek „áradatát” eredményezheti.
„Megértjük és osztjuk a sokak által kifejezett komoly aggodalmakat azzal kapcsolatban, hogy a digitális másolati technológiával vissza lehet élni, és ez olyan károkat okozhat, amelyek az átlagembereket éppúgy érinthetik, mint az előadókat és a hírességeket” - írták. „Ezek a károk megérdemlik azt a komoly figyelmet, amelyet kapnak, és megelőzésükhöz szükség lehet a hatályos jog hiányosságait pótló jogszabályokra. Sajnos a nemrégiben benyújtott NO FAKES törvényjavaslat túl messzire megy egy teljesen új szövetségi szellemi tulajdonjog bevezetésével.”
De miközben a kongresszus indítványokon vitatkozik, a mesterséges intelligencia tovább fejlődik. A hírességek pedig azt mondják, hogy úgy érzik, korlátozottak abban, hogyan üldözhetik a képmásukat használó utánzókat - különösen az anonim online fiókokat. Itt jönnek a képbe az olyan cégek, mint a Vermillio AI. A vállalat, amely nagy tehetségkutató ügynökségekkel és filmstúdiókkal állt partnerségben, egy TraceID nevű platformot használ, amely nyomon követi ügyfeleik MI másolatait és automatizálja az általában nehézkes eltávolítási kérelmeket. "2018-ban talán 19 000 darab deepfake tartalom volt” - mondta a Vermillio vezérigazgatója, Dan Neely. „Ma nagyjából egymillió jön létre percenként”.
A hírességek számára különösen nagy kihívást jelenthet a deepfake-ek nyomon követése, mert olyan gyorsan terjedhetnek a közösségi platformokon. „Így elég bonyolult megpróbálni megtalálni őket” - mondta Neely. Neely elmondta, hogy a vállalat technológiája egyfajta „ujjlenyomatot” használ a hiteles tartalom és az MI által generált anyagok megkülönböztetésére. Ennek során a webet olyan képek után kutatják, amelyeket nagyméretű nyelvi modellek, ismertebb nevükön LLM-ek segítségével manipuláltak. A hírességek megengedhetnek maguknak egy olyan szolgáltatást, mint a Vermillio. Más alkotók számára azonban kevesebb forrás áll rendelkezésre. „Minél hamarabb teszünk valamit, annál jobb lesz mindannyiunknak” - mondta Harvey. „Mert miért is várnánk? Hány embernek kell végignéznie hogy ez a dolog kárt okoz, mielőtt valaki tesz valamit?”
Steve Harvey leginkább arról ismert, hogy pénzt osztogat a Family Feud versenyzőinek, vagy tanácsokat osztogat a rádióműsorában. Az utóbbi években azonban az MI által generált mémek népszerű célpontjává vált, amelyek közül sok humoros és látszólag ártalmatlan - például olyanok, amelyeken Harvey rocksztárként szerepel, vagy démonok elől menekül. Egyes bűnözők azonban Harvey képének, hangjának és hasonmásának mesterséges intelligenciával generált változatait használják csalásokhoz. Harvey azon hírességek közé tartozik, mint Taylor Swift és Joe Rogan, akiknek a hangját mesterséges intelligenciával utánozták és átverések népszerűsítésére használták. Most Harvey felemeli a szavát, és jogszabályokat és büntetéseket követel az ilyen átverések mögött álló emberekre - és az őket befogadó platformokra - vonatkozóan.
Úgy tűnik, az amerikai kongresszus is meghallgatja: a szenátorok több olyan jogszabályt is fontolgatnak, amelyek célja a mesterséges intelligencia aljas felhasználása mögött állók megbüntetése. Ilyen lenne a No Fakes Act frissített változata, amelynek célja, hogy az alkotók és a platformok felelősségre vonhatók legyenek a mesterséges intelligencia által generált, nem engedélyezett képekért, videókért és hangokért. A törvény mögött álló szenátorok kétpárti csoportja - köztük a delaware-i Chris Coons és Amy Klobuchar minnesotai demokraták, valamint a Tennessee-i Marsha Blackburn és az észak-karolinai Thom Tillis republikánusok - azt tervezi, hogy a következő hetekben benyújtják a törvényt. A javaslat csatlakozik egy másik, a mesterséges intelligencia által generált mélyen hamisított pornográfia kriminalizálását célzó, Take It Down Act nevű jogszabályhoz, amely szintén a kongresszus előtt van, és amely a héten elnyerte Melania Trump first lady támogatását.
Az elmúlt két évben jelentős DJ-k, színészek és más hírességek keveredtek mesterséges intelligenciával kapcsolatos botrányokba. Egy franciaországi nő 850 000 dollárt vesztett, miután csalók mesterséges intelligencia által generált képeket használtak Brad Pittről, hogy elhitessék vele, hogy a színésznek segít. Scarlett Johansson színésznő, aki nyíltan küzdött a képmását utánzó mesterséges intelligenciával, szintén a jogszabályok mögé állt. "A mesterséges intelligenciával kapcsolatban egy 1000 láb magas hullám közeledik, amelyre több ország, köztük az Egyesült Államok sem reagált felelősségteljesen” - mondta Johansson februárban, miután egy mesterséges intelligencia által generált videó terjedt el, amelyben a hamis változata Kanye West antiszemita megjegyzéseire reagál. „Ijesztő, hogy az amerikai kormány megbénult, amikor olyan jogszabályok elfogadásáról van szó, amelyek védik az állampolgárait a mesterséges intelligencia fenyegető veszélyeitől”.”
A jogszabály a Recording Academy, a Screen Actors Guild, a Motion Picture Association, a nagy tehetségkutató ügynökségek és Hollywood néhány legnagyobb nevének támogatását is megszerezte. A No Fakes Act benyújtása előtt a szenátorok remélik, hogy az online platformok támogatását is elnyerik, amelyeket a törvényjavaslat értelmében potenciálisan büntetnének az ilyen MI-tartalmak befogadásáért. A jelenlegi törvényjavaslat szerint a platformokat 5000 dollárra büntetik minden egyes jogsértésért - ami azt jelenti, hogy egy vírusos MI-alkotás gyorsan több millió dolláros bírságra ugorhat fel. De a platformokat nem az alacsonyabb büntetések árán vonnák be. „Nagyon világosan megmondtuk a platformoknak, akik egyelőre visszatartották a támogatásukat, hogy nem fogunk változtatni, hacsak azok az emberek, akikért ezt a törvényjavaslatot készítjük, azaz a kreatív iparágak emberei, nem értenek egyet vele. Nem fogjuk eladni őket azért, hogy megpróbáljuk a platformokat a fedélzeten tartani”.
A törvényjavaslat kritikusai azonban - köztük olyan érdekvédelmi szervezetek, mint a Public Knowledge, a Center for Democracy and Technology, az American Library Association és az Electronic Frontier Foundation - attól tartanak, hogy a törvényjavaslat a maga formájában túl sok korlátozást tartalmaz. A szenátoroknak tavaly írt levelükben arra figyelmeztettek, hogy a törvény veszélyeztetheti az első alkotmánymódosításhoz fűződő jogokat, és lehetővé teheti a félretájékoztatást, miközben perek „áradatát” eredményezheti.
„Megértjük és osztjuk a sokak által kifejezett komoly aggodalmakat azzal kapcsolatban, hogy a digitális másolati technológiával vissza lehet élni, és ez olyan károkat okozhat, amelyek az átlagembereket éppúgy érinthetik, mint az előadókat és a hírességeket” - írták. „Ezek a károk megérdemlik azt a komoly figyelmet, amelyet kapnak, és megelőzésükhöz szükség lehet a hatályos jog hiányosságait pótló jogszabályokra. Sajnos a nemrégiben benyújtott NO FAKES törvényjavaslat túl messzire megy egy teljesen új szövetségi szellemi tulajdonjog bevezetésével.”
De miközben a kongresszus indítványokon vitatkozik, a mesterséges intelligencia tovább fejlődik. A hírességek pedig azt mondják, hogy úgy érzik, korlátozottak abban, hogyan üldözhetik a képmásukat használó utánzókat - különösen az anonim online fiókokat. Itt jönnek a képbe az olyan cégek, mint a Vermillio AI. A vállalat, amely nagy tehetségkutató ügynökségekkel és filmstúdiókkal állt partnerségben, egy TraceID nevű platformot használ, amely nyomon követi ügyfeleik MI másolatait és automatizálja az általában nehézkes eltávolítási kérelmeket. "2018-ban talán 19 000 darab deepfake tartalom volt” - mondta a Vermillio vezérigazgatója, Dan Neely. „Ma nagyjából egymillió jön létre percenként”.
A hírességek számára különösen nagy kihívást jelenthet a deepfake-ek nyomon követése, mert olyan gyorsan terjedhetnek a közösségi platformokon. „Így elég bonyolult megpróbálni megtalálni őket” - mondta Neely. Neely elmondta, hogy a vállalat technológiája egyfajta „ujjlenyomatot” használ a hiteles tartalom és az MI által generált anyagok megkülönböztetésére. Ennek során a webet olyan képek után kutatják, amelyeket nagyméretű nyelvi modellek, ismertebb nevükön LLM-ek segítségével manipuláltak. A hírességek megengedhetnek maguknak egy olyan szolgáltatást, mint a Vermillio. Más alkotók számára azonban kevesebb forrás áll rendelkezésre. „Minél hamarabb teszünk valamit, annál jobb lesz mindannyiunknak” - mondta Harvey. „Mert miért is várnánk? Hány embernek kell végignéznie hogy ez a dolog kárt okoz, mielőtt valaki tesz valamit?”