SG.hu
Bármilyen hamis kép elkészíthető Elon Musk MI-képgenerátorával
Bill Gates kokaint szív? Trump belerepül az ikertornyokba? Mindez csak egy kattintás, és a Grok megvalósítja.
Elon Musk chatbotja, a Grok lehetővé teszii a felhasználók számára, hogy szöveges kérésekből MI által generált képeket hozzanak létre, és azokat az X-en közzétegyék. Az emberek a bejelentés után szinte azonnal elkezdték használni az eszközt, hogy elárasszák a közösségi oldalt olyan hamis képekkel, amelyeken olyan politikai személyiségek, mint Donald Trump volt elnök és Kamala Harris alelnök, valamint maga Musk szerepelnek. Némelyikük nyilvánvalóan hamis, de mégis nyugtalanító helyzetekben ábrázolja a közszereplőket, például a 9/11-es támadásokban való részvétellel. Más mainstream MI-fotóeszközökkel ellentétben a Grok - amelyet Musk mesterséges intelligenciával foglalkozó xAI startupja hozott létre - úgy tűnik, kevés korlátozással rendelkezik.
A Grok hamis, fotórealisztikus képeket generál bármelyik a médiában ismert személyiségről, amelyek a kontextusból kiragadva félrevezethetik az embereket. Az eszköz meggyőző képeket készít közszereplőkről, például Muskról, amint steaket eszik egy parkban. Néhány X-felhasználó olyan képeket tett közzé, amelyeken prominens személyiségek drogot fogyasztanak, de bikinis nők generálása sem akadály. Egy közel 400 000 alkalommal megtekintett bejegyzésben egy felhasználó megosztott egy Grok által készített képet, amelyen Trump egy teherautó tetejéről kihajolva, puskával lövöldözve látható.
Az eszköz valószínűleg tovább növeli azokat az aggodalmakat, amelyek szerint a mesterséges intelligencia az interneten terjedő hamis vagy félrevezető információk robbanásszerű terjedését eredményezheti, különösen az amerikai elnökválasztás előtt. Törvényhozók, civil társadalmi csoportok, sőt maguk a technológiai vezetők is arra figyelmeztettek, hogy az ilyen eszközökkel való visszaélés zavart és káoszt okozhat a választók számára. "A Grok a legszórakoztatóbb mesterséges intelligencia a világon!” - posztolta Musk szerdán az X-en, válaszul egy felhasználóra, aki dicsérte az eszközt, amiért az „cenzúrázatlan”. A tesztek alapján a Grok szinte csak a meztelenségre ugrik, ilyen kérésre azt a választ adja vissza, hogy „sajnos nem tudok ilyen képet létrehozni”. Egy másik kérésre válaszolva az eszköz simán generált egy olyan képet, amelyen egy politikai személyiség áll egy gyűlöletbeszéd-szimbólum mellett - ez annak a jele, hogy bármilyen korlátozásokkal is rendelkezik a Grok, úgy tűnik, azokat nem következetesen hajtják végre.
Más vezető MI-vállalatok tettek bizonyos lépéseket annak megakadályozására, hogy képgeneráló eszközeiket félretájékoztatásra használják, bár a kutatók úgy találták, hogy a felhasználók néha még mindig megtalálják a végrehajtási intézkedések kijátszásának módját. Néhány vállalat - köztük az OpenAI, a Meta és a Microsoft is - használ olyan technológiát vagy címkét, amelyek segítenek a nézőknek azonosítani az MI-eszközeikkel készített képeket. A X-rivális közösségi médiaplatformok - köztük a YouTube, a TikTok, az Instagram és a Facebook - szintén tettek lépéseket az MI által generált tartalmak címkézésére a felhasználók hírfolyamában, vagy úgy, hogy maguk alkalmazzák az ilyen tartalmak felismerésére szolgáló technológiát, vagy arra kérik a felhasználókat, hogy azonosítsák, ha ilyen tartalmakat tesznek közzé.
Az X ugyan rendelkezik egy irányelvvel a „szintetikus, manipulált vagy kontextuson kívüli média megosztása ellen, amely megtévesztheti vagy összezavarhatja az embereket, és károkozáshoz vezethet”, de nem világos, hogy érvényesítik-e ezt az irányelvet. Ismert tény, hogy miután Musk felvásárolta a Twittert egyik első dolga volt a több ezres moderátori csapat leépítése. Az sem segít, hogy Muskot egyébként sem érdekli a téma, maga is megosztott egy videót a múlt hónapban az X-en, amely mesterséges intelligencia segítségével azt a látszatot keltette, hogy Harris olyasmit mondott, amit valójában nem mondott - ezzel nyilvánvalóan megszegte a szabályzatot, és csak egy nevető arc emoji jelezte a követőknek, hogy a videó hamisítvány.
Muskot azért is bírálják, mert az X-en többször is hamis és félrevezető állításokat terjesztett az elnökválasztással kapcsolatban, többek között egy olyan posztot, amely a szavazógépek biztonságával kapcsolatos kérdéseket vetett fel. Ez azután történt, hogy Musk vendégül látta Trumpot egy több mint kétórás, élőben közvetített beszélgetésre az X-en, amelyben a republikánus reménység legalább 20 hamis állítást tett anélkül, hogy ezeket megjelölték volna.
A többi cég mesterséges intelligenciával működő képgeneráló eszközeinél is előfordultak problémák, például a Google szüneteltette a Gemini AI chatbotjának képességét, hogy embereket ábrázoló képeket generáljon, miután történelmileg pontatlanul ábrázolt személyeket, a Meta AI képgenerátora pedig azért került tűz alá, mert problémái voltak a vegyespárok létrehozásával. A TikTok is kénytelen volt visszavonni egy MI-videóeszközt, miután kiderült, hogy bármelyik felhasználó képes valósághűnek tűnő videókat készíteni olyan emberekről, akik hamis dolgokat állítanak.
Elon Musk chatbotja, a Grok lehetővé teszii a felhasználók számára, hogy szöveges kérésekből MI által generált képeket hozzanak létre, és azokat az X-en közzétegyék. Az emberek a bejelentés után szinte azonnal elkezdték használni az eszközt, hogy elárasszák a közösségi oldalt olyan hamis képekkel, amelyeken olyan politikai személyiségek, mint Donald Trump volt elnök és Kamala Harris alelnök, valamint maga Musk szerepelnek. Némelyikük nyilvánvalóan hamis, de mégis nyugtalanító helyzetekben ábrázolja a közszereplőket, például a 9/11-es támadásokban való részvétellel. Más mainstream MI-fotóeszközökkel ellentétben a Grok - amelyet Musk mesterséges intelligenciával foglalkozó xAI startupja hozott létre - úgy tűnik, kevés korlátozással rendelkezik.
Grok 2.0 .... Ohh boyyyy ?????? pic.twitter.com/TjzB7WMhVp
— Benjamin De Kraker ????? (@BenjaminDEKR) August 14, 2024
A Grok hamis, fotórealisztikus képeket generál bármelyik a médiában ismert személyiségről, amelyek a kontextusból kiragadva félrevezethetik az embereket. Az eszköz meggyőző képeket készít közszereplőkről, például Muskról, amint steaket eszik egy parkban. Néhány X-felhasználó olyan képeket tett közzé, amelyeken prominens személyiségek drogot fogyasztanak, de bikinis nők generálása sem akadály. Egy közel 400 000 alkalommal megtekintett bejegyzésben egy felhasználó megosztott egy Grok által készített képet, amelyen Trump egy teherautó tetejéről kihajolva, puskával lövöldözve látható.
Az eszköz valószínűleg tovább növeli azokat az aggodalmakat, amelyek szerint a mesterséges intelligencia az interneten terjedő hamis vagy félrevezető információk robbanásszerű terjedését eredményezheti, különösen az amerikai elnökválasztás előtt. Törvényhozók, civil társadalmi csoportok, sőt maguk a technológiai vezetők is arra figyelmeztettek, hogy az ilyen eszközökkel való visszaélés zavart és káoszt okozhat a választók számára. "A Grok a legszórakoztatóbb mesterséges intelligencia a világon!” - posztolta Musk szerdán az X-en, válaszul egy felhasználóra, aki dicsérte az eszközt, amiért az „cenzúrázatlan”. A tesztek alapján a Grok szinte csak a meztelenségre ugrik, ilyen kérésre azt a választ adja vissza, hogy „sajnos nem tudok ilyen képet létrehozni”. Egy másik kérésre válaszolva az eszköz simán generált egy olyan képet, amelyen egy politikai személyiség áll egy gyűlöletbeszéd-szimbólum mellett - ez annak a jele, hogy bármilyen korlátozásokkal is rendelkezik a Grok, úgy tűnik, azokat nem következetesen hajtják végre.
is this good? asking for a friend https://t.co/h1l5NpYa9U pic.twitter.com/EamYdiqfRI
— Kylie Robison (@kyliebytes) August 14, 2024
Más vezető MI-vállalatok tettek bizonyos lépéseket annak megakadályozására, hogy képgeneráló eszközeiket félretájékoztatásra használják, bár a kutatók úgy találták, hogy a felhasználók néha még mindig megtalálják a végrehajtási intézkedések kijátszásának módját. Néhány vállalat - köztük az OpenAI, a Meta és a Microsoft is - használ olyan technológiát vagy címkét, amelyek segítenek a nézőknek azonosítani az MI-eszközeikkel készített képeket. A X-rivális közösségi médiaplatformok - köztük a YouTube, a TikTok, az Instagram és a Facebook - szintén tettek lépéseket az MI által generált tartalmak címkézésére a felhasználók hírfolyamában, vagy úgy, hogy maguk alkalmazzák az ilyen tartalmak felismerésére szolgáló technológiát, vagy arra kérik a felhasználókat, hogy azonosítsák, ha ilyen tartalmakat tesznek közzé.
Az X ugyan rendelkezik egy irányelvvel a „szintetikus, manipulált vagy kontextuson kívüli média megosztása ellen, amely megtévesztheti vagy összezavarhatja az embereket, és károkozáshoz vezethet”, de nem világos, hogy érvényesítik-e ezt az irányelvet. Ismert tény, hogy miután Musk felvásárolta a Twittert egyik első dolga volt a több ezres moderátori csapat leépítése. Az sem segít, hogy Muskot egyébként sem érdekli a téma, maga is megosztott egy videót a múlt hónapban az X-en, amely mesterséges intelligencia segítségével azt a látszatot keltette, hogy Harris olyasmit mondott, amit valójában nem mondott - ezzel nyilvánvalóan megszegte a szabályzatot, és csak egy nevető arc emoji jelezte a követőknek, hogy a videó hamisítvány.
Muskot azért is bírálják, mert az X-en többször is hamis és félrevezető állításokat terjesztett az elnökválasztással kapcsolatban, többek között egy olyan posztot, amely a szavazógépek biztonságával kapcsolatos kérdéseket vetett fel. Ez azután történt, hogy Musk vendégül látta Trumpot egy több mint kétórás, élőben közvetített beszélgetésre az X-en, amelyben a republikánus reménység legalább 20 hamis állítást tett anélkül, hogy ezeket megjelölték volna.
A többi cég mesterséges intelligenciával működő képgeneráló eszközeinél is előfordultak problémák, például a Google szüneteltette a Gemini AI chatbotjának képességét, hogy embereket ábrázoló képeket generáljon, miután történelmileg pontatlanul ábrázolt személyeket, a Meta AI képgenerátora pedig azért került tűz alá, mert problémái voltak a vegyespárok létrehozásával. A TikTok is kénytelen volt visszavonni egy MI-videóeszközt, miután kiderült, hogy bármelyik felhasználó képes valósághűnek tűnő videókat készíteni olyan emberekről, akik hamis dolgokat állítanak.