SG.hu

Bármilyen hamis kép elkészíthető Elon Musk MI-képgenerátorával

Bill Gates kokaint szív? Trump belerepül az ikertornyokba? Mindez csak egy kattintás, és a Grok megvalósítja.

Elon Musk chatbotja, a Grok lehetővé teszii a felhasználók számára, hogy szöveges kérésekből MI által generált képeket hozzanak létre, és azokat az X-en közzétegyék. Az emberek a bejelentés után szinte azonnal elkezdték használni az eszközt, hogy elárasszák a közösségi oldalt olyan hamis képekkel, amelyeken olyan politikai személyiségek, mint Donald Trump volt elnök és Kamala Harris alelnök, valamint maga Musk szerepelnek. Némelyikük nyilvánvalóan hamis, de mégis nyugtalanító helyzetekben ábrázolja a közszereplőket, például a 9/11-es támadásokban való részvétellel. Más mainstream MI-fotóeszközökkel ellentétben a Grok - amelyet Musk mesterséges intelligenciával foglalkozó xAI startupja hozott létre - úgy tűnik, kevés korlátozással rendelkezik.


A Grok hamis, fotórealisztikus képeket generál bármelyik a médiában ismert személyiségről, amelyek a kontextusból kiragadva félrevezethetik az embereket. Az eszköz meggyőző képeket készít közszereplőkről, például Muskról, amint steaket eszik egy parkban. Néhány X-felhasználó olyan képeket tett közzé, amelyeken prominens személyiségek drogot fogyasztanak, de bikinis nők generálása sem akadály. Egy közel 400 000 alkalommal megtekintett bejegyzésben egy felhasználó megosztott egy Grok által készített képet, amelyen Trump egy teherautó tetejéről kihajolva, puskával lövöldözve látható.

Az eszköz valószínűleg tovább növeli azokat az aggodalmakat, amelyek szerint a mesterséges intelligencia az interneten terjedő hamis vagy félrevezető információk robbanásszerű terjedését eredményezheti, különösen az amerikai elnökválasztás előtt. Törvényhozók, civil társadalmi csoportok, sőt maguk a technológiai vezetők is arra figyelmeztettek, hogy az ilyen eszközökkel való visszaélés zavart és káoszt okozhat a választók számára. "A Grok a legszórakoztatóbb mesterséges intelligencia a világon!” - posztolta Musk szerdán az X-en, válaszul egy felhasználóra, aki dicsérte az eszközt, amiért az „cenzúrázatlan”. A tesztek alapján a Grok szinte csak a meztelenségre ugrik, ilyen kérésre azt a választ adja vissza, hogy „sajnos nem tudok ilyen képet létrehozni”. Egy másik kérésre válaszolva az eszköz simán generált egy olyan képet, amelyen egy politikai személyiség áll egy gyűlöletbeszéd-szimbólum mellett - ez annak a jele, hogy bármilyen korlátozásokkal is rendelkezik a Grok, úgy tűnik, azokat nem következetesen hajtják végre.


Más vezető MI-vállalatok tettek bizonyos lépéseket annak megakadályozására, hogy képgeneráló eszközeiket félretájékoztatásra használják, bár a kutatók úgy találták, hogy a felhasználók néha még mindig megtalálják a végrehajtási intézkedések kijátszásának módját. Néhány vállalat - köztük az OpenAI, a Meta és a Microsoft is - használ olyan technológiát vagy címkét, amelyek segítenek a nézőknek azonosítani az MI-eszközeikkel készített képeket. A X-rivális közösségi médiaplatformok - köztük a YouTube, a TikTok, az Instagram és a Facebook - szintén tettek lépéseket az MI által generált tartalmak címkézésére a felhasználók hírfolyamában, vagy úgy, hogy maguk alkalmazzák az ilyen tartalmak felismerésére szolgáló technológiát, vagy arra kérik a felhasználókat, hogy azonosítsák, ha ilyen tartalmakat tesznek közzé.


Az X ugyan rendelkezik egy irányelvvel a „szintetikus, manipulált vagy kontextuson kívüli média megosztása ellen, amely megtévesztheti vagy összezavarhatja az embereket, és károkozáshoz vezethet”, de nem világos, hogy érvényesítik-e ezt az irányelvet. Ismert tény, hogy miután Musk felvásárolta a Twittert egyik első dolga volt a több ezres moderátori csapat leépítése. Az sem segít, hogy Muskot egyébként sem érdekli a téma, maga is megosztott egy videót a múlt hónapban az X-en, amely mesterséges intelligencia segítségével azt a látszatot keltette, hogy Harris olyasmit mondott, amit valójában nem mondott - ezzel nyilvánvalóan megszegte a szabályzatot, és csak egy nevető arc emoji jelezte a követőknek, hogy a videó hamisítvány.


Muskot azért is bírálják, mert az X-en többször is hamis és félrevezető állításokat terjesztett az elnökválasztással kapcsolatban, többek között egy olyan posztot, amely a szavazógépek biztonságával kapcsolatos kérdéseket vetett fel. Ez azután történt, hogy Musk vendégül látta Trumpot egy több mint kétórás, élőben közvetített beszélgetésre az X-en, amelyben a republikánus reménység legalább 20 hamis állítást tett anélkül, hogy ezeket megjelölték volna.

A többi cég mesterséges intelligenciával működő képgeneráló eszközeinél is előfordultak problémák, például a Google szüneteltette a Gemini AI chatbotjának képességét, hogy embereket ábrázoló képeket generáljon, miután történelmileg pontatlanul ábrázolt személyeket, a Meta AI képgenerátora pedig azért került tűz alá, mert problémái voltak a vegyespárok létrehozásával. A TikTok is kénytelen volt visszavonni egy MI-videóeszközt, miután kiderült, hogy bármelyik felhasználó képes valósághűnek tűnő videókat készíteni olyan emberekről, akik hamis dolgokat állítanak.

Hozzászólások

A témához csak regisztrált és bejelentkezett látogatók szólhatnak hozzá!
Bejelentkezéshez klikk ide
(Regisztráció a fórum nyitóoldalán)
  • gosub #14
    inkvisitor1978: Csalóknak is kötelezően táblát kellene hordani, különben a rendőr megbüntetné őket, máris kevesebb lenne belőlük.
  • manypet #13
    "Hova lehet még rontani a Disney hírnevét, de most őszintén? :D"
    :-D Ez jó volt.
    Viszont soha ne kételkedj a balosok képességeiben. Ahogy a mondás is tartja:
    Mindig van lejjebb! ;-)
  • manypet #12
    "De a kritikus gondolkodás az felelősséget ró az egyénre és a felelősségtől rettegnek az emberek."
    +1
  • inkvisitor1978 #11
    Elvileg egyszerű lenne a probléma megoldása.
    Minden manipulált képen, fotón, videón kötelező jelleggel szerepelnie kell a feliratnak:
    Utólagosan manipulált kép, AI generált kép stb, már a szoftver által beégetetten.
    A felirat elhagyása automatikusan büntetett.
    Ez gyorsan helyrerakná ezeket a kérdéseket.
  • kvp #10
    "Én attól félek a legjobban, hogy a bíróságokon ~innentől lehet kidobni a fotókat, videókat, hangfelvételeket, mint bizonyítékokat."

    Ezzel kapcsolatban mar egy jo evtizede elsutott par talalo poent a futurama. De igen, nagyjabol onnantol az emberek szavahihetosege szamit csak, hogy tenyleg igaz az ami a felvetelen van. Nem mintha a kozepkorban vagy akar csak 200 eve lett volna jobb megoldas.

    Mindenesetre en az internetes tartalmaknak akkor sem hiszek ha kerdeznek, szoval elvileg barmi hazugsag lehet es az ellentetje is. Meg az MI generalt kepek egy resze is hamis es valojaban ember generalta oket.
  • MerlinW #9
    Hove lehet még rontani a Disney hírnevét, de most őszintén? :D
  • YaniMan #8
    Én attól félek a legjobban, hogy a bíróságokon ~innentől lehet kidobni a fotókat, videókat, hangfelvételeket, mint bizonyítékokat.
  • banjozsef #7
    De hát a hazugság mindig is létezett és mindig is létezni fog. Eddig is voltak hamisított adatok, képek, videók. Ezt az AI-MI ( persze már előtte is az volt, mielőtt elkezdték volna annak nevezni ) csak felgyorsította. Nem véletlenül lett olyan sikeres a Facebook, a YouTube és az Instagram, hogy csak a leglényegesebb régieket említsem, de persze itt van már a TikTok, a Snapchat és az X ( persze a Twitter is, de az már kimúlt ) is, hogy néhány újabbat is említsek. Az emberek egyszerűen szeretik a hazugságot, amiben teljesen igazuk is van. A valóság szörnyű, kiábrándító. Az igazság az egyetlen fontos dolog, de ezt végre igazi erőfeszítés lesz kideríteni, úgyhogy aki figyel, gondolkodik, nyomoz, utánanéz, kételkedik csak annak lesz szerencséje túlélni ezt is, de persze lehet hogy van más út is, de az is lehet hogy nincs. Nyilvánvaló, hogy ezt mindenkinek magának kell kideríteni, ami persze sok időt, energiát felemészthet, de lehet hogy csak ennek van értelme. Egyébként ez nevezik tapasztalatnak, ami nem megspórolható a legtöbb lényeges dolog esetén, ha igazi tudáshoz akarunk jutni egy adott dologgal kapcsolatban. Persze azért az adott ügy megoldására is készítettem a bjos BjPress -t, amit kimondottan az ismertebb AI -k kiképzésére is készítettem. Ha engem - de igazából a BjPress -t - olvasnak, talán jobbak lesznek, de persze ebben azért annyira nem bíztam, ezért kénytelen voltam kiadni az ai.bjos -t és az ai.bjpress -t is, amik ugyanúgy AI -k, de az embereknek készültek, pontosabban az emberi gondolkodás fejlesztésére és nem kimondott az AI -k gondolkodásának a fejlesztésére, de arra is jók.
  • ZenMillitia #6
    Nagyon helyes. Aki akarja ugyis megcsinalja uncensored AIokkal amiket akarhonnan letolthet. Es igy nem a hisztisek limitaciora kell forditani az eroforrast. Elon Musk a legnagyobb arc. Imadom amikor ledaralja a BBC riporteret. Erdemes megnezi youtubeon. Zsenialis.
  • wkm #5
    Be kell tiltani az internetet. Szólásszabadság nélkül amúgy sem ér sokat.