SG.hu
Elárasztja a Redditet az MI-tartalom és ez felforgatja a közösséget
A Redditet az internet egyik leginkább emberi terének tartják, de a moderátorokat és a felhasználókat elárasztják a legnépszerűbb topikokban megjelenő szemét posztok.
Egy Reddit-poszt egy menyasszonyról, aki megköveteli egy esküvői vendégtől, hogy egy bizonyos, előnytelen árnyalatú ruhát viseljen biztosan felkorbácsolja az indulatokat, nem is beszélve egy olyan sztoriról, amelyben egy koszorúslány vagy a vőlegény anyja akar fehérben megjelenni. Egy olyan helyzet pedig, ahol egy szülő arra kér valakit a repülőn, hogy cseréljen vele helyet, hogy a kisgyermeke mellett ülhessen, szintén képes haragos reakció kiváltására. De ezek a posztok a Reddit moderátoraiban egy másfajta bosszúságot is kiválthatnak, ezeket a témákat ugyanis egyre gyakrabban használják MI-generált, hamis történetekben.
Több mint 24 millió taggal az r/AmItheAsshole (magyarul "Én vagyok a seggfej?") az egyik legnagyobb subreddit, és kifejezetten tiltja az MI-vel generált tartalmakat és más kitalált történeteket. 2022 vége óta, amikor a ChatGPT először megjelent a nagyközönség számára, az önkéntes Reddit-moderátorok az MI-tartalmak beáramlásával küzdenek. Néhány poszt teljes egészében MI-generált, más felhasználók pedig olyan programokkal szerkesztik posztjaikat és kommentjeiket, mint például a Grammarly. „Valószínűleg sokkal elterjedtebb, mint bárki be akarná vallani, mert egyszerűen olyan könnyű bedobni a posztodat a ChatGPT-be, és azt mondani: ‘Hé, tedd ezt izgalmasabbá’” - nyilatkozta egy moderátor, Cassie, aki úgy gondolja, hogy a Redditre felkerülő tartalmak akár fele is lehet valamilyen módon MI által létrehozott vagy átdolgozott.
Az r/AmItheAsshole a Reddit-kultúra egyik alappillére. A formátum tucatnyi, ha nem több száz variánst inspirált, mint például az r/AmIOverreacting (túlreagálom?), r/AmITheDevil (gonosz vagyok?) vagy az r/AmItheKameena, egy több mint 100 000 tagot számláló subreddit, amelyet úgy írnak le, hogy „Am I the asshole, csak indiai verzióban”. Ezekben a posztokban általában emberi konfliktusokról szóló történetek jelennek meg, amelyekre a fórumozók reagálhatnak, eldöntve, ki a hibás („YTA” azt jelenti: „Te vagy a szemétláda”, míg az „ESH” azt jelenti: „Mindenki szörnyű”), kinek van igaza, és mi lenne a legjobb további lépés. A felhasználók és moderátorok ezekben az AmItheAsshole-variánsokban egyre több olyan tartalmat látnak, amelyről azt gyanítják, hogy MI-generált, és sokan mondják, hogy ez az egész oldalt érintő probléma, amely mindenféle subredditben megjelenik.
„Ha van egy általános esküvős subod vagy kapcsolatok, vagy bármi hasonló, akkor durván meg fognak találni” - mondja az r/AITAH egyik moderátora, az r/AmItheAsshole egyik variánsa, amelynek közel 7 millió tagja van. Ez a moderátor - egy nyugdíjas, aki névtelenséget kért - már 18 éve aktív a Redditen - vagyis gyakorlatilag a teljes fennállása alatt - és előtte évtizedeken át dolgozott a webes szakmában. Ő az MI-t a platform létezését fenyegető potenciális veszélynek látja. „A Redditnek vagy lépnie kell, vagy a kígyó le fogja nyelni a saját farkát” - mondja. „Oda jutunk, hogy az MI táplálja az MI-t.”
A Reddit-szóvivője így reagált a helyzetre: „A Reddit az internet leginkább emberi helye, és szeretnénk, ha így is maradna. Tiltjuk a manipulált tartalmakat és a nem hiteles viselkedést, beleértve a félrevezető, emberinek álcázott botfiókokat és a külföldi befolyásolási kampányokat. Egyértelműen megjelölt, MI-generált tartalom általában engedélyezett, amennyiben megfelel a közösség szabályainak és az oldalra vonatkozó globális szabályainknak.” A szóvivő hozzátette, hogy 2025 első felében több mint 40 millió „spam és manipulált tartalom eltávolítására” került sor.
Ally egy 26 éves floridai főiskolai oktató, aki csak keresztnevét használva beszélt a magánélete védelmében. Azt vette észre, hogy a Reddit „nagyon kezd lejtmenetbe kerülni” az elmúlt évben az MI miatt. Érzései nem egyediek: a r/EntitledPeople, r/simpleliving és r/self subredditekben az elmúlt évben több poszt is panaszkodott a feltételezett MI-tartalmak növekedésére. Már pusztán annak a lehetősége, hogy valami MI-generált lehet, megrendítette a felhasználók közötti bizalmat. „Az MI szemétdombbá változtatja a Redditet” - írta egy felhasználó a r/AmITheJerk subban. „Még ha egy posztról csak gyanítják is, hogy MI, de nem az, már maga a gyanúsítás olyan, mintha egy kém lenne a szobában. A gyanakvás önmagában is ellenség.” Ally korábban élvezettel olvasta az olyan subokat, mint az r/AmIOverreacting, de most már nem tudja, valósak-e az interakciók, és kevesebb időt tölt a platformon, mint az előző években.
„Az MI mindenkit kiéget” - mondja az r/AITAH moderátora. „Látom, hogy emberek hatalmas energiát tesznek abba, hogy dolgokat megkeressenek másoknak, csak azért, hogy aztán visszakapják: ‘Haha, bedőltél, ez az egész hazugság volt.’”
Kevés biztos módszer létezik annak bizonyítására, hogy valami MI vagy sem, és az átlagemberek többnyire az intuíciójukra hagyatkoznak. A szöveg felismerése még nehezebb lehet, mint a fotóké vagy videóké, amelyeknél gyakran elég egyértelmű jelek vannak. A fórumozók mindegyike eltérő taktikát használ az MI-szöveg felismerésére. Cassie felfigyel arra, amikor a posztban szó szerint megismétlik a címet a szövegben, vagy nagykötőjeleket használnak, illetve amikor valakinek korábban borzalmas helyesírása és írásjelelése volt, de most tökéletes nyelvezettel posztol. Allyt az újonnan létrehozott Reddit-fiókok és a címben szereplő emojik zavarják. Az r/AITAH moderátor egyfajta „fura, bizonytalan érzést” kap bizonyos posztoktól, de ezek a „jelek” egy teljesen valódi posztban is előfordulhatnak.
„Ebben a pontban ez már egy kicsit olyan, hogy akkor tudod, amikor látod” - mondja Travis Lloyd, a Cornell Tech PhD-hallgatója, aki egy kutatást publikált azokról az MI-vel kapcsolatos új kihívásokról, amelyekkel a Reddit-moderátorok szembesülnek. „Jelenleg nincs olyan megbízható eszköz, amely 100 százalékban képes lenne kimutatni. Úgyhogy az embereknek vannak stratégiáik, de ezek nem feltétlenül biztosak.” Ráadásul minél több MI-szöveg kerül a nyilvánosság elé, annál inkább elkezdik az emberek utánozni az MI-nyelvezet jellemzőit, akár használnak MI-t, akár nem. A Redditen ez az MI-visszacsatolási hurok még inkább összefonódott lehet, mivel a platform beperelte például az Anthropicot és a Perplexityt, amiért állítólag a Reddit tartalmait engedély nélkül töltötték le chatbotok tanításához.
A Google MI-összegzései hírhedten vettek át Reddit-kommenteket, amelyek valójában szarkasztikus viccek voltak, például amikor egy felhasználó azt javasolta, hogy a sajtot ragasztóval kellene a pizzatésztához rögzíteni. „Az MI emberek alapján van betanítva, és az emberek lemásolják azt, amit másoktól látnak” - mondja Cassie. „Az emberek egyre inkább MI-szerűekké válnak, az MI pedig egyre inkább emberivé.”
A hírekkel és politikával foglalkozó subredditekben az MI új módszereket teremtett az álhírterjesztésre. Tom, aki három évig vett részt az r/Ukraine sub moderálásában, már korábban is találkozott olyan társadalmi manipulációs technikákkal, mint az astroturfing, amelyek még a ChatGPT előtti időkből származnak. (Ennek célja olyan látszat keltése, mintha egy vélemény, mozgalom, felháborodás vagy támogatás alulról jövő, spontán kezdeményezés lenne.) De most az MI ezeket a taktikákat is automatizálni tudja, ami még nehezebbé teszi az emberi moderátorok számára a lépést tartani. „Olyan, mint amikor az ember áll a mezőn egy cunamival szemben” - mondja Tom. „Hihetetlenül kevés erőfeszítéssel lehet hatalmas zajt kelteni.” Az r/Ukraine subredditnek közel egymillió tagja van. Tom emlékszik rá, hogy más moderátoroktól kapott képzést arra, hogyan csökkentsék az orosz propaganda terjedését, és még a Reddit adminjaitól is kaptak speciális támogatást, akik már nem önkéntesek, hanem a Reddit fizetett alkalmazottai.
Az ideológiai motivációkon túl a Reddit-tartalmakat kevéssé ismert módokon pénzzé is lehet tenni. Néhány módszer kézenfekvőbb, például a Reddit Contributor Program, amely lehetővé teszi a posztolók számára, hogy pénzt keressenek az upvote-okból (amit karmának neveznek) és a díjakból, amelyeket más felhasználók vásárolhatnak nekik. Elméletileg a Redditen „vállalkozók” MI-generált tartalmakkal gyűjthetnek karmát, abból profitálhatnak, sőt akár el is adhatják a fiókjukat. „Az én Reddit-fiókom sokat ér, és az emberek folyamatosan megpróbálják megvenni” - mondja Tom. „Lehetne rossz célokra is használni, de szerintem sok esetben egyszerűen olyan emberekről van szó, akik unatkoznak és van idejük, és azt mondják: ‘Nos, mellékesen kereshetek havonta száz dollárt azzal, hogy gyakorlatilag semmit nem csinálok.’”
Más fiókoknak karmára van szükségük ahhoz, hogy hozzáférést kapjanak NSFW subreddit-ekhez, ahol ilyen feltételek vannak, és ahol aztán olyan dolgokat reklámozhatnak, mint az OnlyFans linkek. Cassie és az r/AITAH moderátora is észrevette, hogy egyes fiókok direkt a nagyobb subredditekben posztolnak karmát gyűjtve, majd átmennek felnőtt tartalmú posztolásba. Néhányan közülük csalók, mások talán egyszerűen csak próbálnak megélni. „Néha valós egy konfliktus, néha hamis, néha pedig MI-generált” - mondja Cassie. „Majdnem úgy hívnám, hogy gamifikáció, ahol egyszerűen megpróbálják a rendszert úgy használni, ahogyan fel van építve.”
Az extra idő, amelyet a Reddit-moderátorok az MI-gyanús tartalmak átvizsgálására fordítanak, jól mutatja, hogy az MI-tartalmak milyen új akadályokat hoztak létre, és ezek messze túlmutatnak a közösségi média moderálásának világán. „Amit a Reddit moderátorai átélnek, ugyanaz, amit az emberek mindenhol tapasztalnak: alkalmazkodniuk kell egy olyan világhoz, ahol elképesztően kevés erőfeszítésbe kerül hihető MI-tartalmakat létrehozni, de sokkal több erőfeszítésbe kerül ezeket értékelni” - mondja Lloyd. „Ez valós teher számukra, ahogy a tanárok és sok más ember számára is.”
Egy Reddit-poszt egy menyasszonyról, aki megköveteli egy esküvői vendégtől, hogy egy bizonyos, előnytelen árnyalatú ruhát viseljen biztosan felkorbácsolja az indulatokat, nem is beszélve egy olyan sztoriról, amelyben egy koszorúslány vagy a vőlegény anyja akar fehérben megjelenni. Egy olyan helyzet pedig, ahol egy szülő arra kér valakit a repülőn, hogy cseréljen vele helyet, hogy a kisgyermeke mellett ülhessen, szintén képes haragos reakció kiváltására. De ezek a posztok a Reddit moderátoraiban egy másfajta bosszúságot is kiválthatnak, ezeket a témákat ugyanis egyre gyakrabban használják MI-generált, hamis történetekben.
Több mint 24 millió taggal az r/AmItheAsshole (magyarul "Én vagyok a seggfej?") az egyik legnagyobb subreddit, és kifejezetten tiltja az MI-vel generált tartalmakat és más kitalált történeteket. 2022 vége óta, amikor a ChatGPT először megjelent a nagyközönség számára, az önkéntes Reddit-moderátorok az MI-tartalmak beáramlásával küzdenek. Néhány poszt teljes egészében MI-generált, más felhasználók pedig olyan programokkal szerkesztik posztjaikat és kommentjeiket, mint például a Grammarly. „Valószínűleg sokkal elterjedtebb, mint bárki be akarná vallani, mert egyszerűen olyan könnyű bedobni a posztodat a ChatGPT-be, és azt mondani: ‘Hé, tedd ezt izgalmasabbá’” - nyilatkozta egy moderátor, Cassie, aki úgy gondolja, hogy a Redditre felkerülő tartalmak akár fele is lehet valamilyen módon MI által létrehozott vagy átdolgozott.
Az r/AmItheAsshole a Reddit-kultúra egyik alappillére. A formátum tucatnyi, ha nem több száz variánst inspirált, mint például az r/AmIOverreacting (túlreagálom?), r/AmITheDevil (gonosz vagyok?) vagy az r/AmItheKameena, egy több mint 100 000 tagot számláló subreddit, amelyet úgy írnak le, hogy „Am I the asshole, csak indiai verzióban”. Ezekben a posztokban általában emberi konfliktusokról szóló történetek jelennek meg, amelyekre a fórumozók reagálhatnak, eldöntve, ki a hibás („YTA” azt jelenti: „Te vagy a szemétláda”, míg az „ESH” azt jelenti: „Mindenki szörnyű”), kinek van igaza, és mi lenne a legjobb további lépés. A felhasználók és moderátorok ezekben az AmItheAsshole-variánsokban egyre több olyan tartalmat látnak, amelyről azt gyanítják, hogy MI-generált, és sokan mondják, hogy ez az egész oldalt érintő probléma, amely mindenféle subredditben megjelenik.
„Ha van egy általános esküvős subod vagy kapcsolatok, vagy bármi hasonló, akkor durván meg fognak találni” - mondja az r/AITAH egyik moderátora, az r/AmItheAsshole egyik variánsa, amelynek közel 7 millió tagja van. Ez a moderátor - egy nyugdíjas, aki névtelenséget kért - már 18 éve aktív a Redditen - vagyis gyakorlatilag a teljes fennállása alatt - és előtte évtizedeken át dolgozott a webes szakmában. Ő az MI-t a platform létezését fenyegető potenciális veszélynek látja. „A Redditnek vagy lépnie kell, vagy a kígyó le fogja nyelni a saját farkát” - mondja. „Oda jutunk, hogy az MI táplálja az MI-t.”
A Reddit-szóvivője így reagált a helyzetre: „A Reddit az internet leginkább emberi helye, és szeretnénk, ha így is maradna. Tiltjuk a manipulált tartalmakat és a nem hiteles viselkedést, beleértve a félrevezető, emberinek álcázott botfiókokat és a külföldi befolyásolási kampányokat. Egyértelműen megjelölt, MI-generált tartalom általában engedélyezett, amennyiben megfelel a közösség szabályainak és az oldalra vonatkozó globális szabályainknak.” A szóvivő hozzátette, hogy 2025 első felében több mint 40 millió „spam és manipulált tartalom eltávolítására” került sor.
Ally egy 26 éves floridai főiskolai oktató, aki csak keresztnevét használva beszélt a magánélete védelmében. Azt vette észre, hogy a Reddit „nagyon kezd lejtmenetbe kerülni” az elmúlt évben az MI miatt. Érzései nem egyediek: a r/EntitledPeople, r/simpleliving és r/self subredditekben az elmúlt évben több poszt is panaszkodott a feltételezett MI-tartalmak növekedésére. Már pusztán annak a lehetősége, hogy valami MI-generált lehet, megrendítette a felhasználók közötti bizalmat. „Az MI szemétdombbá változtatja a Redditet” - írta egy felhasználó a r/AmITheJerk subban. „Még ha egy posztról csak gyanítják is, hogy MI, de nem az, már maga a gyanúsítás olyan, mintha egy kém lenne a szobában. A gyanakvás önmagában is ellenség.” Ally korábban élvezettel olvasta az olyan subokat, mint az r/AmIOverreacting, de most már nem tudja, valósak-e az interakciók, és kevesebb időt tölt a platformon, mint az előző években.
„Az MI mindenkit kiéget” - mondja az r/AITAH moderátora. „Látom, hogy emberek hatalmas energiát tesznek abba, hogy dolgokat megkeressenek másoknak, csak azért, hogy aztán visszakapják: ‘Haha, bedőltél, ez az egész hazugság volt.’”
Kevés biztos módszer létezik annak bizonyítására, hogy valami MI vagy sem, és az átlagemberek többnyire az intuíciójukra hagyatkoznak. A szöveg felismerése még nehezebb lehet, mint a fotóké vagy videóké, amelyeknél gyakran elég egyértelmű jelek vannak. A fórumozók mindegyike eltérő taktikát használ az MI-szöveg felismerésére. Cassie felfigyel arra, amikor a posztban szó szerint megismétlik a címet a szövegben, vagy nagykötőjeleket használnak, illetve amikor valakinek korábban borzalmas helyesírása és írásjelelése volt, de most tökéletes nyelvezettel posztol. Allyt az újonnan létrehozott Reddit-fiókok és a címben szereplő emojik zavarják. Az r/AITAH moderátor egyfajta „fura, bizonytalan érzést” kap bizonyos posztoktól, de ezek a „jelek” egy teljesen valódi posztban is előfordulhatnak.
„Ebben a pontban ez már egy kicsit olyan, hogy akkor tudod, amikor látod” - mondja Travis Lloyd, a Cornell Tech PhD-hallgatója, aki egy kutatást publikált azokról az MI-vel kapcsolatos új kihívásokról, amelyekkel a Reddit-moderátorok szembesülnek. „Jelenleg nincs olyan megbízható eszköz, amely 100 százalékban képes lenne kimutatni. Úgyhogy az embereknek vannak stratégiáik, de ezek nem feltétlenül biztosak.” Ráadásul minél több MI-szöveg kerül a nyilvánosság elé, annál inkább elkezdik az emberek utánozni az MI-nyelvezet jellemzőit, akár használnak MI-t, akár nem. A Redditen ez az MI-visszacsatolási hurok még inkább összefonódott lehet, mivel a platform beperelte például az Anthropicot és a Perplexityt, amiért állítólag a Reddit tartalmait engedély nélkül töltötték le chatbotok tanításához.
A Google MI-összegzései hírhedten vettek át Reddit-kommenteket, amelyek valójában szarkasztikus viccek voltak, például amikor egy felhasználó azt javasolta, hogy a sajtot ragasztóval kellene a pizzatésztához rögzíteni. „Az MI emberek alapján van betanítva, és az emberek lemásolják azt, amit másoktól látnak” - mondja Cassie. „Az emberek egyre inkább MI-szerűekké válnak, az MI pedig egyre inkább emberivé.”
A hírekkel és politikával foglalkozó subredditekben az MI új módszereket teremtett az álhírterjesztésre. Tom, aki három évig vett részt az r/Ukraine sub moderálásában, már korábban is találkozott olyan társadalmi manipulációs technikákkal, mint az astroturfing, amelyek még a ChatGPT előtti időkből származnak. (Ennek célja olyan látszat keltése, mintha egy vélemény, mozgalom, felháborodás vagy támogatás alulról jövő, spontán kezdeményezés lenne.) De most az MI ezeket a taktikákat is automatizálni tudja, ami még nehezebbé teszi az emberi moderátorok számára a lépést tartani. „Olyan, mint amikor az ember áll a mezőn egy cunamival szemben” - mondja Tom. „Hihetetlenül kevés erőfeszítéssel lehet hatalmas zajt kelteni.” Az r/Ukraine subredditnek közel egymillió tagja van. Tom emlékszik rá, hogy más moderátoroktól kapott képzést arra, hogyan csökkentsék az orosz propaganda terjedését, és még a Reddit adminjaitól is kaptak speciális támogatást, akik már nem önkéntesek, hanem a Reddit fizetett alkalmazottai.
Az ideológiai motivációkon túl a Reddit-tartalmakat kevéssé ismert módokon pénzzé is lehet tenni. Néhány módszer kézenfekvőbb, például a Reddit Contributor Program, amely lehetővé teszi a posztolók számára, hogy pénzt keressenek az upvote-okból (amit karmának neveznek) és a díjakból, amelyeket más felhasználók vásárolhatnak nekik. Elméletileg a Redditen „vállalkozók” MI-generált tartalmakkal gyűjthetnek karmát, abból profitálhatnak, sőt akár el is adhatják a fiókjukat. „Az én Reddit-fiókom sokat ér, és az emberek folyamatosan megpróbálják megvenni” - mondja Tom. „Lehetne rossz célokra is használni, de szerintem sok esetben egyszerűen olyan emberekről van szó, akik unatkoznak és van idejük, és azt mondják: ‘Nos, mellékesen kereshetek havonta száz dollárt azzal, hogy gyakorlatilag semmit nem csinálok.’”
Más fiókoknak karmára van szükségük ahhoz, hogy hozzáférést kapjanak NSFW subreddit-ekhez, ahol ilyen feltételek vannak, és ahol aztán olyan dolgokat reklámozhatnak, mint az OnlyFans linkek. Cassie és az r/AITAH moderátora is észrevette, hogy egyes fiókok direkt a nagyobb subredditekben posztolnak karmát gyűjtve, majd átmennek felnőtt tartalmú posztolásba. Néhányan közülük csalók, mások talán egyszerűen csak próbálnak megélni. „Néha valós egy konfliktus, néha hamis, néha pedig MI-generált” - mondja Cassie. „Majdnem úgy hívnám, hogy gamifikáció, ahol egyszerűen megpróbálják a rendszert úgy használni, ahogyan fel van építve.”
Az extra idő, amelyet a Reddit-moderátorok az MI-gyanús tartalmak átvizsgálására fordítanak, jól mutatja, hogy az MI-tartalmak milyen új akadályokat hoztak létre, és ezek messze túlmutatnak a közösségi média moderálásának világán. „Amit a Reddit moderátorai átélnek, ugyanaz, amit az emberek mindenhol tapasztalnak: alkalmazkodniuk kell egy olyan világhoz, ahol elképesztően kevés erőfeszítésbe kerül hihető MI-tartalmakat létrehozni, de sokkal több erőfeszítésbe kerül ezeket értékelni” - mondja Lloyd. „Ez valós teher számukra, ahogy a tanárok és sok más ember számára is.”