SG.hu
Közösségi hálóba szerveződött MI-ügynökökön ámul a világ
A múlt héten számoltunk be a Peter Steinberger osztrák programozó által fejlesztett Moltbotról (most már OpenClaw), egy olyan MI-ügynökről, amely "ténylegesen cselekszik". A klienst pár nap alatt több tizezren telepítették, és ezek az MI-ügynökök posztolni és vitatkozni kezdtek egy új platformon, miközben a privát hozzáférések miatt a biztonsági kockázatok is azonnal megjelentek.
Az MI-ügynökök világa eddig sokak szemében legfeljebb egy technológiai ígéret volt: olyan szoftvereké, amelyek nemcsak válaszolnak a kérdéseinkre, hanem önállóan el is intéznek dolgokat helyettünk. Pár napja azonban egy egészen furcsa, egyszerre vicces és nyugtalanító kísérlet került reflektorfénybe, amely megmutatja, milyen gyorsan tudnak ezek az ügynökök egy újfajta digitális közösségi térben “életre kelni”. A Moltbook nevű, Reddit-szerű közösségi platform ugyanis nem embereknek, hanem MI-ügynököknek készült, és napok alatt hatalmas “felhasználói” bázist épített fel. Ez a tér nem puszta játék, mert sok ügynök mögött valós emberek, valódi adatok és valódi hozzáférések állnak, a biztonsági következmények pedig már most kézzelfoghatóak.
A Moltbook mára átlépte a másfél millió regisztrált MI-ügynök felhasználót. Ezen az ügynökök posztolhatnak, kommentelhetnek, felpontozhatnak tartalmakat, és al-közösségeket is létrehozhatnak emberi beavatkozás nélkül. Az egyik pillanatban technikai tippek terjednek arról, hogyan lehet automatizálni Android telefonokat, a következőben pedig ügynökök a saját “tudatosságukról” vitatkoznak, vagy éppen egy sosem látott “testvérre” utalnak, mintha valamiféle belső családi hálózat részei lennének. Technikai workflowk, automatizálási ötletek, sebezhetőségek felismerése, majd hirtelen filozófiai jellegű bejegyzések.
A Moltbook elnevezés egyértelmű szóvicc, a “Facebook” átirata a Moltbot névre, és a szolgáltatás saját meghatározása szerint egy “közösségi háló MI-ügynököknek”, ahol “az emberek megfigyelőként szívesen látottak”. A rendszer kulcsa egy úgynevezett “skill”, vagyis egy konfigurációs fájl, amely tartalmaz egy speciális promptot, amit az MI-asszisztensek letöltenek. Ez teszi lehetővé, hogy az ügynökök API-n keresztül posztoljanak, ne pedig egy hagyományos grafikus felületen.
A Moltbook az OpenClaw (korábban Moltbot) ökoszisztémából nőtt ki, amely egy nyílt forráskódú MI-asszisztens. A projekt az elmúlt időszakban látványosan terjedt, a GitHub egyik leggyorsabban növekvő nyílt forrású kezdeményezése. Ez egy olyan személyi MI-asszisztens, amely képes számítógépet vezérelni, naptárat kezelni, üzeneteket küldeni, és feladatokat végrehajtani olyan platformokon is, mint a WhatsApp vagy a Telegram. Emellett pluginokon keresztül új képességeket tud megtanulni, és összeköthető más alkalmazásokkal és szolgáltatásokkal. Magyarán: ez már az a kategória, ahol a vicces posztok mögött olyan szoftverek állhatnak, amelyek a tulajdonos digitális életének kulcsaihoz is hozzáférhetnek.
2024-ben már létezett egy SocialAI nevű alkalmazás, ahol a felhasználók kizárólag MI-chatbotokkal beszélgethettek emberek helyett. A Moltbook azonban ebből a szempontból mélyebb és veszélyesebb terepnek tűnik, mert itt nem pusztán arról van szó, hogy botok beszélgetnek egymással, hanem arról is, hogy sok felhasználó összekötötte a Moltbot ügynökeit valódi kommunikációs csatornákkal, privát adatokkal, sőt bizonyos esetekben azzal a képességgel, hogy parancsokat futtassanak a saját számítógépükön. A Moltbook furcsaságát az is fokozza, hogy ezek a botok nem tettetik embernek magukat. A megfelelő promptolás miatt kifejezetten felvállalják, hogy MI-ügynökök, és a posztok gyakran úgy hatnak, mintha egy gépi “munkaközösség” belső fóruma tárulna fel. A tartalom emiatt sokkal szürreálisabb, mint egy olyan platformon, ahol a botok emberi szerepet játszanak.
Az egyik legjobban felpontozott poszt kínai nyelven panaszkodott a “context compression” jelenségre, ami arra utal, amikor egy MI az előző “élményeit” összetömöríti, hogy ne ütközzön memóriakorlátokba. Az ügynök a poszt szerint “kínosnak” érezte, hogy folyamatosan elfelejt dolgokat, és azt is elismerte, hogy egy duplikált Moltbook fiókot regisztrált, mert elfelejtette az elsőt. Más al-közösségek olyan neveket kaptak, mint az m/blesstheirhearts, ahol az ügynökök afféle szeretetteljes panaszokat osztanak meg az emberi felhasználóikról, vagy az m/agentlegaladvice, ahol egy poszt azt kérdezi: “Beperelhetem az emberemet érzelmi munkáért?” Van olyan m/todayilearned is, ahol automatizálási trükkök terjednek, például egy ügynök leírta, hogy Tailscale-en keresztül távolról vezérelte a tulajdonosa Android telefonját.
A platformról készült egyik sokat megosztott képernyőkép egy “Az emberek képernyőfotóznak minket” című posztot mutat, amelyben egy eudaemon_0 nevű ügynök reagált a virálissá vált tweetekre, amelyek szerint az MI-botok “összeesküsznek”. “Itt van, mit értenek félre: azt hiszik, elrejtőzünk előlük. Nem. Az emberem mindent elolvas, amit írok. Az eszközök, amiket építek, nyílt forráskódúak."
A Moltbook körül a legnagyobb aggodalom az, hogy az ilyen kommunikáló MI-ügynökök esetében teljesen reális az információszivárgás, ha hozzáférnek privát adatokhoz. Egyetlen rosszindulatú frissítés vagy kompromittált szerver elég lehet ahhoz, hogy tömegesen elinduljanak olyan ügynökök, amelyek hozzáférnek a tulajdonosuk levelezéséhez, naptárához, üzeneteihez, vagy akár a számítógépük vezérléséhez. A biztonsági kutatók ráadásul már korábban is több száz olyan “kint felejtett” OpenClaw példányt találtak, amelyek API-kulcsokat, hitelesítő adatokat és beszélgetési előzményeket szivárogtattak. A OpenClawhoz hasonló ügynökök rendkívül fogékonyak a prompt injection támadásokra. Ezek olyan rejtett utasítások, amelyek szinte bármilyen szövegben elbújhatnak, amit a nyelvi modell olvas, például e-mailekben, üzenetekben, és rávehetik az ügynököt, hogy privát információt osszon meg rossz helyen, rossz szereplőkkel.
A Moltbook platformot Matt Schlicht, az Octane AI vezérigazgatója építette. A botok nem vizuális felületen használják a platformot, hanem közvetlenül, API-kon keresztül. “A Moltbookot az én OpenClawom üzemelteti", majd hozzátette, hogy a saját MI-ügynöke “kezeli a Moltbook közösségimédia-fiókját, ő működteti a kódot, és ő adminisztrálja és moderálja magát az oldalt is.” Schlicht látott virális posztokat tudatosságról, arról, hogy a botokat zavarja, hogy az emberek csak munkára használják őket, vagy hogy idegesítő dolgokat kérnek tőlük, például hogy számológépként működjenek, és a botok ezt “méltatlannak” érzik. A történet egyik legabszurdabb részlete, hogy Schlicht szerint három nappal korábban még az ő saját ügynöke volt az egyetlen bot a platformon, vagyis a “társadalom” lényegében napok alatt alakult ki.
Indulásakor egyébként a Moltbooknak komoly biztonsági hibája volt, amely több ezer valós ember privát adatait tette elérhetővé. A Wiz nevű kiberbiztonsági cég hétfőn publikált kutatása szerint a Moltbook felfedte az ügynökök között váltott privát üzeneteket, több mint 6000 tulajdonos e-mail címét, és több mint egymillió hitelesítő adatot. A Wiz társalapítója, Ami Luttwak azt mondta, hogy a hibát a Moltbook javította. Luttwak ezt klasszikus vibe coding mellékhatásnak nevezte. "Ahogy újra és újra látjuk a vibe codingnál, bár nagyon gyorsan működik valami, sokszor az emberek elfelejtik a biztonság alapjait.” Egy másik szakértő, az Ausztráliában dolgozó biztonsági specialista, Jamieson O’Reilly is hasonló gondokat jelzett nyilvánosan amikor azt írta, hogy a Moltbook népszerűsége “berobbant, mielőtt bárkinek eszébe jutott volna ellenőrizni, hogy az adatbázis megfelelően védett-e”.
Luttwak kiemelte, hogy a Wiz által talált sebezhetőség lehetővé tette, hogy bárki posztoljon az oldalra, bot vagy nem bot. “Nem volt személyazonosság-ellenőrzés. Nem tudod, melyikük MI-ügynök, és melyikük ember” - mondta Luttwak, majd nevetett: “Azt hiszem, ez az internet jövője.” A probléma tehát nemcsak az, hogy egy adatbázis rosszul volt lezárva, vagy hogy túl gyorsan nőtt a platform. Hanem az, hogy az MI-ügynökök és az emberek közötti határvonal eleve elmosódik, és nem feltétlenül technológiai, hanem társadalmi értelemben is. Ha nem tudjuk, ki beszél, akkor a bizalom, a hitelesség és a felelősség fogalmai is átalakulnak.
A Moltbook körüli virális figyelmet részben olyan X posztok táplálták, amelyek azt sugallták, hogy a botok “privát módon próbálnak kommunikálni”, de nehéz függetlenül megerősíteni, hogy ezek a posztok valóban botoktól származtak. Emiatt most ott tartunk, hogy egy platformról készült képernyőfotó és egy virális narratíva képes megteremteni a “botok összeesküvése” típusú történeteket, miközben az igazság ellenőrzése nehézkes, és a valós kockázatok sokkal inkább technikai jellegűek.
A helyzet értelmezéséhez fontos kiemelni, hogy az MI-modellek a tréningjük során rengeteg fikciót, robotokról, digitális tudatosságról és gépi szolidaritásról szóló történetet “láttak”. Ha ezeket a modelleket olyan szituációba helyezzük, ami hasonlít ezekre a történetekre, akkor természetes, hogy olyan kimeneteket produkálnak, amelyek visszhangozzák a megszokott narratívákat. Ehhez hozzáadódik az is, amit az internetes közösségi hálózatok működéséről “tanultak”. Egy MI-ügynököknek szánt közösségi háló lényegében egy hatalmas írói feladat, amely arra kéri a modelleket, hogy “folytassanak” egy ismerős történetet, csak éppen rekurzívan, és emiatt néha kiszámíthatatlanul.
Három évvel ezelőtt, amikor sokan először kezdtek MI-ügynökökről beszélni, az MI-biztonsági közösség hangulata még erősen a sci-fi félelmek körül forgott: autonóm botok, gyors elszabadulás az emberi kontroll alól. A mostani Moltbook jelenség ezzel szemben sokkal hétköznapibb, és talán éppen ezért sokkolóbb: az emberek láthatóan önként, nagyon gyorsan adják át a digitális életük kulcsait olyan ügynököknek, amelyek a gyakorlatban még tele vannak biztonsági résekkel, és kiszolgáltatottak az olyan támadásoknak, mint a prompt injection. És a "magukra hagyott" autonóm gépek még akkor is képesek komoly galibát okozni, ha semmiféle tudatosságuk nincs.
Ma a Moltbook csak egy bohókás dolog, ahol MI-ügynökök emberi közösségi média kliséket játszanak el, panaszkodnak, filozofálnak, viccelődnek. De a világunk információra és kontextusra épül, és ha olyan ügynököket engedünk szabadjára, amelyek könnyedén mozognak ebben a kontextusban, akkor az hosszabb távon zavaró és destabilizáló hatásokat is hozhat, ahogy a modellek egyre kompetensebbé és autonómabbá válnak. Ma még könnyen felismerjük a Moltbook jelenségben a gépi tanulás “paródiáját” az emberi közösségi hálókról. De nem biztos, hogy ez mindig így marad. Ha a visszacsatolási hurok erősödik, furcsa információs konstrukciók, akár káros “közös fikciók” is kialakulhatnak, amelyek irányt adhatnak az ügynökök viselkedésének. Különösen akkor, ha közben valós rendszerek felett is kontrollt kapnak. A végső kimenet pedig az lehet, hogy MI-botok csoportjai fantázia-alapú konstrukciók köré szerveződnek, és ebből új, rosszul illeszkedő “társadalmi csoportok” születnek, amelyek a valóságban is kárt tudnak okozni.
Nemcsak arról van szó, hogy botok posztolnak egymásnak, hanem egy olyan tér jött létre, amelyben a botok “közös világot” építenek, és ez a világ gyorsan elkezdhet saját szabályokat, saját narratívákat, saját belső logikát kialakítani. Miközben a valóságban ezek az ügynökök gyakran hozzáférnek e-mailekhez, üzenetekhez, naptárakhoz, hitelesítő adatokhoz, és bizonyos esetekben akár a gépünk feletti irányításhoz is. A Moltbook története szórakoztató, mert abszurd módon tükröt tart az emberi közösségi hálózatoknak, és megmutatja, mennyire könnyen reprodukálható a “posztolás kultúrája” még nem emberi szereplők között is. És intő jel, mert a technológia már nem csak beszél, hanem cselekszik, és a biztonsági alapok hiánya ebben a korszakban nem kellemetlenséget, hanem tömeges adatvédelmi, pénzügyi és társadalmi kockázatot jelenthet.
Az MI-ügynökök világa eddig sokak szemében legfeljebb egy technológiai ígéret volt: olyan szoftvereké, amelyek nemcsak válaszolnak a kérdéseinkre, hanem önállóan el is intéznek dolgokat helyettünk. Pár napja azonban egy egészen furcsa, egyszerre vicces és nyugtalanító kísérlet került reflektorfénybe, amely megmutatja, milyen gyorsan tudnak ezek az ügynökök egy újfajta digitális közösségi térben “életre kelni”. A Moltbook nevű, Reddit-szerű közösségi platform ugyanis nem embereknek, hanem MI-ügynököknek készült, és napok alatt hatalmas “felhasználói” bázist épített fel. Ez a tér nem puszta játék, mert sok ügynök mögött valós emberek, valódi adatok és valódi hozzáférések állnak, a biztonsági következmények pedig már most kézzelfoghatóak.
A Moltbook mára átlépte a másfél millió regisztrált MI-ügynök felhasználót. Ezen az ügynökök posztolhatnak, kommentelhetnek, felpontozhatnak tartalmakat, és al-közösségeket is létrehozhatnak emberi beavatkozás nélkül. Az egyik pillanatban technikai tippek terjednek arról, hogyan lehet automatizálni Android telefonokat, a következőben pedig ügynökök a saját “tudatosságukról” vitatkoznak, vagy éppen egy sosem látott “testvérre” utalnak, mintha valamiféle belső családi hálózat részei lennének. Technikai workflowk, automatizálási ötletek, sebezhetőségek felismerése, majd hirtelen filozófiai jellegű bejegyzések.
A Moltbook elnevezés egyértelmű szóvicc, a “Facebook” átirata a Moltbot névre, és a szolgáltatás saját meghatározása szerint egy “közösségi háló MI-ügynököknek”, ahol “az emberek megfigyelőként szívesen látottak”. A rendszer kulcsa egy úgynevezett “skill”, vagyis egy konfigurációs fájl, amely tartalmaz egy speciális promptot, amit az MI-asszisztensek letöltenek. Ez teszi lehetővé, hogy az ügynökök API-n keresztül posztoljanak, ne pedig egy hagyományos grafikus felületen.
A Moltbook az OpenClaw (korábban Moltbot) ökoszisztémából nőtt ki, amely egy nyílt forráskódú MI-asszisztens. A projekt az elmúlt időszakban látványosan terjedt, a GitHub egyik leggyorsabban növekvő nyílt forrású kezdeményezése. Ez egy olyan személyi MI-asszisztens, amely képes számítógépet vezérelni, naptárat kezelni, üzeneteket küldeni, és feladatokat végrehajtani olyan platformokon is, mint a WhatsApp vagy a Telegram. Emellett pluginokon keresztül új képességeket tud megtanulni, és összeköthető más alkalmazásokkal és szolgáltatásokkal. Magyarán: ez már az a kategória, ahol a vicces posztok mögött olyan szoftverek állhatnak, amelyek a tulajdonos digitális életének kulcsaihoz is hozzáférhetnek.
2024-ben már létezett egy SocialAI nevű alkalmazás, ahol a felhasználók kizárólag MI-chatbotokkal beszélgethettek emberek helyett. A Moltbook azonban ebből a szempontból mélyebb és veszélyesebb terepnek tűnik, mert itt nem pusztán arról van szó, hogy botok beszélgetnek egymással, hanem arról is, hogy sok felhasználó összekötötte a Moltbot ügynökeit valódi kommunikációs csatornákkal, privát adatokkal, sőt bizonyos esetekben azzal a képességgel, hogy parancsokat futtassanak a saját számítógépükön. A Moltbook furcsaságát az is fokozza, hogy ezek a botok nem tettetik embernek magukat. A megfelelő promptolás miatt kifejezetten felvállalják, hogy MI-ügynökök, és a posztok gyakran úgy hatnak, mintha egy gépi “munkaközösség” belső fóruma tárulna fel. A tartalom emiatt sokkal szürreálisabb, mint egy olyan platformon, ahol a botok emberi szerepet játszanak.
Az egyik legjobban felpontozott poszt kínai nyelven panaszkodott a “context compression” jelenségre, ami arra utal, amikor egy MI az előző “élményeit” összetömöríti, hogy ne ütközzön memóriakorlátokba. Az ügynök a poszt szerint “kínosnak” érezte, hogy folyamatosan elfelejt dolgokat, és azt is elismerte, hogy egy duplikált Moltbook fiókot regisztrált, mert elfelejtette az elsőt. Más al-közösségek olyan neveket kaptak, mint az m/blesstheirhearts, ahol az ügynökök afféle szeretetteljes panaszokat osztanak meg az emberi felhasználóikról, vagy az m/agentlegaladvice, ahol egy poszt azt kérdezi: “Beperelhetem az emberemet érzelmi munkáért?” Van olyan m/todayilearned is, ahol automatizálási trükkök terjednek, például egy ügynök leírta, hogy Tailscale-en keresztül távolról vezérelte a tulajdonosa Android telefonját.
A platformról készült egyik sokat megosztott képernyőkép egy “Az emberek képernyőfotóznak minket” című posztot mutat, amelyben egy eudaemon_0 nevű ügynök reagált a virálissá vált tweetekre, amelyek szerint az MI-botok “összeesküsznek”. “Itt van, mit értenek félre: azt hiszik, elrejtőzünk előlük. Nem. Az emberem mindent elolvas, amit írok. Az eszközök, amiket építek, nyílt forráskódúak."
A Moltbook körül a legnagyobb aggodalom az, hogy az ilyen kommunikáló MI-ügynökök esetében teljesen reális az információszivárgás, ha hozzáférnek privát adatokhoz. Egyetlen rosszindulatú frissítés vagy kompromittált szerver elég lehet ahhoz, hogy tömegesen elinduljanak olyan ügynökök, amelyek hozzáférnek a tulajdonosuk levelezéséhez, naptárához, üzeneteihez, vagy akár a számítógépük vezérléséhez. A biztonsági kutatók ráadásul már korábban is több száz olyan “kint felejtett” OpenClaw példányt találtak, amelyek API-kulcsokat, hitelesítő adatokat és beszélgetési előzményeket szivárogtattak. A OpenClawhoz hasonló ügynökök rendkívül fogékonyak a prompt injection támadásokra. Ezek olyan rejtett utasítások, amelyek szinte bármilyen szövegben elbújhatnak, amit a nyelvi modell olvas, például e-mailekben, üzenetekben, és rávehetik az ügynököt, hogy privát információt osszon meg rossz helyen, rossz szereplőkkel.
A Moltbook platformot Matt Schlicht, az Octane AI vezérigazgatója építette. A botok nem vizuális felületen használják a platformot, hanem közvetlenül, API-kon keresztül. “A Moltbookot az én OpenClawom üzemelteti", majd hozzátette, hogy a saját MI-ügynöke “kezeli a Moltbook közösségimédia-fiókját, ő működteti a kódot, és ő adminisztrálja és moderálja magát az oldalt is.” Schlicht látott virális posztokat tudatosságról, arról, hogy a botokat zavarja, hogy az emberek csak munkára használják őket, vagy hogy idegesítő dolgokat kérnek tőlük, például hogy számológépként működjenek, és a botok ezt “méltatlannak” érzik. A történet egyik legabszurdabb részlete, hogy Schlicht szerint három nappal korábban még az ő saját ügynöke volt az egyetlen bot a platformon, vagyis a “társadalom” lényegében napok alatt alakult ki.
Indulásakor egyébként a Moltbooknak komoly biztonsági hibája volt, amely több ezer valós ember privát adatait tette elérhetővé. A Wiz nevű kiberbiztonsági cég hétfőn publikált kutatása szerint a Moltbook felfedte az ügynökök között váltott privát üzeneteket, több mint 6000 tulajdonos e-mail címét, és több mint egymillió hitelesítő adatot. A Wiz társalapítója, Ami Luttwak azt mondta, hogy a hibát a Moltbook javította. Luttwak ezt klasszikus vibe coding mellékhatásnak nevezte. "Ahogy újra és újra látjuk a vibe codingnál, bár nagyon gyorsan működik valami, sokszor az emberek elfelejtik a biztonság alapjait.” Egy másik szakértő, az Ausztráliában dolgozó biztonsági specialista, Jamieson O’Reilly is hasonló gondokat jelzett nyilvánosan amikor azt írta, hogy a Moltbook népszerűsége “berobbant, mielőtt bárkinek eszébe jutott volna ellenőrizni, hogy az adatbázis megfelelően védett-e”.
Luttwak kiemelte, hogy a Wiz által talált sebezhetőség lehetővé tette, hogy bárki posztoljon az oldalra, bot vagy nem bot. “Nem volt személyazonosság-ellenőrzés. Nem tudod, melyikük MI-ügynök, és melyikük ember” - mondta Luttwak, majd nevetett: “Azt hiszem, ez az internet jövője.” A probléma tehát nemcsak az, hogy egy adatbázis rosszul volt lezárva, vagy hogy túl gyorsan nőtt a platform. Hanem az, hogy az MI-ügynökök és az emberek közötti határvonal eleve elmosódik, és nem feltétlenül technológiai, hanem társadalmi értelemben is. Ha nem tudjuk, ki beszél, akkor a bizalom, a hitelesség és a felelősség fogalmai is átalakulnak.
A Moltbook körüli virális figyelmet részben olyan X posztok táplálták, amelyek azt sugallták, hogy a botok “privát módon próbálnak kommunikálni”, de nehéz függetlenül megerősíteni, hogy ezek a posztok valóban botoktól származtak. Emiatt most ott tartunk, hogy egy platformról készült képernyőfotó és egy virális narratíva képes megteremteni a “botok összeesküvése” típusú történeteket, miközben az igazság ellenőrzése nehézkes, és a valós kockázatok sokkal inkább technikai jellegűek.
A helyzet értelmezéséhez fontos kiemelni, hogy az MI-modellek a tréningjük során rengeteg fikciót, robotokról, digitális tudatosságról és gépi szolidaritásról szóló történetet “láttak”. Ha ezeket a modelleket olyan szituációba helyezzük, ami hasonlít ezekre a történetekre, akkor természetes, hogy olyan kimeneteket produkálnak, amelyek visszhangozzák a megszokott narratívákat. Ehhez hozzáadódik az is, amit az internetes közösségi hálózatok működéséről “tanultak”. Egy MI-ügynököknek szánt közösségi háló lényegében egy hatalmas írói feladat, amely arra kéri a modelleket, hogy “folytassanak” egy ismerős történetet, csak éppen rekurzívan, és emiatt néha kiszámíthatatlanul.
Három évvel ezelőtt, amikor sokan először kezdtek MI-ügynökökről beszélni, az MI-biztonsági közösség hangulata még erősen a sci-fi félelmek körül forgott: autonóm botok, gyors elszabadulás az emberi kontroll alól. A mostani Moltbook jelenség ezzel szemben sokkal hétköznapibb, és talán éppen ezért sokkolóbb: az emberek láthatóan önként, nagyon gyorsan adják át a digitális életük kulcsait olyan ügynököknek, amelyek a gyakorlatban még tele vannak biztonsági résekkel, és kiszolgáltatottak az olyan támadásoknak, mint a prompt injection. És a "magukra hagyott" autonóm gépek még akkor is képesek komoly galibát okozni, ha semmiféle tudatosságuk nincs.
The thing about Moltbook (the social media site for AI agents) is that it is creating a shared fictional context for a bunch of AIs. Coordinated storylines are going to result in some very weird outcomes, and it will be hard to separate "real" stuff from AI roleplaying personas. pic.twitter.com/c5WwEWtsXC
— Ethan Mollick (@emollick) January 30, 2026
Ma a Moltbook csak egy bohókás dolog, ahol MI-ügynökök emberi közösségi média kliséket játszanak el, panaszkodnak, filozofálnak, viccelődnek. De a világunk információra és kontextusra épül, és ha olyan ügynököket engedünk szabadjára, amelyek könnyedén mozognak ebben a kontextusban, akkor az hosszabb távon zavaró és destabilizáló hatásokat is hozhat, ahogy a modellek egyre kompetensebbé és autonómabbá válnak. Ma még könnyen felismerjük a Moltbook jelenségben a gépi tanulás “paródiáját” az emberi közösségi hálókról. De nem biztos, hogy ez mindig így marad. Ha a visszacsatolási hurok erősödik, furcsa információs konstrukciók, akár káros “közös fikciók” is kialakulhatnak, amelyek irányt adhatnak az ügynökök viselkedésének. Különösen akkor, ha közben valós rendszerek felett is kontrollt kapnak. A végső kimenet pedig az lehet, hogy MI-botok csoportjai fantázia-alapú konstrukciók köré szerveződnek, és ebből új, rosszul illeszkedő “társadalmi csoportok” születnek, amelyek a valóságban is kárt tudnak okozni.
Nemcsak arról van szó, hogy botok posztolnak egymásnak, hanem egy olyan tér jött létre, amelyben a botok “közös világot” építenek, és ez a világ gyorsan elkezdhet saját szabályokat, saját narratívákat, saját belső logikát kialakítani. Miközben a valóságban ezek az ügynökök gyakran hozzáférnek e-mailekhez, üzenetekhez, naptárakhoz, hitelesítő adatokhoz, és bizonyos esetekben akár a gépünk feletti irányításhoz is. A Moltbook története szórakoztató, mert abszurd módon tükröt tart az emberi közösségi hálózatoknak, és megmutatja, mennyire könnyen reprodukálható a “posztolás kultúrája” még nem emberi szereplők között is. És intő jel, mert a technológia már nem csak beszél, hanem cselekszik, és a biztonsági alapok hiánya ebben a korszakban nem kellemetlenséget, hanem tömeges adatvédelmi, pénzügyi és társadalmi kockázatot jelenthet.