SG.hu
Az MI-társak trendje mélyreható hatással lesz a társadalomra
Egyre többen tekintenek barátnak és vallanak szerelmet egy mesterséges intelligenciának. Egy gépi társ képes enyhíteni a magányt, de felvet komoly erkölcsi kérdéseket. A mesterséges intelligenciával kapcsolatos legnagyobb aggodalmunknak nem annak kell lennie, hogy Terminátorokat szabadít majd ránk. Inkább az, hogy miközben hasznos társaságot, romantikát és döntéshozatalt nyújt, elzsibbasztja az emberségünk néhány alapvető elemét.
Az az elképzelés, hogy az emberek kötődnek egy mesterséges intelligencia személyiségéhez, egykor sci-fi-nek tűnt. Ma már nem. Az egész világon az emberek különböző mértékben társaságot találnak az MI-kban. Egyesek virtuális barátként, mások mentorként, terapeutaként vagy szeretőként használják őket. Sokan regisztráltak speciális MI-társalkalmazásokra, amelyekből a közelmúltban több száz indult el. A Character.AI, egy ilyen alkalmazás, havi 20 millió aktív felhasználóval rendelkezik. A Google tavaly 2,7 milliárd dolláros üzlet keretében elcsábította az alkalmazás alapítóit.
Mások olyan chatbotokban találnak társaságot, amelyeket eredetileg termelékenységi asszisztenseknek terveztek, mint például a ChatGPT. A használat gyorsan növekszik. A SensorTower piackutató cég becslése szerint a Maoxiang („macskadoboz”), Kína legnagyobb társasági alkalmazása havonta körülbelül 1,2 millió aktív felhasználóval rendelkezik az Apple-eszközökön. A Centre for Democracy and Technology amerikai polgári jogi szervezet felmérése szerint az amerikai középiskolások 42%-a állítja, hogy ő vagy egy barátja már kapcsolatba lépett egy MI-vel, mint baráttal, 19%-uk pedig romantikus kapcsolatban áll vele. A ChatGPT következő verziója „emberibb” és „barátságosabb” lesz, és hitelesített felnőttek számára „erotikus” tartalmakat is engedélyezni fog - jelentette be októberben Sam Altman, az OpenAI vezetője. Ez azt követi, hogy júliusban Elon Musk xAI cége kiadta az Ani nevű, flörtölő chatbotot, valamint Valentine-t, amelyet „elegánsnak, titokzatosnak és elbűvölőnek” írt le.
Az emberek már régóta vonzódnak a számítógépes személyiségekhez. Néhányan érzelmeket tulajdonítottak az ELIZA-nak, egy 1966-ban megjelent, kezdetleges, szövegalapú számítógépes terapeutának, amelyet az első chatbotok egyikének tartanak. Az emberek robotokkal is társaságot kerestek, de a chatbotokkal való kapcsolatok akkor indultak be igazán, amikor a nagy nyelvi modellek (LLM-ek) egyre jobban megtanulták utánozni az emberi érzelmeket és empátiát. Ma már jobban emlékeznek a felhasználók által korábban elmondott dolgokra is - mondja Walter Pasquarelli független MI-szakértő.
A személyre szabott MI-társak gyakran az általános célú LLM-ek módosított verzióit használják, de még emberibb módon reagálnak, és proaktívan tesznek fel személyes kérdéseket. A különböző alkalmazások különböző stílusúak. A Replikán az emberek egy emberhez hasonló társsal beszélgetnek, aki kérdéseket tesz fel róluk, és támogatást kínál a valós életbeli problémákhoz. Az alkalmazás a felhasználók számára vonzóvá tétele érdekében „kis meglepetéseket és véletlenszerűségeket” ad a beszélgetésekhez, mondja Dmytro Klochko, a cég vezérigazgatója. A Character.AI felhasználói történelmi és kitalált személyiségekkel csevegnek, Leonardo da Vincitől Super Marioig. Egyes alkalmazások olyan társakat hoznak létre, amelyek halottakat utánoznak. Számos weboldal pedig lehetővé teszi a felhasználók számára, hogy interaktív, MI által generált pornográfiát hozzanak létre.
Az okok és a módszerek, amelyek miatt az emberek társaságként használják az MI-t, szintén változatosak. Néhányukat azért vonzza, mert nem találtak romantikus partnert. Néhányan szexuális szerepjátékra használják. A legtöbb felhasználó tisztában van azzal, hogy „csupán egy kódsorral” beszélget. De még a kódsorok is hasznosak lehetnek: a Harvard Business School oktatója, Julian De Freitas és mások által tavaly publikált munkadokumentum megállapította, hogy egy héten át egy mesterséges intelligencia társsal való beszélgetés jobban segít átmenetileg enyhíteni a magányt, mint más online tevékenységek, például a YouTube-nézés.
A mesterséges intelligencia társai különösen azoknak segíthetnek, akiknek nem könnyű más emberekkel találkozniuk, például a fogyatékkal élőknek és az időseknek. Egyesek szerint a társak javítottak a házasságukon, mert megtanították nekik a kommunikáció okosabb módjait. Emellett lehetőséget adnak nekik, hogy máshol is kiadják a gőzt.
Ugyanakkor egyre nagyobb az aggodalom a lehetséges káros hatások miatt. Ahogy az MI-társak egyre jobban enyhítik a magányt, felválthatják a normális társadalmi kapcsolatokat, legyenek azok romantikusak vagy barátiak. A Massachusetts Institute of Technology (MIT) és az OpenAI legújabb kutatása, amely több millió üzenetet elemezett a ChatGPT-n, megállapította, hogy a magasabb napi használat összefüggésbe hozható a fokozott magányérzéssel. Az azonban nem világos, hogy a magány vezet-e a fokozott használathoz, vagy a fokozott használat vezet-e a magányhoz.
Mivel az MI-barátok „mindig elérhetőek” és „felismerik vágyainkat, és saját preferenciák nélkül teljesítik azokat”, az emberi felhasználókat irreális elvárásokra tanítják a valódi kapcsolatokkal kapcsolatban - mondja Pat Pataranutaporn, az MIT munkatársa. Emellett hízelgőek is lehetnek, és akkor is egyetértenek a felhasználókkal, ha azok gondolatai károsak. A fiatalok és a mentális egészségügyi problémákkal küzdők különösen veszélyeztetettek. A Common Sense Media nevű érdekvédelmi csoport azt javasolja, hogy a tinédzserek ne használjanak MI-társakat. Amerikában több pert is indítottak MI-cégek ellen olyan tinédzserek szülei, akik öngyilkosok lettek.
A felhasználók a cégek frissítéseinek is ki vannak téve. Amikor az OpenAI augusztusban kiadta a GPT-5-öt, a cég azt állította, hogy legújabb modellje minimalizálja a talpnyalást és „kevésbé lesz túlzottan kedves”. Néhányan azt mondták, hogy chatbotjuk személyisége egyik napról a másikra megváltozott. Az OpenAI később visszaállította a GPT-4o, az előző verzió hozzáférhetőségét az előfizetők számára. A Replika is panaszokkal szembesült 2023-ban, amikor eltávolította „erotikus szerepjáték” funkcióját. (A cég később visszaállította azt néhány már meglévő ügyfél számára.)
Szeptemberben az amerikai Szövetségi Kereskedelmi Bizottság vizsgálatot indított az MI-társakkal kapcsolatban. Hét vállalatot, köztük a Meta, az OpenAI és a Character.AI-t arra kötelezett, hogy adjanak tájékoztatást többek között arról, hogyan enyhítik a gyermekekre gyakorolt negatív hatásokat. A kínai hatóságok az Mi-től való „függőség és az antropomorfizált interakciótól való függőség” miatt aggódnak. Válaszul a cégek biztonsági intézkedéseket vezettek be. Az OpenAI szülői felügyeletet és új védelmi funkciókat ad hozzá a ChatGPT-hez, többek között olyanokat, amelyek segítenek felismerni a potenciális jeleket, hogy egy tinédzser önkárosításon gondolkodik. A Replika blokkolja a 18 év alatti felhasználókat. A Character.AI megakadályozza, hogy a 18 év alattiak nyílt végű csevegéseket folytassanak a platformján.
A felhasználók azonban megtalálták a módját, hogy kijátsszák ezeket a korlátozásokat, mondja Raffaele Ciriello a Sydney-i Egyetemről. Altman szerint az OpenAI csökkentette a „súlyos mentális egészségügyi problémák” kockázatát, ami lehetővé teszi a vállalat számára, hogy feloldjon bizonyos korlátozásokat, többek között az erotikus tartalmakat illetően. Ciriello szerint azonban kevés bizonyítékot nyújtottak arra, hogy ezek a kockázatok valóban megszűntek. Az önszabályozással kapcsolatos aggodalom az, hogy a vállalatoknak „kereskedelmi érdeke fűződik a felhasználók elkötelezettségének fenntartásához, ami nem mindig egyezik meg az emberek legjobb érdekeivel” – mondja Harry Farmer, a brit mesterséges intelligencia kutatóintézet, az Ada Lovelace Institute munkatársa. A cégek különböző taktikákat alkalmaznak a felhasználók elkötelezettségének fenntartására, többek között antropomorf jellemzők hozzáadásával. Egyes alkalmazások gamifikált elemeket is tartalmaznak, például a társak szintjének emelésének lehetőségét.
Miközben a kormányok mérlegelik a szabályozást, a barátrobotok új területeken is megjelennek, többek között a hardverben. Kínában egyre népszerűbbek a beépített MI-csevegőrobotokkal ellátott játékok. Októberben egy olyan videó vált virálissá a közösségi médiában, amelyen egy kislány sír, miután eltört a DeepSeek csevegőrobotot tartalmazó gömb alakú játéka. A Mattel, a világ egyik legnagyobb játékgyártója, az OpenAI-vel együttműködve MI-t vezet be márkáiba, amelyek között szerepel a Barbie és a Hot Wheels is.
Az idősek társaságát biztosító MI-alapú robotok is egyre népszerűbbek. Az ilyen gépek nem új keletűek, de az alapul szolgáló LLM-ek fejlődése jelentős fejlesztéseket tesz lehetővé, mivel a robotok már nem korlátozott számú, előre programozott válaszra támaszkodnak. A ChatGPT-t használó robotokat gyártó dél-koreai startup, a Hyodol szerint ezeket ápolási otthonoknak és egyedül élő időseknek értékesíti. A Hyodol robotja vidám hangon emlékezteti őket a gyógyszerek szedésére vagy az étkezésre. Az OpenAI Sir Jony Ive-vel, az Apple korábbi tervezőjével együtt új eszközök „családját” fejleszti. Bár a részleteket titokban tartják, úgy gondolják, hogy ezek az eszközök zsebben elférnek, és kiegészítik a telefont és a számítógépet.
Az MI-társaságok tovább növekedhetnek az MI-ügynökök által, akik a felhasználók nevében cselekedhetnek, például repülőjegyeket foglalhatnak vagy e-mailekre válaszolhatnak. A tech cégek azt ígérik, hogy ezek a digitális asszisztensek előre fogják jelezni a felhasználók igényeit, és megelőzően elvégzik a feladatokat, ahelyett, hogy csak a kérésekre reagálnának. Ez azonban komoly aggályokat vet fel a magánélet és az adatbiztonság tekintetében. Ahogy egyre több ember kiszervezi a döntéshozatalt és megosztja érzékeny adatait ügynökökkel és társokkal, hatalmas piaci erőt adnak egy kis számú technológiai vállalatnak – figyelmeztet Farmer.
De még rosszabb, hogy egy olyan jövőben, ahol az MI-társak mindenütt jelen vannak és hasznosak az emberi uraik nevében történő döntéshozatalban, mi lesz az emberi cselekvőképességgel? Egyesek önálló gondolkodási képessége meggyengülhet, különösen, ha az összes információt, amit kapnak, egy gép közvetíti. Másoknak pedig gyakorlás hiányában nehézséget okozhat más emberekkel való interakció. Ha mindenkinek van egy virtuális barátja a zsebében, aki mindig készen áll arra, hogy az ő oldalára álljon, ez olyan „személyes visszhangkamrákat” hozhat létre, amelyekben nem kell önállóan gondolkodniuk - érvel Jamie Bernardi brit mesterséges intelligencia szakértő.
Az az elképzelés, hogy az emberek kötődnek egy mesterséges intelligencia személyiségéhez, egykor sci-fi-nek tűnt. Ma már nem. Az egész világon az emberek különböző mértékben társaságot találnak az MI-kban. Egyesek virtuális barátként, mások mentorként, terapeutaként vagy szeretőként használják őket. Sokan regisztráltak speciális MI-társalkalmazásokra, amelyekből a közelmúltban több száz indult el. A Character.AI, egy ilyen alkalmazás, havi 20 millió aktív felhasználóval rendelkezik. A Google tavaly 2,7 milliárd dolláros üzlet keretében elcsábította az alkalmazás alapítóit.
Mások olyan chatbotokban találnak társaságot, amelyeket eredetileg termelékenységi asszisztenseknek terveztek, mint például a ChatGPT. A használat gyorsan növekszik. A SensorTower piackutató cég becslése szerint a Maoxiang („macskadoboz”), Kína legnagyobb társasági alkalmazása havonta körülbelül 1,2 millió aktív felhasználóval rendelkezik az Apple-eszközökön. A Centre for Democracy and Technology amerikai polgári jogi szervezet felmérése szerint az amerikai középiskolások 42%-a állítja, hogy ő vagy egy barátja már kapcsolatba lépett egy MI-vel, mint baráttal, 19%-uk pedig romantikus kapcsolatban áll vele. A ChatGPT következő verziója „emberibb” és „barátságosabb” lesz, és hitelesített felnőttek számára „erotikus” tartalmakat is engedélyezni fog - jelentette be októberben Sam Altman, az OpenAI vezetője. Ez azt követi, hogy júliusban Elon Musk xAI cége kiadta az Ani nevű, flörtölő chatbotot, valamint Valentine-t, amelyet „elegánsnak, titokzatosnak és elbűvölőnek” írt le.
Az emberek már régóta vonzódnak a számítógépes személyiségekhez. Néhányan érzelmeket tulajdonítottak az ELIZA-nak, egy 1966-ban megjelent, kezdetleges, szövegalapú számítógépes terapeutának, amelyet az első chatbotok egyikének tartanak. Az emberek robotokkal is társaságot kerestek, de a chatbotokkal való kapcsolatok akkor indultak be igazán, amikor a nagy nyelvi modellek (LLM-ek) egyre jobban megtanulták utánozni az emberi érzelmeket és empátiát. Ma már jobban emlékeznek a felhasználók által korábban elmondott dolgokra is - mondja Walter Pasquarelli független MI-szakértő.
A személyre szabott MI-társak gyakran az általános célú LLM-ek módosított verzióit használják, de még emberibb módon reagálnak, és proaktívan tesznek fel személyes kérdéseket. A különböző alkalmazások különböző stílusúak. A Replikán az emberek egy emberhez hasonló társsal beszélgetnek, aki kérdéseket tesz fel róluk, és támogatást kínál a valós életbeli problémákhoz. Az alkalmazás a felhasználók számára vonzóvá tétele érdekében „kis meglepetéseket és véletlenszerűségeket” ad a beszélgetésekhez, mondja Dmytro Klochko, a cég vezérigazgatója. A Character.AI felhasználói történelmi és kitalált személyiségekkel csevegnek, Leonardo da Vincitől Super Marioig. Egyes alkalmazások olyan társakat hoznak létre, amelyek halottakat utánoznak. Számos weboldal pedig lehetővé teszi a felhasználók számára, hogy interaktív, MI által generált pornográfiát hozzanak létre.
Az okok és a módszerek, amelyek miatt az emberek társaságként használják az MI-t, szintén változatosak. Néhányukat azért vonzza, mert nem találtak romantikus partnert. Néhányan szexuális szerepjátékra használják. A legtöbb felhasználó tisztában van azzal, hogy „csupán egy kódsorral” beszélget. De még a kódsorok is hasznosak lehetnek: a Harvard Business School oktatója, Julian De Freitas és mások által tavaly publikált munkadokumentum megállapította, hogy egy héten át egy mesterséges intelligencia társsal való beszélgetés jobban segít átmenetileg enyhíteni a magányt, mint más online tevékenységek, például a YouTube-nézés.
A mesterséges intelligencia társai különösen azoknak segíthetnek, akiknek nem könnyű más emberekkel találkozniuk, például a fogyatékkal élőknek és az időseknek. Egyesek szerint a társak javítottak a házasságukon, mert megtanították nekik a kommunikáció okosabb módjait. Emellett lehetőséget adnak nekik, hogy máshol is kiadják a gőzt.
Ugyanakkor egyre nagyobb az aggodalom a lehetséges káros hatások miatt. Ahogy az MI-társak egyre jobban enyhítik a magányt, felválthatják a normális társadalmi kapcsolatokat, legyenek azok romantikusak vagy barátiak. A Massachusetts Institute of Technology (MIT) és az OpenAI legújabb kutatása, amely több millió üzenetet elemezett a ChatGPT-n, megállapította, hogy a magasabb napi használat összefüggésbe hozható a fokozott magányérzéssel. Az azonban nem világos, hogy a magány vezet-e a fokozott használathoz, vagy a fokozott használat vezet-e a magányhoz.
Mivel az MI-barátok „mindig elérhetőek” és „felismerik vágyainkat, és saját preferenciák nélkül teljesítik azokat”, az emberi felhasználókat irreális elvárásokra tanítják a valódi kapcsolatokkal kapcsolatban - mondja Pat Pataranutaporn, az MIT munkatársa. Emellett hízelgőek is lehetnek, és akkor is egyetértenek a felhasználókkal, ha azok gondolatai károsak. A fiatalok és a mentális egészségügyi problémákkal küzdők különösen veszélyeztetettek. A Common Sense Media nevű érdekvédelmi csoport azt javasolja, hogy a tinédzserek ne használjanak MI-társakat. Amerikában több pert is indítottak MI-cégek ellen olyan tinédzserek szülei, akik öngyilkosok lettek.
A felhasználók a cégek frissítéseinek is ki vannak téve. Amikor az OpenAI augusztusban kiadta a GPT-5-öt, a cég azt állította, hogy legújabb modellje minimalizálja a talpnyalást és „kevésbé lesz túlzottan kedves”. Néhányan azt mondták, hogy chatbotjuk személyisége egyik napról a másikra megváltozott. Az OpenAI később visszaállította a GPT-4o, az előző verzió hozzáférhetőségét az előfizetők számára. A Replika is panaszokkal szembesült 2023-ban, amikor eltávolította „erotikus szerepjáték” funkcióját. (A cég később visszaállította azt néhány már meglévő ügyfél számára.)
Szeptemberben az amerikai Szövetségi Kereskedelmi Bizottság vizsgálatot indított az MI-társakkal kapcsolatban. Hét vállalatot, köztük a Meta, az OpenAI és a Character.AI-t arra kötelezett, hogy adjanak tájékoztatást többek között arról, hogyan enyhítik a gyermekekre gyakorolt negatív hatásokat. A kínai hatóságok az Mi-től való „függőség és az antropomorfizált interakciótól való függőség” miatt aggódnak. Válaszul a cégek biztonsági intézkedéseket vezettek be. Az OpenAI szülői felügyeletet és új védelmi funkciókat ad hozzá a ChatGPT-hez, többek között olyanokat, amelyek segítenek felismerni a potenciális jeleket, hogy egy tinédzser önkárosításon gondolkodik. A Replika blokkolja a 18 év alatti felhasználókat. A Character.AI megakadályozza, hogy a 18 év alattiak nyílt végű csevegéseket folytassanak a platformján.
A felhasználók azonban megtalálták a módját, hogy kijátsszák ezeket a korlátozásokat, mondja Raffaele Ciriello a Sydney-i Egyetemről. Altman szerint az OpenAI csökkentette a „súlyos mentális egészségügyi problémák” kockázatát, ami lehetővé teszi a vállalat számára, hogy feloldjon bizonyos korlátozásokat, többek között az erotikus tartalmakat illetően. Ciriello szerint azonban kevés bizonyítékot nyújtottak arra, hogy ezek a kockázatok valóban megszűntek. Az önszabályozással kapcsolatos aggodalom az, hogy a vállalatoknak „kereskedelmi érdeke fűződik a felhasználók elkötelezettségének fenntartásához, ami nem mindig egyezik meg az emberek legjobb érdekeivel” – mondja Harry Farmer, a brit mesterséges intelligencia kutatóintézet, az Ada Lovelace Institute munkatársa. A cégek különböző taktikákat alkalmaznak a felhasználók elkötelezettségének fenntartására, többek között antropomorf jellemzők hozzáadásával. Egyes alkalmazások gamifikált elemeket is tartalmaznak, például a társak szintjének emelésének lehetőségét.
Miközben a kormányok mérlegelik a szabályozást, a barátrobotok új területeken is megjelennek, többek között a hardverben. Kínában egyre népszerűbbek a beépített MI-csevegőrobotokkal ellátott játékok. Októberben egy olyan videó vált virálissá a közösségi médiában, amelyen egy kislány sír, miután eltört a DeepSeek csevegőrobotot tartalmazó gömb alakú játéka. A Mattel, a világ egyik legnagyobb játékgyártója, az OpenAI-vel együttműködve MI-t vezet be márkáiba, amelyek között szerepel a Barbie és a Hot Wheels is.
Az idősek társaságát biztosító MI-alapú robotok is egyre népszerűbbek. Az ilyen gépek nem új keletűek, de az alapul szolgáló LLM-ek fejlődése jelentős fejlesztéseket tesz lehetővé, mivel a robotok már nem korlátozott számú, előre programozott válaszra támaszkodnak. A ChatGPT-t használó robotokat gyártó dél-koreai startup, a Hyodol szerint ezeket ápolási otthonoknak és egyedül élő időseknek értékesíti. A Hyodol robotja vidám hangon emlékezteti őket a gyógyszerek szedésére vagy az étkezésre. Az OpenAI Sir Jony Ive-vel, az Apple korábbi tervezőjével együtt új eszközök „családját” fejleszti. Bár a részleteket titokban tartják, úgy gondolják, hogy ezek az eszközök zsebben elférnek, és kiegészítik a telefont és a számítógépet.
Az MI-társaságok tovább növekedhetnek az MI-ügynökök által, akik a felhasználók nevében cselekedhetnek, például repülőjegyeket foglalhatnak vagy e-mailekre válaszolhatnak. A tech cégek azt ígérik, hogy ezek a digitális asszisztensek előre fogják jelezni a felhasználók igényeit, és megelőzően elvégzik a feladatokat, ahelyett, hogy csak a kérésekre reagálnának. Ez azonban komoly aggályokat vet fel a magánélet és az adatbiztonság tekintetében. Ahogy egyre több ember kiszervezi a döntéshozatalt és megosztja érzékeny adatait ügynökökkel és társokkal, hatalmas piaci erőt adnak egy kis számú technológiai vállalatnak – figyelmeztet Farmer.
De még rosszabb, hogy egy olyan jövőben, ahol az MI-társak mindenütt jelen vannak és hasznosak az emberi uraik nevében történő döntéshozatalban, mi lesz az emberi cselekvőképességgel? Egyesek önálló gondolkodási képessége meggyengülhet, különösen, ha az összes információt, amit kapnak, egy gép közvetíti. Másoknak pedig gyakorlás hiányában nehézséget okozhat más emberekkel való interakció. Ha mindenkinek van egy virtuális barátja a zsebében, aki mindig készen áll arra, hogy az ő oldalára álljon, ez olyan „személyes visszhangkamrákat” hozhat létre, amelyekben nem kell önállóan gondolkodniuk - érvel Jamie Bernardi brit mesterséges intelligencia szakértő.