SG.hu·
Mi történik, ha már nem az emberek beszélgetnek egymással az interneten?
A munkában, az iskolában, sőt még a romantikus kapcsolatokban is az MI chatbotjaihoz fordulunk. De mi történik akkor, amikor a chatbotok egymással kezdenek beszélgetni?
Emlékszel még az álláspályázatokra? Tudod, amikor megírtál egy önéletrajzot és egy motivációs levelet. Valaki elolvasta őket. Előkerestél egy szép ruhát, és megpróbáltad elbűvölni az interjúztatót. Talán az egysoros szellemes megjegyzésed vagy egy kérdés az amatőr sportolói pályafutásáról segített megszerezni az állást. De az is lehet, hogy soha többé nem hallottál felőlük. Mindez változik. Ma már a nagyobb cégekhez jelentkezők többsége első körben valójában a mesterséges intelligencia előtt vizsgázik. Sok vállalat ma már szűrőszoftvereket használ arra, hogy átválogassa a jelentkezések tömegét, de a jelentkezők is alkalmazkodnak: chatbotokat használnak arra, hogy több száz álláshirdetéshez igazítsák a motivációs levelüket. Az MI írja meg a jelentkezéseket és az MI olvassa el őket - egy kutya kergeti a saját farkát.
Olyan világban élünk, amelyben az MI-eszközök elképesztően sok szakmai, akadémiai és személyes kapcsolat középpontjába kerültek. Mostanában ezek a chatbotok és ügynökök már nem csupán beszélgetnek velünk. A diákok a ChatGPT segítségével írnak esszéket, a tanárok pedig MI-t használnak az értékelésükhöz. A munkavállalók hosszú, MI által generált e-maileket küldenek a kollégáiknak, akik szintén chatbotok által előállított szövegekkel válaszolnak. MI által működtetett podcast-házigazdák beszélgetnek MI által működtetett podcastvendégekkel olyan témákról, mint az üzemanyagárak, az iráni háború és a mesterséges intelligencia. A technológiai ipar még ennél is tovább akar menni: márciusban a Meta felvásárolt egy olyan közösségi hálózatot, amelyet arra terveztek, hogy a botok egymással beszélgessenek.
A technológiai körökben népszerű "halott internet" elmélete szerint a digitális forgalom nagy részét idővel szoftverek fogják alkotni, és az emberek kisebbségi hanggá válnak. Ennek a jóslatnak most megszülethet egyfajta következménye is - nevezzük ezt bot-huroknak -, amikor egy interakció mindkét oldalán az emberek átadják a szerepüket a mesterséges intelligenciának. Ezek az önmagukba visszatérő beszélgetések hátborzongatóak és hibákkal terheltek lehetnek, amikor egyetlen tévedés javítatlanul visszapattog ide-oda újra és újra. Ami még különösebb, hogy teljesen kifordítják a beszélgetések megszokott dinamikáját: a chatbotok válnak beszélgetőpartnerekké, az emberek pedig a működésük lehetővé tevőivé.
Attól függően, kit kérdezünk, a bot-hurkok lehetnek hétköznapiak, disztópikusak vagy kifejezetten hasznosak. Bármit is gondoljanak róluk az emberek, a kutatók szerint egyre gyakrabban fogunk találkozni velük, ahogy egyre több feladat elvégzésére bízzuk meg az MI-rendszereket.
Egy napon, nem is olyan távoli jövőben, eltörhet egy vízvezeték, és sürgősen szükséged lesz egy vízvezeték-szerelőre. Talán magad hívsz fel több szerelőt, hogy megkérdezd őket az áraikról - de az is lehet, hogy az egész telefonálást átadod egy személyes digitális asszisztensnek, amely képes olyan feladatokat elvégezni, mint e-mailek küldése, repülőjegyek vásárlása és kódírás. Eközben a vízvezeték-szerelőknek nehézséget okozhat, hogy lépést tartsanak a fáradhatatlan MI-asszisztensek hívásainak áradatával - mondja Jiaxin Pei, a Texasi Egyetem austini információs iskolájának adjunktusa. Talán ők is egy saját ügynököt bíznak meg azzal, hogy virtuális recepciósként működjön. "Ez az a végtelen hurok, amelyet létrehozunk" - mondja Pei.
Mindez hogyan fogja befolyásolni azt, ahogyan egymással kapcsolatba lépünk? Ha egy bizonyos szemszögből nézzük, az emberi történelem a kommunikációnk megváltoztatására képes új technológiák miatt újra és újra kitörő pánikok hosszú sorozata. Szókratész attól tartott, hogy az írás tönkreteszi az emlékezetünket - és ezt csak azért tudjuk, mert Platón leírta. A 20. század elejének kritikusai azzal érveltek, hogy a telefon veszélyt jelent az udvariasságra. A technológia ellenzői újra és újra megjósolták, hogy a modern kényelem következtében romolhat kapcsolataink minősége. A The New York Times 1994-es cikkének szerzője azt írta, hogy az elektronikus levél "annyira magával ragadó és egyszerű, hogy pusztán mennyiségével és a megfontoltság hiányával azzal fenyeget, hogy túlterheli saját hasznosságát", bár elismerte, hogy vannak előnyei is: "Nem kell bélyeget nyalogatni."
E technológiai újítások egyike sem vetett véget a tartalmas párbeszédnek, bár mindegyik megváltoztatta annak jellegét. Ma több emberrel tudunk üzeneteket váltani, mint valaha, anélkül, hogy ugyanazon a fizikai helyen kellene lennünk. A kutatók ezért úgy gondolják, hogy valójában talán kevesebbet beszélünk egymással. Beszélgetéseink közül sok olyan platformokon zajlik, amelyek bizonyos típusú interakciókat ösztönöznek, különösen azokat, amelyek felfokozottak, meghökkentőek vagy más módon alkalmasak arra, hogy lekössék a figyelmünket, és ezzel pénzügyi hasznot hozzanak a platformoknak.
Az MI azonban különbözik ezektől a korábbi fejlesztésektől. Míg az e-mail üzeneteket továbbít emberek között, a chatbotok embereket utánoznak - és talán helyettesítenek is. Hirtelen az emberek dönthetik el, hogy inkább egy másik emberrel szeretnének-e beszélgetni, vagy egy olyan programmal, amely egy embert utánoz. Rengetegen döntenek úgy, hogy inkább egy chatbothoz fordulnak pénzügyi tanácsért, orvosi diagnózisért vagy társaságért, vagy önkiszolgáló kasszához mennek emberi pénztáros helyett. Az emberek már most is MI által létrehozott avatárokat használnak arra, hogy beszéljenek helyettük. A következő lépés nagy valószínűséggel egy olyan jövő lesz, amelyben az emberek saját digitális ikertestvérei beszélgetnek majd mások digitális ikertestvérével. Digitális közvetítőink egyre gyakrabban fognak egymással találkozni. Mi beszélünk a botjainkkal, a botjaink pedig egymással beszélnek majd.
Cégvezetők már létrehoztak MI által működtetett avatárokat, amelyek találkozhatnak alkalmazottaikkal. Vajon mennyi idő telik el, mire a beosztottak is saját avatárjaikat küldik el ezekre a találkozókra? Rengeteg ember már most ebben a különös új világban él. Egy távközlési vezető már arról beszélt, hogy az ügyfelek MI által működtetett hangalapú ügynököket küldenek, hogy vitába szálljanak a vállalat MI-alapú ügyfélszolgálati rendszerével. És férfiak egy chatbot segítségével megfogalmazott üzenetekkel udvarolnak a társkereső alkalmazásokban a nőknek, akik közül sok láthatóan pontosan ugyanezt csinálja. A legtöbb ilyen ember elismerte, hogy van valami üresség ezekben az interakciókban, amelyek egy emberi beszélgetés alapvető körvonalait követik, de annak valódi jellegét teljesen elhibázzák. Egyetlen bot is szövegek hegyeit hozza létre, amelyek lenyűgözőek a maguk mesterkéltségében, mint valami bizsu. Ha kettőt összekapcsolunk egy beszélgetésben, a párbeszéd végtelen folyama keletkezik, amely követi ugyan az összes szabályt, mégis éppen abból tűnik ki, ami hiányzik belőle: a kíváncsiságból, az empátiából, a valódi tapasztalatból.
Ezeknek a hurkoknak a kockázatai még csak most kezdenek kirajzolódni, de az egyik legnagyobb probléma egyszerűen az, hogy a chatbotok milyen gyakran tévednek. Amikor két MI-rendszer lép kapcsolatba egymással, különösen akkor, ha ugyanazok a nagy nyelvi modellek működtetik őket, előfordulhat, hogy nem veszik észre egymás hibáit, és végül fel is erősítik azokat - mondja Soheil Feizi, a Marylandi Egyetem számítástechnikai tanszékének docense. "Egyszerűen ugyanazokban a vakfoltokban osztoznak" - mondja.
A Harvard Medical School egyik kutatója egy nemrégiben megjelent tanulmányban azt vizsgálta, hogyan játszódhatna le mindez egy kórházi környezetben. Tegyük fel, hogy egy MI-eszköz feladata a röntgenfelvételek elemzése és a csonttörések azonosítása. Az értékelését továbbítja egy másik MI-eszköznek, amely kórtermeket oszt ki, majd egy harmadiknak, amely meghatározza a betegek kezelésének sorrendjét. Ha az első vizsgálat eredménye hibás, és soha nem ellenőrzi ember, a tévedés végiggyűrűzhet az egész hálózaton, és hatással lehet a betegre, az orvosra és a kórházra is.
Van egy még alattomosabb probléma is: úgy tűnik, hogy a mesterséges intelligencia rendszerei hajlamosak előnyben részesíteni a saját munkájukat. Egy tanulmány szerint az MI-alapú önéletrajzszűrők előnyben részesítették az MI által írt jelentkezéseket az emberek által írtakkal szemben. Ez a jelenség már most is káoszt okozhat a felsőoktatási felvételi folyamatban, amelyben egyes intézmények MI által működtetett esszéértékelőket használnak olyan pályamunkák pontozására, amelyeket kétségtelenül gyakran chatbotok készítenek.
Mindezen hiányosságok ellenére Sarah Davis kulturális antropológus, a Santa Fe-i St. John's College dékánja azon gondolkodik, vajon az emberek nem szoknak-e hozzá annyira az MI és az MI közötti interakciók gördülékenységéhez, hogy végül elveszítik a toleranciájukat az emberi kapcsolatok szükségszerű kiszámíthatatlanságával szemben. Attól tart, hogy a chatbotok olyan "könnyedséget" tesznek lehetővé, amely révén "saját magunk rosszabb változatává válhatunk", valamint olyan elidegenedést és az összetartozás hiányát idézhetik elő, amelyhez szembe kell néznünk a súrlódásokkal.
Csábító lehet úgy gondolni a bot-hurokra, mint egy átmeneti állomásra egy teljesen autonóm világ felé vezető úton. Talán a filozófus Daniel C. Dennett által "hamis embereknek" nevezett, MI által létrehozott alakok együtt dolgoznak majd azon, hogy még több hamis embert hozzanak létre, kihasználva az MI-rendszerektől való függőségünket, és magát az emberi civilizációt is veszélybe sodorva. Valószínűbb azonban, hogy egyszerűen csökkenni fog az emberek közötti interakciók aránya, miközben növekszik a botok közötti interakciók aránya - ez pedig mélyreható felhígulást eredményez, amely megváltoztatja azt, ahogyan a világban mozgunk.
Ebben az esetben az egykor még ésszerű elvárásnak számító emberi hang a telefon másik végén ritka kiváltsággá válhat, valami olyasmivé, mint egy luxuscikk. Persze beszélhetsz egy hús-vér recepcióssal, de ez többletköltséggel jár majd. Paradox módon éppen azok engedhetik majd meg maguknak a leginkább ezt a luxust, akik az MI fellendülésének köszönhetően gazdagodnak meg. Vajon arra használják majd a megszerzett vagyonukat, hogy hozzáférjenek azokhoz a fajta beszélgetésekhez, amelyeket mindenki más számára egyre ritkábbá tesznek? Talán éppen ez lesz mind közül a legkártékonyabb hurok.
Emlékszel még az álláspályázatokra? Tudod, amikor megírtál egy önéletrajzot és egy motivációs levelet. Valaki elolvasta őket. Előkerestél egy szép ruhát, és megpróbáltad elbűvölni az interjúztatót. Talán az egysoros szellemes megjegyzésed vagy egy kérdés az amatőr sportolói pályafutásáról segített megszerezni az állást. De az is lehet, hogy soha többé nem hallottál felőlük. Mindez változik. Ma már a nagyobb cégekhez jelentkezők többsége első körben valójában a mesterséges intelligencia előtt vizsgázik. Sok vállalat ma már szűrőszoftvereket használ arra, hogy átválogassa a jelentkezések tömegét, de a jelentkezők is alkalmazkodnak: chatbotokat használnak arra, hogy több száz álláshirdetéshez igazítsák a motivációs levelüket. Az MI írja meg a jelentkezéseket és az MI olvassa el őket - egy kutya kergeti a saját farkát.
Olyan világban élünk, amelyben az MI-eszközök elképesztően sok szakmai, akadémiai és személyes kapcsolat középpontjába kerültek. Mostanában ezek a chatbotok és ügynökök már nem csupán beszélgetnek velünk. A diákok a ChatGPT segítségével írnak esszéket, a tanárok pedig MI-t használnak az értékelésükhöz. A munkavállalók hosszú, MI által generált e-maileket küldenek a kollégáiknak, akik szintén chatbotok által előállított szövegekkel válaszolnak. MI által működtetett podcast-házigazdák beszélgetnek MI által működtetett podcastvendégekkel olyan témákról, mint az üzemanyagárak, az iráni háború és a mesterséges intelligencia. A technológiai ipar még ennél is tovább akar menni: márciusban a Meta felvásárolt egy olyan közösségi hálózatot, amelyet arra terveztek, hogy a botok egymással beszélgessenek.
A technológiai körökben népszerű "halott internet" elmélete szerint a digitális forgalom nagy részét idővel szoftverek fogják alkotni, és az emberek kisebbségi hanggá válnak. Ennek a jóslatnak most megszülethet egyfajta következménye is - nevezzük ezt bot-huroknak -, amikor egy interakció mindkét oldalán az emberek átadják a szerepüket a mesterséges intelligenciának. Ezek az önmagukba visszatérő beszélgetések hátborzongatóak és hibákkal terheltek lehetnek, amikor egyetlen tévedés javítatlanul visszapattog ide-oda újra és újra. Ami még különösebb, hogy teljesen kifordítják a beszélgetések megszokott dinamikáját: a chatbotok válnak beszélgetőpartnerekké, az emberek pedig a működésük lehetővé tevőivé.
Attól függően, kit kérdezünk, a bot-hurkok lehetnek hétköznapiak, disztópikusak vagy kifejezetten hasznosak. Bármit is gondoljanak róluk az emberek, a kutatók szerint egyre gyakrabban fogunk találkozni velük, ahogy egyre több feladat elvégzésére bízzuk meg az MI-rendszereket.
Egy napon, nem is olyan távoli jövőben, eltörhet egy vízvezeték, és sürgősen szükséged lesz egy vízvezeték-szerelőre. Talán magad hívsz fel több szerelőt, hogy megkérdezd őket az áraikról - de az is lehet, hogy az egész telefonálást átadod egy személyes digitális asszisztensnek, amely képes olyan feladatokat elvégezni, mint e-mailek küldése, repülőjegyek vásárlása és kódírás. Eközben a vízvezeték-szerelőknek nehézséget okozhat, hogy lépést tartsanak a fáradhatatlan MI-asszisztensek hívásainak áradatával - mondja Jiaxin Pei, a Texasi Egyetem austini információs iskolájának adjunktusa. Talán ők is egy saját ügynököt bíznak meg azzal, hogy virtuális recepciósként működjön. "Ez az a végtelen hurok, amelyet létrehozunk" - mondja Pei.
Mindez hogyan fogja befolyásolni azt, ahogyan egymással kapcsolatba lépünk? Ha egy bizonyos szemszögből nézzük, az emberi történelem a kommunikációnk megváltoztatására képes új technológiák miatt újra és újra kitörő pánikok hosszú sorozata. Szókratész attól tartott, hogy az írás tönkreteszi az emlékezetünket - és ezt csak azért tudjuk, mert Platón leírta. A 20. század elejének kritikusai azzal érveltek, hogy a telefon veszélyt jelent az udvariasságra. A technológia ellenzői újra és újra megjósolták, hogy a modern kényelem következtében romolhat kapcsolataink minősége. A The New York Times 1994-es cikkének szerzője azt írta, hogy az elektronikus levél "annyira magával ragadó és egyszerű, hogy pusztán mennyiségével és a megfontoltság hiányával azzal fenyeget, hogy túlterheli saját hasznosságát", bár elismerte, hogy vannak előnyei is: "Nem kell bélyeget nyalogatni."
E technológiai újítások egyike sem vetett véget a tartalmas párbeszédnek, bár mindegyik megváltoztatta annak jellegét. Ma több emberrel tudunk üzeneteket váltani, mint valaha, anélkül, hogy ugyanazon a fizikai helyen kellene lennünk. A kutatók ezért úgy gondolják, hogy valójában talán kevesebbet beszélünk egymással. Beszélgetéseink közül sok olyan platformokon zajlik, amelyek bizonyos típusú interakciókat ösztönöznek, különösen azokat, amelyek felfokozottak, meghökkentőek vagy más módon alkalmasak arra, hogy lekössék a figyelmünket, és ezzel pénzügyi hasznot hozzanak a platformoknak.
Az MI azonban különbözik ezektől a korábbi fejlesztésektől. Míg az e-mail üzeneteket továbbít emberek között, a chatbotok embereket utánoznak - és talán helyettesítenek is. Hirtelen az emberek dönthetik el, hogy inkább egy másik emberrel szeretnének-e beszélgetni, vagy egy olyan programmal, amely egy embert utánoz. Rengetegen döntenek úgy, hogy inkább egy chatbothoz fordulnak pénzügyi tanácsért, orvosi diagnózisért vagy társaságért, vagy önkiszolgáló kasszához mennek emberi pénztáros helyett. Az emberek már most is MI által létrehozott avatárokat használnak arra, hogy beszéljenek helyettük. A következő lépés nagy valószínűséggel egy olyan jövő lesz, amelyben az emberek saját digitális ikertestvérei beszélgetnek majd mások digitális ikertestvérével. Digitális közvetítőink egyre gyakrabban fognak egymással találkozni. Mi beszélünk a botjainkkal, a botjaink pedig egymással beszélnek majd.
Cégvezetők már létrehoztak MI által működtetett avatárokat, amelyek találkozhatnak alkalmazottaikkal. Vajon mennyi idő telik el, mire a beosztottak is saját avatárjaikat küldik el ezekre a találkozókra? Rengeteg ember már most ebben a különös új világban él. Egy távközlési vezető már arról beszélt, hogy az ügyfelek MI által működtetett hangalapú ügynököket küldenek, hogy vitába szálljanak a vállalat MI-alapú ügyfélszolgálati rendszerével. És férfiak egy chatbot segítségével megfogalmazott üzenetekkel udvarolnak a társkereső alkalmazásokban a nőknek, akik közül sok láthatóan pontosan ugyanezt csinálja. A legtöbb ilyen ember elismerte, hogy van valami üresség ezekben az interakciókban, amelyek egy emberi beszélgetés alapvető körvonalait követik, de annak valódi jellegét teljesen elhibázzák. Egyetlen bot is szövegek hegyeit hozza létre, amelyek lenyűgözőek a maguk mesterkéltségében, mint valami bizsu. Ha kettőt összekapcsolunk egy beszélgetésben, a párbeszéd végtelen folyama keletkezik, amely követi ugyan az összes szabályt, mégis éppen abból tűnik ki, ami hiányzik belőle: a kíváncsiságból, az empátiából, a valódi tapasztalatból.
Ezeknek a hurkoknak a kockázatai még csak most kezdenek kirajzolódni, de az egyik legnagyobb probléma egyszerűen az, hogy a chatbotok milyen gyakran tévednek. Amikor két MI-rendszer lép kapcsolatba egymással, különösen akkor, ha ugyanazok a nagy nyelvi modellek működtetik őket, előfordulhat, hogy nem veszik észre egymás hibáit, és végül fel is erősítik azokat - mondja Soheil Feizi, a Marylandi Egyetem számítástechnikai tanszékének docense. "Egyszerűen ugyanazokban a vakfoltokban osztoznak" - mondja.
A Harvard Medical School egyik kutatója egy nemrégiben megjelent tanulmányban azt vizsgálta, hogyan játszódhatna le mindez egy kórházi környezetben. Tegyük fel, hogy egy MI-eszköz feladata a röntgenfelvételek elemzése és a csonttörések azonosítása. Az értékelését továbbítja egy másik MI-eszköznek, amely kórtermeket oszt ki, majd egy harmadiknak, amely meghatározza a betegek kezelésének sorrendjét. Ha az első vizsgálat eredménye hibás, és soha nem ellenőrzi ember, a tévedés végiggyűrűzhet az egész hálózaton, és hatással lehet a betegre, az orvosra és a kórházra is.
Van egy még alattomosabb probléma is: úgy tűnik, hogy a mesterséges intelligencia rendszerei hajlamosak előnyben részesíteni a saját munkájukat. Egy tanulmány szerint az MI-alapú önéletrajzszűrők előnyben részesítették az MI által írt jelentkezéseket az emberek által írtakkal szemben. Ez a jelenség már most is káoszt okozhat a felsőoktatási felvételi folyamatban, amelyben egyes intézmények MI által működtetett esszéértékelőket használnak olyan pályamunkák pontozására, amelyeket kétségtelenül gyakran chatbotok készítenek.
Mindezen hiányosságok ellenére Sarah Davis kulturális antropológus, a Santa Fe-i St. John's College dékánja azon gondolkodik, vajon az emberek nem szoknak-e hozzá annyira az MI és az MI közötti interakciók gördülékenységéhez, hogy végül elveszítik a toleranciájukat az emberi kapcsolatok szükségszerű kiszámíthatatlanságával szemben. Attól tart, hogy a chatbotok olyan "könnyedséget" tesznek lehetővé, amely révén "saját magunk rosszabb változatává válhatunk", valamint olyan elidegenedést és az összetartozás hiányát idézhetik elő, amelyhez szembe kell néznünk a súrlódásokkal.
Csábító lehet úgy gondolni a bot-hurokra, mint egy átmeneti állomásra egy teljesen autonóm világ felé vezető úton. Talán a filozófus Daniel C. Dennett által "hamis embereknek" nevezett, MI által létrehozott alakok együtt dolgoznak majd azon, hogy még több hamis embert hozzanak létre, kihasználva az MI-rendszerektől való függőségünket, és magát az emberi civilizációt is veszélybe sodorva. Valószínűbb azonban, hogy egyszerűen csökkenni fog az emberek közötti interakciók aránya, miközben növekszik a botok közötti interakciók aránya - ez pedig mélyreható felhígulást eredményez, amely megváltoztatja azt, ahogyan a világban mozgunk.
Ebben az esetben az egykor még ésszerű elvárásnak számító emberi hang a telefon másik végén ritka kiváltsággá válhat, valami olyasmivé, mint egy luxuscikk. Persze beszélhetsz egy hús-vér recepcióssal, de ez többletköltséggel jár majd. Paradox módon éppen azok engedhetik majd meg maguknak a leginkább ezt a luxust, akik az MI fellendülésének köszönhetően gazdagodnak meg. Vajon arra használják majd a megszerzett vagyonukat, hogy hozzáférjenek azokhoz a fajta beszélgetésekhez, amelyeket mindenki más számára egyre ritkábbá tesznek? Talán éppen ez lesz mind közül a legkártékonyabb hurok.