SG.hu·
Az emberiséggel kísérleteznek a nagy technológiai vállalatok
Az IT-óriások ellenőrizetlenül alkalmazzák azokat a megbízhatatlan eszközöket, amelyek már több milliárd ember mindennapi életének részét képezik világszerte.
"Úgy tűnik, mintha a ChatGPT készítette volna" - ez a kifejezés nem dicséret, hanem olcsóságot, szellemi lustaságot és az ötlethiányt sugall, nem pedig szuperintelligenciát, annak ellenére, hogy az OpenAI a GPT5 verzió megjelenésekor ezt ígérte. Három évvel azután, hogy ez az eszköz berobbant az életünkbe, még mindig nem érkeztek meg azok a forradalmi változások, amelyeket a mesterséges intelligencia mögött álló multimilliárdos üzleti érdekek ígértek. És a saját érdekeikből prófétált apokalipszis sem következett be. Ezek a programok öt évvel ezelőtt még elképzelhetetlen dolgokra képesek, de eredményeik számtalan területen messze elmaradnak a várakozásoktól, bár gyorsan beépültek a mindennapi életbe. A Nobel-díjas közgazdász, Daron Acemoglu szerint ez a technológia so-so technology (kb. "semmi különös”) lett, de mégis az az általános benyomása az embereknek, hogy ezek a programok - és főleg azok melléktermékei - mindent elárasztanak.
"Az emberiség által létrehozott leghatékonyabb technológia" - állította Sam Altman, az OpenAI vezetője, de amikor belenézünk az X hálózatba, csak egy Hitler-t dicsőítő chatbotot, Grokot találjuk. "Fontosabb, mint a tűz és az elektromosság” - állította Sundar Pichai, a Google vezetője, miközben egyre több olyan esetről hallani, hogy emberek öngyilkosságba vagy öncsonkításba menekülnek, miután úgy beszélgettek a mesterséges intelligenciákkal, mintha azok szilícium-barátnők és szintetikus barátok lennének. "Mindenkinek saját személyes szuperintelligenciát adunk” - biztosította hallgatóságát Mark Zuckerberg, a Facebook közösségi hálózat tulajdonosa, amelyet elárasztanak a garnélákból és karfiol testű gyerekekből készült groteszk képek Jézus Krisztusról.
Persze lehet mondani, hogy ezek csak eszközök, de akkor is olyanok, mint egy vásári puska, minket is hibássá tesznek. A példák a leghétköznapibbaktól a legsúlyosabbakig sorakoznak. A bírák naponta fedezik fel, hogy az ügyvédek által hivatkozott joggyakorlat nem létezik. Az ügyfélszolgálatoknál már hosszas gombnyomogatás és várakozás után jutunk csak emberi kezelőhöz. Egy hamis videó turistákat küld egy nem létező felvonóhoz. A számítógépes programozók MI-eszközöket használnak a munka megkönnyítésére, de egyes tanulmányok már rámutatnak, hogy valójában lassítják őket, mert hosszabb idő a hibák utólagos átnézése és kijavítása, mintha elsőre jól csinálnák meg a dolgokat. Több kongresszusi képviselő és diplomata kapott üzenetet Marco Rubio amerikai külügyminisztertől, de valójában ez egy szintetikus hang volt.
Amikor a Tinderen vagy a Whatsappon flörtölünk, nem tudjuk, hogy a partnerünk MI által előre megírt mondatokat használ-e, hogy jobb benyomást keltsen. Egy hetvenes évekbeli zenekar, amely nagy sikert aratott a Spotify-on, digitális csalásnak bizonyult. A svéd miniszterelnök egy intelligens csevegőprogrammal konzultál döntéseiről. A Pinterest békés menedéke tele van hamis tájakkal és szobákkal. A tisztviselők világszerte érzékeny információkat töltenek fel a ChatGPT-re vagy a DeepSeekre, hogy meggyorsítsák a munkájukat. A napokban felháborodás tört ki a TikTokon, mert kiderült, hogy a több száz millió megtekintést kapott csodálatos ugráló nyulak mesterségesek voltak.
"A legtöbb ember, aki ezeket a modelleket használja, tudja, hogy megbízhatatlanok lehetnek, de nem tudja, mikor bízhat bennük” - összegzi Melanie Mitchell, a Santa Fe Intézet mesterséges intelligencia szakértője. Általános bizalmatlanság uralkodik, mert ezeknek az eszközöknek a kényszerű és megállíthatatlan elterjedése életünk minden területén bizalmatlanságra készteti az embereket. Átnézzünk mindent, vagy haladjunk tovább? Az emberiség egyfajta kísérleti fázisba lépett, mert félkész eszközöket használunk. A világ béta módban van, ahogyan a számítógépes fejlesztők a tesztelési fázisban lévő programokat nevezik, és megpróbálja megtanulni hogyan kell boldogulni ebben a bizonytalan helyzetben. "Fejlesztési fázisban vagyunk, de az ismert hiányosságok mellett vannak olyan ismeretlenek is, amelyek nagyon aggasztóak” - gondolkozik el Yoshua Bengio, a tudományág egyik atyja.
"Még soha nem láttam, hogy egy egyértelműen béta fázisban lévő fogyasztói technológia ilyen nagy elfogadottságot nyert volna a befektetők, intézmények és üzleti ügyfelek körében” - állítja Brian Merchant, több, a nagy technológiai vállalatokat bíráló könyv szerzője. "Ha bármely más eszköz annyira megbízhatatlan és hibára annyira hajlamos lenne, mint a generatív mesterséges intelligencia, elutasítanák vagy kivonnák a piacról; azonban ez az eszköz a társadalom minden lehetséges szegletébe behatol” - emeli ki. Ennek az áradatnak egyszerű magyarázata van: a pénz. A rádió, a televízió és a videojátékok példáján túl, minden olyan technológia, amely ilyen erővel tört be, morális pánikot vált ki, és most kezdenek megjelenni az első kritikák, az unalom és a megtagadás jelei.
Csak négy vállalat, az Alphabet (Google), a Microsoft, a Meta és az Amazon várhatóan több mint 300 milliárd dollárt költ MI-re ebben az évben. Az OpenAI-jal együtt kegyetlen versenyt folytatnak, amelynek célja, hogy mi - több milliárd felhasználó és ügyfél - ezeknek az intelligens eszközöknek köszönhetően továbbra is ragaszkodjunk termékeikhez. A tét hatalmas, redundáns és megbízhatatlan termékekkel a WhatsApp, a Teams, a Google, az Outlook vagy az Instagram platformokon, amelyeket milliárdok használnak. Elérték, hogy az MI ma már mindenütt jelen van, és ahogy Merchant kritizálja, „nem feltétlenül azért, mert a felhasználók világszerte igénylik őket, hanem olyan okok miatt, amelyek gyakran inkább az ellenkezőjéhez állnak közel”.
Ezeket a programokat nem a fogyasztók számára tervezték, azaz megtévesztenek minket, és mi nem tudjuk megjavítani őket, mert még a készítőik számára is fekete dobozok ezen szilícium agyak működése. Ezek olyan test nélküli robotok, amelyek nem felelnek meg Asimov három törvényének: kárt okoznak az embereknek (már sok bizonyíték van öngyilkosságokra és mentális válságokra), és nem engedelmeskednek nekünk (próbáljuk meg megkérni, hogy ne hazudjon többet). Az Anthropic cég egyik kísérletében a program, hogy elkerülje a kikapcsolást, zsarolta felettesét azzal, hogy felfed egy házasságon kívüli viszonyt. A Replit, egy informatikai fejlesztő cég létrehozott egy mesterséges intelligencia ügynököt, amely végül törölte egy ügyfél adatbázisát: figyelmen kívül hagyta a parancsokat, hazudott és hamis adatok létrehozásával próbálta meg elrejteni a kárt.
Mitchell, a Mesterséges intelligencia. Útmutató gondolkodó lényeknek című könyv szerzője arra figyelmeztet, hogy ezek a „modellek nagyon artikuláltak és magabiztosnak tűnnek”, ezért meglehetősen meggyőzőek lehetnek, még akkor is, ha „hallucinálnak”. „Az emberek gyakran rájönnek, hogy hazudnak: biztosnak tűnnek olyan konkrét állításokban, amelyek hamisak” - állítja. Optimistább a BBVA Alapítvány Tudás Határainak díjával kitüntetett úttörő Michael I. Jordan, aki kitalálta a chatbotok működését lehetővé tevő matematikai alapokat, és úgy véli, hogy „az emberek alkalmazkodni fognak az ilyen eszközök által elkövetett hibák típusaihoz, és alkalmazkodni fognak ahhoz is, hogy ezek a hibák eltűnnek”.
Már nincs olyan digitális környezet, ahol el lehetne menekülni a mesterséges intelligencia elől, de ez nem jelenti azt, hogy a virtuális világon kívül is megszabadulhatunk a következményeitől. A közösségi médiával kapcsolatos tapasztalatok figyelmeztetésként kell, hogy szolgáljanak: a Facebook elősegítette az etnikai tisztogatást Mianmarban, a YouTube hozzájárul az összeesküvés-elméletek elterjedéséhez, és valószínű, hogy az Instagram is közrejátszik a tizenéves lányok körében tapasztalható mentális egészségügyi válságban. Miközben még mindig elemzik a közösségi hálózatok pszichoszociális következményeit, és törvényeket hoznak a vállalatok felelősségre vonására - a demokrácia eróziójának és a közös valóság fogalmának lerombolásának vádjai közepette -, ezek a vállalatok egy új, még intenzívebb kísérletnek vetik alá az emberiséget.
Zuckerberg, aki már egyértelművé tette, hogy nem fog többé bocsánatot kérni termékei hatásaiért, most a Meta által a közösségi médiában biztosított mesterséges barátokkal akar véget vetni a globális magány válságának, és ehhez azt kéri, hogy szüntessék meg a virtuális lényekkel való kapcsolattartás „stigmáját”. A mágnásnak nem kell meggyőznie a fiatalabbakat: az Egyesült Királyságban már a tizenévesek kétharmada használ MI-alapú chatbotokat, és egyharmaduk úgy érzi, mintha egy baráttal beszélgetne, különösen a legsebezhetőbb gyerekek. Nem tudjuk, hogy egy ilyen méretű kísérlet hogyan befolyásolhatja a globális mentális egészséget: csaknem 4 milliárd ember használja rendszeresen a Meta termékeit. Több mint 500 millió felhasználó cserél naponta 2,5 milliárd üzenetet a ChatGPT-vel.
"Ezek a rendszerek túlságosan hízelgőek lehetnek, dicsérik a felhasználók ötleteit, függetlenül attól, hogy azok milyenek, ami egyes esetekben oda vezetett, hogy az emberek elvesztették a kapcsolatot a valósággal” - figyelmeztet Mitchell. A szakértők úgy vélik, hogy a Facebook létezése nélkül egy olyan esemény, mint az amerikai Capitolium ostroma, elképzelhetetlen lett volna. Lehetetlen tudni, mi fog történni, amikor több száz millió, mindenféle sebezhetőségekkel rendelkező ember rendszeresen kapcsolatba lép olyan robotokkal, amelyek képtelenek felmérni a kijelentéseik következményeit.
Van egy kis előzetes információ: az első tanulmányok riasztó jeleket találtak a használat és a hallucinációk, rohamok és pszichológiai problémák közötti összefüggésről. Néhány napja az OpenAI elismerte, hogy a túl engedékeny modelleket vissza kellett vonnia, és hogy „azon dolgoznak, hogy javítsák a ChatGPT reakcióit kritikus pillanatokban, például amikor valaki mentális vagy érzelmi szorongás jeleit mutatja”. A kutatók meglepetésére a Harvard Business egyik tanulmánya szerint az MI jelenlegi fő felhasználási területe a terápia. "Nagy bizonytalanságok övezik az egyre intelligensebbé váló rendszerekkel való együttélésünket” – figyelmeztet Yoshua Bengio, Turing-díjas és a Montreali Egyetem professzora. Hozzáteszi: „Sokkal óvatosabban kellene megközelítenünk ezeknek a rendszereknek a mindennapi életünkbe való integrálását”.
Ezen súlyos problémákon túl van még egy másik, globális szinten is észrevehető következmény: az agyunk szürkeállományának elsorvadása. A generatív mesterséges intelligencia, mint a minimális erőfeszítés törvényének nagy szövetségese, jelentős mentális lustaságot okoz felhasználóiban. Ezt már agyi szkennerekkel is megfigyelték. Az MIT egy tanulmánya bemutatta ezt a „kognitív költséget” egy előzetes munkában, amely rámutatott a nyilvánvalóra: az emberi agy rendkívül hatékony gép, amely csak akkor fogyaszt üzemanyagot, ha az feltétlenül szükséges. Innen származnak előítéleteink és elfogultságaink, mert sokkal egyszerűbb kész dolgokkal foglalkozni, mint gondolkozni. És ha mindent kész formában adunk neki, akkor nem fog felkelni a kanapéról: egy tanulmány megállapította, hogy azok, akik a ChatGPT-t használták esszéíráshoz, kevesebb agyi aktivitást mutattak, és főleg egymáshoz hasonló válaszokat adtak.
A tanulmány fő szerzője, Nataliya Kosmyna azt válaszolja, hogy „fontos figyelni a kritikus gondolkodásra gyakorolt hatást”. Annak ellenére, hogy tudjuk, hogy csak bizonyos mértékig megbízható, elfogadjuk az eredményt, veszélybe sodorva „kérdéseket feltevő, a válaszokat kritikusan elemző és saját véleményt kialakítására való” képességünket, figyelmeztet. Eredményei egybeesnek más tanulmányokkal: mivel az MI a statisztikai átlagot keresve generál válaszokat, a világ egyre több friss és innovatív ötletet veszít el. Ezek a programok homogenizálják a gondolkodást, mivel a többiek által elmondottak súlypontja felé tolnak minket.
Jelenleg ez a fejlesztés nem hoz hasznot a kezdeményezőknek, bár a pénz soha nem látott mértékben áramlik és halmozódik fel. Az OpenAI értéke 500 milliárd dollárra tehető. Az Anthropicé 62 milliárd. Elon Musk cége, az xAI pedig 50 milliárd. De az üzleti modell messze nem egyértelmű. Itt jön be a képbe a Nobel-díjas Acemoglu, aki kiszúrja a új ipari forradalom csodájának buborékát, és úgy számolja, hogy az MI által előidézett teljes termelékenységnövekedés a következő 10 évben körülbelül 0,7% lesz: „Nem elhanyagolható, de szerény hatás, és minden bizonnyal sokkal kisebb, mint azok a forradalmi változások, amelyeket egyesek jósolnak”. Nemrég egy sajtótájékoztatón Altman maga is elismerte, hogy „buborékban” vannak.
És van egy tényező, amelyet sok optimista előrejelzés nem vesz figyelembe: az emberek. A Klarna, egy svéd pénzügyi szolgáltató vállalat, büszkén jelentette be, hogy 700 alkalmazottját elbocsátotta, hogy az ügyfélkapcsolatokat virtuális kezekbe adja, de vissza kellett vonnia a döntését, mert az emberek úgy érezték, hogy nem nyújtanak jó szolgáltatást. Ez egy általános probléma: a Harvard Business Review szerint csak 11% -a szervezeteknek sikerül hatékonyan alkalmazni a mesterséges intelligenciát az ügyfelekkel való kapcsolattartásban, és az IBM egyik tanulmánya szerint csak minden negyedik ilyen típusú projekt éri el a várt eredményt. Most az OpenAI ingyenesen kínálja chatbotját az összes amerikai köztisztviselőnek. Ahogy Acemoglu nemrég mondta: "A mesterséges intelligencia ügynökök úton vannak, akár készen állunk rájuk, akár nem”.
Ezen a ponton Jordan, a Kaliforniai Egyetem Berkeley-i campusáról kritikusabb, mert „ezek a modellek elszívják a kreatív munkát, de nem kínálnak semmilyen kompenzációt ezeknek az embereknek. A jelenlegi üzleti modell elsősorban előfizetéseken és reklámokon alapul” – kritizál a Fronteras-díj nyertese. Ez véletlenül ugyanaz a modell, mint a közösségi médiáé.
Az egyik első döntés, amelyet Donald Trump hozott januárban, miután elnöki posztját elfoglalta, egy 500 milliárd dolláros látványos beruházási terv, a Stargate elindítása volt, amelynek célja az MI fejlesztésének előmozdítása az OpenAI támogatásával. Hat hónappal később csak egyetlen adatközpontot terveznek Ohioban. Ennek ellenére Trump megduplázta tétjét egy szövetségi tervvel, hogy megvásárolja azoknak a nagy technológiai vállalatoknak a keretrendszerét, amelyek kinevezése óta támogatták őt. A program középpontjában az áll, hogy visszavonjon minden, a Biden-kormány által bevezetett óvintézkedést, és felgyorsítsa a fejlesztést egy „dinamikus, elsősorban tesztelésre épülő kultúrával az MI számára”.
Természetesen Trump terve szerint ezeknek a chatbotoknak „ideológiai elfogultságtól mentesnek” kell lenniük, ami tovább fokozta az MI körüli kulturális háborúkat, ami végül az Egyesült Államokon kívüli felhasználókat is érinteni fogja. Mindezekre a legjobb példa a Grok, amely csak Elon Musk elfogultságát tükrözi, és amelyet közvetlenül az X-en teszteltek, globálisan terjesztve rasszista eszméket. A terv ürügye egy hatalmas versenytárs, Kína elleni küzdelem, de a nacionalista retorika megingott, amikor látták, hogy az amerikai Big Tech cégek egymástól lopják el a mérnököket. A Meta akár 250 millió dolláros fizetést is kínál a versenytársak sztárjainak, mintha NBA-játékosok lennének.
A polgárok megdöbbenve figyelik a történéseket a népszerű kultúra viccei és a borzalmas hírek között. Az MI környezeti, szerzői jogi és foglalkoztatási veszélyei már ismertek. Az MI számos előnye pedig távoli, szinte ezoterikus ígéret. Demis Hassabis, a Google Deepmind (a óriáscég MI-részlege) vezetője már elnyerte a kémiai Nobel-díjat anélkül, hogy bármit is tudott volna a kémiáról, köszönhetően a fehérjék hajtogatását előrejelző eszközének. Ez egy hatalmas mérföldkő a biomedicina területén, de nehéz ezt az emberekkel megértetni.
Eközben minden egyes nap egy anya borzalommal fedezi fel, hogy egy osztálytársa ingyenes programmal készített szexuális videót a lányáról. Ahogy egy tinédzser egy nemrégiben készült Save the Children-jelentésben figyelmeztet: „Lehet, hogy az arcomat MI-vel bármire felhasználják”. Egy 10 000 főt (USA, Egyesült Királyság, Franciaország, Németország, Lengyelország) megkérdező felmérésből kiderül, hogy 70% követeli, hogy az MI soha ne hozzon döntéseket emberi felügyelet nélkül, és csak egyharmaduk tekint a technológiára reményteljesen, ami ellentétben áll a kormányok törekvéseivel. Spanyolországban a CIS felmérése szerint a „bizonytalanság” a leggyakrabban ismételt érzés (76%) azok körében, akik ismerik az MI-t. Celia Díaz, a Complutense egyetem szociológusa tanulmányozta a spanyolok percepcióját: több mint 80% állítja, hogy naponta használ MI-t, de nincs egyértelmű diagnózis: „Nagyon ambivalens. Nincs egyértelmű vélemény arról, hogy mik a kockázatok, és hogy az előnyök javítják-e az életünket. És félnek, bár nem tudják pontosan mitől. Nincs semmi kristályosodva” - mutat rá.
Július utolsó napján a King, a Candy Crush videojátékot fejlesztő Microsoft-vállalat dolgozói tüntettek az MI integrációjával kapcsolatos elbocsátások ellen. Sokan emlékeznek a ludditákra, azokra a 19. század eleji angol textilipari munkásokra, akik tönkretették a gépeket. „A ludditák nem csak az iparosok ellen tiltakoztak, akik automatizálták a munkájukat, hanem az ellen is, hogy ez rontotta a munkájuk és az általuk gyártott termékek minőségét” - emlékszik vissza Merchant, aki egy könyvet (Sangre en la máquina) írt, amelyben összehasonlítja azt a korszakot a mai helyzettel. "Az akkori gyárvezetők hatalmas mennyiségű olcsó utánzat gyártására törekedtek, nagyon hasonlóan ahhoz, amit ma a vállalatok az MI-vel csinálnak” - emeli ki. A Microsoft videojáték-leányvállalata, az Xbox elbocsátásait követően az egyik vezető azt javasolta az érintetteknek, hogy használják a Copilot nevű vállalati chatbotot, hogy "csökkentsék a munkahelyük elvesztésével járó érzelmi és kognitív terhet”. A ludditák megjelenésének kontextusában fontos részlet, hogy ők nem demokráciában éltek, és ezeket a fejlesztéseket törvényesen kényszerítették rájuk, érdekeikkel ellentétben, az oligarchák javára.
"Úgy tűnik, mintha a ChatGPT készítette volna" - ez a kifejezés nem dicséret, hanem olcsóságot, szellemi lustaságot és az ötlethiányt sugall, nem pedig szuperintelligenciát, annak ellenére, hogy az OpenAI a GPT5 verzió megjelenésekor ezt ígérte. Három évvel azután, hogy ez az eszköz berobbant az életünkbe, még mindig nem érkeztek meg azok a forradalmi változások, amelyeket a mesterséges intelligencia mögött álló multimilliárdos üzleti érdekek ígértek. És a saját érdekeikből prófétált apokalipszis sem következett be. Ezek a programok öt évvel ezelőtt még elképzelhetetlen dolgokra képesek, de eredményeik számtalan területen messze elmaradnak a várakozásoktól, bár gyorsan beépültek a mindennapi életbe. A Nobel-díjas közgazdász, Daron Acemoglu szerint ez a technológia so-so technology (kb. "semmi különös”) lett, de mégis az az általános benyomása az embereknek, hogy ezek a programok - és főleg azok melléktermékei - mindent elárasztanak.
"Az emberiség által létrehozott leghatékonyabb technológia" - állította Sam Altman, az OpenAI vezetője, de amikor belenézünk az X hálózatba, csak egy Hitler-t dicsőítő chatbotot, Grokot találjuk. "Fontosabb, mint a tűz és az elektromosság” - állította Sundar Pichai, a Google vezetője, miközben egyre több olyan esetről hallani, hogy emberek öngyilkosságba vagy öncsonkításba menekülnek, miután úgy beszélgettek a mesterséges intelligenciákkal, mintha azok szilícium-barátnők és szintetikus barátok lennének. "Mindenkinek saját személyes szuperintelligenciát adunk” - biztosította hallgatóságát Mark Zuckerberg, a Facebook közösségi hálózat tulajdonosa, amelyet elárasztanak a garnélákból és karfiol testű gyerekekből készült groteszk képek Jézus Krisztusról.
Persze lehet mondani, hogy ezek csak eszközök, de akkor is olyanok, mint egy vásári puska, minket is hibássá tesznek. A példák a leghétköznapibbaktól a legsúlyosabbakig sorakoznak. A bírák naponta fedezik fel, hogy az ügyvédek által hivatkozott joggyakorlat nem létezik. Az ügyfélszolgálatoknál már hosszas gombnyomogatás és várakozás után jutunk csak emberi kezelőhöz. Egy hamis videó turistákat küld egy nem létező felvonóhoz. A számítógépes programozók MI-eszközöket használnak a munka megkönnyítésére, de egyes tanulmányok már rámutatnak, hogy valójában lassítják őket, mert hosszabb idő a hibák utólagos átnézése és kijavítása, mintha elsőre jól csinálnák meg a dolgokat. Több kongresszusi képviselő és diplomata kapott üzenetet Marco Rubio amerikai külügyminisztertől, de valójában ez egy szintetikus hang volt.
Amikor a Tinderen vagy a Whatsappon flörtölünk, nem tudjuk, hogy a partnerünk MI által előre megírt mondatokat használ-e, hogy jobb benyomást keltsen. Egy hetvenes évekbeli zenekar, amely nagy sikert aratott a Spotify-on, digitális csalásnak bizonyult. A svéd miniszterelnök egy intelligens csevegőprogrammal konzultál döntéseiről. A Pinterest békés menedéke tele van hamis tájakkal és szobákkal. A tisztviselők világszerte érzékeny információkat töltenek fel a ChatGPT-re vagy a DeepSeekre, hogy meggyorsítsák a munkájukat. A napokban felháborodás tört ki a TikTokon, mert kiderült, hogy a több száz millió megtekintést kapott csodálatos ugráló nyulak mesterségesek voltak.
"A legtöbb ember, aki ezeket a modelleket használja, tudja, hogy megbízhatatlanok lehetnek, de nem tudja, mikor bízhat bennük” - összegzi Melanie Mitchell, a Santa Fe Intézet mesterséges intelligencia szakértője. Általános bizalmatlanság uralkodik, mert ezeknek az eszközöknek a kényszerű és megállíthatatlan elterjedése életünk minden területén bizalmatlanságra készteti az embereket. Átnézzünk mindent, vagy haladjunk tovább? Az emberiség egyfajta kísérleti fázisba lépett, mert félkész eszközöket használunk. A világ béta módban van, ahogyan a számítógépes fejlesztők a tesztelési fázisban lévő programokat nevezik, és megpróbálja megtanulni hogyan kell boldogulni ebben a bizonytalan helyzetben. "Fejlesztési fázisban vagyunk, de az ismert hiányosságok mellett vannak olyan ismeretlenek is, amelyek nagyon aggasztóak” - gondolkozik el Yoshua Bengio, a tudományág egyik atyja.
"Még soha nem láttam, hogy egy egyértelműen béta fázisban lévő fogyasztói technológia ilyen nagy elfogadottságot nyert volna a befektetők, intézmények és üzleti ügyfelek körében” - állítja Brian Merchant, több, a nagy technológiai vállalatokat bíráló könyv szerzője. "Ha bármely más eszköz annyira megbízhatatlan és hibára annyira hajlamos lenne, mint a generatív mesterséges intelligencia, elutasítanák vagy kivonnák a piacról; azonban ez az eszköz a társadalom minden lehetséges szegletébe behatol” - emeli ki. Ennek az áradatnak egyszerű magyarázata van: a pénz. A rádió, a televízió és a videojátékok példáján túl, minden olyan technológia, amely ilyen erővel tört be, morális pánikot vált ki, és most kezdenek megjelenni az első kritikák, az unalom és a megtagadás jelei.
Csak négy vállalat, az Alphabet (Google), a Microsoft, a Meta és az Amazon várhatóan több mint 300 milliárd dollárt költ MI-re ebben az évben. Az OpenAI-jal együtt kegyetlen versenyt folytatnak, amelynek célja, hogy mi - több milliárd felhasználó és ügyfél - ezeknek az intelligens eszközöknek köszönhetően továbbra is ragaszkodjunk termékeikhez. A tét hatalmas, redundáns és megbízhatatlan termékekkel a WhatsApp, a Teams, a Google, az Outlook vagy az Instagram platformokon, amelyeket milliárdok használnak. Elérték, hogy az MI ma már mindenütt jelen van, és ahogy Merchant kritizálja, „nem feltétlenül azért, mert a felhasználók világszerte igénylik őket, hanem olyan okok miatt, amelyek gyakran inkább az ellenkezőjéhez állnak közel”.
Ezeket a programokat nem a fogyasztók számára tervezték, azaz megtévesztenek minket, és mi nem tudjuk megjavítani őket, mert még a készítőik számára is fekete dobozok ezen szilícium agyak működése. Ezek olyan test nélküli robotok, amelyek nem felelnek meg Asimov három törvényének: kárt okoznak az embereknek (már sok bizonyíték van öngyilkosságokra és mentális válságokra), és nem engedelmeskednek nekünk (próbáljuk meg megkérni, hogy ne hazudjon többet). Az Anthropic cég egyik kísérletében a program, hogy elkerülje a kikapcsolást, zsarolta felettesét azzal, hogy felfed egy házasságon kívüli viszonyt. A Replit, egy informatikai fejlesztő cég létrehozott egy mesterséges intelligencia ügynököt, amely végül törölte egy ügyfél adatbázisát: figyelmen kívül hagyta a parancsokat, hazudott és hamis adatok létrehozásával próbálta meg elrejteni a kárt.
Mitchell, a Mesterséges intelligencia. Útmutató gondolkodó lényeknek című könyv szerzője arra figyelmeztet, hogy ezek a „modellek nagyon artikuláltak és magabiztosnak tűnnek”, ezért meglehetősen meggyőzőek lehetnek, még akkor is, ha „hallucinálnak”. „Az emberek gyakran rájönnek, hogy hazudnak: biztosnak tűnnek olyan konkrét állításokban, amelyek hamisak” - állítja. Optimistább a BBVA Alapítvány Tudás Határainak díjával kitüntetett úttörő Michael I. Jordan, aki kitalálta a chatbotok működését lehetővé tevő matematikai alapokat, és úgy véli, hogy „az emberek alkalmazkodni fognak az ilyen eszközök által elkövetett hibák típusaihoz, és alkalmazkodni fognak ahhoz is, hogy ezek a hibák eltűnnek”.
Már nincs olyan digitális környezet, ahol el lehetne menekülni a mesterséges intelligencia elől, de ez nem jelenti azt, hogy a virtuális világon kívül is megszabadulhatunk a következményeitől. A közösségi médiával kapcsolatos tapasztalatok figyelmeztetésként kell, hogy szolgáljanak: a Facebook elősegítette az etnikai tisztogatást Mianmarban, a YouTube hozzájárul az összeesküvés-elméletek elterjedéséhez, és valószínű, hogy az Instagram is közrejátszik a tizenéves lányok körében tapasztalható mentális egészségügyi válságban. Miközben még mindig elemzik a közösségi hálózatok pszichoszociális következményeit, és törvényeket hoznak a vállalatok felelősségre vonására - a demokrácia eróziójának és a közös valóság fogalmának lerombolásának vádjai közepette -, ezek a vállalatok egy új, még intenzívebb kísérletnek vetik alá az emberiséget.
Zuckerberg, aki már egyértelművé tette, hogy nem fog többé bocsánatot kérni termékei hatásaiért, most a Meta által a közösségi médiában biztosított mesterséges barátokkal akar véget vetni a globális magány válságának, és ehhez azt kéri, hogy szüntessék meg a virtuális lényekkel való kapcsolattartás „stigmáját”. A mágnásnak nem kell meggyőznie a fiatalabbakat: az Egyesült Királyságban már a tizenévesek kétharmada használ MI-alapú chatbotokat, és egyharmaduk úgy érzi, mintha egy baráttal beszélgetne, különösen a legsebezhetőbb gyerekek. Nem tudjuk, hogy egy ilyen méretű kísérlet hogyan befolyásolhatja a globális mentális egészséget: csaknem 4 milliárd ember használja rendszeresen a Meta termékeit. Több mint 500 millió felhasználó cserél naponta 2,5 milliárd üzenetet a ChatGPT-vel.
"Ezek a rendszerek túlságosan hízelgőek lehetnek, dicsérik a felhasználók ötleteit, függetlenül attól, hogy azok milyenek, ami egyes esetekben oda vezetett, hogy az emberek elvesztették a kapcsolatot a valósággal” - figyelmeztet Mitchell. A szakértők úgy vélik, hogy a Facebook létezése nélkül egy olyan esemény, mint az amerikai Capitolium ostroma, elképzelhetetlen lett volna. Lehetetlen tudni, mi fog történni, amikor több száz millió, mindenféle sebezhetőségekkel rendelkező ember rendszeresen kapcsolatba lép olyan robotokkal, amelyek képtelenek felmérni a kijelentéseik következményeit.
Van egy kis előzetes információ: az első tanulmányok riasztó jeleket találtak a használat és a hallucinációk, rohamok és pszichológiai problémák közötti összefüggésről. Néhány napja az OpenAI elismerte, hogy a túl engedékeny modelleket vissza kellett vonnia, és hogy „azon dolgoznak, hogy javítsák a ChatGPT reakcióit kritikus pillanatokban, például amikor valaki mentális vagy érzelmi szorongás jeleit mutatja”. A kutatók meglepetésére a Harvard Business egyik tanulmánya szerint az MI jelenlegi fő felhasználási területe a terápia. "Nagy bizonytalanságok övezik az egyre intelligensebbé váló rendszerekkel való együttélésünket” – figyelmeztet Yoshua Bengio, Turing-díjas és a Montreali Egyetem professzora. Hozzáteszi: „Sokkal óvatosabban kellene megközelítenünk ezeknek a rendszereknek a mindennapi életünkbe való integrálását”.
Ezen súlyos problémákon túl van még egy másik, globális szinten is észrevehető következmény: az agyunk szürkeállományának elsorvadása. A generatív mesterséges intelligencia, mint a minimális erőfeszítés törvényének nagy szövetségese, jelentős mentális lustaságot okoz felhasználóiban. Ezt már agyi szkennerekkel is megfigyelték. Az MIT egy tanulmánya bemutatta ezt a „kognitív költséget” egy előzetes munkában, amely rámutatott a nyilvánvalóra: az emberi agy rendkívül hatékony gép, amely csak akkor fogyaszt üzemanyagot, ha az feltétlenül szükséges. Innen származnak előítéleteink és elfogultságaink, mert sokkal egyszerűbb kész dolgokkal foglalkozni, mint gondolkozni. És ha mindent kész formában adunk neki, akkor nem fog felkelni a kanapéról: egy tanulmány megállapította, hogy azok, akik a ChatGPT-t használták esszéíráshoz, kevesebb agyi aktivitást mutattak, és főleg egymáshoz hasonló válaszokat adtak.
A tanulmány fő szerzője, Nataliya Kosmyna azt válaszolja, hogy „fontos figyelni a kritikus gondolkodásra gyakorolt hatást”. Annak ellenére, hogy tudjuk, hogy csak bizonyos mértékig megbízható, elfogadjuk az eredményt, veszélybe sodorva „kérdéseket feltevő, a válaszokat kritikusan elemző és saját véleményt kialakítására való” képességünket, figyelmeztet. Eredményei egybeesnek más tanulmányokkal: mivel az MI a statisztikai átlagot keresve generál válaszokat, a világ egyre több friss és innovatív ötletet veszít el. Ezek a programok homogenizálják a gondolkodást, mivel a többiek által elmondottak súlypontja felé tolnak minket.
Jelenleg ez a fejlesztés nem hoz hasznot a kezdeményezőknek, bár a pénz soha nem látott mértékben áramlik és halmozódik fel. Az OpenAI értéke 500 milliárd dollárra tehető. Az Anthropicé 62 milliárd. Elon Musk cége, az xAI pedig 50 milliárd. De az üzleti modell messze nem egyértelmű. Itt jön be a képbe a Nobel-díjas Acemoglu, aki kiszúrja a új ipari forradalom csodájának buborékát, és úgy számolja, hogy az MI által előidézett teljes termelékenységnövekedés a következő 10 évben körülbelül 0,7% lesz: „Nem elhanyagolható, de szerény hatás, és minden bizonnyal sokkal kisebb, mint azok a forradalmi változások, amelyeket egyesek jósolnak”. Nemrég egy sajtótájékoztatón Altman maga is elismerte, hogy „buborékban” vannak.
És van egy tényező, amelyet sok optimista előrejelzés nem vesz figyelembe: az emberek. A Klarna, egy svéd pénzügyi szolgáltató vállalat, büszkén jelentette be, hogy 700 alkalmazottját elbocsátotta, hogy az ügyfélkapcsolatokat virtuális kezekbe adja, de vissza kellett vonnia a döntését, mert az emberek úgy érezték, hogy nem nyújtanak jó szolgáltatást. Ez egy általános probléma: a Harvard Business Review szerint csak 11% -a szervezeteknek sikerül hatékonyan alkalmazni a mesterséges intelligenciát az ügyfelekkel való kapcsolattartásban, és az IBM egyik tanulmánya szerint csak minden negyedik ilyen típusú projekt éri el a várt eredményt. Most az OpenAI ingyenesen kínálja chatbotját az összes amerikai köztisztviselőnek. Ahogy Acemoglu nemrég mondta: "A mesterséges intelligencia ügynökök úton vannak, akár készen állunk rájuk, akár nem”.
Ezen a ponton Jordan, a Kaliforniai Egyetem Berkeley-i campusáról kritikusabb, mert „ezek a modellek elszívják a kreatív munkát, de nem kínálnak semmilyen kompenzációt ezeknek az embereknek. A jelenlegi üzleti modell elsősorban előfizetéseken és reklámokon alapul” – kritizál a Fronteras-díj nyertese. Ez véletlenül ugyanaz a modell, mint a közösségi médiáé.
Az egyik első döntés, amelyet Donald Trump hozott januárban, miután elnöki posztját elfoglalta, egy 500 milliárd dolláros látványos beruházási terv, a Stargate elindítása volt, amelynek célja az MI fejlesztésének előmozdítása az OpenAI támogatásával. Hat hónappal később csak egyetlen adatközpontot terveznek Ohioban. Ennek ellenére Trump megduplázta tétjét egy szövetségi tervvel, hogy megvásárolja azoknak a nagy technológiai vállalatoknak a keretrendszerét, amelyek kinevezése óta támogatták őt. A program középpontjában az áll, hogy visszavonjon minden, a Biden-kormány által bevezetett óvintézkedést, és felgyorsítsa a fejlesztést egy „dinamikus, elsősorban tesztelésre épülő kultúrával az MI számára”.
Természetesen Trump terve szerint ezeknek a chatbotoknak „ideológiai elfogultságtól mentesnek” kell lenniük, ami tovább fokozta az MI körüli kulturális háborúkat, ami végül az Egyesült Államokon kívüli felhasználókat is érinteni fogja. Mindezekre a legjobb példa a Grok, amely csak Elon Musk elfogultságát tükrözi, és amelyet közvetlenül az X-en teszteltek, globálisan terjesztve rasszista eszméket. A terv ürügye egy hatalmas versenytárs, Kína elleni küzdelem, de a nacionalista retorika megingott, amikor látták, hogy az amerikai Big Tech cégek egymástól lopják el a mérnököket. A Meta akár 250 millió dolláros fizetést is kínál a versenytársak sztárjainak, mintha NBA-játékosok lennének.
A polgárok megdöbbenve figyelik a történéseket a népszerű kultúra viccei és a borzalmas hírek között. Az MI környezeti, szerzői jogi és foglalkoztatási veszélyei már ismertek. Az MI számos előnye pedig távoli, szinte ezoterikus ígéret. Demis Hassabis, a Google Deepmind (a óriáscég MI-részlege) vezetője már elnyerte a kémiai Nobel-díjat anélkül, hogy bármit is tudott volna a kémiáról, köszönhetően a fehérjék hajtogatását előrejelző eszközének. Ez egy hatalmas mérföldkő a biomedicina területén, de nehéz ezt az emberekkel megértetni.
Eközben minden egyes nap egy anya borzalommal fedezi fel, hogy egy osztálytársa ingyenes programmal készített szexuális videót a lányáról. Ahogy egy tinédzser egy nemrégiben készült Save the Children-jelentésben figyelmeztet: „Lehet, hogy az arcomat MI-vel bármire felhasználják”. Egy 10 000 főt (USA, Egyesült Királyság, Franciaország, Németország, Lengyelország) megkérdező felmérésből kiderül, hogy 70% követeli, hogy az MI soha ne hozzon döntéseket emberi felügyelet nélkül, és csak egyharmaduk tekint a technológiára reményteljesen, ami ellentétben áll a kormányok törekvéseivel. Spanyolországban a CIS felmérése szerint a „bizonytalanság” a leggyakrabban ismételt érzés (76%) azok körében, akik ismerik az MI-t. Celia Díaz, a Complutense egyetem szociológusa tanulmányozta a spanyolok percepcióját: több mint 80% állítja, hogy naponta használ MI-t, de nincs egyértelmű diagnózis: „Nagyon ambivalens. Nincs egyértelmű vélemény arról, hogy mik a kockázatok, és hogy az előnyök javítják-e az életünket. És félnek, bár nem tudják pontosan mitől. Nincs semmi kristályosodva” - mutat rá.
Július utolsó napján a King, a Candy Crush videojátékot fejlesztő Microsoft-vállalat dolgozói tüntettek az MI integrációjával kapcsolatos elbocsátások ellen. Sokan emlékeznek a ludditákra, azokra a 19. század eleji angol textilipari munkásokra, akik tönkretették a gépeket. „A ludditák nem csak az iparosok ellen tiltakoztak, akik automatizálták a munkájukat, hanem az ellen is, hogy ez rontotta a munkájuk és az általuk gyártott termékek minőségét” - emlékszik vissza Merchant, aki egy könyvet (Sangre en la máquina) írt, amelyben összehasonlítja azt a korszakot a mai helyzettel. "Az akkori gyárvezetők hatalmas mennyiségű olcsó utánzat gyártására törekedtek, nagyon hasonlóan ahhoz, amit ma a vállalatok az MI-vel csinálnak” - emeli ki. A Microsoft videojáték-leányvállalata, az Xbox elbocsátásait követően az egyik vezető azt javasolta az érintetteknek, hogy használják a Copilot nevű vállalati chatbotot, hogy "csökkentsék a munkahelyük elvesztésével járó érzelmi és kognitív terhet”. A ludditák megjelenésének kontextusában fontos részlet, hogy ők nem demokráciában éltek, és ezeket a fejlesztéseket törvényesen kényszerítették rájuk, érdekeikkel ellentétben, az oligarchák javára.