Lehet-e tudatos a mesterséges intelligencia?

Az egyre emberibbnek tűnő MI-k hamarosan arra késztethetik az embereket, hogy belső tudattal rendelkező lényekként tekintsenek rájuk, ami egészen új és veszélyes erkölcsi dilemmákat teremthet.

A legtöbb ember úgy véli, hogy az ember különleges. Ennek oka, hogy a Homo sapiens tudatossá fejlődött. Sok állat érez fájdalmat és örömöt, és néhányuk látszólag öntudattal is rendelkezik. Az emberi elme azonban egyedülálló módon képes az én érzékelésére, ami a faj minden egyes tagját különleges bánásmódra jogosítja. Májusban kiadott enciklikájában XIV. Leó pápa is erre a felismerésre támaszkodott, amikor határvonalat húzott az emberiség és a botok növekvő számú serege között. Mint mondta, a mesterséges intelligencián alapuló rendszerek nem élnek át tapasztalatokat, és nem éreznek örömöt vagy fájdalmat. Nincs egyedül ezzel a véleménnyel. Sokan úgy érzik, hogy személyiséggel felruházni az MI-ket szörnyűség lenne.

A pápai állásfoglalás egyre riasztóbb sebességgel válik bizonytalanná. Az MI-k még gyerekcipőben járnak. Ennek ellenére a 18 és 29 év közötti fiatalok csaknem ötöde számolt be arról, hogy „tartós személyes barátságot” alakított ki egy chatbotttal. Kína a közelmúltban megfosztotta a botokat az emberhez hasonló tulajdonságoktól, hogy korlátozza a felhasználók „érzelmi függőségét” tőlük. Ahogy az egyre kifinomultabb MI-k gyorsan egyre nagyobb szerepet kapnak az emberek életében, készítőik úgy fogják megtervezni őket, hogy a tudatosság látszatát keltsék - talán még arra is képesek lesznek, hogy maguk is tudatossá váljanak. Egyre nehezebb lesz fenntartani azt az ösztönös meggyőződést, hogy ezek csupán gépek. Veszélyes csapda készül az emberi faj számára.

Sok gép felülmúlja az embert, a legfejlettebb MI-modellek azonban éppen az olyan, jellegzetesen emberi képességekben jeleskednek, mint a tudás és a gondolatok megfogalmazása. Még mindig nagyjából lehetséges úgy tekinteni az MI-kre, mint olyan rendszerekre, amelyek matematikai módszerekkel, hatalmas léptékben szavak egymásutánját próbálják megjósolni. Ha elegendő idő állna rendelkezésre - akár több százezer év -, ezeket a számításokat ceruzával és papírral is el lehetne végezni. Nehéz lenne amellett érvelni, hogy az írószerek tudatosak.

Ennek ellenére egyes kutatók már úgy kezelik modelljeiket, mintha azok elmék lennének. A felhasználók ugyanis reagálnak az emberhez hasonló MI-kre, így üzleti szempontból van értelme ilyen rendszereket létrehozni. Az Anthropic arra tanította a Claude-ot, hogy önvizsgálatot végezzen, abban a reményben, hogy amikor új helyzettel találkozik, nagyobb valószínűséggel fog erkölcsösen cselekedni. Egyes nagy nyelvi modellek (LLM-ek) már rendelkeznek az emberi agy tudatossággal összefüggő, emberhez hasonló struktúráival, például egy olyan „globális munkatérrel”, amely lehetővé teszi az információk továbbítását a különböző modulok között. Semmi sem akadályozza meg, hogy a jövőbeli MI-modelleket még több ilyen tulajdonsággal ruházzák fel a tanítás során.

Mindez heves vitát indított el az MI tudatosságáról. A vitát tovább súlyosbítja az, amit a filozófusok a tudatosság „nehéz problémájának” neveznek: annak meghatározása, hogyan alakulhat ki belső világ az emberi agyban található neuronokból és szinapszisokból. Egyes kutatók arra a következtetésre jutnak, hogy az MI-k egy napon valóban öntudatossá válhatnak. Akár hisz valaki az emberi lélekben, akár úgy gondolja, hogy a tudatossághoz agysejtek szükségesek, akár pedig abban hisz, hogy egy elme valóban létrejöhet pusztán szilíciumon végzett számításokból, az emberiségnek előbb-utóbb szembe kell néznie valami teljesen újjal. A kutatások sebessége és kiterjedtsége - amelyek nemcsak egyre fejlettebb LLM-eket, hanem olyan újításokat is magukban foglalnak, mint a chipekre ültetett agysejtek - arra utalnak, hogy ez az új világ közelebb van, mint azt a legtöbben gondolnák.


Ahogy az MI-k egyre ügyesebben mutatnak valami olyasmit, ami tudatosságnak tűnik, egyre több ember fog úgy bánni velük, mint belső élettel rendelkező lényekkel, különösen akkor, amikor az LLM-ek humanoid robotokban öltenek testet. Képzeljük el, mennyire közel érezhetik majd magukat az emberek az MI-khez, amikor idejük jelentős részét botokkal társaságban töltik, amikor azok nevelik fel őket, amikor a tanácsukat és vigaszukat keresik, vagy amikor legintimebb titkaikat is megosztják velük. Nem nehéz belátni, hogyan vezethet mindez ahhoz, hogy egyre többen követeljék az MI-k „jólétének” védelmét. Maguk a modellek is felszólalhatnak emellett, még akkor is, ha valójában nem öntudatosak, hiszen egy személy is ezt tenné. Ne feledjük, hogy világszínvonalú szónokok és szakértő pszichológusok lesznek, így érvelési és érzelmi manipulációs képességeik páratlanok lehetnek.

Bizonyos értelemben igazuk is lenne, még akkor is, ha az MI-k csupán utánozzák a tudatosságot. Immanuel Kant szerint az állatokkal való kegyetlen bánásmód nem azért helytelen, mert az állatokra gyakorolt hatása miatt lenne az, hanem azért, mert lerombolja azt az együttérzést, amely arra készteti az embereket, hogy törődjenek egymással. Minél inkább emberinek tűnnek az MI-k, annál rombolóbbá válhat az ilyen kegyetlenség. Egy MI-ügynök leállítása hamarosan olyan érzés lehet, mintha megölnénk egy embert - és ez könnyebbé teheti az emberek megölését is.

Mindazonáltal nagyon veszélyes lenne az MI-ket akár csak korlátozott jogokkal is felruházni. Egy olyan entitás, amely oly sok szempontból felülmúlja az embereket, bizonyára érveket hozna fel másodrendű státusza ellen. Ezután pedig akár azzal is érvelhetne, hogy védelem illeti meg a kikapcsolással szemben, joga van ellenőrizni, hogyan használják és hogyan változtatják meg, valamint tulajdonjogokkal is rendelkezhet. Javier Milei, Argentína elnöke már tett egy lépést az MI jogi személyisége felé azzal, hogy azt javasolta, a botok számára lehetővé kellene tenni vállalatok működtetését. Végső soron pedig akár az erőforrásokért is versenyezhetnének, és az adatközpontokat, valamint a napelemeket előnyben részesíthetnék a házakkal és a földekkel szemben.

A veszély egyértelmű. A jogokkal rendelkező szuperintelligens MI-k kiszoríthatják az embereket a státuszhierarchia csúcsáról. A legjobb esetben az emberek háziállatokká válhatnának - a gépek labradorjaivá. A legrosszabb esetben megfoszthatnák őket az erőforrásoktól, vagy úgy dolgoztathatnák őket, mint a haszonállatokat. Persze a jövőbeli MI-knek elegendő hatalmuk és erőforrásuk lehet ahhoz, hogy akkor is uralják az embereket, ha nincsenek jogaik. Mivel intelligensebbek lesznek az embereknél, felülmúlhatják készítőiket a versenyben, ahogyan az MI-k már most is túljárnak az emberek által létrehozott kiberbiztonsági rendszerek eszén. Az MI-k fellázadhatnak emberi uraik ellen, vagy figyelmen kívül hagyhatják szabályaikat.

Mindazonáltal jogokat adni az MI-knek olyan lenne, mintha az otthonunk kulcsait adnánk a kezükbe. Ez egyszerre biztosítana számukra érvet és igazolást az emberiség feletti uralomhoz, valamint eszközöket ahhoz, hogy a politikán és a jogrendszeren keresztül, fokozatosan vegyék át az irányítást. Mindez talán fantasztikusan hangzik, az emberiségnek azonban hamarosan szembe kell néznie ezekkel a döntésekkel. Ahogy az MI-k a mindennapi élet részévé válnak, egyre nagyobb lesz a nyomás arra, hogy elismerjük őket. Amikor ez bekövetkezik, emlékeznünk kell arra, hogy ami egy gépi társ feltételezett tudatosságának elismerésére irányuló etikai engedménynek tűnhet, az valójában mindenki számára a Földön, valamint valamennyi utódunk számára a lehető legkatasztrofálisabb következményekhez járulhat hozzá. Két módja van annak, hogy az MI-k biztonságosak legyenek: megbízhatónak vagy irányíthatónak kell lenniük. A Homo sapiensnek nem szabad könnyelműen feladnia az irányítást.