Geoffrey Hinton, az egyik legismertebb mesterséges intelligencia-kutató, aki nélkül ma nem léteznének a modern gépi tanulási rendszerek, a technológia legsötétebb következményeire figyelmeztet. A Nobel-díjas tudós Torontóban beszélt az MI valódi intelligenciájáról, a kapitalizmus hatásairól, a Kínával kapcsolatos aggodalmairól, valamint arról is, miért "egy anyaként működő mesterséges intelligencia" az emberiség legnagyobb reménye.

Geoffrey Hinton már hozzászokott ahhoz, hogy elmagyarázza életművét, amely egyre inkább behatol életünk minden területére. Látta, ahogy a mesterséges intelligencia kiszivárog az akadémiai körökből - ahol gyakorlatilag egész életét töltötte, több mint két évtizedet a Torontói Egyetemen -, és bekerül a mainstreambe, amit a pénzben úszó technológiai cégek táplálnak, akik alig várják, hogy eljussanak a fogyasztókhoz és a vállalkozásokhoz. Hinton az 1980-as évek közepén kapott Nobel-díjat azon "alapvető felfedezéseiért és találmányaiért”, amelyek lehetővé tették a „gépi tanulást mesterséges neurális hálózatokkal”. Ez a megközelítés, amely nagyjából az emberi agy működésén alapul, megteremtette az alapját a ma már mindennapjainkban használt hatékony mesterséges intelligencia rendszereknek.

A ChatGPT megjelenése és az azt követő hype az MI fejlesztése körül azonban arra késztette Hintont, hogy szünetet tartson, és a technológia fejlesztésének felgyorsítása helyett annak kockázataira kezdjen figyelmeztetni. Az elmúlt néhány évben, miközben a terület gyorsan fejlődött, Hinton mélyen pesszimistává vált, rámutatva arra, hogy ez súlyos károkat okozhat az emberiségnek. "Bármelyik definíció szerint is értelmezzük az intelligenciát, az MI intelligens. Számomra ez nagyon nyilvánvaló. Ha ezekhez a dolgokhoz beszélünk és kérdéseket teszünk fel nekik, akkor megértik” - folytatja Hinton. "A technikai közösségben alig van kétség afelől, hogy ezek a dolgok egyre okosabbak lesznek.”

Hinton öröksége a területen biztosított, de vannak, akik még az iparágon belül is úgy vélik, hogy a meglévő technológia nem más, mint egy kifinomult eszköz. Például egykori kollégája és Turing-díjas társszerzője, Yann LeCun, aki jelenleg a Meta vezető MI-tudósa, úgy véli, hogy a ChatGPT-hez hasonló termékek alapját képező nagy nyelvi modellek korlátozottak és nem képesek értelmesen interakcióba lépni a fizikai világgal. Ezek a szkeptikusok szerint a jelenlegi generációs mesterséges intelligencia nem képes emberi intelligenciára. "Nagyon keveset tudunk a saját elménkről” - mondja Hinton, de a mesterséges intelligencia rendszerek esetében „mi készítjük őket, mi építjük őket. Sokkal magasabb szintű megértéssel rendelkezünk, mint az emberi agy terén, mert tudjuk, hogy minden egyes rész mit csinál”. Meggyőződéssel beszél, de elismeri, hogy sok ismeretlen tényező van.


Hinton 1947-ben született Wimbledonban, London délnyugati részén, apja entomológus, anyja tanár volt. A Cambridge-i King’s College-ban különböző tantárgyak között ingázott, mielőtt a kísérleti pszichológiát választotta alapszakos tanulmányaihoz, majd az 1970-es évek elején a számítástechnika felé fordult. A neurális hálózatokkal foglalkozott, annak ellenére, hogy a számítástechnikai közösség figyelmen kívül hagyta és elutasította őket, egészen a 2010-es évek áttöréséig, amikor a Szilícium-völgy befogadta a technikát. Nagyon különbözik azoktól, akik ma használják a munkáját. Hinton élvezte az akadémiai életet, míg Sam Altman otthagyta a Stanfordot, hogy egy startupra koncentrálhasson. Hinton szocialista, akinek eredményeit csak élete végén ismerték el; Mark Zuckerberg, aki 23 évesen milliárdos lett, egyáltalán nem szocialista.

Szenvedélyesen érvel amellett, hogy hogyan lehetne leküzdeni a modern mesterséges intelligencia rendszerekkel járó kockázatokat, amelyeket „ambiciózus és versenyképes emberek” fejlesztettek ki, akik azt képzelik, hogy a mesterséges intelligencia személyi asszisztenssé válik. Ez elég ártalmatlannak tűnik, de Hinton nem így gondolja. "Ha az asszisztens sokkal okosabb nálad, hogyan fogod megtartani a hatalmadat? Csak egy példát ismerünk, amikor egy sokkal intelligensebb lényt egy sokkal kevésbé intelligens lény irányít, és ez az anya és a csecsemő. Ha a csecsemők nem tudnák irányítani anyjukat, meghalnának.” Hinton úgy véli, hogy az emberiség „egyetlen reménye” az, ha olyan mesterséges intelligenciát fejlesztünk, amely anyává válik számunkra, „mert az anya nagyon törődik a babával, megőrzi a baba életét” és biztosítja a fejlődését. "Ez az a fajta kapcsolat, amelyre törekednünk kell.”

Egykori hallgatója, Ilya Sutskever is egyetértett ezzel az „anya-baba” elképzeléssel. Sutskever, a mesterséges intelligencia egyik vezető kutatója és az OpenAI társalapítója, jelenleg a Safe Superintelligence nevű startup cégénél fejleszt rendszereket, miután sikertelenül megpróbálta eltávolítani Sam Altman vezérigazgatót az OpenAI-ból. De szerinte Altman vagy Elon Musk nagyobb eséllyel nyeri meg a versenyt. Hogy mikor fog az MI szuperintelligenssé válni, és mikor lesz képes felülmúlni az embereket? "Sok tudós egyetért abban, hogy 5 és 20 év között, ez a legvalószínűbb.”

Szerinte az emberek talán többet tennének, ha nem lennének annyira pozitívak. "Tegyük fel, hogy egy teleszkóppal látható, hogy 10 év múlva egy idegen invázió érkezik. Akkor azt mondanád: Hogyan maradjunk pozitívak? Nem, azt mondanád: Hogy a fenébe fogjuk ezt megoldani? Ha a pozitív hozzáállás azt jelenti, hogy úgy teszünk, mintha ez nem fog megtörténni, akkor az embereknek nem kellene pozitívak maradniuk.” Hinton nem reménykedik a nyugati kormányok beavatkozásában, és kritizálja az amerikai kormányzatot, amiért nem hajlandó szabályozni az MI-t. A Fehér Ház szerint gyorsan kell cselekedni a technológia fejlesztése érdekében, hogy legyőzzék Kínát és megvédjék a demokratikus értékeket. Hinton éppen most tért vissza Sanghajból, jetlaggel küszködve, miután találkozott a politikai bizottság tagjaival. Meghívták, hogy beszéljen „az MI egzisztenciális fenyegetéséről”.

"Kína komolyan veszi ezt a kérdést. Sok politikus mérnök. Ők megértik ezt úgy, ahogyan az ügyvédek és az üzletemberek nem” - emeli ki. "Az egzisztenciális fenyegetés esetében csak egy országnak kell kitalálnia, hogyan kell kezelni a helyzetet, majd ők elmondhatják a többi országnak.” Bízhatunk-e abban, hogy Kína megőrzi az emberiség érdekeit? „Ez másodlagos kérdés. Az emberiség túlélése fontosabb, mint az, hogy kedves legyen. Bízhatunk-e Amerikában? Bízhatunk-e Mark Zuckerbergben?” Korábban az MI fejlesztésének felfüggesztését szorgalmazta, és több levelet is aláírt, amelyekben ellenezte az OpenAI profitorientált vállalattá alakítását, amit Musk egy folyamatban lévő perben próbál megakadályozni. Az MI erejéről szóló beszédet gyakran puszta hype-nak tartják, amellyel az azt fejlesztő startupok értékelését próbálják növelni, de Hinton szerint „a narratíva kényelmes lehet egy technológiai vállalat számára, és mégis igaz”.

"A Google-tól kapott pénzből vettem egy kis házat Hampstead Heath déli részén”, ahol az egész családja meglátogathatja. Hinton Google-tól kapott pénze abból származik, hogy 2013-ban eladta azt a céget, amelyet Sutskeverrel és egy másik hallgatójával, Alex Krizhevskyvel alapított, és amely egy olyan mesterséges intelligencia rendszert épített, amely emberi szintű pontossággal tudott tárgyakat felismerni. 44 millió dollárt kerestek, amelyet Hinton háromfelé akart osztani, de tanítványai ragaszkodtak hozzá, hogy ő tegyen el 40 százalékot. Az üzletkötés után csatlakoztak a Google-hoz, ahol Hinton a következő évtizedet töltötte.


Ilya Sutskever és Alex Krizhevsky társaságában
Az eladást az motiválta, hogy Hintonnak ki kellett fizetnie neurodiverz fiának gondozási költségeit. "Kiszámítottam, hogy körülbelül 5 millió dollárra lesz szükségem, és ezt nem tudta volna megszerezni az akadémiai körökben”. A fejében végigszámolta, hogy adózás után a Google-tól kapott pénz „kissé meghaladta” ezt a célt. 2023-ban elhagyta a technológiai vállalatot, és a New York Timesnak adott nagyinterjúban figyelmeztetett a technológia veszélyeire. A média viszont arról számolt be, hogy azért mondott fel, hogy őszintébben beszélhessen az MI kockázatairól. "Valahányszor újságírókkal beszélek, kijavítom ezt a tévhitet. De soha nincs hatása, mert ez egy jó sztori” - mondja. "Azért távoztam, mert 75 éves voltam, már nem tudtam olyan jól programozni, mint régen, és sok olyan dolog van a Netflixen, amit még nem volt alkalmam megnézni. 55 évig nagyon keményen dolgoztam, és úgy éreztem, itt az ideje nyugdíjba menni... És gondoltam, ha már úgyis távozom, beszélhetnék a kockázatokról.”

A technológiai vezetők gyakran utópikus képet festenek a jövőről, amelyben az MI segít megoldani olyan nagy problémákat, mint az éhség, a szegénység és a betegségek. Miután két feleségét is elvesztette rákban, Hinton izgatottan várja az egészségügy és az oktatás terén megnyíló lehetőségeket, amelyek közel állnak a szívéhez, de ennél többre nem számít. "Ami valójában fog történni, az az, hogy a gazdagok az MI-t fogják használni a munkások helyettesítésére” - mondja. "Ez hatalmas munkanélküliséget és óriási profitnövekedést fog okozni. Néhány embert sokkal gazdagabbá, a legtöbb embert pedig szegényebbé fog tenni. De ez nem az MI hibája, hanem a kapitalista rendszeré.”

Altman és társai korábban azt javasolták, hogy vezessenek be egyetemes alapjövedelmet, ha a munkaerőpiac túl kicsi lesz a népesség számára, de ez „nem oldja meg az emberi méltóság kérdését”, mert az emberek a munkájukból merítenek értéket - mondja Hinton. Elismeri, hogy hiányoznak neki a diplomás hallgatói, akikkel ötleteket vitathatott meg vagy kérdéseket tehetett fel, mert „fiatalok és gyorsabban értik a dolgokat”. Most inkább a ChatGPT-t kérdezi.

Ez azt eredményezi, hogy lusták és kreativitás nélküliek leszünk? A kognitív tehermentesítés egy jelenleg vitatott elképzelés, amelynek keretében az MI-eszközök felhasználói kritikus gondolkodás vagy a visszakeresett információk megőrzése nélkül delegálják a feladatokat. "Ruhát viselünk, és mert ruhát viselünk, kevésbé szőrösek vagyunk. Hajlamosabbak vagyunk meghalni a hidegtől, de csak akkor, ha nincs ruhánk”. Hinton úgy gondolja, hogy amíg hozzáférünk hasznos MI-rendszerekhez, azok értékes eszközök. "Nem tudjuk, mi fog történni, fogalmunk sincs róla, és azok, akik azt mondják, hogy mi fog történni, buták” - mondja. "A történelem egy olyan pontján vagyunk, ahol valami csodálatos történik, és ez lehet csodálatosan jó, de lehet csodálatosan rossz is. Találgathatunk, de a dolgok nem maradnak úgy, ahogy vannak.”