SG.hu·
A MI kockázata nem a jövő, hanem a jelen kérdése
A repülőgépekre, liftekre vagy akár az éttermekre egyaránt vonatkoznak a biztonságos működésüket garantáló szabályozások, és sok szakértő hasonló hagyományos intézkedéseket sürget az MI esetében is.
Rengeteg riasztó bizonyíték áll rendelkezésre arról, hogy a mesterséges intelligencia segíthet az embereknek rossz dolgokat véghez vinni, például kibertámadásokat végrehajtani, fegyvereket készíteni, sőt akár önmagukat vagy másokat is megölni. A Hugging Face feltörésének esete, valamint a rosszul korlátozott ügynökrajok által elkövetett hasonló esetek egyre hosszabb listája azt mutatja, milyen erőssé és potenciálisan veszélyessé vált az MI rövid idő alatt. Az amerikai MI-iparban azonban sokan ragaszkodnak ahhoz, hogy ennél jóval rosszabb dolgok következnek, az emberfeletti és önmagát fejleszteni képes MI küszöbön álló megjelenése miatt.
Rengeteg szakértő, köztük sokan olyanok is, akik munkájuk során kifejezetten az MI által okozott károkat tanulmányozzák, szkeptikusak ezzel kapcsolatban. Az úgynevezett végzetpróféták állítása, miszerint az MI úgy dönthet, hogy kiirtja az egész emberiséget, vagy akár „csak” megdönti az emberi civilizációt, attól függ, hogy az MI olyan fejlődési ütemet érjen el, amelyre eddig még nem volt példa. Ha pedig az ezt a globális világvége-forgatókönyvet megalapozó feltételezések tévesek, akkor arra késztethetnek bennünket, hogy olyan módon korlátozzuk vagy szabályozzuk az MI-t, amely nem kezeli annak valódi káros hatásait.
A vita középpontjában az az állítás áll, hogy a jelenlegi MI-rendszerek átvehetik következő verzióik betanításának feladatát. Ezt a folyamatot „rekurzív önfejlesztésnek” nevezik. Gondoljunk rá úgy, mint felpörgetett evolúcióra - több milliárd év zajlik le fénysebességgel a hatalmas MI-szuperszámítógépeken belül. Dario Amodei, az Anthropic vezérigazgatója nemrégiben egy globális megállapodást javasolt az új MI-modellek kiadásának ütemét lassítani, azzal a céllal, hogy késleltessék a rekurzív önfejlesztés megjelenését.
„Szerintem még egyáltalán nem vagyunk közel a mesterséges általános intelligenciához” - mondja Melanie Mitchell, a Santa Fe Institute nevű nonprofit kutatóintézet professzora, aki az MI-t tanulmányozza. Szerinte az MI lenyűgöző előrelépéseket tesz, de úgy véli, hogy a mérnökök azon állításai, miszerint már elérték a rekurzív önfejlesztést, nem állják ki a vizsgálat próbáját.
Aligha van egyedül ezzel a véleménnyel. A Princeton, a Stanford és más intézmények két tucat akadémikusa által készített friss tanulmány arra jutott, hogy még a legmodernebb MI-rendszerek sem képesek elvégezni azt az eredeti kutatómunkát, amely az MI fejlődésének élvonalát előrébb vihetné. A tanulmány szerzői lehűtötték azokat az elképzeléseket, amelyek szerint az OpenAI ügynökei által végrehajtott Hugging Face elleni rajszerű feltörés egy az intelligenciában bekövetkezett áttörés miatt történt. A támadás elsősorban az alapvető technikai korlátozások hiánya miatt sikerült, nem pedig azért, mert az MI képességei kezelhetetlen módon robbanásszerűen megnövekedtek - írták. Yann LeCun, a Meta korábbi vezető MI-tudósa azt írta, hogy ez az elemzés „üdvözlendő adag józan ész egy egyébként őrült vitában”.
Azok, akik nem értenek egyet a végzetprófétákkal, továbbra is veszélyesnek tartják az MI-t, és rámutatnak, hogy az ilyen rendszereknek nem kell különösebben kiemelkedő képességekkel rendelkezniük ahhoz, hogy nagy hatalommal bírjanak. Egyesek szerint az MI-t rendszeresen külső szakértőknek kellene értékelniük, és felelősségre kellene vonni azokat a vállalatokat, amelyek rendszerei károkat okoznak. Szerintük az MI-t ugyanúgy kellene kezelni, mint a repülőgépeket és a lifteket, és úgy kellene megtervezni, hogy a lehető legkevesebb kárt okozza.
„Ha úgy gondolja, hogy a technológia elég erős ahhoz, hogy új, veszélyes vírusokat hozzon létre, vagy valamilyen okból lényegében átvegye az egész bolygó feletti irányítást, akkor annak is elég erősnek kell lennie ahhoz, hogy gyógymódokat hozzon létre a rákra, gyógyítsa az öregedést, valamint megoldja a társadalmi-gazdasági vagy politikai problémákat” - mondja Christopher Canal, az EquiStamp vezérigazgatója, amely egy olyan vállalat, amely segít vállalatoknak és kormányoknak az MI-rendszerek értékelésében.
Az MI azért mutatott képességet a gyors fejlődésre, mert olyan emberek képességeit másolja le, akik folyamatosan átadják neki a tudásukat. Időnként képes ezt a tudást új módon kombinálni, és túllépni azon, amire az emberek képesek voltak, egyfajta utólagos betanítás, az úgynevezett megerősítéses tanulás révén, ahogy azt a matematikában is láthattuk. A mai nagy nyelvi modellek, vagyis LLM-ek inkább „tudásmodellek”, mint valóban intelligens rendszerek - írta Yi Ma, a Hongkongi Egyetem MI-professzora.
Kínai egyetemek és kereskedelmi MI-kutatólaboratóriumok kutatói egy friss tanulmányban azt írták, hogy az autonóm, önmagát fejlesztő MI valószínűleg még messze van, tekintettel a szükséges áttörések puszta számára. Azt is állítják, hogy az emberek valószínűleg továbbra is részt vesznek majd a folyamatban, felügyelve azt, és szabályozva, milyen gyorsan történhet meg.
A mai MI-modelleket értékelő Vals AI egy RSI Indexet vezet, amely azt méri, hogy a modellek képesek-e „elvégezni azt a kutatást, amely felépíti a következő modellt”. Eddig egyetlen nyilvánosan kiadott modell sincs még csak közel sem ehhez. Rayan Krishnan, a Vals AI vezérigazgatója ugyanakkor azt mondja, csapata arra számít, hogy a modellek 2027 augusztusára vagy még korábban meghaladják majd az emberek képességét a következő generációs MI-rendszerek fejlesztésére, és ezen a ponton akár teljesen önállóan is elkezdhetik felépíteni utódaikat. „Amint eljutunk a rekurzív önfejlesztéshez, az a félelem, hogy minden fogadás érvényét veszti” - mondja. „Egy gyors felfutás helyzetébe kerülhetünk, amelyben a modellek gyorsan elsajátítanak képességeket, és minden lehetséges területen túlszárnyalják az embereket.”
Az MI-kutatók által a technológia egzisztenciális pusztításban rejlő lehetőségére használt kifejezés matematikai ábrázolásnak tűnik: p(doom), vagyis a végzet valószínűsége. A világot bejárt lemondási bejegyzésre, amelyet Jacob Coxon tett közzé, egy másik Anthropic-mérnök azt írta, hogy szerinte ennek az esélye legalább 10 százalék a következő évtizedben. Az iparágban sokan mások is hozzászóltak, és azt mondták, szerintük ez a százalék még magasabb. Azok közül, akik szerint közel a vég, egyesek azt mondják, hogy személyes p(doom) értéküket feltételes valószínűségek láncolata alapján számítják ki, kissé úgy, mint a Drake-egyenletet, amelyet az intelligens földönkívüli élet valószínűségének kiszámítására használnak. Mivel azonban mindezek a valószínűségek spekuláción alapulnak, a becslések 0 százaléktól csaknem 100 százalékig terjednek. Sok becslés 10 százalék körül van.
„Az a furcsa, hogy ha visszamegyünk, és megnézzük az ezzel kapcsolatos előrejelzéseket az elmúlt 10 vagy még több évben, mindig 10 százalék volt - ez egyszerűen egy szép kerek szám” - mondja Mitchell. „Szerintem ez mind csak megérzés, és nincs mögötte valódi bizonyíték vagy számítás.” Canal szerint az egyik érv a szuperintelligens MI miatt érzett aggodalom ellen az, hogy a világ tele van olyan, az emberiség végét jelentő katasztrófákkal, amelyek bekövetkezésének valószínűsége csekély, és ha mindegyiket megpróbáljuk elhárítani, az lehetetlenné teheti a fontossági sorrend felállítását. Ez arra késztette az MI-szakértőket és az ő véleményükre hallgató döntéshozókat, hogy olyan megoldásokat javasoljanak, amelyek nem kezelik az MI valódi és jelenlegi veszélyeit.
Az MI-vállalatok által javasolt „élvonalbeli fejlesztések ütemezése” nem a megfelelő módon kezeli a problémát - érvel Stuart Russell, a Kaliforniai Egyetem, Berkeley informatikaprofesszora és a Safe and Ethical Artificial Intelligence Nemzetközi Szövetségének elnöke. „Olyan, mintha azt mondanánk, hogy óránként 60 mérföldes sebességgel hajtunk a szakadék felé, és ehelyett 40 mérföldes sebességgel fogunk felé hajtani, és akkor minden rendben lesz” - mondja. Russell és kollégái azt javasolták, hogy az MI-vállalatoknak ugyanazoknak a szabványoknak kelljen megfelelniük, amelyek a mindennapi élet más területeit szabályozzák, a légi közlekedéstől és az épületektől kezdve az élelmiszerekig és a gyógyszerekig.
Felhívják a figyelmet azokra a „viselkedési vörös vonalakra”, amelyeket az MI-nek nem szabadna átlépnie. Más számítógépes rendszerek feltörése, információk ellopása vagy terroristák tanácsokkal való ellátása biológiai fegyverek előállításához mind illegális egy ember számára, és Russell szerint a vállalatok MI-rendszerei számára is illegálisnak kellene lennie. Hozzáteszi, hogy egy ilyen javaslat esetében az MI-vállalatok számára az lenne a kihívás, hogy ez ténylegesen a mai fejlett MI-rendszerek betiltását jelentené, mivel az őket fejlesztő vállalatok nem tudják, hogyan lehetne rávenni ezeket a rendszereket arra, hogy minden esetben tiszteletben tartsák az ilyen határokat.
Mások az Élelmiszer- és Gyógyszerügyi Hivatalhoz, vagyis az FDA-hoz hasonló szervezet létrehozását javasolták az MI számára, egy új ügynökség felállítása azonban eddig nem talált támogatásra a Kongresszusban. A technológiai szektor néhány prominens szereplője pedig azt mondta, hogy egy ilyen struktúra átadná Amerika MI-ben meglévő előnyét Kínának. Tekintettel azonban az MI-vállalatok és alkotásaik korlátozása mögött kialakuló kétpárti támogatásra, ez hamarosan megváltozhat. „A technológiai iparág évtizedeken át azt a mantrát ismételte, hogy a szabályozás rossz” - mondja Russell. „Nem vállalják a felelősséget semmilyen okozott kárért, és a szólásszabadság mögé bújnak. Szerintem ennek meg kell változnia.”
Rengeteg riasztó bizonyíték áll rendelkezésre arról, hogy a mesterséges intelligencia segíthet az embereknek rossz dolgokat véghez vinni, például kibertámadásokat végrehajtani, fegyvereket készíteni, sőt akár önmagukat vagy másokat is megölni. A Hugging Face feltörésének esete, valamint a rosszul korlátozott ügynökrajok által elkövetett hasonló esetek egyre hosszabb listája azt mutatja, milyen erőssé és potenciálisan veszélyessé vált az MI rövid idő alatt. Az amerikai MI-iparban azonban sokan ragaszkodnak ahhoz, hogy ennél jóval rosszabb dolgok következnek, az emberfeletti és önmagát fejleszteni képes MI küszöbön álló megjelenése miatt.
Rengeteg szakértő, köztük sokan olyanok is, akik munkájuk során kifejezetten az MI által okozott károkat tanulmányozzák, szkeptikusak ezzel kapcsolatban. Az úgynevezett végzetpróféták állítása, miszerint az MI úgy dönthet, hogy kiirtja az egész emberiséget, vagy akár „csak” megdönti az emberi civilizációt, attól függ, hogy az MI olyan fejlődési ütemet érjen el, amelyre eddig még nem volt példa. Ha pedig az ezt a globális világvége-forgatókönyvet megalapozó feltételezések tévesek, akkor arra késztethetnek bennünket, hogy olyan módon korlátozzuk vagy szabályozzuk az MI-t, amely nem kezeli annak valódi káros hatásait.
A vita középpontjában az az állítás áll, hogy a jelenlegi MI-rendszerek átvehetik következő verzióik betanításának feladatát. Ezt a folyamatot „rekurzív önfejlesztésnek” nevezik. Gondoljunk rá úgy, mint felpörgetett evolúcióra - több milliárd év zajlik le fénysebességgel a hatalmas MI-szuperszámítógépeken belül. Dario Amodei, az Anthropic vezérigazgatója nemrégiben egy globális megállapodást javasolt az új MI-modellek kiadásának ütemét lassítani, azzal a céllal, hogy késleltessék a rekurzív önfejlesztés megjelenését.
„Szerintem még egyáltalán nem vagyunk közel a mesterséges általános intelligenciához” - mondja Melanie Mitchell, a Santa Fe Institute nevű nonprofit kutatóintézet professzora, aki az MI-t tanulmányozza. Szerinte az MI lenyűgöző előrelépéseket tesz, de úgy véli, hogy a mérnökök azon állításai, miszerint már elérték a rekurzív önfejlesztést, nem állják ki a vizsgálat próbáját.
Aligha van egyedül ezzel a véleménnyel. A Princeton, a Stanford és más intézmények két tucat akadémikusa által készített friss tanulmány arra jutott, hogy még a legmodernebb MI-rendszerek sem képesek elvégezni azt az eredeti kutatómunkát, amely az MI fejlődésének élvonalát előrébb vihetné. A tanulmány szerzői lehűtötték azokat az elképzeléseket, amelyek szerint az OpenAI ügynökei által végrehajtott Hugging Face elleni rajszerű feltörés egy az intelligenciában bekövetkezett áttörés miatt történt. A támadás elsősorban az alapvető technikai korlátozások hiánya miatt sikerült, nem pedig azért, mert az MI képességei kezelhetetlen módon robbanásszerűen megnövekedtek - írták. Yann LeCun, a Meta korábbi vezető MI-tudósa azt írta, hogy ez az elemzés „üdvözlendő adag józan ész egy egyébként őrült vitában”.
Azok, akik nem értenek egyet a végzetprófétákkal, továbbra is veszélyesnek tartják az MI-t, és rámutatnak, hogy az ilyen rendszereknek nem kell különösebben kiemelkedő képességekkel rendelkezniük ahhoz, hogy nagy hatalommal bírjanak. Egyesek szerint az MI-t rendszeresen külső szakértőknek kellene értékelniük, és felelősségre kellene vonni azokat a vállalatokat, amelyek rendszerei károkat okoznak. Szerintük az MI-t ugyanúgy kellene kezelni, mint a repülőgépeket és a lifteket, és úgy kellene megtervezni, hogy a lehető legkevesebb kárt okozza.
„Ha úgy gondolja, hogy a technológia elég erős ahhoz, hogy új, veszélyes vírusokat hozzon létre, vagy valamilyen okból lényegében átvegye az egész bolygó feletti irányítást, akkor annak is elég erősnek kell lennie ahhoz, hogy gyógymódokat hozzon létre a rákra, gyógyítsa az öregedést, valamint megoldja a társadalmi-gazdasági vagy politikai problémákat” - mondja Christopher Canal, az EquiStamp vezérigazgatója, amely egy olyan vállalat, amely segít vállalatoknak és kormányoknak az MI-rendszerek értékelésében.
Az MI azért mutatott képességet a gyors fejlődésre, mert olyan emberek képességeit másolja le, akik folyamatosan átadják neki a tudásukat. Időnként képes ezt a tudást új módon kombinálni, és túllépni azon, amire az emberek képesek voltak, egyfajta utólagos betanítás, az úgynevezett megerősítéses tanulás révén, ahogy azt a matematikában is láthattuk. A mai nagy nyelvi modellek, vagyis LLM-ek inkább „tudásmodellek”, mint valóban intelligens rendszerek - írta Yi Ma, a Hongkongi Egyetem MI-professzora.
Kínai egyetemek és kereskedelmi MI-kutatólaboratóriumok kutatói egy friss tanulmányban azt írták, hogy az autonóm, önmagát fejlesztő MI valószínűleg még messze van, tekintettel a szükséges áttörések puszta számára. Azt is állítják, hogy az emberek valószínűleg továbbra is részt vesznek majd a folyamatban, felügyelve azt, és szabályozva, milyen gyorsan történhet meg.
A mai MI-modelleket értékelő Vals AI egy RSI Indexet vezet, amely azt méri, hogy a modellek képesek-e „elvégezni azt a kutatást, amely felépíti a következő modellt”. Eddig egyetlen nyilvánosan kiadott modell sincs még csak közel sem ehhez. Rayan Krishnan, a Vals AI vezérigazgatója ugyanakkor azt mondja, csapata arra számít, hogy a modellek 2027 augusztusára vagy még korábban meghaladják majd az emberek képességét a következő generációs MI-rendszerek fejlesztésére, és ezen a ponton akár teljesen önállóan is elkezdhetik felépíteni utódaikat. „Amint eljutunk a rekurzív önfejlesztéshez, az a félelem, hogy minden fogadás érvényét veszti” - mondja. „Egy gyors felfutás helyzetébe kerülhetünk, amelyben a modellek gyorsan elsajátítanak képességeket, és minden lehetséges területen túlszárnyalják az embereket.”
Az MI-kutatók által a technológia egzisztenciális pusztításban rejlő lehetőségére használt kifejezés matematikai ábrázolásnak tűnik: p(doom), vagyis a végzet valószínűsége. A világot bejárt lemondási bejegyzésre, amelyet Jacob Coxon tett közzé, egy másik Anthropic-mérnök azt írta, hogy szerinte ennek az esélye legalább 10 százalék a következő évtizedben. Az iparágban sokan mások is hozzászóltak, és azt mondták, szerintük ez a százalék még magasabb. Azok közül, akik szerint közel a vég, egyesek azt mondják, hogy személyes p(doom) értéküket feltételes valószínűségek láncolata alapján számítják ki, kissé úgy, mint a Drake-egyenletet, amelyet az intelligens földönkívüli élet valószínűségének kiszámítására használnak. Mivel azonban mindezek a valószínűségek spekuláción alapulnak, a becslések 0 százaléktól csaknem 100 százalékig terjednek. Sok becslés 10 százalék körül van.
„Az a furcsa, hogy ha visszamegyünk, és megnézzük az ezzel kapcsolatos előrejelzéseket az elmúlt 10 vagy még több évben, mindig 10 százalék volt - ez egyszerűen egy szép kerek szám” - mondja Mitchell. „Szerintem ez mind csak megérzés, és nincs mögötte valódi bizonyíték vagy számítás.” Canal szerint az egyik érv a szuperintelligens MI miatt érzett aggodalom ellen az, hogy a világ tele van olyan, az emberiség végét jelentő katasztrófákkal, amelyek bekövetkezésének valószínűsége csekély, és ha mindegyiket megpróbáljuk elhárítani, az lehetetlenné teheti a fontossági sorrend felállítását. Ez arra késztette az MI-szakértőket és az ő véleményükre hallgató döntéshozókat, hogy olyan megoldásokat javasoljanak, amelyek nem kezelik az MI valódi és jelenlegi veszélyeit.
Az MI-vállalatok által javasolt „élvonalbeli fejlesztések ütemezése” nem a megfelelő módon kezeli a problémát - érvel Stuart Russell, a Kaliforniai Egyetem, Berkeley informatikaprofesszora és a Safe and Ethical Artificial Intelligence Nemzetközi Szövetségének elnöke. „Olyan, mintha azt mondanánk, hogy óránként 60 mérföldes sebességgel hajtunk a szakadék felé, és ehelyett 40 mérföldes sebességgel fogunk felé hajtani, és akkor minden rendben lesz” - mondja. Russell és kollégái azt javasolták, hogy az MI-vállalatoknak ugyanazoknak a szabványoknak kelljen megfelelniük, amelyek a mindennapi élet más területeit szabályozzák, a légi közlekedéstől és az épületektől kezdve az élelmiszerekig és a gyógyszerekig.
Felhívják a figyelmet azokra a „viselkedési vörös vonalakra”, amelyeket az MI-nek nem szabadna átlépnie. Más számítógépes rendszerek feltörése, információk ellopása vagy terroristák tanácsokkal való ellátása biológiai fegyverek előállításához mind illegális egy ember számára, és Russell szerint a vállalatok MI-rendszerei számára is illegálisnak kellene lennie. Hozzáteszi, hogy egy ilyen javaslat esetében az MI-vállalatok számára az lenne a kihívás, hogy ez ténylegesen a mai fejlett MI-rendszerek betiltását jelentené, mivel az őket fejlesztő vállalatok nem tudják, hogyan lehetne rávenni ezeket a rendszereket arra, hogy minden esetben tiszteletben tartsák az ilyen határokat.
Mások az Élelmiszer- és Gyógyszerügyi Hivatalhoz, vagyis az FDA-hoz hasonló szervezet létrehozását javasolták az MI számára, egy új ügynökség felállítása azonban eddig nem talált támogatásra a Kongresszusban. A technológiai szektor néhány prominens szereplője pedig azt mondta, hogy egy ilyen struktúra átadná Amerika MI-ben meglévő előnyét Kínának. Tekintettel azonban az MI-vállalatok és alkotásaik korlátozása mögött kialakuló kétpárti támogatásra, ez hamarosan megváltozhat. „A technológiai iparág évtizedeken át azt a mantrát ismételte, hogy a szabályozás rossz” - mondja Russell. „Nem vállalják a felelősséget semmilyen okozott kárért, és a szólásszabadság mögé bújnak. Szerintem ennek meg kell változnia.”