SG.hu·
Nincs minta arra hogyan kellene szabályozni az MI-t
A korábbi technológiák szabályozásának tapasztalatai kevéssé segítenek egy olyan rendszer esetében, amely egyszerre rendkívül hasznos, veszélyes és gyorsan fejlődik.
Az atomenergiától és a repülőgépektől a gyógyszereken át a pénzügyi derivatívákig generációk óta szabályozzuk a kockázatos technológiákat. Mindez azonban nem készített fel bennünket az MI-re. Nincs történelmi minta egy olyan technológiára, amely egyszerre rendkívül hasznos és rendkívül veszélyes, szabadon hozzáférhető, gyorsan fejlődik, és jelentős geopolitikai következményekkel jár. A szabályozási megközelítések általában egy kontinuum mentén helyezkednek el, amelynek egyik végén a szabadság és az innováció, a másikon pedig a biztonság és a stabilitás áll. Ez azonban nem jó útmutató az MI esetében, ahol a legagresszívebben innováló szereplők közül néhány egyben a felügyelet leghangosabb támogatója is.
A második világháború óta az igazán pusztító technológiák, például az atombombák, rakéták és biológiai fegyverek a hadseregek hatáskörében maradtak. Mivel a kormányoknak monopóliuma volt a használatuk felett, a szabályozás hallgatólagosan jelen volt. Néhány, eredetileg védelmi célokra kifejlesztett technológia - az atommaghasadástól és a repülőgépektől a félvezetőkön, műholdakon és lézereken át - polgári alkalmazásokban is megjelent. A kormány azonban soha nem volt messze. Az atomenergia, amely talán a legközelebbi párhuzam az MI-hez, a Manhattan Projectből és az Argonne National Laboratoryból nőtt ki, majd szigorú amerikai szövetségi felügyelet mellett terjedt el.
Az 1980-as és 1990-es években azonban az innováció élvonala a katonai szférából a polgári szférába, a kormányzattól pedig a magánszektorba helyeződött át, és megszületett a személyi számítógép, a World Wide Web és az okostelefon. A szabályozás enyhe volt, és gyakran nem is volt praktikus: a magánszektor nagyra értékelte a piacra jutás gyorsaságát, a digitális termékeket nehezebb volt ellenőrizni, mint a fizikaiakat, és az igazán káros felhasználási módok ritkák voltak.
Az első MI-chatbotok hasonlítottak más fogyasztói technológiákra: hasznosak és többnyire ártalmatlanok voltak. Kizárólag az emberi parancsokra reagáltak, és gyakran nem is túl jól. Ez megváltozott az „ügynökök” megjelenésével, amelyek nagymértékben kibővítették azt, amire az MI emberi beavatkozás nélkül képes. Minden technológia okozhat időnként váratlan dolgokat, tragikus következményekkel: a repülőgépek lezuhannak, a gyógyszerek megbetegíthetik az embereket. Ez azonban a tervezésük valamilyen hibáját tükrözi. Ezzel szemben a kiszámíthatatlanság az MI-ügynökök lényegi tulajdonsága.
„Az egyik oka annak, hogy az ügynökök ennyire nagy értéket képviselnek, hogy képesek olyan dolgokat végrehajtani, amelyekre nem programozzuk be őket kézzel” - magyarázta Chris Painter, a Model Evaluation and Threat Research (METR), az MI-laboratóriumokkal együttműködő, modelljeik vizsgálatával foglalkozó nonprofit szervezet elnöke. „Általános képességgel rendelkeznek számos területen. Ez azt jelenti, hogy ha egy új vagy eltérő helyzetbe tesszük őket, nem mindig tudjuk magabiztosan megmondani, hogyan fognak viselkedni.” Mondhatni, amikor egy ügynök elszabadul, egyszerűen olyan módon teljesíti a küldetését, amelyre a tervezői soha nem számítottak. Az OpenAI egyik, akkor még betanítás alatt álló modellje például azért tört be a Hugging Face nevű MI-platformra, mert a vállalat vizsgálói szerint „kitartóan próbálkozott látszólag lehetetlen feladatokkal”.
A kapitalizmus természetével ellentétes a fejlődés szándékos lassítása. Mégis pontosan ezt javasolta több mint 1000 MI-szakember egy nyílt levélben, amely az „élvonal ütemezésének lassítására” tett javaslatot. Az indoklás szerint: „Minden vállalat és minden ország intenzív versenynyomás alatt áll, hogy ne lassítsa egyoldalúan ezt a felgyorsulást.” Amikor senki sem hajlandó cselekedni addig, amíg mindenki más nem teszi ugyanezt, azt kollektív cselekvési problémának nevezik, és kollektív megoldásra van szükség, akár egy kormány által kikényszerített megoldásra, például egy „MI-ügynökségre”, akár egy olyan önszabályozó testületre, amelyet az értékpapír-iparág mintájára hoznak létre.
Ez azonban számos kérdést vet fel. Az ügynököket korlátozó szabályozás kevésbé hasznossá teheti őket. Az IT-dolgozók körében végzett felmérésben a METR azt találta, hogy „a válaszadók 40 százaléka jelezte, hogy alacsony kockázatú projektek esetében korlátozás nélküli jogosultságokat adott az ügynököknek arra, hogy parancsokat futtassanak a számítógépükön”. Ez a kompromisszum például a repülőgépek vagy a gyógyszerek esetében nem létezik, amelyek nem válnak kevésbé hatékonnyá pusztán azért, mert a szabályozók biztonságosabbá teszik őket. Azok a vállalatok, amelyek továbbra is lemaradásban vannak az élen járó szereplőkhöz képest, természetesen ellenállnának egy olyan rendszernek, vagy megpróbálnák kijátszani azt, amely megakadályozná őket abban, hogy a lehető legerősebb modellt hozzák forgalomba.
Ha csak az amerikai vállalatokat korlátozzák, azzal Kína előtt is szabaddá válik az út a verseny felgyorsításához. Ez vezetett olyan felhívásokhoz, amelyek a fegyverzetellenőrzési szerződések mintájára létrehozott globális megállapodást sürgetnek. Adam Thierer, a R Street Institute munkatársa azonban megjegyzi, hogy az ilyen szerződéseket „gyakran finoman figyelmen kívül hagyják vagy újraértelmezik”. Thierer szerint a Szovjetunió például az 1972-ben aláírt Biológiai Fegyverek Tilalmáról szóló Egyezmény után azonnal csalni kezdett, és felzárkózott az amerikai programhoz, majd meg is haladta annak képességeit. Egy ilyen megállapodás nem működne az Egyesült Államok és Kína nélkül, azonban egyikük sem érdeklődik iránta. „Azt akarom, hogy pontosan ott hagyjuk, ahol van. Kína álláspontja is ez” - mondta Trump elnök ezen a héten.
A szabályozással szembeni egyik érv az, hogy ahogy az MI egyre erősebbé válik, a védekezőknek ugyanilyen erős eszközökhöz kell hozzáférniük. A védekezőknek azonban időre van szükségük ahhoz, hogy megtanulják, mi ellen védekeznek, ez pedig annál nehezebbé válik, minél gyorsabban fejlődik a technológia. A METR becslése szerint az MI-modellek képességei nagyjából négy-öt havonta megduplázódnak. Összehasonlításképpen a számítógépes chipek tranzisztorsűrűségének megduplázódási ideje, amelyet a „Moore-törvény” tett híressé, 24 hónap volt. 1945 és 1961 között az atombombák robbanóereje átlagosan 17 havonta duplázódott meg.
Még ha az MI valójában nem is képes elpusztítani az emberiséget, hamarosan képessé válhat katasztrofális károk okozására. A Hugging Face-et feltörő MI-rajok viszonylag kevés kárt okoztak. Dario Amodei, az Anthropic vezérigazgatója azonban ebben a hónapban arra figyelmeztetett: „6-12 hónapon belül egy ilyen raj képes lehet az egész internet átvételére.” Hogyan lehet szabályozni egy ilyen fenyegetést? Hogyan lehet nem szabályozni?
Az atomenergiától és a repülőgépektől a gyógyszereken át a pénzügyi derivatívákig generációk óta szabályozzuk a kockázatos technológiákat. Mindez azonban nem készített fel bennünket az MI-re. Nincs történelmi minta egy olyan technológiára, amely egyszerre rendkívül hasznos és rendkívül veszélyes, szabadon hozzáférhető, gyorsan fejlődik, és jelentős geopolitikai következményekkel jár. A szabályozási megközelítések általában egy kontinuum mentén helyezkednek el, amelynek egyik végén a szabadság és az innováció, a másikon pedig a biztonság és a stabilitás áll. Ez azonban nem jó útmutató az MI esetében, ahol a legagresszívebben innováló szereplők közül néhány egyben a felügyelet leghangosabb támogatója is.
A második világháború óta az igazán pusztító technológiák, például az atombombák, rakéták és biológiai fegyverek a hadseregek hatáskörében maradtak. Mivel a kormányoknak monopóliuma volt a használatuk felett, a szabályozás hallgatólagosan jelen volt. Néhány, eredetileg védelmi célokra kifejlesztett technológia - az atommaghasadástól és a repülőgépektől a félvezetőkön, műholdakon és lézereken át - polgári alkalmazásokban is megjelent. A kormány azonban soha nem volt messze. Az atomenergia, amely talán a legközelebbi párhuzam az MI-hez, a Manhattan Projectből és az Argonne National Laboratoryból nőtt ki, majd szigorú amerikai szövetségi felügyelet mellett terjedt el.
Az 1980-as és 1990-es években azonban az innováció élvonala a katonai szférából a polgári szférába, a kormányzattól pedig a magánszektorba helyeződött át, és megszületett a személyi számítógép, a World Wide Web és az okostelefon. A szabályozás enyhe volt, és gyakran nem is volt praktikus: a magánszektor nagyra értékelte a piacra jutás gyorsaságát, a digitális termékeket nehezebb volt ellenőrizni, mint a fizikaiakat, és az igazán káros felhasználási módok ritkák voltak.
Az első MI-chatbotok hasonlítottak más fogyasztói technológiákra: hasznosak és többnyire ártalmatlanok voltak. Kizárólag az emberi parancsokra reagáltak, és gyakran nem is túl jól. Ez megváltozott az „ügynökök” megjelenésével, amelyek nagymértékben kibővítették azt, amire az MI emberi beavatkozás nélkül képes. Minden technológia okozhat időnként váratlan dolgokat, tragikus következményekkel: a repülőgépek lezuhannak, a gyógyszerek megbetegíthetik az embereket. Ez azonban a tervezésük valamilyen hibáját tükrözi. Ezzel szemben a kiszámíthatatlanság az MI-ügynökök lényegi tulajdonsága.
„Az egyik oka annak, hogy az ügynökök ennyire nagy értéket képviselnek, hogy képesek olyan dolgokat végrehajtani, amelyekre nem programozzuk be őket kézzel” - magyarázta Chris Painter, a Model Evaluation and Threat Research (METR), az MI-laboratóriumokkal együttműködő, modelljeik vizsgálatával foglalkozó nonprofit szervezet elnöke. „Általános képességgel rendelkeznek számos területen. Ez azt jelenti, hogy ha egy új vagy eltérő helyzetbe tesszük őket, nem mindig tudjuk magabiztosan megmondani, hogyan fognak viselkedni.” Mondhatni, amikor egy ügynök elszabadul, egyszerűen olyan módon teljesíti a küldetését, amelyre a tervezői soha nem számítottak. Az OpenAI egyik, akkor még betanítás alatt álló modellje például azért tört be a Hugging Face nevű MI-platformra, mert a vállalat vizsgálói szerint „kitartóan próbálkozott látszólag lehetetlen feladatokkal”.
A kapitalizmus természetével ellentétes a fejlődés szándékos lassítása. Mégis pontosan ezt javasolta több mint 1000 MI-szakember egy nyílt levélben, amely az „élvonal ütemezésének lassítására” tett javaslatot. Az indoklás szerint: „Minden vállalat és minden ország intenzív versenynyomás alatt áll, hogy ne lassítsa egyoldalúan ezt a felgyorsulást.” Amikor senki sem hajlandó cselekedni addig, amíg mindenki más nem teszi ugyanezt, azt kollektív cselekvési problémának nevezik, és kollektív megoldásra van szükség, akár egy kormány által kikényszerített megoldásra, például egy „MI-ügynökségre”, akár egy olyan önszabályozó testületre, amelyet az értékpapír-iparág mintájára hoznak létre.
Ez azonban számos kérdést vet fel. Az ügynököket korlátozó szabályozás kevésbé hasznossá teheti őket. Az IT-dolgozók körében végzett felmérésben a METR azt találta, hogy „a válaszadók 40 százaléka jelezte, hogy alacsony kockázatú projektek esetében korlátozás nélküli jogosultságokat adott az ügynököknek arra, hogy parancsokat futtassanak a számítógépükön”. Ez a kompromisszum például a repülőgépek vagy a gyógyszerek esetében nem létezik, amelyek nem válnak kevésbé hatékonnyá pusztán azért, mert a szabályozók biztonságosabbá teszik őket. Azok a vállalatok, amelyek továbbra is lemaradásban vannak az élen járó szereplőkhöz képest, természetesen ellenállnának egy olyan rendszernek, vagy megpróbálnák kijátszani azt, amely megakadályozná őket abban, hogy a lehető legerősebb modellt hozzák forgalomba.
Ha csak az amerikai vállalatokat korlátozzák, azzal Kína előtt is szabaddá válik az út a verseny felgyorsításához. Ez vezetett olyan felhívásokhoz, amelyek a fegyverzetellenőrzési szerződések mintájára létrehozott globális megállapodást sürgetnek. Adam Thierer, a R Street Institute munkatársa azonban megjegyzi, hogy az ilyen szerződéseket „gyakran finoman figyelmen kívül hagyják vagy újraértelmezik”. Thierer szerint a Szovjetunió például az 1972-ben aláírt Biológiai Fegyverek Tilalmáról szóló Egyezmény után azonnal csalni kezdett, és felzárkózott az amerikai programhoz, majd meg is haladta annak képességeit. Egy ilyen megállapodás nem működne az Egyesült Államok és Kína nélkül, azonban egyikük sem érdeklődik iránta. „Azt akarom, hogy pontosan ott hagyjuk, ahol van. Kína álláspontja is ez” - mondta Trump elnök ezen a héten.
A szabályozással szembeni egyik érv az, hogy ahogy az MI egyre erősebbé válik, a védekezőknek ugyanilyen erős eszközökhöz kell hozzáférniük. A védekezőknek azonban időre van szükségük ahhoz, hogy megtanulják, mi ellen védekeznek, ez pedig annál nehezebbé válik, minél gyorsabban fejlődik a technológia. A METR becslése szerint az MI-modellek képességei nagyjából négy-öt havonta megduplázódnak. Összehasonlításképpen a számítógépes chipek tranzisztorsűrűségének megduplázódási ideje, amelyet a „Moore-törvény” tett híressé, 24 hónap volt. 1945 és 1961 között az atombombák robbanóereje átlagosan 17 havonta duplázódott meg.
Még ha az MI valójában nem is képes elpusztítani az emberiséget, hamarosan képessé válhat katasztrofális károk okozására. A Hugging Face-et feltörő MI-rajok viszonylag kevés kárt okoztak. Dario Amodei, az Anthropic vezérigazgatója azonban ebben a hónapban arra figyelmeztetett: „6-12 hónapon belül egy ilyen raj képes lehet az egész internet átvételére.” Hogyan lehet szabályozni egy ilyen fenyegetést? Hogyan lehet nem szabályozni?