SG.hu·
Az OpenAI és az Anthropic arra kéri az amerikai kormányt, hogy lassítsa le a MI fejlesztését
A rivális vállalatok támogatásukat fejezték ki egy olyan levél mellett, amelyet több száz MI-cégnél dolgozó alkalmazott írt alá, és amely nemzetközi diplomáciai együttműködést sürget annak érdekében, hogy lelassítsák a technológia fejlődését.
A ChatGPT fejlesztője, az OpenAI, valamint legnagyobb riválisa, a Claude chatbotot fejlesztő Anthropic is támogatását adta ahhoz a kedden közzétett petícióhoz, amelyet a két vállalat több száz alkalmazottja, továbbá a Google, a Meta és más vezető MI-vállalatok munkatársai is aláírtak. A levél arra figyelmeztet, hogy a vállalatok közel kerülhetnek ahhoz, hogy a MI-kutatási munkát magát is automatizálják. A dokumentum szerint ez olyan fejlemény lehet, amelynek következtében a technológia kicsúszhat az emberi ellenőrzés alól. „Arra kérjük az Egyesült Államok kormányát, hogy támogasson egy nemzetközi kezdeményezést azoknak a technikai és irányítási eszközöknek a kidolgozására, amelyek szükségesek ahhoz, hogy tudatosan szabályozni lehessen a legfejlettebb automatizált MI-rendszerek fejlődésének ütemét” - áll a petícióban.
A MI fejlesztésének korlátozásáról szóló nemzetközi megállapodás összehangolása rendkívüli diplomáciai feladat lenne, amelyet sokan ahhoz hasonlítanak, mintha egy nukleáris fegyverzetkorlátozási egyezményt kellene létrehozni olyan szoftverekre, amelyek szabadon terjeszthetők az interneten keresztül. Az Egyesült Államokban és világszerte az MI fejlesztését jelenleg nagyrészt nem korlátozzák jogszabályok. A vállalatok és a nemzeti kormányok dollármilliárdokat fektetnek be azért, hogy a lehető legjobb technológiát fejlesszék ki és vezessék be. Ez a verseny az Egyesült Államok és Kína közötti geopolitikai rivalizálás egyik központi elemévé vált.
A vállalati támogatások és a keddi levél aláíróinak széles köre ellenére a MI-iparágban és a Szilícium-völgyben sokan úgy vélik, hogy a technológia fejlesztését határozottan tovább kell gyorsítani, hogy új innovációk szülessenek, gyógyíthatóvá váljanak betegségek, valamint az Egyesült Államok a következő évtizedekben is megőrizhesse katonai fölényét. A levél több olyan technológiai iparági petíciót követ, amelyek a ChatGPT 2022-es megjelenése óta láttak napvilágot. Ezekben ismert MI-kutatók vagy vállalatvezetők a MI fejlesztésének ideiglenes felfüggesztését sürgették, illetve arra figyelmeztettek, hogy a MI akár az emberiség pusztulását is okozhatja. Az előző levelek azonban nem eredményeztek jelentős változást sem a vállalatok, sem a kormányok MI-fejlesztéshez való hozzáállásában.
Az új petíció abban különbözik a korábbiaktól, hogy vállalati támogatást is szerzett egy jóval konkrétabb állami beavatkozási javaslathoz, még ha ennek esetleges időpontja egyelőre ismeretlen is. Az aláírók között az OpenAI, a Meta és a Google vezető beosztású vezetői is megtalálhatók. Ezek a vállalatok általában sokkal inkább ellenezték a szigorú MI-szabályozást, mint az Anthropic. „Leginkább az teszi figyelemre méltóvá ezt a kezdeményezést, hogy milyen sok magas rangú név szerepel az aláírók között. Egyre inkább megfigyelhető, hogy a laboratóriumok és munkatársaik nyíltan beszélnek a nemzetközi irányítás szükségességéről” - mondta Andrew Yoon, a CivAI nevű nonprofit szervezet műszaki munkatársa, amely a MI képességeit és a technológiában rejlő lehetséges kockázatokat elemzi. Az OpenAI vezérigazgatója, Sam Altman személyesen nem írta alá a petíciót, ugyanakkor egy kedden közzétett podcastrészletben azt mondta, hogy szükség lehet arra, hogy „szabályozzuk a MI fejlődésének ütemét”.
A MI felhasználása arra, hogy automatizálja saját fejlesztésének és továbbfejlesztésének folyamatát, régóta kitűzött célja számos MI-kutatónak. Az OpenAI és az Anthropic is azt közölte idén, hogy jelentős előrelépést értek el ezen a területen. Az OpenAI a múlt hónapban közzétett blogbejegyzésében azt írta, hogy a vállalat három legfontosabb célkitűzésének egyike egy „automatizált MI-kutató” létrehozása. Előrejelzésük szerint 2028 elejére „kutatásaink jelentős részét már MI-rendszerek végezhetik majd saját kutatóinkkal együttműködésben”.
Andrew Yoon szerint az Anthropic és az OpenAI által az elmúlt hónapokban bemutatott új MI-modellek, amelyek már képesek számítógépes rendszerek feltörésére is, arra késztették a kutatókat, hogy úgy gondolják, az önmagukat továbbfejlesztő MI-rendszerek megjelenése már nincs messze. „A MI-fejlesztők egyre inkább úgy vélik, hogy az automatizált MI-kutatás elérhető közelségbe került” - mondta Yoon. Ez pedig „magában hordozza annak lehetőségét, hogy a fejlődés üteme drámai módon felgyorsuljon, túl azon a ponton, ahol a modellek még biztonságosan ellenőrzés alatt tarthatók”.
A ChatGPT fejlesztője, az OpenAI, valamint legnagyobb riválisa, a Claude chatbotot fejlesztő Anthropic is támogatását adta ahhoz a kedden közzétett petícióhoz, amelyet a két vállalat több száz alkalmazottja, továbbá a Google, a Meta és más vezető MI-vállalatok munkatársai is aláírtak. A levél arra figyelmeztet, hogy a vállalatok közel kerülhetnek ahhoz, hogy a MI-kutatási munkát magát is automatizálják. A dokumentum szerint ez olyan fejlemény lehet, amelynek következtében a technológia kicsúszhat az emberi ellenőrzés alól. „Arra kérjük az Egyesült Államok kormányát, hogy támogasson egy nemzetközi kezdeményezést azoknak a technikai és irányítási eszközöknek a kidolgozására, amelyek szükségesek ahhoz, hogy tudatosan szabályozni lehessen a legfejlettebb automatizált MI-rendszerek fejlődésének ütemét” - áll a petícióban.
A MI fejlesztésének korlátozásáról szóló nemzetközi megállapodás összehangolása rendkívüli diplomáciai feladat lenne, amelyet sokan ahhoz hasonlítanak, mintha egy nukleáris fegyverzetkorlátozási egyezményt kellene létrehozni olyan szoftverekre, amelyek szabadon terjeszthetők az interneten keresztül. Az Egyesült Államokban és világszerte az MI fejlesztését jelenleg nagyrészt nem korlátozzák jogszabályok. A vállalatok és a nemzeti kormányok dollármilliárdokat fektetnek be azért, hogy a lehető legjobb technológiát fejlesszék ki és vezessék be. Ez a verseny az Egyesült Államok és Kína közötti geopolitikai rivalizálás egyik központi elemévé vált.
A vállalati támogatások és a keddi levél aláíróinak széles köre ellenére a MI-iparágban és a Szilícium-völgyben sokan úgy vélik, hogy a technológia fejlesztését határozottan tovább kell gyorsítani, hogy új innovációk szülessenek, gyógyíthatóvá váljanak betegségek, valamint az Egyesült Államok a következő évtizedekben is megőrizhesse katonai fölényét. A levél több olyan technológiai iparági petíciót követ, amelyek a ChatGPT 2022-es megjelenése óta láttak napvilágot. Ezekben ismert MI-kutatók vagy vállalatvezetők a MI fejlesztésének ideiglenes felfüggesztését sürgették, illetve arra figyelmeztettek, hogy a MI akár az emberiség pusztulását is okozhatja. Az előző levelek azonban nem eredményeztek jelentős változást sem a vállalatok, sem a kormányok MI-fejlesztéshez való hozzáállásában.
Az új petíció abban különbözik a korábbiaktól, hogy vállalati támogatást is szerzett egy jóval konkrétabb állami beavatkozási javaslathoz, még ha ennek esetleges időpontja egyelőre ismeretlen is. Az aláírók között az OpenAI, a Meta és a Google vezető beosztású vezetői is megtalálhatók. Ezek a vállalatok általában sokkal inkább ellenezték a szigorú MI-szabályozást, mint az Anthropic. „Leginkább az teszi figyelemre méltóvá ezt a kezdeményezést, hogy milyen sok magas rangú név szerepel az aláírók között. Egyre inkább megfigyelhető, hogy a laboratóriumok és munkatársaik nyíltan beszélnek a nemzetközi irányítás szükségességéről” - mondta Andrew Yoon, a CivAI nevű nonprofit szervezet műszaki munkatársa, amely a MI képességeit és a technológiában rejlő lehetséges kockázatokat elemzi. Az OpenAI vezérigazgatója, Sam Altman személyesen nem írta alá a petíciót, ugyanakkor egy kedden közzétett podcastrészletben azt mondta, hogy szükség lehet arra, hogy „szabályozzuk a MI fejlődésének ütemét”.
A MI felhasználása arra, hogy automatizálja saját fejlesztésének és továbbfejlesztésének folyamatát, régóta kitűzött célja számos MI-kutatónak. Az OpenAI és az Anthropic is azt közölte idén, hogy jelentős előrelépést értek el ezen a területen. Az OpenAI a múlt hónapban közzétett blogbejegyzésében azt írta, hogy a vállalat három legfontosabb célkitűzésének egyike egy „automatizált MI-kutató” létrehozása. Előrejelzésük szerint 2028 elejére „kutatásaink jelentős részét már MI-rendszerek végezhetik majd saját kutatóinkkal együttműködésben”.
Andrew Yoon szerint az Anthropic és az OpenAI által az elmúlt hónapokban bemutatott új MI-modellek, amelyek már képesek számítógépes rendszerek feltörésére is, arra késztették a kutatókat, hogy úgy gondolják, az önmagukat továbbfejlesztő MI-rendszerek megjelenése már nincs messze. „A MI-fejlesztők egyre inkább úgy vélik, hogy az automatizált MI-kutatás elérhető közelségbe került” - mondta Yoon. Ez pedig „magában hordozza annak lehetőségét, hogy a fejlődés üteme drámai módon felgyorsuljon, túl azon a ponton, ahol a modellek még biztonságosan ellenőrzés alatt tarthatók”.