MTI
Az MI-fejlesztések leállítását követelik vezető szereplők
A technológiai ipar vezető szereplői nyílt levélben sürgették szerdán a mesterséges intelligencia fejlesztések azonnali felfüggesztését a társadalmat fenyegető kockázatok miatt.
Az Élet Jövője Intézet (Future of Life Institute) által kiadott dokumentumot mintegy ezren írták alá, köztük Elon Musk, a Twitter tulajdonosa, a Tesla alapítója, valamint Steve Wozniak, az Apple társalapítója. A dokumentum szerint a fejlesztőknek átmeneti, 6 hónapos időre le kellene állítaniuk a mesterséges intelligencia (Artificial Intelligence - AI) fejlesztéseket, az olyan eszközök tanulási folyamatát, amelyek teljesítménye meghaladja az úgynevezett GPT-4-es rendszerét. A GPT-4 az OpenAI fejlesztővállalat legújabb, tanulásra képes modellje, amelyik emberi szintű teljesítményt mutat számos szakmai és tudományos teljesítményértékelés alapján.
A levél szerint a nagy teljesítményű mesterséges intelligencia rendszereket csak akkor lehet kialakítani, miután "biztosak lehetünk abban, hogy hatásaik pozitívak és az általuk jelentett kockázat kezelhető". Arra is felhívják a figyelmet, hogy jelenleg senki nem tudja megérteni, megjósolni és megbízhatóan ellenőrzés alatt tartani azokat a nagy teljesítményű eszközöket, amelyek a mesterséges intelligencia laboratóriumokban vannak fejlesztés alatt.
A mesterséges intelligencia fejlesztéssel foglalkozó nagy informatikai vállalatok között tavaly novemberben szinte "fegyverkezési verseny" alakult ki, miután az OpenAI megjelentette új chatbotját a ChatGPT-t, amely képes a bevitt információkat interaktívan kezelni és alkalmazni, miközben a felhasználókkal való folyamatos kommunikáció automatizálásával értelmezőmodelleket használ. A cégek közötti verseny főszereplői az OpenAI mellett a Google és a Microsoft, de az IBM, az Amazon, a Baidu és a Tencent is dolgozik hasonló technológián. A levél utal arra, hogy az egyre nagyobb verseny oda vezet, hogy annak ellenőrzése kicsúszik a kezükből, és olyan erővel bíró digitális elmét hoz létre, amelynek viselkedését maguk a létrehozók sem tudják már megérteni, megjósolni és kontrollálni.
A mesterséges intelligenciával foglalkozó szakértők aggályaikat hangoztatták amiatt, hogy az új mesterséges intelligencia eszközök a tanulási folyamataik révén képessé válhatnak elfogult válaszokra, álinformációk terjesztésére, valamint sérthetik a fogyasztók személyiségi jogait.
Az Élet Jövője Intézet (Future of Life Institute) által kiadott dokumentumot mintegy ezren írták alá, köztük Elon Musk, a Twitter tulajdonosa, a Tesla alapítója, valamint Steve Wozniak, az Apple társalapítója. A dokumentum szerint a fejlesztőknek átmeneti, 6 hónapos időre le kellene állítaniuk a mesterséges intelligencia (Artificial Intelligence - AI) fejlesztéseket, az olyan eszközök tanulási folyamatát, amelyek teljesítménye meghaladja az úgynevezett GPT-4-es rendszerét. A GPT-4 az OpenAI fejlesztővállalat legújabb, tanulásra képes modellje, amelyik emberi szintű teljesítményt mutat számos szakmai és tudományos teljesítményértékelés alapján.
A levél szerint a nagy teljesítményű mesterséges intelligencia rendszereket csak akkor lehet kialakítani, miután "biztosak lehetünk abban, hogy hatásaik pozitívak és az általuk jelentett kockázat kezelhető". Arra is felhívják a figyelmet, hogy jelenleg senki nem tudja megérteni, megjósolni és megbízhatóan ellenőrzés alatt tartani azokat a nagy teljesítményű eszközöket, amelyek a mesterséges intelligencia laboratóriumokban vannak fejlesztés alatt.
A mesterséges intelligencia fejlesztéssel foglalkozó nagy informatikai vállalatok között tavaly novemberben szinte "fegyverkezési verseny" alakult ki, miután az OpenAI megjelentette új chatbotját a ChatGPT-t, amely képes a bevitt információkat interaktívan kezelni és alkalmazni, miközben a felhasználókkal való folyamatos kommunikáció automatizálásával értelmezőmodelleket használ. A cégek közötti verseny főszereplői az OpenAI mellett a Google és a Microsoft, de az IBM, az Amazon, a Baidu és a Tencent is dolgozik hasonló technológián. A levél utal arra, hogy az egyre nagyobb verseny oda vezet, hogy annak ellenőrzése kicsúszik a kezükből, és olyan erővel bíró digitális elmét hoz létre, amelynek viselkedését maguk a létrehozók sem tudják már megérteni, megjósolni és kontrollálni.
A mesterséges intelligenciával foglalkozó szakértők aggályaikat hangoztatták amiatt, hogy az új mesterséges intelligencia eszközök a tanulási folyamataik révén képessé válhatnak elfogult válaszokra, álinformációk terjesztésére, valamint sérthetik a fogyasztók személyiségi jogait.