SG.hu
Saját céget alapít az OpenAI társalapítója, aki kirúgatta Sam Altmant
Ilya Sutskever új startupja, a Safe Superintelligence célja, hogy olyan MI-t hozzon létre, amelyek okosabb az embernél, de nem veszélyes.
Ilya Sutskever, az OpenAI társalapítója és vezető tudósa, aki novemberben más igazgatósági tagokkal együtt kiszorította Sam Altmant, a cég nagy tekintélyű vezérigazgatóját, új mesterséges intelligencia céget alapított. Az új startup a Safe Superintelligence nevet viseli. A cég szóvivője, Lulu Cheng Meservey szerint a vállalat célja a szuperintelligencia - az embernél intelligensebb gép - biztonságos módon történő előállítása. A 38 éves Dr. Sutskever a múlt hónapban hagyta ott az OpenAI-t, és akkor bejelentette, hogy új projektbe kezd, de részleteket nem közölt. Meservey nem volt hajlandó megnevezni, hogy ki finanszírozza a céget, vagy hogy mennyi pénzt gyűjtött össze. Elmondta, hogy a biztonságos szuperintelligencia kiépítése mellett a vállalat nem fog egyéb termékeket kiadni.
Dr. Sutskever a céget együtt alapította Daniel Gross-szal, aki az Apple-nél dolgozott az MI-n, és Daniel Levy-vel, aki Dr. Sutskeverrel együtt dolgozott az OpenAI-nál. Dr. Sutskever címe az új vállalatnál vezető tudós lesz, de Meservey szerint a szerepét úgy jellemzi, hogy "aki a forradalmi áttörésekért felelős". 2022 novemberében az OpenAI megragadta a világ fantáziáját a ChatGPT bemutatásával, egy olyan online chatrobottal, amely képes volt kérdésekre válaszolni, házi dolgozatokat írni, számítógépes kódot generálni és még emberi beszélgetést is utánozni. A technológiai ipar gyorsan felkarolta az úgynevezett generatív mesterséges intelligenciát: olyan technológiákat, amelyek képesek szöveget, képeket és más médiumokat generálni.
Sok szakértő úgy véli, hogy ezek a technológiák készen állnak arra, hogy az e-mail programoktól kezdve az internetes keresőmotorokon át a digitális asszisztensekig mindent átalakítsanak. Egyesek szerint ez az átalakulás olyan nagy hatással lesz, mint a webböngésző vagy az okostelefon. Altman lett a generatív MI felé irányuló mozgalom arca, mivel világszerte találkozott törvényhozókkal, szabályozókkal és befektetőkkel, és tanúskodott a Kongresszus előtt. Azonban novemberben Dr. Sutskever és három másik OpenAI igazgatótanácsi tag váratlanul leváltotta őt, mondván, hogy nem tudják tovább rábízni a vállalat tervét, hogy egy napon olyan gépet hozzanak létre, amely képes mindenre, amire az emberi agy képes.
Napokkal később, miután az OpenAI több száz alkalmazottja felmondással fenyegetőzött, Dr. Sutskever azt mondta, hogy megbánta döntését Altman eltávolításáról. Altman visszatért a vezérigazgatói posztra, miután az igazgatótanáccsal megállapodtak abban, hogy két igazgatótanácsi tagot lecserélnek Bret Taylorra, a Salesforce korábbi vezetőjére és Lawrence Summersre, az Egyesült Államok korábbi pénzügyminiszterére. Dr. Sutskever gyakorlatilag lemondott az igazgatótanácsból.
Tavaly Dr. Sutskever segített létrehozni az OpenAI-n belül egy úgynevezett Superalignment csapatot, amelynek célja annak biztosítása volt, hogy a jövőbeli MI technológiák ne okozzanak kárt. Ahogy mások is a területen, ő is egyre inkább aggódott amiatt, hogy az MI veszélyessé válhat, és talán el is pusztíthatja az emberiséget. Jan Leike, aki Dr. Sutskever mellett a Superalignment csapatot vezette, szintén kilépett az OpenAI-ból, és nyilvánosan panaszkodott, hogy "az elmúlt években a biztonsági kultúra és a folyamatok háttérbe szorultak a csillogó termékek mögött" az OpenAI-nál. Őt azóta az OpenAI versenytársa, az Anthropic vette fel, egy másik cég, amelyet szintén az OpenAI korábbi kutatói alapítottak.
Szkeptikusokban nincs hiány. A Washingtoni Egyetem informatika professzora (és az OpenAI gyakori kritikusa), Pedro Domingos azt írta az X-en: "Ilya Sutskever új cége garantáltan sikeres lesz, mert a soha el nem ért szuperintelligencia garantáltan biztonságos". Az AGI-hoz hasonlóan a szuperintelligencia is ködös fogalom. Mivel az emberi intelligencia mechanikáját még mindig kevéssé értjük - és mivel az emberi intelligenciát nehéz számszerűsíteni vagy definiálni, mivel az emberi intelligenciának nincs egyetlen meghatározott típusa -, a szuperintelligencia azonosítása is trükkös lehet.
A számítógépek már most is messze felülmúlják az embert az információfeldolgozás számos formája terén (például az alapvető matematikai feladatokban), de vajon szuperintelligensek-e? A szuperintelligencia sok híve egy olyan sci-fi forgatókönyvet képzel el, amelyben az emberektől függetlenül működő "idegen intelligencia" egyfajta érzőképességgel rendelkezik, és nagyjából ez az, amit Sutskever remél elérni és biztonságosan irányítani. "Egy óriási szuper adatközpontról beszélünk, amely autonóm módon fejleszti a technológiát" - mondta a Bloombergnek. "Ez őrültség, nem igaz? Ennek a biztonságához szeretnénk hozzájárulni".
Ilya Sutskever, az OpenAI társalapítója és vezető tudósa, aki novemberben más igazgatósági tagokkal együtt kiszorította Sam Altmant, a cég nagy tekintélyű vezérigazgatóját, új mesterséges intelligencia céget alapított. Az új startup a Safe Superintelligence nevet viseli. A cég szóvivője, Lulu Cheng Meservey szerint a vállalat célja a szuperintelligencia - az embernél intelligensebb gép - biztonságos módon történő előállítása. A 38 éves Dr. Sutskever a múlt hónapban hagyta ott az OpenAI-t, és akkor bejelentette, hogy új projektbe kezd, de részleteket nem közölt. Meservey nem volt hajlandó megnevezni, hogy ki finanszírozza a céget, vagy hogy mennyi pénzt gyűjtött össze. Elmondta, hogy a biztonságos szuperintelligencia kiépítése mellett a vállalat nem fog egyéb termékeket kiadni.
Dr. Sutskever a céget együtt alapította Daniel Gross-szal, aki az Apple-nél dolgozott az MI-n, és Daniel Levy-vel, aki Dr. Sutskeverrel együtt dolgozott az OpenAI-nál. Dr. Sutskever címe az új vállalatnál vezető tudós lesz, de Meservey szerint a szerepét úgy jellemzi, hogy "aki a forradalmi áttörésekért felelős". 2022 novemberében az OpenAI megragadta a világ fantáziáját a ChatGPT bemutatásával, egy olyan online chatrobottal, amely képes volt kérdésekre válaszolni, házi dolgozatokat írni, számítógépes kódot generálni és még emberi beszélgetést is utánozni. A technológiai ipar gyorsan felkarolta az úgynevezett generatív mesterséges intelligenciát: olyan technológiákat, amelyek képesek szöveget, képeket és más médiumokat generálni.
We will pursue safe superintelligence in a straight shot, with one focus, one goal, and one product. We will do it through revolutionary breakthroughs produced by a small cracked team. Join us: https://t.co/oYL0EcVED2
— Ilya Sutskever (@ilyasut) June 19, 2024
Sok szakértő úgy véli, hogy ezek a technológiák készen állnak arra, hogy az e-mail programoktól kezdve az internetes keresőmotorokon át a digitális asszisztensekig mindent átalakítsanak. Egyesek szerint ez az átalakulás olyan nagy hatással lesz, mint a webböngésző vagy az okostelefon. Altman lett a generatív MI felé irányuló mozgalom arca, mivel világszerte találkozott törvényhozókkal, szabályozókkal és befektetőkkel, és tanúskodott a Kongresszus előtt. Azonban novemberben Dr. Sutskever és három másik OpenAI igazgatótanácsi tag váratlanul leváltotta őt, mondván, hogy nem tudják tovább rábízni a vállalat tervét, hogy egy napon olyan gépet hozzanak létre, amely képes mindenre, amire az emberi agy képes.
Napokkal később, miután az OpenAI több száz alkalmazottja felmondással fenyegetőzött, Dr. Sutskever azt mondta, hogy megbánta döntését Altman eltávolításáról. Altman visszatért a vezérigazgatói posztra, miután az igazgatótanáccsal megállapodtak abban, hogy két igazgatótanácsi tagot lecserélnek Bret Taylorra, a Salesforce korábbi vezetőjére és Lawrence Summersre, az Egyesült Államok korábbi pénzügyminiszterére. Dr. Sutskever gyakorlatilag lemondott az igazgatótanácsból.
Tavaly Dr. Sutskever segített létrehozni az OpenAI-n belül egy úgynevezett Superalignment csapatot, amelynek célja annak biztosítása volt, hogy a jövőbeli MI technológiák ne okozzanak kárt. Ahogy mások is a területen, ő is egyre inkább aggódott amiatt, hogy az MI veszélyessé válhat, és talán el is pusztíthatja az emberiséget. Jan Leike, aki Dr. Sutskever mellett a Superalignment csapatot vezette, szintén kilépett az OpenAI-ból, és nyilvánosan panaszkodott, hogy "az elmúlt években a biztonsági kultúra és a folyamatok háttérbe szorultak a csillogó termékek mögött" az OpenAI-nál. Őt azóta az OpenAI versenytársa, az Anthropic vette fel, egy másik cég, amelyet szintén az OpenAI korábbi kutatói alapítottak.
Szkeptikusokban nincs hiány. A Washingtoni Egyetem informatika professzora (és az OpenAI gyakori kritikusa), Pedro Domingos azt írta az X-en: "Ilya Sutskever új cége garantáltan sikeres lesz, mert a soha el nem ért szuperintelligencia garantáltan biztonságos". Az AGI-hoz hasonlóan a szuperintelligencia is ködös fogalom. Mivel az emberi intelligencia mechanikáját még mindig kevéssé értjük - és mivel az emberi intelligenciát nehéz számszerűsíteni vagy definiálni, mivel az emberi intelligenciának nincs egyetlen meghatározott típusa -, a szuperintelligencia azonosítása is trükkös lehet.
A számítógépek már most is messze felülmúlják az embert az információfeldolgozás számos formája terén (például az alapvető matematikai feladatokban), de vajon szuperintelligensek-e? A szuperintelligencia sok híve egy olyan sci-fi forgatókönyvet képzel el, amelyben az emberektől függetlenül működő "idegen intelligencia" egyfajta érzőképességgel rendelkezik, és nagyjából ez az, amit Sutskever remél elérni és biztonságosan irányítani. "Egy óriási szuper adatközpontról beszélünk, amely autonóm módon fejleszti a technológiát" - mondta a Bloombergnek. "Ez őrültség, nem igaz? Ennek a biztonságához szeretnénk hozzájárulni".