SG.hu
Visszatartja MI-kutatásai publikálását a DeepMind, hogy a Google előnyt szerezzen
A Google mesterséges intelligencia részlege, a DeepMind visszafogja világhírű kutatásainak közzétételét, mivel igyekszik versenyelőnyben maradni a fejlődő MI-iparág uralmáért folytatott versenyben. Szigorúbb átvilágítási folyamat és több bürokrácia nehezíti a publikálást.
A Nobel-díjas Sir Demis Hassabis által vezetett csoport szigorúbb ellenőrzési folyamatot és több bürokráciát vezetett be, ami megnehezíti az MI-val kapcsolatos munkákról szóló tanulmányok közzétételét - állítja a Google DeepMind hét jelenlegi és korábbi kutatója. Három volt kutató szerint a csoport leginkább olyan tanulmányokat nem szívesen oszt meg, amelyek olyan innovációkat tárnak fel, amelyeket a versenytársak kihasználhatnak, vagy amelyek a Google saját Gemini MI-modelljét másokhoz képest negatív fényben tüntetik fel. A változások jelentős változást jelentenek a DeepMind számára, amely régóta büszke arra, hogy úttörő jelentőségű publikációkat tesz közzé, és a legjobb mesterséges intelligenciát fejlesztő tudósok otthona.
Eközben a Google kutatóinak hatalmas áttörései - például a 2017-es „Transformers” című tanulmány, amely definiálta a nagy nyelvi modellek mögött álló architektúrát - központi szerepet játszottak a generatív mesterséges intelligencia mai fellendülésében. Azóta a DeepMindra nagy figyelem irányul az anyavállalat pénztermelése terén, mert mivel a befektetők aggodalmukat fejezték ki, hogy a vállalatcsoport lemondott korai előnyéről olyanok számára, mint az OpenAI. "Nem tudom elképzelni, hogy ma bárki általi használatra közzétennénk hasonló tanulmányokat” - mondta egy jelenlegi kutató.
A vállalat publikációs politikájának változásai között szerepel egy hat hónapos embargó a generatív mesterséges intelligenciával kapcsolatos stratégiai dokumentumok kiadása előtt. A kutatóknak több munkatársat is meg kell győzniük a publikálás előnyeiről. Egy, a DeepMindhoz közel álló személy szerint a változtatások a kutatók javát szolgálják, akik már frusztráltak, mert olyan munkákra fordítanak időt, amelyeket stratégiai vagy versenyjogi okokból nem hagynak jóvá. A vállalat egyébként továbbra is évente több száz tanulmányt publikál, és az MI-konferenciák legnagyobb közreműködői közé tartozik.
Az az aggodalom, hogy a Google lemarad a mesterséges intelligencia versenyben, hozzájárult ahhoz, hogy a londoni székhelyű DeepMind és a kaliforniai Brain AI egységek 2023-ban egyesültek. Azóta a vállalat az MI-alapú termékek széles skáláját gyorsabban vezeti be. "A vállalat átállt arra, hogy jobban törődik a termékkel, és kevésbé azzal, hogy a kutatási eredményeket a közjó szolgálatába állítsa” - mondta egy korábbi DeepMind-kutató. „Én nem erre szerződtem.” Ezzel szemben a DeepMind azt állítja, hogy „mindig is elkötelezett volt az MI-kutatás előmozdítása mellett. Olyan frissítéseket vezetünk be a politikáinkban, amelyek megőrzik csapataink számára a publikálás és a szélesebb kutatási ökoszisztémához való hozzájárulás lehetőségét”.
Míg a DeepMind és a Brain egyesülése előtt a vállalatnak volt egy publikációs felülvizsgálati folyamata, azóta a rendszer bürokratikusabbá vált. Korábbi munkatársak szerint az új folyamatok elfojtották a kereskedelmi szempontból érzékeny kutatások közzétételét, hogy elkerüljék a potenciális innovációk kiszivárgását. Egyikük szerint a generatív mesterséges intelligenciáról szóló tanulmányok publikálása „szinte lehetetlen”. Az egyik jelenlegi alkalmazott szerint a DeepMind leállította olyan kutatások közzétételét, amelyek azt mutatták, hogy a Google Gemini nyelvi modellje nem olyan jó vagy kevésbé biztonságos, mint a riválisoké, különösen az OpenAI GPT-4-é. Az alkalmazott azonban hozzátette, hogy egy olyan tanulmányt is blokkoltak, amely az OpenAI ChatGPT-jének sebezhetőségeit tárta fel, mivel a közzététel ellenséges hozzáállásnak tűnt volna.
Mindazonáltal a cég nem blokkolja a biztonsági réseket tárgyaló dokumentumokat, hozzátéve, az ilyen munkákat rendszeresen közzéteszik a „felelős közzétételi politika” keretében, amelyben a kutatóknak lehetőséget kell adniuk a vállalatoknak a hibák kijavítására, mielőtt nyilvánosságra hoznák azokat. A szigorítás azonban elbizonytalanította a munkatársak egy részét, mert a kutatóknál a sikert régóta a rangos tudományos folyóiratokban való megjelenésen keresztül mérik. Az új felülvizsgálati eljárások hozzájárultak egyesek távozásához. "Ha nem tudsz publikálni, az a kutatói karriered halála” - mondta egy volt kutató. Néhány volt munkatárs hozzátette, hogy az adathalmazokhoz való hozzáférésért és a számítási teljesítményért folytatott belső harcban egyre inkább a Gemini termékcsomag fejlesztésére összpontosító projektek kaptak prioritást.
Az elmúlt néhány évben a Google számos olyan mesterséges intelligencia-alapú terméket állított elő, amelyek lenyűgözték a piacokat. Ezek közé tartozik a keresési találatok felett megjelenő, mesterséges intelligencia által generált összefoglalók, valamint az „Astra” mesterséges intelligencia-ügynök bemutatása, amely valós idejű, videóra, hangra és szövegre vonatkozó lekérdezésekre tud válaszolni. Az elmúlt években Hassabis egyensúlyt teremtett a Google vezetőinek azon törekvése között, hogy a vállalat áttöréseit kereskedelmi forgalommá konvertálja, azzal az életcéljával, hogy olyan mesterséges általános intelligenciát - MI-rendszereket - próbáljon létrehozni, amelyek képességei megfelelnek az emberének vagy felülmúlják azt. "Bárkit, aki ennek útjába áll, eltávolít” - mondta egy jelenlegi alkalmazottja. „Azt mondja az embereknek, hogy ez egy vállalat, nem egy egyetemi kampusz; ha ilyen helyen akarsz dolgozni, akkor menj el”.
A Nobel-díjas Sir Demis Hassabis által vezetett csoport szigorúbb ellenőrzési folyamatot és több bürokráciát vezetett be, ami megnehezíti az MI-val kapcsolatos munkákról szóló tanulmányok közzétételét - állítja a Google DeepMind hét jelenlegi és korábbi kutatója. Három volt kutató szerint a csoport leginkább olyan tanulmányokat nem szívesen oszt meg, amelyek olyan innovációkat tárnak fel, amelyeket a versenytársak kihasználhatnak, vagy amelyek a Google saját Gemini MI-modelljét másokhoz képest negatív fényben tüntetik fel. A változások jelentős változást jelentenek a DeepMind számára, amely régóta büszke arra, hogy úttörő jelentőségű publikációkat tesz közzé, és a legjobb mesterséges intelligenciát fejlesztő tudósok otthona.
Eközben a Google kutatóinak hatalmas áttörései - például a 2017-es „Transformers” című tanulmány, amely definiálta a nagy nyelvi modellek mögött álló architektúrát - központi szerepet játszottak a generatív mesterséges intelligencia mai fellendülésében. Azóta a DeepMindra nagy figyelem irányul az anyavállalat pénztermelése terén, mert mivel a befektetők aggodalmukat fejezték ki, hogy a vállalatcsoport lemondott korai előnyéről olyanok számára, mint az OpenAI. "Nem tudom elképzelni, hogy ma bárki általi használatra közzétennénk hasonló tanulmányokat” - mondta egy jelenlegi kutató.
A vállalat publikációs politikájának változásai között szerepel egy hat hónapos embargó a generatív mesterséges intelligenciával kapcsolatos stratégiai dokumentumok kiadása előtt. A kutatóknak több munkatársat is meg kell győzniük a publikálás előnyeiről. Egy, a DeepMindhoz közel álló személy szerint a változtatások a kutatók javát szolgálják, akik már frusztráltak, mert olyan munkákra fordítanak időt, amelyeket stratégiai vagy versenyjogi okokból nem hagynak jóvá. A vállalat egyébként továbbra is évente több száz tanulmányt publikál, és az MI-konferenciák legnagyobb közreműködői közé tartozik.
Az az aggodalom, hogy a Google lemarad a mesterséges intelligencia versenyben, hozzájárult ahhoz, hogy a londoni székhelyű DeepMind és a kaliforniai Brain AI egységek 2023-ban egyesültek. Azóta a vállalat az MI-alapú termékek széles skáláját gyorsabban vezeti be. "A vállalat átállt arra, hogy jobban törődik a termékkel, és kevésbé azzal, hogy a kutatási eredményeket a közjó szolgálatába állítsa” - mondta egy korábbi DeepMind-kutató. „Én nem erre szerződtem.” Ezzel szemben a DeepMind azt állítja, hogy „mindig is elkötelezett volt az MI-kutatás előmozdítása mellett. Olyan frissítéseket vezetünk be a politikáinkban, amelyek megőrzik csapataink számára a publikálás és a szélesebb kutatási ökoszisztémához való hozzájárulás lehetőségét”.
Míg a DeepMind és a Brain egyesülése előtt a vállalatnak volt egy publikációs felülvizsgálati folyamata, azóta a rendszer bürokratikusabbá vált. Korábbi munkatársak szerint az új folyamatok elfojtották a kereskedelmi szempontból érzékeny kutatások közzétételét, hogy elkerüljék a potenciális innovációk kiszivárgását. Egyikük szerint a generatív mesterséges intelligenciáról szóló tanulmányok publikálása „szinte lehetetlen”. Az egyik jelenlegi alkalmazott szerint a DeepMind leállította olyan kutatások közzétételét, amelyek azt mutatták, hogy a Google Gemini nyelvi modellje nem olyan jó vagy kevésbé biztonságos, mint a riválisoké, különösen az OpenAI GPT-4-é. Az alkalmazott azonban hozzátette, hogy egy olyan tanulmányt is blokkoltak, amely az OpenAI ChatGPT-jének sebezhetőségeit tárta fel, mivel a közzététel ellenséges hozzáállásnak tűnt volna.
Mindazonáltal a cég nem blokkolja a biztonsági réseket tárgyaló dokumentumokat, hozzátéve, az ilyen munkákat rendszeresen közzéteszik a „felelős közzétételi politika” keretében, amelyben a kutatóknak lehetőséget kell adniuk a vállalatoknak a hibák kijavítására, mielőtt nyilvánosságra hoznák azokat. A szigorítás azonban elbizonytalanította a munkatársak egy részét, mert a kutatóknál a sikert régóta a rangos tudományos folyóiratokban való megjelenésen keresztül mérik. Az új felülvizsgálati eljárások hozzájárultak egyesek távozásához. "Ha nem tudsz publikálni, az a kutatói karriered halála” - mondta egy volt kutató. Néhány volt munkatárs hozzátette, hogy az adathalmazokhoz való hozzáférésért és a számítási teljesítményért folytatott belső harcban egyre inkább a Gemini termékcsomag fejlesztésére összpontosító projektek kaptak prioritást.
Az elmúlt néhány évben a Google számos olyan mesterséges intelligencia-alapú terméket állított elő, amelyek lenyűgözték a piacokat. Ezek közé tartozik a keresési találatok felett megjelenő, mesterséges intelligencia által generált összefoglalók, valamint az „Astra” mesterséges intelligencia-ügynök bemutatása, amely valós idejű, videóra, hangra és szövegre vonatkozó lekérdezésekre tud válaszolni. Az elmúlt években Hassabis egyensúlyt teremtett a Google vezetőinek azon törekvése között, hogy a vállalat áttöréseit kereskedelmi forgalommá konvertálja, azzal az életcéljával, hogy olyan mesterséges általános intelligenciát - MI-rendszereket - próbáljon létrehozni, amelyek képességei megfelelnek az emberének vagy felülmúlják azt. "Bárkit, aki ennek útjába áll, eltávolít” - mondta egy jelenlegi alkalmazottja. „Azt mondja az embereknek, hogy ez egy vállalat, nem egy egyetemi kampusz; ha ilyen helyen akarsz dolgozni, akkor menj el”.