SG.hu
Hatalmas harc zajlik az Nvidia letaszításáért az MI chipek trónjáról
Az Amazon, az AMD és számos startup kezd hiteles alternatívákat kínálni az Nvidia chipjeivel szemben, különösen az MI fejlesztés „következtetés” néven ismert területén.
Az MI chipek gyorsan fejlődő piaca jelenleg talán a legforróbb és legkeresettebb technológia. Az iparágat régóta az Nvidia uralja, amely ezen lapkák által vált 3 billió dolláros óriáscéggé. Évekig mások is megpróbálták felvenni a versenyt a vállalat chipjeivel, amelyek óriási számítási teljesítményt nyújtanak az MI feladatokhoz, de nem sok előrelépést értek el. De most az Advanced Micro Devices, azaz az AMD és az Amazon által létrehozott chipek - valamint a technológiájukra adott vásárlói reakciók - fontos jelei annak, amelyek szerint végre hiteles alternatívák jelennek meg az Nvidia mellett. Néhány kulcsfontosságú MI-feladat esetében az Nvidia riválisai bizonyítják, hogy sokkal magasabb sebességet tudnak biztosítani, ráadásul sokkal alacsonyabb áron - mondta Daniel Newman, a Futurum Group elemzője. „Ez az, amiről mindenki tudta, hogy lehetséges, és most kezdjük látni, hogy megvalósul” - mondta.
Az elmozdulás hátterében számos technológiai vállalat áll - a nagy versenytársaktól, mint az Amazon és az AMD, egészen a kisebb startup cégekig -, amelyek elkezdték chipjeiket az MI fejlődés egy bizonyos, egyre fontosabbá váló szakaszára szabni. Ez a „következtetésnek” nevezett folyamat azután történik, hogy a vállalatok más chipekkel már betanították az MI-modelleket. Ez lehetővé teszi számukra, hogy olyan feladatokat hajtsanak végre, mint például a válaszok kiszolgálása a chatbotokkal. "Az igazi kereskedelmi érték a következtetésből származik, és a következtetés kezdi átvenni a főszerepet” - mondta Cristiano Amon, a Qualcomm vezérigazgatója. A mobilchip-gyártó az Amazon új chipjeit tervezi használni az MI feladatokhoz. „Kezdjük látni a változás kezdetét.”
Az Nvidia riválisai más módon is elkezdtek példát venni a vállalatról. Elkezdték utánozni az Nvidia taktikáját, miszerint komplett számítógépeket építenek - és nem csak a chipeket -, hogy a vásárlók a lehető legnagyobb teljesítményt és teljesítményt tudják kicsikarni a lapkákból az MI céljaira. A megnövekedett verseny akkor vált nyilvánvalóvá, amikor az Amazon bejelentette az új Trainium 2 MI-chipeken alapuló számítástechnikai szolgáltatások elérhetőségét és a potenciális felhasználók - köztük az Apple - beszámolóit. A vállalat olyan számítógépeket is bemutatott, amelyek 16 vagy 64 ilyen chipet tartalmaznak, és amelyek ultragyors hálózati kapcsolatokkal rendelkeznek, amelyek különösen felgyorsítják a következtetési teljesítményt.
Az Amazon még egyfajta óriási MI-gyárat is épít az Anthropic nevű startupnak, amelybe befektetett - mondta Matt Garman, az Amazon Web Services vezérigazgatója. Ez a számítástechnikai „fürt” több százezer új Trainium chipet tartalmaz majd, és ötször nagyobb teljesítményű lesz, mint bármelyik, az Anthropic által valaha is használt - mondta Tom Brown, a Claude chatbotot üzemeltető, San Franciscóban működő startup egyik alapítója és számítási vezetője. "Ez azt jelenti, hogy az ügyfelek több intelligenciát kapnak alacsonyabb áron és nagyobb sebességgel” - mondta Brown. Az Omdia piackutató cég szerint idén várhatóan 49 százalékkal, 126 milliárd dollárra nőnek az adatközpontok üzemeltetőinek Nvidia chip nélküli számítógépekre fordított kiadásai, amelyek az MI-feladatokhoz szükséges számítási teljesítményt biztosítják.
Ennek ellenére a megnövekedett verseny nem jelenti azt, hogy az Nvidia elveszítené vezető pozícióját. A vállalat szóvivője rámutatott Jensen Huang, az Nvidia vezérigazgatójának megjegyzéseire, aki szerint cége jelentős előnyökkel rendelkezik az MI szoftverek és a következtetési képességek terén. Huang hozzátette, hogy a vállalat új Blackwell chipjei iránt óriási a kereslet, amelyek szerinte sokkal több számítást végeznek egy wattnyi felhasznált energiával, annak ellenére, hogy a működésükhöz szükséges energiaigényük megnőtt. "A teljes üzemeltetési költségünk annyira alacsony, hogy még ha a versenytársak ingyen adják a chipjeiket, akkor sem elég olcsók” - mondta Huang egy idei Stanford Egyetemen tartott beszédében.
Az MI-chipek piacának változását részben az olyan jól finanszírozott startupok, mint a SambaNova Systems, a Groq és a Cerebras Systems hajtották előre, amelyek az utóbbi időben nagy sebességelőnyökre tettek szert a következtetések levonása terén, alacsonyabb árak és energiafogyasztás mellett. Az Nvidia jelenlegi chipjei darabonként akár 15 000 dollárba is kerülhetnek, a Blackwell chipjei pedig várhatóan több tízezer dollárba kerülnek majd darabonként. Ez néhány ügyfelet az alternatívák felé terelt. Dan Stanzione, a Texas Advanced Computing Center nevű kutatóközpont ügyvezető igazgatója elmondta, hogy szervezete jövőre tervezi egy Blackwell-alapú szuperszámítógép vásárlását, de valószínűleg a SambaNova chipjeit is használni fogja a következtetési feladatokhoz, mivel azok energiafogyasztása és ára alacsonyabb. "Az a cucc egyszerűen túl drága” - mondta az Nvidia chipjeiről.
Az AMD azt mondta, hogy várhatóan az Nvidia Blackwell chipjeit veszi célba saját, jövőre érkező új MI-chipjeivel. A vállalat austini laboratóriumaiban - ahol kimerítően tesztelik az MI-chipeket - a vezetők elmondták, hogy a következtetési teljesítmény az egyik fő értékesítési szempont. Az egyik ügyfél a Meta - a Facebook és az Instagram tulajdonosa -, elmondta, hogy az új, Llama 3.1 405B nevű MI-modellt Nvidia chipeket használva képezték ki, de a felhasználóknak adott válaszokhoz AMD MI300s chipeket használnak. Az Amazon, a Google, a Microsoft és a Meta is saját MI-chipeket tervez használni bizonyos számítási feladatok felgyorsítására és alacsonyabb költségek elérésére, miközben továbbra is az Nvidia chipjeivel működő nagy gépfürtöket építenek. A Google ebben a hónapban tervezi, hogy megkezdi a saját fejlesztésű, Trillium nevű, hatodik generációs chipeken alapuló szolgáltatások értékesítését, amely közel ötször gyorsabb, mint elődje.
Az Amazon, amelyet néha lemaradónak tartanak az MI terén, különösen eltökéltnek tűnik a felzárkózásra. A vállalat idén 75 milliárd dollárt különített el mesterséges intelligencia chipekre és egyéb számítástechnikai hardverekre. A vállalat austini irodáiban - amelyeket a 2015-ben felvásárolt Annapurna Labs nevű startup működtet - mérnökök korábban hálózati chipeket és általános célú mikroprocesszorokat fejlesztettek az Amazon Web Services számára. Korai MI-chipjei, köztük a Trainium első változata, nem nyertek nagy piaci teret. De az Amazon sokkal optimistább az új Trainium 2 chipekkel kapcsolatban, amelyek négyszer gyorsabbak, mint a korábbi chipek. A vállalat bejelentette egy másik chip, a Trainium 3 terveit is, amely még nagyobb teljesítményűnek ígérkezik.
Eiso Kant, a San Franciscóban működő Poolside nevű MI startup alapítója és technológiai vezetője úgy becsüli, hogy a Trainium 2 40 százalékos javulást biztosít majd az Nvidia-alapú hardverekhez képest az egy dollárra jutó számítási teljesítményben. Az Amazon azt is tervezi, hogy Trainium-alapú szolgáltatásokat kínál a világ adatközpontjaiban, tette hozzá Kant, ami a következtetési feladatokban segít. "A valóság az, hogy az üzleti modellem számára érdektelen milyen szilícium van alatta” - mondta. "Engem az érdekel, hogy a legjobb ár-teljesítmény arányt kapjam, és hogy azt el tudjam juttatni a végfelhasználóhoz.”
Az MI chipek gyorsan fejlődő piaca jelenleg talán a legforróbb és legkeresettebb technológia. Az iparágat régóta az Nvidia uralja, amely ezen lapkák által vált 3 billió dolláros óriáscéggé. Évekig mások is megpróbálták felvenni a versenyt a vállalat chipjeivel, amelyek óriási számítási teljesítményt nyújtanak az MI feladatokhoz, de nem sok előrelépést értek el. De most az Advanced Micro Devices, azaz az AMD és az Amazon által létrehozott chipek - valamint a technológiájukra adott vásárlói reakciók - fontos jelei annak, amelyek szerint végre hiteles alternatívák jelennek meg az Nvidia mellett. Néhány kulcsfontosságú MI-feladat esetében az Nvidia riválisai bizonyítják, hogy sokkal magasabb sebességet tudnak biztosítani, ráadásul sokkal alacsonyabb áron - mondta Daniel Newman, a Futurum Group elemzője. „Ez az, amiről mindenki tudta, hogy lehetséges, és most kezdjük látni, hogy megvalósul” - mondta.
Az elmozdulás hátterében számos technológiai vállalat áll - a nagy versenytársaktól, mint az Amazon és az AMD, egészen a kisebb startup cégekig -, amelyek elkezdték chipjeiket az MI fejlődés egy bizonyos, egyre fontosabbá váló szakaszára szabni. Ez a „következtetésnek” nevezett folyamat azután történik, hogy a vállalatok más chipekkel már betanították az MI-modelleket. Ez lehetővé teszi számukra, hogy olyan feladatokat hajtsanak végre, mint például a válaszok kiszolgálása a chatbotokkal. "Az igazi kereskedelmi érték a következtetésből származik, és a következtetés kezdi átvenni a főszerepet” - mondta Cristiano Amon, a Qualcomm vezérigazgatója. A mobilchip-gyártó az Amazon új chipjeit tervezi használni az MI feladatokhoz. „Kezdjük látni a változás kezdetét.”
Az Nvidia riválisai más módon is elkezdtek példát venni a vállalatról. Elkezdték utánozni az Nvidia taktikáját, miszerint komplett számítógépeket építenek - és nem csak a chipeket -, hogy a vásárlók a lehető legnagyobb teljesítményt és teljesítményt tudják kicsikarni a lapkákból az MI céljaira. A megnövekedett verseny akkor vált nyilvánvalóvá, amikor az Amazon bejelentette az új Trainium 2 MI-chipeken alapuló számítástechnikai szolgáltatások elérhetőségét és a potenciális felhasználók - köztük az Apple - beszámolóit. A vállalat olyan számítógépeket is bemutatott, amelyek 16 vagy 64 ilyen chipet tartalmaznak, és amelyek ultragyors hálózati kapcsolatokkal rendelkeznek, amelyek különösen felgyorsítják a következtetési teljesítményt.
Az Amazon még egyfajta óriási MI-gyárat is épít az Anthropic nevű startupnak, amelybe befektetett - mondta Matt Garman, az Amazon Web Services vezérigazgatója. Ez a számítástechnikai „fürt” több százezer új Trainium chipet tartalmaz majd, és ötször nagyobb teljesítményű lesz, mint bármelyik, az Anthropic által valaha is használt - mondta Tom Brown, a Claude chatbotot üzemeltető, San Franciscóban működő startup egyik alapítója és számítási vezetője. "Ez azt jelenti, hogy az ügyfelek több intelligenciát kapnak alacsonyabb áron és nagyobb sebességgel” - mondta Brown. Az Omdia piackutató cég szerint idén várhatóan 49 százalékkal, 126 milliárd dollárra nőnek az adatközpontok üzemeltetőinek Nvidia chip nélküli számítógépekre fordított kiadásai, amelyek az MI-feladatokhoz szükséges számítási teljesítményt biztosítják.
Ennek ellenére a megnövekedett verseny nem jelenti azt, hogy az Nvidia elveszítené vezető pozícióját. A vállalat szóvivője rámutatott Jensen Huang, az Nvidia vezérigazgatójának megjegyzéseire, aki szerint cége jelentős előnyökkel rendelkezik az MI szoftverek és a következtetési képességek terén. Huang hozzátette, hogy a vállalat új Blackwell chipjei iránt óriási a kereslet, amelyek szerinte sokkal több számítást végeznek egy wattnyi felhasznált energiával, annak ellenére, hogy a működésükhöz szükséges energiaigényük megnőtt. "A teljes üzemeltetési költségünk annyira alacsony, hogy még ha a versenytársak ingyen adják a chipjeiket, akkor sem elég olcsók” - mondta Huang egy idei Stanford Egyetemen tartott beszédében.
Az MI-chipek piacának változását részben az olyan jól finanszírozott startupok, mint a SambaNova Systems, a Groq és a Cerebras Systems hajtották előre, amelyek az utóbbi időben nagy sebességelőnyökre tettek szert a következtetések levonása terén, alacsonyabb árak és energiafogyasztás mellett. Az Nvidia jelenlegi chipjei darabonként akár 15 000 dollárba is kerülhetnek, a Blackwell chipjei pedig várhatóan több tízezer dollárba kerülnek majd darabonként. Ez néhány ügyfelet az alternatívák felé terelt. Dan Stanzione, a Texas Advanced Computing Center nevű kutatóközpont ügyvezető igazgatója elmondta, hogy szervezete jövőre tervezi egy Blackwell-alapú szuperszámítógép vásárlását, de valószínűleg a SambaNova chipjeit is használni fogja a következtetési feladatokhoz, mivel azok energiafogyasztása és ára alacsonyabb. "Az a cucc egyszerűen túl drága” - mondta az Nvidia chipjeiről.
Az AMD azt mondta, hogy várhatóan az Nvidia Blackwell chipjeit veszi célba saját, jövőre érkező új MI-chipjeivel. A vállalat austini laboratóriumaiban - ahol kimerítően tesztelik az MI-chipeket - a vezetők elmondták, hogy a következtetési teljesítmény az egyik fő értékesítési szempont. Az egyik ügyfél a Meta - a Facebook és az Instagram tulajdonosa -, elmondta, hogy az új, Llama 3.1 405B nevű MI-modellt Nvidia chipeket használva képezték ki, de a felhasználóknak adott válaszokhoz AMD MI300s chipeket használnak. Az Amazon, a Google, a Microsoft és a Meta is saját MI-chipeket tervez használni bizonyos számítási feladatok felgyorsítására és alacsonyabb költségek elérésére, miközben továbbra is az Nvidia chipjeivel működő nagy gépfürtöket építenek. A Google ebben a hónapban tervezi, hogy megkezdi a saját fejlesztésű, Trillium nevű, hatodik generációs chipeken alapuló szolgáltatások értékesítését, amely közel ötször gyorsabb, mint elődje.
Az Amazon, amelyet néha lemaradónak tartanak az MI terén, különösen eltökéltnek tűnik a felzárkózásra. A vállalat idén 75 milliárd dollárt különített el mesterséges intelligencia chipekre és egyéb számítástechnikai hardverekre. A vállalat austini irodáiban - amelyeket a 2015-ben felvásárolt Annapurna Labs nevű startup működtet - mérnökök korábban hálózati chipeket és általános célú mikroprocesszorokat fejlesztettek az Amazon Web Services számára. Korai MI-chipjei, köztük a Trainium első változata, nem nyertek nagy piaci teret. De az Amazon sokkal optimistább az új Trainium 2 chipekkel kapcsolatban, amelyek négyszer gyorsabbak, mint a korábbi chipek. A vállalat bejelentette egy másik chip, a Trainium 3 terveit is, amely még nagyobb teljesítményűnek ígérkezik.
Eiso Kant, a San Franciscóban működő Poolside nevű MI startup alapítója és technológiai vezetője úgy becsüli, hogy a Trainium 2 40 százalékos javulást biztosít majd az Nvidia-alapú hardverekhez képest az egy dollárra jutó számítási teljesítményben. Az Amazon azt is tervezi, hogy Trainium-alapú szolgáltatásokat kínál a világ adatközpontjaiban, tette hozzá Kant, ami a következtetési feladatokban segít. "A valóság az, hogy az üzleti modellem számára érdektelen milyen szilícium van alatta” - mondta. "Engem az érdekel, hogy a legjobb ár-teljesítmény arányt kapjam, és hogy azt el tudjam juttatni a végfelhasználóhoz.”