SG.hu
Saját MI-chipeket készítenek az Nvidia riválisai
A generatív MI tavalyi fellendülése rávilágított arra, hogy a nagy technológiai vállalatok mennyire függővé váltak az Nvidia-tól. Nem tudnak chatbotokat és más MI-rendszereket építeni olyan speciális chipek nélkül, amelyet az Nvidia az elmúlt évek során tökélyre fejlesztett. Dollármilliárdokat költenekaz Nvidia rendszereire, és a chipgyártó nem tud lépést tartani a kereslettel. Így az Amazon és az iparág más óriásai - köztük a Google, a Meta és a Microsoft - saját MI-chipeket építenek. Ezekkel a chipekkel a techóriások saját kezükbe vehetik sorsukat, visszaszoríthatják a költségeket, megszüntethetik a chiphiányt, és végül eladhatnák a chipjeikhez való hozzáférést a felhőszolgáltatásukat igénybe vevő vállalkozásoknak.
Míg az Nvidia tavaly 2,5 millió chipet adott el, addig a Google 3 milliárd dollárt költött arra, hogy egymillió saját MI-chipet építse. Az Amazon tavaly 200 millió dollárt költött 100 ezer chipre, és a Microsoft is megkezdte első MI-chipjének tesztelését. Ez a munka azonban egyensúlyozás az Nvidiával való versengés terén, miközben szorosan együttműködnek a chipgyártóval és annak egyre nagyobb hatalommal bíró vezérigazgatójával, Jensen Huanggal. Huang cége az MI-chipek értékesítésének több mint 70 százalékát adja. Az Nvidia eladásai 206 százalékkal nőttek az elmúlt évben, és a vállalat piaci értéke mintegy egybillió dollárra nőtt.
De ami az Nvidia számára bevétel, az a technológiai óriásoknak költség. A Microsoft és a Meta megrendelései az elmúlt két teljes negyedévben az Nvidia eladásainak mintegy negyedét tették ki. Az Nvidia körülbelül 15 000 dollárért adja el a chipjeit, míg a Google átlagosan csak 2000-3000 dollárt költ egy-egy chipre. A vállalatok folyamatosan udvarolnak Huangnak és azon versengenek, hogy a sor elejére kerüljenek a chipjeiért. Rendszeresen megjelenik a rendezvények színpadán a vállalatvezetőkkel együtt, mely cégek gyorsan kijelentik, hogy továbbra is elkötelezettek az Nvidia-val való partnerségük mellett. Mindannyian azt tervezik, hogy továbbra is igénybe fogják venni a chipjeit a sajátjaik mellett.
Miközben a nagy technológiai cégek az Nvidia üzletágába törnek be, addig az Nvidia az ő üzletágukba költözik be. Tavaly az Nvidia elindította saját felhőszolgáltatását, ahol a vállalatok használhatják a chipjeit, és a chipeket a felhőszolgáltatók új hullámába - például a CoreWeave-be - áramoltatja, amelyek a nagy hármassal (Amazon, Google és Microsoft) versenyeznek. A feszültségek itt ezerszer nagyobbak, mint az ügyfelek és a beszállítók között az szokásos.
A Gartner piackutató cég szerint az MI-chipek piaca 2027-re több mint kétszeresére, nagyjából 140 milliárd dollárra nő. Az olyan nagy múltú chipgyártók, mint az AMD és az Intel, ugyanúgy speciális MI-chipeket építenek, mint az olyan startupok, mint a Cerebras és a SambaNova. Az Amazon és más technológiai óriások azonban olyan dolgokra képesek, amire a kisebb versenytársak nem. "Elméletileg, ha elég nagy mennyiséget tudnak elérni, és le tudják csökkenteni a költségeiket, akkor ezek a vállalatok képesek lehetnek olyasmit nyújtani, ami még az Nvidiánál is csábítóbb" - mondta Naveen Rao, aki az egyik első MI chipes start-up céget alapította, majd később eladta az Intelnek.
Az Nvidia úgynevezett grafikus feldolgozó egységeket (GPU-kat) épít, amelyeket eredetileg a videojátékok grafikájának megjelenítésére terveztek. Egy évtizeddel ezelőtt azonban akadémiai kutatók rájöttek, hogy ezek a chipek nagyon jók a neurális hálózatok rendszerének létrehozásában is, amelyek ma a generatív MI-t vezérlik. Ahogy ez a technológia elterjedt, Huang gyorsan elkezdte módosítani az Nvidia chipjeit és a kapcsolódó szoftvereket az MI előnyére, és ezek váltak a de facto standarddá. Az MI-technológiák betanítására használt szoftverrendszerek többségét az Nvidia chipjeihez igazították. "Az Nvidia nagyszerű chipekkel rendelkezik, és ami még fontosabb, hihetetlen ökoszisztémával" - mondta Dave Brown, aki az Amazon chipekkel kapcsolatos erőfeszítéseit irányítja. Szerinte ez "nagyon-nagy kihívássá" teszi, hogy az ügyfeleket rávegyék egy újfajta MI chip használatára.
A szoftverkód átírása egy új chip használatához olyan nehéz és időigényes, hogy sok vállalat meg sem próbálja. - mondta Mike Schroepfer, a Meta tanácsadója és korábbi technológiai igazgatója. "A technológiai fejlesztésekkel az a probléma, hogy nagy részük már azelőtt meghal, hogy egyáltalán elkezdődne" - mondta, és a Microsoftnak és társainak zökkenőmentessé kell tenniük az ügyfelek számára a különböző vállalatok chipjei közötti váltást. Néhány technológiai óriás sikerrel járt a saját chipek gyártásával. Az Apple tervezi az iPhone-ok és Macek szilíciumát, az Amazon pedig több mint kétmillió saját hagyományos szerverchipet telepített felhőalapú adatközpontjaiba. Az ilyen eredményekhez azonban évekig tartó hardver- és szoftverfejlesztés szükséges.
A Google rendelkezik a legnagyobb előnnyel az MI-chipek fejlesztése terén. 2017-ben mutatta be a tensorfeldolgozó egységét (TPU), amely a mesterséges intelligencia felépítéséhez elengedhetetlen számítási módról kapta a nevét. A Google több tízezer TPU-t használt fel mesterséges intelligencia termékek, köztük az online chatbot, a Google Bard építéséhez. Más vállalatok is használták a chipet a Google felhőszolgáltatásán keresztül hasonló technológiák létrehozására, köztük a nagy hírnévnek örvendő Cohere start-up cég.
Az Amazon már MI rendszerek építésére szolgáló chipje, a Trainium második generációjánál tart, és egy második chipet is készített, amely kizárólag az MI modellek ügyfeleknek való kiszolgálására szolgál. Májusban a Meta bejelentette, hogy egy, a saját igényeire szabott MI chipen dolgozik, bár ez még nincs használatban. Novemberben a Microsoft bejelentette első MI chipjét, a Maia-t, amely kezdetben a Microsoft saját MI termékeinek futtatására fog összpontosítani.
Az Nvidia riválisai a magasan jegyzett MI startupokba történő befektetéseiket arra használták, hogy a chipjeik használatát ösztönözzék. A Microsoft 13 milliárd dollár értékben nyújt szolgáltatásokat az OpenAI-nak, a ChatGPT chatbot készítőjének, és a Maia chip az OpenAI technológiáit fogja kiszolgálni a Microsoft ügyfelei számára. Az Amazonhoz hasonlóan a Google is milliárdokat fektetett be az Anthropicba, és szintén a Google MI-chipjeit használja. Az Anthropic - amely az Nvidia és a Google chipjeit is használja - azon maroknyi vállalat közé tartozik, amelyek azon dolgoznak, hogy annál több speciális chip felhasználásával építsenek MI-t, amennyit csak bírnak. Az Amazon szerint ha az Anthropichoz hasonló cégek egyre nagyobb mértékben használnák cégük chipjeit, sőt, még a jövőbeli chipek tervezésében is segítenének, akkor ezzel csökkenthetnék a költségeket és javíthatnák e processzorok teljesítményét.
De ezek közül a cégek közül egyik sem fogja egyhamar megelőzni az Nvidia-t. A chipjei ugyan drágák, de a leggyorsabbak közé tartoznak a piacon. És a vállalat tovább fogja javítani a sebességüket. A Databricks például néhány kísérleti MI-rendszert az Amazon chipjeivel képzett ki, de a legnagyobb és legfontosabb rendszereit az Nvidia chipjeivel építette, mert azok nagyobb teljesítményt nyújtanak és a szoftverek szélesebb skálájával működnek együtt. "Sok évnyi kemény innováció áll előttünk" - mondta az Amazon részéről Brown. "Az Nvidia nem fog egy helyben állni."
Míg az Nvidia tavaly 2,5 millió chipet adott el, addig a Google 3 milliárd dollárt költött arra, hogy egymillió saját MI-chipet építse. Az Amazon tavaly 200 millió dollárt költött 100 ezer chipre, és a Microsoft is megkezdte első MI-chipjének tesztelését. Ez a munka azonban egyensúlyozás az Nvidiával való versengés terén, miközben szorosan együttműködnek a chipgyártóval és annak egyre nagyobb hatalommal bíró vezérigazgatójával, Jensen Huanggal. Huang cége az MI-chipek értékesítésének több mint 70 százalékát adja. Az Nvidia eladásai 206 százalékkal nőttek az elmúlt évben, és a vállalat piaci értéke mintegy egybillió dollárra nőtt.
De ami az Nvidia számára bevétel, az a technológiai óriásoknak költség. A Microsoft és a Meta megrendelései az elmúlt két teljes negyedévben az Nvidia eladásainak mintegy negyedét tették ki. Az Nvidia körülbelül 15 000 dollárért adja el a chipjeit, míg a Google átlagosan csak 2000-3000 dollárt költ egy-egy chipre. A vállalatok folyamatosan udvarolnak Huangnak és azon versengenek, hogy a sor elejére kerüljenek a chipjeiért. Rendszeresen megjelenik a rendezvények színpadán a vállalatvezetőkkel együtt, mely cégek gyorsan kijelentik, hogy továbbra is elkötelezettek az Nvidia-val való partnerségük mellett. Mindannyian azt tervezik, hogy továbbra is igénybe fogják venni a chipjeit a sajátjaik mellett.
Miközben a nagy technológiai cégek az Nvidia üzletágába törnek be, addig az Nvidia az ő üzletágukba költözik be. Tavaly az Nvidia elindította saját felhőszolgáltatását, ahol a vállalatok használhatják a chipjeit, és a chipeket a felhőszolgáltatók új hullámába - például a CoreWeave-be - áramoltatja, amelyek a nagy hármassal (Amazon, Google és Microsoft) versenyeznek. A feszültségek itt ezerszer nagyobbak, mint az ügyfelek és a beszállítók között az szokásos.
A Gartner piackutató cég szerint az MI-chipek piaca 2027-re több mint kétszeresére, nagyjából 140 milliárd dollárra nő. Az olyan nagy múltú chipgyártók, mint az AMD és az Intel, ugyanúgy speciális MI-chipeket építenek, mint az olyan startupok, mint a Cerebras és a SambaNova. Az Amazon és más technológiai óriások azonban olyan dolgokra képesek, amire a kisebb versenytársak nem. "Elméletileg, ha elég nagy mennyiséget tudnak elérni, és le tudják csökkenteni a költségeiket, akkor ezek a vállalatok képesek lehetnek olyasmit nyújtani, ami még az Nvidiánál is csábítóbb" - mondta Naveen Rao, aki az egyik első MI chipes start-up céget alapította, majd később eladta az Intelnek.
Az Nvidia úgynevezett grafikus feldolgozó egységeket (GPU-kat) épít, amelyeket eredetileg a videojátékok grafikájának megjelenítésére terveztek. Egy évtizeddel ezelőtt azonban akadémiai kutatók rájöttek, hogy ezek a chipek nagyon jók a neurális hálózatok rendszerének létrehozásában is, amelyek ma a generatív MI-t vezérlik. Ahogy ez a technológia elterjedt, Huang gyorsan elkezdte módosítani az Nvidia chipjeit és a kapcsolódó szoftvereket az MI előnyére, és ezek váltak a de facto standarddá. Az MI-technológiák betanítására használt szoftverrendszerek többségét az Nvidia chipjeihez igazították. "Az Nvidia nagyszerű chipekkel rendelkezik, és ami még fontosabb, hihetetlen ökoszisztémával" - mondta Dave Brown, aki az Amazon chipekkel kapcsolatos erőfeszítéseit irányítja. Szerinte ez "nagyon-nagy kihívássá" teszi, hogy az ügyfeleket rávegyék egy újfajta MI chip használatára.
A szoftverkód átírása egy új chip használatához olyan nehéz és időigényes, hogy sok vállalat meg sem próbálja. - mondta Mike Schroepfer, a Meta tanácsadója és korábbi technológiai igazgatója. "A technológiai fejlesztésekkel az a probléma, hogy nagy részük már azelőtt meghal, hogy egyáltalán elkezdődne" - mondta, és a Microsoftnak és társainak zökkenőmentessé kell tenniük az ügyfelek számára a különböző vállalatok chipjei közötti váltást. Néhány technológiai óriás sikerrel járt a saját chipek gyártásával. Az Apple tervezi az iPhone-ok és Macek szilíciumát, az Amazon pedig több mint kétmillió saját hagyományos szerverchipet telepített felhőalapú adatközpontjaiba. Az ilyen eredményekhez azonban évekig tartó hardver- és szoftverfejlesztés szükséges.
A Google rendelkezik a legnagyobb előnnyel az MI-chipek fejlesztése terén. 2017-ben mutatta be a tensorfeldolgozó egységét (TPU), amely a mesterséges intelligencia felépítéséhez elengedhetetlen számítási módról kapta a nevét. A Google több tízezer TPU-t használt fel mesterséges intelligencia termékek, köztük az online chatbot, a Google Bard építéséhez. Más vállalatok is használták a chipet a Google felhőszolgáltatásán keresztül hasonló technológiák létrehozására, köztük a nagy hírnévnek örvendő Cohere start-up cég.
Az Amazon már MI rendszerek építésére szolgáló chipje, a Trainium második generációjánál tart, és egy második chipet is készített, amely kizárólag az MI modellek ügyfeleknek való kiszolgálására szolgál. Májusban a Meta bejelentette, hogy egy, a saját igényeire szabott MI chipen dolgozik, bár ez még nincs használatban. Novemberben a Microsoft bejelentette első MI chipjét, a Maia-t, amely kezdetben a Microsoft saját MI termékeinek futtatására fog összpontosítani.
Az Nvidia riválisai a magasan jegyzett MI startupokba történő befektetéseiket arra használták, hogy a chipjeik használatát ösztönözzék. A Microsoft 13 milliárd dollár értékben nyújt szolgáltatásokat az OpenAI-nak, a ChatGPT chatbot készítőjének, és a Maia chip az OpenAI technológiáit fogja kiszolgálni a Microsoft ügyfelei számára. Az Amazonhoz hasonlóan a Google is milliárdokat fektetett be az Anthropicba, és szintén a Google MI-chipjeit használja. Az Anthropic - amely az Nvidia és a Google chipjeit is használja - azon maroknyi vállalat közé tartozik, amelyek azon dolgoznak, hogy annál több speciális chip felhasználásával építsenek MI-t, amennyit csak bírnak. Az Amazon szerint ha az Anthropichoz hasonló cégek egyre nagyobb mértékben használnák cégük chipjeit, sőt, még a jövőbeli chipek tervezésében is segítenének, akkor ezzel csökkenthetnék a költségeket és javíthatnák e processzorok teljesítményét.
De ezek közül a cégek közül egyik sem fogja egyhamar megelőzni az Nvidia-t. A chipjei ugyan drágák, de a leggyorsabbak közé tartoznak a piacon. És a vállalat tovább fogja javítani a sebességüket. A Databricks például néhány kísérleti MI-rendszert az Amazon chipjeivel képzett ki, de a legnagyobb és legfontosabb rendszereit az Nvidia chipjeivel építette, mert azok nagyobb teljesítményt nyújtanak és a szoftverek szélesebb skálájával működnek együtt. "Sok évnyi kemény innováció áll előttünk" - mondta az Amazon részéről Brown. "Az Nvidia nem fog egy helyben állni."