SG.hu
1 kilowattos GPU-t tervez az Nvidia
Az Nvidia 700 wattos H100-asa után már nem meglepő, hogy az idén érkező B100-as 1000 Wattos lesz.
Jeff Clarke, a Dell ügyvezető igazgatója szerint az Nvidia legújabb MI-gyorsítója 1000 wattot fogyaszt majd - 42 százalékkal többet, mint elődje. "Izgatottak vagyunk amiatt, ami a H200-assal és annak teljesítményjavulásával történik" - mondta Clarke a befektetőknek a Dell eredménybeszámolóján, majd hozzátette, hogy ugyanezt érzi az Nvidia hamarosan megjelenő B100-as gyorsítójával és egy másik, általa B200-nak nevezett gyorsítóval kapcsolatban is. Úgy vélte, hogy a közvetlen folyadékhűtésre nem lesz szükség az 1000 wattot fogyasztó GPU-k kezeléséhez - ez a szint szerinte "a B200 esetében jövőre következik be".
Nem teljesen világos, hogy Clarke milyen kártyára utalt a "B200" kifejezéssel, mivel az Nvidia tavaly ősszel a befektetőkkel megosztott útitervében nem szerepel ilyen nevű chip. Clarke valószínűleg a GB200 szuperchipre utalt, amely a GH200-hoz hasonlóan az Nvidia Grace CPU-ját és B100 GPU-ját fogja kombinálni. Abból kiindulva, amit a GH200-ban található Grace CPU-ról tudunk, és feltételezve, hogy az energiafogyasztásban nem történtek jelentős változások, a GB200 termikus tervezési teljesítménye (TDP) valahol 1300 watt környékén lehet - ami 30 százalékkal magasabb, mint elődjénél. Az is lehetséges, hogy az Nvidia egy másik kártyát is tartogat a tarsolyában, amiről még nem tudunk. A GPU-óriás következő generációs Blackwell architektúrájának részletei egyelőre szűkszavúak.
Clarke azt sugallta, hogy a hamarosan megjelenő chip lehetőséget biztosít majd arra, hogy a Dell a folyadékhűtés más formáiban szerzett szakértelmét bemutassa. Úgy vélte, "a folyadékok kémiájával és teljesítményével kapcsolatos dolgok, az összekötettésekkel kapcsolatos munka, a telemetria és az energiagazdálkodás" még a nagyon forró chipek esetében is alternatívái lehetnek a közvetlen folyadékhűtésnek. Az Nvidia nem kívánt nyilatkozni - ahogy az várható volt, hiszen az éves GTC-konferenciáig már csak néhány hét van hátra.
A B100 várhatóan csak 2024 végén jelenik meg, azután, hogy magasabb sávszélességű H200 GPU-k az év első felében debütálnak. A 2023 végén bejelentett H200 a H100 frissítése, és akár 141 GB HBM3e memóriával rendelkezik, amely 4,8 TB/mp sávszélességre képes. Az Nvidia állítása szerint az eszköz megduplázza a nagy nyelvi modellek, köztük a Llama 70B teljesítményét. De elemzők szerint még az idén piacra kerülő két új gyorsítóval együtt is az Nvidia GPU-k kínálata továbbra is szűkös lesz. Ez annak ellenére van így, hogy a jelentések szerint az Nvidia 2024-re több mint háromszorosára növelheti a GPU-k szállítását. A társaság útiterve gyorsabb, nagyobb teljesítményű InfiniBand és Ethernet hálózati kártyákat is tartalmaz, amelyek portonként 800 Gb/mp sávszélességre képesek.
Jeff Clarke, a Dell ügyvezető igazgatója szerint az Nvidia legújabb MI-gyorsítója 1000 wattot fogyaszt majd - 42 százalékkal többet, mint elődje. "Izgatottak vagyunk amiatt, ami a H200-assal és annak teljesítményjavulásával történik" - mondta Clarke a befektetőknek a Dell eredménybeszámolóján, majd hozzátette, hogy ugyanezt érzi az Nvidia hamarosan megjelenő B100-as gyorsítójával és egy másik, általa B200-nak nevezett gyorsítóval kapcsolatban is. Úgy vélte, hogy a közvetlen folyadékhűtésre nem lesz szükség az 1000 wattot fogyasztó GPU-k kezeléséhez - ez a szint szerinte "a B200 esetében jövőre következik be".
Nem teljesen világos, hogy Clarke milyen kártyára utalt a "B200" kifejezéssel, mivel az Nvidia tavaly ősszel a befektetőkkel megosztott útitervében nem szerepel ilyen nevű chip. Clarke valószínűleg a GB200 szuperchipre utalt, amely a GH200-hoz hasonlóan az Nvidia Grace CPU-ját és B100 GPU-ját fogja kombinálni. Abból kiindulva, amit a GH200-ban található Grace CPU-ról tudunk, és feltételezve, hogy az energiafogyasztásban nem történtek jelentős változások, a GB200 termikus tervezési teljesítménye (TDP) valahol 1300 watt környékén lehet - ami 30 százalékkal magasabb, mint elődjénél. Az is lehetséges, hogy az Nvidia egy másik kártyát is tartogat a tarsolyában, amiről még nem tudunk. A GPU-óriás következő generációs Blackwell architektúrájának részletei egyelőre szűkszavúak.
Clarke azt sugallta, hogy a hamarosan megjelenő chip lehetőséget biztosít majd arra, hogy a Dell a folyadékhűtés más formáiban szerzett szakértelmét bemutassa. Úgy vélte, "a folyadékok kémiájával és teljesítményével kapcsolatos dolgok, az összekötettésekkel kapcsolatos munka, a telemetria és az energiagazdálkodás" még a nagyon forró chipek esetében is alternatívái lehetnek a közvetlen folyadékhűtésnek. Az Nvidia nem kívánt nyilatkozni - ahogy az várható volt, hiszen az éves GTC-konferenciáig már csak néhány hét van hátra.
A B100 várhatóan csak 2024 végén jelenik meg, azután, hogy magasabb sávszélességű H200 GPU-k az év első felében debütálnak. A 2023 végén bejelentett H200 a H100 frissítése, és akár 141 GB HBM3e memóriával rendelkezik, amely 4,8 TB/mp sávszélességre képes. Az Nvidia állítása szerint az eszköz megduplázza a nagy nyelvi modellek, köztük a Llama 70B teljesítményét. De elemzők szerint még az idén piacra kerülő két új gyorsítóval együtt is az Nvidia GPU-k kínálata továbbra is szűkös lesz. Ez annak ellenére van így, hogy a jelentések szerint az Nvidia 2024-re több mint háromszorosára növelheti a GPU-k szállítását. A társaság útiterve gyorsabb, nagyobb teljesítményű InfiniBand és Ethernet hálózati kártyákat is tartalmaz, amelyek portonként 800 Gb/mp sávszélességre képesek.