SG.hu
Mi az a HBM memória, és miért nem akarja az USA, hogy hozzáférjen Kína?
A hét elején az amerikai kormány új exportellenőrzést vezetett be a mesterséges intelligencia alkalmazásokban használt csúcstechnológiás memóriachipek Kínába történő értékesítésére. A szabályok az Egyesült Államokban gyártott nagy sávszélességű memória (HBM) technológiára és a külföldön gyártottakra egyaránt vonatkoznak.
A HBM a High bandwidth memory, azaz a nagy sávszélességű memória rövidítése, ezek jóval gyorsabban képesek továbbítani az adatokat, mint a régebbi technológia, az úgynevezett DRAM (dinamikus véletlen hozzáférésű memória). A HBM chipeket általában grafikus kártyákban, nagy teljesítményű számítástechnikai rendszerekben, adatközpontokban és autonóm járművekben használják. De a legfontosabb, hogy nélkülözhetetlenek az egyre népszerűbb MI-alkalmazások futtatásához, beleértve a generatív MI-t, amelyeket például az Nvidia és az AMD által gyártott grafikus feldolgozóegységek (GPU) hajtanak. "A processzor és a memória az MI két alapvető összetevője. Memória nélkül olyan, mintha lenne egy logikával rendelkező agyunk, de memória nélkül” - mondta Dan Hutcheson, a chipekre szakosodott TechInsights nevű kutatószervezet alelnöke.
A december 2-án bejelentett exportkorlátozások a Biden-kormányzat által három év alatt bejelentett, a fejlett chipekre vonatkozó két korábbi korlátozási kört követik, azzal a céllal, hogy megakadályozzák Kína hozzáférését egy olyan kritikus technológiához, amely katonai előnyhöz juttathatja. Megtorlásként Peking azzal vágott vissza, hogy újabb korlátozásokat vezetett be a germánium és a gallium, valamint a félvezetők és más csúcstechnológiai berendezések gyártásához nélkülözhetetlen egyéb anyagok kivitelére. Szakértők szerint a legújabb exportkorlátozások lassítani fogják a kínai mesterséges intelligencia-chipek fejlesztését. De ez idővel elhalványulhat, mert bár Kína HBM-gyártási képességei jelenleg elmaradnak a dél-koreai SK Hynix és Samsung, valamint az amerikai Micron mögött, az ország sokat fektet saját képességek kifejlesztésére.
„Az amerikai exportkorlátozások rövid távon elvágták Kína hozzáférését a jó minőségű HBM-hez” - mondta Jeffery Chiu, az Ansforce tanácsadó cég vezérigazgatója. "Hosszú távon azonban Kína képes lesz önállóan előállítani ezeket, bár kevésbé fejlett technológiákkal”. Kínában a Yangtze Memory Technologies és a Changxin Memory Technologies a vezető memóriachip-gyártók. Állítólag növelik a kapacitást a HBM gyártósorok terén, hogy teljesítsék a technológiai önellátás stratégiai célját.
A HBM chipek elsősorban azért olyan erősek, mert a hagyományos memóriachipekhez képest nagyobb a tárhelyük és sokkal gyorsabb az adattovábbítás sebessége. Mivel az MI-alkalmazások sok összetett számítást igényelnek, az ilyen tulajdonságok biztosítják, hogy ezek az alkalmazások zökkenőmentesen, késedelmek és hibák nélkül fussanak. A nagyobb tárhely azért kell, mert lehetővé teszi, hogy a nagyméretű nyelvi modellek (LLM) több paramétert tudjanak használni. "Olyan ez, mint egy kétsávot autóút pálya és egy százsávos autópálya közötti különbség. Egyszerűen nincs dugó” - mondta Hutcheson.
Jelenleg mindössze három vállalat uralja a HBM-chipek globális piacát. A tajpeji székhelyű TrendForce piackutató ügynökség által közzétett kutatási jelentés szerint 2022-től a Hynix teszi ki a lapkák teljes piaci részesedésének 50%-át, majd a Samsung 40%-ot és a Micron 10%-ot birtokol. A két dél-koreai cég 2023-ban és 2024-ben várhatóan hasonló részesedést szerez a HBM-piacon, együttesen mintegy 95%-ot uralva. Ami a Micront illeti, a vállalat célja, hogy 2025-re 20-25% közé növelje HBM-piaci részesedését - jelentette a tajvani hivatalos Central News Agency Praveen Vaidyanathára, a Micron egyik vezető munkatársára hivatkozva. A HBM magas nyeresége miatt minden gyártó a gyártókapacitás jelentős részét ezen fejlettebb memóriachipnek szenteli. Avril Wu, a TrendForce vezető kutatási alelnöke szerint a HBM várhatóan 2024-től kezdve a szabványos memóriachipek teljes piacának több mint 20%-át teszi majd ki értékben, jövőre pedig meghaladhatja a 30%-ot.
A HBM-nél lényegében több szabványos memóriachipet rétegesen egymásra helyeznek, mint például a zserbónál a tésztalapokat. Ez elég egyszerűen hangzik, de nem könnyű feladat, és ez az árban is megmutatkozik. A HBM egységnyi eladási ára többszöröse a hagyományos memóriachipek árának. Ennek oka, hogy a HBM magassága nagyjából hat hajszálnyi, ami azt jelenti, hogy az egymásra helyezett hagyományos memóriachipek minden egyes rétegének is rendkívül vékonynak kell lennie, amihez a fejlett csomagolásnak nevezett csúcstechnológiás gyártási szakértelemre van szükség. "Minden egyes memóriachipet olyan vékonyra kell csiszolni, mint egy fél hajszál magassága, mielőtt egymásra rakjuk őket, ami nagyon nehéz feladat” - mondta Chiu. Ezenfelül, mielőtt egymásra szerelnék ezeket a memóriachipeket, lyukakat kell fúrni az elektromos vezetékek áthaladásához, és ezen lyukak helyének és méretének rendkívül pontosnak kell lennie. "Sokkal több hibalehetőség van, amikor megpróbáljuk elkészíteni ezeket az eszközöket. Majdnem olyan, mintha kártyavárat építenénk” - mondta Hutcheson.
A HBM a High bandwidth memory, azaz a nagy sávszélességű memória rövidítése, ezek jóval gyorsabban képesek továbbítani az adatokat, mint a régebbi technológia, az úgynevezett DRAM (dinamikus véletlen hozzáférésű memória). A HBM chipeket általában grafikus kártyákban, nagy teljesítményű számítástechnikai rendszerekben, adatközpontokban és autonóm járművekben használják. De a legfontosabb, hogy nélkülözhetetlenek az egyre népszerűbb MI-alkalmazások futtatásához, beleértve a generatív MI-t, amelyeket például az Nvidia és az AMD által gyártott grafikus feldolgozóegységek (GPU) hajtanak. "A processzor és a memória az MI két alapvető összetevője. Memória nélkül olyan, mintha lenne egy logikával rendelkező agyunk, de memória nélkül” - mondta Dan Hutcheson, a chipekre szakosodott TechInsights nevű kutatószervezet alelnöke.
A december 2-án bejelentett exportkorlátozások a Biden-kormányzat által három év alatt bejelentett, a fejlett chipekre vonatkozó két korábbi korlátozási kört követik, azzal a céllal, hogy megakadályozzák Kína hozzáférését egy olyan kritikus technológiához, amely katonai előnyhöz juttathatja. Megtorlásként Peking azzal vágott vissza, hogy újabb korlátozásokat vezetett be a germánium és a gallium, valamint a félvezetők és más csúcstechnológiai berendezések gyártásához nélkülözhetetlen egyéb anyagok kivitelére. Szakértők szerint a legújabb exportkorlátozások lassítani fogják a kínai mesterséges intelligencia-chipek fejlesztését. De ez idővel elhalványulhat, mert bár Kína HBM-gyártási képességei jelenleg elmaradnak a dél-koreai SK Hynix és Samsung, valamint az amerikai Micron mögött, az ország sokat fektet saját képességek kifejlesztésére.
„Az amerikai exportkorlátozások rövid távon elvágták Kína hozzáférését a jó minőségű HBM-hez” - mondta Jeffery Chiu, az Ansforce tanácsadó cég vezérigazgatója. "Hosszú távon azonban Kína képes lesz önállóan előállítani ezeket, bár kevésbé fejlett technológiákkal”. Kínában a Yangtze Memory Technologies és a Changxin Memory Technologies a vezető memóriachip-gyártók. Állítólag növelik a kapacitást a HBM gyártósorok terén, hogy teljesítsék a technológiai önellátás stratégiai célját.
A HBM chipek elsősorban azért olyan erősek, mert a hagyományos memóriachipekhez képest nagyobb a tárhelyük és sokkal gyorsabb az adattovábbítás sebessége. Mivel az MI-alkalmazások sok összetett számítást igényelnek, az ilyen tulajdonságok biztosítják, hogy ezek az alkalmazások zökkenőmentesen, késedelmek és hibák nélkül fussanak. A nagyobb tárhely azért kell, mert lehetővé teszi, hogy a nagyméretű nyelvi modellek (LLM) több paramétert tudjanak használni. "Olyan ez, mint egy kétsávot autóút pálya és egy százsávos autópálya közötti különbség. Egyszerűen nincs dugó” - mondta Hutcheson.
Jelenleg mindössze három vállalat uralja a HBM-chipek globális piacát. A tajpeji székhelyű TrendForce piackutató ügynökség által közzétett kutatási jelentés szerint 2022-től a Hynix teszi ki a lapkák teljes piaci részesedésének 50%-át, majd a Samsung 40%-ot és a Micron 10%-ot birtokol. A két dél-koreai cég 2023-ban és 2024-ben várhatóan hasonló részesedést szerez a HBM-piacon, együttesen mintegy 95%-ot uralva. Ami a Micront illeti, a vállalat célja, hogy 2025-re 20-25% közé növelje HBM-piaci részesedését - jelentette a tajvani hivatalos Central News Agency Praveen Vaidyanathára, a Micron egyik vezető munkatársára hivatkozva. A HBM magas nyeresége miatt minden gyártó a gyártókapacitás jelentős részét ezen fejlettebb memóriachipnek szenteli. Avril Wu, a TrendForce vezető kutatási alelnöke szerint a HBM várhatóan 2024-től kezdve a szabványos memóriachipek teljes piacának több mint 20%-át teszi majd ki értékben, jövőre pedig meghaladhatja a 30%-ot.
A HBM-nél lényegében több szabványos memóriachipet rétegesen egymásra helyeznek, mint például a zserbónál a tésztalapokat. Ez elég egyszerűen hangzik, de nem könnyű feladat, és ez az árban is megmutatkozik. A HBM egységnyi eladási ára többszöröse a hagyományos memóriachipek árának. Ennek oka, hogy a HBM magassága nagyjából hat hajszálnyi, ami azt jelenti, hogy az egymásra helyezett hagyományos memóriachipek minden egyes rétegének is rendkívül vékonynak kell lennie, amihez a fejlett csomagolásnak nevezett csúcstechnológiás gyártási szakértelemre van szükség. "Minden egyes memóriachipet olyan vékonyra kell csiszolni, mint egy fél hajszál magassága, mielőtt egymásra rakjuk őket, ami nagyon nehéz feladat” - mondta Chiu. Ezenfelül, mielőtt egymásra szerelnék ezeket a memóriachipeket, lyukakat kell fúrni az elektromos vezetékek áthaladásához, és ezen lyukak helyének és méretének rendkívül pontosnak kell lennie. "Sokkal több hibalehetőség van, amikor megpróbáljuk elkészíteni ezeket az eszközöket. Majdnem olyan, mintha kártyavárat építenénk” - mondta Hutcheson.