SG.hu
Az űrversenyre emlékeztet az MI körüli tőkekoncentráció
Milliónyi GPU, gigawattnyi energia - az MI-működtetéséhez szükséges infrastruktúra léptéke ellentmond minden logikának. És nem csak egy hiperaktív milliárdosról van szó, az egész iparág üldözi az MI-unikornist.
Jövőre lép a harmadik évében az MI-boom, és most indul csak igazán a buli: néhány igazán monstre számítási projekt építése kezdődik meg. Az eddig nyilvánosságra hozott legnagyobbak közé tartozik az xAI terve, hogy Colossus szuperszámítógépét a már most is lenyűgöző 100 000 GPU-ról egymillióra bővíti. Még ha sikerülne is a cégnek elegendő GPU-t beszerezni ehhez az új Colossushoz, a működtetéséhez szükséges energia és hűtés - a tőkéről nem is beszélve - óriási. 30-40 000 dolláros darabonkénti árral számolva további 900 000 GPU hozzáadása 27-36 milliárd dollárba kerülne az xAI-nak. Még egy nagyvonalú mennyiségi kedvezménnyel számolva sem lesz olcsó mulatság, függetlenül attól, hogy több év alatt telepítik-e a rendszert. És akkor még nem is számoltuk az épület, a hűtés és az elektromos infrastruktúra költségeit, amelyek a gyorsítók támogatásához szükségesek.
Ha már az energiánál tartunk: attól függően, hogy az xAI milyen generációs gyorsítók telepítését tervezi, csak a GPU-csomópontok nagyjából 1,2-1,5 gigawattnyi energiát igényelnek. Ez a négyből három paksi reaktornak felel meg, és ez csak a számítási teljesítmény. Ha azonban figyelembe vesszük, hogy mit csinál a konkurencia, akkor az új kolosszus mérete már kevésbé tűnik őrültnek. A Meta is egy saját hatalmas adatközpont-kampuszt tervez, a louisianai Richland Parishben épülő létesítmény 4 millió négyzetméteres lesz, és 10 milliárd dollárba kerül. A Meta nem árulta el, hogy hány gyorsítót telepít az üzembe, de Mark Zuckerberg vezérigazgató már elkötelezte magát, hogy csak idén 600 000 GPU-val növeli a számítási kapacitást. Hogy perspektívába helyezzük ezt a számot, ez majdnem annyi, mint ahány H100-as osztályú GPU-t az Nvidia elemzők szerint 2023-ban leszállított.
Csak összehasonlításképpen: nem szokatlan, hogy egy tipikus felhőalapú adatközpont több adatcsarnokot tartalmazó kampuszának névleges kapacitása 50 megawatt körül van. Mivel az energiaszűkösség már most világszerte problémásnak bizonyul az adatközpont-üzemeltetők számára, azt gondolnánk, hogy ez az MI megszállott cégek, felhőszolgáltatók és modellépítők számára is problémát jelent - ehelyett azonban saját erőműveiken dolgoznak. t finanszírozzák. Ami a Meta louisianai kampuszát illeti, az Entergy energiaszolgáltatóval kötött partnerséget három gázturbina építésére, amelyek együttes energiatermelése meghaladja a 2,2 gigawattot.
Ekkora számok mellett hirtelen már nem is hangzik olyan őrültségnek egy atomerőmű megépítésének ötlete. Sőt, a Meta annyira biztosnak tűnik abban, hogy az energiaigénye tovább fog nőni, hogy máris olyan beszállítókat keres, amelyek a 2030-as évek elejére több gigawattnyi nukleáris energiát tudnak biztosítani. Az MI-láz, amelyre a technológiai óriások közösen rárepültek, egyfajta megújulási lehetőséget jelent a nukleáris ipar egésze számára, főleg ha a felhőszolgáltatók megelőlegezik a nyugdíjazott reaktorok újraindításához szükséges tőkét.
Mert nem csak a Meta és az xAI álmodik nagyot, a múlt héten az e-kereskedelmi óriásból lett felhőszolgáltató, az Amazon is felpörgette Mi ambícióit. Az Anthropic modellépítővel együttműködve elkészített szuperszámítógépük „több százezer” egyedi Trainium2 gyorsítót használ, így valószínűleg elég sok energiát igényel. Nem maradhat ki a sorból az Oracle "zettascale” szuperszámítógépe sem, amely 4 bites pontossággal 2,4 zettaFLOPS csúcsteljesítményt fog elérni. Bár a valós világbeli teljesítmény a ma leggyakrabban használt FP/BF16-os pontossággal 459 exaFLOPS-hoz lesz közelebb, mégis komoly számú GPU-t - összesen 131 072-őt - fog használni a képzéshez.
MIndebből úgy tűnik, hogy a generatív mesterséges intelligencia körüli felhajtás nem csak a számítási rendszerek skálázásáról való gondolkodásmódot változtatta meg. Sok tekintetben a mesterséges intelligencia körüli tőkemozgósítás az űrversenyre emlékeztet, csakhogy Oroszország helyett Kína játssza a vörös fenyegetés szerepét. Az emberek Föld körüli pályára állításához szükséges akadályok puszta száma - nem is beszélve a Hold eléréséről - arra kényszerítette a tudósokat és mérnököket, hogy leküzdjék a kihívásokat és olyan technológiát fejlesszenek, amely a világ egészét előre vitte. És bár mindennek kétségtelenül van egy nacionalista eleme, nem csak az egyik ország versenyez a másikkal. Ezeket a beruházásokat a világ néhány legnagyobb és legerősebb vállalata hajtja végre.
Úgy tűnik, hogy ebben az új mesterséges intelligencia fegyverkezési versenyben is hasonló eseményeknek lehetünk tanúi, mivel az energiaellátás, a hűtés és a gazdasági korlátok olyan beruházásokhoz vezetnek, mint az atomenergia reneszánsza vagy a fenntartható számítástechnika. Nem azért, mert ez a helyes, hanem mert ez a különbség a verseny megnyerése és elvesztése - és a pénzkeresés - között.
Jövőre lép a harmadik évében az MI-boom, és most indul csak igazán a buli: néhány igazán monstre számítási projekt építése kezdődik meg. Az eddig nyilvánosságra hozott legnagyobbak közé tartozik az xAI terve, hogy Colossus szuperszámítógépét a már most is lenyűgöző 100 000 GPU-ról egymillióra bővíti. Még ha sikerülne is a cégnek elegendő GPU-t beszerezni ehhez az új Colossushoz, a működtetéséhez szükséges energia és hűtés - a tőkéről nem is beszélve - óriási. 30-40 000 dolláros darabonkénti árral számolva további 900 000 GPU hozzáadása 27-36 milliárd dollárba kerülne az xAI-nak. Még egy nagyvonalú mennyiségi kedvezménnyel számolva sem lesz olcsó mulatság, függetlenül attól, hogy több év alatt telepítik-e a rendszert. És akkor még nem is számoltuk az épület, a hűtés és az elektromos infrastruktúra költségeit, amelyek a gyorsítók támogatásához szükségesek.
Ha már az energiánál tartunk: attól függően, hogy az xAI milyen generációs gyorsítók telepítését tervezi, csak a GPU-csomópontok nagyjából 1,2-1,5 gigawattnyi energiát igényelnek. Ez a négyből három paksi reaktornak felel meg, és ez csak a számítási teljesítmény. Ha azonban figyelembe vesszük, hogy mit csinál a konkurencia, akkor az új kolosszus mérete már kevésbé tűnik őrültnek. A Meta is egy saját hatalmas adatközpont-kampuszt tervez, a louisianai Richland Parishben épülő létesítmény 4 millió négyzetméteres lesz, és 10 milliárd dollárba kerül. A Meta nem árulta el, hogy hány gyorsítót telepít az üzembe, de Mark Zuckerberg vezérigazgató már elkötelezte magát, hogy csak idén 600 000 GPU-val növeli a számítási kapacitást. Hogy perspektívába helyezzük ezt a számot, ez majdnem annyi, mint ahány H100-as osztályú GPU-t az Nvidia elemzők szerint 2023-ban leszállított.
Csak összehasonlításképpen: nem szokatlan, hogy egy tipikus felhőalapú adatközpont több adatcsarnokot tartalmazó kampuszának névleges kapacitása 50 megawatt körül van. Mivel az energiaszűkösség már most világszerte problémásnak bizonyul az adatközpont-üzemeltetők számára, azt gondolnánk, hogy ez az MI megszállott cégek, felhőszolgáltatók és modellépítők számára is problémát jelent - ehelyett azonban saját erőműveiken dolgoznak. t finanszírozzák. Ami a Meta louisianai kampuszát illeti, az Entergy energiaszolgáltatóval kötött partnerséget három gázturbina építésére, amelyek együttes energiatermelése meghaladja a 2,2 gigawattot.
Ekkora számok mellett hirtelen már nem is hangzik olyan őrültségnek egy atomerőmű megépítésének ötlete. Sőt, a Meta annyira biztosnak tűnik abban, hogy az energiaigénye tovább fog nőni, hogy máris olyan beszállítókat keres, amelyek a 2030-as évek elejére több gigawattnyi nukleáris energiát tudnak biztosítani. Az MI-láz, amelyre a technológiai óriások közösen rárepültek, egyfajta megújulási lehetőséget jelent a nukleáris ipar egésze számára, főleg ha a felhőszolgáltatók megelőlegezik a nyugdíjazott reaktorok újraindításához szükséges tőkét.
Mert nem csak a Meta és az xAI álmodik nagyot, a múlt héten az e-kereskedelmi óriásból lett felhőszolgáltató, az Amazon is felpörgette Mi ambícióit. Az Anthropic modellépítővel együttműködve elkészített szuperszámítógépük „több százezer” egyedi Trainium2 gyorsítót használ, így valószínűleg elég sok energiát igényel. Nem maradhat ki a sorból az Oracle "zettascale” szuperszámítógépe sem, amely 4 bites pontossággal 2,4 zettaFLOPS csúcsteljesítményt fog elérni. Bár a valós világbeli teljesítmény a ma leggyakrabban használt FP/BF16-os pontossággal 459 exaFLOPS-hoz lesz közelebb, mégis komoly számú GPU-t - összesen 131 072-őt - fog használni a képzéshez.
MIndebből úgy tűnik, hogy a generatív mesterséges intelligencia körüli felhajtás nem csak a számítási rendszerek skálázásáról való gondolkodásmódot változtatta meg. Sok tekintetben a mesterséges intelligencia körüli tőkemozgósítás az űrversenyre emlékeztet, csakhogy Oroszország helyett Kína játssza a vörös fenyegetés szerepét. Az emberek Föld körüli pályára állításához szükséges akadályok puszta száma - nem is beszélve a Hold eléréséről - arra kényszerítette a tudósokat és mérnököket, hogy leküzdjék a kihívásokat és olyan technológiát fejlesszenek, amely a világ egészét előre vitte. És bár mindennek kétségtelenül van egy nacionalista eleme, nem csak az egyik ország versenyez a másikkal. Ezeket a beruházásokat a világ néhány legnagyobb és legerősebb vállalata hajtja végre.
Úgy tűnik, hogy ebben az új mesterséges intelligencia fegyverkezési versenyben is hasonló eseményeknek lehetünk tanúi, mivel az energiaellátás, a hűtés és a gazdasági korlátok olyan beruházásokhoz vezetnek, mint az atomenergia reneszánsza vagy a fenntartható számítástechnika. Nem azért, mert ez a helyes, hanem mert ez a különbség a verseny megnyerése és elvesztése - és a pénzkeresés - között.