SG.hu
Elképesztően sok vizet fogyasztanak az adatközpontok
Az IT-cégek rengeteg pénzt fektettek mesterséges intelligencia-beruházásokba, ezzel együtt a hűtési igény is kilőtt.
A Microsoft vízfogyasztása 34 százalékkal 6,4 millió köbméterre ugrott 2022-re, és a generatív MI tréningezése lehet a hibás. "Joggal mondhatjuk, hogy a növekedés nagy része az MI-nak köszönhető" - írja Shaolei Ren, a Riverside-i Kaliforniai Egyetem kutatója egy most közzétett jelentésben, aki bizonyítékként a Microsoft OpenAI-val való kapcsolatára és a generatív MI termékekbe történő masszív befektetésekre mutatott rá. Ren a generatív MI bevezetésének hatását tanulmányozta az adatközpontok vízfogyasztására. Legutóbbi környezetvédelmi, társadalmi és kormányzási (ESG) jelentésében a Microsoft úgy vélte, hogy a vízfogyasztás magasabb mértéke összhangban van az üzleti növekedéssel. Az említett jelentés szerint a vízfogyasztás a 2021-es 4,8 millió köbméter vízről tavaly harmadával, 6,4 millió köbméterre nőtt. Ehhez képest a szoftveróriás 2020 és 2021 között 14 százalékos vízfogyasztás-növekedésről számolt be.
Bár a Microsoft nem adja meg a növekedés hivatalos okaként az MI bevezetését, tudjuk, hogy a felhőszolgáltató több tízezer GPU-t állított hadrendbe a Bing Chat és a GitHub Copilot, valamint mások mögött álló nagyméretű nyelvi modellek működtetéséhez. A megacég szorosan együttműködik az OpenAI-val is, a ChatGPT-ben használt nagy nyelvi modellek (LLM) mögött álló fejlesztővel. A Microsoft szerint 2022-ben mintegy 1,6 millió köbméterrel több vizet használt fel, mint 2021-ben. Ez 640 50 méteres úszómedence megtöltéséhez elegendő víz, ez a mennyiség több mint hárommilliárd grapefruitnak felel meg. És ez csak az új vízfogyasztás. A Microsoft 2022-es teljes vízfogyasztása 2560 medencének felel meg.
Az adatközpontok vízfogyasztása aggodalomra ad okot, különösen Amerikában, ahol a tudósok arra figyelmeztettek, hogy a változó időjárási minták valószínűleg széles körű és tartós aszályos állapotokat eredményeznek. Az amerikai Energiaügyi Minisztérium Argonne Nemzeti Laboratóriumában kidolgozott amerikai klímamodellek szerint az évszázad közepére - mindössze 27 év múlva - az ország nagy részén tartósan szárazság uralkodhat. A modellek szerint ezeket az állapotokat valószínűleg rövid, de pusztító áradások követik majd.
Bár a Microsoft ESG-jelentésében kiemelt vízfogyasztási adatok a vállalat egészére vonatkoznak, nem csak az adatközpontokra, nem titok, hogy ezek a létesítmények rengeteg vizet szívnak el. Az ezekhez a modellekhez használt GPU-kat jellemzően nyolcas csoportokban telepítik, és a hagyományos adatközpontok infrastruktúrájához képest elképesztő mennyiségű energiát fogyasztanak. Nem ritka, hogy egy nyolc GPU-s rendszer teljes terhelés mellett 6 és 10 kW áramot fogyaszt. Ezt a sok hőt valahová el kell vinni, és az adatközpont hűtési technológiájától függően a melegebb rendszerek nagyobb vízfogyasztást jelenthetnek. Ezekben a létesítményekben a vizet számos adatközpont-hűtési alkalmazásban használják. A közvetlen folyadékhűtéses (DLC) rendszerekben deionizált víz és más folyadékok használhatók. Ahelyett, hogy levegőt fújnának egy hűtőbordán keresztül a processzorok és GPU-k hűtésére, ez a technológia úgy távolítja el a hőt, hogy a hűtőfolyadékot a rendszer forró pontjaihoz rögzített hideg lemezeken keresztül vezeti el.
Ez a megközelítés lényegesen hatékonyabb, mint a hagyományos léghűtés. A Google is DLC-t használ a tenzor egységei (Tensor Processing Units, TPU-k) hűtésére, amelyeket MI képzési és következtetési munkákra használnak. Sok modern GPU-rendszer azonban még mindig léghűtéses. Bármelyik technológiát is használják, összetett légkezelő és hőkezelő rendszerekre van szükség ahhoz, hogy a hőt elvezessék az adatközpontból. Ennek egyik leghatékonyabb módja a párologtató hűtők, például hűtőtornyok használata. Ez a technika vízzel vonja el a hőt az adatközpontból távozó levegőből. Ahogy a forró levegő elpárologtatja a vizet, az visszahűl használható hőmérsékletre. A párologtató hűtési technológia igen népszerű az adatközpontok üzemeltetői körében, mivel általában kevesebb energiát fogyaszt, mint az alternatív technológiák, és sok éghajlaton csak az év legmelegebb hónapjaiban kell működtetni.
A hűtésnek ez a megközelítése problémás lehet bizonyos régiókban, ahol korlátozott a vízhez vagy a vízkezelő létesítményekhez való hozzáférés. Az olyan adatközpontok központjaiban, mint az arizonai Phoenix, sok adatközpont áttért az alternatív hűtési technológiákra, amelyek nem fogyasztanak közvetlenül vizet, de általában több energiát fogyasztanak és nagyobb zajszennyezést okoznak.
Az Oxfordi Egyetem kutatói 2021-ben úgy becsülték, hogy az amerikai adatközpontok együttesen mintegy 1,7 milliárd liter vizet fogyasztanak naponta. Megjegyzik azonban, hogy az adatközpontok vízfogyasztásának mérését gyakran megnehezíti az átláthatóság hiánya. Ennek ellenére a Riverside-i Kaliforniai Egyetem és az Arlingtoni Texasi Egyetem kutatói megpróbálták meghatározni, hogy a generatív MI mennyi vizet használ. "A ChatGPT-nek egy 500 ml-es palack vizet kell "meginnia" egy egyszerű, nagyjából 20-50 kérdésből és válaszból álló beszélgetéshez, attól függően, hogy mikor és hol telepítik a ChatGPT-t" - becsülték a kutatók egy tanulmányban.
Az LLM-ek, például a ChatGPT futtatásához kapcsolódó tényleges vízfogyasztás számos tényezőtől függ, beleértve a létesítmény által használt hőkezelési technológiákat, a modellek betanításának és futtatásának helyét, valamint a feladatok futtatásának időpontját. Például a hidegebb éghajlaton található adatközpontok valószínűleg kevesebb vizet fogyasztanak, és kihasználhatják az alacsonyabb környezeti hőmérséklet előnyeit, különösen a forró, száraz sivatagi éghajlaton találhatóakhoz képest. Az iowai adatközpont - ahol a Microsoft és az OpenAI a GPT-4-et képezte - csak akkor fogyaszt vizet, ha a hőmérséklet 29,3 Celsius-fok felett van.
Az ESG-jelentésében a Microsoft azt állítja, hogy a vízfogyasztási mérőszámok segítségével figyeli vízvisszanyerési erőfeszítéseit, mivel 2030-ra nettó "vízpozitív" igyekszik lenni. A megfoghatatlan "vízpozitív" állapot elérését célzó projektek jellemzően a vízgyűjtők védelmét, a vizes élőhelyek helyreállítását és a vízhiányos régiókban az infrastruktúra fejlesztését célzó projektek finanszírozását foglalják magukban. Például az indiai Chennaiban, ahol a Microsoft adatközpontot üzemeltet, a vállalat a The Natural Conservancyvel együttműködve helyreállította a Sembakkam-tó körüli vizes élőhelyeket. A Microsoft elmondása szerint eddig 35 millió köbméter víz visszanyerésére irányuló projektet írt alá. A Microsoft lemondott a párologtató hűtőkről néhány, a vízzel leginkább küzdő adatközpontjában. Idén tavasszal elhatározták, hogy a Phoenixen kívül található utolsó két adatközpontjukat átállítják a "nulla víz" hűtési infrastruktúrára.
De nem a Microsoft az egyetlen felhőszolgáltató, amely a vízfogyasztással küzd. Ahogy az Amazon Web Services (AWS) és a Google Cloud folyamatosan bővítette felhőbirodalmát, több erőfeszítést is bejelentettek az adatközpontok vízfogyasztási problémájának megfékezésére. Tavaly ősszel az AWS elkötelezte magát amellett, hogy 2023-ra "vízpozitív" lesz, vagyis állításuk szerint több vizet adnak vissza a közösségeknek, mint amennyit a működésük során elfogyasztanak. A Google is hasonló vállalásokat tett, de elismerte, hogy a mesterséges intelligencia bevezetése megnehezíti a helyzetet.
A Microsoft vízfogyasztása 34 százalékkal 6,4 millió köbméterre ugrott 2022-re, és a generatív MI tréningezése lehet a hibás. "Joggal mondhatjuk, hogy a növekedés nagy része az MI-nak köszönhető" - írja Shaolei Ren, a Riverside-i Kaliforniai Egyetem kutatója egy most közzétett jelentésben, aki bizonyítékként a Microsoft OpenAI-val való kapcsolatára és a generatív MI termékekbe történő masszív befektetésekre mutatott rá. Ren a generatív MI bevezetésének hatását tanulmányozta az adatközpontok vízfogyasztására. Legutóbbi környezetvédelmi, társadalmi és kormányzási (ESG) jelentésében a Microsoft úgy vélte, hogy a vízfogyasztás magasabb mértéke összhangban van az üzleti növekedéssel. Az említett jelentés szerint a vízfogyasztás a 2021-es 4,8 millió köbméter vízről tavaly harmadával, 6,4 millió köbméterre nőtt. Ehhez képest a szoftveróriás 2020 és 2021 között 14 százalékos vízfogyasztás-növekedésről számolt be.
Bár a Microsoft nem adja meg a növekedés hivatalos okaként az MI bevezetését, tudjuk, hogy a felhőszolgáltató több tízezer GPU-t állított hadrendbe a Bing Chat és a GitHub Copilot, valamint mások mögött álló nagyméretű nyelvi modellek működtetéséhez. A megacég szorosan együttműködik az OpenAI-val is, a ChatGPT-ben használt nagy nyelvi modellek (LLM) mögött álló fejlesztővel. A Microsoft szerint 2022-ben mintegy 1,6 millió köbméterrel több vizet használt fel, mint 2021-ben. Ez 640 50 méteres úszómedence megtöltéséhez elegendő víz, ez a mennyiség több mint hárommilliárd grapefruitnak felel meg. És ez csak az új vízfogyasztás. A Microsoft 2022-es teljes vízfogyasztása 2560 medencének felel meg.
Az adatközpontok vízfogyasztása aggodalomra ad okot, különösen Amerikában, ahol a tudósok arra figyelmeztettek, hogy a változó időjárási minták valószínűleg széles körű és tartós aszályos állapotokat eredményeznek. Az amerikai Energiaügyi Minisztérium Argonne Nemzeti Laboratóriumában kidolgozott amerikai klímamodellek szerint az évszázad közepére - mindössze 27 év múlva - az ország nagy részén tartósan szárazság uralkodhat. A modellek szerint ezeket az állapotokat valószínűleg rövid, de pusztító áradások követik majd.
Bár a Microsoft ESG-jelentésében kiemelt vízfogyasztási adatok a vállalat egészére vonatkoznak, nem csak az adatközpontokra, nem titok, hogy ezek a létesítmények rengeteg vizet szívnak el. Az ezekhez a modellekhez használt GPU-kat jellemzően nyolcas csoportokban telepítik, és a hagyományos adatközpontok infrastruktúrájához képest elképesztő mennyiségű energiát fogyasztanak. Nem ritka, hogy egy nyolc GPU-s rendszer teljes terhelés mellett 6 és 10 kW áramot fogyaszt. Ezt a sok hőt valahová el kell vinni, és az adatközpont hűtési technológiájától függően a melegebb rendszerek nagyobb vízfogyasztást jelenthetnek. Ezekben a létesítményekben a vizet számos adatközpont-hűtési alkalmazásban használják. A közvetlen folyadékhűtéses (DLC) rendszerekben deionizált víz és más folyadékok használhatók. Ahelyett, hogy levegőt fújnának egy hűtőbordán keresztül a processzorok és GPU-k hűtésére, ez a technológia úgy távolítja el a hőt, hogy a hűtőfolyadékot a rendszer forró pontjaihoz rögzített hideg lemezeken keresztül vezeti el.
Ez a megközelítés lényegesen hatékonyabb, mint a hagyományos léghűtés. A Google is DLC-t használ a tenzor egységei (Tensor Processing Units, TPU-k) hűtésére, amelyeket MI képzési és következtetési munkákra használnak. Sok modern GPU-rendszer azonban még mindig léghűtéses. Bármelyik technológiát is használják, összetett légkezelő és hőkezelő rendszerekre van szükség ahhoz, hogy a hőt elvezessék az adatközpontból. Ennek egyik leghatékonyabb módja a párologtató hűtők, például hűtőtornyok használata. Ez a technika vízzel vonja el a hőt az adatközpontból távozó levegőből. Ahogy a forró levegő elpárologtatja a vizet, az visszahűl használható hőmérsékletre. A párologtató hűtési technológia igen népszerű az adatközpontok üzemeltetői körében, mivel általában kevesebb energiát fogyaszt, mint az alternatív technológiák, és sok éghajlaton csak az év legmelegebb hónapjaiban kell működtetni.
A hűtésnek ez a megközelítése problémás lehet bizonyos régiókban, ahol korlátozott a vízhez vagy a vízkezelő létesítményekhez való hozzáférés. Az olyan adatközpontok központjaiban, mint az arizonai Phoenix, sok adatközpont áttért az alternatív hűtési technológiákra, amelyek nem fogyasztanak közvetlenül vizet, de általában több energiát fogyasztanak és nagyobb zajszennyezést okoznak.
Az Oxfordi Egyetem kutatói 2021-ben úgy becsülték, hogy az amerikai adatközpontok együttesen mintegy 1,7 milliárd liter vizet fogyasztanak naponta. Megjegyzik azonban, hogy az adatközpontok vízfogyasztásának mérését gyakran megnehezíti az átláthatóság hiánya. Ennek ellenére a Riverside-i Kaliforniai Egyetem és az Arlingtoni Texasi Egyetem kutatói megpróbálták meghatározni, hogy a generatív MI mennyi vizet használ. "A ChatGPT-nek egy 500 ml-es palack vizet kell "meginnia" egy egyszerű, nagyjából 20-50 kérdésből és válaszból álló beszélgetéshez, attól függően, hogy mikor és hol telepítik a ChatGPT-t" - becsülték a kutatók egy tanulmányban.
Az LLM-ek, például a ChatGPT futtatásához kapcsolódó tényleges vízfogyasztás számos tényezőtől függ, beleértve a létesítmény által használt hőkezelési technológiákat, a modellek betanításának és futtatásának helyét, valamint a feladatok futtatásának időpontját. Például a hidegebb éghajlaton található adatközpontok valószínűleg kevesebb vizet fogyasztanak, és kihasználhatják az alacsonyabb környezeti hőmérséklet előnyeit, különösen a forró, száraz sivatagi éghajlaton találhatóakhoz képest. Az iowai adatközpont - ahol a Microsoft és az OpenAI a GPT-4-et képezte - csak akkor fogyaszt vizet, ha a hőmérséklet 29,3 Celsius-fok felett van.
Az ESG-jelentésében a Microsoft azt állítja, hogy a vízfogyasztási mérőszámok segítségével figyeli vízvisszanyerési erőfeszítéseit, mivel 2030-ra nettó "vízpozitív" igyekszik lenni. A megfoghatatlan "vízpozitív" állapot elérését célzó projektek jellemzően a vízgyűjtők védelmét, a vizes élőhelyek helyreállítását és a vízhiányos régiókban az infrastruktúra fejlesztését célzó projektek finanszírozását foglalják magukban. Például az indiai Chennaiban, ahol a Microsoft adatközpontot üzemeltet, a vállalat a The Natural Conservancyvel együttműködve helyreállította a Sembakkam-tó körüli vizes élőhelyeket. A Microsoft elmondása szerint eddig 35 millió köbméter víz visszanyerésére irányuló projektet írt alá. A Microsoft lemondott a párologtató hűtőkről néhány, a vízzel leginkább küzdő adatközpontjában. Idén tavasszal elhatározták, hogy a Phoenixen kívül található utolsó két adatközpontjukat átállítják a "nulla víz" hűtési infrastruktúrára.
De nem a Microsoft az egyetlen felhőszolgáltató, amely a vízfogyasztással küzd. Ahogy az Amazon Web Services (AWS) és a Google Cloud folyamatosan bővítette felhőbirodalmát, több erőfeszítést is bejelentettek az adatközpontok vízfogyasztási problémájának megfékezésére. Tavaly ősszel az AWS elkötelezte magát amellett, hogy 2023-ra "vízpozitív" lesz, vagyis állításuk szerint több vizet adnak vissza a közösségeknek, mint amennyit a működésük során elfogyasztanak. A Google is hasonló vállalásokat tett, de elismerte, hogy a mesterséges intelligencia bevezetése megnehezíti a helyzetet.