Skysčiu aušinami AI serveriai susiduria su kliūtimis

 

 

 

Didėjant „Blackwell“ lustų siuntoms, klientų noras naudoti aušinimą skysčiu taip pat padidės.

Pramonės atstovai praneša, kad universalių greito atjungimo įrenginių (UQD) skysčių aušinimo sprendimams tiekimas tampa ribotas, o tai gali tapti pagrindine kliūtimi AI serverių skysčio aušinimo augimui.

 

Serverio ODM gamintojai nurodo, kad Nvidia Blackwell AI lustai, įskaitant B100 ir B200, bus pradėti pristatyti šiais metais, o GB200 sprendimas bus pradėtas masiškai gaminti tik 2024 m. ar 2025 m. pabaigoje. Dauguma B100 ir B200 klientų vis dar naudoja oro aušinimo konstrukcijas. , tačiau ODM gamintojai praneša apie nuolatinį skysčio aušinimo skverbties padidėjimą, tikėdamiesi, kad klientų noras naudoti aušinimą skysčiu taip pat padidės didėjant Blackwell lustų siuntimui.

 

▲ Skysčiu aušinami AI serveriai

 

 

I Didėjantis pajėgumas, siekiant patenkinti didėjantį aušinimo skysčiu poreikį

 

Atitinkamos įmonės plečia gamybą, kad pasveikintų naują skysčių aušinimo erą. Šiluminių modulių gamintojas „Amlogic“ planuoja padidinti vandens aušinimo plokščių per mėnesį gamybos pajėgumą nuo 30,000 iki 300,000 vienetų.

 

„Auras“ įkūrė naują gamyklą Tailande, kad išspręstų klientų geopolitinius rūpesčius ir poreikius. Ši gamykla turėtų pradėti masinę gamybą trečiąjį ketvirtį. Be vietinių aušinimo plokščių gamybos pajėgumų plėtros, „Auras“ taip pat planuoja vietoje gaminti aušinimo paskirstymo įrenginius (CDU) ir aušinimo skysčio paskirstymo kolektorius (CDM), kurių planuojamas mėnesinis pajėgumas yra maždaug 2,000-3,{{2 }} rinkinių.

 

Šiluminių modulių gamintojas AVC savo neseniai paskelbtame pranešime nurodė, kad jo aušinimo plokščių modulių mėnesinis gamybos pajėgumas Kinijoje ir Vietname yra apie 115,{1}} vienetų, o tai reiškia, kad per mėnesį pagaminama apie 420000 vienetų. apskaičiuojamas pagal aušinimo plokštes.

 

Iki metų pabaigos AVC planuoja išplėsti savo pajėgumus 50 proc. AVC taip pat planuoja padidinti savo mėnesio CDU gamybos pajėgumus iki 1,000 vienetų, o CDM - iki 30,000 rinkinių. AVC pabrėžė, kad šie planuojami pajėgumai gali būti lanksčiai koreguojami atsižvelgiant į klientų užsakymų poreikius.

 

Thermo Technology Company Goli Thermal Processing plečia savo pajėgumus Zhongli gamykloje Taivane dėl padidėjusio klientų poreikio aušinti skystį. Tikimasi, kad iki trečiojo ketvirčio pabaigos CDM mėnesinis pajėgumas padidės nuo 1,000 vnt. iki 2,000 vnt., o iki metų pabaigos iki 4,{{5} } vienetų, o metinė CDU gamyba iki metų pabaigos taip pat pasieks 2,000 vnt.

 

Šie gamintojai turi didelių lūkesčių dėl aušinimo skysčio poreikio, daugiausia dėl skaičiavimo efektyvumo ir duomenų centrų PUE standartų Kinijoje ir ES, tačiau svarbiausias veiksnys yra tai, kad „Nvidia“ panaikina lustų gamintojams savarankiškai taikomus šiluminių specifikacijų apribojimus.

 

 

II Spartus skysčio aušinimo augimas sukelia UQD trūkumą

 

Pramonei nekantriai laukiant skysčių aušinimo eros, UQD tapo didžiausia augimo kliūtimi. Šiluminių modulių gamintojai atkreipė dėmesį, kad pastaruoju metu UQD pasiūla tapo ankšta. Nors dabartinė skysčio aušinimo rinkos dalis yra tik vienaženklė, jei ateityje ji padidės iki dviženklės, UQD gali būti sunku gauti.

 

UQD tiekėjai daugiausia yra iš Europos ir JAV, pavyzdžiui, didžiosios Amerikos bendrovės Parker Hannifin ir CPC, Šveicarijos Staubli International, Danijos Danfoss ir Švedijos Cejn. Taivano jungčių komponentų milžinė „Lotes“ taip pat aktyviai žengia į rinką ir pradėjo pavyzdžių pristatymą.

 

„Anbo Technology“ pirmininkas Liangas Zhijianas atkreipė dėmesį, kad kadangi aušinant skysčiu pirmiausia siekiama išvengti nuotėkio, o UQD yra dažniausiai nutekėję komponentai, UQD tiekimas yra labiausiai apribotas tarp skysčių aušinimo komponentų. Tai ne tik techninis klausimas; atitinkami gamintojai taip pat turi patentinę apsaugą, o „Anbo Technology“ tiria būdus, kaip įveikti šias patentų kliūtis.

 

Pramonės atstovai pažymėjo, kad nors UQD gamintojai turi patentinę apsaugą, jie taip pat turi atlikti daugybę patvirtinimų, įskaitant OCP sertifikavimą ir klientų patvirtinimus, kurie užima daug laiko ir daug darbo jėgos. Be to, esami Europos ir Amerikos gamintojai neketina plėsti pajėgumų, o tai taps pagrindine kliūtimi sparčiai plėtojant skysčių aušinimą.

 

Supermicro yra vienas sparčiausiai augančių skysto aušinimo gamintojų. Įkūrėjas ir generalinis direktorius Liangas Jianhou pažymėjo, kad per pastaruosius 30 metų skysčių aušinimas sudarė tik 1% serverių rinkos, tačiau, jo skaičiavimais, iki 2025 m. skverbties rodiklis išaugs iki 30%.

 

 

III Skysčio aušinimas kaip galimas sprendimas; AI bumas daro spaudimą tinkleliui

 

Spartus generacinio dirbtinio intelekto vystymasis paskatino precedento neturintį duomenų centrų plėtrą, o tai kelia susirūpinimą dėl jų poveikio elektros tinklui. Šie daug energijos sunaudojantys įrenginiai gali sukelti elektros energijos tiekimo nutraukimą ir padidinti energijos sąnaudas. Remiantis Elektros energijos tyrimų instituto skaičiavimais, iki 2030 m. duomenų centrai galėtų suvartoti 9% JAV elektros energijos, ty dvigubai daugiau nei dabar. Didelio duomenų centro elektros suvartojimas prilygsta šimtams tūkstančių namų ūkių.

 

Ypatingą nerimą kelia didėjantis dirbtinio intelekto energijos poreikis. Ankstyvieji AI modeliai sunaudojo dešimt kartų daugiau energijos nei „Google“ paieška, o naujesni lustai reikalauja dar daugiau energijos. Ekspertai perspėja, kad dirbtinio intelekto plėtrą ateityje gali riboti mūsų gebėjimas generuoti pakankamai galios.

 

Kai kurios šalys susiduria su rimtais iššūkiais. Pavyzdžiui, iki 2026 m. Airija 30 % elektros energijos gali skirti duomenų centrams. JAV duomenų centrų elektros suvartojimas sutelktas 15 valstijų, o Teksase ir Virdžinijoje yra daugiausia. Kalifornijoje atsidūrė kritinė padėtis, nes nauji duomenų centrai generuos elektros energijos poreikį, viršijantį atominių elektrinių poreikį.

 

 

IV duomenų centrai: didžiulis energijos suvartojimas ir didėjantis aušinimas skysčiu

 

Dirbtinio intelekto skaičiavimo poreikiai didina serverių temperatūrą ir anglies emisiją, todėl labai padidėja aušinimo sistemų paklausa. Aušinimo sistemos sunaudoja 40 % viso duomenų centro energijos suvartojimo, todėl jos yra antras pagal dydį energijos suvartojimo šaltinis po pačių serverių. Prognozuojama, kad pasaulinė serverių aušinimo rinka išaugs nuo 20 mlrd. USD 2024 m. iki 90 mlrd. USD iki 2027 m. Numatoma, kad skysčių aušinimo sistemų rinka duomenų centruose padidės nuo 1 % iki 22 %, o rinkos vertė išaugs nuo 317 mln. 7,8 mlrd. USD per ateinančius trejus metus.

 

Vis labiau populiarėja skysto aušinimo sprendimai, kuriuose serveriams vėsinti naudojamas vanduo arba aušinimo skysčiai. Naujos technologijos apima panardinamąjį aušinimą (visų serverių stelažų panardinimą į nelaidžius skysčius) ir tiesioginį aušinimą skysčiu (vandens cirkuliaciją aplink serverius). Nors šiuo metu aušinimas skysčiu yra brangesnis nei oro aušinimo sistemos, jis gali sumažinti duomenų centro energijos suvartojimą 10% ar daugiau.

 

Tyrimų įmonė „Global Market Insights“ prognozuoja, kad pasaulinė duomenų centrų aušinimo skystu aušinimo rinka išaugs nuo 2,1 mlrd. USD 2022 m. iki 12,2 mlrd. USD iki 2032 m. „Uptime Institute“ atlikta apklausa parodė, kad 16 % duomenų centrų vadovų mano, kad skystis aušinimas taps pagrindiniu aušinimo priemone. metodą per 1-3 metus, o 41 % mano, kad tai užtruks 4-6 metų. Todėl artimiausiu metu labiau tikėtina, kad hibridiniai aušinimo metodai atsiras.

 

„Upsite Technologies“, duomenų centrų oro aušinimo sistemų valdymo lyderė, pažymėjo, kad nors technologijos nuolat tobulėja, 100 % skysčiu aušinamų duomenų centrų pasiekti per trumpą laiką mažai tikėtina, nes skysčių aušinimo įrangai vis dar reikalingas oro aušinimas, kad šiluma būtų išsklaidyta. . Nors aušinimas skysčiu yra efektyvesnis, jį sunku įgyvendinti dideliu mastu ir reikalauja didelių išankstinių investicijų. Oro vėsinimas yra pigesnis, bet ir ne toks efektyvus. Taigi hibridiniai aušinimo įrenginiai tampa vis populiaresni, siekiant maksimaliai padidinti aušinimo skysčiu ir oru naudą.

 

 

V Duomenų centro energijos krizė reikalauja skubių veiksmų

 

Duomenų centrai dėl poveikio aplinkai sulaukia vis didesnio dėmesio. Vyriausybės visame pasaulyje įgyvendina reglamentus, siekdamos kontroliuoti savo energijos suvartojimą ir anglies pėdsaką. Kinijos „Žaliojo duomenų centro“ gairės ir panašios iniciatyvos Vokietijoje, Singapūre ir Japonijoje yra šios tendencijos pavyzdys. Pramonės ekspertai, tokie kaip „Schneider Electric“, pabrėžia, kad norint įvertinti duomenų centrų tvarumą reikia išsamių aplinkosaugos metrikų, įskaitant veiksnius, nesusijusius su energijos naudojimu, pavyzdžiui, vandens išteklius ir atliekų susidarymą.

 

JAV vyriausybė spaudžia dideles technologijų įmones investuoti į švarią energiją ir pripažinti didelį poveikį, kurį aplinkai daro augantis dirbtinio intelekto energijos poreikis.

 

 

VI Tinkamų maitinimo šaltinių paieška: duomenų centras ir energijos iššūkiai

 

Duomenų centrams reikalingas įvairus energijos derinys, kad būtų suderintas patikimumas ir tvarumas, kartu patenkinant augančius poreikius. Atsinaujinantys energijos šaltiniai, tokie kaip saulė ir vėjas, yra patrauklūs dėl mažo anglies pėdsako. Tačiau jų priklausomybė nuo oro sąlygų gali lemti nestabilią išvestį, todėl jos netinkamos kaip vienintelis duomenų centrų maitinimo šaltinis. Norint kompensuoti šį neatitikimą, statyti perteklines patalpas gali prireikti, tačiau tai brangu.

 

Branduolinė energija pasirodė kaip galimas sprendimas. Tradicinės atominės elektrinės tiekia patikimą bazinės apkrovos energiją, generuodamos stabilią elektros energiją, itin svarbią duomenų centro veiklai. Be to, tikimasi, kad per ateinantį dešimtmetį pasaulinė atominės energijos rinka stabiliai augs.

 

Branduolinio sektoriaus naujovės suteikia daug žadančių galimybių. Maži moduliniai reaktoriai (SMR) yra kuriami kaip mažesnės, saugesnės ir labiau keičiamos alternatyvos tradicinėms atominėms elektrinėms. Nors SMR vis dar yra tyrimų ir plėtros stadijoje, juos galima diegti tiesiai duomenų centruose, tiekiant švarią energiją.

 

▲ Pasaulinė skysčio aušinimo rinka (b USD)

 

 

Tačiau plačiai pritaikius SMR susiduriama su didelėmis kliūtimis. Reguliavimo ir gamybos iššūkiai gali atidėti jų komercinį diegimą keleriais metais. JAV vyriausybė aktyviai tiria sprendimus, įskaitant partnerystę su technologijų milžinais, siekdama sumažinti išlaidas ir racionalizuoti procesus.

 

Kitas būdas sumažinti duomenų centrų energijos poreikį yra optimizuoti dirbtinio intelekto darbo krūvius. Kai kurias AI užduotis perkėlus iš debesies į vietinius įrenginius su mažesniais, mažiau išteklių reikalaujančiais AI modeliais, galima sumažinti bendrą energijos suvartojimą.

 

Duomenų centrų plėtra ateityje reikalauja daugialypio požiūrio. Labai svarbu naudoti įvairų energijos šaltinį, įskaitant patikimus energijos šaltinius, pvz., branduolinę energiją, ir aktyviai ieškoti atsinaujinančių ir naujoviškų sprendimų, pvz., SMR. Be to, AI darbo krūvio optimizavimas vietiniuose įrenginiuose gali dar labiau skatinti duomenų centrų tvarumą.