Skysčio aušinimas padidina Nvidia Blackwell platformos našumą ir efektyvumą

 

Spartus dirbtinio intelekto (AI) augimas, ypač tokiose srityse kaip generatyvusis AI (GenAI) ir didelių kalbų modeliai (LLM), paskatino precedento neturintį skaičiavimo galios poreikį. Kadangi dirbtinio intelekto modeliai tampa sudėtingesni ir reikalauja daugiau duomenų, aparatinė įranga, reikalinga šiems patobulinimams palaikyti, susiduria su dideliais iššūkiais, ypač dėl šilumos išsklaidymo. Tradicinių aušinimo metodų, tokių kaip aušinimas oru, nebepakanka norint valdyti pažangiausios AI aparatinės įrangos energijos suvartojimą, todėl čia atsiranda aušinimo skysčiais sprendimai.

 

Skysčio aušinimo technologija išpopuliarėjo kaip labai efektyvus būdas valdyti AI duomenų centrų šiluminę galią. Tai ypač svarbu tokioms platformoms kaip Nvidia Blackwell architektūra, kur didžiulė skaičiavimo galia reikalauja pažangių aušinimo sistemų, kad būtų užtikrintas našumas ir ilgaamžiškumas.

 

PrieKarštas čipas 2024konferencijoje „Nvidia“ pristatė savo novatorišką sprendimą, integruojantįšiltas vanduo Direct to Chip skystas aušinimastechnologija su savo „Blackwell“ architektūra, kad būtų galima išspręsti kylančias energijos suvartojimo ir aušinimo problemas. Ši plėtra reiškia esminį DI aparatinės įrangos projektavimo pažangą, sumažinant eksploatacines išlaidas ir didinant didelio masto AI programų efektyvumą.

 

▲ „Hot Chips“ pamoka: aušinimas skysčiu padidina našumą ir efektyvumą

 

Skysčio aušinimo technologijos augimas

 

Skysčio aušinimo technologija tampa esminiu AI duomenų centro dizaino komponentu dėl augančio AI lustų galios poreikio. Augant dirbtinio intelekto programoms, tikimasi, kad energijos suvartojimas duomenų centruose smarkiai padidės. Daug dirbtinio intelekto procesorių, įskaitant Nvidia H100 ir jo naujusBlackwell architektūra, sunaudoja nuo 700 W iki 1200 W galios. Šis didžiulis energijos suvartojimas dar labiau padidėja, kai dirbtinio intelekto klasteriai, susidedantys iš tūkstančių GPU, veikia vieningai.

 

Pavyzdžiui,Elono Musko AI mokymo klasteris, didžiausias pasaulyje, turintis 100 000 H100 GPU, yra visiškai aušinamas skysčiu, kad būtų galima valdyti 31-megavatų energijos poreikį. Tokie pavyzdžiai parodo, kodėl labai svarbu optimizuoti aušinimo technologiją – ne tik sumažinti veiklos sąnaudas, bet ir pagerinti bendrą AI sistemų našumą. Didėjant didesnio našumo AI poreikiui, aušinimas skysčiu vaidins vis svarbesnį vaidmenį palaikant didelio našumo skaičiavimo sistemas.

 

 

Skysčio aušinimo AI duomenų centruose privalumai

Aušinimas skysčiu išsiskiria tuo, kad gali tiesiogiai perduoti šilumą nuo svarbiausių komponentų, tokių kaip CPU ir GPU, pagerindamas šilumos išsklaijimą, palyginti su tradiciniu oro aušinimu. ĮTiesioginis aušinimas skysčiu (DLC), aušinimo skystis tiesiogiai liečiasi su lustu, padidindamas šiluminį efektyvumą ir sumažindamas didelių ventiliatorių bei oro kondicionavimo sistemų poreikį. Dėl to vėsinimui sunaudojama mažiau energijos, o tai sumažina bendras duomenų centro eksploatavimo išlaidas.

 

Be to,Panardinamasis skystas aušinimas, kur ištisi serveriai yra panardinti į dielektrinį skystį, yra dar efektyvesnis aušinimo sprendimas. Šis metodas ne tik užtikrina, kad visi komponentai išliks vėsūs, bet ir sumažina mechaninį susidėvėjimą, o tai prailgina techninės įrangos tarnavimo laiką ir žymiai sumažina orą judančios įrangos keliamą triukšmą.

 

 

AI aparatinės įrangos energijos suvartojimo iššūkiai

 

Didėjant AI sistemoms, jų energijos suvartojimas kelia vis didesnį iššūkį. AI aparatinė įranga, tokia kaipNvidia H100 GPUirBlackwell architektūra, yra žinoma, kad jie reikalauja energijos, o energijos poreikis siekia iki 1200 W vienam lustui. Pavyzdžiui, įprastai AI klasteriui, kuriame yra 22,000 H100 GPU, gali prireikti iki31 megavatas elektros-atitinka mažo miesto energijos suvartojimą.

 

Šis didžiulis energijos poreikis ne tik padidina duomenų centrų eksploatavimo išlaidas, bet ir daro didelį poveikį aplinkai. Norėdami išspręsti šias problemas, duomenų centrai turi sutelkti dėmesį į energijos suvartojimo mažinimą ir aušinimo efektyvumo didinimą.

 

 

„Nvidia“ „Blackwell“ architektūra ir šilto vandens aušinimas tiesiai į lustą

 

PrieHotchip 2024 konferencija, „Nvidia“ pristatė savo sprendimą, kaip integruoti skysčių aušinimą su „Blackwell“ architektūra, naudojantšilto vandens Direct to Chip aušinimo technologija. Šis metodas naudoja šiltą vandenį (priešingai nei atšaldytą), kad sugertų ir perduotų šilumą tiesiai iš lusto. Naudodama aušinimą šiltu vandeniu, „Nvidia“ gali sumažinti duomenų centrų aušinimo energijos suvartojimą iki 28%.

 

Šio sprendimo efektyvumas yra dvejopas: jis ne tik sumažina bendrą energijos suvartojimą vėsinimui, bet ir leidžia atgauti panaudotą šilumą, kurią galima panaudoti kitoms reikmėms, pavyzdžiui, šalia esančių pastatų šildymui. Be to, aušinimas šiltu vandeniu prailgina serverių eksploatavimo laiką, nes lustai palaikomi optimaliuose temperatūros diapazonuose, neleidžiama perkaisti ir sumažėja susidėvėjimas.

 

▲ Šiltas vanduo tiesiai į drožlių aušinimo tirpalą

 

Ši aušinimo technika ypač svarbi, nes AI programos, tokios kaip GenAI ir LLM, ir toliau didina duomenų centruose reikalingą skaičiavimo galią. Galimybė palaikyti optimalią temperatūrą tiesiogiai veikia dirbtinio intelekto darbo krūvių našumą ir mastelį, užtikrinant, kad šios sistemos galėtų susidoroti su dideliais joms keliamais reikalavimais.

 

 

 

Panardinamasis aušinimas skysčiu: žingsnis toliau

 

Be tiesioginio aušinimo skysčiu,Panardinamasis skystas aušinimastaip pat populiarėja kaip naujo lygio sprendimas didelės apimties AI sistemoms. Šis metodas panardina visus serverius į nelaidų, dielektrinį skystį, kuris visiškai sugeria ir išsklaido šilumą iš visų komponentų. Tokiu būdu aušinant visą sistemą, panardinamasis skystas aušinimas suteikia šiuos privalumus:

 

• Padidintas aušinimo efektyvumas: Apliejus visus komponentus aušinimo skysčiu, šis metodas užtikrina vienodą ir efektyvų šilumos pašalinimą.
• Mažesnės priežiūros išlaidos: Nesant judančių dalių, tokių kaip ventiliatoriai, mažiau dėvisi mechaniniai, todėl sumažėja priežiūros išlaidos ir pailgėja įrangos eksploatavimo laikas.
• Pagerintas energijos vartojimo efektyvumas: Panardinamasis vėsinimas gali žymiai sumažinti energijos suvartojimą, nes nebereikia oro kondicionavimo sistemų ir kitų aktyvių aušinimo komponentų.

 

▲ Panardinamojo skysčio aušinimo sistema

 

Be to,Panardinamasis skystas aušinimasyra labai keičiamo dydžio, todėl idealiai tinka duomenų centrams, tvarkantiems dirbtinio intelekto darbo krūvius, kurie generuoja daug šilumos, pvz., Nvidia Blackwell architektūros. Vis labiau populiarėjant didesniems AI modeliams, panardinamasis aušinimas gali tapti puikiu sprendimu duomenų centrams, norintiems išplėsti savo veiklą ir sumažinti energijos sąnaudas bei poveikį aplinkai.

 

 

 

Silicio slėnio investicijos į aušinimo technologijas

 

Didėjanti efektyvesnių vėsinimo sprendimų AI duomenų centruose paklausa patraukė rizikos kapitalo įmonių dėmesį, ypačSilicio slėnis. Šios įmonės aktyviai investuoja į startuolius, kurių specializacijaskysčio aušinimastechnologijas, pripažįstant, kad naujovės šioje srityje yra būtinos AI aparatinės įrangos ateičiai.

 

Besivystantys startuoliaipažangūs aušinimo sprendimaine tik suteikia tiesioginės naudos dabartinės kartos AI sistemoms, bet ir sudaro pagrindą kitai AI aparatinės įrangos bangai, kuriai greičiausiai reikės dar sudėtingesnių aušinimo metodų. Šios technologijos turi patenkinti tiek didelius galios reikalavimus, tiek šiluminius AI sistemų iššūkius, todėl jos yra patraukli investicija tiems, kurie nori išplėsti didelio našumo skaičiavimo galimybes.

 

▲AI duomenų centro investicijų tendencijos

 

 

Išvada

 

Kadangi dirbtinio intelekto aparatinė įranga ir toliau tobulėja, auga novatoriškų aušinimo technologijų paklausa. NvidiaBlackwell architektūrayra šios pamainos priešakyje, naudojantšiltas vanduo tiesiai į lustąaušinimas, siekiant padidinti efektyvumą ir sumažinti veiklos sąnaudas.Aušinimas skysčiu, naudojant tiesioginio kontakto ar panardinimo metodus, pasirodė esąs veiksmingiausias būdas valdyti didžiulį šiuolaikinių dirbtinio intelekto sistemų energijos suvartojimą ir šilumos išeigą.

 

Rizikos kapitalo įmonės atkreipia dėmesį, nes daugelis investuoja į startuolius, galinčius pasiūlyti naujos kartos vėsinimo sprendimus. Dirbtinio intelekto duomenų centrams tampant didesniems ir sudėtingesniems, efektyvių ir keičiamo dydžio aušinimo sistemų svarba tik didės, todėl aušinimas skysčiu taps kertiniu būsimos didelio našumo skaičiavimo infrastruktūros akmeniu.