AI serverlari yuqori sovutish texnologiyasini talab qilganda! Nima uchun tendentsiya "havoni sovutish" dan "suyuq sovutish" ga o'tmoqda

 

NVIDIA bosh direktori Jensen Xuang Supermicro rahbari Charlz Lyanning nutqini qo‘llab-quvvatlash uchun COMPUTEX 2023 ko‘rgazmasida maxsus chiqish qildi. Fanner raisi Lin Yushenning ta'kidlashicha, sahnada namoyish etilgan server mahsulotlarining aksariyatida Fannerning suvni sovutish modullari mavjud. Fanner ko'p yillar davomida suvni sovutish modullariga sarmoya kiritib, ushbu AI to'lqinidan foydalanish uchun yaxshi mavqega ega. Biroq, sun'iy intellekt serverlari tobora yuqori sovutish standartlarini talab qilar ekan, nega tendentsiya "havoni sovutish" dan "suyuq sovutish" ga o'tmoqda?

 

 

I Yuqori tezlikda ishlashdan suyuqlik sovutishgacha

 

Sovutish texnologiyasi nuqtai nazaridan Lin Yushen joriy sovutish modullari asosan issiqlik quvurlarini o'z ichiga olgan gibrid sovutish texnologiyasidan foydalanishini ta'kidladi. Ushbu issiqlik quvurlarini sovutish modullari ichki elektron komponentlar uchun muvozanatli issiqlik muhitini yaratish uchun fanatlar, issiqlik batareyalari va issiqlik quvurlari kabi komponentlarni birlashtiradi va shu bilan elektron qurilmalarning barqarorligini oshiradi. Biroq, quyi oqim terminali elektron mahsulotlari ko'p funktsiyali va ixcham bo'lib qolganligi sababli, sovutish moduli ishlab chiqaruvchilari bug 'kameralari va issiqlik quvurlarida markazlashtirilgan sovutish echimlarini loyihalashga o'tishdi.

 

Hozirgi vaqtda sovutish modullari ikki turga bo'linadi: "havo sovutish" va "suyuq sovutish." Havoni sovutish vositasi sifatida havodan foydalanadi, issiqlik interfeysi materiallari, bug 'kameralari (VC) yoki issiqlik o'tkazuvchi issiqlik quvurlari kabi materiallar, keyinchalik havo konvektsiyasi orqali issiqlik qabul qiluvchilar yoki fanatlar orqali tarqaladi. Bundan farqli o'laroq, suyuq sovutish issiqlikni suyuqlik konvektsiyasi orqali tarqatadi, shu jumladan immersion sovutish, bu chiplarni yanada samarali sovutadi. Biroq, chiplar ko'proq issiqlik ishlab chiqaradi va kichikroq bo'ladi va termal dizayn quvvati (TDP) oshgani sayin, havo sovutish asta-sekin etarli bo'lmaydi.

 

▲ Havo sovutish va suyuq sovutish texnologiyalari o'rtasidagi taqqoslash

 

ChatGPT-ning o'sishi bilan generativ AI serverlarni jo'natishning ko'payishiga olib keldi, bu esa o'z navbatida sovutish modullari uchun texnik xususiyatlarni yaxshilashga olib keldi va ularni serverni sovutish va barqarorlikka bo'lgan qat'iy talablarni qondirish uchun suyuq sovutish echimlariga majbur qildi. Lin Yushen Fanner havoni sovutish texnologiyasidan boshlaganini va o'n yil oldin IBM texnologiyasini uzatish orqali suyuq sovutish texnologiyasini sotib olishni boshlaganini ta'kidladi. Ular mijozlarga mavjud ma'lumotlar markazi infratuzilmasini o'zgartirmasdan kabinetlarga suv sovutish qo'shish imkonini beruvchi suvni sovutadigan orqa eshiklarni taqdim etdi.

 

 

II 2025 yilga kelib, havo va suyuqlikni bir vaqtda sovutishning yangi davri

 

Sun’iy intellekt ilovalari bilan bog‘liq yarimo‘tkazgich texnologiyasining rivojlanishi tufayli ChatGPT’da GPT{0}} ning joriy etilishi AI algoritm parametrlarini 175 milliardga oshirdi, bu esa GPU hisoblash quvvatini yuz baravar oshirishni talab qildi. Sanoat, birinchi navbatda, yuqori zichlikdagi serverlar yoki komponentlarning issiqlik tarqalishi muammolarini hal qilish uchun suyuq sovutish ichida bir fazali suvga cho'mish sovutish texnologiyasidan foydalanadi. Biroq, bu usul 600 Vt chegaraga ega, ChatGPT yoki undan yuqori serverlar uchun sovutish ehtiyojlari 700 Vt dan oshadi.

 

▲ Bir fazali immersion sovutish texnologiyasining tasviri

 

IoT, chekka hisoblash va 5G ilovalarini ishlab chiqish bilan ma'lumotlar AI global hisoblash quvvatini yuqori o'sish bosqichiga aylantirmoqda. Sovutish modullarining yangi avlodi konstruksiyalari ikkita asosiy yo‘nalishga amal qiladi: mavjud sovutish modullarini 3D bug‘ kameralari (3DVC) bilan yangilash yoki sovutish samaradorligini oshirish uchun suyuqlikni termal konveksiya vositasi sifatida ishlatadigan suyuq sovutish tizimlarini joriy etish. Natijada, 2023 yilda suyuqlikni sovutish sinovlari soni sezilarli darajada oshdi. Biroq, 3DVC oxir-oqibat o'tish davri bo'lib, 2024-2025 ga kelib, havo va suyuqlikni bir vaqtda sovutish davri boshlanishi kutilmoqda.

 

TrendForce ma'lumotlariga ko'ra, 2022 yilda GPGPU (General Purpose GPU) bilan jihozlangan sun'iy intellekt serverlari umumiy jo'natmalarning taxminan 1 foizini tashkil qilgan. Biroq, ChatGPT qo'llanilishidan kelib chiqqan holda, 2023 yilda sun'iy intellekt serverlarini etkazib berish 38,4 foizga o'sishi kutilmoqda, 2022 va 2026 yillar oralig'ida sun'iy intellekt serverlarini etkazib berishning yillik o'sish sur'ati 29 foizni tashkil etadi.

 

 

III "Suyuq sovutish" AI chiplari uchun asosiy oqimga aylanadi

 

Yangi avlod serverlarining TDP havo sovutish chegaralariga yaqinlashar ekan, yetakchi texnologiya kompaniyalari suyuq sovutishni sinab ko'rishni yoki sovutish maydonini ko'paytirishni boshlaydilar. Misol uchun, Intel’ning Eagle Stream va AMD’ning Genoa TDP 350-400Vt’lari havoni sovutish chegarasiga yetib, suyuq sovutish AI chiplari uchun asosiy yechimga aylandi. NVIDIA H100 ning TDP quvvati 700 Vt va 3DVC yordamida havo sovutish uchun odatda 4U dan ortiq joy talab qilinadi, bu esa yuqori zichlikdagi joylashtirish arxitekturalari uchun mos kelmaydi.

 

▲ NVIDIA-ning H100

 

Sovutish tizimlari ma'lumotlar markazlarida jami energiya iste'molining taxminan 33% ni tashkil etishini hisobga olsak, umumiy quvvat sarfini kamaytirish va quvvatdan foydalanish samaradorligini (PUE) yaxshilash sovutish tizimlarini, IT uskunalarini optimallashtirish va qayta tiklanadigan energiyadan foydalanishni o'z ichiga oladi. Suvning issiqlik sig'imi havodan to'rt baravar yuqori bo'lganligi sababli, suyuq sovutish tizimlarini amalga oshirish uchun suyuqlik sovutish plitasi uchun atigi 1U bo'sh joy kerak bo'ladi. NVIDIA sinovlariga ko'ra, bir xil hisoblash quvvatiga erishish uchun suyuq sovutish talab qilinadigan shkaflar sonini 66% ga, energiya sarfini 28% ga va PUE ni 1,6 dan 1,15 gacha kamaytirishi mumkin, shu bilan birga hisoblash samaradorligini oshiradi.

 

 

IV Supermicro-ning Fanner sovutish modullaridan foydalanishi juda muhim

 

Suyuq sovutish "suvni sovutish" va "moy sovutish" ga bo'linadi, hozirgi vaqtda suvni sovutish eng ko'p qo'llaniladi. Lin Yushenning ta'kidlashicha, deyarli barcha AI serverlari hozirda suvni sovutish yechimlaridan foydalanadi. Misol uchun, NVIDIA GH100, 700 Vt dan ortiq TDP bilan suvni sovutishdan foydalanishi kerak. Hozirgi vaqtda suvni sovutish Fanner daromadining kichik qismini tashkil etsa-da, sun'iy intellekt serverlarining o'rtacha sotish narxi (ASP) an'anaviy serverlarnikidan o'n baravar yuqori, bu esa yilning ikkinchi yarmida Fanner mahsulot tuzilmasini o'zgartirishga yordam beradi. Hisob-kitoblarga ko‘ra, 2023-yilda sun’iy intellekt serverlari o‘z biznesining 5-10% ini tashkil qilishi mumkin.

 

Lin Yushen ta'kidladiki, Supermicro NVIDIA GH100 grafik protsessorlari bilan jihozlangan serverlar uchun Fanner kompaniyasining suv sovutish modullaridan foydalanishining asosiy sababi Fanner o'n yildan ortiq vaqt davomida suyuq sovutish yechimlari ustida ishlamoqda. Suvni sovutishni tatbiq etishdagi qiyinchiliklar asosan xarajatlar va sizib chiqishni oldini olish bilan bog'liq bo'lsa-da, Fannerning o'n yildan ortiq izlanishlari bu oqish muammolarini asta-sekin yengib chiqdi. Fannerning suvni sovutish modullariga uzoq muddatli sarmoyasi ularni ushbu AI to'lqinidan foydalanishga imkon berdi.

 

▲ Supermicro maxsus suyuqlik sovutish

 

Lin Yushenning ta'kidlashicha, yuqori tezlikdagi hisoblash va sun'iy intellekt serverlarining sovutish talablari tufayli TDPning doimiy o'sishi an'anaviy issiqlik quvurlarini sovutishni o'z chegaralariga olib keldi va bu suvni sovutish modullarini qabul qilishni talab qildi. Fanner allaqachon o'z yechimlarini qabul qilgan Supermicro va Meta kabi bir nechta mijozlarga ega. Suvni sovutishning kutilganidan tezroq qabul qilinishiga qaramay, uni 2023 yilda to'liq amalga oshirish dargumon. Biroq, 2024 yilga kelib, 2025 yilda kutilayotgan portlovchi o'sish bilan sezilarli yutuq bo'lishi kutilmoqda.