Jak poradzić sobie z rosnącym zapotrzebowaniem na technologię chłodzenia w serwerach AI
Obecnie moduł rozpraszania ciepła składa się głównie z aktywnej i pasywnej hybrydowej technologii rozpraszania ciepła zawierającej rury termiczne. Moduł rozpraszania ciepła z rurką cieplną został zaprojektowany i połączony z komponentami, takimi jak dyfuzory powietrza, radiatory i rury termiczne, które mogą zapewnić jednolite środowisko pracy rozpraszania ciepła dla wewnętrznych elementów elektronicznych, dzięki czemu działanie sprzętu elektronicznego jest bardziej stabilne. Wraz z trendem na wielofunkcyjne i lekkie terminalowe produkty elektroniczne, fabryka modułów termicznych zwróciła się w stronę projektowania rozwiązań termicznych głównie opartych na komorze parowej i rurce cieplnej.
Moduł radiatora dzieli się na dwa typy: „radiator chłodzony powietrzem” i „radiator chłodzony cieczą”. Wśród nich rozwiązanie chłodzone powietrzem polega na wykorzystaniu powietrza jako medium poprzez materiały pośrednie, takie jak materiały interfejsu cieplnego, komora parowa (VC) lub rury cieplne, i jest rozpraszane przez konwekcję pomiędzy radiatorem lub wentylatorem a powietrzem. „Chłodzenie cieczą odbywa się głównie poprzez konwekcję z cieczą, chłodząc w ten sposób chip, jednak wraz ze wzrostem wytwarzania ciepła i objętości chipa wzrasta projektowy pobór mocy (TDP) chipa i zastosowanie chłodzonych powietrzem rozpraszanie ciepła stopniowo staje się niewystarczające.
Wraz z rozwojem Internetu rzeczy, obliczeń brzegowych i aplikacji 5G sztuczna inteligencja danych wprowadziła globalną moc obliczeniową w okres szybkiego wzrostu. Według firmy badawczej TrendForce wolumen dostaw serwerów AI wyposażonych w GPGPU (procesory graficzne ogólnego przeznaczenia) wyniósł około 1% w 2022 r. Jednak w 2023 r., napędzany aplikacjami ChatGPT, oczekuje się, że wolumen dostaw serwerów AI wzrośnie o 38,4%, a łączna roczna stopa wzrostu dostaw serwerów AI w latach 2022–2026 wyniesie 29%.
Istnieją dwa główne kierunki projektowania modułów radiatorów nowej generacji. Jednym z nich jest modernizacja istniejących modułów rozpraszania ciepła o komorę parową 3D (3DVC), a drugim wprowadzenie układu chłodzenia cieczą, wykorzystującego ciecz jako medium konwekcyjne w celu poprawy wydajności cieplnej. Dlatego w 2023 roku liczba przypadków testowych chłodzenia cieczą znacznie wzrośnie, ale 3DVC to tylko rozwiązanie przejściowe. Szacuje się, że w latach 2024-2025 wejdziemy w erę równoległego chłodzenia gazem i chłodzenia cieczą.
Wraz z rozwojem ChatGPT, generatywna sztuczna inteligencja zwiększyła dostawy serwerów, wraz z wymaganiami dotyczącymi aktualizacji specyfikacji modułów radiatorów, kierując je w stronę rozwiązań chłodzenia cieczą, aby spełnić rygorystyczne wymagania serwerów w zakresie rozpraszania ciepła i stabilności. Obecnie w branży stosuje się głównie technologię jednofazowego chłodzenia zanurzeniowego w chłodzeniu cieczą, aby rozwiązać problem rozpraszania ciepła przez serwery lub części grzewcze o dużej gęstości, ale nadal istnieje górny limit 600 W, ponieważ serwery ChatGPT lub wyższego rzędu wymagają zdolność odprowadzania ciepła ponad 700 W, aby sobie z tym poradzić.
Biorąc pod uwagę fakt, że system chłodzenia odpowiada za około 33% całkowitego zużycia energii w centrum danych, zmniejszenie całkowitego zużycia energii elektrycznej i zmniejszenie efektywności wykorzystania energii obejmuje ulepszenie systemu chłodzenia, sprzętu informatycznego i wykorzystanie energii odnawialnej. Woda ma pojemność cieplną czterokrotnie większą niż powietrze. Dlatego przy wprowadzaniu układu chłodzenia cieczą potrzebna jest tylko przestrzeń 1U na płytę chłodzącą cieczą. Według testów firmy NVIDIA, aby osiągnąć tę samą moc obliczeniową, można zmniejszyć liczbę szaf potrzebnych do chłodzenia cieczą o 66% Zużycie energii można zmniejszyć o 28%, PUE można zmniejszyć z 1,6 do 1,15, a wydajność obliczeniową można poprawić .
Szybkie obliczenia prowadzą do ciągłej poprawy TDP, a serwery AI mają wyższe wymagania w zakresie odprowadzania ciepła. Tradycyjne chłodzenie rurami cieplnymi zbliża się do swoich granic i nieuniknione jest wprowadzenie rozwiązań termicznych chłodzonych cieczą.
