📰 Digitimes

Deset let starý nápad na chlazení se vrací, protože AI servery přehřívají

Deset let starý nápad na chlazení se vrací, protože AI servery přehřívají

Souhrn

Rostoucí výkon AI akcelerátorů, jako jsou GPU od Nvidia a AMD, zvyšuje potřebu efektivního chlazení serverů. Firma Jentech Precision, specializující se na přesné strojírenství pro elektroniku, znovu oživuje svou technologii Microchannel Lid vyvinutou před deseti lety. Tato technologie umožňuje lepší odvod tepla přímo z čipového víka a reaguje na současné výzvy v datových centrech.

Klíčové body

  • Jentech Precision vyvinula Microchannel Lid před 10 lety, ale tehdy neměla velký zájem.
  • AI servery s vysokou spotřebou energie (např. Nvidia Rubin) vyžadují pokročilé chlazení kvůli přehřívání.
  • Technologie konkuruje řešením od Nvidia, AMD a Microsoftu, jako je microfluidics cooling.
  • Související trendy: liquid cooling pro AI systémy s náklady přes 57 000 USD na jednotku.
  • Trh s chlazením serverů roste díky expanzi AI.

Podrobnosti

Firma Jentech Precision Industrial Co., tchajwanský výrobce přesných komponent pro IT hardware, představuje svou technologii Microchannel Lid jako odpověď na aktuální problémy s tepelným managementem v AI infrastruktuře. Tato technologie spočívá v mikrokanalech vyražených přímo do čipového víka (lid), které umožňují přímý průtok chladicí kapaliny těsně u jádra procesoru nebo akcelerátoru. Na rozdíl od tradičního vzduchového chlazení nebo standardního vodního bloku tak dosahuje výrazně vyšší tepelné kapacity, což je klíčové pro současné AI GPU s výkonem přes 1 kW na čip.

Generální ředitel Jentech Precision Lin Chin-lung v rozhovoru pro DIGITIMES uvedl, že technologie byla připravena již před deseti lety, kdy spotřeba čipů byla nižší a zájem o pokročilé řešení malý. Současný boom AI, poháněný modely jako GPT nebo Llama, však změnil situaci. Servery s AI akcelerátory generují obrovské množství tepla, což vede k nutnosti redesignu racků a datových center. Například Nvidia plánuje pro svůj systém Rubin liquid cooling s microchannel technologií, jehož náklady překročí 57 000 USD na jednotku. AMD a Nvidia stanovily plány na rok 2027, které předpokládají úplnou změnu designu racků pro lepší chlazení.

Microsoft experimentuje s microfluidics cooling, ale podle odborníků z průmyslu toto řešení zatím není plně praktické. Jentech nyní vidí příležitost v dodávkách pro tchajwanské výrobce serverů, kteří konkurují globálním giganta. Technologie Microchannel Lid lze integrovat do stávajících výrobních linek a podporuje jak direct-to-chip liquid cooling, tak hybridní systémy. Pro uživatele datových center to znamená vyšší hustotu výpočetního výkonu bez nutnosti masivního rozšiřování chladicí infrastruktury, což snižuje provozní náklady o 20–30 % oproti vzduchovému chlazení.

Proč je to důležité

V širším kontextu AI ekosystému je efektivní chlazení limitujícím faktorem pro škálování výkonu. Bez pokročilých řešení jako Microchannel Lid by datová centra musela omezit hustotu GPU, což by zpomalilo trénink velkých modelů a inference. To ovlivňuje celý průmysl, od cloud providerů jako AWS po vývojáře AI aplikací. Navíc rostoucí energetická náročnost AI (např. trénink GPT-4 spotřeboval ekvivalent energie malého města) zvyšuje tlak na udržitelnost. Tato technologie přispívá k efektivnějšímu využití energie a umožňuje rychlejší nasazení nových generací AI hardware, jako jsou Rubin od Nvidia nebo příští AMD Instinct. Pro evropský a český trh, kde se budují AI clustery, znamená ménší riziko přehřívání a nižší investice do infrastruktury.


Číst původní článek

Zdroj: 📰 Digitimes