Souhrn
Šéf IBM Arvind Krishna upozorňuje, že současné tempo výstavby datových center pro AI je finančně neudržitelné. Vyplnění jednoho zařízení s kapacitou 1 GW vyžaduje téměř 80 miliard dolarů na hardware a plánovaná celková kapacita v oboru dosahuje 100 GW. Klíčovým problémem je nutnost plné výměny high-end GPU hardware každých pět let.
Klíčové body
- Vyplnění 1GW datového centra pro AI stojí kolem 80 miliard USD.
- Plánovaná kapacita v oboru až 100 GW, což znamená potenciální náklady 8 bilionů USD.
- High-end GPU se odpisují za pět let a musí být plně nahrazeny, nikoli prodlouženy.
- Posun od CPU k specializovaným akcelerátorům dramaticky zvyšuje kapitálové nároky.
- Rychlé architektonické změny zkracují životnost hardware.
Podrobnosti
Arvind Krishna, generální ředitel IBM, která se dlouhodobě zabývá vývojem hardware pro výpočetní centra včetně svých vlastních AI akcelerátorů, kritizuje současné trendy v infrastruktuře pro trénink velkých AI modelů. Podle jeho odhadů vyžaduje osazení jednoho datového centra s výkonem 1 GW současnými high-end GPU téměř 80 miliard dolarů. Veřejné i soukromé plány naznačují, že celková plánovaná kapacita v oboru dosáhne 100 GW, což by znamenalo kumulativní finanční závazek až 8 bilionů dolarů. Tento odhad vychází z aktuálních cen a konfigurací, kde dominují grafické procesory jako Nvidia H100 nebo budoucí Blackwell, které slouží k paralelnímu zpracování obrovských datových sad při tréninku modelů jako GPT nebo Llama.
Krishna zdůrazňuje, že problém není jen počáteční investicí, ale opakujícím se cyklem obnovy. Většina high-end GPU se odpisuje za přibližně pět let, po čemž operátoři neprodlužují životnost, ale nahrazují celý hardware. To vytváří periodické kapitálové zátěže, které se kumulují. Zatímco CPU zůstávají součástí těchto zařízení, nejsou už středobodem výdajů – posun proběhl k specializovaným akcelerátorům optimalizovaným pro masivní paralelní úlohy, které general-purpose procesory nedokážou zvládnout stejnou efektivitou. Tento změna změnila definici škály moderních AI center a posunula nároky na kapitál daleko za hranice tradičních podnikových datových center.
Krishna poukazuje na často přehlížený faktor depreciace, který je způsoben rychlými pokroky v architektuře čipů. Výkonnostní skoky přicházejí rychleji, než se hardware stihne omluvit, což nutí k častější výměně. IBM sám investuje do vlastních řešení, jako jsou čipy Telum pro hybridní AI výpočty, ale i ty čelí stejným tržním tlakům. Pro průmysl to znamená, že bez inovací v chlazení, napájení nebo delší životnosti hardware se expanze AI může zadrhnout na energetických a finančních limitech.
Proč je to důležité
Varování od šéfa IBM ukazuje na systémové rizika v AI ekosystému, kde hyperscale provozovatelé jako Microsoft, Google nebo Amazon plánují gigavatové kapacity pro trénink pokročilých modelů. Pokud se náklady na 8 bilionů USD potvrdí, mohou způsobit přehřátí investic a zpomalení inovací – firmy budou muset hledat alternativy jako edge computing, efektivnější modely nebo kvantové akcelerátory. Pro uživatele to znamená vyšší ceny cloudových AI služeb a možné limity na dostupnost výpočetního výkonu. V širším kontextu to nutí přehodnotit udržitelnost AI boomu, kde současné trendy ignorují dlouhodobé ekonomické cykly.
Zdroj: 📰 TechRadar