Zrychlené výpočty a síťování pohání superpočítače v éře umělé inteligence

Souhrn

Na mezinárodní superpočítačové konferenci SC25 představila NVIDIA řadu průlomových technologií zaměřených na zrychlené výpočty, síťování a AI infrastrukturu. Mezi nejvýznamnější novinky patří druhá generace platformy Grace Blackwell (GB300), kompaktní AI superpočítač DGX Spark a fotonické síťové přepínače Quantum-X InfiniBand CPO.

Klíčové body

NVIDIA představila DGX Spark – nejmenší AI superpočítač světa s výkonem jednoho petaflop a 128 GB sdílené paměti.
Platforma Grace Blackwell (GB300) umožňuje sériovou výrobu superpočítačů pro AI.
Nové síťové přepínače NVIDIA Quantum-X Photonics InfiniBand CPO snižují spotřebu energie a provozní náklady v AI datových centrech.
NVIDIA BlueField-4 DPU zrychluje infrastrukturu pro gigascale AI aplikace.
DGX Spark umožňuje lokální inferenci modelů až do 200 miliard parametrů a jejich fine-tuning.

Podrobnosti

DGX Spark je desktopový superpočítač postavený na architektuře Grace Blackwell, který integruje GPU, CPU, síťování, CUDA knihovny a celý softwarový stack NVIDIA AI. Díky technologii NVLink-C2C dosahuje pětinásobné šířky pásma oproti PCIe Gen5, což umožňuje efektivní práci s velkými jazykovými modely (LLM) přímo na pracovní stanici. Tento přístup odstraňuje nutnost přístupu ke cloudovým kapacitám pro vývojáře a výzkumníky, kteří potřebují lokální výpočetní výkon pro testování a ladění modelů.

Současně NVIDIA rozšiřuje své síťové řešení o fotonické přepínače Quantum-X InfiniBand CPO (co-packaged optics), které zásadně snižují energetickou náročnost datových center určených pro AI. Tyto přepínače již plánují nasadit organizace jako TACC (Texas Advanced Computing Center), Lambda Labs a CoreWeave – poskytovatelé cloudových služeb specializující se na AI úlohy.

Proč je to důležité

Tyto inovace posouvají AI infrastrukturu směrem k decentralizaci a energetické efektivitě. DGX Spark umožňuje vývojářům pracovat s extrémně velkými modely bez nutnosti přístupu k drahým cloudovým zdrojům, což může urychlit vývoj a snížit bariéry vstupu do pokročilé AI. Zároveň fotonické síťování a DPU BlueField-4 představují klíčové stavební kameny pro budoucí „AI továrny“, které budou vyžadovat extrémní propustnost a nízkou latenci při současném tlaku na snížení provozních nákladů a uhlíkové stopy. NVIDIA tak konsoliduje svou pozici jako dodavatel komplexního hardwarového i softwarového ekosystému pro AI superpočítání.

Číst původní článek

Zdroj: 📰 Nvidia.com