Souhrn
NVIDIA a Arm oznámily integraci technologie NVLink Fusion do platformy Arm Neoverse určené pro AI datová centra. Tento krok umožňuje vytvářet jednotnou architekturu na úrovni celého racku, která odstraňuje úzká hrdla v přenosu dat mezi procesory a akcelerátory.
Klíčové body
- NVLink Fusion nyní podporuje procesory Arm Neoverse v AI datových centrech.
- Propojení využívá protokol AMBA CHI C2C pro koherentní komunikaci mezi CPU a akcelerátory.
- Cílem je zvýšit propustnost a energetickou efektivitu AI systémů.
- Všichni hlavní poskytovatelé cloudových služeb (AWS, Google, Microsoft, Oracle, Meta) již využívají Neoverse.
- Spolupráce posiluje ekosystém kolem Arm architektury v konkurenci s x86 řešeními.
Podrobnosti
NVLink Fusion je vysokorychlostní koherentní propojovací technologie, kterou NVIDIA původně představila ve spojení s čipy Grace a Blackwell. Nyní je rozšířena i na platformy postavené na architektuře Arm Neoverse, což umožňuje výrobcům serverů a poskytovatelům cloudových služeb propojovat Arm CPU s GPU NVIDIA nebo jinými akcelerátory bez ztráty koherence paměti a s minimální latencí. Propojení je založeno na protokolu AMBA CHI C2C (Chip-to-Chip), který Arm vyvinul pro škálovatelnou komunikaci mezi čipy. Tím se vytváří jednotný paměťový prostor napříč více čipy, což je klíčové pro náročné AI úlohy, jako je trénování velkých jazykových modelů (LLM) nebo inferenční zátěž v reálném čase. Arm Neoverse je již dnes základem pro infrastrukturu všech hlavních hyperscalerů, a podle odhadů by měla dosáhnout 50% podílu na trhu cloudových datových center do roku 2025.
Proč je to důležité
Tato spolupráce posiluje konkurenceschopnost Arm architektury v AI infrastruktuře, kde doposud dominovaly x86 procesory od Intelu a AMD. NVLink Fusion umožňuje výrazně efektivnější využití hardwaru díky odstranění tradičních úzkých míst mezi CPU a GPU. Pro poskytovatele cloudových služeb to znamená možnost nabízet výkonnější a zároveň energeticky úspornější AI instance, což je klíčové v době, kdy náklady na energii a chlazení datových center prudce rostou. Pro vývojáře a firmy pak znamená větší flexibilitu při návrhu vlastních AI systémů s využitím Arm IP a ekosystému NVIDIA.
Zdroj: 📰 Wccftech
| 