Souhrn
Společnost Tachyum odhalila technické specifikace svého nového paměťového modulu TDIMM, který zvyšuje propustnost DDR5 pamětí z běžných 51 GB/s na 281 GB/s. Tento krok má umožnit provoz AI modelů s mnohonásobně vyšším počtem parametrů při výrazně nižších nákladech a spotřebě energie.
Klíčové body
- Propustnost TDIMM dosahuje 281 GB/s, což je 5,5násobek běžné DDR5.
- Modul podporuje kapacity až 1 TB v „extra tall“ provedení a až 3 PB na jeden Prodigy uzel díky TSV technologii.
- TDIMM vyžaduje o 10 % méně DRAM čipů a má být o 10 % levnější než současné řešení.
- Fyzické rozměry zůstávají kompatibilní s existujícími DDR5 RDIMM a MRDIMM standardy.
- Prodigy Ultimate s 24 kanály dosahuje celkové propustnosti 6,7 TB/s, což je 11× více než u 12kanálových procesorů.
Podrobnosti
Tachyum, známý vývojem univerzálního procesoru Prodigy, představil svůj vlastní typ paměťového modulu nazvaný TDIMM (Tachyum DIMM). Na rozdíl od standardních DDR5 RDIMM, které poskytují 64bitovou datovou sběrnici, TDIMM rozšiřuje šířku na 128 bitů při zachování 16bitového ECC. Celkový počet signálů stoupá z 146 na 206, což představuje pouze 38% nárůst při dvojnásobném zvýšení šířky pásma. Modul využívá 484pinový konektor s roztečí kontaktů 0,5 mm – stejnou jako u DDR5 SODIMM – a vyžaduje pouze úpravu plastového pouzdra, nikoli vývoj nových kontaktů.
TDIMM je navržen pro nasazení v serverech s výškou 2U i 3U. Ve větších skříních umožňuje „extra tall“ varianta zdvojnásobit kapacitu na jeden slot. Díky technologii TSV (Through-Silicon Via) lze na jeden Prodigy uzel integrovat až 3 PB paměti. Navíc TDIMM při přístupu aktivuje pouze 18 DRAM čipů oproti 20 u běžných DDR5 x4 RDIMM, což snižuje spotřebu energie.
Proč je to důležité
Tento krok může výrazně ovlivnit ekonomiku velkých AI datových center. Tachyum uvádí, že nasazení TDIMM v kombinaci s procesorem Prodigy Ultimate by mohlo snížit odhadované náklady na OpenAI data centrum z 3 bilionů dolarů na 27 miliard a spotřebu energie z 250 000 MW na pouhých 540 MW. I když se jedná o odhady, ukazují potenciál pro radikální zefektivnění infrastruktury potřebné pro trénování a provoz extrémně velkých jazykových modelů. Prodigy Ultimate navíc slibuje až 21× vyšší výkon na rack než nejvýkonnější řešení od NVIDIA (Rubin Ultra NVL576). Pro průmysl to znamená možnost škálovat AI modely bez exponenciálního nárůstu nákladů a energetické náročnosti.
Zdroj: 📰 Techpowerup.com
| 