Souhrn
Společnost Etched.ai uzavřela investiční kolo za 500 milionů dolarů, díky čemuž dosáhla valuace přes 5 miliard dolarů a celkově získala téměř 1 miliardu. Cerebras Systems, známější konkurent, jedná o financování za 1 miliardu dolarů a plánuje úvodní veřejnou nabídku akcií letos. Oba startupy vyvíjejí specializované AI čipy optimalizované pro modely typu Transformer, které pohánějí ChatGPT nebo Gemini, a cílí na dominanci Nvidia.
Klíčové body
- Etched.ai vyvinulo čip Sohu na 4nanometrovém procesu TSMC, určený pro efektivní provoz Transformer modelů s nižší spotřebou energie než Nvidia GPU.
- Financování vedlo Stripes s účasťou Petera Thiela; celkem 1 miliarda dolarů pro dvouletý startup.
- Cerebras Systems připravuje IPO a hledá 1 miliardu dolarů na další rozvoj wafer-scale čipů.
- Oba cílí na inferenci AI modelů, kde Nvidia aktuálně vede díky svým GPU.
- Sohu slibuje řádovou zlepšení výkonu oproti Nvidia, ale zatím bez nezávislých testů.
Podrobnosti
Nvidia dlouhodobě dominuje na trhu AI čipů díky svým grafickým procesorům (GPU), které jsou univerzální a široce používané pro trénink i inferenci velkých jazykových modelů (LLM). Startupy jako Etched.ai a Cerebras Systems se však zaměřují na aplikace-specifické integrované obvody (ASIC), které by měly být efektivnější pro konkrétní úlohy. Etched.ai, založené před dvěma lety, vyvíjí čip Sohu optimalizovaný pro architekturu Transformer, která tvoří jádro modelů jako ChatGPT od OpenAI nebo Gemini od Google. Transformer modely zpracovávají data sekvenčně s mechanismem attention, což umožňuje generování textu, překlady nebo analýzu obrázků. Sohu, vyráběný na pokročilém 4nm procesu od Taiwan Semiconductor Manufacturing Company (TSMC), má podle firmy poskytovat vyšší výkon inferenci – tedy fázi, kdy model generuje odpovědi – při nižší spotřebě energie než Nvidia H100 nebo B200 GPU. CEO Gavin Uberti v roce 2024 slíbil řádové zlepšení rychlosti, což by mohlo snížit náklady datových center na výpočty.
Cerebras Systems je etablovanější hráč specializující se na obří wafer-scale enginy (WSE), které integrují miliony jader na jediném křemíku o velikosti silikonové placky. Tyto čipy jsou navrženy pro paralelní zpracování obrovských datových sad při tréninku AI modelů, kde tradiční GPU selhávají kvůli omezené paměti a komunikaci mezi čipy. Cerebras už dodává systémy velkým firmám a teď posiluje pozici investicemi a IPO, což by mohlo přinést další miliardy pro expanzi.
Tyto investice přicházejí v době, kdy poptávka po AI hardwaru exploduje, ale Nvidia čelí dodavatelským problémům a regulacím exportu do Číny. Startupy snižují závislost na jednom dodavateli tím, že nabízejí specializované řešení pro inferenci, která tvoří 80 % provozních nákladů AI služeb.
Proč je to důležité
Tento funding signalizuje zrání konkurence v AI hardwaru, kde Nvidia drží 90 % trhu. Specializované ASIC jako Sohu nebo WSE mohou snížit náklady na inferenci o desítky procent, což ovlivní ceny AI služeb pro firmy i koncové uživatele. Pro průmysl to znamená diverzifikaci dodavatelů a potenciálně rychlejší nasazení AI v edge zařízeních s nižší spotřebou. Nicméně sliby startupů o výkonu potřebují ověření v reálných benchmarkách, protože minulé ASIC často selhaly v flexibilitě oproti GPU. V širším kontextu to urychluje přechod k efektivnějšímu AI hardwaru, což je klíčové pro udržitelnost datových center spotřebujících energii jako malé země.
Zdroj: 📰 SiliconANGLE News