Souhrn
Cloudový startup Fluidstack, specializující se na infrastrukturu pro trénink a inference AI modelů, údajně rokuje s Google o investici 100 milionů dolarů. Tato dohoda by podle zdrojů Wall Street Journal mohla valuovat společnost na 7,5 miliardy dolarů. Fluidstack dříve získal 25 milionů dolarů v equity financování a 10 miliard dolarů v kreditní lince na stavbu datových center.
Klíčové body
- Investice 100 milionů dolarů od Google by zvýšila valuaci Fluidstack na 7,5 miliardy dolarů.
- Platforma Fluidstack umožňuje rychlé nasazení velkých GPU clusterů pro AI workloads, například 2500 GPU za 48 hodin pro zákazníka Poolside.
- Podporuje pokročilé čipy jako Nvidia GB200 a nástroje Kubernetes a Slurm pro správu zdrojů.
- Software Lighthouse monitoruje spotřebu energie, teplotu a poruchy hardwaru.
- Společnost má 10 miliard dolarů kreditní linku na expanzi datových center.
Podrobnosti
Fluidstack je nízkoprofilový startup zaměřený na cloudovou platformu optimalizovanou pro náročné AI úlohy, jako je trénink velkých jazykových modelů a inference. Jeho klíčovou výhodou je rychlost nasazení velkých clusterů grafických karet (GPU). Například startup Poolside, který vyvíjí AI pro kódování, obstaral cluster s více než 2500 GPU během 48 hodin. Platforma nabízí nejpokročilejší čipy, včetně Nvidia GB200, který kombinuje dvě Blackwell B200 GPU s jedním CPU, a další samostatné GPU modely.
Správa infrastruktury probíhá přes open-source nástroje Kubernetes a Slurm. Kubernetes slouží k orchestraci kontejnerů pro trénink i inference AI modelů, automaticky alokuje hardware zdroje a škáluje workloads. Slurm je zase workload manager primárně pro trénink, kde řídí fronty úloh na HPC (high-performance computing) clusterech. Fluidstack tyto nástroje abstrahuje, takže uživatelé nemusí řešit manuální konfigurace. Centrální dashboard umožňuje provizování serverů, nasazení aktualizací a údržbu na jednom místě.
Dalším důležitým komponentem je observability tool Lighthouse. Ten monitoruje GPU v reálném čase – upozorňuje na nadměrnou spotřebu energie, přehřívání nebo poruchy jiných komponent, jako jsou paměti či síťové prvky. To snižuje rizika výpadků během dlouhotrvajících AI tréninků, kde každá hodina výpadku stojí tisíce dolarů.
Startup dříve získal 25 milionů dolarů v dvou kolech equity financování a nyní má 10 miliard dolarů kreditní linku na stavbu datových center. Tato expanze je nutná kvůli rostoucí poptávce po GPU kapacitách v AI průmyslu, kde dominantní hráči jako AWS, Azure nebo Google Cloud čelí nedostatku.
Proč je to důležité
Tato údajná investice Google do Fluidstack signalizuje zájem technologického giganta o posílení pozice v AI infrastruktuře mimo vlastní cloud. Fluidstack nabízí flexibilitu a rychlost, které chybí u velkých providerů, což může urychlit vývoj AI aplikací pro menší firmy a startupy. V širším kontextu to podtrhuje konsolidaci trhu GPU cloudů, kde poptávka po Nvidia čipech překračuje nabídku. Pro průmysl znamená větší dostupnost výpočetních zdrojů pro trénink modelů jako GPT nebo Llama, což ovlivní tempo inovací v AI. Nicméně jako spekulace (zdroje WSJ) to zatím neznamená uzavřenou dohodu, ale ukazuje na strategické tahy Google v soutěži s Microsoftem a Amazonem.
Zdroj: 📰 SiliconANGLE News