Groq investuje až 300 milionů dolarů do rozšíření v Austrálii

Souhrn

Americký čipový startup Groq spustil rozsáhlou investici do Austrálie, kde v datovém centru společnosti Equinix v Sydney nasadí výpočetní infrastrukturu zaměřenou na AI inferenci. Cílem je poskytnout místním a regionálním zákazníkům rychlejší, energeticky úspornější a levnější alternativu k tradičním GPU a cloudovým službám hyperscalerů.

Klíčové body

Groq investuje počátečních 50 milionů dolarů s cílem dosáhnout celkové investice až 300 milionů dolarů.
Nové zařízení v Sydney bude mít výkon 4,5 MW a využije technologii LPU (Language Processing Unit) navrženou speciálně pro AI inferenci.
Infrastruktura využije Equinix Fabric pro zabezpečené a nízkolatentní připojení.
Architektura Groq eliminuje potřebu externí paměti, což zvyšuje rychlost i energetickou efektivitu.
Projekt řeší problém nedostatku výpočetní kapacity pro AI a zároveň podporuje suverenitu dat pro australské organizace jako Quantium.

Podrobnosti

Groq, založený bývalým inženýrem Googlu Jonathanem Rossem, vyvíjí specializované čipy LPU, které jsou optimalizované pro inferenci – tedy pro běh již natrénovaných AI modelů. Na rozdíl od univerzálních GPU, které jsou energeticky náročné a vyžadují složitou komunikaci s externí pamětí, LPU čipy integrují výpočetní jednotky a paměť do jediné architektury. Díky tomu dokážou generovat jednotlivé tokeny (základní jednotky textu v LLM) rychleji a s nižší spotřebou. Podle Rosse je rozdíl mezi GPU a LPU srovnatelný s rozdílem mezi dial-upem a širokopásmovým připojením.

Nové datové centrum v Sydney bude obsahovat až 50 racků, z nichž každý pojme 72 LPU čipů. Služba bude primárně zaměřena na australské podniky, které potřebují zpracovávat citlivá data lokálně kvůli legislativním požadavkům na suverenitu dat. Partnerství s Equinixem zajišťuje nízkolatentní a bezpečné propojení s dalšími cloudovými a podnikovými systémy v rámci Asie a Tichomoří.

Proč je to důležité

Tato investice přichází v době, kdy globální poptávka po výpočetní kapacitě pro AI prudce roste, zatímco nabídka zůstává omezená. Groq nabízí alternativu k dominanci NVIDIA a hyperscalerů jako AWS nebo Azure, zejména pro aplikace, kde záleží na rychlosti odezvy a nákladech na token. Pro Austrálii to znamená větší technologickou nezávislost a možnost udržet citlivá data v rámci země. Z hlediska globálního AI ekosystému jde o další signál, že specializovaný hardware pro inferenci se stává klíčovou součástí infrastruktury umělé inteligence.

Číst původní článek

Zdroj: 📰 ComputerWeekly.com