Souhrn
Nvidia uzavřela neexkluzivní licenci na čipovou technologii startupu Groq, který se zaměřuje na inference – fázi, kdy trénované modely umělé inteligence zpracovávají uživatelské požadavky. Společnost zároveň najímá zakladatele a dosavadního CEO Groq Jonathana Rossa, prezidenta Sunnyho Madru a část inženýrského týmu. Groq bude pokračovat v nezávislém provozu pod vedením Simona Edwardsa.
Klíčové body
- Neexkluzivní licence na Groqovu technologii čipů optimalizovanou pro inference AI modelů.
- Přechod klíčových lídrů: Jonathan Ross (zakladatel Groq, spoluzakladatel Google TPU), Sunny Madra a inženýři k Nvidia.
- Groq zůstává samostatnou firmou s fungujícím cloudovým businessem.
- Trend velkých firem, které získávají technologie a talenty bez kompletní akvizice (např. Microsoft s Inflection AI).
- Finanční detaily nezveřejněny; CNBC spekuloval o možném nákupu za 20 miliard dolarů, což nebyla potvrzeno.
Podrobnosti
Startup Groq, založený v roce 2016 Jonathanem Rossem, se specializuje na vývoj čipů pro inference umělé inteligence. Na rozdíl od tréninku modelů, kde Nvidia dominuje díky svým GPU jako H100, inference zahrnuje rychlé odpovídání na dotazy uživatelů – například generování textu v ChatGPT nebo zpracování obrázků v AI aplikacích. Groq vyvinul Language Processing Units (LPU), které slibují vyšší rychlost a nižší spotřebu energie oproti standardním GPU. Ross, který pomohl Google spustit program AI čipů v podobě Tensor Processing Units (TPU), přináší do Nvidia klíčové know-how z této oblasti.
Dohoda byla oznámena v blogu Groq a potvrzena zdrojem blízkým Nvidia. Nvidia tak posiluje svou pozici v konkurenčním segmentu inference, kde čelí výzvám od tradičních rivalů jako Advanced Micro Devices (AMD) s Instinct MI300X nebo startupů jako Cerebras Systems s Wafer-Scale Engine. Tento model spolupráce – licence technologie plus převzetí talentů – je běžný v posledních letech. Například Microsoft v březnu 2024 zaplatil 650 milionů dolarů startupu Inflection AI za jeho špičkového AI vývojáře Mustafu Suleymana, aniž by firmu plně koupil. Podobně Google a OpenAI testují hybridní modely, aby se vyhnuli regulačním překážkám spojeným s velkými fúzemi.
Groq zdůraznil, že jeho cloudová platforma pro inference zůstane dostupná zákazníkům, což umožňuje vývojářům nasazovat AI modely jako Llama nebo Mixtral rychleji než na Nvidia hardware. Nový CEO Simon Edwards převezme vedení, aby zajistil kontinuitu. Nvidia, která vede v tréninku s podílem přes 80 procent trhu, tak strategicky expanduje do inference, kde efektivita čipů přímo ovlivňuje náklady na provoz velkých jazykových modelů (LLM).
Proč je to důležité
Tato dohoda ukazuje, jak Nvidia reaguje na rostoucí konkurenci v inference, kde cena za token (jednotku zpracování) klesá díky specializovaným čipům – Groq tvrdí až 10násobnou úsporu oproti GPU. Pro průmysl to znamená větší dostupnost AI služeb, protože inference tvoří 90 procent provozních nákladů po tréninku. Uživatelé pocítí nižší ceny v cloudu (např. AWS, Azure) a rychlejší odezvy v aplikacích. V širším kontextu posiluje Nvidia ekosystém CUDA, kam integruje Groqovy algoritmy, což ztěžuje vstup nováčkům. Kriticky: bez plné akvizice Groq zůstává konkurentem, což může vést k dalšímu vývoji, ale Nvidia získává výhodu v talentech. Tento trend akceleruje konsolidaci AI čipového trhu, kde licence nahrazují nákupy kvůli antimonopolním regulacím v USA a EU.
Zdroj: 📰 The Times of India
