Souhrn
Společnost Thinking Machines Lab Inc. s centrem v San Franciscu dnes zpřístupnila svou službu Tinker pro doladění umělé inteligence pro širokou veřejnost. Tinker umožňuje efektivní přizpůsobení velkých jazykových modelů (LLM) pomocí metody Low-Rank Adaptation (LoRA), která vyžaduje méně výpočetních zdrojů než tradiční přístupy. Firmu v únoru 2025 založila Mira Murati, ex-šéftechnologička OpenAI, a v červnu získala 2 miliardy dolarů v seed kole při valuaci 10 miliard dolarů.
Klíčové body
- Založení: Únor 2025 Mira Murati (dříve OpenAI, zodpovědná za ChatGPT a Sora) a tým s experty jako Soumith Chintala (spoluvytvořitel PyTorch z Meta).
- Financování: 2 miliardy dolarů seed kolo s účastí Nvidia, AMD, ServiceNow a dalších.
- Tinker: Cloudová služba pro doladění LLM metodou LoRA, která trénuje pouze malý počet dodatečných parametrů místo celého modelu.
- Výhody: Nižší nároky na výpočetní výkon a infrastrukturu, zjednodušené nasazení modelů.
- Debut: Služba byla představená před čtyřmi měsíci, nyní v general availability.
Podrobnosti
Thinking Machines Lab Inc. se zaměřuje na vývoj nástrojů pro práci s umělou inteligencí, především na zefektivnění procesu doladění velkých jazykových modelů. Doladění znamená úpravu předtrénovaného modelu tak, aby lépe plnil specifické úkoly, například pochopení preferencí zákazníků v systému doporučení produktů. Tradiční metody aktualizují všechny parametry modelu – tedy nastavení, která určují zpracování dat – což vyžaduje obrovské množství GPU a času.
Služba Tinker tento proces zjednodušuje pomocí LoRA, což je technika, která přidává k původnímu modelu malý počet nových parametrů a trénuje pouze tyto. Výsledkem je rychlejší a levnější doladění, které nevyžaduje tak rozsáhlou infrastrukturu. Například firma vyvíjející chatbot pro zákaznickou podporu může pomocí Tinker rychle přizpůsobit model svým datům bez nutnosti vlastnit klastry stovek GPU.
Tým Thinking Machines tvoří významní experti z AI scény. Kromě Murati, která v OpenAI dohlížela na vývoj ChatGPT, Sora a dalších produktů, se minulý měsíc připojil Soumith Chintala, jeden z tvůrců frameworku PyTorch, který slouží k vývoji a trénování neuronových sítí. Investice v objemu 2 miliard dolarů v seed kole, vedená giganty jako Nvidia (výrobce GPU) a AMD, signalizuje důvěru v potenciál firmy. Služba Tinker byla debutována čtyři měsíce po financování a nyní je dostupná všem uživatelům, což umožňuje škálování pro podniky i výzkumníky.
LoRA však není bez kompromisů: modely doladěné touto metodou mohou dosahovat nižší přesnosti než plně doladěné verze, zejména u složitějších úkolů, kde je potřeba měnit hlubší vrstvy modelu. Tinker tedy nenahrazuje všechny přístupy, ale cílí na běžné scénáře, kde stačí efektivita.
Proč je to důležité
Toto spuštění posiluje konkurenci v oblasti AI infrastruktury, kde dominují giganti jako OpenAI nebo Google Cloud. Pro průmysl znamená snížení vstupních bariér pro doladění LLM – menší firmy teď mohou experimentovat s přizpůsobenými modely bez miliónových investic do hardwaru. V širším kontextu AI ekosystému Tinker podporuje demokratizaci technologie, ale zároveň zvyšuje tlak na optimalizaci zdrojů v době rostoucí poptávky po výpočetním výkonu. S backgroundem Murati a investory jako Nvidia může Thinking Machines ovlivnit směr vývoje nástrojů pro LLM, podobně jako Hugging Face změnil sdílení modelů. Dlouhodobě to urychlí aplikace AI v obchodech, zdravotnictví nebo automatizaci, i když LoRA limity budou vyžadovat hybridní přístupy.
Zdroj: 📰 SiliconANGLE News