Souhrn
Startup Mythic Inc., specializující se na čipy s výpočtem v paměti pro umělou inteligenci, oznámil uzavření investičního kola za 125 milionů dolarů. Kolo vedl fond DCVC za účasti NEA, Softbank KR, Honda Motor Co. a dalších investorů, čímž se celkový objem externího financování firmy zvýšil na přes 175 milionů dolarů. Firma plánuje komercializovat svou technologii prostřednictvím zařízení Starlight.
Klíčové body
- Investice 125 milionů dolarů vedená DCVC, celkové financování přes 175 milionů dolarů.
- Vývoj analogové zpracovací jednotky (APU) s architekturou compute-in-memory pro běh AI modelů.
- Tvrzení o 100násobném zlepšení výkonu na watt oproti tradičním grafickým kartám.
- Produkt Starlight s více APU, spotřebou pod 1 watt.
- Paralelní zpracování vrstev AI modelů pro rychlejší výpočty.
Podrobnosti
Mythic Inc. je kalifornská firma zaměřená na vývoj specializovaných čipů pro umělou inteligenci, které překračují limity tradičních digitálních procesorů. Standardní procesory zpracovávají data jako řadu elektrických signálů reprezentujících 1 nebo 0, což vede k vysoké spotřebě energie při složitých výpočtech v AI. Mythic naopak vyvinul analogovou zpracovací jednotku (APU), která data reprezentuje jako kolísání jediného spojitého elektrického signálu. Tato architektura compute-in-memory umožňuje, aby paměťové obvody nejen ukládaly data, ale i prováděly výpočty přímo v nich pomocí rezistorů, malých elektronických součástek regulujících tok elektronů.
AI modely se skládají z umělých neuronů uspořádaných do vrstev, kde každá vrstva zpracovává část analýzy vstupního dotazu a předává výstup další vrstvě. Tradiční systémy tyto vrstvy zpracovávají sekvenčně, což způsobuje zpoždění. APU od Mythic umožňuje paralelní zpracování všech vrstev, což výrazně zrychluje operace. Firma tvrdí, že její čip dosahuje 100násobného zlepšení výkonu na jednotku spotřebované energie oproti grafickým kartám (GPU), které se dnes běžně používají pro AI trénink a inferenci.
Komercializace probíhá přes zařízení Starlight, které integruje více APU do jednoho modulu s celkovou spotřebou pod 1 watt. Analogové čipy se tradičně používají pro úlohy jako distribuce napájení nebo filtrování rušení Wi-Fi, ale Mythic je adaptoval pro náročné AI úlohy, jako je analýza obrázků, rozpoznávání řeči nebo inferenční fáze velkých jazykových modelů (LLM). Nicméně analogové přístupy čelí výzvám, jako je nižší přesnost oproti digitálním systémům kvůli šumu v signálech a potřebě kalibrace, což může omezit aplikace v precizních úlohách.
Proč je to důležité
Tato investice podtrhuje rostoucí zájem o efektivní hardware pro AI v době, kdy energetická náročnost datových center roste exponenciálně – například trénink modelů jako GPT-4 spotřebovává energie odpovídající spotřebě stovek domácností. Compute-in-memory architektury mohou snížit závislost na GPU od Nvidia, které dominují trhu, a umožnit edge computing v zařízeních s omezeným napájením, jako jsou drony, autonomní vozidla nebo IoT senzory. Účast investorů jako Honda naznačuje potenciál v automobilovém průmyslu pro real-time AI zpracování. Pokud Mythic splní sliby, mohl by přispět k demokratizaci AI tím, že sníží náklady na inferenci o řády. Nicméně úspěch závisí na ověření v reálných nasazeních, kde analogové chyby mohou vést k nepřesnostem v kritických aplikacích.
Zdroj: 📰 SiliconANGLE News
