Souhrn
Amazon Web Services (AWS) na konferenci re:Invent představilo model AI Factories, který umožňuje zákazníkům instalovat kompletní AI infrastrukturu přímo v jejich vlastních datových centrech. Společnost zároveň rozšiřuje platformu Nova o službu Nova Forge pro trénink a vývoj vlastních pokročilých AI modelů. Tyto novinky reagují na poptávku po rychlém nasazení AI s důrazem na suverenitu dat a regulace.
Klíčové body
- AI Factories: Kompletní full-stack systémy pro on-prem nasazení AI infrastruktury, optimalizované pro regulovaná prostředí a velké škály.
- Nova Forge: Nová služba pro trénink custom frontier AI modelů s pokročilými schopnostmi uvažování a řešení problémů.
- Strategie infrastruktury: AWS kombinuje 20 let zkušeností s cloudem pro hybridní řešení, která spojují cloudovou inovaci s on-prem kontrolou.
- Cílové využití: Podpora high-value AI workloads v sektoru s vysokými požadavky na bezpečnost a suverenitu.
Podrobnosti
AWS reaguje na trendy v nasazení umělé inteligence tím, že přináší svůj koncept AI Factories přímo do existujících datových center zákazníků. Tento model nenabízí jen cloudové služby, ale kompletní stack hardware, software a optimalizace, který lze integrovat on-prem. Podle Jullie Whiteové, viceprezidentky a šéfky marketingu AWS, jde o “velmi opinionated” řešení, tedy předem definovanou architekturu založenou na dlouholetých zkušenostech firmy s provozem datových center v obřím měřítku. AWS tak pomáhá firmám, které potřebují udržet kontrolu nad citlivými AI úlohami, například v oblasti finance, zdravotnictví nebo vládních služeb, kde suverenita dat převažuje nad čistě cloudovými řešeními.
Doplňkově AWS spustilo Nova Forge, službu na platformě Nova foundation models, která slouží k tréninku a fine-tuningu vlastních frontier modelů. Frontier models představují nejpokročilejší AI modely schopné logického uvažování, dedukce a řešení komplexních problémů, na rozdíl od starších modelů zaměřených jen na vyhledávání informací. Nova Forge umožňuje zákazníkům přizpůsobit tyto modely specifickým potřebám, jako je analýza dat v reálném čase nebo automatizace rozhodování. Tato služba je integrována s existujícími AWS nástroji, jako jsou čipy pro AI (např. Trainium a Inferentia) a agenti pro autonomní provoz AI systémů.
Diskuse proběhla na re:Invent v rozhovoru s Johnem Furrierem v studia theCUBE. AWS tak posiluje svou pozici v hybridních prostředích, kde zákazníci kombinují on-prem hardware s cloudovými službami. Například AI Factories lze použít pro budování clusterů GPU pro trénink modelů přímo u zákazníka, což snižuje latenci a zvyšuje bezpečnost. Nova Forge naopak cílí na vývojáře, kteří chtějí vytvářet modely překonávající standardní LLM jako GPT nebo Llama v specifických doménách.
Proč je to důležité
Tyto novinky posilují konkurenceschopnost AWS v AI infrastruktuře, kde soupeří s Azure a Google Cloud. Pro průmysl znamenají snížení závislosti na veřejných cloudech a lepší podporu pro regulovaná odvětví, což urychlí adopci AI ve velkých firmách. V širším kontextu to odráží posun k hybridním modelům, kde on-prem řešení doplňují cloud pro kritické aplikace. Nicméně AWS musí prokázat škálovatelnost těchto řešení v praxi, protože slibované optimalizace závisí na proprietárních čipech a softwaru, což může omezit flexibilitu oproti open-source alternativám.
Zdroj: 📰 SiliconANGLE News