Souhrn
Pentagon tlačí přední společnosti v oblasti umělé inteligence, včetně OpenAI a Anthropic, aby jejich modely byly dostupné na tajných sítích bez standardních uživatelských omezení. Šéf technologie Pentagonu Emil Michael to sdělil na akci v Bílém domě a armáda plánuje nasazení AI na všech úrovních utajení. Jedná se o součást jednání o využití AI v budoucích konfliktech s autonomními drony, roboty a kyberútoky.
Klíčové body
- Pentagon cílí na top AI firmy jako OpenAI a Anthropic pro nasazení jejich modelů na tajných (classified) sítích.
- Většina současných vojenských AI nástrojů je omezena na ne tajné (unclassified) sítě pro administrativní účely.
- Pouze Anthropic je zatím dostupný na tajných sítích přes třetí strany, ale s dodržováním firemních zásad použití.
- Tajné sítě slouží k citlivým úkolům jako plánování misí nebo cílení zbraní.
- Cílem je využít AI pro syntézu informací a podporu rozhodování.
Podrobnosti
Pentagon intenzivně rokuje s předními tvůrci generativních modelů umělé inteligence o tom, jak integrovat tyto technologie do vojenského prostředí. Podle zdrojů obeznámených se situací Emil Michael, hlavní technologický důstojník Pentagonu, na akci v Bílém domě oznámil, že armáda chce frontier AI modely – tedy ty nejpokročilejší – nasadit napříč všemi úrovněmi utajení, od otevřených po vysoce tajné. To znamená přístup k modelům jako GPT od OpenAI nebo Claude od Anthropic přímo na sítích, kde se zpracovávají citlivé údaje.
V současnosti většina customizovaných AI nástrojů pro americkou armádu funguje výhradně na ne tajných sítích, které slouží především k administrativním úkolům, jako je zpracování dat nebo rutinní analýzy. Anthropic, společnost specializující se na bezpečné modely velkých jazykových modelů (LLM), je jedinou, která je dostupná na tajných sítích, ale pouze prostřednictvím třetích stran a s plným dodržováním jejich zásad použití. Tyto zásady obvykle zahrnují omezení na vojenské aplikace, zákaz vývoje zbraní a mechanismy prevence halucinací nebo šíření dezinformací.
Tajné sítě Pentagonu zpracovávají data pro klíčové operace, jako je plánování misí, kde AI může syntetizovat obrovské objemy informací z různých zdrojů, nebo cílení zbraní, kde by mohlo pomoci s predikcí pohybů nepřítele. Nicméně Reuters nezjistil konkrétní plány na nasazení AI chatbotů, jako jsou ChatGPT nebo podobné, ani termíny. Tato iniciativa přichází v době, kdy bojiště ovládají autonomní roje dronů, robotické systémy a kyberútoky, kde rychlé rozhodování založené na AI může být rozhodující. Firmy jako OpenAI, která vyvinula GPT modely pro generování textu, kódu a analýz, a Anthropic, zaměřená na konstituální AI s důrazem na bezpečnost, dosud prosazovaly striktní limity na vojenské použití, aby zabránily zneužití.
Proč je to důležité
Tato snaha Pentagonu zvyšuje napětí mezi armádou a AI firmami ohledně kontroly nad nasazením technologií. Pro průmysl to znamená potenciální ztrátu autonomii – firmy by musely uvolnit své zásady, což by mohlo oslabit bezpečnostní mechanismy jako filtry halucinací nebo etické vodítka. V kontextu širšího ekosystému AI to urychluje militarizaci technologie, kde modely trénované na veřejných datech by mohly být vystaveny utajeným informacím, což zvyšuje rizika úniků nebo chybných rozhodnutí v reálných operacích. Pro uživatele a vývojáře to signalizuje, že komerční AI se stávají součástí národní bezpečnosti, což může ovlivnit globální regulace a etické debaty o autonomních zbraních. Celkově to podtrhuje, jak se AI stává klíčovým elementem moderní války, ale bez standardních ochran to přináší rizika spojená s nespolehlivostí LLM v kritických scénářích.
Zdroj: 📰 iTnews