Souhrn
Společnost Anthropic, vývojář pokročilých AI modelů jako Claude, odmítá odstranit bezpečnostní omezení svých technologií pro vojenské aplikace. Americké ministerstvo obrany (Pentagon) po schůzce s generálním ředitelem Dariem Amodeim vydalo ultimátum: buď firma upraví svá pravidla, nebo čelí označení za bezpečnostní riziko v dodavatelském řetězci či aktivaci zákona Defense Production Act. Jednání pokračují, ale lhůta končí v pátek.
Klíčové body
- Anthropic trvá na omezeních bránících autonomnímu zacílování zbraní a domácímu sledování v USA.
- Pentagon argumentuje, že vláda musí dodržovat pouze americké zákony, a hrozí nucenou změnou pravidel.
- Firma byla dosud jediným poskytovatelem LLM na utajených sítích Pentagonu; nyní podepsal smlouvu s xAI.
- Schůzka proběhla mezi Amodeim a ministrem obrany Petem Hegsethem, jednání pokračují v dobré víře.
- Pentagon vyjednává s dalšími firmami jako OpenAI, Google a xAI pro AI v bojových aplikacích.
Podrobnosti
Anthropic, kalifornská firma založená v roce 2021 bývalými zaměstnanci OpenAI, se specializuje na vývoj velkých jazykových modelů (LLM) s důrazem na bezpečnost a zodpovědnost. Jejich modely Claude slouží k zpracování textu, generování kódu, analýze dat a složitým úkolům, ale obsahují vestavěná omezení (safeguards), která brání použití k autonomnímu ovládání zbraní nebo masovému sledování civilistů v USA. Tato omezení jsou součástí firemní politiky, která má zajistit, že AI nebude zneužito k neetickým či nezákonným aktivitám.
Spor s Pentagonem trvá měsíce. Ministerstvo obrany chce nasadit tyto modely v utajených sítích pro aplikace jako autonomní roje dronů, robotické systémy nebo kybernetické útoky. Argumentuje, že jako státní orgán podléhá jen americkým zákonům, nikoli soukromým pravidlům firem. Na včerejší schůzce v utorýk ministr Pete Hegseth předal ultimátum: Anthropic má do pátku 17. hodiny odpovědět, jinak Pentagon označí firmu za riziko v dodavatelském řetězci nebo aktivuje Defense Production Act. Tento zákon z roku 1950 umožňuje vládě v nouzi nútit soukromé firmy k produkci materiálu pro obranu, včetně změny jejich pravidel.
Anthropic byl dosud jediným LLM poskytovatelem na klasifikovaných sítích Pentagonu, což mu dávalo strategickou výhodu. Tento týden však ministerstvo oznámilo dohodu s xAI, firmou Elona Muska zaměřenou na pokročilé AI pro vesmírné a obranné účely. Pentagon rovněž jedná s OpenAI (vývojáři GPT modelů pro text, obrázky a multimodální úkoly), Google (Gemini modely pro široké AI nasazení) a dalšími. Tyto smlouvy určí, jak bude AI integrováno do bitevního prostředí, kde může zrychlit rozhodování nebo automatizovat operace.
Spokesperson Anthropicu potvrdil, že schůzka pokračovala v konstruktivním duchu a firma chce podporovat národní bezpečnost v souladu s možnostmi svých modelů. Reuters zdroje však naznačují, že Anthropic nemá úmysl ustoupit.
Proč je to důležité
Tento spor odhaluje napětí mezi etickými standardy AI firem a nároky států na technologii pro obranu. Pokud Pentagon uspěje, mohl by nastavit precedens pro nucené uvolnění omezení u všech LLM poskytovatelů, což oslabí snahy o prevenci autonomních zbraní (tzv. killer robots) a domácího sledování. Naopak ústupek Anthropicu by mohl způsobit, že armáda se obrátí k méně restriktivním firmám jako xAI, což urychlí militarizaci AI. V širším kontextu to ovlivní globální regulaci AI: Evropa a OSN prosazují přísné limity na autonomní zbraně, zatímco USA vidí AI jako klíč k udržení převahy nad Čínou. Pro průmysl to znamená rizika pro funding a kontrakty – firmy s přísnými pravidly mohou ztratit vládní zakázky v hodnotě stovek milionů dolarů, zatímco investoři do etického AI čelí nejistotě.
Zdroj: 📰 The Times of India
