Souhrn
Minister obrany USA Pete Hegseth se v úterý setká s generálním ředitelem Anthropic Daria Amodeiem kvůli rostoucímu napětí okolo vojenského využití modelu Claude AI. Pentagon zvažuje označení Anthropic za hrozbu dodavatelského řetězce, což by firmu efektivně vyloučilo z kontraktů s armádou a znemožnilo používání Claude v systémech spojených s ministerstvem obrany. Toto setkání není formální seznámení, ale ultimátní jednání, jak potvrdil vysoký představitel resortu.
Klíčové body
- Anthropic je jediným poskytovatelem AI modelu schváleného pro použití v klasifikovaných vojenských systémech, ale omezuje jeho nasazení na masové sledování Američanů a autonomní zbraně bez lidského zásahu.
- Napětí eskalovalo v lednu po použití Claude v operaci k zatčení venezuelského prezidenta Nicoláse Madura.
- Setkání zúčastní i zástupce ministra Steve Feinberg a podsekretář pro výzkum a inženýrství Emil Michael.
- Anthropic prohlásil závazek podporovat národní bezpečnost USA pomocí pokročilé AI, přičemž jednání probíhají produktivně.
- Pentagon potvrdil schůzku, ale odmítl další komentáře.
Podrobnosti
Anthropic, kalifornská firma specializující se na vývoj velkých jazykových modelů s důrazem na bezpečnost, vyvinula Claude – chatbot schopný zpracovávat textové dotazy, analyzovat data a generovat odpovědi na složité úkoly. Claude je v současnosti jediným AI modelem certifikovaným pro nasazení v bezpečnostních vojenských sítích s utajenými informacemi, což mu umožňuje zpracovávat citlivá data bez rizika úniku. Firma však aktivně brání některým aplikacím: zakazuje použití pro hromadné sledování amerických občanů, což by porušovalo domácí právní normy, a pro autonomní zbraně, které by rozhodovaly o střelbě bez lidského dohledu, kvůli etickým a bezpečnostním rizikům.
Napětí mezi Anthropic a Pentagonem narůstá již několik měsíců. Vojenskí představitelé kritizují přísné kontroly firmy, které omezují flexibilitu nasazení AI v bojových podmínkách. Eskalace přišla v lednu, kdy byl Claude nasazen v operaci vedoucí k zatčení venezuelského lídra Nicoláse Madura – pravděpodobně pro analýzu komunikace nebo predikci pohybů. Podle zdrojů Axios, který novinku první popsal, je Hegseth blízko rozhodnutí označit Anthropic za riziko v dodavatelském řetězci. To by automaticky zrušilo všechny kontrakty, donutí dodavatele přerušit spolupráci a efektivně zablokovalo Claude pro armádu USA.
Setkání v úterý, popsané vysokým úředníkem jako „nepřátelské ultimátní jednání“, zahrnuje klíčové postavy: Hegsetha, Feinberga a Michaela. Anthropic reagoval prohlášením o závazku k národní bezpečnosti a produktivním dialogu, ale odmítl okamžitý komentář k schůzce. Tento konflikt odráží širší dilema v AI ekosystému, kde firmy jako Anthropic (zakládaná bývalými výzkumníky OpenAI) priorizují bezpečnostní mechanismy – tzv. alignment – před vojenskými požadavky na neomezené nasazení.
Proč je to důležité
Tento spor má dalekosáhlé dopady na vývoj a nasazení AI v obraně. Pokud Pentagon Anthropic blacklistuje, armáda ztratí jediný schválený model pro utajené systémy, což způsobí zpoždění v integraci AI do logistiky, analýzy zpravodajství nebo plánování operací. Pro průmysl to signalizuje rostoucí regulaci: firmy musí volit mezi etickými standardy a vládními kontrakty v hodnotě stovek milionů dolarů. V širším kontextu to zesiluje debatu o AI bezpečnosti – Anthropicův přístup chrání před zneužitím, ale frustruje vojenské potřeby v éře soutěže s Čínou. Dlouhodobě by to mohlo vést k vývoji vlastních vojenských AI modelů Pentagonem nebo posunem k méně restriktivním poskytovatelům jako OpenAI či Google, což by oslabilo globální standardy bezpečnosti AI.
Zdroj: 📰 New York Post
