Souhrn
V listopadu 2024 se na summitu APEC v Peru setkali prezident USA Joe Biden a prezident Číny Si Ťin-pching a vydali společné prohlášení o rizicích umělé inteligence pro národní bezpečnost. Oba lídři zdůraznili nutnost spolupráce na prevenci zneužití AI, včetně kybernetických hrozeb a destabilizujících technologií. Toto je první takto konkrétní diplomatická dohoda mezi dvěma supervelmocemi v oblasti AI bezpečnosti.
Klíčové body
- Společné uznání rizik AI pro národní bezpečnost, včetně možného zneužití v kyberútocích a šíření dezinformací.
- Závazek k dialogu o bezpečnostních standardech pro AI modely, jako jsou velké jazykové modely (LLM).
- Plán na pokračující konzultace mezi expertům z obou zemí.
- Omezení na vojenské aplikace AI, bez detailů o civilních sektorech.
- Kontext napětí v obchodu s čipy a exportní kontroly USA.
Podrobnosti
Prohlášení vyšlo z bilaterálního summitu na okraji fóra APEC v Limě, kde Biden a Si diskutovali široké spektrum témat včetně Taiwanu a obchodu. V části věnované AI obě strany konstatovaly, že rychlý vývoj technologií jako LLM přináší nejen výhody, ale i rizika, jako je autonomní rozhodování systémů schopných manipulovat daty v reálném čase. Například modely jako GPT-4 nebo čínské ekvivalenty od firem jako Baidu a Alibaba mohou být použity k generování sofistikovaných phishingových kampaní nebo deepfake videí pro dezinformace.
USA v posledních letech zavádějí exportní kontroly na high-end GPU od Nvidia, které jsou klíčové pro trénink velkých AI modelů, aby omezily čínský přístup k těmto technologiím. Čína naopak investuje miliardy do domácího vývoje čipů, jako jsou Huawei Ascend série, které slouží k akceleraci AI výpočtů. Prohlášení nenabízí konkrétní mechanismy, jako sdílení dat o incidentech nebo společné testování modelů na bezpečnostní slabiny, ale slibuje pravidelné konzultace. To navazuje na předchozí dohody, jako Bidenovo výkonnostní nařízení z října 2023 o bezpečném vývoji AI, které vyžaduje testování na rizika jako bias nebo halucinace v modelech.
V praxi to znamená pro průmysl potencionální uvolnění napětí v dodavatelských řetězcích. Firmy jako OpenAI nebo xAI by mohly získat lepší přehled o čínských postupech, což by urychlilo vývoj obranných nástrojů proti AI založeným hrozbám. Pro uživatele to představuje nepřímou ochranu před globálními kybernetickými riziky, i když bez okamžitých změn v produktech.
Proč je to důležité
Toto prohlášení nastavuje precedens pro globální governance AI, kde dvě největší ekonomiky kontrolují přes 70 % výzkumu v AI. Bez spolupráce hrozí eskalace závodů ve zbraních, jako vývoj autonomních dronů nebo AI pro elektronickou válku. V širším ekosystému to ovlivní regulace v EU (AI Act) a G7 iniciativy, kde USA teď mají diplomatickou páku. Kriticky řečeno, prohlášení je spíš symbolické než operační – chybí vymahatelné standardy, jako red-teaming pro vojenské AI modely. Pokud se dialog rozvine, může zabránit incidentům podobným SolarWinds hacku, ale bez detailů zůstává riziko, že obě strany budou pokračovat v tajném vývoji. Pro české firmy v IT sektoru to znamená sledovat změny v exportu technologií a připravit se na nové bezpečnostní požadavky v AI aplikacích.
Zdroj: 📰 Khabarhub.com