Souhrn
V listopadu 2024 se na summitu APEC v Peru shodli prezident USA Joe Biden a prezident Číny Si Ťin-pching na prvním substantivním společném prohlášení týkajícím se národněbezpečnostních rizik umělé inteligence. Dokument zdůrazňuje, že obě země vidí v AI potenciální hrozby pro stabilitu a bezpečnost, a vyzývá k vzájemné spolupráci na jejich mitigaci. Toto prohlášení přichází v době eskalující soutěže v rozvoji AI mezi oběma supervelmocemi.
Klíčové body
- První společné uznání rizik AI pro národní bezpečnost oběma státy.
- Závazek k rozvoji společných bezpečnostních standardů a testovacích postupů pro AI systémy.
- Dohoda o sdílení informací o incidentech souvisejících s AI riziky.
- Zdůraznění nutnosti udržování ‘klidných vod’ v oblasti vojenských aplikací AI.
- Plán na pokračující konzultace prostřednictvím pracovních skupin.
Podrobnosti
Prohlášení bylo vydáno 16. listopadu 2024 po bilaterálním setkání na okraji summitu Asijsko-tichomořské ekonomické spolupráce v Limě. V osmi bodech dokumentu obě strany konstatují, že pokročilé AI systémy přinášejí nejen příležitosti, ale i závažná rizika, včetně ztráty kontroly nad autonomními systémy, manipulace informací nebo eskalace konfliktů prostřednictvím AI podporovaných zbraní. Konkrétně se shodly na tom, že je nutné rozvíjet rámce pro posouzení rizik, včetně testů na robustnost modelů vůči chybám nebo zneužití. Čína a USA se zavázaly k pravidelnému vyměňování dat o incidentech, kde AI selhalo nebo bylo zneužito, což by mohlo zahrnovat případy jako deepfakes ovlivňující volby nebo chyby v autonomních zbraních.
Toto není první pokus o dialog. USA mají od října 2023 prezidentský výnos Bidena, který nařizuje bezpečnostní testy pro AI modely nad určitou úroveň výpočetního výkonu, včetně red-teamingových simulací útoku. Čína naopak prosazuje vlastní regulace, jako zákon o generativní AI z roku 2023, který vyžaduje schválení modelů státními orgány a zaměřuje se na obsahovou cenzuru. Přesto rivalita přetrvává: USA omezují export čipů NVIDIA do Číny, aby zpomalily její pokrok v tréninku velkých jazykových modelů (LLM), zatímco Čína investuje miliardy do domácích GPU jako Huawei Ascend. Prohlášení tedy představuje opatrný krok k deeskalaci, ale bez konkrétních závazků k omezení vývoje, například v oblasti AGI (umělé obecné inteligence), kde obě země cílí na prvenství do roku 2030.
Pro průmysl to znamená potenciální harmonizaci standardů, což by usnadnilo globální nasazení AI systémů. Firmy jako OpenAI nebo Baidu by mohly čelit společným požadavkům na transparentnost tréninkových dat, což by zvýšilo náklady na compliance, ale snížilo riziko sankcí. Uživatelé by mohli očekávat bezpečnější AI nástroje, například chatbota s vestavěnými ochranami proti halucinacím nebo biasům.
Proč je to důležité
Toto prohlášení mění dynamiku globálního AI ekosystému, kde USA a Čína kontrolují přes 70 procent investic do výzkumu. Bez spolupráce hrozí nekontrolovaný závod v zbrojení AI, podobný jaderné éře, s rizikem náhodné eskalace – například autonomní drony rozhodující o útocích bez lidského zásahu. V širším kontextu posiluje tlak na mezinárodní rámce jako EU AI Act nebo iniciativa Bletchley Park, kde 28 států včetně Číny diskutovalo rizika v roce 2023. Kriticky řečeno, slova nestačí: absence vymahatelných mechanismů a pokračující exportní kontroly naznačují, že skutečná spolupráce zůstane omezená na necitlivé oblasti. Přesto je to precedent, který může bránit nejtemnějším scénářům, jako je nasazení AI v kybernetických válkách, a donutí firmy k proaktivní bezpečnosti.
Zdroj: 📰 Khabarhub.com
