Souhrn
Čínská Cyberspace Administration of China (CAC) vydala návrhové pravidla pro řízení AI personifikovaných interaktivních služeb, které simulují lidskou interakci. Tato opatření reagují na rychlý růst technologií jako pokročilé chatboti a virtuální asistenti s osobností. Dokument je otevřen pro veřejné připomínky a navazuje na předchozí regulace generativní AI.
Klíčové body
- CAC vyžaduje registraci a schválení pro provozovatele takových AI služeb.
- Povinné označování AI-generovaného obsahu a ochrana dat uživatelů.
- Zákaz šíření škodlivého obsahu, který by ohrozil národní bezpečnost nebo veřejný pořádek.
- Specifické požadavky na bezpečnostní testy a algoritmickou transparentnost.
- Souvislost s obavami z vlivu AI na politickou stabilitu komunistické strany.
Podrobnosti
Návrh pravidel se zaměřuje na AI personifikované interaktivní služby, což zahrnuje systémy schopné emulovat lidské chování, emoce a konverzaci v reálném čase. Tyto technologie, podobné modelům jako ChatGPT nebo domácím čínským ekvivalentům od firem Baidu (Ernie Bot) nebo Tencentu, slouží k tvorbě virtuálních společníků, terapeutů nebo zábavních partnerů. CAC, která dohlíží na kyberprostor a internetovou regulaci v Číně, nyní požaduje, aby provozovatelé takových služeb získali oficiální schválení před spuštěním. To znamená podrobné bezpečnostní hodnocení algoritmů, včetně testů na halucinace, bias a potenciál k šíření dezinformací.
Dokument navazuje na loňskou regulaci generativní AI z srpna 2023, která uvalila povinnost registrace modelů s více než milionem uživatelů. Novinka rozšiřuje dosah na interaktivní prvky, kde AI přebírá roli “osobnosti”. Například služby jako Xiaoice od Microsoftu (nyní pod čínskou kontrolou) nebo Soul App musí splnit požadavky na ochranu soukromí dat, včetně lokalizace dat v Číně a zákazu přenosu citlivých informací do zahraničí. Veřejné připomínky mají probíhat po omezenou dobu, což je standardní postup před finálním schválením.
V širším kontextu toto odráží čínskou strategii „AI s charakterem socialismu s čínskými rysy“. Zprávy jako ty z Wall Street Journal naznačují, že motivací je obava z AI, které by mohlo oslabit kontrolu Komunistické strany, například prostřednictvím nespokojených konverzací nebo propagace západních hodnot. Firmy jako XinDao Technology, první na šanghajském STAR Market, která zveřejnila výroční zprávu o AI technologiích, budou muset tyto pravidla integrovat do svých operací. Pro uživatele to znamená méně volnosti v interakci s AI, ale vyšší bezpečnost proti podvodům, jako deepfakes v konverzaci.
Proč je to důležité
Tato regulace posiluje čínskou dominanci v AI, kde země investuje miliardy do vývoje, ale pod přísnou státní kontrolou. Pro globální průmysl nastavuje precedens pro regulaci human-like AI, podobně jako EU AI Act, který klasifikuje high-risk systémy. Čínské firmy, které tvoří téměř polovinu světových AI patentů, budou muset upravit modely, což ovlivní export technologií. Pro uživatele a vývojáře znamená to nutnost zaměřit se na etické aspekty, jako explainable AI a bias mitigation, aby se vyhnuli sankcím. V dlouhodobém horizontu to může zpomalit inovace v konzumerních aplikacích, ale urychlit vývoj bezpečnostních standardů, které se stanou globálním benchmarkem.
Zdroj: 📰 Slashdot.org