Sociální sítě zavádějí povinné označování AI obsahu

Souhrn

YouTube, Facebook a Instagram zavádějí povinné označování obsahu generovaného nebo upraveného umělou inteligencí (AI). Tento krok reaguje na návrh indického ministerstva elektroniky a informačních technologií (MeitY), který má za cíl omezit šíření deepfakes a dezinformací. Platformy zároveň vyvíjejí interní systémy pro detekci neoznačeného AI obsahu.

Klíčové body

Indické ministerstvo MeitY zveřejnilo návrh změn pravidel pro digitální platformy, který vyžaduje transparentnost u AI obsahu.
Povinnost označování se týká především „fotorealistického“ obsahu, který může klamat diváky.
YouTube, Facebook a Instagram implementovaly nové funkce pro označování AI obsahu primárně pro uživatele v Indii.
Platformy mají za úkol vyvíjet technologie pro automatickou detekci neoznačeného AI obsahu.
Pravidla se nejprve vztahují na „významné poskytovatele sociálních médií“ (SSMIs) s více než 5 miliony uživatelů v Indii.

Podrobnosti

Nová pravidla vycházejí z návrhu změn Informačních technologických pravidel z roku 2021, které indická vláda aktualizovala kvůli rychlému růstu AI generovaného obsahu. Konkrétně se jedná o obsah, který realisticky napodobuje reálné osoby, události nebo místa – například video, kde známá osobnost říká něco, co ve skutečnosti neřekla. YouTube nyní vyžaduje, aby tvůrci explicitně označili takový obsah jako „významně upravený“ nebo „synteticky generovaný“. Meta (mateřská společnost Facebooku a Instagramu) zavádí podobné nástroje pro označování příspěvků. Platformy zároveň testují interní systémy, které by měly automaticky identifikovat neoznačený AI obsah a případně jej filtrovat nebo označit. Tento krok je reakcí na rostoucí obavy z dezinformací během voleb a zneužití deepfakes k podvádění nebo šíření falešných zpráv.

Proč je to důležité

Tento posun představuje jeden z prvních případů, kdy stát přímo reguluje označování AI obsahu na globálních platformách. Pokud se indický model osvědčí, může sloužit jako předloha i pro jiné země, včetně Evropské unie, která pracuje na AI Actu. Pro uživatele to znamená vyšší transparentnost, ale zároveň i větší administrativní zátěž pro tvůrce obsahu. Pro platformy je to výzva v oblasti moderace a detekce – musí vyvíjet spolehlivé nástroje, které nebudou příliš často chybovat. Z hlediska AI etiky jde o krok směrem k odpovědnému nasazování generativních modelů, ale zároveň vyvstává otázka, zda regulace neomezí inovace nebo svobodu tvůrčího vyjádření.

Číst původní článek

Zdroj: 📰 The Times of India