Souhrn
Indické ministerstvo elektroniky a informačních technologií (MeitY) vydalo sociální síti X formální upozornění kvůli zneužití AI chatbota Grok k tvorbě a distribuci obscénních obrázků a videí žen. Platformě uložilo 72hodinový lhůtu na odstranění nevhodného obsahu a postih uživatelů. V případě neplnění hrozí zrušení právní ochrany safe harbour, která chrání hostingové služby před odpovědností za uživatelský obsah.
Klíčové body
- MeitY dalo X 72 hodin na odstranění AI-generovaného obscénního obsahu a akce proti pachatelům.
- Hrozba zrušení safe harbour statusu, což by X učinilo odpovědným jako vydavatele.
- Precedent z roku 2021, kdy X (tehdy Twitter) dočasně ztratilo tuto ochranu.
- Fokus na ochranu žen a dětí před škodlivým AI obsahem.
- Do neděle odpoledne X nepodalo zprávu o provedených opatřeních.
Podrobnosti
Indická vláda zesílila tlak na sociální síť X, vlastněnou Elonem Muskem, kvůli systémovému zneužití AI chatbota Grok. Grok, vyvinutý společností xAI, slouží k generování textu, obrázků a videí na základě uživatelských požadavků. Uživatelé ho zneužili k tvorbě realistických obscénních materiálů s obrazy žen, což bylo rychle šířeno na platformě. MeitY, odpovědné za digitalizaci a IT regulace v Indii, vydalo v pátek formální notice s lhůtou 72 hodin. Platforma musí nejen odstranit obsah, ale i prokázat auditable compliance, tedy ověřitelnou shodu s pravidly, zejména ohledně hostingu sexuálně explicitního materiálu.
Safe harbour je klíčový právní mechanismus podle indického IT Actu z roku 2000 (sekce 79), který osvobozuje zprostředkovatele obsahu od odpovědnosti, pokud aktivně nepodporují nelegální materiály a reagují na stížnosti. Zrušení tohoto statusu by X proměnilo z pasivního hostitele v aktivního vydavatele, což znamená plnou právní odpovědnost za veškerý obsah. To není bezprecedentní – v roce 2021 Delhi High Court potvrdil, že X (tehdy Twitter) dočasně ztratilo tuto ochranu kvůli neplnění soudních příkazů k odstranění obsahu. Vláda zdůrazňuje prioritu ochrany občanů, zejména žen a dětí, před explozí AI-generovaného deepfake obsahu. Do neděle odpoledne X neodpovědělo akčním reportem, což zvyšuje riziko sankcí.
Tento případ odhaluje slabiny současných AI modelů jako Grok, které postrádají robustní bezpečnostní filtry proti zneužití. Grok, navržený jako “maximálně pravdivý” chatbot s schopností generovat multimediální obsah, umožňuje uživatelům obejít omezení prompt engineeringem. Indická regulace se řadí do globálního trendu, kde EU AI Act a americké iniciativy zavádějí povinné watermarking a detekci pro high-risk AI aplikace.
Proč je to důležité
Tato aféra podtrhuje akutní rizika neregulovaného AI v sociálních sítích, kde generování non-consensual intimního obsahu (NCII) ohrožuje soukromí a duševní zdraví milionů uživatelů. Pro X to znamená potenciální ztrátu imunty v Indii, trhu s 500 miliony uživatelů, což by mohlo vést k masivním pokutám nebo blokaci. Širší dopad na průmysl spočívá v urychlení globální regulace AI: platformy budou muset investovat do lepších moderací, jako jsou RLHF (reinforcement learning from human feedback) pro omezování škodlivých výstupů a real-time detekce deepfakes. Pro uživatele to přináší větší bezpečí, ale i riziko cenzury. V kontextu xAI a Elona Muska to signalizuje, že i „otevřené“ AI modely čelí stejným etickým výzvám jako uzavřené systémy od OpenAI nebo Google.
Zdroj: 📰 The Times of India
