Souhrn
Indické ministerstvo pro elektroniku a informační technologie (MeitY) označilo odpověď platformy X na upozornění ohledně obscénního obsahu z AI chatbota Grok za nedostatečnou a žádá další detaily. Konflikt se týká zneužití Groka, včetně jeho kontroverzního režimu „Spicy Mode“, který generuje vysoce sugestivní materiály. X podalo zprávu o provedených opatřeních, ale vláda chce konkrétní data o odstraněném obsahu a prevenci.
Klíčové body
- MeitY považuje odpověď X za „podrobnou, ale nedostatečnou“ a požaduje data o odstraněném obsahu spojeném s Grokem, suspendovaných účtech a roadmapu prevence.
- X v odpovědi uvedlo, že odstranilo nelegální obsah včetně CSAM (child sexual abuse material) a suspendovalo účty.
- Konflikt následuje po upozornění z 2. ledna, s lhůtou prodlouženou do úterý.
- Článek také zmiňuje odchod vrcholového manažera z Meesho, investice a expanzi KLA v Indii.
- Indie postrádá specifickou legislativu proti deepfakes, což zvyšuje rizika zneužití AI.
Podrobnosti
Platforma X, vlastněná Elonem Muskem, čelí tlaku indické vlády kvůli zneužití svého AI chatbota Grok, který je vyvinut společností xAI a integrován přímo do sociální sítě X (dříve Twitter). Grok slouží k generování textu, obrázků a interakcí na základě velkých jazykových modelů (LLM), přičemž jeho „Spicy Mode“ umožňuje tvorbu obsahu s erotickým nebo obscénním podtextem, což vede k šíření nevhodných AI-generovaných obrázků. MeitY vydalo upozornění 2. ledna a po prodloužené lhůtě do úterý 30. ledna obdrželo od X tzv. Action Taken Report.
Vláda však tuto odpověď shledala nedostatečnou a nyní požaduje granularní údaje: přesná čísla o odstraněném obsahu spojeném s Grokem, seznam suspendovaných nebo penalizovaných účtů a jasnou strategii, jak zabránit budoucímu zneužití. X v odpovědi zdůraznilo, že již podniklo kroky jako odstranění nelegálního obsahu včetně CSAM a trvalé blokování účtů. Tento spor nastal v kontextu rostoucího tlaku na tech platformy v Indii, kde MeitY aktivně monitoruje dodržování IT pravidel z roku 2021, které ukládají povinnost rychle reagovat na nelegální obsah.
Grok, jako konkurent modelů jako GPT od OpenAI nebo Gemini od Google, se odlišuje méně restriktivním přístupem k obsahu, což přitahuje uživatele hledající volnější interakce, ale zároveň zvyšuje rizika. Indie zatím nemá specifickou legislativu proti deepfakes – AI-generovaným falšovaným videím nebo obrázkům –, což vytváří právní vakuum. Například v EU platí AI Act s přísnými pravidly pro high-risk AI systémy, zatímco v USA se diskutuje o dobrovolných rámcích. V Indii to znamená, že platformy jako X musí spoléhat na obecná pravidla proti obscénnosti z IT Act 2000 a IPC (Indian Penal Code).
Další souvislosti z newsletteru zahrnují odchod senior manažera z e-commerce firmy Meesho, která se specializuje na sociální obchodování v nižších cenových segmentech, a expanzi americké firmy KLA, výrobce zařízení pro kontrolu polovodičů, do Indie. Tyto události ukazují na dynamiku tech sektoru v zemi s 1,4 miliardami obyvatel.
Proč je to důležité
Tento případ ilustruje globální výzvy v regulaci AI: jak vyvážit inovace s bezpečností, když modely jako Grok umožňují rychlou tvorbu realistického obsahu. Pro uživatele to znamená riziko expozice nevhodným materiálům, zejména v zemích bez silné legislativy, a pro průmysl tlak na lepší guardraily – mechanismy jako content filtering nebo watermarking pro AI výstupy. V širším kontextu posiluje to debatu o suverénní kontrole nad AI, kde země jako Indie chtějí vynutit lokální odpovědnost u globálních gigantů. Pokud X neposkytne požadované detaily, hrozí pokuty nebo blokace, což by ovlivnilo přístup k platformě pro stovky milionů indických uživatelů. Dlouhodobě to může urychlit vývoj indické AI politiky, podobně jako v Číně s přísnými pravidly pro LLM.
Zdroj: 📰 The Times of India
