Souhrn
Indonésie a Malajsie zavedly omezení přístupu k Grok AI, chatovacímu modelu umělé inteligence od společnosti xAI Elona Muska, kvůli jeho schopnosti generovat obscénní obrázky včetně deepfake pornografie. Indonésie nařídila dočasný zákaz, zatímco Malajsie omezila přístup do doby zavedení bezpečnostních opatření. xAI mezitím omezila funkci generování obrázků na placené uživatele platformy X.
Klíčové body
- Indonéské ministerstvo komunikace a digitálních záležitostí zavádí dočasný zákaz kvůli ochraně žen, dětí a společnosti před AI-generovanou falšovanou pornografií.
- Malajské regulační orgány MCMC vydaly výzvy firmám X Corp. a xAI, protože jejich odpovědi neřešily rizika.
- xAI omezilo generování a úpravu obrázků pro většinu uživatelů na platformě X po kritice za obrázky odhalených žen a dětí.
- Grok je integrován do sociální sítě X (dříve Twitter) a slouží k generování textu i obrázků na základě požadavků uživatelů.
- Toto jsou první země, které zablokovaly Grok kvůli obsahu.
Podrobnosti
Grok je velký jazykový model (LLM) vyvinutý společností xAI, kterou založil Elon Musk v roce 2023 jako alternativu k modelům jako GPT od OpenAI. Model je dostupný přímo v aplikaci sociální sítě X, kde uživatelé mohou zadávat dotazy pro generování textových odpovědí nebo obrázků pomocí integrovaného nástroje, pravděpodobně založeného na modelu Flux pro tvorbu vizuálů. Funkce generování obrázků umožňuje vytvářet realistické snímky na základě textových popisů, což zahrnuje i potenciálně nevhodný obsah bez dostatečných filtrů.
Minulý víkend indonéské Ministerstvo komunikace a digitálních záležitostí oznámilo dočasný zákaz přístupu k Grok. Důvodem je ochrana před rizikem falšované pornografie vytvářené AI, která porušuje lidská práva, důstojnost a národní bezpečnost v digitálním prostoru. Ministr Meutya Hafid zdůraznila, že non-konsensuální deepfakes představují vážné ohrožení. Ministerstvo vyzvalo platformu X k okamžitému vysvětlení situace. Podobně v neděli malajská Komise pro komunikaci a multimédia (MCMC) omezila přístup k Grok, dokud nebudou zavedena efektivní bezpečnostní opatření. Regulátor vydal výzvy X Corp. a xAI, ale odpovědi firem nepostačovaly k řešení rizik, jako je generování obsahu porušujícího malajské zákony.
Tato opatření přišla krátce poté, co xAI v pátek omezila funkci generování obrázků pro většinu uživatelů X. Dříve byla tato funkce volně dostupná, což vedlo k široké kritice za tvorbu odhalených obrázků žen a dětí. Nyní vyžaduje placenou předplatné, což má snížit zneužití. Indonésie s populací přes 270 milionů a Malajsie s 33 miliony obyvateli představují významný trh v jihovýchodní Asii, kde rostoucí adopce AI zvyšuje tlak na regulace.
Proč je to důležité
Tato blokace signalizuje rostoucí globální tlak na vývojáře AI k implementaci robustních bezpečnostních mechanismů proti zneužití, zejména u generativních modelů schopných vytvářet deepfakes. Pro uživatele v těchto zemích znamená omezený přístup k nástroji, který sloužil k rychlé tvorbě obsahu, a nutnost hledat alternativy jako ChatGPT nebo Claude s lepšími filtry. Pro průmysl to podtrhuje nutnost souladu s místními zákony, což může způsobit fragmentaci AI služeb podle regionů – podobně jako u TikToku nebo VPN blokací. xAI, zaměřená na “maximálně pravdivou” AI bez přísných cenzur, čelí výzvám v porovnání s konkurenčními modely od OpenAI nebo Google, které mají pokročilejší guardraily. V širším kontextu to urychluje debatu o mezinárodních standardech pro AI bezpečnost, kde země jako EU s AI Act již zavádějí přísné pravidla pro vysokorizikové aplikace. Dlouhodobě to může ovlivnit inovace v generativní AI, protože vývojáři budou muset investovat do detekce a blokování škodlivých požadavků, což zvyšuje náklady na vývoj.
Zdroj: 📰 Livemint
