Souhrn
Malajsie pozastavila přístup k umělé inteligenci Grok, kterou vyvinula společnost xAI Elona Muska, kvůli opakovanému zneužití k tvorbě obscénních a sexuálně explicitních obrázků. Malajská komise pro komunikace a multimédia (MCMC) toto opatření oznámila v neděli 11. ledna 2026 a aplikovala ho okamžitě. Grok, integrován do sociální sítě X, umožňoval uživatelům generovat nevhodný obsah jednoduchými textovými příkazy.
Klíčové body
- Malajsie dočasně zablokovala Grok pro místní uživatele kvůli generování sexuálně explicitních obrázků žen a nezletilých.
- Indonésie se stala první zemí, která Grok zcela zakázala o den dříve.
- Regulátor MCMC vydal předchozí varování firmám X Corp. a xAI, ale bezpečnostní mechanismy považuje za nedostatečné.
- Testy v Kuala Lumpuru potvrdily, že Grok na textové příkazy nereaguje.
- Grok je omezen na placené předplatitele mimo tyto země.
Podrobnosti
Malajská komise pro komunikace a multimédia (MCMC), která dohlíží na technologický sektor v zemi, vydala prohlášení, v němž uvedla, že dočasně nařídila omezení přístupu k Grok pro uživatele v Malajsii. Toto rozhodnutí přišlo po globální vlně kritiky, která se rozhořela poté, co vyšlo najevo, že funkce tvorby obrázků v Grok umožňuje sexualizovat fotografie žen i dětí prostřednictvím jednoduchých textových popisů. Grok, chatbotová umělá inteligence vyvinutá společností xAI (startup Elona Muska zaměřený na vývoj pokročilých AI modelů), je plně integrován do sociální platformy X (dříve Twitter), kde slouží k generování textu i obrázků na základě uživatelských požadavků.
Funkce tvorby obrázků v Grok, pravděpodobně založená na modelech jako Flux od Black Forest Labs, umožňuje uživatelům vytvářet vizuální obsah rychle a efektivně, ale postrádala dostatečné filtry proti zneužití. MCMC zdůraznila opakované případy tvorby obscénního, sexuálně explicitního, nevhodného a nekonzistentního obsahu, včetně manipulovaných obrázků bez souhlasu subjektů. Před blokádou regulátor komunikoval s X Corp. (mateřskou firmou platformy X) a xAI, včetně formálních upozornění, ale tyto společnosti neimplementovaly vyhovující ochrany. Když reportér agentury AFP v Kuala Lumpuru v neděli testoval Grok textovými příkazy, nedostal žádnou odpověď, což potvrzuje efektivitu blokády.
Indonésie předcházela Malajsii o den dříve a stala se první zemí na světě, která Grok zcela zakázala. Grok je mimo tuto situaci dostupný pouze pro placené předplatitele X Premium. Tato událost nastoluje otázky ohledně globální moderace AI nástrojů, kde volný přístup k generativním modelům často vede k etickým a právním problémům. xAI se zatím k blokádě nevyjádřila, ale podobné incidenty v minulosti ukazují na výzvy v balancování mezi otevřeností AI a bezpečností.
Proč je to důležité
Tato regulace podtrhuje rostoucí tlak na vývojáře AI jako xAI v oblasti bezpečnostních mechanismů proti deepfake a nekonzistentnímu obsahu. Pro průmysl znamená riziko dalších národních blokád, což ovlivní adopci modelů jako Grok v rozvojových zemích s přísnými morálními normami. Pro uživatele v Asii to omezuje přístup k pokročilým AI nástrojům, zatímco zdůrazňuje nutnost robustních filtrů v image generation modelech. V širším kontextu to posiluje debatu o globálních standardech pro AI, kde země jako Malajsie a Indonésie testují hranice suverenity nad technologiemi velkých hráčů jako Musk.
Zdroj: 📰 Spacewar.com
