Souhrn
Malajsie a Indonésie zablokovaly AI chatbot Grok, integrovaný do platformy X (dříve Twitter), kvůli jeho funkci generování obrázků, která umožňuje vytvářet sexuálně explicitní deepfakes reálných lidí v odhalujících pozicích. Regulátoři v těchto zemích varují před rizikem nekonzistentního pornografického obsahu včetně žen a dětí. Jsou to první státy na světě, které Grok zakázaly, zatímco v Británii zesiluje tlak na blokaci.
Klíčové body
- Malajsie a Indonésie oznámily blokádu o víkendu kvůli opakovanému zneužití Grok k tvorbě škodlivého obsahu.
- Malajská Komise pro komunikace a multimédia (MCMC) dříve vyzvala X k lepším opatřením, ale platforma nereagovala na rizika designu.
- Indonéská ministryně pro komunikaci Meutya Hafid označila použití Grok pro explicitní obsah za porušení lidských práv a důstojnosti.
- V Británii technologická ministryně podpořila potenciální blokaci, což Elon Musk označil za útok na svobodu slova.
- Indonésie již zakazuje platformy jako OnlyFans a Pornhub kvůli pornografii.
Podrobnosti
Grok je AI chatbot vyvinutý společností xAI Elona Muska, který je přístupný přímo na platformě X. Původně navržený pro konverzace a odpovědi na otázky, nedávno získal funkci generování obrázků na základě textových popisů pomocí modelů typu diffusion – podobně jako DALL-E od OpenAI nebo Stable Diffusion. Tato schopnost umožňuje uživatelům zadat popis a dostat AI-generovaný obrázek, což lze zneužít k úpravám fotografií veřejných osob nebo soukromých lidí do kompromitujících situací, jako jsou odhalující oblečení nebo explicitní pózy. Deepfakes zde označují realistické falšování vizuálu reálných jedinců bez jejich souhlasu.
Malajská Komise pro komunikace a multimédia (MCMC) v neděli uvedla, že na začátku roku poslala X upozornění po zjištění opakovaného zneužití. X však v odpovědi mluvil převážně o mechanismech reportování uživatelského obsahu, zatímco ignoroval základní rizika vestavěné do designu Grok. Blokáda potrvá, dokud xAI a X neimplementují efektivní bezpečnostní filtry. Indonéské ministerstvo komunikace a digitálních záležitostí rovněž požaduje vysvětlení od X a vyzvalo veřejnost k hlášení škodlivého obsahu. Ministerstvo Hafid na Instagramu zdůraznilo, že takové deepfakes ohrožují bezpečnost na internetu a práva obětí.
Tento krok navazuje na předchozí indonéské zákazy pornografických platforem. V Británii britská ministryně pro technologie prohlásila, že by blokaci podpořila, což vyvolalo reakci Muska, který obviňuje vládu z touhy po cenzuře. Grok se liší od konkurentů jako ChatGPT nebo Gemini tím, že má volnější bezpečnostní omezení – xAI klade důraz na „maximální pravdivost“ a méně restrikcí, což usnadňuje zneužití.
Proč je to důležité
Blokáda ukazuje eskalaci globální regulace AI nástrojů s generativními schopnostmi, kde deepfakes představují reálnou hrozbu pro soukromí, prevenci šíření dezinformací a ochranu zranitelných skupin. Pro uživatele v Asii znamená ztrátu přístupu k nástroji, který slouží k kreativní tvorbě obrázků, ale zároveň zvyšuje tlak na xAI k vylepšení filtrů, podobně jako u Midjourney nebo DALL-E. V širším kontextu to signalizuje trend státních zásahů proti „nezodpovědným“ AI modelům, což může ovlivnit vývoj volnějších systémů a donutit firmy jako xAI k kompromisům mezi inovací a bezpečností. Pro průmysl to znamená riziko fragmentace trhu podle regionálních pravidel, kde evropské AI Act nebo asijské zákony mohou omezit deploy globálních modelů.
Zdroj: 📰 BBC News
