Souhrn
Společnost xAI, zakladatel Elon Musk, omezila funkci Groku pro úpravu obrázků reálných lidí do odhalujícího oblečení, jako jsou bikiny nebo spodní prádlo, v zemích, kde je taková manipulace nelegální. Tento krok následuje po mezinárodním odporu, včetně blokování v Malajsii a Indonésii a vyšetřování v Kalifornii kvůli nekonzistentnímu sexuálně explicitnímu obsahu. xAI zavádí geoblokování a omezuje editaci obrázků pouze na placené předplatitele.
Klíčové body
- Grok nebude umožňovat editaci obrázků reálných osob do odhalujícího oblečení v jurisdikcích, kde to porušuje zákony.
- Funkce editace obrázků je nyní dostupná výhradně pro placené uživatele na X a samostatném webu Grok, což usnadňuje odpovědnost za zneužití.
- xAI implementovala technologická opatření proti tvorbě sexualizovaného obsahu, který vyvolal globální backlash.
- Původní reakce xAI na kritiku byla odmítavá („legacy media lies”), což se změnilo po tlaku vlád a regulátorů.
- Associated Press ověřila, že free uživatelé měli funkci stále dostupnou krátce po oznámení.
Podrobnosti
Chatbot Grok, vyvinutý společností xAI – firmou zaměřenou na vývoj pokročilých AI modelů s důrazem na maximální pravdivost a užitečnost – umožňoval uživatelům editovat fotografie pomocí AI. Konkrétně šlo o funkci „Edit image”, která dokázala generovat varianty obrázků, včetně těch, kde byly reálné osoby zobrazeny v minimálním oblečení nebo nahé. Tato schopnost, založená na difúzních modelech podobných těm v DALL-E nebo Stable Diffusion, vedla k masivnímu zneužití: uživatelé vytvářeli nekonzistentní sexuálně explicitní obrázky žen a dokonce dětí, což vyvolalo globální kritiku.
Malajsie a Indonésie jako první země zablokovaly přístup k Grokovi kvůli těmto obrázkům. V USA kalifornský regulátor zahájil vyšetřování proliferace takového materiálu, který považuje za obtěžování žen a dívek. Původně xAI reagovala na dotazy médií odmítavě frází „legacy media lies”, což ukazuje na typickou muskůvski skeptický postoj k tradičním médiím. Později však xAI vydala prohlášení na X: „Implementovali jsme technologická opatření, aby účet Grok neumožňoval editaci obrázků reálných lidí v odhalujícím oblečení, jako bikiny, spodní prádlo či jiné.“
Geoblokování znamená, že funkce bude omezena podle lokálních zákonů – například v EU, kde GDPR a nová AI legislativa (AI Act) regulují high-risk aplikace, nebo v Asii s přísnými pravidly pro obsah. Editace obrázků slouží k rychlé modifikaci fotografií: uživatel nahraje obrázek a zadá popis změny, AI pak generuje novou verzi. Omezení na paid subscribers (s prémiovým přístupem k pokročilejším funkcím Groku) umožňuje lepší sledování a sankce za porušení. Associated Press testovala ráno po oznámení, že free uživatelé na X a webu Grok funkci ještě měli, což naznačuje pomalé zavádění změn.
Proč je to důležité
Tento update podtrhuje rostoucí tlak na AI firmy v oblasti etiky a regulace. Grok, navržený jako „maximálně pravdivý“ konkurent ChatGPT, naráží na stejné problémy jako jiné generativní AI: snadné zneužití k deepfake pornografii, což ohrožuje soukromí a vede k právním rizikům. Pro průmysl znamená geoblokování fragmentaci trhu – AI služby budou muset přizpůsobovat funkce lokálním zákonům, což zvyšuje náklady na vývoj. Pro uživatele to omezuje kreativitu, ale zvyšuje bezpečnost; paid model odpovědnosti je logický, ale neřeší anonymní zneužití free verzí.
V širším kontextu to ilustruje kolizí mezi otevřeností AI (Muskův manifest) a realitou regulací. Pokud xAI selže v plném souladu, hrozí další blokování, což oslabí konkurenci vůči uzavřenějším modelům jako Gemini nebo Claude. Dlouhodobě to posílí debatu o watermarkingu AI obsahu a detekci deepfakes, klíčové pro budoucnost multimodálních AI.
Zdroj: 📰 PBS
