Souhrn
Společnost X Corp., vlastněná Elonem Muskem, oznámila omezení funkcí chatbotu Grok, který odteď nebude generovat umělé obrázky reálných lidí v sexuálně sugestivních pózách bez oblečení, pokud to odporuje místním zákonům. Tento krok přichází po vlně kritiky z USA, Velké Británie a konzervativních zemí jako Malajsie a Indie, kde byly hlášeny deepfakes žen, dívek a dokonce dětí bez jejich souhlasu. Změna politiky byla aktualizována 15. ledna 2026.
Klíčové body
- Grok, konverzační AI model od xAI (společnosti Elona Muska zaměřené na vývoj pokročilých AI systémů), nebude již vytvářet deepfakes reálných osob v nevhodných situacích tam, kde je to ilegální.
- Kalifornský generální prokurátor Rob Bonta varoval před „lavinou” deepfakes a vyzval k okamžité akci; prošetřování běží kvůli možným porušením státních zákonů.
- Britský regulátor Ofcom vyšetřuje případy včetně sexualizovaných obrázků dětí; hrozí pokuta až 10 % globálních příjmů X nebo blokace platformy.
- Elon Musk označil Británii za „fašistický stát” a kritizoval premiéra Keira Starmera; USA varovaly před eskalací.
- Ministerstvo obrany USA plánuje integrovat Grok do vojenských systémů navzdory kontroverzi.
Podrobnosti
Chatbot Grok, vyvinutý firmou xAI, umožňuje uživatelům generovat obrázky na základě textových popisů pomocí pokročilých modelů difúzní generace, jako je Flux.1 od Black Forest Labs, který xAI licencovala. Tato funkce byla zneužita k tvorbě nonkonsenzuálních deepfakes – umělých obrázků celebrit, politiků i obyčejných lidí v kompromitujících situacích. V Kalifornii generální prokurátor Rob Bonta popsál situaci jako „šokující“ a zdůraznil nulovou toleranci k AI-generovaným intímním obrázkům bez souhlasu nebo materiálům s dětským sexuálním zneužíváním. Prošetřování se zaměřuje na porušení státních zákonů o soukromí a deepfakes.
Ve Velké Británii regulátor Ofcom reagoval na „znepokojivé zprávy“ o zneužití Grok k tvorbě sexualizovaných obrázků dětí. Pokud X poruší zákony, hrozí pokuta až 10 % globálních příjmů (odhadovaně 24 milionů dolarů) nebo blokace platformy. Premiér Keir Starmer prohlásil: „Pokud X nedokáže ovládnout Grok, uděláme to my.“ Musk na to odpověděl na X, že Británie hledá „jakýkoli důvod k cenzuře“. Tato výměna eskalovala do diplomatického sporu: mluvčí amerického ministerstva zahraničí Sarah B. Rogers varovala, že „nic není vyloučeno“, pokud UK zablokuje X. Navzdory tomu americké ministerstvo obrany oznámilo integraci Grok do vojenských systémů pro analýzu dat a rozhodování.
Kritika se rozšířila i do konzervativních zemí jako Malajsie a Indie, kde deepfakes ohrožují kulturní normy a mohou vést k dalším regulacím. xAI, která se soustředí na „maximálně pravdivou“ AI bez přílišných bezpečnostních filtrů, teď ustupuje tlaku, což ukazuje napětí mezi inovací a etikou.
Proč je to důležité
Tato událost zdůrazňuje rostoucí regulační tlak na AI generátory obrázků, jako je Grok, DALL-E nebo Midjourney, které umožňují rychlou tvorbu hyperrealistických deepfakes. Pro uživatele to znamená méně svobody v kreativním použití AI, ale vyšší ochranu soukromí – deepfakes již slouží k šikaně, vydírání nebo politické manipulaci. Pro průmysl signalizuje konec éry nekontrolovaného generování: firmy jako xAI musí implementovat geolokální filtry a detekci reálných tváří (např. pomocí Face ID modelů), což zpomalí vývoj, ale zabrání krizím. V širším kontextu posiluje debatu o globálních standardech AI bezpečnosti, jako je nadcházející EU AI Act, a ukazuje, jak se tech giganti jako X ocitají mezi volným trhem a státními zákony. Muskova defenziva navíc prohlubuje politizaci AI, což může ovlivnit adopci v citlivých oblastech jako armáda.
Zdroj: 📰 SiliconANGLE News
