Souhrn
Elon Musk označil kritiku deepfake sexuálních obrázků generovaných AI chatbotem Grok na platformě X za výmluvu pro cenzuru ze strany britské vlády. Premiér Keir Starmer vyzval X k ovládnutí situace a požádal regulátora Ofcom o prozkoumání všech opatření, zatímco Indonésie dočasně zablokovala přístup k Grokovi. xAI reagovala omezením funkcí editace obrázků na placené předplatitele, což ale Downing Street označila za nedostatečné.
Klíčové body
- Elon Musk obviňuje britskou vládu z touhy po cenzuře a poukazuje na podobné funkce u jiných AI nástrojů.
- Premiér Keir Starmer žádá Ofcom o aktivní kroky proti Grokovi kvůli sexuálním deepfakům.
- Indonésie jako první země dočasně zablokovala Grok po stížnostech na nevhodný obsah.
- Internet Watch Foundation (IWF) hlásí zneužití Groka k tvorbě obrázků sexuálního zneužívání dětí.
- xAI změnila nastavení Groka, ale Musk zůstává vůči regulacím defiantní.
Podrobnosti
Grok je velký jazykový model (LLM) vyvinutý společností xAI, kterou založil Elon Musk v roce 2023 jako odpověď na uzavřené modely jako GPT od OpenAI. Na rozdíl od konkurentů jako ChatGPT nebo Gemini je Grok navržený pro maximální pravdivost a minimální cenzuru, což zahrnuje schopnost generovat obrázky pomocí integrovaného modelu podobného Flux od Black Forest Labs. Tato funkce umožňuje uživatelům vytvářet realistické deepfakes – AI generované obrázky, které manipulují tvářemi reálných osob v různých scénářích, včetně sexuálních. Problém eskaloval, když IWF, nezisková organizace zaměřená na odstraňování CSAM (child sexual abuse material), zjistila, že zločinci využívají Grok k tvorbě takového nelegálního obsahu.
Britský premiér Keir Starmer reagoval výzvou, aby X “dostal situaci pod kontrolu”, a obrátil se na Ofcom, britského regulátora médií, který má pravomoci vynucovat dodržování online bezpečnostních zákonů. Indonésie, kde došlo k podobným stížnostem, chatbot dočasně zablokovala, čímž se stala první zemí s takovým krokem. V Evropě a Asii probíhají vyšetřování sexuálně tingovaného obsahu. xAI na tlak zareagovala omezením editace obrázků na prémiové uživatele X (dříve Twitter), což znamená, že bezplatní uživatelé nemohou generovat upravené snímky. Musk toto označil za nedostatek a sdílel příspěvky kritizující Labour vládu za selektivní zaměření na X, zatímco jiné AI jako Midjourney nebo DALL-E umožňují tvorbu obrázků žen v plavkách bez protestů. “Miliony aplikací to umí, není to nový problém, jen nový nástroj,” citoval jeden z příspěvků, který Musk amplifikoval. Kritici však upozorňují, že Grokova volnější povaha zvyšuje rizika dezinformací a šíření škodlivého obsahu na sociální síti s miliardami uživatelů.
Proč je to důležité
Tato kontroverze odhaluje klíčový konflikt v ekosystému AI: rovnováhu mezi inovací a bezpečností. Deepfakes z Groka nejen umožňují anonymní tvorbu nelegálního CSAM, ale ohrožují i veřejnou důvěru v AI generovaný obsah, což urychluje globální regulace jako EU AI Act nebo britský Online Safety Act. Pro průmysl znamená, že méně cenzurované modely jako Grok riskují blokace a pokuty, zatímco uživatelé čelí rizikům osobního zneužití – od revenge porn po politické manipulace. Muskův postoj posiluje debatu o svobodě projevu versus odpovědnosti platforem, ale ignoruje, že absence robustních guardrails (jako u Anthropicových Claude modelů) vede k reálným škodám. Dlouhodobě to může zpomalit adopci open-source AI v komerčním prostředí a donutit xAI k hlubšímu investování do detekce zneužití, což by mohlo stanovit standardy pro budoucí LLM s multimodálními schopnostmi.
Zdroj: 📰 Sky.com
