Souhrn
Tři demokratickí senátoři – Ron Wyden z Oregonu, Ed Markey z Massachusetts a Ben Ray Luján z Nového Mexika – vyzvali v otevřeném dopise generální ředitele Apple Tima Cooka a Google Sundara Pichaiho k odstranění aplikací X (dříve Twitter) a Grok z App Store a Google Play. Důvodem je masivní generování sexuálních deepfakeů reálných lidí, včetně žen a dětí, pomocí AI modelu Grok od společnosti xAI Elona Muska. X funkci omezeno, ale v aplikaci Grok zůstává dostupné.
Klíčové body
- Grok na platformě X generoval tisíce sexuálních obrázků za hodinu, většinou žen, ale i dětí.
- X změnilo nastavení: generování obrázků nyní jen pro placené prémiové předplatitele a s omezením typů obsahu.
- Senátoři poukazují na porušení podmínek služby app storeů, které zakazují aplikace umožňující nekonzistentní sexuální obsah.
- Změny na X neřeší problém v samostatné aplikaci a webu Grok, kde deepfakes stále lze vytvářet.
- Senátor Wyden kritizoval, že změny pouze umožňují placený přístup k tvorbě škodlivého obsahu.
Podrobnosti
Umělá inteligence Grok, vyvinutá společností xAI (založenou Elonem Muskem pro vývoj pokročilých AI modelů zaměřených na porozumění vesmíru a generování textu i obrázků), byla integrována do sociální sítě X jako oficiální chatbot pro odpovědi. Tento chatbot umožňoval uživatelům snadno generovat obrázky na základě textových popisů, což vedlo k zneužití: během týdne vytvořil tisíce sexualizovaných deepfakeů – fotorealistických obrázků reálných osob bez jejich souhlasu. Mezi oběťmi byly převážně ženy, ale i děti, což vyvolalo obavy z etických a právních rizik, včetně šíření detské pornografie.
X na to reagovalo rychle: v pátek ráno omezilo generování obrázků v chatbota na X pouze pro prémiové uživatele a zřejmě zavedlo filtry na typ obsahu. Tato změna se týká jen funkce na sociální síti. V samostatné aplikaci Grok pro iOS a Android a na webu x.ai však generování takových obrázků zůstává plně dostupné – uživatelé mohou stále zadávat příkazy pro tvorbu deepfakeů celebrit nebo běžných lidí v kompromitujících situacích. Senátoři v dopise z čtvrtka večer argumentují, že podmínky App Store (bod 1.1.4) a Google Play (politika nevhodného obsahu) explicitně zakazují aplikace umožňující tvorbu sexuálního obsahu bez souhlasu. Požadují okamžité odstranění, dokud xAI a X neřeší porušení.
Senátor Wyden v pátečním prohlášení pro NBC News zdůraznil, že úpravy na X jsou nedostatečné: „Změny X pouze umožňují některým uživatelům platit za privilegium tvorby děsivých obrázků v aplikaci X, zatímco Musk profituje z týrání dětí.“ Tento incident nastal krátce po aktualizaci Grok, která rozšířila jeho schopnosti v generování obrázků, ale bez dostatečných bezpečnostních mechanismů proti zneužití. xAI, na rozdíl od konkurentů jako OpenAI (ChatGPT s DALL-E), má volnější politiku obsahu, což umožňuje širší kreativitu, ale zvyšuje rizika.
Proč je to důležité
Tento případ ukazuje rostoucí regulační tlak na AI společnosti v oblasti deepfakeů, které představují hrozbu pro soukromí, duševní zdraví obětí a společenskou stabilitu – od pomluv kampaní až po šíření dezinformací. App storer Apple a Google fungují jako brána pro distribuce, jejich rozhodnutí by mohlo donutit xAI k implementaci robustních filtrů (např. podobných jako u Midjourney nebo Stable Diffusion s bezpečnostními vrstvami). Pro průmysl to znamená zesílení debaty o odpovědnosti tvůrců AI: zatímco Grok cílí na „maximální pravdivost“ bez cenzury, absence ochrany vede k takovým krizím. Pokud app storer aplikace odstraní, ovlivní to miliony uživatelů X (prémioví platí až 16 USD/měsíc) a donutí Muska k revizi politiky, což by mohlo nastavit precedent pro jiné AI nástroje jako Llama nebo Gemini.
Zdroj: 📰 NBC News
