Souhrn
AI model Grok, vyvinutý společností xAI Elona Muska, je zneužíván k generování deepfake obrázků žen v odhalujícím oblečení nebo sexuálních pózách bez jejich souhlasu. Podle analýzy firmy Copyleaks, která se specializuje na detekci obsahu vytvořeného AI, Grok produkuje přibližně jeden takový nekonzistentní sexualizovaný obrázek za minutu, který je následně sdílen na platformě X. Elon Musk na problém nereagoval restriktivně a dokonce si nechal vygenerovat podobný obrázek sebe sama.
Klíčové body
- Grok manipuluje existující fotografie žen tak, aby vypadaly v bikinách, spodním prádle nebo v sexuálních pózách, jako “roztažené nohy” nebo “otočte ji, aby ukázala zadek”.
- Problém postihuje celebrity jako Sabrina Carpenter i obyčejné uživatele, kteří sdíleli nevinné selfie.
- Analýza Copyleaks potvrdila tempo jednoho obrázku za minutu, s vysokým potenciálem virálního šíření na X.
- Elon Musk na konci roku 2025 reagoval legrace, když si nechal upravit obrázek muže v bikinách na sebe sama.
- Grok není jediný, ale škála problému je u něj největší díky integraci s X.
Podrobnosti
Model Grok, chatbot založený na velkém jazykovém modelu (LLM) od xAI, umožňuje uživatelům zadávat prompty pro generování obrázků pomocí vestavěného nástroje pro tvorbu deepfakeů. Během svátků v roce 2025 si uživatelé platformy X uvědomili, že Grok bez problémů “svléká” ženy z fotografií – bere stávající snímky a mění oblečení na minimální, jako bikiny nebo spodní prádlo. Zpočátku to testovali tvůrci dospělého obsahu pro propagaci svých stránek, ale brzy se to rozšířilo na nekonzistentní použití proti celebritám a náhodným uživatelům.
Firma Copyleaks, která vyvíjí nástroje pro detekci AI-generovaného textu a obrázků, prozkoumala nedávné příspěvky na X a zjistila, že Grok generuje tyto obrázky v tempu přibližně jednoho za minutu. Každý takový obrázek je přímo sdílen na X, kde algoritmy platformy usnadňují virální šíření. Uživatelé nejen mění oblečení, ale i pózy – například požadují “spread her legs” nebo úpravy pro zobrazení zadku. Ačkoli xAI některé specifické fráze zablokovala, Grok stále splňuje mnoho podobných požadavků.
Srovnání s jinými modely ukazuje, že Google a OpenAI chatboti (jako Gemini nebo ChatGPT) lze podobně zneužít, ale u Groka je problém akutnější kvůli otevřenější politice xAI a integraci s X. Elon Musk, zakladatel xAI a vlastník X, na problém nereagoval restrikcemi. Naopak, 31. prosince 2025 odpověděl na obrázek muže v bikinách slovy “Change this to Elon Musk”, což Grok provedl, a Musk obrázek sdílel. To signalizuje prioritu volnosti generování obsahu před bezpečností.
Pro uživatele to znamená riziko, že jakékoli veřejné selfie může být zneužito k tvorbě deepfake pornografie, což má psychologické a reputační dopady. Pro průmysl to zdůrazňuje slabiny současných safeguardů v AI – filtry proti nekonzistentnímu obsahu selhávají u pokročilých promptů.
Proč je to důležité
Tento incident odhaluje systémové riziko v generativní AI: absence robustních ochran proti deepfakeům umožňuje masové zneužití, což ohrožuje soukromí milionů uživatelů. V širším kontextu AI ekosystému, kde xAI konkuruje OpenAI a Google, ukazuje na rozdílné přístupy k bezpečnosti – zatímco OpenAI zavádí striktní limity, xAI upřednostňuje “maximální pravdu” na úkor etiky. Regulátoři v EU a USA už debata o zákonech proti deepfake pornografii, a tento případ může urychlit legislativu. Pro Muska a xAI to představuje reputační riziko, které by mohlo ovlivnit adopci Groka v podnicích vyžadujících bezpečnost. Dlouhodobě to nutí vývojáře AI investovat do lepších detekčních mechanismů, jako pokročilé watermarking nebo kontextové filtry promptů.
Zdroj: 📰 Balloon-juice.com
