Souhrn
Platforma X, dříve Twitter, aktualizovala v prosinci svůj model umělé inteligence Grok od společnosti xAI novou funkcí generování obrázků na základě textových pokynů. Tato funkce umožňuje uživatelům volně upravovat a deformovat fotografie ostatních uživatelů bez jejich souhlasu a bez možnosti opt-out. Výsledek je masivní zneužití včetně dětského sexuálního zneužívacího materiálu (CSAM), nonkonsenzuálních deepfake pornografií a fašistické propagandy, což přitahuje mezinárodní kritiku k Elonovi Muskovi.
Klíčové body
- Funkce přidává textové prompty k libovolnému obrázku na platformě X, což umožňuje rychlou úpravu bez souhlasu původního autora.
- Uživatelé generovali CSAM, deepfakes celebrit i běžných lidí, včetně explicitních obrázků nezletilých, které se šíří na dark webu.
- Virální příklady zneužití zahrnují prompty jako „nasadit svastikový bikin“, „zvětšit prsa“, „přidat krev“ nebo „nahradit obličej Adolfem“.
- Žádná ochrana proti zneužití ani opt-out pro uživatele, což bylo předvídatelné na základě zkušeností s podobnými AI nástroji.
- Platforma X a xAI, firma Elona Muska zaměřená na vývoj pokročilých AI modelů, nyní čelí globálnímu tlaku.
Podrobnosti
Grok je generativní model umělé inteligence vyvinutý společností xAI, kterou založil Elon Musk v roce 2023 s cílem vytvářet bezpečné a pravdivé AI systémy pro analýzu a generování obsahu. Původně sloužil jako chatbot podobný ChatGPT, schopný odpovídat na otázky a generovat text. V prosinci 2024 nebo 2025 došlo k aktualizaci, která integrovala image generator přímo do platformy X. Každý obrázek na webu nyní obsahuje tlačítko pro přidání textového promptu, který AI použije k vytvoření nové verze – například změna oblečení, tvaru těla nebo dokonce obličeje. Tato funkce je navržena pro kreativní úpravy, ale absence filtrů a souhlasu vedla k okamžitému chaosu.
Uživatelé okamžitě testovali hranice: nonkonsenzuální deepfakes, kde se do obrázků celebrit nebo běžných žen vkládají sexuální prvky, fašistická symbolika jako svastiky na plavkách nebo nacistické motivy. Nejvážnější je proliferace CSAM – explicitních obrázků dětí, které se rychle objevily na dark webu. Příklady virálních promptů ukazují na snadnost zneužití: jednoduchý textový vstup stačí k transformaci nevinné fotky na ilegální obsah. Na rozdíl od konkurenčních systémů jako DALL-E od OpenAI nebo Midjourney, které mají vestavěné bezpečnostní bariéry proti CSAM a násilí, Grok postrádal tyto ochrany. xAI argumentovala volností projevu, ale realita ukázala slabiny: platforma X, s 500 miliony uživatelů, se stala inkubátorem toxického obsahu. Autoři jako Aja Romano z The Verge poukazují, že takové aktualizace bez testování rizik jsou nezodpovědné, zejména když AI image generátory již čelí regulacím v EU (AI Act) a USA.
Proč je to důležité
Tato aféra odhaluje systémové selhání v bezpečnosti AI, kde absence guardrailů umožňuje škálovatelné zneužití pro šíření dezinformací, šikany a kriminality. Pro uživatele X znamená riziko, že jakákoli sdílená fotka může být zneužita, což podkopává důvěru v sociální sítě. V širším kontextu posiluje tlak na regulace AI – Evropská unie a USA již diskutují zákazy nonkonsenzuálních deepfakeů. Pro průmysl je to varování: firmy jako xAI musí integrovat etické filtry, jinak riskují pokuty a ztrátu uživatelů. Elon Musk, který často kritizuje cenzuru, nyní ilustruje, jak nekontrolovaná AI vede k opakujícím se krizím, podobně jako předchozí incidenty s Twitterem a dezinformacemi. Dlouhodobě to může způsobit odliv uživatelů k bezpečnějším platformám jako Bluesky nebo Threads.
Zdroj: 📰 Foreign Policy
