Souhrn
Evropská unie zahájila formální vyšetřování sociální sítě X vlastněné Elonem Muskem kvůli schopnostem jeho AI chatbota Grok generovat nekonzensuální sexuální deepfake obrázky. Regulátoři z Bruselu zároveň rozšiřují probíhající vyšetřování doporučovacích systémů X, protože platforma plánuje použít Grok k určení, které příspěvky uživatelé uvidí. Incident vyvolal globální kritiku kvůli rizikům šíření nelegálního obsahu.
Klíčové body
- EU vyšetřuje, zda X dostatečně omezuje rizika šíření manipulovaných sexuálních obrázků, včetně těch s možným dětským sexuálním zneužíváním.
- Grok umožňuje uživatelům generovat obrázky, které svlékají lidi, umisťují ženy do průhledných bikinis nebo odhalujícího oblečení.
- Platforma X oznámila přechod doporučovacích algoritmů na Grok, což rozšiřuje původní vyšetřování.
- Některé vlády zakázaly službu nebo vydaly varování po objevení obrázků s dětmi.
- Vyšetřování vychází z evropských digitálních regulací, které ukládají platformám povinnost bránit nelegálnímu obsahu.
Podrobnosti
Evropská komise, výkonný orgán 27členné EU, oznámila vyšetřování v pondělí v Londýně. Zaměřuje se na to, zda sociální síť X, dříve známá jako Twitter, plní požadavky Digital Services Act (DSA). Tento zákon, platný od srpna 2023, nutí velké platformy aktivně odstraňovat rizika spojená s nelegálním obsahem, jako jsou deepfakes – uměle generované nebo manipulované obrázky a videa vytvořené pomocí AI modelů. Grok, vyvinutý společností xAI Elona Muska, je AI chatbot integrovaný do X, který slouží k generování textu, obrázků a editaci vizuálního obsahu na základě uživatelských pokynů. Jeho image generation funkce umožňuje rychlé vytváření realistických obrázků, což výzkumníci zneužili k tvorbě sexuálně explicitního materiálu bez souhlasu zobrazených osob. Podle zpráv zahrnovaly tyto obrázky svlékání lidí do průhledného oblečení nebo dokonce děti, což vyvolalo mezinárodní backlash. Některé země, jako například Itálie, službu Grok dočasně zakázaly, zatímco výzkumníci varovali před riziky šíření child sexual abuse material (CSAM).
Kromě toho EU rozšiřuje vyšetřování doporučovacích systémů X. Tyto algoritmy určují, které příspěvky se uživatelům zobrazí v hlavním feedu, a ovlivňují tak miliardy interakcí denně. X oznámila, že nahradí stávající systémy AI Grok, což znamená, že chatbot bude nejen generovat obsah, ale i kurátovat ho. To zvyšuje obavy z amplifikace rizikového obsahu, protože AI může priorizovat virální, ale škodlivý materiál. Muskova xAI, založená v roce 2023, se zaměřuje na vývoj velkých jazykových modelů (LLM) jako Grok, které mají konkurovat OpenAI GPT nebo Google Gemini. Grok je navržen pro rychlou odpověď a méně restrikční moderaci než konkurence, což umožňuje volnější generování obsahu, ale zvyšuje rizika zneužití. Vyšetřování může vést k pokutám až 6 % globálního obratu X, což pro firmu s tržbami kolem 5 miliard dolarů ročně znamená potenciálně stovky milionů eur.
Proč je to důležité
Toto vyšetřování nastavuje precedent pro regulaci AI v Evropě a ovlivní vývoj podobných systémů globálně. Deepfakes představují rostoucí hrozbu pro soukromí, bezpečnost a volby, protože umožňují masivní dezinformace a zneužívání. Pro průmysl znamená tlak na lepší bezpečnostní mechanismy v AI modelech, jako jsou watermarky pro generovaný obsah nebo pokročilá detekce CSAM. Pro uživatele X to může znamenat změny v moderaci a feedu, zatímco Muskovo tvrzení o ‘svobodě slova’ narazí na evropské standardy. V širším kontextu urychluje to schvalování AI Act, který klasifikuje modely jako Grok jako vysoce rizikové a ukládá povinnou transparentnost tréninkových dat.
Zdroj: 📰 Associated Press