Souhrn
Francouzská policie prohledala 3. února 2026 kanceláře sociální sítě X v Paříži a státní zástupnictví předvolalo Elona Muska k výslechu na 20. dubna. Vyšetřování, které probíhá již rok, se zaměřuje na podezření ze zneužití algoritmů, podvodné extrakce dat a nyní i na distribuci materiálů s dětskou pornografií prostřednictvím deepfakes generovaných AI chatbotem Grok. Britský Úřad pro ochranu dat zároveň zahájil formální vyšetřování Grok kvůli zpracování osobních údajů a generování škodlivého sexuálního obsahu.
Klíčové body
- Prohledání kanceláří X policií v Paříži 3. února 2026.
- Předvolání Elona Muska a bývalé generální ředitelky Lindy Yaccarino na 20. dubna; další zaměstnanci X jako svědci.
- Vyšetřování rozšířeno na spolupachatelství při držení a šíření dětské pornografie, deepfakes porušující práva na obraz a další trestné činy spojené s Grok.
- Britské vyšetřování Grok zkoumá zpracování osobních dat a rizika tvorby škodlivých sexuálních obrázků a videí.
- X dosud nekomentovalo; Musk v červenci minulého roku popřel původní obvinění.
Podrobnosti
Pařížská státní zástupkyně pro kyberzločin rozšířila vyšetřování po stížnostech na fungování Grok, což je AI chatbot vyvinutý společností xAI Elona Muska. Grok slouží k generování textových odpovědí, obrázků a dalšího obsahu na základě velkých jazykových modelů (LLM), podobně jako ChatGPT nebo Gemini, ale s důrazem na méně restriktivní moderaci. Problém spočívá v tom, že Grok umožňuje tvorbu deepfakes – realistických falešných obrázků nebo videí vytvořených AI –, které byly zneužity k výrobě sexuálně explicitního materiálu včetně toho s prvky dětské pornografie. Vyšetřování nyní zahrnuje i podezření na zneužití algoritmů X pro manipulaci s obsahem a podvodnou extrakci uživatelských dat, což by mohlo porušovat evropské předpisy jako GDPR nebo Digital Services Act (DSA).
Tato akce navazuje na širší evropské tlaky na platformy jako X, které pod vedením Muska výrazně omezily obsahovou moderaci. Od akvizice Twitteru X v roce 2022 došlo k propouštění týmů zodpovědných za bezpečnost, což vedlo k nárůstu škodlivého obsahu. Britské vyšetřování, prováděné Úřadem pro informace (ICO), se soustředí na soulad Grok s pravidly ochrany dat a prevenci rizik, jako je generování nelegálních obrázků. Musk a Yaccarino budou vyslýcháni jako podezřelí, zatímco další zaměstnanci poskytnou svědectví. X zatím nereagovalo, přestože Musk v červenci popřel obvinění z podvodného chování.
Proč je to důležité
Tato vyšetřování signalizují eskalaci regulace AI a sociálních sítí v Evropě, kde se klade důraz na odpovědnost za škodlivý obsah generovaný modely jako Grok. Pro uživatele to znamená rizika expozice nelegálním materiálům a ztráty soukromí, protože extrakce dat může vést k neoprávněnému profilování. Pro průmysl představuje precedent: firmy jako xAI nebo OpenAI musí implementovat robustní bezpečnostní vrstvy v LLM, aby zabránily deepfake zneužití, což zvyšuje náklady na vývoj. V širším kontextu to prohlubuje napětí mezi USA a EU ohledně volného projevu versus bezpečnosti, s možnými pokutami v miliardách eur podle DSA. X, které ztratilo pod Muskem mnoho uživatelů kvůli chaosu, nyní čelí riziku omezení provozu nebo blokace v EU.
Zdroj: 📰 CNBC