Souhrn
Francouzští policisté prohledali pařížskou centrálu společnosti X Corp., vlastněné Elonem Muskem, v souvislosti s vyšetřováním obvinění ze šíření obrázků dětského sexuálního zneužívání prostřednictvím chatbota Grok. Elon Musk a bývalá šéfka X Linda Yaccarino dostali předvolání k dobrovolnému výslechu. Vyšetřování, zahájené v červenci minulého roku, se zaměřuje na několik trestných činů včetně deepfake obrázků a popírání holocaustu.
Klíčové body
- Razie provedly francouzské jednotky pro kyberzločin, prokuratura a Europol v pařížské centrále X.
- Obvinění zahrnují šíření obrázků dětského sexuálního zneužívání, deepfake generování porušující soukromí, nezákonný sběr dat a popírání holocaustu.
- Musk a Yaccarino mají vysvětlit svůj postoj a opatření pro soulad s francouzským právem.
- X označuje obvinění za nepodložená a razii za politicky motivovanou.
- Vyšetřování bylo zahájeno v červenci 2025 a pokračuje konstruktivním přístupem.
Podrobnosti
Vyšetřování proti X Corp. bylo zahájeno v červenci 2025 a nyní dosáhlo vrcholu razií v pařížských kancelářích. Francouzská prokuratura spolupracuje s policejní jednotkou pro kyberzločin a Europolem, což naznačuje mezinárodní rozměr případu. Grok, chatbot vyvinutý společností xAI Elona Muska a integrovaný do platformy X, je středem zájmu kvůli podezření, že umožnil šíření nelegálního obsahu. Grok slouží k generování textu a obrázků na základě požadavků uživatelů, což zvyšuje rizika v oblastech jako deepfakes – uměle vytvořené realistické obrázky nebo videa, které mohou porušovat práva na soukromí tím, že falšují podobu osob bez souhlasu.
Prokuratura zdůrazňuje konstruktivní přístup s cílem donutit X k dodržování francouzského práva na svém území. Muskovi a Yaccarino bylo doručeno dobrovolné předvolání k výslechu, kde mají vysvětlit fakta a plánovaná opatření. X reagovala prohlášením, že obvinění jsou nepodložená a razie představuje zneužití práva pro politické cíle, což ohrožuje právo na spravedlivý proces, soukromí a svobodu slova uživatelů. Elon Musk na platformě X označil akci za politicky motivovanou. Tento případ navazuje na dlouhodobé spory X s evropskými regulacemi, jako je Digital Services Act, který ukládá platformám povinnost moderovat nelegální obsah včetně CSAM (child sexual abuse material).
V kontextu AI znamená tento incident rizika nekontrolovaného generování obsahu. Grok, na rozdíl od uzavřených modelů jako GPT-4, je navržen pro maximální otevřenost, což usnadňuje zneužití k tvorbě deepfake nebo jiného škodlivého materiálu. Platformy jako X musí investovat do detekce AI-generovaného obsahu, například pomocí vodoznaků nebo modelů pro klasifikaci, ale X byla kritizována za oslabení moderace po Muskově převzetí v roce 2022.
Proč je to důležité
Tento případ ukazuje rostoucí regulační tlak na AI platformy v Evropě, kde země jako Francie prosazují přísné standardy pro obsahovou bezpečnost. Pro průmysl to znamená nutnost posílit bezpečnostní mechanismy v chatbotech, jako je Grok, aby se zabránilo generování CSAM nebo deepfake, což by mohlo vést k pokutám v miliardách eur podle DSA. Pro uživatele to podtrhuje rizika volně dostupných AI nástrojů, kde absence filtrů umožňuje snadné zneužití. V širším ekosystému to ovlivní vývoj otevřených AI modelů, protože firmy jako xAI budou muset balancovat mezi inovací a compliance, což může způsobit zpomalení nasazení nových funkcí. Elon Muskovo impérium, včetně X a xAI, čelí tak dalšímu právnímu výzvě, což ovlivní důvěru investorů a uživatelů v tech sektoru.
Zdroj: 📰 SiliconANGLE News