Souhrn
Francouzské úřady prohledaly v úterý kanceláře sociální sítě X v Paříži v rámci vyšetřování, které zkoumá šíření materiálu s dětským sexuálním zneužíváním, tvorbu explicitních deepfakes bez souhlasu, popírání zločinů proti lidskosti a manipulaci s automatizovanými datovými systémy. Vlastník platformy Elon Musk a bývalá generální ředitelka Linda Yaccarino jsou povoláni k dobrovolným výslechům. Platforma X označila akci za politicky motivovanou.
Klíčové body
- Prohledávání provedla pařížská prokuratura v úterý jako součást předběžného vyšetřování zahájeného v lednu minulého roku kyberzločinnou jednotkou.
- Podezření zahrnuje držení nebo šíření pornografických snímků nezletilých, generování deepfakes bez souhlasu a spolupráci v organizované skupině.
- Elon Musk a Linda Yaccarino (CEO od května 2023 do července 2025) mají se dostavit k výslechu 20. dubna; někteří zaměstnanci X jsou rovněž povoláni.
- X označila razii za „zneužití policejního divadla” a politicky motivovanou; prokuratura potvrdila akci a ohlásila odchod z platformy.
- Podpora od Europolu, vyšetřování spuštěno stížností francouzského zákonodárce na zkreslené algoritmy.
Podrobnosti
Vyšetřování zahájila pařížská prokuratura v lednu minulého roku po stížnosti francouzského poslance, který upozornil na možné zkreslení algoritmů platformy X ovlivňujících automatizované zpracování dat. Deepfakes, což jsou realistické falešné videa nebo obrázky generované modely umělé inteligence jako jsou generativní sítě typu GAN nebo difúzní modely, umožňují vytvářet explicitní obsah bez souhlasu osob na nich zobrazených. V tomto případě se zaměřuje na nelegální distribuce takového materiálu, včetně pornografie s nezletilými, což představuje vážné riziko pro platformy spoléhající se na AI moderování obsahu.
Prokurátoři zkoumají, zda X spolupracovala při držení nebo šíření těchto materiálů, generování deepfakes a dokonce popírání zločinů proti lidskosti, což by mohlo souviset s algoritmickým zesílením kontroverzního obsahu. Platforma X, dříve Twitter, vlastněná Elonem Muskem, čelí rostoucímu tlaku v Evropě kvůli nedostatečné moderaci. Linda Yaccarino, která vedla firmu od května 2023 do července 2025, byla zodpovědná za komerční a regulační strategie, včetně souladu s evropskými předpisy jako Digital Services Act (DSA).
X reagovala prohlášením na své platformě, kde razii označila za „zneužitý akt policejního divadla” bez spravedlivého soudního procesu. Pařížská prokuratura akci potvrdila přímo na X a oznámila odchod z platformy s výzvou k následování na jiných sítích. Evropská policejní agentura Europol poskytuje podporu, ale detaily neposkytla. Toto není izolovaný incident – X čelí podobným vyšetřováním v EU kvůli šíření dezinformací a škodlivého AI obsahu, kde algoritmy doporučující obsah selhávají v detekci deepfakes.
Proč je to důležité
Tato razie signalizuje eskalaci evropského dohledu nad AI produkty sociálních platforem, zejména v oblasti deepfakes, které představují rostoucí hrozbu pro soukromí a bezpečnost. Pro průmysl znamená zvýšený regulační tlak: platformy musí investovat do pokročilých AI detektorů deepfakes, jako jsou vodoznaky nebo forenzní analýzy, aby splnily DSA požadavky na transparentnost algoritmů. Pro uživatele to znamená riziko omezeného přístupu k obsahu a lepší ochranu před nelegálním materiálem, ale také potenciální cenzuru.
V širším kontextu to podtrhuje slabiny současných AI systémů moderování na X, kde biased algoritmy mohou zesilovat extrémní obsah. Elon Muskovo vedení platformy, zaměřené na volnost slova, naráží na evropské priority bezpečnosti, což může vést k pokutám v miliardách eur nebo zákazu provozu. Pro AI vývojáře je to varování: generativní modely musí integrovat etické limity proti zneužití, jinak čelí legálním rizikům. Celkově posiluje debatu o globální regulaci AI, kde EU vede v prosazování AI Act.
Zdroj: 📰 PetaPixel