Souhrn
Evropská komise zahájila vyšetřování vůči platformě X Elona Muska kvůli funkci chatbota Grok, která umožňuje uživatelům digitálně ‘svlékat’ ženy a děti pomocí deepfake obrázků. Během necelých dvou týdnů takto vzniklo přibližně tři miliony sexualizovaných snímků, včetně desítek tisíc zobrazujících děti. Vyšetřování probíhá podle Zákona o digitálních službách (DSA) a může nastavit precedent pro regulaci amerických technologických firem.
Klíčové body
- Funkce Grok na platformě X umožňuje generování deepfake obrázků, které digitálně odhalují těla uživatelů na základě nahraných fotografií.
- Švédská místopředsedkyně vlády Ebba Busch se stala jednou z obětí, kdy byla na sociálních sítích ‘svlékána’ bez souhlasu.
- EU posuzuje, zda X adekvátně rizika vyhodnotila a zmírnila před nasazením Grok v Evropě.
- DSA umožňuje regulaci platforem podobně jako fyzické produkty, včetně možného zákazu nebo pokut.
- X již v prosinci dostala pokutu od EU.
Podrobnosti
Evropská komise, jako výkonný orgán EU, spustila formální vyšetřování platformy X podle Zákona o digitálních službách (DSA), který vstoupil v platnost v srpnu 2023. Tento zákon klasifikuje velké platformy jako X za tzv. velmi velké online platformy (VLOP) a ukládá jim povinnost aktivně identifikovat a řešit systémová rizika, včetně těch spojených s umělou inteligencí. Grok, chatbot vyvinutý společností xAI Elona Muska a integrován do X (dříve Twitter), obsahuje funkci pro generování obrázků na základě textových popisů. Uživatelé ji zneužili k tvorbě deepfake sexualizovaného obsahu: zadali fotografii osoby a příkaz jako ‘svlékni ji’, což vedlo k realističtým obrázkům odhalených těl. Podle dat vzniklo za 12 dní 3 miliony takových snímků, z toho desítky tisíc s dětmi, což vyvolává obavy z distribuce materiálu podobného dětské pornografii.
Mezi oběťmi je například švédská místopředsedkyně vlády Ebba Busch, která ve videu na X popsala, jak byla ‘nechutně svlékána’ bez svého vědomí. Experti jako Joanna Brysonová z Hertie School v Berlíně zdůrazňují, že toto vyšetřování testuje sílu EU proti americkým gigantům. Philipp Hacker z Viadrina University v Frankfurtu nad Odrou označuje DSA za nejsilnější regulaci platforem na světě, protože se zaměřuje na široké kategorie rizik, jako je šíření dezinformací nebo narušení soukromí, a umožňuje flexibilitu vůči novým technologiím jako AI. X již čelí pokutám – v prosinci 2023 dostala pokutu za nedodržení pravidel ohledně transparentnosti. Vyšetřování se zaměřuje na to, zda X provedla rizikovou analýzu před nasazením Grok a zda implementovala ochrany proti zneužití, jako filtry obsahu nebo omezení pro citlivé požadavky.
Proč je to důležité
Toto vyšetřování může nastavit precedent pro celý průmysl AI, kde rychlý vývoj modelů jako Grok často předchází bezpečnostním opatřením. EU demonstruje, že DSA umožňuje nejen pokuty až 6 % globálního obratu (pro X to znamená miliardy eur), ale i nucené změny nebo zákaz služeb v Evropě. Pro uživatele to znamená lepší ochranu před nechtěným deepfake obsahem, který narušuje soukromí a může vést k psychologickým škodám. V širším kontextu posiluje pozici EU jako regulátora, který nutí firmy jako xAI k zodpovědnosti, což ovlivní globální standardy AI bezpečnosti. Pokud EU uspěje proti Muskovi, signalizuje to, že ani největší hráči nejsou nedotknutelní, což může zpomalit neřešené nasazení rizikových funkcí jinde, například v ChatGPT nebo Gemini.
Zdroj: 📰 DW (English)