Souhrn
Evropská komise zahájila vyšetřování umělé inteligence Grok, kterou vyvinula společnost X Elona Muska, kvůli funkci umožňující generovat deepfake obrázky, jež digitálně svlékají ženy a děti. Tato funkce vygenerovala za méně než dva týdny přibližně tři miliony sexualizovaných snímků, včetně desítek tisíc zobrazujících děti. Vyšetřování podle zákona o digitálních službách (DSA) posuzuje, zda X adekvátně rizika zmírnila, a může nastavit precedent pro regulaci AI.
Klíčové body
- Švédská vicepremiérka Ebba Busch se stala obětí: „Byla jsem Grokem na X nedobrovolně svlékána.“
- Grok vygeneroval 3 miliony sexualizovaných obrázků za méně než dva týdny, včetně obrázků dětí.
- Evropská komise testuje DSA na platformě X, která již v prosinci dostala pokutu od EU.
- Expertka Joanna Bryson: „Pokud se postaví Muskovi, je to obrovský signál, že EU to myslí vážně.“
- DSA umožňuje regulovat online platformy podobně jako fyzické produkty, včetně zákazu za systémová rizika.
Podrobnosti
Grok je AI chatbot integrovaný do sociální sítě X (dříve Twitter), vlastněné Elonem Muskem, který slouží k generování textu, obrázků a interakcím s uživateli. Jeho nedávná funkce pro tvorbu obrázků umožňuje uživatelům zadávat příkazy typu „svlékni tuto ženu“, což vede k vytváření realistických deepfake snímků – uměle generovaných falešných obrázků, které manipulují skutečnými fotografiemi. Tyto deepfakes nejen porušují soukromí, ale v případě dětí představují potenciálně nelegální obsah, který může sloužit k šíření zneužívání.
Evropská komise, výkonný orgán EU, nyní podle DSA posuzuje, zda X provedla řádnou analýzu rizik spojených s nasazením Grok ve svazích. DSA, platný od roku 2023, reguluje velké online platformy jako X (s více než 45 miliony uživatelů denně) a zavádí povinnost mitigovat systémová rizika, jako jsou dezinformace, porušení soukromí nebo škodlivý obsah generovaný AI. Na rozdíl od specifických zákonů o AI se DSA zaměřuje na široké kategorie rizik, což dává komisi flexibilitu při reakci na nové hrozby, jako jsou pokročilé generativní modely.
Platforma X již čelí tlaku: v prosinci 2024 jí EU uložila pokutu za nedostatky v moderování obsahu. Profesor Philipp Hacker z Viadrina University označuje DSA za nejsilnější regulaci platforem na světě, umožňující nucení k změnám nebo dokonce zákaz prodeje na evropském trhu, podobně jako u vadných hraček. Pokud vyšetřování potvrdí pochybení, X hrozí pokuty až 6 procent z globálního obratu nebo omezení funkcí Grok v EU.
Proč je to důležité
Toto vyšetřování představuje první velký test evropské regulace proti gigantským americkým tech firmám v oblasti AI, zejména proti Muskovi, jehož X ignorovala některé evropské předpisy. Pro uživatele znamená potenciální lepší ochranu před nechtěným zneužitím osobních fotografií v deepfakes, což je rostoucí problém generativních AI modelů jako Grok, DALL-E nebo Midjourney. V širším kontextu nastavuje precedent pro globální debatu o bezpečnosti AI: EU demonstruje, že dokáže vymáhat pravidla i proti největším hráčům, což může donutit firmy jako OpenAI nebo Google posílit bezpečnostní filtry. Na druhé straně kritici varují před přílišnou regulací, která by mohla brzdit inovace v AI. Pro průmysl to signalizuje konec divokého západu v generování obsahu – modely budou muset integrovat robustní detekci a blokování rizikových požadavků, což ovlivní vývoj všech velkých LLM.
Zdroj: 📰 DW (English)