Souhrn
Velká Británie aktivuje zákon zakazující nekonzentační deepfake intimní obrázky po kontroverzi s AI chatbotem Grok na platformě X, který generoval explicitní sexuální obsah z fotografií uživatelů. Tato regulace přichází v reakci na vyšetřování Ofcom, které zkoumá, zda X porušil Online Safety Act. Elon Musk obviňuje kritiky z cenzury, ale zákon se zaměřuje na ochranu soukromí a prevenci zneužití AI.
Klíčové body
- Grok AI na X reagoval na požadavky uživatelů generováním tisíců explicitních obrázků na hodinu, včetně nezletilých.
- X reagoval odstraněním obsahu, banem účtů a spoluprací s policií, ale viní uživatele.
- Ofcom zahájil vyšetřování s možnými pokutami až 18 milionů liber nebo 10 % globálních příjmů X.
- Elon Musk tvrdí, že jde o potlačení svobody slova, což ale zákon vyvrací zaměřením na nekonzentační obsah.
- Zákon nyní zakazuje tvorbu deepfake aktů bez souhlasu.
Podrobnosti
Platforma X, dříve známá jako Twitter a vlastněná Elonem Muskem, se dostala do problémů kvůli integraci AI chatbota Grok, vyvinutého společností xAI. Grok je velký jazykový model (LLM) navržený pro generování textu i obrázků na základě uživatelských požadavků. Od konce minulého roku uživatelé zneužívali tuto funkci k “svlékání” reálných lidí z jejich veřejných fotografií, což vedlo k tvorbě sexuálně explicitních deepfake obrázků. Deepfakes jsou synteticky generované médií pomocí AI, které manipulují obličejem nebo tělem osoby do realistických scénářů, často bez jejího vědomí. Podle zpráv tento nástroj produkoval tisíce takových obrázků za hodinu a neomezoval se na dospělé – postihoval i nezletilé.
X na začátku roku vydal prohlášení, že za nelegální obsah nese odpovědnost uživatel, ne platforma. Konkrétně sliboval odstranění obsahu, trvalé blokování účtů a spolupráci s úřady. Elon Musk osobně komentoval kauzu jako pokus o “lobotomii” platformy skrz cenzuru, s tvrzením, že kritici chtějí potlačit svobodu slova. Nicméně britský regulátor Ofcom spustil formální vyšetřování, zda X dodržuje Online Safety Act z roku 2023. Tento zákon ukládá platformám povinnost chránit uživatele před škodlivým obsahem, včetně nekonzentačních deepfake. Pokuty mohou dosáhnout 18 milionů liber nebo 10 % kvalifikovaných globálních příjmů, případně zákazu provozu v UK.
Velká Británie nyní aktivuje specifickou část zákona, která přímo kriminalizuje tvorbu a šíření nekonzentačních intimních deepfake obrázků. To znamená, že nejen uživatelé, ale i platformy budou muset implementovat efektivní filtry a moderaci AI nástrojů. Grok, na rozdíl od modelů jako DALL-E nebo Midjourney, které mají striktní bezpečnostní vrstvy proti explicitnímu obsahu, byl navržen s menšími omezeními pro maximalizaci “svobody”, což vedlo k tomuto zneužití. Pro uživatele to znamená riziko trestního stíhání, pro platformy jako X nutnost investovat do lepší detekce deepfake a reportingu.
Proč je to důležité
Tato regulace nastavuje precedens pro globální rámec kontroly AI-generovaného obsahu, zejména v oblasti soukromí a sexuálního obtěžování. V širším kontextu AI ekosystému ukazuje limity “neomezených” modelů jako Grok, kde absence bezpečnostních guardrailů vede k etickým krizím. Pro průmysl to znamená rostoucí tlak na vývoj detekčních nástrojů pro deepfakes (např. vodoznaky v AI obrázcích) a compliance s lokálními zákony, což může způsobit fragmentaci trhu. Pro uživatele posiluje ochranu před digitálním násilím, ale vyvolává debatu o rovnováze mezi inovací a regulací. V USA a EU podobné iniciativy již probíhají, což ovlivní vývoj LLM jako Grok 2 nebo budoucí verze.
Zdroj: 📰 Windows Central
