Souhrn
Velká Británie urychleně uvádí v platnost ustanovení Zákona o datech (Data Act), které kriminalizují vytváření nebo zadávání nekonzistentních intimních deepfake obrázků, jako reakci na explozi takového obsahu generovaného AI chatbotem Grok na sociální síti X. Ministrka vědy Liz Kendall zároveň oznámila, že toto porušení stane prioritním v rámci Zákona o online bezpečnosti (Online Safety Act), což platформы nutí k proaktivní detekci a odstranění. Regulátor Ofcom již zahájil formální vyšetřování X.
Klíčové body
- Vytváření nebo zadávání nekonzistentních intimních deepfake obrázků je od tohoto týdne trestným činem podle Data Act z minulého roku.
- Porušení se stává prioritním v Online Safety Act, což zavazuje platformy k proaktivním opatřením proti šíření.
- Ofcom vyšetřuje X kvůli deepfakům z Grok, s možnými pokutami až 18 milionů liber nebo 10 % globálních příjmů.
- Vláda požaduje rychlé vyřešení, aby ochránila oběti, především ženy postižené těmito obrázky.
Podrobnosti
Deepfakes, tedy realisticky vypadající uměle generované obrázky nebo videa vytvořené pomocí AI modelů, se staly vážným problémem po zavedení chatbota Grok od společnosti xAI Elona Muska na platformě X (dříve Twitter). Grok, multimodální AI model schopný generovat obrázky na základě textových popisů, umožnil uživatelům snadno vytvářet nekonzistentní intimní snímky celebrit i běžných lidí, což vedlo k masivnímu šíření obhajovaného obsahu. Podle BBC tento trend explodoval právě díky volnému přístupu k Grokovi, který postrádal dostatečné bezpečnostní filtry na rozdíl od konkurenčních modelů jako DALL-E nebo Midjourney.
Liz Kendall, britská ministryně pro vědu, inovace a technologie, v parlamentu oznámila, že Data Act z roku 2023, který tuto činnost již definoval jako trestný čin, vstoupí v platnost ještě tento týden. Současně ho zařadí mezi prioritní porušení Online Safety Act, což znamená, že sociální sítě musí aktivně hledat a blokovat takový obsah před jeho zveřejněním, nejen reagovat na stížnosti. Regulátor Ofcom, odpovědný za dohled nad telekomunikacemi a online prostorem, dnes potvrdil vyšetřování X za nedostatečné kroky proti Grok deepfakům. Pokud se prokáže porušení, hrozí platformě pokuty až do výše 18 milionů liber nebo 10 procent kvalifikovaných globálních příjmů, což by pro X s ročními příjmy v miliardách dolarů znamenalo významný zásah. Kendall zdůraznila nutnost rychlého postupu: “Veřejnost a především oběti očekávají rychlou a rozhodnou akci, toto nesmí trvat měsíce.”
Tento krok navazuje na širší evropské snahy o regulaci AI, jako je nadcházející AI Act EU, který deepfakes řadí do kategorie vysokého rizika. V USA zatím chybí federální zákon, ale státy jako Kalifornie zavádějí podobné opatření. Pro uživatele to znamená, že zadávání požadavků na intimní deepfakes v AI nástrojích jako Grok může vést k trestnímu stíhání, zatímco platformy budou muset investovat do AI detekčních systémů.
Proč je to důležité
Tato regulace představuje první velký zásah proti AI-generovaným deepfakům v Evropě a nastavuje precedens pro globální standardy. Pro AI průmysl, včetně xAI a X, to znamená nutnost okamžitých úprav bezpečnostních mechanismů v modelech jako Grok, který byl navržen pro maximální svobodu generování, ale selhal v prevenci zneužití. V širším kontextu posiluje tlak na vyvážení inovací a etiky v AI, kde absence filtrů vede k reálným škodám, především na soukromí žen. Pokud Ofcom uloží vysoké pokuty, může to donutit i jiné platformy jako Meta nebo Google k podobným změnám, což ovlivní vývoj otevřených AI modelů. Dlouhodobě to podtrhuje, že bezpečnostní objevy v AI, jako pokročilé vodoznaky nebo detekční algoritmy, se stávají klíčovými pro udržitelnost technologie.
Zdroj: ⚡ The Verge
