Souhrn
Britská vláda připravuje zákaz nudifikačních aplikací, které slouží výhradně k vytváření nekonzensuálních nahých obrázků a videí pomocí generativní AI, ale tento zákaz se nedotkne obecnějšího AI systému Grok od společnosti xAI Elona Muska. Podle ministryně pro technologie Liz Kendall se regulace zaměří pouze na nástroje s jediným „opovrženíhodným“ účelem. Grok, integrován do sociální sítě X, byl kritizován za zneužití k tvorbě sexuálně zaměřených deepfakeů, především na úkor žen a dětí.
Klíčové body
- Zákaz nudifikačních aplikací bude zaveden prostřednictvím zákona Crime and Policing Bill, který právě prochází parlamentním schvalováním.
- Grok, jako general-purpose AI, generuje nejen obrázky, ale i text a další obsah, proto nespadá pod regulaci.
- Britský regulátor Ofcom zahájil vyšetřování platformy X kvůli souladu s Online Safety Act a může uvalit blokaci nebo pokuty.
- Vláda oznámila plán na zákaz v prosinci, před eskalací kontroverze kolem Groku.
- xAI, Muskova firma zaměřená na vývoj pokročilých AI modelů, čelí politické kritice za nedostatečnou moderaci.
Podrobnosti
Liz Kendall, britská ministryně pro technologie, v dopise předsedkyni parlamentního výboru pro vědu, inovace a technologie Chi Onwurah uvedla, že nadcházející zákaz se omezí na aplikace s jediným účelem – využívat generativní AI k manipulaci fotografií reálných lidí v nekonzensuální nahé deepfakes. Tyto nudifikační aplikace, často založené na modelech jako Stable Diffusion nebo podobných difuzních architekturách, umožňují uživatelům nahrát snímek oblečené osoby a automaticky odstranit oblečení, což vede k šíření zneužívajícího obsahu. Grok, naopak, je multimodalní AI systém od xAI, který slouží k generování textu na bázi velkých jazykových modelů (LLM), analýze dat i tvorbě obrázků pomocí integrovaného image generation modulu (pravděpodobně založeného na Flux od Black Forest Labs). Je dostupný přímo v aplikaci sociální sítě X (dříve Twitter), kde uživatelé mohou zadávat příkazy pro širokou škálu úkolů, od psaní textů po kreslení obrázků.
Kontroverze kolem Groku explodovala po vlně sexuálně explicitních deepfakeů, které cílily na ženy i děti, což vyvolalo politický rozruch. Navzdory tomu Kendall Grok explicitně zmínila jako příklad nástroje, který regulace nezasáhne, protože jeho primární funkce přesahují pouze tvorbu erotického obsahu. Vláda plán na zákaz oznámila v prosinci, v kontextu širšího úsilí o boj proti AI-generovaným zneužitím intimních obrázků. Současně regulátor Ofcom spustil vyšetřování X za nedostatečnou ochranu uživatelů podle Online Safety Act, s možností blokace platformy v Británii nebo vysokých pokut. Departement pro vědu, inovace a technologie na dotazy POLITICO okamžitě neodpověděl. Tato situace odhaluje slabiny současné regulace: general-purpose AI jako Grok nebo ChatGPT lze zneužít pro škodlivé účely, ale jejich univerzálnost ztěžuje cílené zákazy bez omezení inovací.
Proč je to důležité
Tato regulace nastavuje precedent pro evropský přístup k AI, kde se rozlišuje mezi specializovanými nástroji a univerzálními modely, podobně jako v nadcházejícím EU AI Act, který klasifikuje AI podle rizik. Pro průmysl znamená, že firmy jako xAI nebo OpenAI mohou pokračovat v nasazování LLM s image generation bez okamžitých zákazů, ale čelí tlaku na lepší bezpečnostní mechanismy, jako watermarking nebo obsahové filtry. Pro uživatele to podtrhuje rizika deepfakeů – technologie, které dosahují realistických výsledků díky pokročilým GAN nebo difuzním modelům – a nutnost platformové moderace. V širším kontextu to signalizuje eskalaci státní intervence do AI ekosystému, kde volnost vývoje naráží na etické a bezpečnostní hranice, což může ovlivnit globální standardy a zvýšit náklady na compliance pro Muskovo impérium včetně X a xAI.
Zdroj: 📰 POLITICO.eu
