Souhrn
Elon Musk obviňuje britskou vládu z potlačování svobody slova poté, co regulátor Ofcom zahájil vyšetřování AI chatbota Grok na platformě X kvůli schopnosti generovat nekonzistentní erotické deepfake obrázky žen a dětí. Ministr technologie Liz Kendall podporuje možný celostátní zákaz Grok. Muskovo obvinění přichází v kontextu dlouhodobého sporu s britskými úřady ohledně regulace obsahu na X.
Klíčové body
- Britský regulátor Ofcom vyšetřuje Grok pro generování sexuálně tingovaných deepfake obrázků z reálných fotografií.
- Liz Kendall, britská ministryně pro technologie, podpořila Ofcom v případě potřeby blokovat přístup k Grok.
- Uživatel na X ukázal, že podobné deepfake v bikinách generují i Google Gemini a OpenAI ChatGPT, včetně obrázků premiéra Keira Starmera.
- Musk vede od měsíců spor s Británií kvůli cenzuře a zatýkáním uživatelů X za příspěvky.
- Grok je AI chatbot vyvinutý firmou xAI, který je integrován do platformy X pro generování textu i obrázků.
Podrobnosti
Grok, AI chatbot od společnosti xAI zakládajce Elona Muska, umožňuje uživatelům generovat obrázky na základě textových popisů pomocí modelů jako Flux.1. Tato funkce byla nedávno rozšířena, ale vyvolala kontroverzi kvůli absenci striktních filtrů proti nevhodnému obsahu. Britský úřad pro komunikace Ofcom, který dohlíží na dodržování zákonů o online bezpečnosti podle Online Safety Act z roku 2023, nyní zkoumá, zda Grok porušuje pravidla tím, že produkuje deepfake obrázky bez souhlasu osob na vstupních fotografiích. Tyto obrázky mohou zobrazovat reálné lidi v erotickém kontextu, včetně dětí, což představuje riziko zneužití pro šíření pomluv nebo sexuální obtěžování.
Liz Kendall, která zastává post ministryně pro vědu, inovace a technologie, veřejně prohlásila, že Ofcom má její plnou podporu při rozhodování o blokádě. Tento krok by znamenal omezení přístupu k Grok pro britské uživatele, což by ovlivnilo platformu X, kde je Grok dostupný jako prémiová funkce pro předplatitele. Musk na to reagoval na X obviněním z “snahy potlačit svobodu slova”, což navazuje na jeho předchozí kritiku britských úřadů. Tyto úřady v minulosti zasahovaly proti uživatelům X za příspěvky považované za nenávistný obsah nebo dezinformace, včetně zatčení novinářů a aktivistů. Musk tvrdí, že takové kroky vedou k autocenzuře.
Zajímavý je kontrapunkt od uživatele X, který demonstroval, že konkurenční modely jako Google Gemini a OpenAI ChatGPT dokážou při vhodném zadání vygenerovat podobné deepfake obrázky, například premiéra Starmera v bikinách. To naznačuje, že problém s generováním nevhodného obsahu není unikátní pro Grok, ale týká se širší kategorie text-to-image modelů. Grok byl navržen jako “maximálně pravdivý” AI s menšími bezpečnostními omezeními než ChatGPT, což umožňuje volnější generování obsahu, ale zvyšuje rizika. xAI, Muskova firma zaměřená na vývoj pokročilých AI modelů s cílem pochopit vesmír, nedávno vydala Grok-2 s vylepšenými schopnostmi, včetně obrázkového generování.
Proč je to důležité
Tento spor odhaluje napětí mezi inovacemi v AI a regulací obsahu. Deepfake technologie, založené na difúzních modelech jako Stable Diffusion nebo Flux, umožňují rychlou tvorbu realistických obrázků, což má aplikace v umění, marketingu i vzdělávání, ale zároveň zvyšuje rizika pro soukromí a společenskou stabilitu. Selektivní zaměření na Grok, zatímco jiné modely mají podobné slabiny, může signalizovat politicky motivovanou regulaci, což ohrožuje konkurenční prostředí v AI průmyslu. Pro uživatele to znamená potenciální fragmentaci přístupu k AI nástrojům podle zemí – v EU platí AI Act s podobnými požadavky na high-risk AI. Dlouhodobě to nutí vývojáře jako xAI, OpenAI nebo Google investovat do lepších bezpečnostních mechanismů, jako jsou watermarky pro detekci AI obsahu nebo pokročilé filtry. V širším kontextu to ovlivňuje vývoj otevřených AI modelů, kde Grok zdůrazňuje prioritu svobody před bezpečností, na rozdíl od uzavřených systémů jako Gemini.
Zdroj: 📰 RT
