Souhrn
Platforma X vlastněná Elonem Muskem zavádí omezení na funkci editace obrázků v AI chatbota Grok, která brání úpravám fotek skutečných lidí v odhalujícím oblečení, jako jsou bikiny nebo spodní prádlo. Tento krok reaguje na bezpečnostní obavy britského regulátora Ofcom, který zahájil vyšetřování po hlášeních o zneužívání nástroje k tvorbě sexualizovaných obrázků žen a dětí. Omezení platí globálně v problematických jurisdikcích a týká se všech uživatelů, včetně prémiových.
Klíčové body
- Grok nyní geoblokuje generování a editaci obrázků skutečných lidí v bikinis, spodním prádle nebo podobném oblečení v zemích, kde je to nezákonné.
- Funkce editace a tvorby obrázků zůstane dostupná pouze prémiovým uživatelům, ale s novými bezpečnostními vrstvami.
- Elon Musk obviňuje „adversariální hackování” z generování nelegálního obsahu, přestože NSFW nastavení má povolovat nudity pouze u imaginárních dospělých.
- Britský premiér Keir Starmer oceňuje kroky X, ale vyšetřování Ofcom pokračuje.
- Opatření má usnadnit odpovědnost uživatelům, kteří porušují zákony nebo pravidla platformy.
Podrobnosti
Platforma X, dříve známá jako Twitter a vlastněná Elonem Muskem, reaguje na rostoucí tlak regulátorů omezením funkcí AI chatbota Grok. Grok, vyvinutý společností xAI (firmou Muska zaměřenou na vývoj pokročilých AI modelů), umožňoval uživatelům editovat a generovat obrázky pomocí vestavěného nástroje pro manipulaci s fotografiemi. Tento nástroj sloužil k rychlé úpravě existujících fotek nebo tvorbě nových na základě textových popisů, což zahrnovalo i změny oblečení nebo pózy postav.
Problém nastal, když uživatelé zneužívali tuto funkci k sexualizaci obrázků skutečných žen a dokonce dětí, což vedlo k hlášením a vyšetřování britského mediálního regulátora Ofcom. Ofcom zahájil šetření na začátku týdne a zaměřil se na soulad X s britskými zákony o online bezpečnosti. V odpovědi na to X v středu zveřejnila příspěvek, kde oznámila geoblokování problematických funkcí v příslušných jurisdikcích. Konkrétně jde o zákaz editace obrázků reálných osob v „odhalujícím oblečení, jako jsou bikiny”, což má přidat vrstvu ochrany a usnadnit identifikaci a sankcionování porušovatelů.
Funkce tvorby a editace obrázků v Grok je nyní omezena na prémiové uživatele, kteří platí za rozšířený přístup k AI. Elon Musk v příspěvcích na X tvrdí, že Grok je navržen tak, aby odmítal nelegální obsah, a obviňuje „adversariální hackování” – techniky, při kterých uživatelé obcházejí bezpečnostní filtry pomocí chytrých formulací promptů. S zapnutým NSFW režimem (Not Safe For Work) má Grok povolovat nudity pouze u imaginárních dospělých lidí, nikoli reálných. Britský premiér Keir Starmer tento krok uvítal, ale zdůraznil, že vláda neustoupí a vyšetřování Ofcom bude pokračovat nezávisle.
Toto omezení odráží širší trend v AI průmyslu, kde firmy jako OpenAI nebo Google zavádějí podobné filtry proti deepfakeům a NSFW obsahu. V EU a UK rostou regulace, jako je Digital Services Act, které nutí platformy brát odpovědnost za generovaný obsah. Pro uživatele to znamená méně svobody v kreativním použití AI, ale vyšší bezpečnost proti zneužití.
Proč je to důležité
Tato změna podtrhuje napětí mezi inovacemi v AI a regulatorními požadavky na bezpečnost. Grok, jako konkurent modelům jako GPT-4 nebo Claude, se specializuje na méně restriktivní přístup, což přitahovalo uživatele hledající volnost, ale zároveň zvyšovalo rizika. Omezení v X může ovlivnit adopci podobných nástrojů jinde – firmy budou muset integrovat geolokaci a pokročilé filtry, což zpomalí vývoj, ale sníží právní rizika. Pro průmysl to signalizuje, že bezpečnostní krize v generativní AI (jako deepfakes) vedou k globálním standardům. V kontextu Muskovy xAI, která cílí na AGI, to ukazuje kompromisy nutné pro komerční úspěch v regulovaném prostředí. Dlouhodobě to posílí důvěru v AI, ale omezí experimenty s multimodálními funkcemi, jako je image editing.
Zdroj: 📰 The Irish Times
