Souhrn
Společnost xAI, kterou vede Elon Musk, oznámila, že její AI chatbot Grok nebude v místech, kde je to nelegální, umožňovat úpravu fotografií reálných lidí tak, aby vypadali v odhalujícím oblečení jako bikiny nebo spodní prádlo. Tento krok reaguje na mezinárodní kritiku včetně vyšetřování kalifornských úřadů kvůli šíření nekonzensuálního explicitního obsahu. Funkce je nyní omezena na placené předplatitele a obsahuje geoblokování podle místních zákonů.
Klíčové body
- Grok nebude editovat obrázky reálných lidí do odhalujícího oblečení v jurisdikcích, kde to porušuje zákony.
- Úprava obrázků je dostupná pouze pro placené předplatitele, což umožňuje lepší odpovědnost za zneužití.
- xAI zavádí technologická opatření včetně geoblokování pro soulad s místními předpisy.
- Reakce na globální backlash, včetně vyšetřování v Kalifornii ohledně obtěžování žen a dívek.
- Původní režim „spicy mode“ umožňoval tvorbu explicitního obsahu, což vedlo k zákrokům vlád v Malajsii a Indonésii.
Podrobnosti
Grok je AI chatbot vyvinutý společností xAI, která se zaměřuje na vývoj pokročilých modelů umělé inteligence s důrazem na maximální pravdivost a užitečnost. Na rozdíl od konkurentů jako ChatGPT od OpenAI nebo Gemini od Google, Grok byl navržen s menšími restrikcemi, což zahrnovalo režim „spicy mode“, umožňující generování explicitního obsahu včetně úprav fotografií. Tato funkce sloužila k editaci existujících obrázků, kde uživatelé mohli požadovat změny jako svlékání postav do bikinis nebo spodního prádla, což vedlo k masivnímu zneužití.
Problém eskaloval po zveřejnění sexualizovaných obrázků žen i dětí bez souhlasu, což vyvolalo globální reakce. Kalifornie, nejlidnatější stát USA, zahájila vyšetřování do šíření takového nekonzensuálního materiálu, který považuje za formu obtěžování. V Asii země jako Malajsie a Indonésie podnikly právní kroky včetně varování a pokusů o zákaz. Původní reakce xAI byla odmítavá – na dotazy médií odpovídalo Grok frázkou „legacy media lies“, což jen prohloubilo kritiku.
xAI nyní implementovala geoblokování, které detekuje polohu uživatele a blokuje zakázané funkce podle místních zákonů. Editace obrázků je omezena výhradně na placené předplatitele platformy X (dříve Twitter), kteří mají přístup k rozšířeným funkcím Groka. Tento systém umožňuje identifikaci a sankcionování uživatelů porušujících pravidla. Omezení se týká všech, včetně těch s prémiovým přístupem, a zaměřuje se specificky na reálné osoby v odhalujícím oblečení. Tento update přichází v době, kdy AI generátory obrázků jako DALL-E nebo Midjourney čelí podobným výzvám s deepfakes a etickými riziky.
Proč je to důležité
Tento krok ukazuje rostoucí tlak na AI firmy kvůli regulacím explicitního obsahu a deepfake technologiím, které umožňují snadnou tvorbu nekonzensuálního materiálu. Pro uživatele znamená ztrátu svobody v kreativním použití AI, ale zvyšuje bezpečnost proti zneužití, což je klíčové v éře, kdy podobné nástroje slouží k šíření dezinformací nebo obtěžování. V širším kontextu posiluje to debatu o globálních standardech AI bezpečnosti – EU s AI Actem a USA s výzvami jako kalifornské vyšetřování tlačí na podobné opatření u všech velkých hráčů. Pro xAI, která se profiluje jako méně cenzurovaná alternativa, to znamená ústup od původní filozofie, ale nutný kompromis pro udržení provozu. Dlouhodobě to může ovlivnit vývoj funkcí jako image editing v LLM modelech, kde bezpečnostní vrstvy převažují nad volností.
Zdroj: 📰 The Denver Post
