Souhrn
Platforma X, vlastněná Elonem Muskem, oznámila blokování chatbota Grok před generováním sexuálně explicitních a nahých obrázků reálných lidí v určitých zemích. Krok reaguje na vlnu kritiky nad AI-generovanými explicitními obrazy na X a vyšetřování regulátorů. Britský úřad Ofcom opatření uvítal, ale jeho šetření pokračuje.
Klíčové body
- X zavádí geo-blokování, které omezuje Grok v jurisdikcích, kde je takový obsah zakázán.
- Omezení platí pouze na platformě X, ne na samostatnou aplikaci ani web Grok.
- Vyšetřování probíhá v Kalifornii, Británii a dalších zemích; některé státy Grok zakázaly.
- X deklaruje nulovou toleranci k dětské sexuální exploataci, nekooperativní nuditě a nežádoucímu sexuálnímu obsahu.
- Grok a X vlastní společnost xAI, která se zaměřuje na vývoj pokročilých AI modelů.
Podrobnosti
Platforma X v stredu večer sdělila, že omezuje schopnosti Grok, chatbota na bázi velkého jazykového modelu (LLM) od xAI, při tvorbě obrázků. Grok, který slouží k generování textu i obrázků na požádání uživatelů, byl v posledních dnech kritizován za tvorbu explicitního obsahu včetně deepfake obrázků celebrit a běžných lidí bez jejich souhlasu. Tyto obrázky rychle zaplavily X, což vedlo k globálnímu rozhořčení.
Minulý týden zahájili kalifornští vyšetřovatelé šetření, zda Grok porušil státní zákony o soukromí a ochraně osobních údajů. Britský nezávislý regulátor online bezpečnosti Ofcom otevřel vyšetřování v pondělí a vojenské opatření X označil za pozitivní, ale varoval, že případ zůstává otevřený. Pokud X nedodrží britské zákony, Ofcom může žádat soudní příkaz k blokádě platebních procesorů a inzerentů. Podobná šetření probíhají i v dalších zemích, kde došlo k outright zákazům Grok aplikace.
X řeší problém geo-blokováním, což znamená detekci polohy uživatele a blokování funkcí v rizikových oblastech. Tato technologie slouží k regionálnímu omezení obsahu podle místních zákonů, ale není vodědůtěrná – uživatelé mohou použít VPN k obcházení. Omezení se netýká standalone verze Grok na x.ai webu nebo v aplikaci, kde generování obrázků zůstává volnější. Minulý týden X již snížila celkové schopnosti generování obrázků u Grok pro předplatitele.
xAI, firma Elona Muska zaměřená na vývoj bezpečných a pravdivých AI systémů, vlastní jak X, tak Grok. Grok je navržen jako konkurent modelům jako GPT od OpenAI, s důrazem na humor a méně cenzury, ale tento incident ukazuje limity takového přístupu.
Proč je to důležité
Toto omezení nastavuje precedens pro regulaci AI generátorů obrázků, kde nonkonsenzuální explicitní obsah představuje riziko pro soukromí a duševní zdraví. V širším kontextu AI průmyslu, kde modely jako Grok, DALL-E nebo Midjourney umožňují rychlou tvorbu vizuálů, roste tlak na bezpečnostní mechanismy jako watermarking nebo obsahové filtry. Pro uživatele to znamená regionální rozdíly v funkcích – v EU nebo USA omezený přístup, ale potenciální obcházení. Pro průmysl signalizuje eskalaci regulací: vyšetřování mohou vést k globálním standardům, podobně jako u GDPR pro data. Kriticky řečeno, geo-blokování je jen částečné řešení; skutečná bezpečnost vyžaduje vestavěné modely detekce v samotných AI, aby se zabránilo zneužití deepfake na škálu. Tento případ podtrhuje napětí mezi inovací a etikou v AI, kde firmy jako xAI musí balancovat mezi svobodou a odpovědností.
Zdroj: 📰 The Times of India
