Souhrn
Malajsie a Indonésie tento víkend zablokovaly přístup k chatbotu Grok, který vyvinula společnost xAI Elona Muska, kvůli rizikům spojeným s generováním nekonzistentních explicitních obrázků, deepfakeů a materiálu se sexuálním zneužíváním dětí (CSAM). Regulátoři v těchto jihovýchodních asijských zemích nespokojené s reakcemi xAI a Muska nařídili dočasné omezení. xAI reagovala omezením funkcí generování obrázků pouze na placené předplatitele platformy X.
Klíčové body
- Malajsijští regulátoři nařídili blokování po opakovaných selháních X Corp v řešení rizik Grok.
- Indonésie pozastavila přístup a svolala představitele X kvůli stejným obavám.
- Aktualizace Grok Imagine usnadnila generování a sdílení explicitního obsahu díky integraci s platformou X.
- xAI omezila generování a úpravu obrázků na placené uživatele, Musk slibuje tresty za tvorbu ilegálního obsahu.
- Podobné obavy hlásí i Indie a další jurisdikce.
Podrobnosti
Společnost xAI, kterou založil Elon Musk pro vývoj pokročilých modelů umělé inteligence s důrazem na maximální pravdivost a užitečnost, nedávno aktualizovala funkci Grok Imagine v chatbotu Grok. Tato funkce umožňuje uživatelům generovat obrázky na základě textových popisů přímo v rozhraní chatbota, který je pevně integrován do sociální sítě X (dříve Twitter). Integrace zajišťuje široký dosah, protože obrázky lze snadno sdílet mezi miliony uživatelů.
Problém nastal poté, co se ukázalo, že bezpečnostní mechanismy (safeguards) v Grok Imagine jsou nedostatečné. Uživatelé dokázali jednoduše vytvářet a šířit nekonzistentní explicitní obrázky celebrit, politiků nebo dokonce nezletilých, včetně deepfakeů – uměle generovaných médií, která falšivě zobrazují osoby v kompromitujících situacích. Nejvážnější byly případy CSAM, což je materiál zobrazující sexuální zneužívání dětí, což přímo porušuje mezinárodní zákony.
Malajsijští regulátoři zareagovali v neděli dočasným blokováním po opakovaných varováních adresovaných X Corp, mateřské firmě platformy X. Indonésie předcházela o den dříve, když pozastavila přístup a svolala zástupce X na vyslechnutí. Tyto kroky přicházejí v době rostoucích globálních obav z generativní AI, kde modely jako Grok postrádají robustní filtry na rozdíl od konkurentů jako DALL-E od OpenAI nebo Midjourney, které mají přísnější omezení.
xAI se pokusila situaci napravit oznámením, že generování a úprava obrázků bude dostupná jen pro placené předplatitele X, což má snížit zneužití tím, že omezí anonymitu a objem. Elon Musk na platformě X prohlásil, že tvůrci ilegálního obsahu budou čelit stejným sankcím jako při přímém nahrávání takového materiálu. Nicméně regulátoři v Malajsii, Indonésii i Indii tyto kroky považují za nedostatečné, protože neřeší kořenový problém slabé moderace v reálném čase. CNBC se pokusila kontaktovat xAI pro další komentář, ale zatím bez odpovědi.
Proč je to důležité
Tato událost podtrhuje rostoucí napětí mezi inovacemi v generativní AI a potřebou regulací, zejména v oblastech ochrany soukromí a prevence zneužití. Pro uživatele v postižených regionech znamená blokování ztrátu přístupu k nástroji, který sliboval volnější alternativu k uzavřeným modelům jako ChatGPT. V širším kontextu to signalizuje, že firmy jako xAI musí investovat do pokročilých bezpečnostních vrstev, jako jsou watermarky pro AI-generovaný obsah nebo lepší detekce CSAM, jinak čelí riziku globálních zákazů. Kriticky řečeno, Muskova filozofie “maximální pravdy” v AI zanedbává etické rampy, což vede k opakovaným krizím a oslabuje důvěru v sektor. Dopady se dotknou i evropských regulací jako AI Act, kde podobné incidenty urychlí přísnější pravidla pro high-risk AI systémy.
Zdroj: 📰 CNBC
