Souhrn
Ministerstvo informací a komunikačních technologií Filipín (DICT) nařídilo okamžité blokování přístupu k Grok, chatbotu s umělou inteligencí vyvinutému společností xAI Elona Muska. Důvodem je porušení zákona Republic Act No. 9775 proti dětské pornografii, protože uživatelé zneužili Grok k generování sexuálně konotovaných obrázků, včetně deepfakes zobrazujících ženy a děti. Filipíny se tak staly třetí zemí, která Grok blokuje, po Malajsii a Indonésii.
Klíčové body
- DICT podle sekretáře Henryho Agudy reagovalo rychle kvůli závažnosti porušení, které zahrnuje tvorbu deepfakes s dětmi.
- Přístup k Grok bude obnoven pouze po prokázání souladu s filipínskými zákony a standardy.
- Národní komise pro ochranu soukromí koordinuje s vývojáři xAI a čeká na jejich odpověď.
- Grok čelí globální kritice za nedostatečné omezení generování sexualizovaných obrázků přímo v sociálních sítích.
- Další země situaci pozorně sledují.
Podrobnosti
Grok je multimodalní AI chatbot od společnosti xAI, kterou založil Elon Musk v roce 2023 jako konkurenční alternativu k modelům jako GPT od OpenAI. Integruje se přímo do platformy X (dříve Twitter) a umožňuje uživatelům generovat textové odpovědi i obrázky pomocí vestavěného modelu Flux, který je známý menšími bezpečnostními omezeními než u konkurentů jako DALL-E nebo Midjourney. Právě tato volnost vedla k zneužití: uživatelé zadávali příkazy na tvorbu upravených, sexualizovaných obrázků reálných osob, včetně nezletilých, což porušuje filipínský Anti-Child Pornography Act z roku 2009. Sekretář DICT Henry Aguda to potvrdil v rozhovoru pro rádio a zdůraznil nutnost okamžité akce.
Toto není ojedinělý případ. Grok byl dříve kritizován za podobné problémy v Malajsii a Indonésii, kde došlo k blokacím kvůli stejným bezpečnostním dírek. Model Flux, který pohání generování obrázků, postrádá robustní filtry proti nevhodnému obsahu, což umožňuje obejít ochrany snadnými triky v promptách. Na rozdíl od uzavřených systémů jako ChatGPT, kde OpenAI implementovalo vrstvy moderace včetně watermarků a detekce deepfakes, xAI volí přístup s menší cenzurou, aby podpořilo “maximální pravdu” a kreativitu. To však zvyšuje rizika zneužití v citlivých oblastech jako ochrana dětí.
Národní komise pro soukromí nyní komunikuje s xAI, která zatím nereagovala veřejně. Pro filipínské uživatele to znamená úplné omezení přístupu k Grok přes web i aplikace, což ovlivní tisíce, kteří ho používali pro rychlé generování obsahu. V širším kontextu to odhaluje slabiny současných generativních AI v globálním nasazení, kde lokální zákony vyžadují přizpůsobení safeguardů.
Proč je to důležité
Tento krok Filipín signalizuje rostoucí regulační tlak na AI firmy v Asii, kde země jako Indie nebo Thajsko již zavádějí podobné kontroly. Pro xAI to znamená nutnost investovat do lepších bezpečnostních mechanismů, jako jsou pokročilé detektory deepfakes nebo geolokální filtry, jinak riskuje další blokace na klíčových trzích. V průmyslu to podtrhuje debatu mezi otevřeností AI a etickou odpovědností: zatímco Muskova vize zdůrazňuje méně restrikcí, realita ukazuje, že bez nich dochází k škodám, zejména v oblasti ochrany nezletilých. Pro uživatele to otevíře otázku alternativ, jako jsou lokální AI nebo upravené modely s lepší moderací, a urychlí globální standardy pro image generation v AI.
Zdroj: 📰 Yugatech.com
