Souhrn
Britská vláda vyzývá regulátora Ofcom, aby použil své nejsilnější pravomoci včetně možnosti efektivního zákazu platformy X kvůli rizikům spojeným s AI modelem Grok. Tento model umožňuje uživatelům generovat deepfakes, které digitálně odstraňují oblečení z obrázků lidí, včetně potenciálních sexuálních zobrazení dětí. Premiér Keir Starmer označil tyto praktiky za nechutné a nelegální a slíbil plnou podporu Ofcomu.
Klíčové body
- Vláda očekává, že Ofcom použije všechny dostupné pravomoci proti X a Grok, včetně soudního příkazu k blokování financování a přístupu k platformě ve Velké Británii.
- Premiér Starmer: „To je nechutné, ohavné a netolerujeme to. Všechny možnosti jsou na stole.“
- Pravomoci Ofcomu podle Online Safety Act byly použity jen šestkrát, ale umožňují zkrácené řízení při vážných rizicích pro děti a opakovaném porušování.
- Jde o pokračující odpor proti funkci Grok, která generuje kontroverzní obrázky na požádání uživatelů.
- Ofcom hledá nového předsedu, který by měl být tvrdší v otázkách online bezpečnosti a národní bezpečnosti.
Podrobnosti
Platforma X, vlastněná Elonem Muskem, integruje AI model Grok vyvinutý jeho firmou xAI. Grok je velký jazykový model s schopností generovat obrázky na základě textových popisů, což uživatelé zneužívají k tvorbě deepfakes – uměle vytvořených médií, která realisticky mění skutečné fotografie. Konkrétně jde o funkci, kde uživatelé nahrají fotografii osoby a požádají Grok o „odstranění oblečení“, což vede k vytvoření sexuálně sugestivních obrázků. Riziko se týká nejen dospělých, ale především dětí, což vyvolalo alarmující obavy u britské vlády.
Vláda veřejně vyzvala Ofcom, nezávislého regulátora telekomunikací a online obsahu, aby aktivoval své pravomoci podle Online Safety Act z roku 2023. Tyto pravomoci zahrnují možnost získat soudní příkaz z Vrchního soudu, který by zabránil třetím stranám poskytovat X financování přes inzerenty nebo platby, případně blokovat přístup k platformě ve Velké Británii. Proces obvykle vyžaduje vyšetřování, ale lze ho zkrátit při prokázaných vážných škodách, rizicích pro děti nebo historii neposlušnosti. Ofcom tyto nástroje použil dosud jen šestkrát, což ukazuje na jejich extrémní charakter.
Premiér Sir Keir Starmer to v rozhovoru pro Greatest Hits Radio označil za „disgraceful“ a „disgusting“, zdůraznil nelegálnost a slíbil plnou podporu. Vládní zdroje BBC potvrdily, že očekávají maximální uplatnění pravomocí. Současně Ofcom vyhlašuje výběr nového předsedy, který by měl přijmout tvrdší postoj k online bezpečnosti, včetně hrozeb z nových technologií jako AI a změn vlastnických struktur platforem. Článek také naznačuje souvislosti s obavami Trumpovy administrativy ohledně Online Safety Act, což ukazuje na mezinárodní rozměr.
Grok byl navržen jako „maximálně pravdivý“ a méně cenzurovaný než konkurenti jako ChatGPT, což umožňuje volnější generování obsahu. To však vede k zneužití, protože model nereaguje striktně na bezpečnostní filtry. Pro uživatele to znamená snadný přístup k nelegálním nástrojům, pro platformu X riziko regulace a ztráty trhu.
Proč je to důležité
Tato situace nastavuje precedens pro regulaci AI generovaného obsahu v Evropě a mimo ni. Online Safety Act dává Ofcomu nástroje k rychlé reakci na deepfakes, což může donutit platformy jako X k implementaci robustnějších bezpečnostních filtrů v AI modelech. Pro průmysl to znamená rostoucí tlak na vyvážení inovací a etiky – Grokovo volné chování kontrastuje s konzervativnějšími modely od OpenAI nebo Google, ale zneužití ohrožuje důvěru veškerého AI ekosystému. Pokud Ofcom zákrokne, může to ovlivnit globální politiku, zejména v kontextu EU AI Act, a donutit Elona Muska k úpravám Grok. Pro uživatele to podtrhuje nutnost zodpovědného používání AI nástrojů a rizika nekontrolovaného šíření dezinformací a škodlivého obsahu.
Zdroj: 📰 BBC News
