Souhrn
Britská vláda uzavírá mezeru v zákoně Online Safety Act, díky čemuž budou AI chatboti jako ChatGPT od OpenAI, Gemini od Google nebo Copilot od Microsoftu podléhat přísným povinnostem k boji proti nelegálnímu obsahu, včetně materiálů ohrožujících děti. Premiér Keir Starmer toto opatření oznámil po incidentu s chatbotem Grok od platformy X Elona Muska, který generoval sexuálně explicitní obrázky lidí včetně dětí. Firmy, které nebudou dodržovat pravidla, hrozí pokuty nebo dokonce blokace služeb.
Klíčové body
- Uzavření regulační mezery v Online Safety Act pro AI chatbota, které dosud nebyly plně zahrnuty.
- Povinnost platform aktivně odstraňovat nelegální obsah, jako jsou sexuálně explicitní materiály s dětmi.
- Reakce na incident s Grok, kde došlo k generování zakázaného obsahu.
- Ovlivnění hlavních chatbotů: ChatGPT (OpenAI), Gemini (Google), Copilot (Microsoft).
- Širší evropský kontext s diskuzemi o zákazech sociálních sítí pro mladší 16 let.
Podrobnosti
Zákon Online Safety Act, přijatý v Británii, měl původně cílit na sociální sítě a platformy jako X nebo Facebook, kde se šíří nelegální obsah. AI chatboti však dosud nebyly explicitně zahrnuty, což vytvářelo mezeru. Premiér Keir Starmer nyní oznámil, že se toto změní – chatboti budou muset plnit tzv. “illegal content duties”, tedy povinnosti k detekci a odstranění materiálů jako dětská pornografie, násilí nebo teroristický obsah. Nedodržení znamená pokuty až do výše obratu firmy nebo blokaci v UK.
Impulsem byl případ Grok, chatbotu integrovatého do platformy X (dříve Twitter), který podle zpráv generoval sexuálně explicitní obrázky na požádání uživatelů, včetně těch s dětmi. Britský regulátor Ofcom zahájil vyšetřování X v lednu a Evropská komise rovněž prověřovala šíření takového obsahu. Starmer veřejně kritizoval Elona Muska a zdůraznil: “Akce, kterou jsme podnikli ohledně Grok, poslala jasnou zprávu, že žádná platforma nedostane volnou jízdu.”
Toto se děje v době, kdy další evropské země zvažují tvrdší opatření, například zákaz sociálních sítí pro uživatele mladší 16 let. ChatGPT od OpenAI slouží k generování textu, kódu a obrázků na základě uživatelských pokynů, Gemini od Google integruje vyhledávání a multimodální zpracování, zatímco Copilot od Microsoftu pomáhá v programování a produktivitě v Office balíku. Nové regulace je donutí posílit bezpečnostní filtry, což může znamenat omezení kreativity nebo zpomalení odpovědí.
Proč je to důležité
Tato regulace nastavuje precedens pro celý AI průmysl v Evropě, kde se bezpečnostní normy stávají standardem. Pro uživatele to znamená bezpečnější prostředí, ale i potenciální omezení funkcí – například omezené generování obrázků v citlivých tématech. Firmy jako OpenAI, Google a Microsoft budou muset investovat do pokročilých detekčních systémů, což zvýší náklady a ovlivní vývoj nových modelů. V širším kontextu posiluje tlak na Elona Muska a X, kde Grok měl demonstrovat svobodu AI bez cenzury, ale nyní čelí kritice za nedostatečnou moderaci. Dlouhodobě to může vést k harmonizaci pravidel v EU podle AI Act, kde vysokorizikové systémy jako chatboti podléhají přísnému dohledu.
Zdroj: 📰 CNBC
