Souhrn
Irská Datová ochranná komise (DPC), která vykonává roli hlavního dohledu nad ochranou dat v EU pro mnoho technologických firem se sídlem v Irsku, zahájila formální vyšetřování platformy X (dříve Twitter). Předmětem je generování sexualizovaných a potenciálně zneužívajících obrázků reálných osob v Evropské unii pomocí umělé inteligence, včetně obrázků nezletilých. Vyšetřování se zaměřuje na soulad s nařízením GDPR.
Klíčové body
- DPC prošetřuje zpracování osobních údajů při trénování a používání AI modelů pro generování obrázků na platformě X.
- Zaměření na sexualizované obrázky celebrit, politiků i dětí, které uživatelé vytvářejí pomocí vestavěného nástroje Grok.
- Vyšetřování bylo zahájeno po stížnostech a veřejném znepokojení z neomezeného generování nevhodného obsahu.
- Platforma X, vlastněná Elonem Muskem, má v Evropě evropské sídlo v Irsku, což spadá pod jurisdikci DPC.
- Toto není první vyšetřování DPC vůči X; dříve řešila například zneužití dat uživatelů.
Podrobnosti
Platforma X integrovala do svého chatbota Grok-2, vyvinutého společností xAI (také vlastněnou Elonem Muskem), funkci generování obrázků na základě textových popisů. Tato funkce využívá open-source model Flux.1 od Black Forest Labs, který má výrazně volnější bezpečnostní omezení než konkurenční systémy jako DALL-E od OpenAI nebo Imagen od Google. Uživatelé tak mohou snadno vytvářet realistické obrázky sexualizovaných verzí reálných osob, včetně verejně známých celebrit jako Taylor Swift nebo politiků, a dokonce i dětí v kompromitujících situacích. Příklady zveřejněné v médiích ukazují obrázky nezletilých v erotickém kontextu, což vyvolalo vlnu kritiky.
DPC, která dohlíží na GDPR pro firmy jako Meta, Google nebo TikTok, nyní zkoumá, zda X legálně zpracovává osobní údaje (obrázky a biometrická data obličejů) pro trénink AI modelů a zda generování takového obsahu porušuje práva subjektů dat. GDPR vyžaduje souhlas pro zpracování citlivých dat a zakazuje automatizované rozhodování s rizikovými dopady. Navíc Evropská unie nedávno přijala AI Act, který klasifikuje generativní AI s rizikem deepfakes jako vysoce rizikové a ukládá povinnosti na prevenci zneužití.
X reagovala uvolněním omezení v souladu s filozofií Elona Muska, který kritizuje přílišná cenzura u konkurentů. Grok slouží k interakci s uživateli, odpovídání na otázky a generování obsahu včetně obrázků, což má přilákat prémiové předplatitele. Nicméně absence robustních filtrů vede k rychlému šíření nevhodného materiálu, který platforma jen pomalu moderuje. DPC má pravomoci uložit pokuty až 4 % globálního obratu, což pro X znamená potenciálně stovky milionů eur.
Proč je to důležité
Toto vyšetřování nastavuje precedent pro regulaci generativní AI v Evropě, kde GDPR a AI Act tlačí na odpovědnost platforem. Pro průmysl znamená nutnost implementace lepších bezpečnostních mechanismů, jako jsou vodoznaky pro AI obsah nebo pokročilé filtry detekce zneužití, což zpomalí inovace, ale zvýší důvěryhodnost. Pro uživatele v EU to posiluje ochranu před nechtěným zneužitím jejich podobizny, zejména v kontextu rostoucího rizika non-consensual deepfakes. V širším ekosystému to zesiluje tlak na firmy jako OpenAI nebo Stability AI, aby harmonizovaly bezpečnostní standardy, a může ovlivnit globální trendy v AI etice. Pokud DPC najde porušení, mohlo by to vést k širším sankcím proti X a urychlit přijetí unifikoovaných pravidel pro image-generační modely.
Zdroj: 📰 Business Insider
