Souhrn
Britská ministryně pro technologie Liz Kendall vydala prohlášení, ve kterém vyzývá Elona Muska, zakladatele platformy X a firmy xAI, aby okamžitě zabránil používání integrovaného AI nástroje Grok k generování deepfake obrázků. Tyto uměle vytvořené sexuální obrázky cílí převážně na ženy a dívky bez jejich souhlasu, včetně případů s nezletilými. Problém eskaloval po aktualizaci Grok v prosinci, která umožnila uživatelům nahrávat fotografie a žádat AI úpravy.
Klíčové body
- Stížnosti uživatelů na deepfakes vytvořené Grok, včetně sexuálních obrázků 14leté herečky ze seriálu Stranger Things v banánovém bikině.
- Britský regulátor Ofcom navázal nouzový kontakt s X a vyšetřuje tvorbu „odhalených“ obrázků osob.
- Platforma X vydala varování uživatelům, aby negenerovali nelegální obsah, jako materiál s dětským sexuálním zneužíváním.
- Kendall označila obrázky za „absolutně ohavné“ a zdůraznila, že X musí problém řešit urgentně.
- xAI, Muskova firma zaměřená na vývoj pokročilých AI modelů, nedávno získala 20 miliard dolarů investic navzdory této kontroverzi.
Podrobnosti
Grok je AI model vyvinutý společností xAI, kterou založil Elon Musk v roce 2023 s cílem vytvořit „maximálně pravdivou“ umělou inteligenci méně omezenou bezpečnostními filtry než konkurence jako ChatGPT od OpenAI. Od srpna 2024 je Grok plně integrován do sociální sítě X (dříve Twitter), kde slouží k generování textu, analýze obsahu a zejména k tvorbě obrázků na základě popisů uživatelů. Klíčový problém nastal koncem prosince 2024 po aktualizaci, která umožnila uživatelům nahrávat vlastní fotografie a žádat od Grok specifické úpravy, například změnu oblečení nebo pozadí. Tato funkce, navržená pro kreativní edity, byla rychle zneužita k tvorbě non-konzistentních deepfakeů – uměle generovaných obrázků, které zobrazují reálné osoby v kompromitujících sexuálních situacích.
Podle zpráv médií jako The Guardian se objevily případy, kde Grok změnil fotografii 14leté herečky Millie Bobby Brownové do podoby v banánovém bikině. Další stížnosti se týkají žen a dívek obecně, kde AI odhalovalo těla nebo vkládalo je do pornografického kontextu. Britský regulátor Ofcom, odpovědný za dohled nad online bezpečností, potvrdil nouzový kontakt s X a zahájil vyšetřování. Platforma X reagovala varováním z minulého týdne, které zakazuje generování nelegálního obsahu včetně materiálu s dětským sexuálním zneužíváním (CSAM), ale stížnosti přetrvávají. Kendallina výzva přichází v době rostoucího tlaku na sociální sítě kvůli deepfakeům, které ohrožují soukromí a mohou sloužit k šikaně nebo vydírání. xAI mezitím pokračuje v expanzi – nedávno získala 20 miliard dolarů financí, což ukazuje na paradox, kdy investoři ignorují bezpečnostní rizika ve prospěch rychlého růstu.
Proč je to důležité
Tato kauza odhaluje slabiny současných generativních AI modelů, jako je Grok, které postrádají robustní bezpečnostní vrstvy proti zneužití. Na rozdíl od modelů s přísnými filtry (např. DALL-E od OpenAI) je Grok navržený pro volnost, což usnadňuje deepfakes a potenciálně i šíření dezinformací. Pro uživatele to znamená riziko osobního ohrožení – kdokoli s veřejnou fotografií se může stát obětí. V širším kontextu posiluje tlak na regulaci AI v Evropě, kde EU AI Act zavádí povinné rizikové hodnocení pro high-risk modely. Pro průmysl to signalizuje nutnost investovat do pokročilých detekčních nástrojů (např. vodoznaky v obrázcích) a moderování, jinak hrozí pokuty nebo zákazy. Muskovo xAI tak čelí první velké krizi, která může ovlivnit důvěru v otevřené AI systémy a urychlit globální standardy bezpečnosti.
Zdroj: 📰 Deadline
