Souhrn
YouTube oficiálně spustil technologii pro detekci AI-generovaného obsahu, který neoprávněně využívá podobu tvůrců, včetně jejich tváře a hlasu. Nástroj je dostupný pro vybrané tvůrce v YouTube Partner Program, kteří mohou žádat o odstranění videí zneužívajících jejich identitu.
Klíčové body
- Technologie detekuje AI-generovaná videa využívající tvář nebo hlas tvůrců bez jejich souhlasu
- Přístup získávají postupně vybraní tvůrci z YouTube Partner Program, kteří obdrželi emailové pozvánky
- Proces ověření vyžaduje sken občanského průkazu a krátké selfie video přes smartphone
- Tvůrci mohou požádat o odstranění obsahu podle pravidel ochrany soukromí nebo autorských práv
- Systém lze kdykoli deaktivovat, skenování se zastaví do 24 hodin
Podrobnosti
Nová technologie reaguje na rostoucí problém zneužívání AI pro vytváření falešných videí s podobou známých tvůrců. Typickým příkladem je případ firmy Elecrow, která použila AI klon hlasu youtubera Jeffa Geerlinga k propagaci svých produktů bez jeho souhlasu. Systém má chránit tvůrce před situacemi, kdy jejich podoba slouží k propagaci produktů, které nikdy neschválili, nebo ke šíření dezinformací.
Pro aktivaci nástroje musí tvůrci přejít do záložky “Likeness”, souhlasit se zpracováním dat a projít procesem ověření identity. Ten zahrnuje naskenování QR kódu smartphonem, který přesměruje na webovou stránku pro verifikaci. Tvůrce musí nahrát fotografii průkazu totožnosti a nahrát krátké selfie video. Tento dvoustupňový proces má zajistit, že nástroj používá skutečný majitel účtu.
Po schválení přístupu mohou tvůrci procházet všechna detekovaná videa a rozhodnout se, zda podají žádost o odstranění podle pravidel ochrany soukromí, využijí autorská práva, nebo video pouze archivují pro pozdější referenci. Systém poskytuje tvůrcům kontrolu nad tím, jak se s detekovaným obsahem naloží.
Proč je to důležité
Spuštění této technologie představuje významný krok v boji proti zneužívání AI pro vytváření falešného obsahu. S rostoucí kvalitou nástrojů pro klonování hlasu a deepfake videí se stává ochrana identity tvůrců kritickou otázkou. YouTube jako největší videoplатforma světa tímto krokem nastavuje standard pro celý průmysl a ukazuje, že platformy berou problém AI-generovaných deepfakes vážně. Technologie má potenciál chránit nejen profesionální tvůrce, ale v budoucnu možná i běžné uživatele před zneužitím jejich podoby v online prostoru.
Zdroj: 🚀 TechCrunch
| 