Souhrn
V indickém parlamentu Lok Sabha byl předložen soukromý návrh zákona nazvaný Regulation of Deepfake Bill od poslance Shrikanta Shindeho ze strany Shiv Sena. Zákon vyžaduje předchozí souhlas osob zobrazených v deepfake obsahu a zavádí tresty za jeho tvorbu nebo šíření s úmyslem obtěžovat, klamat či šířit dezinformace. Tento krok reaguje na rostoucí zneužívání technologie deepfakes poháněné umělou inteligencí.
Klíčové body
- Povinný předchozí souhlas jednotlivců pro jakékoli zobrazení v deepfake videích nebo audiu.
- Tresty pro tvůrce a šířitele deepfake obsahu s škodlivým úmyslem, včetně obvinění z obtěžování a dezinformací.
- Zaměření na rizika pro soukromí, národní bezpečnost a důvěru veřejnosti.
- Aplikovatelnost na deepfakes vytvořené pomocí pokročilých AI technik, jako je deep learning.
- Zákon uznává potenciálně pozitivní využití deepfakes v vzdělávání a zábavě, ale priorizuje regulaci zneužití.
Podrobnosti
Lok Sabha, dolní sněmovna indického parlamentu, se stala místem představení tohoto soukromého návrhu zákona (Private Member’s Bill) v pátek. Shrikant Shinde, poslanec strany Shiv Sena, která je regionální politickou silou v Maharášštře s národním vlivem, argumentuje rostoucím zneužíváním deepfakes. Tyto technologie, založené na neuronových sítích a generativní umělé inteligenci, umožňují vytvářet vysoce realistické falešné videa nebo zvuky, kde je tvář nebo hlas osoby nahrazen uměle.
V úvodním zdůvodnění zákona Shinde zdůrazňuje, že deepfakes ohrožují soukromí jednotlivců – například vytvářením pomluvných videí pro šíření pomluv nebo sexuálního obtěžování. Dále hrozí dezinformacemi, které mohou ovlivnit volby nebo vyvolat společenské nepokoje, a ohrožením národní bezpečnosti prostřednictvím falšovaných prohlášení politiků či úředníků. Zákon navrhuje jasný právní rámec pro tvorbu, distribuci a použití deepfakes, včetně povinnosti označovat takový obsah jako umělý, pokud je souhlas udělen.
Technicky deepfakes fungují na principu autoenkodérů a GAN (generative adversarial networks), kde jedna síť generuje obsah a druhá ho hodnotí na realismus. Nástroje jako DeepFaceLab nebo Faceswap jsou volně dostupné, což usnadňuje zneužití i amatérům. Indie, s více než miliardou uživatelů internetu, čelí v posledních letech vlně deepfake pornografie zaměřené na ženy z veřejného života a falešných videí politiků. Existující zákony, jako IT Act z roku 2000 nebo penalizace pomluv, nestačí na specifické rizika AI. Zákon by mohl vytvořit registrační povinnost pro platformy jako YouTube nebo Meta, které by musely deepfake obsah moderovat.
Proč je to důležité
Tento návrh představuje další krok v globální snaze o regulaci AI, kde Indie následuje Evropskou unii (AI Act) nebo USA (státní zákony proti deepfake pornografii). Pro uživatele znamená lepší ochranu před digitálním obtěžováním, zejména v zemích s vysokou penetrací sociálních sítí. Pro průmysl AI to signalizuje rostoucí tlak na etické standardy – firmy jako OpenAI nebo Google už zavádějí vodoznaky do generovaného obsahu (např. SynthID). Nicméně jako soukromý návrh má nízkou šanci na schválení bez vládní podpory. V širším kontextu podtrhuje nutnost mezinárodní koordinace, protože deepfakes ignorují hranice a mohou destabilizovat demokracie. Indie, jako třetí největší trh s internetem, by mohla stanovit precedent pro rozvojové země, ale bez technických nástrojů detekce (jako modely od Microsoftu) zůstane vymahatelnost problematická.
Zdroj: 📰 BusinessLine
| 