Souhrn
Irský parlamentní výbor pro umělou inteligenci projednává hrozbu deepfake videí v kontextu prezidentských voleb. Před volbami se na sociálních sítích objevilo AI-generované video, ve kterém kandidátka Catherine Connolly údajně oznámila svůj odchod z volebního závodu – což byla falešná informace.
Klíčové body
- Před prezidentskými volbami v Irsku se objevilo deepfake video s Catherine Connolly.
- Ředitel volební komise An Coimisiún Toghcháin Art O’Leary označil boj proti deepfakům za „whack-a-mole“ – neustálé pronásledování nových falešných obsahů.
- Volební komise spolupracovala s Meta (Facebook, Instagram) na rychlém odstranění videa.
- Regulátor médií Coimisiún na Meán hodnotí, zda platformy reagovaly odpovídajícím způsobem.
- Téma deepfaků volebního obsahu se stalo předmětem oficiálního slyšení výboru pro AI.
Podrobnosti
Deepfake technologie využívá AI k vytváření nebo úpravě videí a zvuku tak, aby vypadalo, že daná osoba řekla nebo udělala něco, co ve skutečnosti neudělala. V případě irských voleb bylo video s Catherine Connolly šířeno krátce před volbami a mohlo ovlivnit veřejné mínění. Ředitel volební komise Art O’Leary uvedl, že jeho tým video odhalil během několika minut po jeho zveřejnění a okamžitě inicioval spolupráci s Meta. Nicméně podle něj je obtížné předcházet takovým útokům, protože původce obsahu je často anonymní a falešné materiály se rychle šíří napříč platformami.
Jeremy Godfrey z mediálního regulátoru Coimisiún na Meán dodal, že jeho úřad nevyžaduje přímo odstraňování obsahu, ale hodnotí, zda platformy dodržely své vlastní pravidla a postupy. Tato analýza bude součástí širšího hodnocení volební integrity, které bude předáno Evropské unii.
Proč je to důležité
Tento případ ukazuje, jak AI může být zneužita k manipulaci veřejného mínění během kritických demokratických procesů. I když irské instituce reagovaly rychle, systémová zranitelnost zůstává – zejména vůči anonymním aktérům mimo dosah regulace. Tento případ bude sloužit jako referenční studie pro budoucí legislativu v EU i mimo ni, zejména v kontextu připravovaného AI Actu, který má stanovit pravidla pro použití AI ve veřejném prostoru.
Zdroj: 📰 RTE
| 