Souhrn
Výbor irského parlamentu (Oireachtas) pro umělou inteligenci projednal hrozbu deepfake videí během voleb po tom, co bylo krátce před prezidentskými volbami v říjnu 2025 na sociálních sítích šířeno falešné video kandidátky Catherine Connolly, ve kterém údajně oznámila svůj ústup ze závodu. Video bylo vytvořeno pomocí AI a rychle se rozšířilo online.
Klíčové body
- Deepfake video Catherine Connolly bylo rychle identifikováno a odstraněno díky spolupráci mezi volební komisí a platformami jako Meta.
- Ředitel volební komise An Coimisiún Toghcháin Art O’Leary popsal boj proti deepfakům jako „whack-a-mole“ – neustálé objevování se nových falešných obsahů.
- Mediální regulátor Coimisiún na Meán vyšetřuje, zda platformy reagovaly řádně.
- Výbor pro AI diskutuje o potřebě lepších nástrojů a pravomocí pro regulaci AI generovaného obsahu během voleb.
Podrobnosti
Deepfake technologie umožňují pomocí AI vytvářet realistické audiovizuální záznamy, ve kterých lidé říkají nebo dělají věci, které ve skutečnosti neudělali. V případě irských voleb bylo takové video využito k dezinformaci veřejnosti krátce před hlasováním. Ředitel volební komise Art O’Leary uvedl, že jeho tým video odhalil během několika minut po jeho zveřejnění a spolupracoval s Meta na jeho odstranění. Nicméně upozornil, že původce obsahu je obtížné vystopovat a falešné video se může objevit na mnoha místech internetu současně.
Jeremy Godfrey z irského mediálního regulátoru Coimisiún na Meán dodal, že jeho úřad nežádá přímo o odstranění obsahu, ale hodnotí, zda platformy dodržely své povinnosti podle platných pravidel. Regulátor plánuje vyhodnotit celkový dopad AI na volby a své závěry předat i Evropské unii, která se v rámci AI Actu snaží stanovit právní rámec pro používání generativní AI ve veřejném prostoru.
Proč je to důležité
Tento případ ukazuje, jak rychle se deepfake technologie stávají nástrojem pro manipulaci veřejného mínění, zejména v citlivých obdobích jako jsou volby. I když irské instituce reagovaly rychle, systémové řešení vyžaduje lepší technologickou detekci, právní pravomoci i mezinárodní koordinaci. V kontextu evropské legislativy o AI jde o testovací případ pro budoucí regulace generativních modelů a jejich zneužití v demokratických procesech.
Zdroj: 📰 RTE