Nová funkce na X odhalila, že výdělečné „MAGA“ účty provozují podvodníci z rozvojových zemí

Souhrn

Sociální síť X (dříve Twitter) pod vedením Elona Muska zavedla funkci zobrazující geografickou polohu, odkud uživatelé posílají příspěvky. Tato změna odhalila, že řada účtů šířících pravicový „MAGA“ obsah ve skutečnosti pochází z rozvojových zemí, jako jsou Nigérie, Thajsko nebo Bangladéš, a slouží k výdělku na politické polarizaci amerických uživatelů.

Klíčové body

Nová funkce X zobrazuje geolokaci odesílatele příspěvku.
Mnoho populárních „MAGA“ účtů (např. MAGA NATION, Dark Maga, MAGA Scope) pochází z Nigérie, Thajska nebo východní Evropy.
Tyto účty často využívají generativní AI k vytváření „ragebait“ obsahu – provokativních příspěvků navržených k vyvolání emocí.
Některé z těchto účtů měly stovky tisíc až milion sledujících a platily za modrou verifikační odznak.
Platforma X od roku 2022 trpí nedostatečnou moderací obsahu, což umožňuje šíření podvodných a škodlivých účtů.

Podrobnosti

Funkce geolokace, kterou X zavedla o víkendu, umožňuje uživatelům vidět, odkud byl konkrétní tweet odeslán. Tato informace rychle odhalila rozsáhlou síť falešných účtů, které se vydávají za americké příznivce hnutí „Make America Great Again“ (MAGA), ale ve skutečnosti jsou provozovány z rozvojových zemí. Například účet „MAGA NATION“ s téměř 400 000 sledujícími pochází z „východní Evropy (mimo EU)“, zatímco „Dark Maga“ tweetuje z Thajska a „MAGA Scope“ z Nigérie. Účet „IvankaNews“, který měl přes milion sledujících a byl následně zablokován, také pocházel z Nigérie.

Podle novináře Dereka Guye tyto účty využívají generativní AI k hromadnému vytváření obsahu zaměřeného na vyvolávání hněvu a polarizace. Cílem je zvýšit zapojení uživatelů a tím zvýšit příjmy z reklam nebo z placených funkcí platformy, jako je verifikace za měsíční poplatek. Tento trend je zvláště znepokojivý v kontextu nedostatečné moderace obsahu na X, kde od Muskova převzetí v roce 2022 došlo k nárůstu nenávistných projevů, antisemitismu a dezinformací.

Proč je to důležité

Tento případ ilustruje, jak slabá moderace obsahu a komerční model sociálních sítí podporují šíření manipulativního obsahu generovaného AI. Ukazuje také, jak geopoliticky vzdálení aktéři mohou využívat technologické nástroje k ovlivňování politického diskurzu v západních zemích. Pro uživatele to znamená potřebu kritického přístupu k obsahu i k údajné identitě tvůrců. Pro průmysl je to varování před riziky spojenými s nekontrolovaným nasazením generativní AI a nedostatečnou transparentností na sociálních platformách.

Číst původní článek

Zdroj: 📰 Futurism