Souhrn
Roblox, populární online herní platforma s miliony uživatelsky vytvořených her, zavádí nová opatření k ochraně nezletilých uživatelů. Mezi ně patří povinné ověření věku pomocí AI, která odhaduje věk na základě fotografie obličeje, doplněné o verifikaci pomocí dokladu totožnosti a potvrzení souhlasu rodičů.
Klíčové body
- Roblox nasazuje AI pro odhad věku na základě obličeje uživatele.
- Systém bude kombinován s ověřením totožnosti a rodičovským souhlasem.
- Fotografie nebudou ukládány – smažou se ihned po zpracování.
- Pilotní nasazení začne v Austrálii, na Novém Zélandu a v Nizozemsku, v lednu se rozšíří do dalších zemí.
- Platforma spouští také online bezpečnostní centrum pro rodiče.
Podrobnosti
Roblox reaguje na rostoucí tlak ze strany států a rodin, které obviňují platformu z nedostatečné ochrany dětí před sexuálními predátory. Nový systém využívá AI k odhadu věku na základě nahrávky nebo fotografie obličeje, což má nahradit dosavadní metodu, kdy uživatelé pouze zadávali věk při registraci. Společnost zdůrazňuje, že obrazová data nejsou ukládána – jsou smazána ihned po zpracování. Cílem je přesněji zařadit uživatele do věkově odpovídajících skupin a omezit riziko kontaktu s nevhodnými osobami. Pilotní nasazení proběhne v Austrálii, na Novém Zélandu a v Nizozemsku, s plánovaným rozšířením do dalších zemí v lednu. Součástí nové strategie je také zřízení online bezpečnostního centra, které má rodičům pomoci nastavit rodičovské kontroly a lépe porozumět bezpečnostním funkcím platformy.
Proč je to důležité
Tento krok Robloxu odráží širší trend mezi technologickými firmami – reagovat na regulace a veřejný tlak zaváděním technologických řešení pro ochranu dětí online. Zavedení AI pro ověření věku je však technicky i eticky složité: i když společnost tvrdí, že data neukládá, zůstává otázka spolehlivosti odhadu věku a rizika zneužití biometrických dat. Navíc se jedná o jeden z mála případů, kdy AI pro analýzu obličeje je nasazována přímo u nezletilých uživatelů v komerčním prostředí. Pokud bude systém úspěšný, může se stát referenčním modelem pro další platformy, ale jeho selhání by mohlo posílit kritiku AI jako nástroje s nejasnými důsledky pro soukromí a bezpečnost.
Zdroj: 📺 CBS News
| 