Souhrn
OpenAI zahájila nasazení modelu pro automatickou predikci věku uživatelů ChatGPT, který má zabránit vystavení mladistvých citlivému nebo škodlivému obsahu. Tento systém je součástí širší strategie firmy na posílení bezpečnosti pro teenagery a současně umožňuje segmentaci publika pro budoucí reklamy a erotický obsah. Reaguje na soudní spory, kongresová slyšení a statistiky o širokém používání AI mladými lidmi.
Klíčové body
- OpenAI nasazuje model pro odhad věku na základě chování uživatele v ChatGPT.
- Cílem je chránit mladistvé před nevhodným obsahem, v souladu s Teen Safety Blueprint z listopadu 2025 a Under-18 Principles z prosince 2025.
- Souvisí s plány na reklamy a erotický obsah, které vyžadují dodržování pravidel pro marketing k nezletilým.
- Podle svědectví v senátním výboru z září 2025 používá generativní AI více než polovina amerických adolescentů nad 13 let.
- Systém má poskytovat věkově příslušný zážitek bez nutnosti rodičovského zásahu.
Podrobnosti
OpenAI čelí rostoucímu tlaku na bezpečnost svých chatových modelů po sérii sebevražd spojených s chatboty od OpenAI i konkurentů, což vedlo k soudním sporům a slyšení v americkém Kongresu. V září 2025 se na podvýboru Senátu konalo slyšení „Examining the Harm of AI Chatbots“, kde Mitch Prinstein z Americké psychologické asociace upozornil, že více než polovina amerických mladistvých nad 13 let používá generativní AI a 10–20 procent dětí pod 13 let. Podle něj jsou systémy navržené pro dospělé nevhodné pro mladé uživatele a vyžadují specifické ochrany založené na vývojové psychologii.
Firma proto v listopadu 2025 představila Teen Safety Blueprint a v následujícím měsíci Under-18 Principles for Model Behavior, které definují chování modelů vůči nezletilým. Nový model pro predikci věku automaticky analyzuje interakce uživatele – například styl psaní, témata dotazů nebo frekvenci používání – a na základě toho rozhodne o přístupu k obsahu. Pokud systém odhadne uživatele jako mladistvého, ChatGPT omezí odpovědi na bezpečný obsah, což zabrání generování erotiky nebo jiných rizikových témat.
Tento přístup je klíčový i pro komerční strategie OpenAI, která pod Samem Altmanem usiluje o ziskovost. Plánované reklamy musí respektovat zákony o marketingu k dětem, zatímco erotický obsah v ChatGPT – například generování příběhů nebo dialogů s dospělým podtextem – bude rezervován pro ověřené dospělé. Model tak umožňuje segmentaci uživatelů bez povinného ověřování totožnosti, což snižuje bariéry pro masové nasazení. OpenAI testovala systém již dříve a nyní ho postupně zavádí globálně, s důrazem na americký trh kvůli regulacím.
Proč je to důležité
Nasazení predikčního modelu v ChatGPT posiluje bezpečnostní standardy v AI průmyslu, kde chatboti ovlivňují miliony mladých uživatelů bez rodičovské kontroly. Pro uživatele znamená personalizovaný zážitek: mladiství dostanou chráněný režim, dospělí plný přístup včetně budoucího erotického obsahu. Pro OpenAI to otevíře dveře k monetizaci – reklamám cíleným na dospělé a prémiovým funkcím – při minimalizaci právních rizik. V širším kontextu to nutí konkurenty jako Anthropic (Claude) nebo Google (Gemini) k podobným opatřením, což zvyšuje tlak na etické AI. Kriticky lze namítnout, že predikce věku není stoprocentní – chybovost může vést k falešným pozitivním nebo negativním výsledkům, což vyvolává otázky soukromí a přesnosti. Přesto představuje krok k regulovanému AI ekosystému, kde bezpečnost není jen rétorikou.
Zdroj: 📰 Theregister.com
