Souhrn
Dario Amodei, ředitel AI společnosti Anthropic, varuje, že bez pevných ochranných opatření a regulace může umělá inteligence způsobit významné ekonomické i společenské škody. Anthropic, která je oceněna na 183 miliard dolarů, se specializuje na vývoj bezpečných a transparentních AI modelů, přičemž více než 60 výzkumných týmů pracuje na identifikaci rizik a budování ochranných mechanismů.
Klíčové body
- Anthropic staví svou strategii na bezpečnosti a transparentnosti AI.
- Amodei předpokládá, že AI může během pěti let eliminovat až polovinu úvodních bílokolářských pracovních míst.
- V USA chybí zákonodárný rámec pro testování bezpečnosti komerčních AI systémů.
- Kritici označují Amodeiho za „alarmistu“, ten však trvá na autentičnosti svých obav.
- Společnost aktivně zkoumá ekonomické dopady, možnosti zneužití i rizika ztráty kontroly nad AI modely.
Podrobnosti
Anthropic, založená bývalými členy OpenAI, se od svého vzniku profiluje jako „bezpečnostní“ alternativa mezi velkými hráči v oblasti generativní AI. Její model Claude je konkurentem GPT od OpenAI či Gemini od Google. Amodei zdůrazňuje, že v současné době není v USA žádný zákon, který by vyžadoval od firem provádět bezpečnostní testy jejich AI systémů – regulace tedy zůstává v rukou samotných firem. Anthropic proto nasazuje významné zdroje na proaktivní identifikaci hrozeb: od možného zneužití pro šíření dezinformací až po scénáře, kdy by AI unikla lidské kontrole. Zvlášť znepokojivý je Amodeiho odhad ohledně trhu práce – podle něj by AI mohla během pěti let nahradit až 50 % úvodních pozic v administrativě, účetnictví nebo zákaznické podpoře, což by vedlo ke značnému nárůstu nezaměstnanosti. Společnost proto navrhuje aktivní státní intervenci a spolupráci mezi sektory.
Proč je to důležité
Amodeiho varování přichází v době, kdy se AI rychle integruje do podnikových i osobních nástrojů, ale regulace značně zaostává. Jeho postoj odráží rostoucí rozštěpení v Silicon Valley: zatímco někteří podnikatelé tlačí na co nejrychlejší komercializaci, jiní – jako Amodei – zdůrazňují nutnost zodpovědného přístupu. Anthropic se tak stává klíčovým hlasem v globální debatě o budoucnosti AI, zejména v kontextu chybějící legislativy a rostoucího vlivu modelů jako Claude 3.5. Pokud se jeho předpovědi o trhu práce potvrdí, mohlo by to vést k sociálním i politickým otřesům – a právě proto je jeho výzva k regulaci a společenské přípravě významná.
Zdroj: 📺 CBS News