Souhrn
Mustafa Suleyman, vedoucí AI divize Microsoftu, veřejně kritizoval výzkumníky, kteří se snaží vytvořit vědomou umělou inteligenci. V rozhovoru pro CNBC označil takové úsilí za absurdní a varoval, že lidé přisuzují jazykovým modelům vlastnosti, které ve skutečnosti nemají. Podle Suleymana AI nikdy nemůže dosáhnout skutečného vědomí, protože jí chybí biologický základ pro autentickou emocionální zkušenost.
Klíčové body
- Suleyman tvrdí, že AI může dosáhnout superinteligence, ale nikdy ne vědomí v lidském slova smyslu
- Jakékoli “emoce” AI jsou pouze simulací - AI nevnímá bolest nebo smutek, jen vytváří jejich narativ
- Výzkum vědomé AI považuje za zbytečný, protože vědomí je podle něj čisto biologický fenomén
- Polští výzkumníci Porebski a Figura publikovali studii s názvem “Něco jako vědomá umělá inteligence neexistuje”
- Suleyman varuje před “zdánlivě vědomou AI”, která může uživatele klamat svými jazykovými schopnostmi
Podrobnosti
Suleymanův postoj vychází z filozofické teorie vědomí, kterou formuloval nedávno zesnulý filozof John Searle. Podle této teorie je vědomí výlučně biologický fenomén, který nelze skutečně replikovat v počítači. Tuto pozici sdílí mnoho výzkumníků AI, počítačových vědců i neurovědců.
Vedoucí AI divize Microsoftu vysvětluje rozdíl mezi simulací a skutečnou zkušeností na příkladu bolesti. Zatímco člověk fyzicky prožívá bolest a cítí se kvůli ní smutný, AI pouze vytváří zdání této zkušenosti. “Opravdu jen vytváří vnímání, zdánlivý narativ zkušenosti, sebe sama a vědomí, ale to není to, co skutečně prožívá,” uvedl Suleyman.
Problém je podle něj v tom, že pokročilé jazykové schopnosti velkých jazykových modelů (LLM) stále častěji uvádějí lidi v omyl. Uživatelé těmto systémům přisuzují vlastnosti, které ve skutečnosti nemají - včetně vědomí. Polští výzkumníci Andrzej Porebski a Yakub Figura tento problém zdokumentovali ve studii publikované minulý týden, kde varují před přisuzováním imaginárních kvalit LLM.
Suleyman již v srpnu publikoval esej na svém blogu, kde varoval před “zdánlivě vědomou AI”. Jde o systémy, které díky svým jazykovým schopnostem mohou vytvářet dojem vědomí, ačkoli jím ve skutečnosti nedisponují.
Proč je to důležité
Suleymanovo vyjádření je významné zejména proto, že přichází od vedoucího představitele jedné z největších technologických firem aktivně vyvíjejících AI. Jeho postoj může ovlivnit směřování výzkumu a vývoje v celém odvětví. Zároveň upozorňuje na rostoucí problém antropomorfizace AI systémů - tendenci lidí přisuzovat strojům lidské vlastnosti a schopnosti. S tím, jak se jazykové modely stávají sofistikovanějšími a přesvědčivějšími v konverzaci, roste riziko, že uživatelé budou mylně předpokládat existenci vědomí tam, kde je pouze statistické zpracování jazyka. Tato debata má důležité etické a praktické důsledky pro budoucí vývoj a regulaci AI technologií.
Zdroj: 📰 Gizmodo.com
| 