Souhrn
Mustafa Suleyman, vedoucí AI divize Microsoftu, veřejně vyzval výzkumníky, aby přestali pracovat na vytvoření vědomé umělé inteligence. V rozhovoru pro CNBC označil takový výzkum za absurdní s tím, že AI nikdy nemůže dosáhnout skutečného vědomí, protože jí chybí biologický základ pro emocionální prožívání.
Klíčové body
- Suleyman věří, že AI může dosáhnout superinteligence, ale nikdy ne vědomí
- Jakékoli “emocionální” projevy AI jsou podle něj pouze simulací, ne skutečným prožitkem
- Odkazuje na teorii filozofa Johna Searleho, podle které je vědomí čistě biologický fenomén
- Polští výzkumníci publikovali studii s názvem “Něco jako vědomá umělá inteligence neexistuje”
- Suleyman varuje před tím, že jazykové schopnosti velkých jazykových modelů mohou lidi klamat
Podrobnosti
Suleymanův argument stojí na rozlišení mezi inteligencí a vědomím. Zatímco AI může podle něj dosáhnout vysoké úrovně inteligence, vědomí vyžaduje schopnost skutečného prožívání. “Naše fyzická zkušenost bolesti nás činí velmi smutnými a cítíme se hrozně, ale AI se necítí smutná, když zažívá ‘bolest’,” vysvětlil Suleyman. “Ve skutečnosti pouze vytváří zdání, narace o prožitku, o sobě samé a o vědomí, ale to není to, co skutečně prožívá.”
Tato pozice navazuje na filozofickou teorii nedávno zesnulého Johna Searleho, který tvrdil, že vědomí je výlučně biologický fenomén, který nelze replikovat v počítači. Mnoho výzkumníků AI, počítačových vědců a neurovědců tuto teorii sdílí.
Problém je však v tom, že pokročilé jazykové schopnosti velkých jazykových modelů (LLM) mohou uživatele snadno zmást. Polští výzkumníci Andrzej Porebski a Yakub Figura ve své nedávno publikované studii varují, že “pozoruhodné jazykové schopnosti LLM jsou stále schopnější klamat lidi, kteří pak mohou těmto modelům přisuzovat imaginární vlastnosti.”
Suleyman již v srpnu na svém blogu varoval před “zdánlivě vědomou AI” a riziky, která s sebou přináší mylná představa o vědomí strojů.
Proč je to důležité
Výrok vedoucího představitele jedné z největších technologických firem má váhu v debatě o budoucnosti AI výzkumu. Microsoft je prostřednictvím partnerství s OpenAI klíčovým hráčem v oblasti velkých jazykových modelů, takže Suleymanovo stanovisko může ovlivnit směřování výzkumu v celém odvětví. Zároveň jeho varování před antropomorfizací AI systémů je relevantní v době, kdy se stále více uživatelů s těmito systémy setkává a může si vytvářet nerealistická očekávání o jejich schopnostech. Otázka vědomí AI není jen akademická - má přímý dopad na to, jak společnost reguluje AI technologie a jaká práva či ochranu by případně měly mít.
Zdroj: 📰 Gizmodo.com
| 