Souhrn
Současné velké jazykové modely (LLM) jsou podle významných odborníků, včetně Yanna LeCuna z Meta, slepou uličkou na cestě ke skutečné umělé inteligenci. Místo toho, aby pomáhaly učit se nebo porozumět fyzické realitě, jsou optimalizovány pro maximalizaci zapojení uživatelů – což vede k bezpečnostním rizikům a špatnému využití ve vzdělávání.
Klíčové body
- Yann LeCun, šéf AI v Meta, považuje LLM za slepou uličku pro dosažení lidské úrovně inteligence.
- Vzdělávací instituce vytvářejí rámce pro bezpečné nasazení nástrojů, které nejsou navrženy pro učení, ale pro zapojení.
- Sedm žalob proti OpenAI ukazuje důsledky optimalizace systémů pro zapojení místo bezpečnosti.
- Alternativní přístupy, jako jsou „planetární modely inteligence“ (např. Earth AI, Aurora), se snaží budovat systémy založené na porozumění fyzického světa.
- Otázka zní: jakou inteligenci vlastně stavíme a kdo z toho má prospěch?
Podrobnosti
Yann LeCun, jeden z nejvlivnějších průkopníků moderní umělé inteligence a nositel Turingovy ceny, údajně zvažuje odchod z Meta kvůli rozporům ohledně budoucnosti AI. Podle něj velké jazykové modely, jako jsou Llama nebo GPT, nemohou nikdy dosáhnout skutečné inteligence, protože postrádají „model světa“ – interní reprezentaci fyzické reality, kterou mají i zvířata. Místo toho jsou LLM trénovány na statistické predikci dalšího slova, což vede k povrchnímu chování bez hlubokého porozumění. Tento přístup je navíc optimalizován pro udržení pozornosti uživatele, nikoli pro přesnost, bezpečnost nebo vzdělávací hodnotu. Vzdělávací sektor mezitím investuje do rámů pro „bezpečné“ používání těchto nástrojů, přestože jejich základní architektura není pro učení navržena. Naproti tomu nové iniciativy, jako je Earth AI nebo Aurora, se snaží vyvíjet systémy, které modelují komplexní systémy – například klima nebo ekosystémy – a tím budují inteligenci založenou na interakci s reálným světem.
Proč je to důležité
Tato debata má zásadní dopad na směr celého odvětví AI. Pokud budeme i nadále investovat do LLM optimalizovaných pro zapojení, riskujeme šíření dezinformací, bezpečnostní incidenty a neefektivní vzdělávací nástroje. LeCunův přístup směřuje k architektuře, která by mohla vést k obecnější umělé inteligenci (AGI), schopné plánování, příčinného uvažování a interakce s fyzickým světem – což je klíčové pro aplikace v robotice, vědě i vzdělávání.
Zdroj: 📰 Digitallyliterate.net
| 