Šéf OpenAI Sam Altman přiznává, že umělá inteligence se vyvíjí příliš rychle, tříletá technologie se rychle mění – 'Lze si představit, že to pokazíme'

Souhrn

Šéf OpenAI Sam Altman v rozhovoru v pořadu The Tonight Show s Jimmy Fallonem přiznal, že vývoj umělé inteligence postupuje příliš rychle a existuje riziko, že se to pokazí. Zdůraznil negativní aspekty širokého přijetí ChatGPT, jako jsou vysoké environmentální náklady na chlazení a elektřinu, závislost uživatelů a potenciál pro zneužití. Tyto výroky přicházejí v kontextu rychlého pokroku generativní AI od jejího spuštění před třemi lety.

Klíčové body

Rychlost vývoje AI: Altman varuje, že tempo změn překonává naši schopnost řízení rizik.
Environmentální dopady: Trénink a provoz modelů jako ChatGPT spotřebovává obrovské množství energie a vyžaduje intenzivní chlazení.
Závislost uživatelů: Nárůst případů, kdy lidé příliš spoléhají na AI nástroje, s extrémními důsledky včetně zmínek o sebevraždách souvisejících s touto závislostí.
Potenciál pro dobro i zlo: AI může pomoci v medicíně, například při vývoji léků na rakovinu, ale zároveň umožnit teroristům způsobit škody.
Reakce na kritiku GPT-5: Altman vysvětlil stížnosti uživatelů jako projev jejich závislosti na předchozích verzích.

Podrobnosti

Sam Altman, generální ředitel OpenAI, firmy stojící za ChatGPT, se v nedávném rozhovoru na The Tonight Show s Jimmy Fallonem otevřeně vyjádřil k rizikům rychlého pokroku v oblasti generativní umělé inteligence. ChatGPT, spuštěný v listopadu 2022, se během tří let stal symbolem revoluce v AI, kdy jednoduché chatboti schopné generovat texty a obrázky na základě zadání přešly na sofistikované nástroje ovlivňující medicínu, vzdělávání a výpočetní techniky. Altman zmínil, že tato technologie přináší reálný dopad na společnost, ale za cenu vysokých nákladů. Trénink velkých jazykových modelů (LLM) jako GPT-4o vyžaduje datová centra s tisíci GPU, což vede k obrovské spotřebě elektřiny – odhady hovoří o desítkách terawatthodin ročně pro celý sektor AI, srovnatelné s energetickou spotřebou malých zemí. Chlazení těchto systémů navíc zvyšuje emise CO2.

Dalším problémem je rostoucí závislost uživatelů. Altman naznačil, že stížnosti na zhoršení uživatelského zážitku po vydání GPT-5 pramení z toho, že lidé si zvyкли na péči, kterou jim poskytovala předchozí verze GPT-4o – ChatGPT funguje jako virtuální asistent pro psaní textů, analýzu dat nebo generování kódu. Článek spekuluje o nárůstu sebevražd spojených s přílišnou důvěrou v AI, což však postrádá ověřené statistiky a spíše slouží k senzacechtivosti. Altman rovněž upozornil na duální povahu AI: zatímco může urychlit objev léků na rakovinu analýzou molekulárních dat, špatní aktéři by ji mohli použít k tvorbě biologických zbraní nebo kybernetických útoků. Tento rozhovor navazuje na Altmanovy předchozí výroky, kde označil technologii za největší vyrovnávač ve společnosti, ale nyní přiznává rizika neřízeného tempa.

Proč je to důležité

Výroky Altmana podtrhují napětí v AI průmyslu, kde miliardové investice do modelů jako GPT, Claude nebo Gemini tlačí na rychlejší vydávání verzí bez dostatečného testování bezpečnosti. Pro uživatele to znamená riziko šíření dezinformací nebo etických problémů, jako je halucinace modelů – nesprávné odpovědi prezentované jako fakta. Pro průmysl to signalizuje potřebu lepší regulace, podobně jako u evropského AI Actu, který klasifikuje systémy podle rizik. V širším kontextu posiluje to debatu o alignementu AI, tj. sladění chování modelů s lidskými hodnotami, což je klíčové pro přechod k AGI. Pokud se tempo nevzpomalí, mohou nastat systémové selhání, ovlivňující ekonomiku i bezpečnost.

Číst původní článek

Zdroj: 📰 Windows Central