Souhrn
Šéf AI divize Microsoftu Mustafa Suleyman varoval, že pravděpodobnost existenciální zkázy způsobené nekontrolovatelnou umělou inteligencí je téměř absolutní, a uvedl, že firma by mohla vývoj AI ukončit, pokud rizika převýší přínosy. Tento postoj představuje nový přístup v odvětví, kde Microsoft posiluje investice do AI prostřednictvím partnerství s OpenAI. Suleyman klade důraz na vývoj bezpečných systémů, které neutečou kontrole.
Klíčové body
- Mustafa Suleyman, spoluzakladatel DeepMind a Inflection, nastoupil do Microsoftu v březnu 2024 a vede vývoj Copilotu a dalších spotřebních AI produktů.
- Microsoft investoval 1 miliardu dolarů do OpenAI v roce 2019 navzdory varování Billa Gatese, který předpovídal ztráty.
- Nedávná dohoda s OpenAI umožňuje Microsoftu samostatný vývoj AGI nebo spolupráci s třetími stranami; OpenAI nemůže jednostraně ukončit partnerství bez ověření nezávislým expertem.
- Suleyman v rozhovoru pro Bloomberg: „Nebudeme dál vyvíjet systém, který nám může utéct.“
- Interní report Microsoftu ukazuje slabé výsledky AI produktů na Azure, s masivními škrtáním prodejných cílů.
Podrobnosti
Mustafa Suleyman, který dříve spoluzakládal DeepMind – laboratoř umělé inteligence patřící Alphabetu, zaměřenou na pokročilé algoritmy jako AlphaFold pro predikci proteinových struktur – a startup Inflection specializující se na konverzační AI, převzal v březnu 2024 vedení AI divize Microsoftu. Jeho úkol spočívá v rozvoji Copilotu, což je AI asistent integrovaný do produktů jako Windows, Office a Azure, sloužící k automatizaci úkolů jako psaní textů, analýza dat nebo generování kódu. Microsoft se v posledních letech intenzivně angažuje v generativní AI, což je technologie schopná vytvářet text, obrázky či kód na základě přirozeného jazyka, díky investici 1 miliardy dolarů do OpenAI v roce 2019. Tato investice proběhla navzdory skeptickým varováním Billa Gatese, který tehdejšímu generálnímu řediteli Satyě Nadellovi předpovídal úplnou ztrátu částky.
Nedávný interní report odhalil, že Microsoftovy AI snahy na platformě Azure – cloudové službě pro hosting a škálování aplikací – neprinášejí očekávané výsledky. Prodejní cíle pro Azure AI produkty byly výrazně sníženy a report konstatuje, že tyto služby prakticky nikdo nepoužívá v komerčním měřítku. Navzdory tomu Microsoft a OpenAI po období napětí obnovily spolupráci novou definitivní smlouvou. Klíčovou změnou je, že Microsoft nyní může samostatně nebo s partnery pronásledovat vývoj AGI, tedy umělé obecné inteligence schopné vykonávat libovolné intelektuální úkoly na úrovni člověka. OpenAI nemůže partnerství jednostraně ukončit prohlášením o dosažení AGI bez ověření nezávislým expertem.
V rozhovoru pro Bloombergův program The Mishal Husain Show Suleyman zdůraznil bezpečnostní priority: „Nebudeme pokračovat ve vývoji systému s potenciálem, že nám uteče. Je to v současném průmyslu poměrně nový postoj.“ Tento pragmatismus kontrastuje s agresivní expanzí AI u konkurentů jako Google nebo Meta.
Proč je to důležité
Toto prohlášení signalizuje, že i technologický gigant jako Microsoft, hluboce investovaný do AI s miliardovými výdaji, zvažuje radikální kroky v případě eskalace rizik, jako je nekontrolovatelná superinteligence. Pro průmysl to znamená potenciální zpomalení závodů v AGI vývoji, což by mohlo vést k lepším bezpečnostním standardům, ale také k ekonomickým ztrátám – investoré již vyjadřují obavy z rentability. Pro uživatele to podtrhuje nutnost regulace: Copilot a podobné nástroje zlepšují produktivitu, ale bez bezpečnostních záruk hrozí zneužití. Suleymanův postoj, ač možná částečně PR, posiluje debatu o humanistické superinteligenci, kde AI slouží lidstvu, nikoli naopak, a může ovlivnit globální regulace AI.
Zdroj: 📰 Windows Central