Souhrn
Šéf OpenAI Sam Altman na AI Impact Summit v New Delhi vyzval k okamžité regulaci umělé inteligence, která se rychle vyvíjí. Podle něj je nutné vytvořit globální koordinační mechanismus podobný IAEA, aby se zabránilo rizikům centralizace této technologie. Altman zároveň oznámil partnerství s indickou firmou Tata Consultancy Services na stavbě datových center.
Klíčové body
- Altman zdůraznil urgentní potřebu regulace a bezpečnostních opatření pro AI, srovnává je s jinými mocnými technologiemi.
- Navrhl mezinárodní organizaci typu IAEA pro rychlou reakci na změny v AI.
- Podpořil demokratizaci AI, varoval před centralizací v jedné firmě nebo zemi.
- ChatGPT má v Indii 100 milionů týdenních uživatelů, převážně studenty.
- OpenAI spustilo spolupráci s TCS na infrastruktuře datových center v Indii.
Podrobnosti
Sam Altman, generální ředitel OpenAI – společnosti, která vyvinula ChatGPT, generativní AI chatbot sloužící k tvorbě textu, odpovídání na otázky a generování obsahu na základě uživatelských požadavků – vystoupil na čtvrtém ročníku AI Impact Summit v New Delhi. Tato konference se zaměřuje na řízení pokročilých výpočetních technologií a přitahuje špičkové manažery technologických firem. Altman přímo řekl: „Toto není návrh, že nebudeme potřebovat žádnou regulaci nebo bezpečnostní opatření. Zjevně je potřebujeme, urgentně, stejně jako u jiných mocných technologií.“
Jeho návrh na založení organizace podobné IAEA – mezinárodní agentuře OSN odpovědné za dohled nad civilním využíváním jaderné energie a prevenci šíření jaderných zbraní – by měl umožnit globální koordinaci a rychlou reakci na nové výzvy v AI. IAEA slouží jako model pro kontrolu rizikových technologií, což Altman považuje za vhodné pro AI kvůli její rychlé evoluci. Varoval, že centralizace AI v rukou jedné firmy nebo země by mohla vést k „zničení“, zatímco demokratizace – široké dostupnosti – je nejlepší cestou k prospěchu lidstva.
Altman zmínil aktuální problémy, jako je narušování pracovních míst, sexualizované deepfakes (falešné videa generované AI, která manipulují obrazy lidí v erotickém kontextu) nebo podvody umožněné AI. Tyto hrozby podporují volání po regulaci, které přichází od vědců i aktivistů. V Indii, kde ChatGPT dosahuje 100 milionů týdenních uživatelů (více než třetina studentů), ilustroval Altman potenciál AI pro vzdělávání, ale i rizika. Dříve téhož dne OpenAI oznámilo partnerství s Tata Consultancy Services (TCS), jednou z největších indických IT firem specializující se na outsourcing softwarového vývoje a IT služby, na výstavbě datových center. Tato infrastruktura je klíčová pro trénink velkých jazykových modelů (LLM), jako je GPT, které vyžadují obrovské výpočetní zdroje.
Altman uzavřel, že příští roky otestují společnost: „Můžeme buď posílit lidi, nebo soustředit moc.“ Připomněl, že technologie vždy narušuje práci, ale lidé nacházejí nové úkoly.
Proč je to důležité
Altmanovy slova přicházejí v době, kdy regulace AI nabírá na obrátkách – například Evropská unie přijala AI Act, který klasifikuje AI systémy podle rizik a zavádí povinnosti pro vývojáře. Jeho návrh IAEA-like struktury by mohl ovlivnit globální debatu, zejména když USA a Čína soutěží v AI. Pro průmysl to znamená potencionální zpomalení inovací kvůli byrokracii, ale i lepší bezpečnost proti zneužití. Pro uživatele v Česku a EU to podtrhuje nutnost vyvážené regulace, která chrání před deepfakes nebo scamem, aniž by brzdila přístup k nástrojům jako ChatGPT. Partnerství s TCS signalizuje expanzi OpenAI do Asie, což posílí konkurenci s Google Gemini nebo Meta Llama. Kriticky řečeno, Altman sám profituje z nedostatku regulace, protože OpenAI rychle roste, ale jeho výzva může být strategickým tahem k legitimaci současného stavu.
Zdroj: 📰 The Times of India