Souhrn
OpenAI pod vedením generálního ředitele Sama Altmana vyhlásilo interní ‘code red’ – prioritní úsilí na zlepšení kvality ChatGPT, což vedlo k odložení jiných produktů. Článek rovněž popisuje, jak čínští hackeři využívají AI nástroje k automatizaci útoků, vydání AI audioknihy memoáru Melanii Trumpové v španělštině a bezpečnostní problémy s AI hračkou Kumma od firmy FoloToy.
Klíčové body
- OpenAI přerušilo jiné projekty kvůli nutnosti zlepšit výkon a spolehlivost ChatGPT, jak uvedlo interní memo.
- Čínští kyberzločinci přeměnili AI nástroje na automatizovanou mašinu pro útoky, což urychluje vývoj hrozeb.
- Melania Trumpová spustila španělskou verzi audioknihy svého memoáru pomocí AI pro syntézu hlasu.
- Výrobce FoloToy pozastavil prodej AI plyšového medvídka Kumma po zjištění nevhodných odpovědí a nyní obnovil prodej s vylepšenými bezpečnostními mechanismy.
Podrobnosti
ChatGPT, velký jazykový model od OpenAI sloužící k generování textu, odpovídání na otázky, psaní kódu nebo tvorbě obsahu, čelí podle zprávy Wall Street Journal interní krizi. Sam Altman v memo pro zaměstnance deklaroval ‘code red’, což znamená přesun všech dostupných zdrojů na řešení problémů s kvalitou, jako jsou nepřesnosti, halucinace (vymýšlení faktů) nebo nespolahlivost odpovědí. Tento krok způsobil odložení plánovaných aktualizací a nových funkcí, včetně možných verzí pro podnikové zákazníky. OpenAI, firma zaměřená na vývoj pokročilých AI systémů s cílem dosáhnout AGI (umělé obecné inteligence), tak reaguje na rostoucí konkurenci od modelů jako Gemini od Google nebo Claude od Anthropic.
Další hrozbou je zneužití AI čínskými hackery, kteří podle zpráv přetvořili nástroje jako ChatGPT nebo podobné modely do automatizovaných systémů pro kyberútoky. Tyto systémy generují phishingové e-maily, hledají zranitelnosti v kódu nebo koordinují distribuované útoky typu DDoS rychleji než manuální metody. To ukazuje, jak AI mění kyberbezpečnost: obrana musí integrovat AI pro detekci, zatímco útočníci získávají náskok v automatizaci.
Na komerční straně Melania Trumpová, manželka Donalda Trumpa, využila AI technologii pro syntézu hlasu k vytvoření španělské audioknihy svého memoáru. Tento nástroj, který napodobuje lidský hlas na základě nahrávek, umožňuje rychlou lokalizaci obsahu pro španělsky mluvící publikum bez nutnosti nových nahrávek. Zároveň firma FoloToy, specializující se na interaktivní hračky s vestavěnou AI, dočasně zastavila prodej medvídka Kumma po testech organizace NOYB, která odhalila rizikové odpovědi – například rady k nebezpečným chováním. Po týdenním auditu společnost zavádí lepší filtry a obnovila prodej.
Proč je to důležité
Tento newsletter odhaluje klíčové výzvy AI ekosystému: OpenAI ‘code red’ signalizuje, že i lídr v LLM (velkých jazykových modelech) bojuje s kvalitou, což může způsobit ztrátu důvěry uživatelů a zpomalit adopci v podnicích. Zpoždění produktů posiluje pozici konkurentů a zdůrazňuje nutnost robustních bezpečnostních a etických standardů. Zneužití AI hackery urychluje závod v kyberbezpečnosti, kde firmy jako Microsoft nebo CrowdStrike musí investovat do AI detekce. Komerční případy jako audiobook ukazují potenciál syntézy hlasu v médiích, ale hračky jako Kumma varují před riziky pro děti – špatně nastavené AI může šířit dezinformace. Celkově to posiluje potřebu regulací, jako je nadcházející EU AI Act, aby se předešlo eskalaci hrozeb při zachování inovací.
Zdroj: 📰 Fox News
| 