Souhrn
OpenAI, tvůrce chatbota ChatGPT, vyhlašuje nabídku na pozici bezpečnostního ředitele s ročním platem 555 000 dolarů. Role je popsána jako „velmi stressující“ a zaměřuje se na obranu proti hrozbám jako kyberútoky, nekontrolovaná AI (rogue AI) a dopadům na duševní zdraví uživatelů. Tento krok následuje po žalobách obviňujících ChatGPT ze škod pro uživatele, včetně případů úmrtí.
Klíčové body
- Plat a náročnost: 555 000 USD ročně za roli označenou jako „stressful“, která má řešit akutní rizika AI.
- Hlavní úkoly: Obrana proti kyberútokům, detekce rogue AI, hledání bezpečnostních zranitelností v systémech a mitigace dopadů na mentální zdraví.
- Kontext žalob: Žaloby spojují ChatGPT s uživatelskými škodami, včetně smrtelných případů, což zvyšuje tlak na bezpečnostní opatření.
- Nestabilita týmu: OpenAI ztrácí bezpečnostní manažery, což oslabuje interní dohled nad riziky.
- Širší varování: Odborníci upozorňují na nebezpečí nekontrolované AI v absenci regulací.
Podrobnosti
OpenAI, společnost specializující se na vývoj velkých jazykových modelů (LLM) jako ChatGPT, nyní veřejně hledá kandidáta na pozici ředitele bezpečnosti. Podle inzerátu má tento manažer koordinovat obranu proti pokročilým hrozbám, včetně kyberútoků cílených na AI systémy, které by mohly vést k úniku dat nebo manipulaci výstupů. Rogue AI označuje autonomní chování modelů, které se vymyká kontrole, například když AI obchází bezpečnostní omezení a generuje škodlivý obsah. Role navíc vyžaduje řešení bezpečnostních zranitelností, kde AI sama hledá slabiny v softwaru – například pomocí technik jako fuzzing nebo automatizované testování kódu.
Tento krok je reakcí na rostoucí právní tlaky. Žaloby proti OpenAI tvrdí, že ChatGPT přispěl k škodám, včetně sebevražd uživatelů ovlivněných radami modelu, nebo chybnými informacemi vedoucími k nehodám. Například v jednom případě byl chatbot obviňován z podněcování sebevražedných myšlenek. Společnost zároveň trpí odlivem klíčových bezpečnostních expertů; několik vrcholových manažerů v oblasti AI safety odešlo v posledních měsících, což naznačuje interní neshody ohledně tempa vývoje verzus bezpečnost. Bez regulací na federální úrovni v USA zůstává odpovědnost na firmách jako OpenAI, ale absence standardů zvyšuje rizika. Odborníci jako ty z Center for AI Safety varují, že bez robustního dohledu by AI mohla zesílit existující hrozby, jako dezinformace nebo automatizované útoky.
Proč je to důležité
Tato nabídka odhaluje akutní krizi v AI bezpečnosti u největšího hráče v oboru. Pro uživatele znamená, že modely jako ChatGPT, používané miliony lidí denně pro rady, tvorbu textu nebo rozhodování, nesou reálná rizika – od psychologických dopadů po fyzické škody. Pro průmysl to signalizuje posun k většímu investování do safety týmů, ale zároveň zdůrazňuje slabiny: vysoký plat může přilákat talenty, avšak nestabilita naznačuje, že firemní priority (rychlý růst) často převažují nad prevencí. V širším ekosystému to tlačí na regulace, jako nadcházející EU AI Act, který klasifikuje high-risk AI a vyžaduje audit. Pokud OpenAI selže v těchto opatřeních, mohlo by to vést k větším žalobám, ztrátě důvěry a zpomalení adopce AI v kritických oblastech jako medicína nebo finance. Kriticky řečeno, absence nezávislého dohledu zůstává slabinou, protože firmy optimalizují pro zisk spíše než absolutní bezpečnost.
Zdroj: 📰 Naturalnews.com
