Obecné zásady pro používání umělé inteligence na CERNu

Souhrn

CERN přijal obecné zásady pro používání umělé inteligence (AI), které mají zajistit její zodpovědné, etické a bezpečné nasazení napříč všemi oblastmi fungování organizace. Tyto zásady se vztahují jak na interně vyvíjené, tak externě pořízené AI systémy.

Klíčové body

Zásady platí pro veškeré použití AI na CERNu – včetně výzkumu, provozu urychlovačů a administrativy.
Důraz je kladen na transparentnost, lidskou odpovědnost, právní soulad a prevenci škod.
AI nesmí vést k diskriminaci, musí být bezpečná a v souladu s Kodexem chování CERNu.
Použití AI musí být vždy dokumentováno a vysvětlitelné.

Podrobnosti

CERN, jakožto mezinárodní výzkumné centrum pro částicovou fyziku, využívá AI v široké škále aplikací – od analýzy dat z detektorů a simulací částicových srážek až po prediktivní údržbu urychlovačů a optimalizaci jejich výkonu. AI se rovněž nasazuje v administrativních procesech, například pro automatický překlad dokumentů, korekci jazyka, asistenci při psaní kódu nebo automatizaci pracovních postupů. Nově přijaté zásady stanovují rámec pro všechny tyto případy. Vyžadují, aby bylo vždy jasné, kde a jak je AI nasazena, a aby její výstupy byly vysvětlitelné. Zásady explicitně zakazují přesunutí konečné odpovědnosti na algoritmy – lidé zůstávají vždy zodpovědní za rozhodnutí, která AI podporuje nebo ovlivňuje. Dále se klade důraz na bezpečnost: AI systémy musí být chráněny proti kybernetickým hrozbám a nesmí ohrožovat fyzickou ani datovou bezpečnost zařízení CERNu. Zásady jsou technologicky neutrální, což znamená, že se vztahují na jakoukoli formu AI, včetně budoucích modelů, které ještě neexistují.

Proč je to důležité

CERN je jedním z největších vědeckých institucí světa a jeho přístup k AI může sloužit jako referenční model pro další výzkumné organizace i veřejný sektor. Zavedení jasných etických a bezpečnostních standardů pro AI v prostředí, kde se jedná o kritickou infrastrukturu a citlivá vědecká data, posiluje důvěru v technologii a minimalizuje rizika spojená s jejím nekontrolovaným nasazením. Tyto zásady tak přispívají k globálnímu úsilí o zodpovědné využívání AI v oblastech, kde je přesnost, bezpečnost a důvěryhodnost klíčová.

Číst původní článek

Zdroj: 📰 Cern.ch