Bezpečnostní ředitelé v zdravotnictví přizpůsobují kybernetickou strategii náporu AI

Souhrn

Bezpečnostní ředitelé (CISO) v zdravotnictví přehodnocují svůj přístup k nasazování umělé inteligence (AI). Místo toho, aby AI vnímali jako riziko, které je třeba brzdit, začínají ji chápat jako nástroj, který je nutné aktivně řídit. Cílem je zajistit bezpečné využití AI bez ohrožení důvěrnosti zdravotních dat ani kvality péče o pacienty.

Klíčové body

Zdravotnická zařízení nasazují AI rychleji než zabezpečení, což opakuje chyby z minulých technologických vln.
Hlavní rizika spočívají v nekontrolovaném sdílení citlivých dat s veřejnými AI modely a v příliš autonomních bezpečnostních systémech.
Odborníci zdůrazňují nutnost lidského dohledu nad rozhodnutími AI, zejména v kritických situacích jako jsou chirurgické zákroky.
Klíčovými opatřeními jsou zpřísněná správa (governance), lepší přehled o toku dat a vzdělávání zaměstnanců.

Podrobnosti

Na webináři organizovaném portálem healthsystemCIO se sešli bezpečnostní ředitelé z prestižních zdravotnických institucí – Brian Cayer (Keck Medicine of USC), Christopher Frenz (nezávislý CISO), Steven Ramirez (Renown Health) a Damian Chung (Netskope, společnost specializující se na cloudovou bezpečnost). Diskutovali o tom, jak přizpůsobit kybernetické strategie rychlému nasazování AI nástrojů. Frenz upozornil, že mnoho organizací implementuje AI jen proto, že „to dělají ostatní“, bez reálného posouzení, zda AI skutečně řeší daný problém. Cayer zdůraznil riziko úniku osobních zdravotních údajů (PHI – Protected Health Information), když zaměstnanci nevědomky vkládají citlivá data do veřejných SaaS nástrojů nebo chatbotů, které data uchovávají nebo využívají pro trénování. Zvlášť nebezpečné je nasazení autonomních bezpečnostních systémů, které by mohly na základě chybného rozhodnutí AI zablokovat přístup chirurgovi během operace. Proto všichni panelisté shodně doporučují, aby AI nikdy nečinila bezpečnostní rozhodnutí ovlivňující klinickou péči bez lidského schválení.

Proč je to důležité

Tento posun v přístupu k AI odráží širší trend v kritických odvětvích: technologie se již nedají zastavit, a proto je nutné je řídit, nikoli blokovat. Pro zdravotnictví, kde je ochrana dat a bezpečnost pacientů základní povinností, je tato rovnováha mezi inovací a bezpečností obzvlášť křehká. České nemocnice a kliniky, které začínají experimentovat s AI, by si měly tuto lekci zapamatovat – bez pevné governance a vzdělaných uživatelů může i nejlepší AI nástroj způsobit vážné bezpečnostní incidenty.

Číst původní článek

Zdroj: 📰 Healthsystemcio.com