Souhrn
V éře umělé inteligence se data během zpracování v paměti stávají nejslabším článkem bezpečnosti podniků. AI vyžaduje soustředění obrovských objemů dat do kompaktních modelů pro trénink a inference, což dramaticky usnadňuje útočníkům jejich získání. Luigi Caramico, zakladatel a technický ředitel firmy DataKrypto specializující se na kryptografickou ochranu dat, upozorňuje na nutnost větší bdělosti v tomto novém paradigmatu.
Klíčové body
- V minulosti rozptýlená data v silách poskytovala přirozenou obranu proti útokům.
- AI koncentrují data do paměti v nechráněné podobě (“in the clear”), což zjednodušuje jejich útoky.
- Trénink a inference AI modelů vyžadují velké datové sady načtené současně do paměti.
- Bezpečnostní týmy čelí rozšířené ploše útoku díky rychlé adopci AI.
- DataKrypto navrhuje pokročilé kryptografické řešení pro ochranu dat v pohybu i v použití.
Podrobnosti
Článek srovnává současnou éru s 80. lety 20. století, kdy byla kybernetická bezpečnost doménou zvědavých hackerů testujících hranice systémů bez masivních hrozeb. Dnes jsou data nejcennějším aktivem každé organizace a hlavním cílem sofistikovaných kyberzločinců. Bezpečnostní týmy pod vedením CISO musí monitorovat, bránit a reagovat na hrozby v prostředí, kde umělá inteligence rychle rozšiřuje digitální povrch pro útoky.
Tradičně byla podniková data rozložena do oddělených systémů a silů, což vytvářelo provozní neefektivitu, ale zároveň přirozenou vrstvu ochrany. Útočníci museli prohledávat rozptýlené zdroje, podobně jako při pokusu o přesun obrovského množství zlata z pevnosti Fort Knox. AI tento model obrací naruby. Pro trénink modelů a jejich následnou inference – tedy predikce na základě nových dat – je nutné shromáždit a destilovat obrovské datové sady do kompaktních, přenosných modelů. Tyto modely ukládají znalosti extrahované z citlivých dat, ale během zpracování zůstávají data v paměti nechráněná.
DataKrypto, firma zaměřená na pokročilou kryptografii pro ochranu dat v cloudu a na edge zařízeních, zdůrazňuje riziko dat “v použití”. Načtení do paměti pro AI zpracování znamená, že jsou vystavena v otevřené podobě bez vestavěné šifrování. To přeměňuje obranu z komplexního opevnění na ochranu jediného centrálního cíle. Jako expert na bezpečnost AI vidím zde klíčovou roli technologií jako Trusted Execution Environments (TEE), například Intel SGX nebo AMD SEV, které umožňují zpracování dat v šifrovaném prostoru bez dekódování. Homomorfické šifrování, které dovoluje výpočty přímo nad zašifrovanými daty, je další cesta, i když zatím náročné na výkon GPU. Bez těchto opatření útočníci využijí memory scraping nebo side-channel útoky k získání plných datasetů.
Proč je to důležité
Tento posun má zásadní dopady na podniky: zvýšené riziko úniků citlivých dat, jako zdravotnické záznamy nebo finanční informace, použitých pro trénink AI. V širším ekosystému urychluje adopci confidential computing, kde firmy jako Google s Confidential VMs nebo Microsoft s Azure Confidential Ledger nabízejí řešení. Pro průmysl znamená nutnost přehodnocení architektury – od data-at-rest ochrany k data-in-use. Pokud se bezpečnostní týmy nepřizpůsobí, AI se stane katalyzátorem masivních incidentů, podobně jako cloud v minulosti. Dlouhodobě to posílí poptávku po hardwarově podporovaném šifrování a standardech jako EU AI Act, který vyžaduje robustní bezpečnost vysokorizikových systémů.
Zdroj: 📰 TechRadar
| 