Souhrn
Nově zveřejněná nezávislá výzkumná zpráva konstatuje, že adopce umělé inteligence v podnicích exploduje, zatímco mechanismy governance, tedy řízení a dohledu nad AI systémy, zaostávají. To vede k rostoucímu riziku stínových identit, což jsou neautorizované nebo nekontrolované digitální identity v IT prostředích. Zpráva zároveň vyzdvihuje firmu Flowable, která se prosazuje v trhu digitální automatizace procesů díky open-source platformě.
Klíčové body
- Adopce AI v podnicích narůstá o desítky procent ročně, governance však pokrývá jen zlomek nasazených systémů.
- Stínové identity představují riziko neznámých účtů nebo přístupů, které mohou být zneužity v AI aplikacích.
- Flowable, open-source platforma pro automatizaci procesů, získává podíl na trhu díky governance-orientovaným řešením.
- Zpráva vychází z nezávislého výzkumu a zdůrazňuje potřebu lepšího dohledu nad AI nasazením.
- Doporučuje se zavádět automatizaci řízenou governance pro minimalizaci rizik.
Podrobnosti
Zpráva, kterou vydal nezávislý výzkumný tým, analyzuje trendy v nasazování umělé inteligence v korporátním sektoru. Podle dat roste počet firem využívajících AI nástroje jako large language models (LLM) nebo machine learning modely pro automatizaci úkolů, analýzu dat či rozhodování. Nicméně governance, což zahrnuje politiky pro etické použití, bezpečnost dat a auditovatelnost rozhodnutí AI, nedochází k tempu adopce. Například méně než 40 procent firem má plně implementované rámce pro dohled nad AI, což vytváří mezery v bezpečnosti.
Klíčovým rizikem jsou stínové identity (shadow identities). Jedná se o digitální identity – jako API klíče, servisní účty nebo dočasné tokeny – které vznikají mimo centrální správu IT oddělení. V kontextu AI to znamená, že například vývojáři nasazují modely na cloudových platformách bez registrace, což umožňuje neoprávněný přístup k datům nebo modelům. Tyto identity mohou být zneužity pro útoky typu data poisoning, kde útočníci ovlivňují trénink AI, nebo pro exfiltraci citlivých informací. Zpráva cituje případy, kdy stínové identity vedly k bezpečnostním incidentům v 25 procentech prozkoumaných firem.
V tomto kontextu zpráva vyzdvihuje Flowable, nizozemskou firmu specializující se na digitální automatizaci procesů (digital process automation, DPA). Flowable vyvinula open-source platformu postavenou na BPMN standardu (Business Process Model and Notation), která umožňuje modelování, orchestraci a spouštění firemních procesů. Na rozdíl od tradičních nástrojů jako Camunda nebo Activiti integruje governance prvky přímo do jádra: automatické audity, role-based access control (RBAC) a compliance s regulacemi jako GDPR nebo NIST AI framework. Platforma slouží k automatizaci workflowů, například schvalování dokumentů, správy incidentů nebo integraci AI modelů do podnikových systémů. Podle zprávy Flowable rychle roste na trhu DPA, kde konkuruje proprietárním řešením od IBM nebo Pegasystems, díky nižším nákladům a flexibilitě open-source modelu.
Zpráva doporučuje firmám zavádět governance-driven automation, kde nástroje jako Flowable slouží k centralizaci identit a automatickému monitoringu AI nasazení. To zahrnuje integraci s identity management systémy jako Okta nebo Azure AD, aby se eliminovaly stínové identity.
Proč je to důležité
Tento trend ukazuje na systémový problém v AI ekosystému: rychlost inovací překonává schopnost regulace, což zvyšuje rizika pro data suverenitu a firemní bezpečnost. Pro uživatele to znamená potřebu investovat do nástrojů, které zajišťují viditelnost a kontrolu nad AI, jinak hrozí regulační pokuty nebo bezpečnostní breache. V širším kontextu to ovlivňuje evropský trh, kde směrnice AI Act vyžaduje přísné governance, a Flowable tak nabízí praktické řešení pro compliance. Bez takových kroků může růst adopce AI vést k nárůstu incidentů, což zpomalí důvěru v technologii.
Zdroj: 📰 HackRead
| 