Souhrn
Australské ministerstvo vnitřních věcí (Department of Home Affairs) zahajuje přípravy na bezpečné použití generativní AI na vládních informacích klasifikovaných jako PROTECTED, což představuje krok vpřed oproti současnému stavu zaměřenému na méně citlivou úroveň OFFICIAL. Ministerstvo pořádá schůzky s dodavateli technologií v podobě tzv. town hallů, kde vysvětluje politiku bezpečného nasazení těchto nástrojů. Policy vznikla ve spolupráci s Agenturou pro digitální transformaci (DTA) a Ředitelstvím signálního zpravodajství (Australian Signals Directorate).
Klíčové body
- Ministerstvo uskutečnilo schůzky s více než 80 dodavateli, včetně Google Australia, Amazon Web Services, IBM Australia, Macquarie Telecom, Oracle Australia, Microsoft a Deloitte.
- Současná politika umožňuje generativní AI pouze na datech OFFICIAL a omezeně na seznam asi 18 schválených dodavatelů, aby se vyhnuli dodatečným kontrolám.
- Nové směrnice se zaměřují na upgrade na úroveň PROTECTED, což je vyšší bezpečnostní klasifikace pro citlivější záznamy.
- AI policy advisory byla zveřejněna na začátku října a slouží jako základ pro diskuse.
- Cílem je koordinované a bezpečné nasazení AI napříč federálními úřady a agenturami.
Podrobnosti
Ministerstvo vnitřních věcí Austrálie, které řídí imigrační, bezpečnostní a hraniční záležitosti, se v posledních měsících zaměřilo na vytvoření bezpečnostního základu pro integraci generativní AI do práce s vládou daty. Generativní AI, jako jsou modely typu ChatGPT nebo Gemini, umožňuje vytvářet texty, analýzy nebo shrnutí na základě zadání uživatele, což může výrazně zefektivnit zpracování dokumentů v úřadech. Zatím se schůzky soustředily na práci s informacemi na úrovni OFFICIAL, což je standardní klasifikace pro běžné vládní záznamy bez významného rizika. Tyto town hall meetingy přilákaly širokou účast dodavatelů z oblasti vládních IT řetězců, kteří musí dodržovat přísné směrnice, aby zabránili únikům dat nebo zneužití modelů.
Nyní ministerstvo přechází k diskuzím o úrovni PROTECTED, která zahrnuje citlivější informace, například personální údaje nebo interní bezpečnostní zprávy, kde selhání by mohlo vést k vážným rizikům. Policy z října stanovuje, že pro OFFICIAL data lze používat AI pouze od předem schválených firem, jako je Microsoft s jeho Azure OpenAI službou pro bezpečné nasazení modelů, nebo Google s Vertex AI pro podnikovou analýzu. Amazon Web Services (AWS) nabízí Bedrock pro správu více AI modelů v izolovaném prostředí, zatímco IBM se specializuje na hybridní cloud řešení s důrazem na bezpečnost. Deloitte jako konzultační firma pomáhá s implementací. Tento seznam 18 dodavatelů eliminuje nutnost individuálních auditů, což urychluje adopci.
Spolupráce s DTA, která koordinuje digitální transformaci veřejných služeb, a ASD, odpovědnou za kybernetickou bezpečnost, zajišťuje, že rámec zohledňuje rizika jako jailbreaking modelů nebo otrávení dat. Kriticky lze říci, že i když je to krok vpřed, současné omezení na OFFICIAL ukazuje na opatrnost vlád – PROTECTED data stále čekají na plné schválení, což odráží obavy z halucinací AI nebo neověřených výstupů v citlivých kontextech. Dodavatelé jako Macquarie Telecom, australský poskytovatel datových center, nebo Oracle s jeho cloudovou databází hrají klíčovou roli v zajištění suverénity dat na australském území.
Proč je to důležité
Tento vývoj signalizuje širší trend vládní adopce generativní AI mimo USA a EU, kde podobné iniciativy již probíhají, například v britském Government AI Framework. Pro australskou veřejnou správu to znamená potenciální zvýšení efektivity v zpracování tisíců dokumentů, ale zároveň nutnost standardizovat bezpečnost, což ovlivní globální dodavatele. V širším ekosystému posiluje důraz na sovereign AI, kde vlády vyžadují lokální úložiště dat a audity, což může zpomalit inovace, ale minimalizovat rizika. Pro průmysl to otevírá trh v hodnotě stovek milionů dolarů, avšak s přísnými požadavky, které menší firmy neustojí. Dlouhodobě to může nastavit precedens pro vyšší úrovně jako SECRET, kde AI zatím chybí.
Zdroj: 📰 iTnews
| 