Souhrn
Prezident Donald Trump podepsal výkonný příkaz, který tlačí americké státy, aby nereglovaly umělou inteligenci. Podle něj a některých republikánů by stávající i budoucí regulace brzdily inovace v AI. Kritici z obou stran, včetně skupin za občanská práva a spotřebitelská práva, to považují za prosazení zájmů velkých AI firem a překročení prezidentských pravomocí.
Klíčové body
- Čtyři státy (Colorado, Kalifornie, Utah, Texas) mají zákony regulující AI v soukromém sektoru, zaměřené na sběr osobních údajů a transparentnost.
- AI ovlivňuje klíčová rozhodnutí jako udělení pracovního pohovoru, hypotéky nebo lékařské péče, ale často vykazuje chyby a diskriminaci na základě pohlaví či rasy.
- Státy navrhují povinnou transparentnost a hodnocení rizik diskriminace v AI systémech.
- Další regulace se týkají deepfakes v volbách.
- Trumpův příkaz je kritizován jako neústavní zásah do státních pravomocí.
Podrobnosti
Výkonný příkaz podepsaný Donaldem Trumpem ve čtvrtek je součástí širší debaty o regulacích umělé inteligence v USA. Podle Mezinárodní asociace profesionálů v oblasti soukromí (International Association of Privacy Professionals) mají zatím jen čtyři státy – Colorado, Kalifornie, Utah a Texas – přijaté zákony platné pro soukromý sektor. Tyto zákony omezují sběr citlivých osobních údajů a vyžadují od firem vyšší míru transparentnosti při používání AI. Důvodem je rozšířené nasazení AI v každodenním životě, kde technologie rozhoduje o zásadních věcech: kdo dostane pozvánku na pohovor, hypotéku na dům nebo specifickou lékařskou péči.
Výzkumy ukazují, že AI systémy často selhávají v těchto rozhodnutích kvůli skrytým biasům, které upřednostňují určité pohlaví nebo rasu. Jak vysvětlila Calli Schroederová, ředitelka programu AI a lidská práva v organizaci EPIC (Electronic Privacy Information Center), u lidského rozhodování lze požadovat vysvětlení: „Hej, vysvětli, jak jsi k tomu dospěl, jaké faktory jsi zvážil?“ U AI to nejde – algoritmy fungují jako černá skříňka, a dokonce ani programátoři často nedokážou plně vysvětlit rozhodovací proces. To vede k návrhům na ambicióznější regulace: firmy by měly povinně poskytovat transparentnost a hodnotit rizika diskriminace v systémech jako je například automatické hodnocení životopisů nebo úvěrové skóring.
Kromě těchto širokých pravidel mnoho států reguluje specifické aspekty AI, jako je zákaz deepfakes – uměle generovaných videí nebo audia – v politických kampaních a volbách, aby se zabránilo dezinformacím. Trumpův příkaz tyto snahy brzdí tím, že federální vládu staví proti státním iniciativám, což vyvolává otázky o ústavnosti. Kritici poukazují, že absence regulací nechává velké firmy jako OpenAI nebo Google s minimálním dohledem, což zvyšuje rizika pro spotřebitele.
Proč je to důležité
Tento příkaz ovlivní vývoj AI průmyslu v USA, kde státy tradičně přebírají roli v ochraně spotřebitelů kvůli pomalé federální legislativě. Pro uživatele to znamená potenciálně vyšší rizika biasu v AI rozhodnutích, která ovlivňují práci, finance a zdraví, bez možnosti apelace nebo vysvětlení. Pro průmysl to podpoří rychlejší inovace, ale na úkor bezpečnosti – velké firmy získají volnost, zatímco menší aktéři mohou trpět absencí standardů. V širším kontextu posiluje to trend deregulace v AI, podobně jako v Evropě s AI Act, kde se hledá rovnováha mezi růstem a etikou. Jako expert na AI vidím riziko, že bez regulací se chyby v modelech jako large language models rozšíří do kritických oblastí bez odpovědnosti.
Zdroj: 📰 Insurance Journal
