Souhrn
Policie v kanadském Edmontonu spustila minulý týden pilotní projekt, v rámci kterého kamerové vesty policistů vybavené umělou inteligencí rozpoznávají tváře přibližně 7000 osob z takzvaného seznamu vysokého rizika. Firma Axon Enterprise, největší výrobce těchto vest, která v roce 2019 technologie rozpoznávání tváří odmítla kvůli etickým obavám, nyní testuje její nasazení v reálných podmínkách. Projekt má posoudit bezpečnostní výhody, ale kritici upozorňují na nedostatek veřejné debaty a rizika pro soukromí.
Klíčové body
- Pilotní test v Edmontonu zahrnuje kamerové vesty s AI trénovanou na 7000 tvářích z watch listu pro zvýšení bezpečnosti patrollingů.
- Axon Enterprise označuje projekt za ‘počáteční terénní výzkum’, nikoliv komerční spuštění, s cílem shromáždit data pro budoucí bezpečnostní rámce.
- Bývalý předseda etické rady Axonu, Barry Friedman, kritizuje nedostatek testování a veřejné diskuse o společenských rizicích.
- Technologie byla v roce 2019 Axonem dočasně opuštěna kvůli obavám z etiky, nyní se vrací mimo USA.
- CEO Axonu Rick Smith zdůrazňuje nezávislý vhled z kanadského prostředí pro aplikaci v USA.
Podrobnosti
Kamerové vesty policistů, známé jako body cameras, jsou přenosná zařízení nahrávající video a audio během zásahů pro dokumentaci interakcí a zvýšení transparentnosti. V tomto pilotním projektu v Edmontonu, městě s více než milionem obyvatel, jsou vesty od Axon Enterprise – americké firmy specializující se na policejní vybavení jako elektrošokové zbraně tasery a cloudové úložiště nahrávek – vybaveny softwarem pro rozpoznávání tváří. Tento software v reálném čase porovnává obrazy z kamery s databází 7000 tváří označených jako ‘vysoké riziko’, což zahrnuje pravděpodobně pachatele závažných trestných činů nebo hledané osoby.
Projekt byl spuštěn minulý týden a má pomoci patrollingovým policistům identifikovat nebezpečné jedince rychleji, což by mohlo snížit rizika při zásazích. Axon, který v roce 2019 po doporučení své etické rady facial recognition dočasně opustil, nyní argumentuje, že se jedná o výzkum mimo USA pro získání objektivních dat. CEO Rick Smith v blogu píše, že testy odhalí potřebná opatření pro zodpovědné použití, včetně posílení dohledu. Nicméně Barry Friedman, bývalý předseda etické rady a profesor práva na New York University, varuje, že technologie přináší reálné rizika, jako jsou chybné identifikace, zejména u minoritních skupin kvůli biasu v trénovacích datech, a ohrožení soukromí nevinných transeuntů. Bez důkladného veřejného projednání a nezávislého testování by nasazení mohlo vést k zneužití. V Severní Americe je rozpoznávání tváří v policii kontroverzní; například v USA některé města technologie zakázala kvůli obavám z rasového profilování.
Proč je to důležité
Tento pilotní projekt signalizuje posun v nasazení AI v policing, kde se dříve tabuizovaná technologie vrací pod rouškou ‘výzkumu’. Pro průmysl znamená, že Axon může získat konkurenční výhodu v trhu body cameras, který roste díky poptávce po datech pro AI analýzu. Pro uživatele a společnost to přináší dilema mezi bezpečností policistů a ochranou soukromí – chybné rozpoznání může vést k nesprávným zásahům, zatímco úspěch by mohl ovlivnit regulace v Kanadě i USA. V širším kontextu AI etiky to podtrhuje nutnost robustních rámců proti biasu a transparentnosti, protože podobné systémy se objevují i v jiných oblastech jako hraniční kontroly nebo veřejná bezpečnost.
Zdroj: 📰 ABC News
