Námět na nedělní přemýšlení: Společnost Blackboxu

V poslední době je zřejmě nejinspirativnější soustava myšlenek kolem konceptu blockchainu. K němu někdy jindy, tohle je jen námět na malé nedělní přemýšlení. Začínáme být společností blackboxu. Co to je a o co jde?

S názvem “black box society” přišel profesor práv Frank Pasquale (zde má Twitter) a vydal na to téma knihu, popisující, jak utajené algoritmy ovlivňují a ovládají naše životy. Tady je PDF, 32 stran toho nejdůležitějšího, pro větší čtení doporučím celou (česky myslím nevyšla).

 

Myšlenka je jednoduchá. Celou řadu našich rozhodnutí nebo událostí v našem životě ovlivňují algoritmy, do kterých nevidíme. Dobrý příklad je ono klasické zařazení na seznam podezřelých z terorismu v USA. Vlastně nejsou známy podmínky, jakým způsobem se rozhodne o zařazení na něj a dokonce ani není jisté, zda nějaké takové formální podmínky existují. Je totiž velký rozdíl, jestli je to nějaká striktně hraniční podmínka typu “použil jste v emailu a SMS slovo sarin”, nebo zda je to stále běžnější “počet příznaků v multiprostorovém vektoru vás přesunul mezi podezřelé”, přičemž přesnou povahu těch příznaků nezná ani sám operátor systému, protože si je sestavuje samoučící umělointeligentní systém podle toho, jak se mění komunikace i vztahy ve společnosti. A co je smutné, ani není zřejmé, jak se zase z takového seznamu dostat v případě “false positive”, tedy v momentě, kdy je zcela jasné, že vás vyhodnotili jako podezřelého neprávem, jenže vám to komplikuje život (získání práce ve státní sféře, cestování atd, už to bylo dokumentováno).


Pasquale popisuje společnost blackboxu především s ohledem na oběh informací a na finanční svět, jenže to není všechno. Problém je širší a stává se stále širším. „Může být program rasistickým?“ ptá se vemlouvavě David Auerbach na The Slate a rychle ukazuje, že může.

 

Z pohledu IT je jasné, proč se tak děje. Systémy musí být adaptabilní, protože situace se mění. Musí být také do jisté míry nepředvídatelné, protože tím mohou být o krok napřed ve sledování teroristů či v jiných ohledech.

 

Z pohledu společnosti je to ale jiné a kauza Snowden to ukazuje stále častěji: všudypřítomné podezření ze špehování a rostoucí podezření, že i drobné “odchylky od normálu” vás mohou přehoupnout mezi zájmové osoby, rozpracované, sledované, podezřelé. To na jednu stranu vede k intenzivnějšímu odporu u těch, co jsou schopni se sami radikalizovat, k sebenormalizaci či frustraci u těch, kteří toho nejsou. Což způsobuje onu ideovou dualitu světa, kdy stále častěji ve společnosti vídáme dva nesmiřitelné tábory nechápající jeden druhý a neschopný spolukomunikace. Jak by ne, mezi přístupem Kolaborovat a Odporovat se těžko hledá spojnice.

 

Je z tohoto dilematu východisko? Sám Pasquale ho přímočaře nevidí, když píše “ani newyorská kvantana, ani kalifornští inženýři nemohou zajistit rozumnou ekonomiko nebo bezpečnou společnost. To jsou úkoly na občanstvo.”

 

A proč je to spojnice k tématům okolo blockchainu? Věrozvěstové ji vidí hlavně v tom, že blockchain je “dokonale průhledný”, nejsou zde žádné zablackboxované algoritmy, vše je veřejné. Na druhou stranu, až moc. Ale o tom někdy příště. Ostatně, to je to téma na nedělní uvažování. Co dělat s tím, že nás stále více ovlivňují věci, do kterých nevidíme a zda nám neviditelného Boha nenahrazuje neviditelný Google a jiné podobné entity. Lišíme se od středověkých lidí v průměru svou bezmeznou vírou, jen jsme ji nahradili? A jaká jsou rizika i výhody tohoto přístupu pro společnost?

Chcete nové články emailem?

Přihlašte se zde a nově vydané články vám hned dorazí na email:
Jak se vám líbil článek?
1 Star2 Stars3 Stars4 Stars5 Stars (hlasováno , průměr: 5,00)
Loading...

3 komentáře

  • Děkuji za změnu fontu, alespoň u textu článku. Jedná se sice o standardní, okoukaný font, ale dá se alespoň rozumně číst, na rozdíl od montserratlight.
    BTW, když se dívám na originál montserratlight ( https://www.fontsquirrel.com/fonts/montserrat ), tak ten se dá číst také. Není problém jen ve Vašem případě? Srovnejte například toto: https://i.imgur.com/mhieniG.png (na Vašem blogu je divné „t“).

  • V předchozím komentáři je špatná odkaz na srovnání: https://i.imgur.com/wK09Sig.png

  • „ani newyorská kvantana, ani“

    To je naprosto spatny preklad. Quant je oznaceni povolani (mix statistika, aplikovaneho matematika a programatora, zejmena ve financnictvi), co se pouziva hlavne na vychodnim pobrezi. Takze „Ani newyorsti kvantove, ani…“