Souhrn
Cory Doctorow, spisovatel science fiction a kritik technologických trendů, přednesl řeč „The Reverse Centaur’s Guide to Criticizing AI“ pro sérii přednášek „Neuroscience, AI and Society“ na University of Washington. V ní popisuje svou roli jako tvůrce futuristických paraboly, které zkoumají nejen funkce technologií, ale především jejich sociální dopady – kdo z nich těží a kdo trpí. Zdůrazňuje, že nepředpovídá budoucnost, což by podle něj znamenalo rezignaci na možnost jejího ovlivnění.
Klíčové body
- Science fiction slouží k analýze současných technologicko-společenských uspořádání, nikoli k předpovídání.
- Předvídatelná budoucnost by znamenala nemožnost zásahu, což je podle Doctorowa „mizerná perspektiva“.
- Mnoho lidí si plete sci-fi s prorockými vizi, což zkresluje debatu o AI.
- Zaměření na „obrácečného kentaura“ – koncept, kde AI zesiluje lidské slabiny místo silných stránek.
- Kritika AI musí zkoumat, pro koho technologie fungují a komu škodí.
Podrobnosti
Cory Doctorow, známý svými díly jako „Little Brother“ nebo „Walkaway“, kde zkoumá dopady technologie na svobodu a rovnost, vystoupil v Computational Neuroscience Center na University of Washington. Přednáška byla vyprodaná a teď je dostupná jako text na jeho blogu Pluralistic. Doctorow začíná vysvětlením své profese: jako spisovatel science fiction nevymýšlí předpovědi, ale paraboly, které odhalují skryté mechanismy současnosti. Například se ptá nejen „co gadget dělá“, ale „pro koho to dělá a komu to ubližuje“. Tento přístup aplikuje na AI, kde vidí rizika v tom, jak velké firmy jako OpenAI nebo Google prezentují modely jako GPT nebo Gemini jako nevyhnutelnou budoucnost.
„Reverse centaur“ je klíčový koncept z jeho nadcházející knihy „The Reverse Centaur’s Guide to Life After AI“ (vydání v červnu 2025 u Farrar, Straus and Giroux). Tradiční „centaur“ v AI označuje hybrid člověka a stroje, kde AI zesiluje lidské schopnosti – například šachový grandmaster s engine. Obrácený kentaur naopak zesiluje slabiny: AI generuje halucinace, které lidé pak šíří jako pravdu, nebo automatizuje nudné úkoly tak, že firmy propouštějí zaměstnance a snižují kvalitu. Doctorow cituje příklady z praxe, jako algoritmy sociálních sítí, které maximalizují zlobu pro engagement, nebo LLM, které produkují texty bez hloubky, což vede k „enšitifikaci“ obsahu.
Přednáška kritizuje i ty, kdo AI přehánějí do apokalyptických scénářů nebo naopak do utopických. Místo toho volá po empirické kritice: testovat, zda AI zlepšuje nebo zhoršuje životy. Například v kontextu neuroscience zdůrazňuje, že AI modely jako large language models (LLM) nenapodobují mozek, ale jsou statistickými prediktory slov, což vede k chybám v bezpečnostních aplikacích. Doctorow spojuje to s širšími tématy z blogu: od algoritmů duchů v Pac-Manu po soudy Kanady s Googlem o antimonopolních opatřeních. Celý text končí výzvou k aktivnímu tvarování budoucnosti mimo fixní koleje hype.
Proč je to důležité
Tato přednáška přináší vyvážený pohled na AI v době, kdy debata dominují buď technooptimisté jako Sam Altman, nebo alarmisté jako Eliezer Yudkowsky. Doctorow jako expert na open source a digitální práva (zakladatel Creative Commons iniciativ) nabízí nástroje pro kritiku, které jsou užitečné pro výzkumníky v neuroscience i širokou veřejnost. V praxi to znamená, že AI není neutrální nástroj, ale designovaný systém s vlastníky, kteří maximalizují zisk – například proprietární modely bez auditu. Pro průmysl to signalizuje potřebu regulací, jako Section 230 v USA nebo EU AI Act, aby se zabránilo zesílení nerovností. V širším ekosystému podněcuje diskusi o etice AI mimo komerční bubliny, což je klíčové pro udržitelný rozvoj technologií.
Zdroj: 📰 Pluralistic.net
