Garangova limita

Povídka na téma umělé inteligence a problémů s ní spojených. Pomezí sci-fi a sociologické eseje 🙂Diplomová práce

 

Garangova limita a problematika jejího překonání jako určující vlivy vývoje lidstva v letech 2000-2080


Eleonora Zandl

Univerzita Karlova Praha, fakulta sociohistorie, květen 2092

„Prohlašuji, že jsem tuto diplomovou práci zpracovala samostatně a veškerá použitá literatura a další prameny jsou uvedeny v seznamu“

Úvod


Fenomén Garangovy limity se ve světě počítačů a umělé inteligence stal pojmem s tolika postranními překryvy a dopady, že je dnes velmi nepravděpodobné narazit na odvětví lidské činnosti, jež by nepoznamenal. Dnes jsme si sice vědomi důsledků, které nám Garangova limita a snaha o její překonání přinesla, mnohem méně jsme si ale jisti v příčinách těmto důsledkům předcházejících.

Rozsáhlé celospolečenské změny, které lidskou společnost postihly v prvním půlstoletí třetího tisíciletí, představují vůbec nejrozsáhlejší změny v lidských dějinách. Role tradičních institucí, ať již státního, sekulárního či čistě personálního charakteru se vychýlily po dobu několika desetiletí, někdy i (jak se dnes zdá) trvale. Období frustrace následovalo období otřesů a často i násilných a brutálních změn. Lidstvo se v obrovských bolestech během pouhých dvou generací radikálně změnilo a tato změna přinášela utrpení ba i smrt miriádám lidí. Můžeme s jistotou říci, že svět před a po postulování Garangovy limity nikdy nebude stejný, stejně jako nebyl stejný před a po páru Říše Římské.

Vzniklo mnoho prací mapujících historii problematiky spojené s Garangovou limitou, žádná z prací se ale nepokusila najít odpovědi na to, zda tyto problémy byly nevyhnutelné a zda před námi neleží nějaká další „Garangova limita“ čekající na zmučené lidstvo.

Tématem této diplomové práce je tedy vztah Garangovy limity na vývoj lidstva v letech 2000-2050. V této práci se pokusím načrtnout hlavní pojítka mezi lidskou touhou po dosažení božství, postulátem garangovy limity jakožto problému striktně počítačového světa až po projekci honby za překonáním limity do reálného světa.

Garangova limita


Dnes existuje mnoho rozvíjejích definic Garangovy limity, je ale také známým faktem, že původní a také jediný postulát pocházející od profesora Garanga, byl velmi kusý. Profesor Berlínské univerzity dr. Theodor Garang jej přednesl v dubnu 2005 na zahajovacím proslovu hannoverského veletrhu CeBIT.

CeBIT 2005, spor Ballmer versus Garang


Hlavním motivem veletrhu CeBIT 2005 byly úspěchy na poli umělé inteligence a rozpoznávání lidské řeči. Steve Ballmer, šéf tehdy nejdůležitější softwarové společnosti Microsoft (v roce 2012 ji pohltil Borland), představoval operační systém Windows New Millenium, vybavený mimo jiné rozpoznáváním řeči a intuitivní analýzou uživatelova chování. Ballmer ve své strhující presentaci označil tento operační systém za první setření bariéry mezi lidskou a umělou inteligencí. Ballmer poukazoval na fakt, že systém analýzou uživatelského chování přizpůsobuje své funkce uživateli. Například si všímá, jak často uživatel používá antivir, případně jaké webové stránky v kterou hodinu spouští a podle toho automaticky antivir spouští, případně dopředu natahuje webové stránky a uživateli je nabídne přímo z pracovní plochy.

Prof. Garang, jehož proslov měl mapovat lidské snažení v oblasti vývoje komplexního software na bázi umělé inteligence, pojal svůj proslov jako historizující a připomněl, že podobných produktů tu byla již v minulosti celá řada. Vždy však šlo o uplatnění jednoduchý algoritmů, které Garang označil „spíše za pohrobky jarmarečního kouzelnictví, než předobrazy umělé inteligence“. Garang poukázal na slabiny Windows NM v této oblasti a celou snahu Microsoftu označil za absolutně bezvýznamnou a irelevantní ve vztahu k umělé inteligenci (UI), za začlenění běžně známých slepých vývojových větví UI do masově prodávaného operačního systému ve snaze udržet nadvládu nad softwarovým trhem.

Celý projev v přímém přenosu přenášela německá televizní stanice Giga a tak se zachoval pro budoucnost celý průběh této velmi vzrušené přednášky. Rozčilený Steve Ballmer vyskočil na podium a ve velmi živé a vzrušené rozpravě prohlásil, že společnost Microsoft do roku 2012 uvede na trh operační systém pro domácnosti vybavený plnou umělou inteligencí, tedy schopný autonomně jednat podle vysloveného přání majitele a splňující kriteria Turingova testu. Garang na to opáčil, že toho Microsoft nebude nikdy schopen.

Když pořadatel konference uklidnil rozčileného Ballmera a znovu nastolil klid v sále, jenž střídavě tleskal Garangovi a Ballmerovi, vyzval profesora Garanga, aby svoje tvrzení dokázal. Profesor Garang tehdy vyslovil první definici Garangovy limity:

„Za současného stavu interkomunikace mezi členy vývojářských týmů nelze dosáhnout úrovně umělé inteligence u vyvíjeného software tak, aby naplňoval Turingův test. Každý vývojářský tým je limitován svojí komunikační schopností pojmout synteticky a následně analyticky komplexnost problému vytvoření umělé inteligence a bez adaptace schopností mimosmyslové komunikace a vnímání je nemyslitelné, aby jakýkoliv člověk či skupina lidí vytvořila funkční systém umělé inteligence. Každý takový pokus zůstane nutně akademickým pokusem nebo nezodpovědnou hříčkou, dokud vývojové týmy nezvládnou mimosmyslovou percepci.“

Tato definice byla zkrácena na dnes obecně používanou definici Garangovy limity:

„Umělá inteligence je lidstvu nedosažitelná bez mimosmyslové komunikace.“

I dnes, když už jsme obeznámeni se všemi důsledky, se zdá podivné a nepravděpodobné, obtížně akceptovatelné, co Garangova limita způsobila. Lze samozřejmě namítnout, že šlo pouze o celospolečenský katalizátor, nikoliv o přímou příčinu, že Garangova limita byla pouze urychlovačem změn. Je také možno se značnou jistotou usoudit, že kdyby Garang se svojí definicí přišel o pouhých deset let dříve, nebyla by schopna tak plošných následků. Dalším reaktantem v tavicím kotlíku nové civilizace totiž byla široká dostupnost internetu jako informačního média a tedy stav „absolutně informační společnosti“.

Garangova smrt


Dalším součinitelem podílejícím se na značné a rychlé popularizaci Garangovy limity byla téměř mystická smrt prof. Theodora Garanga. Na svém vystoupení v Hannoveru přislíbil uspořádat druhý den pro zájemce podrobnější přednášku věnovanou matematickým důkazům limity a také myšlenkám vedoucím k jejímu překonání.

Hlavní přednáškový sál hannoverského výstaviště praskal druhý den ve švech, přednášku v přímém přenosu vysílalo několik televizních stanic včetně CNN, velké obrazovky pořadatelé na poslední chvíli instalovali i do předsálí a do parku výstaviště tak, aby desetitisíce zájemců o přednášku mohli sledovat to, co den před tím ve večerních zprávách označilo mnoho komentátorů a analytiků za „přednášku desetiletí“.

Když se značným zpožděním vystoupil před již velmi nervózní a nedočkavé posluchače šéf pořádající Deutsche Messe Klaus E. Goehrmann, bylo již zřejmé, že se stalo něco neobvyklého. Klaus Goehrmann pouze pohnutým hlasem prohlásil, že profesor Garang byl nalezen ve svém hotelu mrtev a přednáška tedy bude zrušena. Následně se situace na hannoverském výstavišti vyhnula vší kontrole, stovky policistů se nakonec pokusily výstaviště vyklidit, jenže jak novináři, tak odborná veřejnost chtěli vědět odpovědi na otázky, které pořadatel evidentně nemohl poskytnout. Když se záhy objevily spekulace o tom, že za Garangovou smrtí stojí Microsoft, lidé téměř srovnali se zemí expozici Microsoftu a Ballmer prchal z výstaviště chráněn kordonem policistů.

Spekulacím o souvislostech mezi Garangovou smrtí a Microsoftem se nedalo vyhnout, je ale třeba připomenout, že značnou vinu na tom má důkladnost německé policie. Ta odmítala do pozdních večerních hodin zveřejnit alespoň nějaký náznak důvodu o tom, proč profesor Garang zemřel. Až na večerní tiskové konferenci zveřejnila výsledek právě ukončené pitvy, který nade vší pochybnost prokázal, že Theodor Garang zemřel na infarkt miokardu. Zpráva patologa připustila, že se značnou měrou na infarktu mohlo podílet vyčerpání a stres z předchozího dne.

Zhruba osm hodin ovšem byla veřejnost i novináři odkázáni na fámy a neoficiální zdroje, takže během několika hodin i americká média ve svých zprvodajských pořadech naznačovala možnou souvislost mezi Garangovou smrtí a společností Microsoft. Komunita lidí zejména kolem open source produktů, již tradičně protimicrosoftí, považovala Garangovu vraždu Microsoftem za hotovou věc a pozdější oficiální verzi vesměs chápala za snahu estabilishmentu jít Microsoftu na ruku a za další důkaz o tom, že došlo k odstranění nepohodlné osoby.

Vlna vášní a odporu proti Microsoftu se prohnala jak Evropou tak Spojenými státy, proběhla řada demonstrací, petic na internetu a ačkoliv vášně během několika měsíců ustoupily, pro Microsoft to byla zlomová rána. Společnost potichu „uklidila“ Steva Ballmera na místo šéfa softwarové strategie, aby nebyl tolik na očích veřejnosti a investovala obrovské prostředky do snahy o vývoj toho, co Ballmer označil za strategický cíl: Windows AI, operační systém vybavený umělou inteligencí. V průběhu pěti let Microsoft v projektu Windows AI utopil astronomických 200 miliard dolarů a jediným výsledkem této investice nakonec bylo potvrzení Garangovy limity. Samostatná historie společnosti Microsoft skončila v roce 2012, kdy ji převzala konkurenční společnost Borland, držitel neurogramingových patentů a největší producent neurogramingových vývojových nástrojů.

Turingův test


Sám Steve Ballmer se odkazoval na Turingův test a proto je potřeba pro pořádek připomenout, o co v Turingově testu jde.

Turingův test zveřejnil v roce 1950 britský matematik Alan Turing ve článku „Computing Machinery and Intelligence“. Ve své původní podobě vychází Turingův test z tzv. imitační hry, ve které jde o to odlišit dva lidi podle pohlaví. Pozorovatel, na jehož pohlaví nezáleží, má proti sobě např. ženu a muže, který předstírá, že je žena. Trojce lidí spolu nepřijde samozřejmě do fyzického kontaktu, sedí v oddělených místnostech a zprostředkovatel mezi nimi přenáší popsané lístky. Turing pak problém posunul: Co kdyby namísto simulace opačného pohlaví byl imitátorem člověka počítač? Dokáže počítač simulovat chování ženy stejně dobře jako muž?

Turingův test byl tedy zobecněn jako test pro určení dosažení skutečné umělé inteligence, kdy člověk není dle úrovně komunikace schopen rozlišit, zda komunikuje s jiným člověkem nebo počítačem.

Ačkoliv se postupem doby objevilo množství odborných námitek vůči Turingově testu a byla navrhována četná zlepšení, zejména související s poukazem na fakt, že Turingův test reflektuje pouze jednu ze schopností člověka a to komunikovat a rozumět jazyku, považuje se dodnes splnění Turingova testu za hlavní krok do věku umělé inteligence. Například významný matematik Stevan Harnad soudil, že počítač by měl zvládat všechny lidské schopnosti a přestavoval si pod pojmem umělé inteligence spíše humanoidního robota.

Americký filosof Daniel Dennett zase poukazoval v souvislosti s umělou inteligencí na potřebu opodstatněnosti a účelnosti, tedy na dosti rozšířený filosofický názor, že lidský intelekt je poháněn vůlí a chtěním. Podle Dennetta by tedy počítač vybavený UI neměl jen projít Turingovým testem, ale vykazovat vlastní vůli, chtění, směrování a cíle.

Další spory se točily kolem otázky, jaké minimum schopností je možno považovat za umělou inteligenci, například Paul Schweizer dokazoval, že za umělou inteligenci je možné považovat pouze takové počítače, které jsou schopné vymyslet vlastní jazyk nebo třeba hru podobnou hře šachy.

Tyto modifikace původního Turingova testu jsou ale považovány spíše za myšlenkové, filosofické konstrukce. Ve většině případů neumožňují jednoduché a průkazné odlišení, zda počítač testem prošel či nikoliv. U Scheizerova modelu se kupříkladu očekávají spory o to, jak složitý musí být počítačem vytvořený jazyk.

Vzhledem ke všem výhradám se tedy považovalo za rozhodující pro posuzování umělé inteligence splnění původního Turingova testu a soudilo se, že do doby jeho splnění není potřeba se vážněji zabývat tím, nakolik postačuje. Zejména poté, co se ani o padesát let později od jeho publikování lidstvo, přes veškerý technický pokrok, k jeho splnění ani náznakem nepřiblížilo.

I z toho důvodu se odpůrci a příznivci Garangovy limity dělili především podle pocitové roviny problému. Zastánci neomezených možností lidstva ji odsuzovali, zatímco pesimističtěji či religiosně založení lidé souhlasili s tím, že lidstvo nebude schopno umělou inteligenci vytvořit. Doba Popularizace

S přihlédnutím k tomu, jaké pozornosti se Garangově limitě dostalo v médiích a jaký význam se jí přikládal, už v průběhu roku vzniklo několik výzkumných týmů, které si kladly za úkol prokázat či zamítnout Garangovu limitu. Jelikož sám Garang chtěl na své přednášce demonstrovat její matemtaický důkaz a také možnosti jejího překonání, soudilo se, že takový důkaz musí existovat a musí být rekonstruovatelný.

Bohužel na Berlínské univerzitě, Garangově pracovišti, se žádné podstatné poznámky týkající se Limity, nedochovaly; ostatně i to se stalo mottem pro další konspirativní teorie.

První výsledky kupodivu přišly od Powellovy komise vyšetřující rozsáhlý výpadek elektřiny, který postihl USA opakovaně v letech 2003 a 2004. Vláda USA tehdy žádala od Powellovy komise návrhy opatření na zabránění těmto výpadkům a jedním z očekávaných opatření byl návrh a vývoj systému řízení spínaní energetické sítě založený na umělé inteligenci. Powellova komise tehdy předložila analýzu, v níž prokazovala neschopnost kohokoliv vytvořit dostatečně robustní a spolehlivý systém založený na umělé inteligenci, který by byl schopný problémy v americké přenosové energosíti řešit. Dokonce i expertní systémy na této úrovni komplexnosti měly podle Powellovy zprávy tendenci hroutit se vlastní vahou a konat špatná a zcela nevhodná rozhodnutí. Zpráva uváděla názor, že rozsah problematiky, kterou by musel systém pojmout, je za hranicemi toho, co dokáží při dnešním stylu programování realizační týmy zvládnout a bezchybně zpracovat a v závěru se odvolávala mimo jiné na názor profesora Garanga.

Zpráva Powellovy komise do značné míry ochladila také americké nadšení pro Autonomní systém protiraketové obrany. Představitelé amerického průmyslu spolu s Pentagonem do té doby výrazně horovali pro systém protiraketové obrany ovládaný rozsáhlým expertním systémem, jenž měl v představách Pentagonu hraničit s umělou inteligencí. Už první testy s prací na tomto systému v průběhu let 2001-5 ukázaly, že takto rozsáhlý expertní systém bude mít tendenci se vlastní vahou hroutit, vyvozovat špatná rozhodnutí a že bude lepší zůstat u neautonomních systémů podléhajících lidské vůli a lidskému řízení. Zajímavé rovněž je, že na přerušení vývoje Autonomního systému protiraketové obrany se podepsala rovněž premiéra filmu Terminátor 3 v červnu 2003. Film vykresloval selhání autonomního vojenského systému, který rozpoutal válku proti lidstvu. Odpor a nedůvěra veřejnosti spolu s volbami a nepříznivými výsledky Powellovy zprávy, vedl americkou vládu k pozastavení tohoto programu.

V letech následujících po smrti prof. Garanga vznikla celá řada materiálů, článku a studií zpracovávajících otázku Limity. Většina z nich byla založena pouze na osobních dojmech či zkušenostech autorů, ale vniklo i několik důkazů vedených v rovině matematické a filosofické.

V rovině filosofické se většina důkazů stavěla na podporu Garangovy limity. Hlavním argumentem bylo oprášení teze Ada Lovelaceová vyžadující od myšlení původnost. Původnost ovšem není vlastní počítačům, počítače pouze zpracují něco, co do nich před tím někdo vložil. Postmodernistické chápání světa vlastní lidem počátku třetího tisíciletí se ovšem vyrovnávalo spíše s myšlenkou, že „všechno už tu jednou bylo“ a tedy myšlenka původnosti jako nutnosti myšlení, nebyla brána příliš vážně.

Značnou popularitu si znovu získal Searlův Paradox čínského pokoje. Filosof John Searl v něm namítal, že i člověk naprosto neznalý čínštiny, může smysluplně třídit tabulky s čínskými znaky. Searl tím prokazoval, že pro splnění Turingova testu ještě není třeba nic chápat, stačí pouze imitovat.

Známý fyzik Stephen Hawking na to ale odpovídal, že má smysl posuzovat pouze jevy viditelné navenek, tedy inteligenci, myšlení, nikoliv vnitřní kvality spíše filosofického diskursu, jako vědomí a prožívání. Dva roky před svou smrtí dokonce prohlásil, že umělá inteligence si vytvoří vlastní filosofii a vlastní vědomí a že metlou lidstva bude, pokud nebude umět toto vědomí akceptovat. Budoucnost mu dala až dramaticky za pravdu.

Matematický modely Garangovy limity se soustředily na pokles efektivity práce rozsáhlých týmů a předpokládaný objem prací nutných k sestavení počítače vybaveného UI. Ačkoliv se vyrojilo mnoho sporů, která kvantifikace a ocenění vstupních veličin je správná, nakonec převážilo a bylo přijato řešení Maxe Wollhubnera. Ten ve svojí práci prokázal, že vzhledem k rozsahu úkolu a lidským možnostem by potřeby komunikace v tak rozsáhlém týmu překročily veškeré kapacity týmu.

Kolem roku 2009 se dá obecně říci, že se otázka Garangovy limity považovala za prokázanou a jak vědecká tak laická veřejnost se shodovala na její platnosti. Systémy umělé inteligence se považovaly se současnou komunikační úrovní za nesestrojitelné. Jistou dávku nadějí dávaly Garangovým odpůrcům pouze zprávy společnosti Microsoft hlásící pokroky ve vývoji Windows AI, jenže pokroky byly pouze dílčí a v roce 2010 se vývoj systému prakticky zastavil. Microsoft, i přes obrovské zisky, byl finančně vyčerpán a burza poslala cenu jeho akcií do propadliště dějin, když už i finanční experti uvěřili, že ani Microsoft Garangovu limitu nepokoří.

Borland a neurograming


Se částečným řešením a jistým posunem přišla v roce 2007 společnost Borland. Její řešení se opíralo o poslední poznatky o struktuře lidského mozku, kdy skupina psychiatrů a nerologů shromážděná kolem dr. Thiodora přišla s názorem, že lidský mozek má na sobě dvě nezávislá centra uvažování. Zatímco to první uvažuje v rovině racionální, druhé v rovině emocionální. Thiodorova skupina na sérii pokusů a pozorování demonstrovala, že emocionální centrum uvažování je schopné přerušit a v podstatě vypnout činnost racionálního centra, opačně to možné ale není. Thiodor si povšimnul, že mnoho lidí má tendenci se chovat různě při minimální či žádné modifikaci racionálních parametrů pouze na bázi emocionálního pnutí. Psychické zhroucení pak Thiodor označil za snahu emocionálního centra vyhnout se špatnému rozhodnutí nebo volbě ze špatných rozhodnutí.

Podobný postup uplatnil Borland při návrhu svých vývojářských prostředků a postup si nechal patentovat jako neurograming. Podstatnou neurogramingu bylo rozdělení všech prováděných vláken, objektů a tříd do takzvaných emocionálních tříd. Při provádění programu se podle jeho průběhu emocionální třídy za sebe řetězily a podle určitého algoritmu modifikovaly emocionální třídu prováděného programu.

Část systémových prostředků nebo prostředků překladače, interpretru, sloužila k hlídání stavu emocionální třídy programu a podle toho přímo modifikovala průběh programu. Neurograming se uplatnil především při návrhu komplexních a rozsáhlých systémů a pomohl posunout vývoj rozsáhlých softwarových celků na další vyšší úroveň. Až na návrh systémů s umělou inteligencí ale nedosáhl.

Neurograming a jeho sublicencování ostatním firmám tvořícím vývojové nástroje přineslo Borlandu značné příjmy a po dlouhou dobu také čelní místo mezi firmami snažícími se překlenout a vyřešit problém Limity. Zatímco na pohlcení Microsoftu tyto příjmy stačily, čistě technicistní řešení Limity na dosah nebylo.

Pokračování zase příště…

…nicméně otázka na vás je, jak by povídka měla pokračovat… co myslíte, je umělá inteligence nedosažitelnou vizí, nebo blízkou realitou?

Jak se vám líbil článek?
1 Star2 Stars3 Stars4 Stars5 Stars (hlasováno , průměr: 4,83)
Loading...

5 komentářů

  • Jeden z návrhů na vylepšení Turingova testu byl, že počítač musí být schopen stvořit vlastní jazyk či vymyslet hru typu šachů.

    Ptám se – kdo z nás by to dokázal? Tolkien tvořil elfské jazyky desítky let… A kolik desetiletí se pilovala pravidla Dungeons and Dragons do dnešní podoby?

    Aby se nám nestalo, že na počítače budeme klást větší požadavky, než máme sami na sebe.

  • Dokud bude v týmech převažovat emocionální rovina a snaha o osobní prospěch, můžeme být v klidu.

    Ukazuje se, že i ve skupině velmi inteligentních jedinců je limitujícím prvkem ten nejhloupější (obvykle ve vedoucí pozici) = inteligence týmu není dána nejvyšší hodnotou, ba ani průměrem.

    Těžko může tým vytvořit něco, co ho inteligenčně přesahuje.

  • Mam za sebou seriu Usvit noci (trilogia Porucha reality, Neutroniovy alchymista, Nahy boh) od Petra F. Hamiltona a tam je mimozmyslova komunikacia velkym dejovym hracom. Hamiltonovi sa myslienka spriaznenosti (telepatickeho prepojenia nielen ludi) tak zapacila, ze jej venoval aj samostatny zvazok „Druha sanca v raji“.

    Mimozmyslove, komunikacne prepojenie viedlo k vzniku novej vetvy ludskej civilizacie. Doslova vznikol novy myslienkovy a filozoficky poddruh neustale prepojenych a komunikujucich ludi. Doslo u nich k obrovskej zmene spravania – deti takto narodene uz napr. nemali ludsku zlost, neublizovali druhym. Edeniti, ako ich Hamilton pomenoval, sa rychlo vysvihli na ekonomicky a technologicky vrchol.

    Odpovedat na otazku, ci UI je blizko alebo nie, alebo ci by mohla Garangova limita existovat existovat aj realne neviem. Sam som vsak bol uz zazil (po precitani hore-uvedeneho), ze v roznych situaciach by bolo fajn mat prepojenie na blizke okolie a vzajomnou koordinaciou by sa situacia elegantne vyriesila.

    Takisto som zazil, ze keby som svojemu oponentovi v nejakej inej situacii dokazal preposlat napr. svoje „nasratie“ aj s dovodom a kontextom (slova fakt nestacia), velmi by sa urychlili a vyriesili niektore medziludske procesy.

    Mam za to, ze az raz objavime mimozmyslovu komunikaciu na urovni tej z Hamiltonovych romanov, ludstvo sa posunie vyrazne dalej, hlavne na urovni ducha a vztahov.

  • „Těžko může tým vytvořit něco, co ho inteligenčně přesahuje.

    Comment by Tulenik — 6.1.2013 @ 15:09“

    Samožřejmě záleží jak definuješ „inteligenční přesah“, ale obecně to není pravda. Co např. tým který vytvořil šachový program Deep Blue či Watsona pro hru Riskuj? Tohle bý tým dohromady v žádném případě sám nedal a stejně vytvořili něco, co to dokáže.

    Když to rozvinu, i jednoduchá kaukulačka (kterou vytvoří každý s minimem programovacích schopností) ho v úloze počítání předčí.