Svoboda v přetechnizovaném světě – čeká nás jako lidstvo apokalypsa?

Apokalypsa v podobě války strojů s lidskou rasou není nové téma. Varovali a stále před ní varují scifi autoři, představitelé cyberpunku, antiutopisté i filmoví režiséři. Obdobně jako u totalitních režimů však i jejich poselství zůstává pouze v rovině umělecké a jeho aktuálnost bývá přehlížena.

Je přirozené, že si lidé začínají uvědomovat potenciál umělé inteligence a její možnou samostatnost a nezávislost na lidské rase. Určitě si vzpomenete na spoustu filmů či knih. (Zběžně např. Terminátor; Matrix; Třinácté patro; 2001: Vesmírná odysea, Já, robot; AI: Umělá inteligence, Blade Runner; THX 1138; Mechanické piáno či R.U.R.) A je také typicky lidské, že se obáváme něčeho, co by mohlo být silnější než my sami.

Mají obavy z přetechnizování dnešního světa a z inteligentnější robotické rasy reálný základ? Měli bychom brát na vědomí poselství výše zmíněných děl? Jsou roboti dalším stupněm evoluce? Budou moct někdy prožívat emoce? Jaký je vlastně rozdíl mezi robotem a člověkem? Čeká nás jako lidstvo apokalypsa? A pokud ano, lze ji nějak předejít?

Na některé otázky se pokusím odpovědět v následujícím zamyšlení. Jak ale sami brzo zjistíte, je to úvaha, která přináší více otázek než odpovědí…

Co je to svoboda a nezávislost

Nelze začít jinak, než definováním svobody. Svoboda je mytickým pojmem, který je dnes hojně používán a samozřejmě také hojně definován. Pro toto zamyšlení bude dostačující říci, že nezávislost a svoboda jsou dva koexistující faktory, které jsou pro lidský život nesmírně důležité, a které jsou na sobě závislé. Nemůžeme být nikdy stoprocentně svobodní, budeme-li na někom závislí. A nemůžeme být stoprocentně nezávislí, nebudeme-li svobodní.

Z této jednoduché definice je jasné, že nikdy nebudeme absolutně svobodní a nezávislí. Vždy nás bude něco omezovat a vždy tady bude něco, na čem budeme závislí. Jediné, o co tedy skutečně jde, je míra této svobody a závislosti. A právě tato míra stoupá  zároveň s technickou vyspělostí.

Závislost na technice

Ať už si to uvědomujeme nebo ne, jsme přímo či nepřímo závislí na technologii. Je to logické, technika je pro nás nástrojem a člověk má genetické předpoklady nástroje vytvářet, zdokonalovat je a ulehčovat si s nimi život. Inteligentní robot je pak jen kauzálním následkem. Většina aspektů naší planety vznikla v důsledku přirozeného vývoje a principu selektivity. Silný druh přežil, slabší vyhynul. Člověk toto pojetí nenaboural, jen ho zdokonalil. Silný totiž už najednou neznamená hustotu chlupů v kruté zimě či špičaté zuby a drápy, nýbrž inteligenci, díky které jsme schopni se kvalitněji ošatit a ozbrojit. Člověk je v podstatě slabý, a proto si vytváří zbraně a stroje, aby mohl svou slabost kompenzovat a jako druh nejenom přežít, ale i dominovat planetě. Člověk je ale také tvorem, který si chce věci zjednodušovat. Proto vytváří další a další nástroje, které za něj budou dělat těžkou práci, ohřejí mu jídlo či zajistí jeho bezpečí a zábavu. Dříve nebo později se proto lidská rasa dostane do stádia, kdy bude vytvářet tzv. umělou inteligenci (dále jen AI) pro maximální zjednodušení a zefektivnění svých nástrojů. Tyhle stroje postupně překonají své stvořitele, neboť technika se rozvíjí mnohem rychleji než člověk. Člověku trvá jednu celou dlouho generaci, než předá své informace potomkům. Stroje jsou schopni udělat takovou generaci během chvilky. Jaké to může mít důsledky?

Jaký je rozdíl mezi člověkem a strojem?

Ještě před tím, než se pokusím nahlédnout do budoucnosti, se pokusím odpovědět na zásadní otázku. Jaký je rozdíl mezi člověkem a strojem?

Většinu lidí napadne jako první láska. Emoce. Vědomí. Spirituálně řečeno – duše. Vědci zatím nedokážou vědomí v mozku lokalizovat, neznají jeho složení a netuší, jak vzniká. Veškeré teorie zůstávají jen a pouze teoriemi – i když je pravděpodobné, že některé z nich se pravdě blíží mílovými kroky. Prozatím ale nejsme schopni měřit a zkoumat vědomí jinak, než jeho projevem – tedy tím, jak se chováme, jsme schopni zkoumat to, co cítíme. Hawking se proto vyjádřil k problematice rozdílu člověka a počítače tak, že nemá cenu zabývat se tím, jestli má počítač vědomí, protože to nejsme schopni pochopit – chápeme jen již zmíněné projevy, tedy chování a inteligenci.

Paradoxem je, že vědomí nejsme schopni pochopit ani u ostatních lidí. Ve stylu filmu Truman Show určitě každého alespoň jednou napadlo, jak si můžeme být jisti, že ostatní lidé prožívají, a že nejsou jen pouhými iluzemi, herci, roboty či projekcemi? Jak? Jistí si být můžeme asi stejně, jako jsme si jistí v tom, že roboti nemají duši. Věříme v to. Tenhle filozofický problém se nazývá zombie argument a jedinec, jež nemá vědomí, ale chová se tak, jako by ho měl, se nazývá Chalmersova zombie. Opět jsme tedy u toho, že vědomí a duši zkoumáme jen tím, jak se u jedince projevuje. A jestliže vytvoříme robota schopného imitovat lidské vědomí, emoce a chování tak dobře, že jej na první pohled nerozeznáme od člověka, bude ve výsledku mezi člověkem a strojem nějaký rozdíl?

I když je tato otázka provokativní a jistým smyslem i znepokojující, prozatím nejsme schopni vytvořit takhle složité AI. Ač počítače v mnohém překonaly člověka a v mnohém jsou mu dobrými konkurenty – počítače dnes dokážou malovat, psát pohádky, skládat hudbu a porazí člověka ve většině stolních hrách (nejznámějším příkladem je šachový souboj programu Deep blue proti Garrymu Kassparovi) – stále nejsou jako my. Slavný Turingův test, který zkoumá rozdílnost mezi člověkem a strojem již od padesátých let, ještě nikdy nevyšel stoprocentně pozitivně a tak je Loebnerova cena 100 000 dolarů za AI, jejíž odpovědi budou nerozlišitelné od odpovědí člověka, stále aktuální.  Rozdíl tedy tady zatím je – je ale výsledkem nedokonalosti našich vědomostí a technologické vyspělosti, nebo je dán z podstaty naší přirozenosti? A bude někdy překonán?

Závislost techniky na nás

Už jsme si přiznali, že jsme závislí na technologiích. Závislost je ale vzájemná. Ani stroje nejsou nezávislé a svobodné. Potřebují lidstvo k tomu, aby je zdokonalovalo. Potřebují algoritmy, které jim „naťukáme do hlav“ a především máme v rukách pořád možnost je vypnout. Stačí vypojit stroj z elektřiny či vytáhnout baterky a jsme opět páni tvorstva. Žijeme tedy ve fázi, kdy se vzájemně potřebujeme. My potřebujeme stroje k tomu, aby nám ulehčovali život, a stroje potřebují nás k tomu, aby mohli existovat. Bude to tak trvat věčně?

S velkou pravděpodobností ne. Nebude to trvat dlouho a díky vlastní pohodlnosti se zbavíme pojistky. Proč by měl někdo kontrolovat robota, jak pracuje, když je bezchybný? A co se dá očekávat, když stvoříme stroj inteligentní tak moc, že dokáže přeříznout mateřskou šňůru od lidstva sám a stát se nezávislým? Co si počneme pak? Až budou stroje na nás nezávislé, zatímco my na nich stále budeme? Pokusím se Vám nabídnout několik téměř cyberpunkových scénářů. Možná se Vám budou zdát přitažené za vlasy či jako obrovské fantazírování, osobně se ale domnívám, že fáze nezávislosti techniky na lidské rase je otázkou několika dekád, a je proto důležité zamyslet se nad následujícími aspekty. Nabízím tedy pět možných cest, které nás v (ne)daleké budoucnosti mohou potkat:

Scénář 1 – Robot jako otrok

Následující scénář je nejpraktičtějším a nejlogičtějším pohledem do budoucnosti. Popisuje stav, ve kterém stroje nebudou napodobovat lidi, nestanou se nerozpoznatelnými od lidí, nebudou oplývat emocemi a jejich umělá inteligence bude značně omezená. Omezená natolik, že jim zabrání v uvědomění si sebe sama a bude vysoká jen do té míry, aby umožnila stroji vykonávat práci, pro kterou byl sestrojen. Zabráníme si ve vytvoření dokonalé AI či robota společníka. Stroje zůstanou i nadále pouhými prostředky a nástroji, jak je tomu dnes. Žádná apokalypsa nám v tomto stavu nehrozí.

Problém nastane až tehdy, kdy se nějaký liberální institut či „šílený“ vědec pokusí sestrojit dokonalou AI, a bude zároveň lobovat za přiznání duše stroji, za jeho právo na život a za jeho svobodu. Vláda by proto měla učinit totalitní kroky a potírat tyto snahy. Jedině tak se zabrání tomu, aby se z nástroje stal svobodný stroj s právy a vlastními požadavky. Otázku, je-li to morální, ponechám nevyřčenou.

Scénář 2 – Robot jako mstitel

Druhý scénář se nese ve znamení science fiction. Určitě jej znáte z románů a filmů. Může nastat ve stavu naší budoucnosti, ve které se dá neomezený prostor tvůrčí AI, přiřknou se jí práva a svoboda. Tento scénář předpokládá, že si umělá rasa uvědomí svou převahu a své zneužívání a bude se chtít nejen vysvobodit z otroctví, ale bude se chtít také pomstít. To povede k tolik omílané válce. Válce lidské rasy proti rase lidstvem uměle vytvořené. Kdo tento souboj vyhraje? Dvě nejzákladnější úvahy jsou buďto lidé, nebo stroje. Vyhrají-li stroje, stanou se dominantní rasou na planetě a lidstvo degraduje na pár ostrůvků ne příliš chytré a bojeschopné civilizace či vymře úplně. Vítězství lidstva v tomto kontextu nebude příliš velkým vítězstvím. Lidé možná dokážou stroje zničit, odpojí je a přestanou je používat, sami se tak ale vrátí několik tisíc let zpátky a budou muset začínat znova od začátku – a dá se předpokládat, že ve svém biologickém nastavení opět vytvoří stroje ulehčující jim práci. Jak se z tohoto bizardního koloběhu dostat?

Dvě alternativní teorie, které jsou součástí druhého scénáře, jsem pojmenoval Robot jako otrokář a Robot jako rival. Domnívám se, že robota otrokáře není třeba více rozebírat. Ve znamení Matrixu stroje zotročí lidstvo kvůli vlastnímu užitku. Osobně se domnívám, že je to hloupost. Proč by o tolik vyspělejší AI potřebovala otročit lidskou rasu, když by si pravděpodobně poradila lehce bez nich?

Robot jako rival by byl výsledkem míru takovéto války. Nastala by jakási rovnováha, lidská a umělá rasa by si rozdělila síly. Obdobně jako ve studené válce by se svět diferencoval na dvě polokoule a dá se předpokládat, že by obě strany zbrojily. Mohl by tento mír trvat věčně?

Scénář 3 – Robot jako další stupeň evoluce

Biologický scénář nabízí pohled na umělou inteligenci jako na další stupeň evoluce, který dokáže předčít člověka. Člověk by tedy už nebyl pánem tvorstva ani vrcholem evoluce. Nebudeme se zabývat, jak by spolu tyhle rasy koexistovaly, to je předmětem pátého scénáře. Zamysleme se nad tím, je-li tohle vůbec možné. Můžeme chápat jako živý organismus i technologii? Já říkám, proč ne? Nietzscheho „Bůh je mrtev“ rozšířené do „my jej zabili“ nabízí groteskně metaforický pohled na evoluci. Zabili jsme svého tvůrce a překonali jsme ho. Proč by se scénář nemohl opakovat? Čapkovo výborné drama R.U.R., kterému vděčíme za slovo robot, má jasno – stroje mohou být dalším stupněm evoluce. Rozdíl člověka a stroje je v tomto kontextu naprosto irelevantní, neboť, za předpokladu, že by splňoval podmínky evoluce – a sice umět předávat informace dalším generacím a vyvíjet se tak – byl by stroj jen dalším „přírodním“ druhem. Je to tak nepředstavitelné, když pořádně nevíme, jak vznikl život na naší planetě? Nejsme také jen „stroji“ jiného „stvořitele“?

Scénář 4 – Robot jako Bůh

Tento scénář sklouzává do filozofie a do teorie, která se dá nazvat jako „technický buddhismus“ – naprosté odloučení se od existenciálních potřeb a tužeb pomocí strojů. Ač se to může zdát nelogické a složité, máme k tomu našlápnuto. Stačí se podívat na dnešní společnost, která neustále hledí do počítačů a telefonů, postupně ztrácí sociální kontakt a odevzdává se do rukou nového Boha, nového přesahu naší existence a do sdílené mystické zkušenosti a spirituality – odevzdáváme se do rukou technologií. Bizardně postavíme dobrovolně stroje do role otrokáře, předáme jim nadvládu nad reálným světem a unikneme do světa virtuálního. Zotročíme se sami. Vytvoříme si nového Boha, který dokáže pokrýt požadavky dnešní duchovno postrádající společnosti. Je to zvrácené nebo krásné? Je tohle smysl naší existence?

Scénář 5 – Robot jako přítel

Poslední pátý scénář možného vývoje koexistence s AI je ve znamení idealismu. Pro lidskou rasu by byl pravděpodobně nejvýhodnější, neboť by nás dokázal nesmírně obohatit a vyvaroval by se jakékoliv válce. Je to stav vzájemné symbiózy. Jak jej dosáhnout?

První myšlenka, která se nabízí, je zachovat stav, ve kterém jsme dneska. Tedy ten stav, ve kterém budeme sice závislí na strojích, ale stroje budou také závislé na nás. Jaký je rozdíl mezi prvním scénářem? Neomezíme umělou inteligenci a budeme ji zdokonalovat do té doby, než nás předběhne. Problém nastane tehdy, kdy nás předběhne a nebudeme pro ni ani potřební, ani důležití. Jak potom udržet symbiózu?

Ač je mi tento stav nejbližší, nenapadá mě řešení. Osobně vidím potenciál právě ve vyspělejší AI, která sama přijde s řešením a nebude mít tendenci ke strachu, jako naše lidská rasa, která je ochotna pro pocit bezpečí zničit silnější rasu.

Je to všechno vůbec reálné?

Ač o takovýchto možnostech vídáváme filmy, slýcháváme o nich v muzice a čteme o nich knihy, stále se nějak bráníme možnosti, že by to všechno bylo někdy možné. Proč by to ale možné nebylo? Já osobně se domnívám, že nás dříve nebo později výše popsaný vývoj potká a budeme muset udělat závažná rozhodnutí. Na druhou stranu jsem možná přecenil AI, a tento příspěvek patří spíše do červené knihovny, než že by se dal považovat za relevantní esej a kvalitní analýzu budoucnosti. Je to tedy všechno vůbec reálné?

To nechávám na Vás a Vaší fantazii.

Komentář

  1. Od Polášek

    Odpovědět

  2. Od Marie Doležalová

    Odpovědět

  3. Odpovědět

  4. Od Lukáš Hendrych

    Odpovědět

    • Odpovědět

Napsat komentář

Vaše emailová adresa nebude zveřejněna.