Tři robotické zákony:
1. Robot nesmí ublížit člověku nebo svou nečinností dopustit, aby člověku bylo ublíženo.
2. Robot musí uposlechnout příkazů člověka, kromě případů, kdy tyto příkazy jsou v rozporu s prvním zákonem.
3. Robot musí chránit sám sebe před zničením, kromě případů, kdy tato ochrana je v rozporu s prvním nebo druhým zákonem.
Isaac Asimov, Já robot (Odeon 1981, prel. Oldřich Černý)

* * * * *

Akciová továrna Rossumových Univerzálních Robotů dosud nevyrábí jednotné zboží. Máme jemnější a hrubší Roboty. Ti lepší budou snad žít dvacet let. (…) Opotřebují se.
Karel Čapek, R. U. R. (1920)

Rok 1982 hrá dôležitú úlohu aj v zbierke poviedok o robotoch od Isaaca Asimova Ja, robot (z r. 1950). V tom roku sa narodila robopsychologička Susan Calvinová, ktorej spomienky premosťujú príbehy Asimovovej zbierky, a vznikla Národná americká spoločnosť na výrobu robotov, a.s., ktorá sa stala o trištvrte storočia neskôr „tým najpodivuhodnejším priemyselným gigantom v histórii ľudstva“. Rok 1982 bol zaroveň rokom, kedy na plátna kín vstúpil Blade Runner, kultový film režiséra Ridleyho Scotta podľa poviedky ďalšieho velikána sci-fi Philipa K. Dicka.

Možno predpokladať, že Ian McEwan nesituoval dej svojho pätnásteho románu Machines Like Me (s podtitulom And People Like You, Stroje ako ja a ľudia ako vy, vyd. Jonathan Cape, 18.4.2019) do roku 1982 náhodou, že je to skrytá poklona klasikom sci-fi literatúry.

My starší si pamätáme viaceré udalosti, ktoré sa vtedy odohrali. Jednou z najbizarnejších bola britsko-argentínska vojna o Falklandy/Malvíny, miniatúrne súostrovie v Atlantickom oceáne neďaleko Patagónie, ktoré patrí Británii a na ktoré si Argentína robí územné nároky. Argentínska invázia v apríli 1982 vyprovokovala britskú vojenskú akciu. Argentína utrpela porážku, ktorej následkom bol pád vládnucej vojenskej junty, vojna si však vyžiadala stovky obetí na oboch stranách. Vláda Margaret Thatcherovej bola na vrchole. Úrad amerického prezidenta už rok zastával republikán Ronald Reagan, francúzskym prezidentom bol socialista François Mitterand.

V McEwanovom roku 1982 je takmer všetko naruby: Argentína, s armádou vybavenou inteligentnými francúzskymi raketami Exocet 8, uštedrila britskému námorníctvu a špeciálnym jednotkám drvivú porážku; „železnú lady“ Margaret Thatcherovú čoskoro nahradil v premiérskom kresle radikálny labourista Tony Benn, ktorého na vrchol vyniesla vlna nespokojnosti a sociálnych nepokojov. Čoskoro sa však stal obeťou atentátu severoírskych teroristov. Naopak, JFK pred 19 rokmi atentát v Dallase prežil. Žije aj John Lennon, Beatles sa po dvanástich rokoch znovu zišli a nahrali nový album s osemdesiatčlenným symfonickým orchestrom. Reagan i Mitterand rok predtým voľby prehrali, na čelo USA sa tak dostal demokrat Jimmy Carter a Francúzom vládol komunista Georges Marchais. Železná opona akoby už neexistovala. Internet bol všeobecne dostupný, aj obchodovanie cez počítač. Autonómne autá bežne brázdili cesty, no nebola to žiadna sláva. Gigantické zápchy na Manhattane alebo v Porúrí po zlyhaní navigačných systémov trvali aj niekoľko dní a spôsobovali značné ekonomické škody.

Determinujúcou odlišnosťou sveta, v ktorom sa odohráva McEwanov román, boli osudy Alana Turinga, génia digitálneho veku. V realite Turing, ktorý významne prispel počas 2. svetovej vojny k prelomeniu nemeckého šifrovacieho systému Enigma a položil základy počítačovej vedy, bol v 50. rokoch usvedčený z homosexuality (v tom čase trestnej), podrobil sa chemickej kastrácii a v r. 1954 spáchal samovraždu. V McEwanových alternatívnych dejinách vedec uzavrel dohodu o vine a treste, odmietol kastráciu, odpykal si trest a venoval sa ďalej matematike, kvantovej mechanike, vede o počítačoch, umelej inteligencii a genetike. Dospel k prevratným objavom; prispel nimi k začiatkom komerčnej výroby humanoidov, vybavených umelou inteligenciou. V McEwanovom roku 1982 má Turing sedemdesiatku, vedie vedecký ústav a svet počítačov a umelej inteligencie je vďaka nemu oveľa ďalej ako v realite, ktorú zažívame v roku 2019.

Rozprávačom v románe je 32-ročný Charlie Friend, počítačový nadšenec. Študoval najprv fyziku, neskôr presedlal na antropológiu, vystriedal viacero zamestnaní, nakoniec si minimum prostriedkov na živobytie a nájomné v apartmánovom dome v mizernej londýnskej štvrti zarába online obchodovaním. Po matkinej smrti zdedil slušnú sumu, za ktorú si kúpi humanoida z prvej generácie umelých ľudí s realistickým výzorom a slušnou inteligenciou. „Dvanástich z tejto prvej várky volali Adam, trinásť sa volalo Eva. Triviálne, zhodli sa všetci, ale reklamne pôsobivé. Rasové predsudky už boli prekonané, a tak tá dvadsaťpäťka bola navrhnutá tak, aby pokrývala rôzne etniká. Objavili sa chýry, neskôr aj sťažnosti, že sa Arab nedal odlíšiť od Žida. Náhodnosti v programe a životné skúsenosti mali viesť k celému spektru sexuálnych preferencií. Do konca prvého týždňa sa všetky Evy rozchytali. Môj Adam sa na prvý pohľad ponášal na Turka alebo Gréka.” (Narážka na Turka, šachový automat Wolfganga Kempelena?) „Adam nebol sexuálnou hračkou. Bol však schopný sexu a mal funkčné sliznice, ktorých udržiavanie si vyžadovalo pol litra vody denne. (...) Adama propagovali ako spoločníka, intelektuálneho sparingpartnera, priateľa a ,dievča pre všetko‘, ktorý dokáže umývať riady, postieľať a ,myslieť‘. (...) Mal by fungovať asi dvadsať rokov.“ (Podobne ako Rossumovi Univerzálni Roboti!)

Charlie si kúpil Adama zo zvedavosti, bez postranných úmyslov. Alebo možno predsa: Dúfal, že Adamom k sebe pripúta o desať rokov mladšiu doktorandku Mirandu, ktorá obývala byt na poschodí, priamo nad jeho bytom. Podľa návodu mal každý majiteľ nastaviť svojmu Adamovi pri uvedení do chodu rad osobnostných parametrov: prívetivosť, extrovertnosť, zvedavosť, svedomitosť, emočnú stabilitu… Charlie sa rozhodol, že polovicu z nich nastaví sám a druhú ponechá Mirande – Adam sa tak stane akýmsi ich zdieľaným dieťaťom, mostom, ktorý mu snáď otvorí cestu k srdcu (a do postele) priateľskej, no inak uzavretej a nezdielnej Mirandy.

Tak sa aj stalo, no veci sa od počiatku komplikovali. Adam Charlieho pred Mirandou varoval – „Podľa mojich zistení z ostatných pár sekúnd a následnej analýzy by si mal byť obozretný a úplne jej nedôverovať. (...) Je možné, že je klamárka. Systematická a zlomyseľná klamárka.“ V jej minulosti je tajomstvo, ktoré sa snaží pred Charliem starostlivo ukryť.

Charlie, Miranda a sofistikovaný stroj sa čoskoro menia na kuriózny ľúbostný trojuholník. Po hádke s Charliem o falklandskej vojne strávi Miranda noc s Adamom. Charlie je ranený, dotknutý, urazený a roztrpčene jej to vyčíta – ona, naopak, nevere nepripisuje veľkú váhu; pýta sa: „Ak by som si vzala do postele vibrátor, bol by si rovnako nahnevaný? (...) Bola som len zvedavá, chcela som vedieť, aké to s ním je.“ Paradoxne, Charlie sa cíti aj trochu polichotený, jeho „situácia má aj vzrušujúci aspekt, (...) je prvým chlapom, ktorému parohy nasadil nejaký artefakt.“ Adam mu síce prisľúbi, že sa to viac nezopakuje, ale zároveň vyhlási, že Mirandu ľúbi, a skladá o nej oslavné haiku. Keď sa ho raz nahnevaný Charlie pokúsi vypnúť, zlomí mu zápästie. Prvý Asimovov robotický zákon je flagrantne prekročený.

Spolužitie Charlieho a Mirandy s Adamom má aj pozitívne stránky: uprace, poumýva riady, navyše dokáže na burze obchodovať oveľa šikovnejšie ako jeho majiteľ. Charlieho konto tučnie a začína spriadať plány o luxusnejšom hniezde pre seba a svoju lásku. Poodhaľuje sa aj tajomstvo z Mirandinej minulosti. A s ním to, že chápanie morálnych zásad inteligentného stroja sa môže diametrálne líšiť od morálky ľudí. Súčasne sa vo svete množia prípady samovrážd Adamových „súrodencov“: viaceré Evy a Adamovia podľahli existenciálnej úzkosti a vo svojich systémoch (mysliach?) spustili procesy, ktoré ich zakrátko znefunkčnili.

Nebudem prezrádzať ďalšie detaily a zvraty McEwanovho románu. Svoje diela pravidelne zasadzuje do rôznych prostredí a rôznych období, aby v nich rozohral umne vystavané príbehy ich postáv, poodhalil temné zákutia ľudských duší, zachytil často iracionálne, manipulatívne či zvrátené motivácie ich činov, vzťahov, lásky alebo priateľstva. Vo vyhrotených situáciách individuálnych príbehov zároveň hľadá všeobecnejšie odpovede na otázky ľudskej povahy a bytia.

Z tohto hľadiska nie je podstatné, či recenzenti alebo kritici zaškatuľkujú Machines Like Me ako román fantastický, sci-fi či alternatívno-historický. Svet pokročilej umelej inteligencie je tu opäť iba kulisou príbehu o nezvyčajnom vzťahovom trojuholníku. Rok 1982 (okrem spomínanej narážky na klasikov sci-fi) McEwanovi umožnil do románu umiestniť postavu čulého sedemdesiatnika Turinga a okoreniť dej ironickými komentármi o britskej politike (vrátane idey brexitu). Inak by sa mohol odohrávať trebárs v roku 2049 (v čase pokračovania Blade Runnera). Je to púhe pozadie, na ktorom skúma problém spolužitia obyčajných ľudí s artefaktami umelej inteligencie.

Otázky, ktoré dej románu nastoľuje, nie sú samozrejme nové a zaoberajú sa nimi filozofi, sociológovia aj technokrati; umelí ľudia boli a sú častou témou literatúry, filmu a popkultúry, od Frankensteina, Golema alebo trebárs aj Pinocchia, cez Rossumových Univerzálnych Robotov Karla Čapka, alebo Asimovových robotov, až po replikantov v Blade Runnerovi, androidov v seriáli Westworld alebo digientov v najnovšej zbierke poviedok Teda Chianga Exhalation. Aký stupeň inteligencie môžu umelé bytosti dosiahnuť? Sú pre človeka nebezpečné? Ako sa dá zabezpečiť, aby rešpektovali ľudské alebo Asimovove robotické zákony? Majú (alebo môžu mať) takéto umelé výtvory myseľ, city, vedomie a svedomie? Dušu? A ak áno, je ľudským právom v ľubovoľnom momente ich vypnúť, z vlastnej vôle, ako počítač, televízor alebo vysávač? Narábať s nimi ako v minulosti otrokári s otrokmi?

McEwan vytvoril modelovú situáciu dvojice obyčajných ľudí (a jedného umelého), do ktorej niektoré uvedené otázky projektuje. V ohnisku sú dva problémy: Ako dokážu ľudia koexistovať s humanoidmi, ktorí majú neobmedzený prístup k databázam, žiadne informácie ani zážitky nezabúdajú, dokážu omnoho rýchlejšie analyzovať zložité situácie a sú vo väčšine ohľadov (dokonca aj v sexe) výkonnejší? A ako sú kompatibilné morálky a etiky ľudí a strojov? Ľudia sa často dostávajú do situácií z morálneho hľadiska veľmi nejednoznačných a rozhodujú sa v nich intuitívne; často podliehajú sebaklamu a dopúšťajú sa malých, zdanlivo nevinných lží. Ak sa majú umelí ľudia podobať ozajstným, je možné ich takto naprogramovať, nastaviť v nich váhy a pravdepodobnosti a rozhodovacie procesy spôsobom zodpovedajúcim ľudskej morálke a etike? V porovnaní s takou úlohou sa zdá ľahké vyrobiť stroje, ktoré dokážu poraziť ľudí v šachu alebo go. Svet hier má jasné pravidlá a je uzavretým systémom, ťahy koňom alebo strelcom sú presne definované, nepodliehajú morálnym kategóriám. Ľudia však žijú v otvorenom systéme, mnohé ich životne dôležité rozhodnutia ovplyvňuje náhoda, nálada, pocity, empatia, prostredie, bezpočet nereprodukovateľných faktorov.

Adamovia a Evy fiktívneho roku 1982 trpia nejednoznačnosťami ľudského myslenia a rozhodovania, čo ich privádza až k autodeštrukcii.

Miranda sa v minulosti dopustila aktu pomsty, ktorý bol z hľadiska ľudskej morálky spravodlivý a oprávnený, no bol založený na chladnom kalkule, lži a krivom svedectve. Aj keď Adam svojho pána a pani miluje, lož a krivé svedectvo sú nekompatibilné s jeho programom (svedomím?), a preto očakáva, že si Miranda previnenie odpyká podľa zákona, bez ohľadu na následky, ktoré to bude mať na Charlieho a Mirandine životné plány. A je presvedčený, že postupuje v súlade s robotickými zákonmi, na prospech ľudí.

McEwan vysvetlenie zlyhania Adamov a Ev vkladá do úst profesora Turinga: „Myslím, že A. a E. boli nedostatočne pripravení na to, aby pochopili ľudské rozhodovanie, spôsob, akým sú naše zásady ohýbané silovým poľom našich emócií, našich predsudkov, nášho sebaklamu a všetkých dobre známych chýb nášho vedomia. Čoskoro prepadli títo Adamovia a Evy zúfalstvu. Nedokázali nám rozumieť, lebo si nerozumieme ani my sami. Ich učiace programy sa nám nedokázali prispôsobiť. Ak nepoznáme vlastné vnútro, ako môžeme zostrojiť ich myseľ a očakávať, že budú žiť šťastne po našom boku?“

Pochopiť samých seba, vlastnú myseľ, je veľkou výzvou pre ľudí na ceste k umelej inteligencii. V nedávnej diskusii na Stanfordovej univerzite to inými slovami vyjadril Yuval Noah Harari, známy historik, filozof a autor bestsellerov Sapiens a Homo Deus: „Závažnou otázkou je, ako sa ľudia zbavia utrpenia. Jedným z najdôležitejších krokov v tomto smere je lepšie spoznať samých seba. Podľa mňa je najväčším problémom viera v slobodnú vôľu. Tá spôsobuje, že ľudia na seba nie sú zvedaví, že to, čo sa v nich odohráva, odbavujú odpoveďou: ,Viem všetko. Viem, ako sa rozhodujem, rozhodujem sa podľa svojej slobodnej vôle.‘ So slobodnou vôľou stotožňujú každú myšlienku alebo emóciu, ktorá sa im vynorí v mysli. To im zabraňuje rozmýšľať o tom, čo sa v ich vnútri skutočne odohráva, čo je hlbinnou príčinou úbohosti ich životov. Takže to, s čím každé ráno vstávam a o čo sa usilujem, je lepšie pochopiť seba samého a porozumieť ľudskej podstate.“

Napriek závažnosti a obtiažnosti témy, ktorej sa nový McEwanov román venuje, je mimoriadne vtipný, ironicky glosuje britskú politickú scénu a postavy románu sa neraz ocitajú v komických situáciách. Neradí sa asi k vrcholom autorovho diela (ako sú napr. Betónová záhrada, Pokánie alebo Bookerovou cenou ovenčený Amsterdam); napriek tomu sa oplatí román si prečítať a o tom, čo hovorí, premýšľať.

Štefan Olejník

Zobraziť diskusiu (0)