HOMO DEUS / SIRUCNE DEJINY ZÍTŘKA
Dokonce i Richard Dawkins, Steven Pinker a další bojovníci za nový vědecký světonázor odmítají opustit liberalismus. Ačkoli o destrukci já a svobodné vůle napsali tisíce stran odborného textu, přesto nakonec páchají intelektuální kotrmelec a ocitají se v 18. století.
Na prahu třetího tisíciletí není liberalismus ohrožen filozofickou myšlenkou, že neexistuje svobodný jedinec, ale zcela konkrétní technikou. Valí se na nás množství užitečných vynálezů i nástrojů, a ty neposkytují sebemenší prostor pro svobodnou lidskou vůli. Otázka je, zda můžou demokracie, tržní hospodářství a lidská práva takový nápor přežít.
300
Kapitola 9.
VELKÝ ROZVOD
Předchozí stránky představovaly krátkou exkurzi do současných vědeckých objevů zpochybňujících liberální světonázor. Podívejme se, jaké jsou praktické důsledky těchto poznatků.
Liberálové udržují víru ve svobodný trh a demokracii, poněvadž věří ve výjimečnou hodnotu každého člověka a jeho svobodné rozhodnutí považují za ultimatívni, konečnou autoritu. Tri dnes už zcela praktické důsledky mohou toto přesvědčení vyvrátit.
1. Lidé ztratí hospodářský i vojenský význam, a proto přestanou být pro politiku důležití.
2. Humanismus bude kolektivistický, jednotlivci se stanou bezvýznamní.
3. Nový řád uzná výjimečnou hodnotu některých jedinců, kteří budou součástí nové, zdokonalené nadlidské elity.
Podívejme se na podrobnosti. Technickým vývojem ztratí lidé svou hospodářskou užitečnost. To neznamená nějaké filozofické vítězství nad liberalismem; znamená to, že demokracie, svobodný trh a další liberalistické instituce utrpí strašlivou ránu a je docela možné, že nepřežijí. Koneckonců
301
HOMO DEUS / STRUČNÉ DĚJINY ZÍTŘKA
KAPITOLA 9.
VELKÝ ROZVOD
liberalismus se nestal nadřazenou ideologií, protože vyhrál argumentaci, nýbrž tím, že přisoudil výjimečnou hodnotu každému člověku a posílil politickou, ekonomickou a vojenskou moc. Na válečných bojištích a u výrobních pásů se kdysi počítal každý jedinec. Každá ruka, která držela pušku nebo strojní páku, měla svou cenu.
Když na jaře roku 1793 evropské dynastie vyslaly své armády, aby potlačily Francouzskou revoluci, pařížští buřiči vyhlásili levée en masse, obuli národ do vojenských bot a rozpoutali totální válku. Dekretem Konventu z 23. srpna byl vyhlášen stav pohotovosti: „Všichni Francouzi jsou považováni za vojenské rekruty do doby, než budou nepřátelé revoluce vyhnáni z republiky. Mladí muži budou bojovat, ženatí kovat zbraně a zásobovat armádu potravinami, ženy se postarají o nemocnice, budou šít stany a oděvy, děti rozcupují staré hadry na přikrývky, staří budou na veřejném prostranství dodávat odvahy válečníkům, šířit nenávist k monarchům a hlásat jednotu republiky."'1'
Tento výnos vrhá zajímavé světlo na nejslavnější dokument revoluce, Deklaraci práv člověka a občana, v níž se hlásá rovnost všech lidí a stejná politická práva pro všechny. Šlo snad o náhodu, že byla všeobecná práva vyhlášena zároveň s vyhlášením všeobecné branné povinnosti? Učenci mohou o vzájemné souvislosti diskutovat, ale poslední dvě století poskytla dostatek argumentů, že vojáci liberalistů bojují statečněji než poddaní diktátorů. Politická práva zvyšují motivaci a iniciativu na bojištích i v továrnách.
Nejvyšší představitel Harvardovy univerzity Charles W. Eliot (1869-1909) napsal 5. srpna 1917 v The New York Times, že armády demokratických států bojují lépe než armády
302 |
organizované aristokracií, protože je zcela pochopitelné, že vojska národů, jež si samy určují zákony, samy volí své politiky a rozhodují o míru a válce, zápasí s větším zápalem než armády monarchů dědičného práva a boží milosti.12'
Stejně se argumentovalo při prosazování ženského volebního práva po první světové válce. Vlády si uvědomily nezastupitelnou roli žen ve válečném úsilí. Prezident W. Wilson přesvědčoval senát o potřebě hlasovacího práva žen, protože bez nich by Amerika a její spojenci nevyhráli. „Bez služby žen, a to nejen v tradiční roli, jak jsme zvyklí je vidět, ale i okrajově v bitvách a v zastoupení mužů v zaměstnání, nejen že ztratíme jejich důvěru, ale zasloužíme si ji ztratit, pokud jim neposkytneme možnost hlasovat, pokud ženám upřeme plné volební právo."01
Ve 21. století ale většina mužů a žen pravděpodobně ztratí svou pracovní a vojenskou hodnotu. Zanikla všeobecná branná povinnost dvou světových válek. Nejvyspělejší armády spoléhají na špičkovou techniku. Místo velkého množství lidí používaných jako kanonenfutter (potrava pro děla) vyžadují dnes jen hrstku odborníků specializovaných na vyspělou techniku, jen poměrně malé množství dobře vycvičných vojáků a ještě nižší počet speciálních jednotek superválečníků. Zbrojní síly špičkové techniky, bezpilotní drony a kyberhmyz nahrazují masové armády 20. století a místo generálů rozhodují v kritických situacích algoritmy.
I když pomineme ncpředvídatelnost situací, stres, hlad a únavu, vojáci z masa a kostí se pohybují a myslí ve zcela omezeném časovém horizontu. Od časů Nabuchodonozora po válku se Saddámem Husajnem se válka navzdory ohromným technickým vymoženostem odehrávala podle zavedených
| 303
HOMO DEUS / STRUČNE DfctIKY /I I HKA
pravidel. Probíhaly hodinové diskuse, bitvy sc táhly několik dní, války celá léta. Kyberválka by trvala jen několik minut. Během několika vteřin by totiž důmyslný kyberútok vyřadil americkou elektrickou rozvodnou síť, zabránil by řízení leteckého provozu, způsobil nehody v atomových elektrárnách i v chemických závodech, poškodil by policejní i armádní komunikační střediska a zlikvidoval by veškerou ministerskou účetní dokumentaci, takže by beze stopy zmizely biliony dolarů. Veřejnost bez internetu, televize a rozhlasu by byla hysterická a vládla by jen naprostá nevědomost o rozsahu katastrofy.
Představme si menší konflikt. Dva drony se utkají ve vzduchu, jeden je autonomní, druhý ale nemůže zaútočit bez svolení lidského operátora. Který by asi zvítězil? Kdyby v roce 2093 vyslala skomírající Evropská unie drony a kyborgy, aby potlačily Francouzskou revoluci, a kdyby Francouzská revoluce měla k dispozici hackery, počítače a chytré telefony, stěží by potřebovala nějaké občany, leda jako živé štíty k ochraně zbraní.
I kdyby záleželo více na spravedlnosti než na vítězství, tak by vojáky a piloty nahradily roboty a drony. Válečníci vraždí, znásilňují a loupí, ale i když se snaží chovat slušně, často dojde k zabití civilních obyvatel. Zato počítače naprogramované etickými algoritmy mohou daleko lépe splňovat normy Mezinárodního trestního soudu.
Z ekonomického hlediska schopnost zacházet s kladivem nebo schopnost stisknout knoflík je stále méně důležitá, což kriticky ohrožuje spojenectví liberalismu a kapitalismu. Liberálové 20. století učili, že nestojíme před volbou etika, nebo ekonomie. Ochrana lidských práv a svobod byla
304 !
KAPITOLA 9.
VELKÝ ROZVOD
považována za morální imperativ a za klíč k hospodářskému růstu. Velká Británie, Francie a Spojené státy bohatly, protože liberalizovaly své hospodářství; Turecko, Brazílie a Čína chtěly také prosperovat, a tak musely provést totéž. Ekonomické, nikoli morální důvody nutily diktátory a junty k uzákonění větší svobody.
Dnes už není snadné šířit liberalismus. Masy ztrácejí důležitost a je otázka, zda morální důvody postačí ochránit lidská práva a svobody. Budou elity a vlády stále vyzdvihovat hodnotu každého jedince, přestože jim to nepřinese žádný hospodářský zisk?
Ještě nedávno byla většina lidské práce nezastupitelná. Roboty a počítače však dnes člověka rychle dohánějí a brzy předběhnou. Samozřejmě že počítače fungují jinak než lidé a dlouho je ještě ve všem nezastoupí. Nezdá se ani, že by jednou nabyly vědomí a citu. Půl století se prudce rozvíjí počítačová inteligence, ale ve vývoji vědomí se nepostoupilo ani o krok. Naše počítače nejsou o nic citlivější než první prototypy padesátých let. A přesto stojíme na prahu velké revoluce, kdy lidé ztrácejí svou ekonomickou hodnotu, a to paradoxně proto, že se inteligence rozešla s vědomím a není na něm závislá.
Vysoká lidská inteligence byla totiž až dosud na vědomí závislá. Pouze vědomá bytost mohla hrát šachy, řídit auto, rozpoznat nemoc nebo vypátrat teroristy. Nyní ale vyvíjíme nový typ ne-vědomé inteligence, schopné vyššího výkonu než lidé. Tato inteligence zvládá úkoly svou schopností rozpoznávat vzory a ne-vědomé algoritmy a už btzy možná předčí vědomé rozpoznávání zákonitostí.
Ve sci-fi filmech se předpokládá, že počítače předstihnou lidskou inteligenci, teprve až se jim podaří získat vědomí.
305
HOMO DEUS / STRUČNÉ DĚJINY ZlTRKA
KAPITOLA 9.
VELKÝ ROZVOD
Věda nám ale říká něco docela jiněho. Existuje totiž několik způsobů k dosažení superinteligence a zdaleka ne všechny k tomu potřebují objevit vědomí. Po miliony let se vývoj otganické mysli k vědomí plazil, ale zdá sc, že si anorganické počítače najdou rychlejší cestu.
Otázka proto zní: Co je důležitější - inteligence, nebo vědomí? Dokud jsme si mysleli, že jedno bez druhého nemůže existovat, celá diskuse o jejich relativní důležitosti byla jen zábavou pro filozofy. Dnes je ale zásadním politickým a ekonomickým tématem a přinejmenším pro armádu a velké firmy je odpověď jasná - inteligence na prvním místě, vědomí až na druhém.
Armády a firmy nemohou fungovat bez inteligentních zástupců, vůbec ale nepotřebují jejich vědomí ani subjektivní zkušenosti. Prožitky taxikáře z masa a kostí jsou mnohem bohatší než zkušenosti samořídicího auta, které nic nepociťuje. Taxikář může za jízdy poslouchat hudbu, kochat se pohledem na hvězdy nebo meditovat o záhadách života a vesmíru, to vše ale od něho systém řízení nepožaduje. Ten vyžaduje jen jedno: dostat zákazníka co nejlevněji, nejbezpečněji a nejrychleji z jednoho místa na druhé. Samořídicí vůz to jistě brzy dokáže lépe než člověk, přestože nevnímá hudbu ani nežasne nad svou existencí.
Připomeňme si v této souvislosti osud koní za průmyslové revoluce. Mají výborný čich, rozpoznávají obličeje, pociťují náklonnost, umí skákat a vůbec dokáží mnoho dalších věcí daleko lépe než poslední model Škody Kodiaq nebo Lamborghini za milion dolarů, a přece je auta nahradila. Byla totiž lepší právě v těch několika málo, zato však základních potřebných úkonech. Takže taxikáře nejspíš čeká osud koní.
Až jednou zakážeme lidem řídit nejen taxíky, ale všechny vozy a počítačovým algoritmům přenecháme monopol na řízení dopravy, jednotná síť silničního provozu dokáže zamezit téměř všem nehodám. V srpnu 2015 jedno ze samořídicích aut Googlu karambol mělo. Zabrzdilo před přechodem pro chodce a zezadu do něj narazil nepozorný řidič, který zřejmě právě přemýšlel o tajemství vesmíru, místo aby dával pozor. Kdyby byla obě auta řízena propojenými počítači a kontrolní algoritmus znal pozici i záměr každého vozu, ke srážce by nedošlo. Takový systém by ušetřil peníze, čas a lidské životy, zlikvidoval by ovšem požitek člověka z řízení auta a miliony pracovních míst.(4)
Ekonomové předvídají, že dříve nebo později budou méně kvalifikovaní zaměstnanci naprosto zbyteční. Roboti a 3D tiskárny už dnes nahrazují dělníky v průmyslu a inteligentní algoritmy jednou zlikvidují i kancelářské síly. Úředníci cestovních kanceláří a bank, kteří ještě nedávno byli přesvědčeni, že se jich automatizace netýká, se už stali ohroženým druhem. K čemu nám budou cestovní kanceláře, když si letenku a pobyt můžeme koupit přes chytrý telefon přímo od algoritmu?
Ohroženi jsou i makléři. Počítač zvládne za vteřinu zpracovat více dat než člověk za rok a většinu finančních transakcí už nyní ovládají algoritmy reagující hbitěji než člověk mrkne. Syrští hackeři se 23. dubna 2013 vlámali do oficiálního twitterového účtu Associated Press a nahlásili, že byl spáchán atentát na prezidenta Obamu, který je údajně zraněn. Burzovní algoritmy sledující zpravodajství začaly okamžitě jako divé prodávat akcie. Index Dow Jones ztratil volným pádem za pouhou minutu 150 bodů, což odpovídá poklesu celkové hodnoty o 136 miliard dolarů. Tisková agentura
I 307
HOMO DEUS / STRUČNÉ DEJINY ZÍTŘKA
falešnou zprávu za tři minuty dementovala, algoritmy nabraly zpátečku a index se během dalších tří minut vrátil na předchozí úroveň.
Newyorská burza 6. května 2010 zažila ještě větší šok. Během pěti minut ztratil Dow Jones 1000 bodů, akcie spadly o bilion dolarů, ale za tři minuty se vrátily zpátky na předchozí úroveň. Tak to chodí, když superrychlé počítačové programy obhospodařují naše peníze. Odborníci si stále ještě lámou hlavu nad algoritmy, aby zjistili, co přesně se odehrálo během onoho „bleskového pádu", a někteří makléři dokonce podali žalobu na diskriminační algoritmickou obchodní praxi, se kterou člověk nemůže soutěžit, protože nedokáže stejně rychle reagovat. Pro soudy to bude hodně práce zjistit, zda došlo k porušení práv, a také právníci si dozajista přijdou na své.(5)
Ovšem ani právníci nemusejí být lidé. To jen fdmy a televizní seriály vytvářejí dojem, že tráví celé dny u soudu, neustále vykřikují „námitka!" a pronášejí vášnivé řeči. Většinu času ve skutečnosti prosedí nad nekonečnými šanony a pátrají po precedentu, nějaké mezeře v zákonu nebo přesvědčivém důkazu. Někdy se snaží zjistit, co se stalo oné osudné noci, kdy byl zavražděn Jan Novák, nebo sepisují obludně rozsáhlou obchodní smlouvu, aby svého klienta ochránili před každou pomyslnou eventualitou. Jaký osud je asi čeká, až daleko chytřejší algoritmický vyhledávač najde za den víc soudních precedentů, než jeden každý z nich za rok? A co teprve až skener mozku odhalí lži a přetvářky na pouhé stisknutí tlačítka? Ani zkušení právníci a detektivové nedokáží snadno podle hlasu nebo výrazu tváře odhalit klam. Sice jsme tak daleko ještě nepokročili, ale protože lhaní zaměstnává odlišnou část mozku než pravdomluvnost, je docela dobře možné, že se
T
KAPITOLA 9.
VELKÝ ROZVOD
některá příští generace skenerů mozku stane téměř neomylným detektorem lži. Jak potom zaměstnat ty miliony policistů, právníků, detektivů a soudců? Zřejmě budou muset jít znovu do školy a vyučit se nějaké nové profesi.(6)
A až vstoupí do třídy, možná zjistí, že je počítače zas předběhly. Firmy jako Mindojo vyvíjejí interaktivní algoritmy na výuku matematiky, fyziky či dějepisu, jež budou žáka zároveň analyzovat, aby poznaly, jaké má schopnosti a mentalitu. Digitální učitelé každou jeho odpověď vyhodnotí a určí jeho slabé a silné stránky. Po zjištění, co ho zajímá a při čem usíná, ho budou schopni učit metodou šitou přesně na tělo, i kdyby měla být pro 99 procent ostatních žáků nevhodná. Digitální vyučující nikdy neztratí trpělivost, nikdy nezvýší hlas a nikdy nebude stávkovat. Je ovšem otázka, proč by se měl někdo učit termodynamiku nebo geometrii ve světě tak inteligentních počítačových programů.(7)
I doktoři se jednou stanou snadnou kořistí algoritmů. Hlavním úkolem lékaře je rozpoznat nemoc a navrhnout nej-lepší způsob léčby, což vůbec není snadné. Jestliže si někdo stěžuje na horečku a průjem, může to být například způsobeno otravou z jídla. Stejný symptom ovšem vykazuje i žaludeční viróza, cholera, úplavice, malárie, rakovina, nebo dokonce i nějaká dosud neznámá nemoc. Doktor ale nemá na diagnózu moc času, protože je omezen limity zdravotního pojištění. Zeptá se proto jen na pár věcí a po srovnání získaných informací s pacientovou anamnézou a na základě své zkušenosti s běžnými nemocemi v okolí dojde k rychlému závěru. Bohužel ani svědomitý lékař nemůže znát všechna pacientova předchozí vyšetření a není obeznámen s každou nemocí a každým lékem na trhu, ani nečetl všechny poslední články
308 |
HOMO DEUS / STRUČNÉ DĚJINY ZÍTŘKA
v odborném tisku. A protože i on je jen člověk, tak má občas také hlad, špatnou náladu nebo je nemocný, což samozřejmě ovlivní jeho úsudek. Není divu, že sc doktoři někdy zmýlí a nepředepíší optimální léčbu.
Podívejme se nyní na slavného (doktora) Watsona, systém umělé inteligence vyvinutý IBM, jenž v roce 2011 vyhrál televizní vědomostní soutěž Jeopardy!W&ts,on tenkrát na hlavu porazil bývalé šampióny, dnes se už ale věnuje serióznější záležitosti, jakou je právě diagnostika nemocí. Oproti lidským lékařům má úžasnou výhodu v tom, že jeho databáze obsahuje veškeré informace o všech známých nemocích za celé dějiny lékařské vědy a že si ji denně může aktualizovat sběrem výzkumných zpráv a statistických dat ze všech nemocnic a výzkumných pracovišť po celém světě, se kterými je ve spojení.
A navíc bude doktor Watson znát nejen celý pacientův génom a anamnézu, ale mít k dispozici i chorobopis celé jeho rodiny, příbuzných, přátel a sousedů, a nejen to, on bude i vědět, jestli někdy nenavštívil tropy, jestli nemá časté žaludeční potíže, jestli se v rodině nevyskytla střevní rakovina anebo jestli si právě všichni jeho sousedé nestěžují na průjem.
Doktor Watson se také nikdy neunaví, neonemocní a nebude mít hlad ani nebude spěchat. Klidně si počká, až mu pacient z pohodlí domova odpoví na sta otázek a popíše své potíže. To je dobrá zpráva pro většinu lidí s výjimkou hypochondrů. Pokud ovšem pomýšlíte na studium medicíny a chcete se stát praktickým rodinným lékařem a pracovat ve své ordinaci i za dvacet let, možná byste si to měli ještě rozmyslet. S takovýmhle Watsonem za zády nebudou mít Sherlockové Holmesové velkou šanci.
310
KAPITOLA 9. VELKÝ ROZVOD
A to se netýká jen praktických lékařů, ale i těch odborných, ba dokonce právě těch, neboť je snadnější zastoupit doktory s úzkou specializací, jakou je například diagnóza rakoviny. Jeden pokus nedávno prokázal 90 procentní úspěch počítačového algoritmu při zjišťování plicních nádorů, kdežto lékaři objeví běžně jen polovinu.'8' Budoucnost už vlastně klepe na dveře. Aby lékaři měli větší jistotu, nechávají si dnes mamo-grafické a CT skeny zkontrolovat specializovanými algoritmy a ty někdy objeví nádory, které jejich pozornosti unikly.(9!
Zatím má Watson a jeho kolegové ještě mnoho technických zádrhelů, takže lékařům nehrozí, že by jimi byli hned zítra nahrazeni. Ovšem tyto nepochybně složité problémy stačí vyřešit jednou a vyřeší se provždy, zatímco studium medicíny je obtížné, nákladné a dlouhodobé. Po dlouhém studiu, počáteční praxi a aprobačních zkouškách je na světě jeden doktor. Potřebujeme-li dva, musíme celý proces zopakovat ještě jednou. S Watsonem se to má jinak: jakmile se jeho problémy jednou vyřeší, budeme mít hned v každém koutě světa nekonečné množství lékařů, kteří budou k dispozici ve dne v noci. I kdyby to mělo stát 100 miliard dolarů, v dlouhodobém výhledu to přijde mnohem levněji než financovat lékařská studia.
Samozřejmě že ne každý může být nahrazen. Úlohy vyžadující daleko větší nápaditost a improvizaci než běžné vyšetření ještě dlouho zůstanou v lidské moci. Stejně jako dnes armáda zvyšuje počty členů elitních jednotek, protože nepotřebuje miliony pěšáků, tak i zítra bude zdravotnictví nabízet uplatnění lékařům specialistům, protože nebude potřebovat miliony praktických lékařů.
Co platí o doktorech, platí dvojnásobně o lékárnících. První automatizovaná lékárna zahájila provoz v San Franciscu
311
HOMO DEUS / STRUČNE D E 11N Y Z11 H K A
v roce 2011 a zákazníky obsluhuje jediný robot. Jakmile obdrží recept, okamžitě si načte veškeré informace o pacientovi včetně alergií a užívaných léků, prípadne dokonce vyloučí užívání některého léku, aby nedošlo k nežádoucím reakcím. Robot-lékárník vydal v prvním roce provozu 2 miliony léků bez jediného omylu, kdežto lékárníci z masa a kostí se mýlí v 1,7 procenta, což jen ve Spojených státech znamená v součtu výdej 50 milionů nevhodných léků ročně.110'
Algoritmy sice trumfují lékaře a farmaceuty co se týká techniky zvládnutí té které profese, mají však jeden základní nedostatek - chybí jim lidský vztah k pacientovi. Kdo by se chtěl dozvědět, že má rakovinu, od netečné mašiny bez jakékoli empatie? Ovšem i roboti mohou mít naprogramovaná slova útěchy podle momentálního rozpoložení pacienta a podle různých typů osobností. Nezapomínejme, že organismus není nic než algoritmus a Watson má možnost měřit emoce se stejnou přesností, s jakou vypátrá nádor.
Lidský doktor odhaduje emocionální stav pacienta pouze podle vnějších signálů, zejména podle hlasu a výrazu tváře, ale doktor Watson by to dokázal ještě lépe, neboť umí navíc analyzovat i interní, našemu zraku a sluchu skryté známky psychického stavu. Sledováním krevního tlaku, činnosti mozku a nesčíslných biometrických dat bude pocity pacienta znát přesně. A díky statistickým údajům nasbíraným z milionů předešlých setkání s jinými pacienty mu dokáže přesně říct, co potřebuje slyšet, a dokonce i tím správným tónem hlasu. Jakkoli totiž vynášíme tu svou slavnou emocionální inteligenci, přesto často podléháme svým emocím a reagujeme kontraproduktivně. Například při styku s rozčilenou osobou začneme taky křičet, posloucháme-li nějakého strašpytla,
■
KAPITOLA 9.
VELKÝ ROZVOD
začneme i my dávat průchod svým obavám. Watson takovému pokušení nikdy nepodlehne, protože nemá emoce, takže jeho reakce bude vždy odpovídat pocitovému stavu pacienta.
Už nyní se o něco takového pokouší zákaznický servis chicagské firmy Mattersight Corporation. Na jejich reklamních letácích je napsáno: „Už jste si někdy povídali s někým, s kým si dokonale rozumíte? Takový kouzelný pocit je výsledkem vzájemného porozumění. Telefonická zákaznická střediska Mattersight po celém světě vám ho poskytují každý den."'"' Stačí se ozvat se svou žádostí nebo stížností a chytrý algoritmus podle slov určí, na které oddělení vás má přepojit, a podle hlasu okamžitě rozpozná váš emocionální stav a osobnost - zda máte introvertní, extrovertní, vzteklou nebo mírnou povahu. Podle toho pak telefonát přesměruje na takového referenta, jenž nejlépe vyhoví vaší náladě a osobnosti: buď vybere někoho, kdo trpělivě a s porozuměním vyslechne vaši stížnost, nebo takového, jenž racionálně a bez velkých průtahů navrhne nejrychlejší řešení. Správná volba je pro udržení zákazníka velmi důležitá a kromě toho šetří čas i peníze zákaznickému středisku."2'
Neužitečná třída
Ekonomové si dnes kladou velmi důležitou otázku: Co s nadbytečným počtem pracovníků? Cím se lidé zaměstnají, až budou inteligentní nevědomé algoritmy vykonávat téměř všechno a lépe než vědomé bytosti?
313
HOMO DEUS / STRUČNE DEJINY ZITRKA
KAPITOLA 9.
VCLKY ROZVOD
Trh práce tradičně pokrýval poptávku v zemědělství, průmyslu a službách. Do začátku 19. století pracovala většina lidí v zemědělství. Za průmyslové revoluce začali venkované opouštět svá pole a stáda a nacházeli práci v továrnách nebo ve veřejných a soukromých službách. A v poslední době jako by začala další revoluce: tovární dělnická místa mizí a sektor služeb narůstá. V roce 2010 pracovala v Americe už jenom 2 procenta lidí v zemědělství a 20 procent v průmyslu, zatímco 78 procent bylo zaměstnáno ve školství a zdravotnictví, jako návrháři webových stránek a podobně. Co s nimi se všemi bude, až se z nevědomých algoritmů stanou lepší učitelé, doktoři a designéři než oni?
Tuhle otázku neslyšíme poprvé. Už během průmyslové revoluce se lidé obávali, že je mechanizace zastoupí a vypukne velká nezaměstnanost. Nestalo sc. Jedna profese zanikla, nová vznikla, pokaždé se našlo něco, co lidé vykonávali lépe než stroje. Zdálo se, že je to zákon přírody, dnes však nic nenaznačuje, že tomu tak bude i dál. Člověk má jen dvě možnosti: buď pracovat rukama, nebo hlavou. Dokud mu stroje konkurovaly pouze fyzicky, existovalo velké množství nezastupitelných úkolů v duševní oblasti a specializace vytvářela práci, jež vyžadovala alespoň částečnou mentální aktivitu. Co se však stane, až nás algoritmy předčí a jejich paměť, analytické a rozhodovací schopnosti budou s těmi lidskými nesrovnatelné?
Představa, že lidé mají nějaké jedinečné duševní vlohy, které nevědomé algoritmy nemohou nikdy získat, je jen zbožné přání. Dnešní vědecká odpověď na takovou čirou fantazii se dá vyjádřit třemi zásadami:
1. Organismy jsou algoritmy. Každý živočich včetně homo sa-piense)e jen montáží organických algoritmů utvářenou po miliony let přirozeným výběrem.
2. Algoritmický výpočetní systém není ovlivněn materiálem, z něhož je vytvořen. Počítadlo může být ze dřeva, ze železa nebo z plastu, ale dva a dva korálky jsou vždycky čtyři ko-rálky.
3. Není tedy důvod si myslet, že organické algoritmy umí něco, co ty neorganické nedokáží napodobit, či dokonce překonat. A pokud je výpočet sptávný, je úplně jedno, jestli je ten algoritmus z uhlíku nebo křemíku.
Organické algoritmy dosud svedou mnoho věcí lépe než neorganické, a odborníci dokonce tvrdí, že vždycky něco mimo dosah neorganických algoritmů zůstane. Ukazuje se však, že to „něco" je jen otázkou nanejvýš několika desetiletí. Například taková schopnost rozpoznat obličej: umí to i mimino, ale dlouho to neuměl počítač. Dnešní programy určí totožnost člověka daleko rychleji než my. Na vypátrání zločinců policie dnes běžně používá programy vyhodnocující videozáznamy bezpečnostních kamer.
V debatách o výjimečných vlastnostech člověka byla v osmdesátých letech minulého století za typický příklad lidské nadřazenosti považována naše schopnost htát šachy. Mělo se za to, že počítač náš rozum nikdy neporazí. Avšak 10. února 1996 Deep Blue z dílny IBM zvítězil nad světovým šachovým velmistrem Garrym Kasparovem a tím tento náš nárok na lidskou jedinečnost vzal za své.
Deep Blue měl navrch, protože mu jeho tvůrci do programu vložili nejen pravidla hry, ale také strategický návod. Nová generace umělé inteligence už ale nepotřebuje lidské rady, učí se sama. Program Deep Mind z roku 2015, vyvinutý inženýry Googlu, se sám naučil hrát 49 klasických počítačových her Atari. Jeden
HOMO DEUS / STRUČNÉ DĚJINY ZÍTŘKA
z vývojářů, Dr. Demis Hassabis, vysvětlil, že „systém nepotřeboval nic víc, než umět na obrazovce číst RAW pixely (v nichž jsou zakódovány všechny potřebné informace) a vědět, že má získat co nejvyšší počet bodů. Strategii si už vypracoval sám." A naučil sc i pravidla mnoha dalších her, od Pac-Man či Space Invaders až po automobilové závody a tenis. Většinou je zvládal stejně dobře jako člověk, někdy i lépe, a občas i vymyslel strategii, na kterou by lidský rozum nikdy nepřišel."31
Největší senzaci ovšem umělá inteligence způsobila, když se program AlphaGo sám naučil čínskou deskovou hru GO, která je mnohem náročnější než šachy. Nepočítalo se, že by něco tak komplikovaného mohl zvládnout, ale v březnu 2016 jihokorejský velmistr I Se-tol s ním proti všemu očekávání prohrál 1:4. Počítačová inteligence znalce šokovala, protože opět přišla na neobvyklé tahy a originální strategii. Bylo zřejmé, že lidé proti takovému systému nemají šanci.
Počítačové algoritmy prokázaly své schopnosti i v míčových hrách. Až donedávna vybírali hráče do svých baseballových týmů zkušení profesionální trenéři a manažeři na základě své intuice. A protože hvězdní hráči vydělávají svým družstvům miliony dolarů, mohla si ta nejbohatší vybírat ty nejlepší a ostatní musela paběrkovat. Billy Beáne, manažer nízkorozpočtového družstva Oakland Athletics, se v roce 2002 rozhodl, že si takové poměry nenechá líbit, a na pomoc si vzal neobvyklý systém algoritmů vyvinutý ekonomy a počítačovými maniaky, jenž údajně dokázal z podceněných a přehlédnutých hráčů sestavovat vítězné týmy. Samozřejmě takovou neúctou vůči posvátné praxi rozzuřil všechny bafuňá-ře přesvědčené o svém umění. Žádný počítač přece nemůže proniknout do tajemného ducha hry.
316
KAPITOLA 9.
VELKÝ ROZVOD
Museli spolknout pěkně hořkou pilulku. Beaneův tým hubeného rozpočtu (44 milionů) nejenže obstál proti takový gigantům jako New York Yankees (125 milionů), ale stal se dokonce prvním družstvem americké ligy, které vyhrálo dvacet zápasů po sobě. Takový úspěch se samozřejmě nedal zopakovat. Konkurenti se také naučili používat chytré algoritmy, a protože Yankees a Red Sox mohly platit za hráče i za programátory daleko víc, chudší družstva měla nakonec ještě menší možnost systém porazit než dřív.'14'
Dva profesoři, Frank Levy z MÍT a Richard Murname z Harvardu, publikovali v roce 2004 podrobnou zprávu o svém výzkumu pracovního trhu z hlediska jeho automatizace. Řízení nákladních aut vzhledem k silnému provozu považovali za jedno z povolání, které se v blízké budoucnosti automatizovat nepodaří. Je stěží představitelné, psali, že by něco takového algoritmy zvládly. A neuplynulo ani deset let a Google i Tesla si to umí nejen představit, ale dokonce už samořídicí vozidla úspěšně testují v provozu.'15'
Dnes už je evidentní, že zastoupit člověka algoritmy je stále snadnější, a to nejen proto, že jsou stále šikovnější, ale hlavně proto, že se lidská práce stala úzce specializovanou. Pravěký lovec toho musel umět tolik, že by bylo zhola nemožné nahradit ho robotem - dokázal by ten snad vyrobit oštěp s pazourkovým hrotem, najít jedlé houby, vystopovat mamuta, spolupracovat s ostatními lovci při zátahu na zvíře a nasbírat léčivé byliny na utrpěné rány?
Člověk se ale už celá tisíciletí zaměřuje jen na určitý úsek nějaké činnosti. Například takového taxikáře či kardiolo-ga, kteří jsou na rozdíl od pravěkého lovce úzce specializovaní, umělá inteligence snadno nahradí. Dnes lidé ve svých
I 317
HOMO DEUS / STRUČNÉ DEJINY ZÍTŘKA
KAPITOLA 9
VELKÝ ROZVOD
profesích nevyužívají 99 procent svých schopností a dovedností a umělá inteligence je dokáže vyřadit z pracovního trhu jen tím, že je předčí v tom zbývajícím jednom, úzce specializovaném procentu.
Dokonce i manažeři, kteří musí plánovat a sladit různé lidské činnosti, mohou být nahrazeni. Dopravní společnost Uber využívá tak mocné algoritmy, že je schopna v malém počtu lidí řídit práci milionů taxikářů.(1<5! Lze považovat za převratný krok, že hongkongská firma Deep Knowledge Venturcs, zabývající se investicemi do regenerativní medicíny, posadila v květnu 2014 do své správní rady algoritmus Vital, aby spolu s ostatními pěti členy hlasoval o tom, do kterých firem a institucí budou investovat: tento neživý člen rady má totiž v databázi ohromné množství relevantních dat o jejich finanční situaci, lékařském výzkumu a duševním vlastnictví.
Zkušenost s Vitalem prokázala, že robot je schopen odhalit i manažerské nectnosti jako nepotismus. Především ale radí, do kterých firem investovat, a přednost dává těm, které se algoritmů nebojí, jakou je kupříkladu Pathway Pharmaceuticals se systémem OncoFinder, který určuje individuální léčbu rakoviny a posléze hodnotí její výsledky.'1''
S postupným vytlačováním lidské práce se bude bohatství a moc hromadit v rukou úzké elity vlastníků všemocných algoritmů a vznikne nebývalá sociální a politická nerovnost. Na dnešním dopravním trhu mají řidiči taxíků, autobusů a kamionů velký podíl a značný ekonomický i politický vliv. Jsou organizováni v odborech a ve svém zájmu mohou stávkovat nebo vytvořit mocný volební blok. Až jediný algoritmus nahradí miliony řidičů, pak hrstka miliardářů, majitelů firmy, shrábne veškerou vládu a zisk.
318
Jednou se možná samy algoritmy stanou majiteli podniků. Naše zákony už dávno uznávají intersubjektivní entity (jako firmy či státy) pod názvem „právnická osoba", a ačkoli ani Toyota, ani Argentina nemá tělo a ducha, oba subjekty jsou podřízené mezinárodnímu právu, vlastní půdu a peníze, oba mohou vznášet soudní žalobu nebo být obžalovány. Proč by takový status nemohly získat algoritmy? Vlastnily by pak dopravní impérium nebo fond rizikového kapitálu, aniž by se musely podřizovat lidskému vládci.
A protože algoritmus rozhoduje racionálnej i než člověk, nahromadí velký majetek a bude investovat. Až koupí váš dům, stane se vaším domácím pánem. A pokud porušíte jeho práva, řekněme neplacením nájemného, poženou vás jeho právníci před soud. A až ty algoritmy takhle zlikvidují všechny lidské kapitalisty, budou jednou vlastnit většinu naší planety. Zní to neuvěřitelně, ale mějme na paměti, že dnes většinu naší planety legálně vlastní ne-lidské subjekty (státy, korporace). Už před 5 000 lety patřila naprostá většina majetku v Sumeru imaginárním bohům Enki a Inanně. Jesdiže bohové mohli vlastnit pozemky a zaměstnávat lidi, proč ne algoritmy?
Čím se ale budou zabývat lidé? Puká se, že nejvyšší svatyní člověka (takovou čistě lidskou doménou) je umění. Nemohl by se ve světě, ve kterém počítače nahradí doktory, řidiče, učitele, a dokonce i majitele domů, každý stát umělcem? Jak by se ale měla umělecká činnost zabezpečit před invazí algoritmů? Nedokázaly by nás i v této oblasti překonat a skládat hudbu lépe? Podle výzkumu biovědců není umění výtvor nějakého geniálního ducha nebo metafyzické duše, ale organických algoritmů, které umějí dešifrovat matematické vzorce. Proč by se něco takového nedokázaly naučit i neorganické algoritmy?
| 319
HOMO DEUS / STRUČNÉ DEJINY ZÍTŘKA
KAPITOLA 9
VELKÝ ROZVOD
Profesor muzikologie David Cope z Kalifornské univerzity patří mezi kontroverzní osobnosti ve světě klasické hudby. Místo hudby skladá totiž počítačové programy, které komponují koncerty, chorály, symfonie i opery. Jako první stvořil program EMI (experimentální muzikálni inteligenci) napodobující hudební styl Johanna Sebastiana Bacha. Trvalo mu to sice sedm let, ale EMI pak dokázal za jediný den složit 5 000 chorálů á la Bach. Cope z nich několik vybral a představil na hudebním festivalu v Santa Cruz, kde je posluchači přijali s velkým nadšením. Po oznámení autorství skladeb buď zaraženě mlčeli, nebo dávali velmi hlasitě najevo svou zlost.
EMI se naučil napodobovat Beethovena, Chopina, Rachmaninova i Stravinského a jeho první album - Klasická hudba počítačového skladatele - se kupodivu prodávalo docela slušně. Publicita ovšem vyvolá protesty hudbymilovné veřejnosti, až jednou profesor Steve Larson z Oregonské univerzity vyzval Copea a jeho počítač na souboj. Navrhl, aby profesionální pianisté zahráli tři hudební kusy — od Bacha, od EMI a od něj - a aby publikum hlasováním určilo autora. Larson si byl jist, že lidé okamžitě rozeznají oduševnělou lidskou skladbu od mechanické kompozice. Na koncertu se sešli profesoři, studenti a milovníci hudby z Oregonu a ukázalo se, že počítačovou variaci považovali za originál, Bachovu skladbu za tvorbu Larsona a Larsonovu za počítačovou kreaci. Hudební kritika ale i nadále trvala na svém a tvrdila, že kompozice EMI jsou sice technicky perfektní, ale že jim něco schází. Jsou příliš dokonalé. Nemají duši. Posluchači je však kupodivu, dokud netušili, kdo je jejich pravým autorem, chválili právě pro jejich odušcvnčlost a citovou hloubku.
Cope po úspěchu s EMI vyvíjel další, mnohem sofistikovanější programy, a jeho korunní princeznou se stala Annie. Ta se už uměla, na rozdíl od EMI komponujícího podle předem daných pravidel, sama učit. Její hudební styl se stále pod vlivem vnějšího světa mění a vyvíjí. Nikdo včetně Copea předem neví, co dalšího vymyslí - Annie si už rozšířila repertoár a prozkoumává další oblasti umění, např. japonský básnický útvar haiku. V roce 2011 vydal Cope sbírku Nadešla ohnivá noc: 2 000 haiků od člověka a počítače, v níž promíchal Annieniny verše s verši lidských básníků, takže čtenář netuší, kdo co napsal. A jestli si myslíte, že vy ten rozdíl mezi lidskou tvořivostí a strojní výrobou rozpoznáte, poslužte si, otestujte se.(18)
Průmyslová revoluce 19. století stvořila ohromnou masu městského proletariátu a vlastně i zrodila socialistickou ideologii, protože žádná jiná politická víra nebyla schopná reagovat na potřeby, naděje a obavy dělnické třídy. Liberalismus nakonec socialismus porazil, neboť si přivlastnil nejlepší část jeho programu. Dnes jsme však svědky vzniku masivní nepracující třídy, lidí bez ekonomického, politického či uměleckého užitku, kteří ničím nepřispívají k bohatství, moci a slávě společnosti. Tato neužitečná třída nebude pouze nezaměstnaná — bude nezaměstnatelná.
Dva výzkumníci z Oxfordu, Carl Benedikt Frey a Michael A. Osborne, v roce 2013 vydali knihu Budoucnost zaměst-natelnosti, v níž vyhodnotili výsledky svého výzkumu různých profesí z hlediska pravděpodobnosti, že je v průběhu příštích dvaceti let nahradí algoritmy. Podle nich v Americe s největší pravděpodobností zanikne zhruba 47 procent dnešních pracovních míst, zejména pro prodejce po telefonu, pojišťovací zprostředkovatele, sportovní rozhodčí,
321
HOMO DEUS / STRUČNÉ DEJINY ZlTRKA
KAPII 01 A 9.
VELKÝ ROZVOD
pokladní a kuchaře. S menší pravděpodobností (83-96 %) jsou ohroženi číšníci, řidiči, průvodci, veterináři, pekaři, zedníci, vrátní a členové ochranky a jen o málo méně například plavčíci, námořníci a archiváři. Některých zaměstnání se to ale netýká - takoví archeologové musí mít vysoce vyvinutý smysl pro detail a jejich práce nepřináší velký zisk, takže je nepravděpodobné, že by stát nebo soukromníci měli v nejbližších letech zájem investovat do nákladné automatizace výzkumu minulosti.
Jistě se objeví i některé nové profese, třeba návrháři virtuálního světa, ty ale budou vyžadovat ohromnou nápaditost a přizpůsobivost, daleko větší než odpovídá běžné rutinní práci. Je málo pravděpodobné, že ji zastanou rekvalifikovaní čtyřicetiletí pokladní a pojišťovací agenti. (Jak by asi vypadal virtuální svět vymyšlený pojišťovacím agentem?) A i kdyby se to některému z nich podařilo, zanedlouho by se musel vyučit něčemu novému, protože algoritmy nás jistě předčí i v projektování virtuální reality. Problém tedy není v tom, že by nevznikla nová zaměstnání, ten je v tom, že musí vzniknout taková, která lidé dokáží vykonávat lépe než algoritmy/20'
A protože nevíme, jakou kvalifikaci bude vyžadovat pracovní trh v roce 2030 nebo 2040, nemáme ani tušení, čemu učit děti. Je málo pravděpodobné, že by jim dnešní školní výuka byla ve čtyřiceti k něčemu dobrá. Tradiční model rozdělující život na dvě části, na dobu učení a dobu práce, brzy zastará. Neustálé přeškolování se stane celoživotní nezbytností a ten, kdo nezvládne nové profese, z trhu práce vypadne. Mnozí, ne-li většina, si s něčím takovým nejspíš neporadí.
Automatizace lidské práce přinese blahobyt a přebytečné neužitečné masy uživí. Čím je ale bude možné zaměstnat
322
a uspokojit? Lidé se musí nějak zabavit, jinak se zblázní. Nemohou celý den lelkovat. Jedna z možností jsou drogy a počítačové hry. Virtuální trojrozměrný svěr by jim přinášel zábavu a vzrušení nedosažitelné v tom nudném světě za oknem. Takový vývoj nepochybně zasadí smrtelnou ránu liberální víře v posvátnost lidského života a lidské zkušenosti. Co je na neužitečných idiotech trávících své dny v umělém světě La La Landu posvátného?
Nick Bostrom a někteří myslitelé, kteří domýšlejí důsledky umělé inteligence, se domnívají, že se lidstvo svého úpadku nedožije, neboť dlouho před tím je roboti vyvraždí, a to buď z obavy, aby se lidé proti nim neobrátili a neodpojili ze zásuvky, nebo kvůli nějakému svému, pro nás nepředstavitelnému cíli. Lidé prostě nebudou schopni ovládat algoiitmy o tolik chytřejší, než jsou oni.
1 kdyby bylo možné celý systém předprogramovat k nějaké přívětivější budoucnosti, i tak by to nejspíš nedopadlo dobře. Podle jednoho slavného scénáře dostal první superin-teligentní počítač za úkol tak nevinnou záležitost, jakou je kompletní výpočet Ludolfova čísla (pí = 3,14...), a než se lidé vzpamatovali, umělá inteligence obsadila planetu, zlikvidovala lidstvo a změnila celý známý vesmír na jeden superpočítač, který se po celé miliardy miliard let pokoušel stále přesněji vypočítat konstantu pí. Nezadal mu snad jeho stvořitel takový úkol?<21i
HOMO DĽUS / STRUČNÉ DEJINY ZÍTŘKA
KAPI rOl A 9
VELKÝ RO/VOD
Pravděpodobnost na 87 procent
Jak už bylo řečeno, liberalismu hrozí zánik především z těchto příčin:
1. Lidé ztrácejí svou vojenskou a ekonomickou hodnotu. To samozřejmě není předpověď, nýbrž možnost. Technické potíže a politický odpor mohou algoritmickou invazi trhu práce zpomalit. Také neznáme dosud nám skryté schopnosti lidského mozku, zdaleka ještě není dobře probádán, ani nevíme, jaká nová zaměstnání vývoj přinese. Nic z toho ovšem liberalismus nezachrání, protože ten věří v člověka a hodnotu každého jedince.
2. I v případě, že bude systém stále ještě závislý na lidské činnosti, nebude potřebovat individualitu. Lidé budou skládat hudbu, vyučovat fyziku nebo investovat, ale algoritmy jim budou rozumět lépe a důležitá rozhodnutí učiní za ně. Člověk jako jedinec ztratí autoritu i svobodu.
A také už bylo řečeno, že liberální víra v individualismus je založena na třech premisách:
1. Jedinec, to je nedělitelná podstata, něco, co nemůže být rozděleno na části nebo podsystémy. Toto vnitřní jádro je sice obaleno vnějšími vrstvami, po jisté námaze se ale k němu lze prodrat a uslyšet jasný a jednoznačný hlas svého vnitřního, pravého já.
2. Moje pravé já je svobodné.
3. Z obou předpokladů vyplývá, že sebe znám nejlépe já, protože jen já mám přístup k vnitřnímu prostoru své svobody a totožnosti. Proto také liberalismus přisuzuje jedinci
324 |
jedinečnou autoritu. Nikdo za mne nesmí rozhodovat, neboť jen já vím, kdo jsem, jak se cítím a co potřebuji. Volič to ví nejlépe, zákazník je pán a krása dlí v oku pozorovatele.
Biovědy to však vidí zcela jinak:
1. Organismy jsou algoritmy a lidé nejsou nedělitelní, nýbrž dělitelní. Jsou složeni z mnoha odlišných algoritmů a nemají žádný vnitřní hlas, žádné své vnitřní já.
2. Algoritmy člověka nejsou svobodné. Jsou ovlivněny geny a vnějšími tlaky (vyplývajícími z měnícího se životního prostředí), takže jejich rozhodnutí jsou buď už předem určená, nebo čistě nahodilá, ne však svobodná.
3. Teoreticky vzato by externí algoritmus měl být schopen každého jedince poznat lépe, než kdy on pozná sám sebe. Přesně by totiž sledoval veškeré funkce jeho těla a mozku, takže by dokonale věděl, kdo je, jak se cítí a po čem touží. Hravě by ho nahradil jako voliče, zákazníka i kritika umění. Věděl by všechno nejlépe, měl by vždycky pravdu a krásu by neurčovalo jeho oko, ale jeho výpočet.
V 19. a 20. století dával individualismus smysl, protože žádné externí algoritmy neexistovaly a nemohly lidi monitorovat. Státy a trhy by o takovou možnost dozajista stály, ale na sledování občanů jim scházela nezbytná technika. KGB a FBI měly jen mlhavou představu o lidské biochemii, genomu a mozkové činnosti, a i kdyby tajná policie odposlouchávala každý telefonát a sledovala každý náhodný hovor na ulici, tak výkonný počítač na vyhodnocení všech dat ještě neexistoval. Takže liberálové měli pravdu, když tvrdili, že jen člověk
I 325
HOMO DEUS / STRUČNÉ DĚJINY ZÍTŘKA
KAPITOLA 9
VELKÝ ROZVOD
sám může znát sám sebe. Z hlediska dnešních technických možností to už ale neplatí, dnes už nelze považovat lidský organismus za nezávislý, přestože chápeme víru ve vnitřní hlas a odpor vůči příkazům Velkého bratra.
Technika 21. století umožní algoritmům rozšifrovat a poznat člověka daleko lépe, než to dovede on sám. Víra v individualitu se zhroutí a autorita se přenese na systém. Lidé si zvyknou nepovažovat se za pány nad svým životem, ale za sbírku biomechanických mechanismů sledovaných a řízených sítí elektronických algoritmů. A k tomu nebude zapotřebí nějaký externí algoritmus, který mě perfektně zná a nikdy se nezmýlí, stačit bude, že mě bude znát lépe, než se znám já, a bude dělat méně chyb, než dělám já. To mi dá důvod k tomu, abych mu důvěřoval a ponechal většinu svých životních rozhodnutí na něm.
Zdravotnictví již tuto hranici překonalo - v nemocnici jsme svou individualitu ztratili už dávno. Je téměř jisté, že zásadní rozhodnutí o našem zdtavotním stavu bude brzy vynášet doktor Watson. A to vůbec nemusí být špatná zpráva, jak dokládá následující příklad.
Čidla diabetiků několikrát denně kontrolují hladinu cukru a hlásí hranici únosnosti. Výzkumníci Yaleské univerzity v roce 2014 uskutečnili první úspěšný test umělé slinivky řízený iPho-nem, ktetého sc zúčastnilo dvaapadesát pacientů. Každý z nich měl v břišní dutině zabudovaný snímač a miniaturní pumpičku propojenou s tubičkou inzulínu a glukagonu, dvěma hormony regulujícími hladinu cukru v krvi. Telefonní aplikace automaticky snímala údaje z čidla a podle potřeby nařizovala pumpičce, jaké množství kterého hormonu má do krevního oběhu vypustit - a žádný lidský zásah nutný nebyl.(22)
Dnes je už běžné, že i zdraví lidé na sobě nosí nějaké senzory a minipočítače, aby měli trvalý přehled o svém zdravotním stavu. Takové přístroje, at už je to chytrý telefon, hodinky, náramek, či dokonce spodní prádlo, sledují nejrůznější biometrické údaje, například tlukot srdce a krevní tlak. Počítač pak data vyhodnotí a informuje nositele o nutné změně životního stylu a stravovacích návyků, aby si udržel zdraví a prodloužil život.(23) Google spolu s obří farmaceutickou firmou Novattis vyvíjí kontaktní čočky, které každých pár vteřin analyzují složení slz a tak měří hladinu glukózy.!24) Pixie Scientific dokonce prodává chytré dětské plenky, které podle stolice určí zdravotní stav dítěte. V listopadu 2014 dal Microsoft na trh náramek Microsoft Band, který sleduje nejen tlukot srdce, ale i kvalitu spánku a počítá, kolik kroků jste za den ušli. Přístroj Deadline jde ještě dál a oznámí vám, kolik let života vám ještě zbývá, pokud své návyky nezměníte.
Někteří lidé takové přístroje používají, aniž by o celé záležitosti příliš přemýšleli, ale pro jiné se staly ideologií, ne--li přímo náboženstvím. Přívrženci hnutí the Quantified Self („číselně vyjádřené já") považují ego za složité matematické vzorce, jimž nikdy neporozumíme. Chceme-li se dnes řídit moudrou radou starověku a poznat sami sebe, nemá smysl mařit čas filozofií, meditací nebo psychoanalýzou, je zapotřebí jen systematicky shromažďovat biometrická data, poskytnout je algoritmům k probádání, a ty nám už oznámí, kdo jsme a co máme dělat. Sebepoznání se nachází v číslech.(25)
Izraelský zpěvák Shlomi Shaban v roce 2000 zvítězil v hitparádě písničkou o chlápkovi, který po své dívce chce vědět, jestli je v posteli lepší než její bývalý přítel. Ona se neustále vyhýbá odpovědi, říká, že je to s každým úplně jiné. Jemu
I 327
HOMO DĽU5 / STRUČNĚ DEJINY ZÍTŘKA
to ale nestačí, chce, aby to vyjádřila čísly. Právě pro takové týpky prodává firma Bedpost biometrické náramky, které během soulože sledují srdeční tep, množství potu a spotřebovaných kalorií, i dobu styku a orgasmu. Počítač data vyhodnotí a přesně určí výkon. Konec s předstíraným orgasmem a „Jak se ti to líbilo?"(26)
Lidé, kteří sami sebe vnímají jen prostřednictvím takovýchto přístrojů, se nejspíš brzy začnou vidět jen jako soubor biochemických systémů, ne jako osobnost, a jejich rozhodování bude stále více ovlivňováno konfliktními požadavky jednotlivých systémů.(27) Jak by se, kupříkladu, rozhodl někdo, kdo má dvě volné hodiny týdně a váhá, jestli má chodit hrát šachy nebo tenis? Kdyby se ho kamarád zeptal, kam ho srdce táhne, po čem víc touží, on by mu třeba odpověděl, že by šel raději na tenis, že to by navíc posloužilo i jeho zdraví, jenže jeho skener mozku mu oznamuje, že by měl posílit levou frontální část mozkové kůry, protože má dědičnou náchylnost k demenci, a že poslední lékařské objevy naznačují, že usilovné soustředění při partii šachu demenci oddaluje.
Mnohem závažnější příklady vnějšího vlivu na lidské rozhodování nalezneme v ústavech pro přestárlé. Humanismus fantazíruje o stáří jako o období velké moudrosti. Idealizovaný stařec sice trpí všemi slabostmi a bolestmi chátrajícího těla, mysl má však bystrou a nádavkem zkušenosti osmdesáti let. Je světa znalý a vnukům i návštěvníkům udílí moudré rady. Osmdcsátníci 21. století takovému obrazu ale neodpovídají. Ohromný pokrok v biologii a lékařství prodloužil dobu chátrání naší mysli a osobnosti a mnohdy jen pomocí monitoru, počítačů a pump udržuje pohromadě naši sbírku dysfunkčních biologických systémů.
328
KAPITOLA 9. VELKÝ ROZVOD
Jak postupně genetické technologie pronikají do každodenního života a lidé si budují těsnější vztah se svou DNA, začne být hlas vlastního já v hlučném překřikování různých genů stěží slyšet. A tak před obtížnou životní volbou už možná nebudeme pátrat po svém vnitřním hlase - radu budeme hledat ve svém genetickém parlamentu.
Deník New York Times otiskl 14. května 2013 článek, v němž se herečka Angelina Jolie rozepsala o svém rozhodnutí podstoupit amputaci prsou. Celá léta strávila pod hrozbou rakoviny, na kterou v poměrně raném věku zemřela její matka i babička. Test prokázal, že má nebezpečnou mutaci genu BRCA1 a ta podle nejnovější statistiky rakovinu prsu s 87-procentní pravděpodobností vyvolá. Jolie proto operaci preventívne podstoupila, aby se obávané chorobě vyhnula. „Rozhodla jsem se své rozhodnutí veřejně oznámit, aby si ženy, které nevědí o své náchylnosti k rakovině, uvědomily, že mají možnost podstoupit genetický test a mohly se v případě vysokého rizika také rozhodnout."'28'
Volba amputace prsu je velmi těžké a potenciálně nebezpečné rozhodnutí. Nejde jen o zvažování všech nepříjemností a omezení v průběhu operace a následné rekonvalescence, rizik a komplikací při operaci či finančních nákladů obojího, ale také možných pooperačních zdravotních potíží, následků vyplývajících ze změněného fyzického vzhledu a v neposlední řadě i možných emocionálních, dokonce i vztahových problémů. Proto její rozhodnutí a odvaha vyvolaly značnou pozornost a získaly jí mezinárodní uznání a obdiv. Mnozí také doufali, že publicita podpoří obecné povědomí o možnostech a výhodách genetické medicíny.
Z historického hlediska je zajímavé, jakou závažnou roli sehrály v jejím případě algoritmy. Jolie ke svému životnímu
| 329
HOMO DEUS / STRUČNĚ DĚJINY ZÍTŘKA
KAPU Ol A 9.
VELKÝ ROZVOD
rozhodnutí nepotřebovala vystoupit na skálu nad mořem a nechat se unášet západem slunce ve vlnách, aby se dobrala rady svého nejhlubšího niterního pocitu. Raději si poslechla své geny, jejichž hlasy nebyly vyjádřeny emocemi, nýbrž čísly. Rozhodla se podstoupit test, ačkoli v té době neměla žádné potíže a její pocity ji ujišťovaly, ať se o žádnou prevenci nestará, že všechno jistě dobře dopadne. Počítačové algoritmy j í ale oznámily něco jiného: „Ty necítíš, že je s tebou něco špatně, ale v tvé DNA tiká časovaná bomba. Rozhodni se - a to nejlépe hned!"
Samozřejmě že svou roli sehrála i její jedinečná osobnost. Jiná žena by v takovém případě možná raději podstoupila riziko a mastektomii odmítla. Ale co kdyby se, popustíme-li uzdu fantazii, ještě navíc dozvěděla, že má v genech i (fiktivní) mutaci ABCD3, která oslabuje schopnost mozku zvažovat riziko a vede k podceňování nebezpečí? A co teprve, kdyby jí statistik oznámil, že její matka, babička a několik příbuzných zemřelo v mládí právě proto, že podcenili nějaká zdravotní rizika?
Většina lidí se s největší pravděpodobností rozhodne jako Angelina Jolie, i když jim to navrhne algoritmus na základě srovnání velkého množství statistických dat s výsledky jejich genetických, krevních a dalších testů. To není žádná apokalyptická vzpoura robotů ani otroctví pod vládou algoritmů. Jejich precizní úsudek sice rozhodne za nás, ale odmítnout by ho mohl jen blázen.
*   * *
Na plátně se Angelina Jolie poprvé objevila v akčním sci-fi filmu Kyborg2\ roce 1993. Hrála Cassellu Reeseovou, což byl
330
vražedný kyborg sestrojený firmou Pinwheel Robotics v roce 2074 pro účely průmyslové špionáže. Cassella je vybavena i lidskými city, aby se mohla mezi lidmi ztratit. Když ale zjistí, že ji Pinwheel Robotics nejen ovládají, ale plánují ji i zlikvidovat, prchne a zápasí o svůj život a osvobození. Je to typická liberální pohádka o boji jedince za svobodu a soukromí proti globální vládě firemních chobotnic.
Ve skutečném životě však Jolie upřednostnila své zdraví před soukromím a nezávislosti. A další lidé ji budou následovat a umožní státní správě a nadnárodním firmám, aby viděly i do těch nejtajnějších zákoutí jejich duše. Google by pak mohl pročítat soukromé e-maily a sledovat naše aktivity, aby nás mnohem dřív, než to zjistí státní zdravotnictví, varoval před nějakou hrozící epidemií.
Jak vlastně například britské zdravotnictví zjistí, že v Londýně vypukla chřipková epidemie? Má k ruce zprávy tisíců lékařů ze sta nemocnic. A odkud mají informace doktoři? Od lidí jako je Mary, která se jednoho rána cítila úplně pod psa, a tak si připravila pořádnou konvici čaje a med a čekala, až se jí uleví. Když se ani druhý, ani třetí den její stav nezlepšil, zašla k lékaři. Ten naklepal diagnózu do počítače a někdo v centrále ji vyhodnotil spolu s tisíci dalšími taliovými a došel k závěru, že chřipka je na pochodu. Trvalo to ale docela dlouho.
Google to zjistí za pár minut. Stačí mu sledovat jednotlivá slova v e-mailech, a když výrazy jako bolení hlavy, horečka, nevolnost nebo kýchání vyskočí proti dennímu normálu řekněme o 200 tisíc, blíží se epidemie. Netřeba čekat, až se Mary objeví u doktora. To ráno, kdy se jen nějak necítila ve své kůži, oznámila kolegyni e-mailem, že ji sice bolí hlava, ale do práce že přesto přijde. Víc už Google vědět nepotřebuje.
331
HOMO DEUS / STRUČNÉ DEJINY ZÍTŘKA
Aby vyhledávač mohl takhle čarovat, musí mu Mary dovolit nejen číst svou korespondenci, ale taky sdílet získané informace například se zdravotními pojišťovnami. A jestliže Angelina Jolie obětovala své soukromí, aby upozornila na nebezpečí rakoviny prsu, proč by nemohla Mary učinit totéž, abychom mohli včas potlačit epidemii?
To není žádné fantazírování. Projekt Google FluTrends už od roku 2008 vyvíjí program na zjištování nástupu chřipky ve svých vyhledávačích, ale zatím se na něm stále ještě pracuje, protože je omezen ochranou soukromí. Google údajně soukromou poštu nečte, přesto je schopen spustit poplach o deset dní dříve než ministerstvo zdravotnictví.1291
Mnohem ambicióznější je projekt Google Baseline Study, jenž má s pomocí mamutí databáze, v níž shromažďuje vše o lidském zdraví, vytvořit ideální model zdravého člověka. Jeho cílem je evidovat sebemenší odchylky od normálu a varovat lidi před prvními příznaky nemocí, dokud jsou ještě léčitel né. Zároveň pod názvem Google Fit vyvíjí i řadu produktů, které budou zabudovávány do oděvů, náramků, bot a brýlí a stanou se nekonečným zdrojem biometrických dat neustále doplňujících databázi.'30'
Firmy jako Google se ovšem s vnějšími monitory nespokojí a budou chtít proniknout hlouběji. Trh s testy DNA roste závratnou rychlostí. Firma 23andMe, založená Annou Wojcickou, bývalou manželkou spoluzakladatele Googlu Sergeje Brina, už svým názvem (23 a já) dává najevo, že se zabývá výzkumem 23 párů chromozomů, kterými je určen lidský genom. Zkoumá podstatu vztahů mezi chromozony a lidskou osobností. Kdo porozumí jejich mluvě, dozví se o sobě mnohé, o čem dříve neměl potuchy.
KAPITOLA 9.
VELKÝ ROZVOD
Za pouhých 99 dolarů si nyní může každý zvědavec objednat malou tubičku a se svou slinou ji zaslat na adresu firmy v Mount View v Kalifornii. Po analýze obdrží e-mailem seznam potenciálních zdravotních rizik včetně zhruba devadesátí genetických náchylností, od něčeho tak závažného jako ztráty zraku až po něco tak triviálního jako plešatění. Ještě nikdy nebylo sebepoznávání tak jednoduché a tak levné. A protože analýza se zakládá na statistických údajích, je nezbytné mít k přesnému určení skutečně gigantickou databázi. Proto také firma 23andMe musela do projektu masivně investovat, aby měla šanci vytěsnit konkurenty z trhu. Americké biotech-nické firmy se ale obávají, že přísné domácí zákony na ochranu soukromí umožní Číňanům, kteří na lidská práva kašlou, genetický trh časem ovládnout.
Jestli spojíme všechny body a jestli Google s konkurenty získají data z našich biometrických přístrojů, skenů DNA a našeho chorobopisu, budeme mít vševědoucí zdravotnictví, jež nás ochrání nejen před epidemií, ale také před rakovinou, srdečním záchvatem a alzheimerem. S tak velkou databází však zároveň bude mít Google ještě větší možnosti. Bude znát každý náš krok a dech, každý vztah, v němž selžeme. Bude sledovat naše konto, tlukot srdce, hladinu cukru a sexuální vylomeniny. Bude nás zaručeně znát lépe, než se známe my sami. Sebeklam a sebepřeceňování, často vedoucí do pasti špatných návyků, vztahů nebo mylné volby zaměstnání, Googlea nezmýlí. On se na rozdíl od našeho vysvětlujícího já nerozhoduje na základě vybájených příběhů a žádné naše myšlenkové zkratky či hodnocení vlastních prožitků ho neoklamou. Zapamatuje si každý náš krok a každou podanou ruku.
j 333
HOMO DEUS / STRUČNÍ DĚJINY ZfTRKA
KAPITOLA 9.
VELKÝ ROZVOD
A mnozí lidé uvítají, budou-li moci své rozhodování přenechat takovému systému, nebo se ním při každé důležité volbě radit. Google nám řekne, kam na dovolenou, jaký obor studovat, jakou práci přijmout, s kým jít na rande a za koho se vdát. „Poslouchej Google," řeknu mu, „mám ráda Honzu i Pavla, každého trochu jinak a nemohu se rozhodnout. Co bys mi radil, když toho tolik o mně víš?"
A co na to Google? „Ovšem, znám tě od narození, četl jsem všechny tvé e-maily a slyšel všechny tvé telefonní hovory, znám tvé záliby, DNA i biometrické dějiny tvého srdce. Mám přesná data, mohu ti ukázat grafy tvé srdeční frekvence, krevního tlaku a hladinu cukru, když jsi měla rande s Honzou nebo s Pavlem. A je-li to nutné, mohu vyhodnotit přesný rozdíl tvé sexuální zkušenosti s oběma. Pochopitelně že vím všechno i o nich a mé perfektní algoritmy využívající databázi se statistikou milionů mezilidských vztahů mi říkají, že z dlouhodobého hlediska budeš tak na 78 procent spokojená s Honzou."
„Znám tě tak dobře, že vím i to, že se ti má rada nezamlouvá. Pavel je přece jen o něco pohlednější než Honza, a protože dáš víc na vzhled, chtělas, abych ti řekl: vezmi si Pavla. Vnější podoba ale není příliš důležitá. Tvé biochemické algoritmy se vyvíjely desetitisíce let na africké savaně a přisuzují vzhledu tvého potencionálního druha 35 procent, zatímco mé algoritmy vycházejí ze současných studií a statistik a hodnotí vnější krásu jen na 14 procent. Takže i když vezmu v úvahu, že je Pavel hezčí, stejně ti musím říct, že lepší vyhlídku na dlouhodobý vztah máš s Honzou."011
Výměnou za tak věrného rádce se budeme muset zbavit představy, že máme svou osobnost, že jsme jedinci obdaření
334 |
svobodnou vůlí a sami si určujeme, co je správné a krásné a co dává životu smysl. Už nebudeme nezávislé entity, jak nás o tom ve svých vymyšlených příbězích ubezpečovalo naše vysvětlující já. Staneme se nedílnou součástí mohutné globální sítě.
* * *
Liberalismus posvětil naše vysvětlující já: umožňuje mu volit vládu, vybírat si zboží i životního partnera. Celá staletí to dávalo smysl, přestože si vymýšlelo a fantazírovalo - neexistoval totiž nikdo, kdo by nás znal lépe. Mámc-li ale dnes k dispozici systém, který nás tak dobře zná, bylo by poněkud přihlouplé ponechat autoritu svému fiktivnímu já.
Liberální zvyklosti, jako demokratické volby, ztratí význam, neboť Google bude znát mé politické názory lépe než já sám. Liberalismus mi radí, abych se zeptal svého pravého já, jakou stranu nebo kandidáta, kteří nejlépe odpovídají mému hlubokému, skutečnému přání, si mám vybrat. Biovědy ale vysvětlují, že si ve skutečnosti nepamatuji všechno, co jsem od posledních voleb prožil. Ocitám se rovněž pod palbou propagandy, demagogie a zmatených vzpomínek, a to nezůstane bez vlivu. V politice platí totéž pravidlo, jaké zjistil Kahneman ve svém pokusu se studenou vodou. Mé vysvětlující já podléhá koncové zkušenosti, většinu událostí, až na některé extrémy, zapomene a přisuzuje nepřiměřeně velkou váhu současnému dění.
Osvětleme si to na příkladu: Čtyři roky jsem nadával na premiéra a jeho politiku a každému na počkání tvrdil, že nás všechny přivede k bankrotu, ale několik měsíců před volbami
335
—
HOMO DHJS / SIRUŕNŕ D F JIN Y ZÍTŘKA
T
vláda sníží daně a štědře rozdává ze státní kasy. Vládnoucí strana si najme nejlepší reklamní agenturu, která umí namíchat tu správnou kombinaci hrozeb a slibů, a rozjede skvělou kampaň cílenou na tu část mozku, kde jsou uloženy mé obavy. Ráno v den voleb se probudím s rýmou a jediné, na co můj mozek zvládne myslet, je bezpečí a stabilita. A hle, toho člověka, který nás čtyři roky tak šidil, pošlu na další čtyři roky do funkce.
Takovému osudu jsem se mohl vyhnout, kdybych pověřil Googlea, ať za mne volí. Ten, jak známo, není včerejší. Snížení daní a sliby sice vezme v úvahu, ale má přesnou paměť. Nezapomněl, co mi za poslední léta tak vadilo, kolikrát mi stoupl tlak při čtení ranních novin a jak mi poklesla hladina dopaminu během večerního zpravodajství. Google je odborník na prázdná hesla reklamních textařů a také dobře ví, že nemoc posouvá voliče o trochu víc doprava, než by chtěli, a dokáže všechny tyhle výkyvy vyrovnat. Nerozhodne se pod vlivem mého momentálního rozpoložení, ani nepodlehne fantazírování mého vysvětlujícíhojá, nýbrž volí přesně podle pocitů a zájmů celé té sestavy biochemických algoritmů, kterou nazýváme svým já.
Přirozeně se ani Google vždycky nestrefí. Vždyť jde o výpočet pravděpodobností. Stačí ale, když bude častěji rozhodovat správně a lidé mu rádi přenechají autoritu. S postupem času a růstem databáze bude mít k dispozici stále přesnější statistiku, jeho algoritmy se také zlepší a stejně tak i úspěšnost jeho rozhodnutí. Systém o mně nikdy všechno vědět nebude, a nebude ani neomylný. O to ani nejde. Až mě pozná lépe, než se znám já, nebude mít liberalismus šanci. A nebude to nijak obtížné vzhledem k tomu, že jen málokdo z nás o sobě opravdu něco ví.
KAPITOI A 9.
VFI KY ROZVOD
Nedávná studie vypracovaná Facebookem naznačuje, že jejich algoritmus má dokonce lepší představu o lidské osobnosti a jejích sklonech, než mají vlastní rodiče a nejbližší přátelé toho kterého člověka. Algoritmus dostal za úkol předpovědět odpovědi 86 220 dobrovolníků, kteří v dotazníku vyplnili 100 kolonek. Vycházel z jejich lajků, kterými na facebooko-vých stránkách označili různá vyobrazení, klipy či webové stránky. Čím více lajků, tím přesnější byly jeho předpovědi. Je neuvěřitelné, že mu stačilo jen 10 lajků, aby měl lepší odhad než kolegové ze zaměstnání, 70 potřeboval na přátele, 150 na členy rodiny a 300 na životního partnera. To znamená, že když na Facebooku 300krát odkliknete lajk, bude vás jeho algoritmus znát minimálně stejně dobře jako váš manžel nebo manželka.
V některých případech tento algoritmus dokonce trumfl i vlastní představy a mínění člověka o sobě, například když účastníci jednoho průzkumu odhadovali svou drogovou závislost nebo rozsah své sociální sítě. Autoři (nikoli algoritmus) zprávu končí předpovědí: „Je pravděpodobné, že lidé tvoření soudů a rozhodování přenechají počítačům, zvláště v životně důležitých záležitostech, jako při volbě aktivit, profese, nebo dokonce životního partnera. Taková rozhodnutí učiněná s podporou databáze by mohla lidský život zkvalitnit."21
Ze zprávy ovšem na druhou stranu vyplývá, že například při příštích prezidentských vobách v USA bude Facebook znát politické názory desítek milionů Američanů, kolik voličů ještě váhá a jak by mohli být přesvědčeni. Věděl by kupříkladu, že v Oklahomě bude výsledek zápolení mezi Demokraty a Republikány velmi těsný, a mohl by snadno identifikovat oněch 32 417 nerozhodných voličů a dát některému
I 337
HOMO DEUS / STRUČNÉ DEJINY ZÍTŘKA
KAPITOLA 9.
VFI KÝ ROZVOD
z kandidátů návod, co hlásat, aby vyhrál. A jakže Facebook vůbec tak cenné informace získal? Inu, sami jsme mu je poskytli, a ještě k tomu zadarmo.
Konkvistadoři a obchodníci ve zlatých časech evropského imperialismu kupovali ostrovy a někdy celé země za náhrdelník z barevných korálků. Ve 21. století vyměňujeme svůj nejcennější poklad - svá osobní data - za internetové služby a videa s roztomilými kotaty.
Od služebníka k vládci
Až se Google, Facebook a další podobné algoritmy naučí opravdu předvídat naše přání, pocity a chování (jako věštec), je možné, že začnou být schopné samostatně za člověka rozhodovat (jako zástupce člověka), až mu nakonec začnou poroučet (jako vladař).(33) Tento scénář lépe pochopíme, když se zamyslíme nad případem Waze, což je navigační aplikace založená na GPS, kterou dnes užívají miliony řidičů po celém světě. Waze není jen mapa. Miliony uživatelů této aplikaci neustále dodávají čerstvé informace o dopravních zácpách, nehodách a policejních vozech - proto algoritmus ví, jak vás odklonit od stojících kolon a dovést do cíle nejrychlejší trasou. Když vám na křižovatce instinkt napoví, že byste měli zabočit doprava, ale Waze tvrdí, že doleva, dříve či později pochopíte, že je lepší naslouchat jí než vlastnímu dojmu.'34'
Na první pohled by se mohlo zdát, že Waze jen odpovídá. Na něco se jí zeptáte, odpoví a je na vás, jak se rozhodnete.
338 I
Pokud si ale program získá vaši důvěru, je logické, že se stane jednotkou schopnou samostatného rozhodování. Zadáte konečný cíl a on se bude snažit bez vašeho dalšího zasahování k němu dospět. Nakonec to dopadne tak, že program napojíte na samořízené auto a algoritmu řeknete, že chcete co nejrychleji domů nebo jet nejhezčí cestou, případně cestou, která vyprodukuje co nejméně emisí. Vy sice poroučíte, ale algoritmus necháte, aby vaše příkazy samostatně plnil.
Z Waze by se docela dobře mohl stát vládce. Bude mít ohromnou moc, bude vědět mnohem více než vy a může se stát, že vás i další řidiče začne manipulovat, začne ovlivňovat vaše přání a rozhodovat za vás. Řekněme, že Waze bude tak dobrá, že ji začnou užívat všichni. A pak si představte, že na dálnici číslo jedna je dopravní zácpa, zatímco dálnice číslo dvě je relativně průjezdná. Kdyby to Waze ptostě jen všem sdělila, všichni řidiči by se vydali k dálnici číslo dvě, takže by se na ní brzy vytvořila kolona. Jakmile všichni začnou užívat stejný navigační systém a všichni mu budou věřit, ze systému se stane vládce. Waze pak bude myslet za nás. Možná bude o relativně volné dálnici číslo dvě informovat jen polovinu řidičů a ostatním tuto skutečnost nesdělí. Výsledkem bude, že se dálnice číslo jedna uvolní, ale dálnice číslo dvě nebude přetížená.
Microsoft vyvíjí ještě jeden promyšlenější systém. Jmenuje se Cortana, podle postavičky z populárních videoher Halo. Cortana je umělý osobní asistent a Microsoft doufá, že ji bude moci zabudovat do budoucích verzí Windows. Uživatelé budou přesvědčováni, aby osobnímu asistentovi umožnili přístup do svých souborů, emailů a aplikací. Tím je Cortana bude moci dobře poznat a následně jim v řadě věcí pomáhat
339
HOMO DĽUS / STRUČNÉ DFJINY ZÍTŘKA
a radit. Stane se virtuálním agentem zastupujícím zájmy uživatele. Připomene vám třeba, že byste měl manželce koupit něco k narozeninám. Sama by pak vybrala dárek, zamluvila místo v restauraci, a ještě by se hodinu před večeří ozvala a připomněla, že je čas na večerní lék. Mohla by vás upozornit, že když budete ještě chvíli číst, přijdete pozdě na důležitou schůzku. Před vstupem do konferenční místnosti by vás varovala, že máte moc vysoký krevní tlak a moc málo dopa-minu a že statistiky ukazují, že lidé v tomto stavu často dělají při obchodním rozhodování závažné chyby. Proto byste se raději neměl k ničemu zavazovat a nic podepisovat.
Jakmile se z Cortany stanou samostatní průvodci, dojde k tomu, že tyto konstrukty budou třeba své pány a paní zastupovat a komunikovat přímo mezi sebou. Mohlo by to začít docela nevinně: moje Cortana kontaktuje vaši Cortanu a domluví čas a místo schůzky. Pak se ale třeba stane, že potenciální nový zaměstnavatel řekne, že nemusím posílat životopis, ale měl bych povolit jeho Cortaně, aby vyzpovídala mou. Nebo mou Cortanu osloví Cortana mé potenciální přítelkyně, porovnají si záznamy a posoudí, zda by vztah mezi jejich pánem a paní mohl být perspektivní - a to vše bez vědomí jejich lidských majitelů.
Jak Cortany získají více moci, mohly by jedna druhou začít manipulovat ve prospěch svých pánů, takže úspěch na trhu práce nebo při hledání vhodného partnera by čím dál tím víc závisel na kvalitě Cortany. Bohatý člověk s nejnovější Cortanou bude mít navrch nad chudším sousedem se zastaralou verzí asistenta.
Ještě problematičtější je ale otázka identity Cortanina majitele. Jak jsme již viděli, lidé nejsou jedinci, nemají jediné
340 j
KAPITOLA 9.
Vtl KY ROZVOD
a jednotné^'. Čí zájmy by tedy Cortana měla hájit? Představte si, že mé vysvětlující já udělá novoroční předsevzetí držet dietu a chodit každý den cvičit. O týden později, když je čas jít do tělocvičny, zkušenostní^' poručí Cortaně, aby zapnula televizi a objednala pizzu. Co by Cortana měla udělat? Měla by poslechnout zkušenostní já, anebo se řídit rozhodnutím, k němuž minulý týden dospělo mé vysvědujícíjA?
Možná si řeknete, že Cortana je vlastně skoro jako budík, který mé vysvětlující já večer nařídí, aby ráno probudil mé zkušenostní já do práce. Ale Cortana nad námi bude mít mnohem větší moc. Zkušenostníma může budík zastavit zmáčknutím tlačítka, ale Cortana bude přesně vědět, na které vnitřní spouštěče zatlačit, abych se řídil její „radou".
Cortana od Microsoftu není jediná. Osobní asistenti Now společnosti Google a Siri od firmy Apple míří stejným směrem. 1 Amazon užívá algoritmy, které nás neustále zkoumají a získané informace užívají k doporučování produktů. V kamenném knihkupectví procházím mezi regály a při volbě knihy se řídím vlastním instinktem. Navštívím-li ale virtuální knihkupectví Amazonu, okamžitě vyskočí algoritmus a řekne: „Vím, jaké knihy se ti líbí. Lidi s podobnými zájmy často zajímá i ta či ona knížka."
A to je jen začátek. Ve Spojených státech dnes lidé čtou víc knih digitálních než papírových. Ctečky jako Kindle o vás během čtení sbírají informace. Můžou například zjistit, které části knihy jste četli rychle a které pomalu, kde jste si udělali ve čtení přestávku a u které věty jste knihu odložili nadobro. Kdyby se do Kindlu zabudoval biometrický senzor, poznal by, která věta vám zvýšila tep a krevní tlak. Poznal by, co vás rozesmálo, rozesmutnilo nebo naštvalo. Než se nadějete, knihy
HOMO DEUS / STRUČNĚ DĚJINY ZÍTŘKA
KAPITOLA 9
VELKÝ ROZVOD
budou číst vás, a zatímco vy rychle zapomenete většinu toho, co jste přečetli, Amazon nezapomene nikdy nic. Posbírané informace mu umožní nabízet vám knihy přesně na míru. Bude vědět, kdo jste a jak probudit váš zájem.'35'
Nakonec možná dospějeme do bodu, kdy nebude možné odpojit se od vševědoucí sítě ani na chvilku. Odpojení by znamenalo smrt. Pokud se splní předpovědi lékařů, bude mít jednou člověk v těle řadu biometrických monitorů, bionic-kých orgánů a nanorobotů, které budou monitorovat jeho zdraví a chránit ho před infekcemi, nemocemi a zraněními. Tyto přístroje ale budou muset být neustále napojené na internet, aby mohly dostávat informace o nových vědeckých poznatcích a byly chráněny před novými hrozbami kybernetického prostoru. Stejně jako můj domácí počítač musí bojovat proti virům, červům a trojským koňům, tak i můj srdeční stimulátor, naslouchadlo a imunitní systém založené na na-notechnologiích budou potřebovat ochranu. Pokud si nebudu pravidelně aktualizovat antivirový program, mohl bych se jednoho dne probudit a zjistit, že miliony nanorobotů, které putují mými žilami, ovládá nějaký severokorejský hacker.
Technický pokrok 21. století by mohl zvrátit humanistickou revoluci, vzít lidem vládu nad chodem jejich životů a dát ji ne-lidským algoritmům. Pokud vás to děsí, nedávejte vinu softwarovým vývojářům. Odpovědnost za to nesou biologové. Je důležité uvědomit si, že celý tento trend pohánějí spíš objevy v oblasti biologie než počítačů. Byly to vědy o životě, které dospěly k závěru, že organismy jsou vlastně algoritmy. Kdyby to tak nebylo, pokud by organismy fungovaly principiálně jinak než algoritmy, počítače by možná vedly k zásadnímu převratu v jiných oborech, ale nebyly by schopné
porozumět našemu životu a řídit ho a rozhodně by se s námi nemohly spojit. Jakmile však biologové zjistili, že organismy jsou algoritmy, rozbořili zeď mezi světem organickým a anorganickým a počítačová revoluce přestala být čistě mechanickou záležitostí. Stala se z ní biologická hrozba, vláda nad chodem věcí byla jednotlivým lidem odejmuta a ujaly se jí propojené algoritmy.
Některé z nás tento vývoj děsí, ale miliony lidí jej vítají s nadšením. Už dnes se mnozí z nás vzdávají soukromí a vlastní jedinečnosti tím, že velkou část života vedou on-line, každou svou reakci zaznamenávají a propadají zoufalství, jakmile na pár minut vypadne internetové spojení. Lidé předávají kontrolu algoritmům ve všech oblastech života nikoli na základě nějakého vládního usnesení, ale zcela dobrovolně v bezpočtu naprosto všedních osobních rozhodnutí.
Pokud si nedáme pozor, mohli bychom skončit v orwe-llovském policejním státě, který neustále sleduje a kontroluje nejen naše činy, ale i to, co se děje v našich tělech a myslích. Jen si pomyslete, jak by mohl všudypřítomné biometrické senzory využít Stalin a kde všude by je dnes mohl uplatnit Putin. Zastánci lidské jedinečnosti se dnes obávají opakování tragédií 20. století a brojí proti známým orwellovským hrozbám, ale lidská individualita čelí ještě většímu nebezpečí z opačného směru. Ve 21. století je mnohem pravděpodobnější, že se jednotlivec rozloží zevnitř, než že bude brutálně zničen zvnějšku.
Většina vlád a korporací se dnes snaží zalichotit mé představě o vlastní jedinečnosti: nabízejí mi léky, vzdělání i zábavu šitou přesně na míru mým potřebám a přáním. Aby to ale uměly, musejí mě napřed rozložit na biochemické
| 343
_
HOMODEUS/STRUČNÉDÉJINYZlTRKA
KAPITOLA 9.
VELKÝ ROZVOD
podsystémy, ty sledovat všudypřítomnými senzory a jejich fungování popsat pomocí výkonných algoritmů. Až tento proces bude u konce, ukáže se, že jednotlivec není nic než náboženský konstrukt, výplod fantazie. Skutečnost bude spletí biochemických a elektronických algoritmů bez ostrých hranic a bez jasně definovaných centrálních uzlů.
Nová úroveň nerovnosti
Zatím jsme se zabývali dvěma ze tří konkrétních hrozeb, které liberalismus ohrožují: zaprvé, že člověk ztratí cenu, a zadruhé, že lidé sice budou mít nějakou hodnotu kolektivně, ale ztratí vládu nad svými životy a budou řízeni vnějšími algoritmy. Systém sice bude potřebovat lidi, aby psali symfonie, učili dějiny nebo sestavili počítačový kód, ale bude nás znát lépe, než známe sami sebe, a proto bude dělat většinu důležitých rozhodnutí za nás - a nám to ani nebude vadit. Takový svět nebude možná špatný, ale bude to doba post-liberální.
Třetí hrozbou pro liberalismus je, že někteří lidé budou nepostradatelní a nečitelní. Bude to ale jen malá privilegovaná elita lidí nové úrovně. Tito nadlidé budou mít zatím nepředstavitelné schopnosti, a to jim umožní rozhodovat o většině důležitých věcí ve světě. Budou systému poskytovat řadu zásadních služeb a systém jim nebude ani rozumět, ani je nebude řídit. Většina lidí ale této úrovně nedosáhne. Stane se z nich nižší kasta ovládaná jak počítačovými algoritmy, tak novými nadlidmi.
Rozdělení lidstva do biologických kast zničí samotné základy liberální ideologie. Liberalismus je slučitelný se socioekonomickou nerovností, a protože dává přednost svobodě nad rovností, vnímá takové rozdíly jako samozřejmost. Předpokládá ale, že všichni lidé mají principiálně stejnou hodnotu a stejně platný hlas. Z liberální perspektivy je zcela v pořádku, že jeden člověk je miliardář a žije v luxusní rezidenci, zatímco někdo jiný je chudý farmář živořící ve slaměné chýši. Z pohledu liberalismu je život farmáře stejně hodnotný jako život miliardáře, proto liberální autoři píší dlouhé romány o chudých lidech - a boháči je nadšeně čtou. Když se zajdete podívat na Broadway nebo do Covent Garden na Bídníky, zjistíte, že dobré místo stojí stovky dolarů nebo liber a obecenstvo jako celek má na účtech miliony. Přesto však sympatizuje s osudem Jeana Valjeana, který strávil devatenáct let ve vězení za krádež bochníku chleba pro hladovějící děti své sestry.
Stejná logika funguje i při volbách, kdy má hlas chudého farmáře stejnou váhu jako hlas milionáře. Liberální ideologie se nesnaží vytvořit stejné podmínky pro všechny. Se sociální nerovností se vyrovnává tím, že různým lidským životům připisuje stejnou váhu. Jak ale toto řešení bude fungovat, až se bohatí a chudí budou lišit nejen majetkem, ale i biologickým ustrojením?
Angelina Jolie se v článku pro The New York Times zmiňuje o vysoké ceně genetického testování. Test, který si dala udělat, stál 3000 dolarů, a to ani nepočítáme cenu následné rekonstrukce prsou a dalších lékařských úkonů. V našem světě přitom jedna miliarda lidí vydělává méně než jeden dolar denně a další 1,5 miliardy lidí vydělává mezi jedním a dvěma
344
345
HOMO DEUS / STRUČNÉ DĚJINY ZÍTŘKA
dolary. I kdyby tvrdě pracovali celý život, genetický test za 3000 dolarů by si nikdy dovolit nemohli.'36' Propast mezi bohatými a chudými se přitom dále zvětšuje. Na počátku roku 2016 mělo 62 nejbohatších lidí na světě jmění, které se rovnalo majetku 3,6 miliard nejchudších lidí, a protože na zemi momentálně žije kolem 7,2 miliardy lidí, znamená to, že dohromady vlastnili tolik, co chudší polovina lidstva.'37'
Genetické testy časem jistě zlevní, ale na trh neustále přicházejí nové drahé lékařské postupy, takže zatímco starší léčba bude postupem času dostupná více lidem, elity budou vždy pár kroků napřed. Během celých dějin měli bohatí lidé řadu sociálních a politických výhod, ale nikdy se od chudých zásadně biologicky nelišili. Středověcí šlechtici sice tvrdili, že jim v žilách koluje modrá krev, a hinduističtí bráhmani byli přesvědčení, že jsou chytřejší než ostatní lidé, ale to byla čistá fikce. V budoucnosti však možná uvidíme, že se mezi vylepšenou horní vtstvou a zbytkem společnosti reálné rozdíly ve fyzických i poznávacích schopnostech opravdu tvoří.
Většina vědců při pohledu na tento scénář odpoví, že i ve 20. století byla velká většina převratných léčiv dostupná jen bohatým lidem v západních zemích, ale dnes se jimi zachraňují životy po celém světě.
Představa, že to podobně bude fungovat i ve 21. století, však může být mylná, a to ze dvou důvodů. Lékařská věda dnes prochází zásadní konceptuálni revolucí. Ve 20. století se soustředila na léčení nemocných, dnes se zaměřuje na vylepšení schopností bohatých lidí. Lékařská péče byla rovnostářský projekt, stála na přesvědčení, že existuje určitý všem dostupný standard tělesného a duševního zdraví. Pokud se někdo dostal pod tuto normu, bylo na doktorech, aby problém vyřešili
KAPI I OL A 9.
VELKÝ ROZVOD
a pomohli danému člověku „být jako ostatní". Vylepšování bohatých lidí je ale elitářský projekt, protože opouští představu univerzálních standardů a snaží se některé lidi zvýhodnit. Člověk si přeje mít vynikající paměť, nadprůměrnou inteligenci a mimořádnou sexuální výkonnost. Pokud se nějaké zlepšení zlevní a rozšíří natolik, že bude běžné, bude považováno za nový standard, který se další generace lékařských procedur bude snažit překonat.
Je docela možné, že chudí lidé budou mít v roce 2070 mnohem lepší lékařskou péči, ale propast dělící je od bohatých bude přesto výrazně větší. Lidé se nesrovnávají s předky, jimž se vedlo hůř, ale se současníky, kterým se daří lépe. Když chudému Američanovi v chudinské čtvrti Detroitu vysvětlíte, že se mu dostává výrazně lepší lékařské péče, než měli jeho praprarodiče před sto lety, náladu mu to nezlepší. Spíš si pomyslí, že jste namyšlený idiot, který se nad něj povyšuje. Řekne si: „Proč bych se měl srovnávat s nějakým nádeníkem z devatenáctého století? Chci žít jako ti bohatí lidé v televizi nebo alespoň jako lidé v bohaté čtvrti." A kdybyste někomu v roce 2070 řekli, že nemajetní lidé mají lepší zdravotní péči než lidé v roce 2017, moc ho to nepotěší, protože se bude srovnávat s vylepšenými nadlidmi, kteří vládnou světu.
Přes veškerý lékařský pokrok si navíc nemůžeme být jisti, že nemajetní lidé budou mít v roce 2070 lepší péči než dnes, protože stát a elity by mohly ztratit zájem o poskytování lékařské péče chudým. Medicína 20. století prospívala masám, protože to bylo století mas. Armády potřebovaly miliony zdravých vojáků a hospodářství stálo na milionech zdravých dělníků. Vlády proto zavedly veřejné zdravotnictví, aby se staralo o zdraví všech. Mezi největší úspěchy patřilo
I 347
HOMO DEUS / STRUČNE DEJINY 7ITRKA
rozšíření hygienických nařízení, plošné očkovaní a potlačení velkých epidemií. V roce 1914 měly japonské elity zájem na vakcinaci chudých, stavění nemocnie a budovaní kanalizace v chudinských čtvttích, protože chtěly, aby Japonci byli silný národ s velkou armádou a výkonným hospodářstvím, a k tomu potřebovaly miliony zdravých vojáků a dělníků.
Období mas ale už možná skončilo a s ním i éra všeobecného zdravotnictví. Vojáci a dělníci ustupují algoritmům a je pravděpodobné, že alespoň některé elity dospějí k názoru, že nemá smysl zlepšovat nebo udržovat zdraví tolika chudáků, ale že bude lepší soustředit se na zdokonalení menšího počtu jedinců na nadprůměrnou úroveň.
Už dnes klesá porodnost v technologicky vyspělých zemích, jako je Japonsko nebo Jižní Korea. Jsou to země, kde se silně investuje do výchovy a vzdělání čím dál tím menšího počtu dětí, od nichž se očekává čím dál tím větší výkon. Jak mohou s Japonskem soutěžit ohromné rozvojové země, jako je Indie nebo Nigérie? Tyto státy se podobají dlouhému vlaku, kde elity ve vozech první třídy mají skvělou zdravotní péči, vzdělání a příjem zcela srovnatelný s nejvyspělejšími státy na světě, zatímco stamiliony řadových občanů, kteří se tísní ve vozech třetí třídy, trpí nejrůznějšími nemocemi, nevzdělaností a chudobou. Co asi indické a nigerijské elity udělají ve století, které právě začíná? Budou investovat do řešení problémů stamilionů chudých lidí, nebo se soustředí na vylepšení pár tisíců boháčů? Na rozdíl od 20. století, kdy elity měly zájem na řešení problémů mas, protože je potřebovaly v armádě a v továrnách, ve 21. století nejlepší (i když bezohledná) strategie diktuje, že by bylo efektivnější vozy třetí třídy odpojit a pustit se rychle vpřed jen s vozy první třídy. Pokud chce
348 |
KAPITOLA 9.
VELKÝ ROZVOD
Brazílie soutěžit s Japonskem, potřebuje pár vynikajících nadlidí mnohem víc než miliony obyčejných zdravých dělníků.
Přežije víra v liberalismus nástup mimořádně fyzicky a intelektuálně nadaných nadlidí? Co by se stalo, pokud by se ukázalo, že tito nadlidé mají podstatně jiné tužby než běžný homo sapiens? Co když nadčloveka bude román o běžných lidských zlodějích nudit a obyčejný člověk nepochopí seriál o milostných zápletkách nadlidí?
Velké humanistické projekty 20. století, jež vedly k ukončení hladomorů, epidemií a válek, se snažily nastolit univerzální standard míru, bohatství a zdraví pro všechny bez výjimky. Nové projekty 21. století, jako je dosažení nesmttelnosti, štěstí a božství, si také činí nárok na to, že budou prospěšné celému lidstvu. Protože se ale snaží standard nejen uchovat, ale i překonat, možná vyústí ve vytvoření nové nadlidské kasty, která se vzdálí od svých liberálních kořenů a k běžným lidem se nebude chovat o nic lépe, než se Evropané v 19. století chovali k Afričanům.
Pokud vědecké objevy a technický pokrok rozdělí lidstvo na masy neužitečných lidí a malou elitu vylepšených nadlidí nebo pokud se vláda nad světem přesune z rukou lidí do rukou vysoce inteligentních algoritmů, liberalismus se zhroutí. Jaká nová náboženství nebo ideologie zaplní vzniklé vakuum a co bude řídit vývoj našich bohům podobných potomků?
349