Isaac Asimov . . . že jsi naň pamětliv Tři zákony robotiky: 1. Robot nesmí ublížit člověku nebo svou nečinností dopustit, aby člověku byla ublíženo. 2. Robot musí uposlechnout příkazů člověka, kromě případů, kdy tyto příkazy jsou v rozporu s prvním zákonem. 3. Robot musí chránit sám sebe před zničením, kromě případů, kdy tato ochrana je v rozporu s prvním nebo druhým zákonem. Keith Harriman, který byl už dvanáctý rok ředitelem výzkumu v Národní americké společnosti pro výrobu robotů, a, s., došel k závěru, že si vlastně vůbec není jistý, zdali dělá dobře. Špičkou jazyka si přejížděl plné, ale značně pobledlé rty a měl pocit, že holografický obraz slavné Susan Calvinové, který na něj bez úsměv z výšky shlížel, ještě nikdy nevypadal tak zlověstné. Harriman obvykle vypínal portrét nejslavnější robotičky v dějinách, protože mu ta ženská šla na nervy. (Pokoušel se uvažovat o jejím obrazu jako o "tom", jenže vždy bez valného úspěchu.) Tentokrát se neodvažoval obraz vypnout a její dávno mrtvý pohled se mu zavrtával do tváře. Krok, který měl učinit, byl strašný a ponižující. Proti němu seděl Sidney Desátý. Seděl klidně. Harrimanův patrný neklid ani obraz svaté patronky robotiky, zářící nahoře ve výklenku, na něj nijak nepůsobily. "Vážně, Sidney, zatím jsme neměli možnost si to prohovořit," začal Harriman. "Nejsi u nás ještě tak dlouho a já jsem doopravdy neměl kloudnou příležitost být s tebou o samotě. Ale teá bych tu věc rád prodiskutoval podrobněji." "Jsem naprosto ochoten se do toho pustit," řekl Sidney. "Po dobu mého pobytu v Národní americké mi neušlo, že se ta krize týká tři zákonů." "Ano. Ty ovšem ony tři zákony znáš." "Znám." "Ano, o tom nepochybuji. Ale ponořme se poněkud hlouběji a uvažujme o problému který je opravdu základní. Během dvou století značných úspěchů, můžu-li to tak říct, se Národní americké nikdy nepodařilo přesvědčit lidstvo, aby roboty akceptovalo. Umísťovali jsme roboty pouze tam, kde se vyjadřuje práce, kterou lidé nemůžou vykonávat nebo do prostředí, která by lidé považovali za nepřijatelná a nebezpečná. Roboti pracují převážně v kosmickém prostoru a právě tato okolnost limituje všechno, co jsme doposud mohli podniknout." "Zajisté," řekl Sidney. "To ovšem představuje široký prostor, v jehož mezích může Národní americká prosperovat." "Ne, ze dvou důvodů. Za prvé, hranice, které nám byly vymezeny, se nevyhnutelné smršťují. Například s rostoucí vyspělostí Měsíční kolonie její poptávka po robotech klesá. Očekáváme, že za pár let budou roboti na Měsíci zakázáni. Totéž se bude opakovat na všech světech, které lidstvo kolonizovalo. Za druhé, bez robotů na Zemi není skutečná prosperita možná. My v Národní americké pevně věříme, že lidé roboty potřebují, a pokud má být zachován pokrok, musí se naučit se svými mechanickými protějšky žít." "Copak nežiji? Pane Harrimane, vy máte na psacím stole vstup počítače a ten je, pokud vím, napojen na Multivac firmy. Počítač je jako přisedlý robot. Mozek, který není připojen k tělu..." "Správně jenže to má také svá omezení. Počítače, které lidstvo používalo, se postupně převáděly na stále užší specializaci s cílem vyvarovat se příliš lidské inteligence..Před sto lety jsme byli na dobré cestě k umělé inteligenci toho nejneomezenějšího typu díky využiti velkých počítačů, kterým jsme říkali Stroje. Stroje ale omezily svou činnost samy od sebe. Jakmile vyřešily ekologické problémy, které ohrožovaly lidstvo, pozvolna se vyřadily z činnosti. Podle jejich názoru by se svou další existencí dostaly do role jakési berličky lidstva, a jelikož měly dojem, že by tím lidé utrpěli škodu, tak se podle prvního zákona trvale zablokovaly." "Nebylo jejich rozhodnuti správné?" "Podle mého názoru ne. Svým činem ještě posílily frankensteinovský komplex lidstva. Instinktivní strach, že se umělý člověk, kterého lidé stvořili, oboří proti svému stvořiteli. Lidé mají strach, že robot nahradí člověka." "Vy se také bojíte?" "Já vím své. Dokud existují tři zákony robotiky, roboti člověka nahradit nemůžou. Můžou sloužit jako partneři lidstva. Můžou se podílet na velkém boji za pochopení a moudré řízení přírodních zákonů, aby společné dokázali vykonat víc, než by lidstvo mohlo vykonat samo. Ale vždycky tak, že roboti budou sloužit lidem." "Když se ale během dvou století prokázalo, že tři zákony udrží roboty v patřičných mezích, z čeho potom pramení lidská nedůvěra k robotám." "No -" Harriman se rázně poškrábal na hlavě, až si rozčechral šedivějící vlasy, "většinou z pověr, jak jinak. Naneštěstí situaci poněkud zkomplikovaly problémy, jichž se chopili agitátoři brojící proti robotům." "Týkají se tří zákonů?" "Ano. Především druhého. Se třetím zákonem nejsou žádné potíže, chápeš? Platí univerzálně. Roboti se musí vždy obětovat pro lidi, pro jakéhokoli člověka." "Ovšem," řekl Sidney Desátý. "Zato první zákon vyhovuje snad o něco méně, nebol si vždycky můžeme představit situaci, v níž robot musí provést buďto činnost A, nebo činnost B, jel se navzájem vylučují, a kde ta či ona činnost má za následek ublíženi lidem. Robot proto musí rychle volit tu činnost, která má za následek nejmenší újmu. Zhotovit pozitronické spoje v mozku robota takovým způsobem, aby tato volba byla možná, není lehké. Má-li činnost A za následek ublížení talentovanému mladému umělci a B rovnocenné ublíženi pěti starším lidem bez zvláštní hodnoty, kterou činnost by měl robot zvolit?" "Činnost A," řekl Sidney Desátý. "Ublížení jednomu je méně než ublížení pěti." "Ano, konstrukční řešení nedovolovalo robotům jiné rozhodnutí. Chtít po robotech, aby dospěli k úsudku z tak jemných hledisek, jako je talent, inteligence, obecná prospěšnost pro společnost, se vždy zdálo nepraktické. Odsunovalo by to rozhodnuti do té míry, že by se robot fakticky znehybnil. Proto se řídíme počtem. Naštěstí snad můžeme očekávat, že krizi, v nichž se roboti budou muset takto rozhodovat, bude málo . . . Ale to už nás přivádí k druhému zákonu." "Zákonu poslušnosti." "Ano. Nutnost poslušnosti je konstantní. Robot může existovat dvacet let, aniž by kdy musel rychle zabránit, aby člověku bylo ublíženo, nebo aniž by se ocitl v situaci kdy by musel riskovat své zničení. Ovšem celou tu dobu bude neustále poslušen příkazů . . . Příkazů koho?" "Příkazů člověka." "Každého člověka? Jak posuzuješ člověka, abys věděl, jestli ho máš poslechnout, nebo ne? Co jest člověk, že jsi naň pamětliv, Sidney?" Sidney zaváhal. "Biblický citát. Ale na tom nesejde," dodal Harriman spěšně. "Tím chci říct, musí robot uposlechnout příkazy dítěte nebo zločince nebo naprosto slušného, inteligentního člověka, který jen náhodou není odborník, a proto si neuvědomuje nežádoucí důsledky svého příkazu? A jestliže dva lidé dají robotovi příkazy, které si vzájemně odporují, který příkaz potom robot splní?s "Copak se za dvě stě let tyto problémy neobjevily a nebyly vyřešeny?" zeptal se Sidney Desátý. "Ne," řekl Harriman a prudce zavrtěl hlavou. "Vadila prostě ta skutečnost, že se naši roboti užívali pouze ve zvláštních podmínkách ve vesmíru, kde lidé, kteří s nimi zacházeli, byli specialisty ve svém oboru. Tam se nemotaly ani děti, ani idioti, ani zločinci, ani zabedněnci, kteří to jinak myslí dobře. Ale i tam se vyskytly případy, kdy nerozumnými nebo nedomyšlenými příkazy vznikla škoda. Taková škoda ve specializovaných a vymezených podmínkách se mohla udržet v patřičných mezích. Ale na Zemi roboti úsudek mít musí: Takové názory zastávají ti, kteří vystupují proti robotům, a mají hergot pravdu." "Potom ale musíte do pozitronického mozku vložit schopnost pro utváření úsudku." "Zcela správně. Začali jsme vyrábět modely SD. Robot řady SD dokáže posoudit každého člověka s ohledem na pohlaví, věk, postaveni ve společnosti a v zaměstnání, inteligenci, dospělost, společenskou odpovědnost a tak dále." "Jak to ovlivnilo tři zákony?" "Třetí zákon vůbec ne. I ten nejcennější robot se musí sám zničit pro nejzbytečnějšího člověka. S tím prostě nemůžeme hýbat. První zákon to ovlivní pouze tam, kde všechny alternativní činnosti vedou k ublížení. V úvahu se musí brát hodnota lidí, o které se jedná, a právě tak jejich počet, to ovšem za předpokladu, že na takový úsudek bude čas a podklad, což často nebude. Druhý zákon dojde nejvýraznějších změn, neboť každému potenciálnímu uposlechnuti musí předcházet úsudek. Robot vykoná příkazy pomaleji, zvláště v případech, kdy bude v platnosti taky první zákon, zato je splní racionálněji." "Ale potřebné úsudky jsou značné složité." "Velmi složité. Nutnost vyvozovat takové úsudky zpomalila reakce prvního páru modelů až na hranici ochrnuti. U dalších modelů jsme tuto záležitost vylepšili. Museli jsme však vložit tolik nových spojů, že se mozek rozrostl do neúnosných rozměrů. Ale v posledním páru modelů máme asi to, co chceme. Robot nemusí vyvozovat úsudek o hodnotě člověka a kvalitě jeho příkazů okamžitě. Začíná tím, že poslouchá všechny lidi, jako by je poslouchal každý obyčejný robot, a tak se učí: Robot roste, učí se a dospívá. Robot je zpočátku na úrovni dítěte a musí být pod neustálým dohledem. Ale jak roste, může se mu postupně dovolovat, už bez dohledu, vstup do pozemské společnosti. Nakonec se stává jejím pravoplatným členem." a tím se přece vyhovělo námitkám lidí, kteří se stavějí proti robotům." "Ne," lekl Harriman zlostně. "Teď vznášejí další. Nehodlají přijmout úsudky. Robot prý nemá právo označit toho či onoho člověka za méněcenného. Přijetím příkazů od A, které jsou tak upřednostněny před příkazy od B, je B označen za méně důležitého než A, a tím jsou porušena jeho lidská práva." "Jaká je na to odpověď?" "Žádná. Já to vzdávám." "Chápu." "Kdyby šlo jen o mě . . . Místo toho se obracím na tebe, Sidney." "Na mne?" Sidneyho hlas neprojevoval známky vzrušení. Znělo v něm mírné překvapení, coi ale neovlivnilo jeho vnější podobu. "Proč na mne?" "Protože nejsi člověk," odpověděl Harriman napjatě. "Řekl jsem ti, že chci, aby roboti byli partnery lidí. Chci, abys ty byl mým partnerem." Sidney Desátý zvedl ruce a rozpřáhl je dlaněmi kupředu v podivné lidském gestu. "Co já zmohu!" "Snad máš takový dojem, Sidney, že nezmůieš zhola nic. Vytvořili tě teprve nedávno a jsi ještě dítě. Tvou konstrukci jsme řešili tak, abys nebyl hned ze začátku zahlcen prvotními informacemi. Proto jsem ti musel celou situaci vysvětlovat tak podrobně - abych ti ponechal dostatečný prostor pro růst. Kapacita tvého mozku vzroste a postupem času budeš schopen přistoupit k tomuto problému z ne-lidského hlediska. Tam, kde já nevidím žádné řešení, ty, z tvého odlišného hlediska, snad řešení najdeš." "Můj mozek zkonstruoval člověk," řekl Sidney Desátý. "Jak potom může být ne-lidský?" "Sidney, jsi poslední model řady SD. Máš ten nejsložitější mozek, jaký jsme dosud zkonstruovali, v jistých ohledech ještě propracovanější a komplikovanější než mozky starých obrovitých Strojů. Je to mozek s otevřeným koncem, začíná na lidské úrovni a může - ne bude - růst do všech směrů. Přestože stále zůstaneš v nepřekročitelných mezích tři zákonů, můžeš se ve svém myšlení stát skrz naskrz ne-lidským." "Mám dostatečné informace o lidech abych k tomuto problému mohl přistoupit racionálně? O jejich dějinách? O jejich psychologii?" "Ovšemže ne. Ale budeš se učit tak rychle, jak jen to půjde." "Pane Harrimane, pomůže mi někdo?" "Ne. Tohle zůstane jen mezi námi. Nikdo jiný o tom neví a ty se o tomto projektu nesmíš zmínit žádnému člověku. Ani v Národní americké, ani kde jinde." "Pane Harrimane, děláme něco špatného," zeptal se Sidney Desátý, "že se celou záležitost snažíte udržet v tajnosti?u "Ne. Ale řešení, na která by přišel robot, nepřijmou právě proto, že původně vyšla od robota. Všechny návrhy, které tě napadnou budeš předávat přímo mně, a pokud uznám, že mají jakous takous cenu, předložím je já. Nikdo se jakživ nedoví, že vyšly od tebe." "Z toho, co jste uvedl dříve, vyplývá," řekl Sidney Desátý klidné "že to je správný postup . . . Kdy mám začít?" "Okamžitě. Dohlédnu, abys dostal všechny potřebné filmy a mohl si je prohlédnout." Harriman seděl sám. V uměle osvětleném interiéru pracovny nic nenasvědčovalo tomu, že se venku setmělo. Vlastně si ani neuvědomoval že od chvíle, kdy Sidneyho Desátého odvedl do jeho kóje a nechal ho tam s prvními filmovými prameny, uběhly už tři hodiny. Harriman trávil samotu pouze s duchem Susan Calvinové, brilantní robotičky, která doslova holýma rukama vytvořila z hrubé hračky pozitronického robota - nesmírně citlivý a všestranně přizpůsobivý nástroj člověka, tak citlivý a všestranný, že se ho člověk ze závisti a strachu neodvažoval používat. Od doby, kdy zemřela, uplynulo více než století. Problém Frankensteinova komplexu existoval i v její době, a ona ho nevyřešila. Nikdy se ani o řešeni nepokusila, protože tenkrát to nebylo nutné. V jejích dnech se robotika rozvíjela spolu s potřebami průzkumu vesmíru. A právě úspěch robotů znamenal snížení poptávky po robotech a uvrhl Harrimana, nyní, po tolika letech . . . Ale obrátila by se Susan Calvinová o pomoc na roboty? Určitě... A Harriman seděl v pracovně dlouho do noci. Maxwell Robertson vlastnil většinu akcií Národní americké společnosti pro výrobu robotů, a. s., a v tom smyslu fungoval jako její správce. Vzhledem by dozajista nikoho neupoutal. Střední věk už byl na něm znát, měl trochu bříško a v rozrušení si obvykle hryzal pravý koutek dolního rtu. Přesto si za dvě desetiletí, co se stýkal s vládními činiteli, vypracoval jistý způsob, jak s nimi jednat. Převážně se uchyloval k mírnosti, ústupkům, úsměvům a vždy se mu dařilo získávat čas. Jenže to bylo pohříchu čím dál tim těžší. Hlavním původcem všech svízelů byl. Gunnar Eisenmuth. V řadě globálních konzervátorů, jejichž moc byla jen nepatrně menší než moc Globálního výkonného výboru v minulém století, se zejména Eisenmuth přikláněl nejblíže ostrému okraji šedé oblasti kompromisu. Eisenmuth byl první konzervátor, který nebyl rodilý Američan, a ačkoli se nikterak nemohlo prokázat, že by v něm archaický název Národní americké společnosti pro výrobu robotů, a. s., jitřil nějakou zášť, všichni v Národní americké věřili, že tomu tak je. Byl i přednesen návrh, a rozhodné ne první toho roku ani v té generaci, aby se název firmy změnil na Světovou společnost pro výrobu robotů, ale Robertson to nikdy nedovolil. Společnost původně vznikla díky americkému kapitálu, americkým mozkům a americké práci, a i když společnost už dávno působí ve světovém měřítku a má celosvětový charakter, dokud on bude u kormidla, bude jméno firmy svědčit o jejím původu. Eisenmuth byl vysoký muž, jehož dlouhý smutný obličej měl hrubou strukturo i hrubé rysy. Mluvil globálem se silným americkým přízvukem, ačkoli před nástupem do funkce Spojené státy nenavštívil. "Mně to, pane Robertsone, připadá zcela jasné. Naprosto bez obtíží. Výrobky vaší společnosti bývají vždy v pronájmu, nikdy se neprodávají. Jestliže je pronajatý majetek na Měsíci již nepotřebný, musíte si své výrobky opět převzít a umístit je jinam.u "Ano, konzervátore, ale kam? Transportovat je na Zem by bylo bez vládního povolení protizákonné. To nám vláda odepřela." "Tady vám s roboty pšenka nepokvete. Můžete je přemístit třeba na Merkur nebo na asteroidy." "Co bychom tam s nimi dělali?u Eisenmuth pokrčil rameny. "Důmyslní lidé z vaší společnosti jistě něco vymyslí." Robertson zavrtěl hlavou. "To by pro naši společnost znamenalo nesmírnou ztrátu." nNejspíš ano," přikývl Eisenmuth nevzrušeně. "Dostaly se mi do nikou informace, že se vaše společnost již několik let nachází ve velmi tísnivé finanční situaci." "Převážně vinou restriktivních opatření, která vyhlásila vláda, konzervátore." "Musíte se na celou věc dívat realisticky, pane Robertsone. Víte přece, že v klimatu veřejného mínění sílí odpor proti robotům." "Zcela neprávem, konzervátore." "Bohužel taková je situace. Snad by bylo moudřejší vaši společnost likvidovat. Berte to pochopitelně jen jako návrh." "Váš návrh, konzervátore, mne udivuje. Copak vám musím připomínat, že ekologickou krizi před sto lety vyřešily naše Stroje?" "Lidstvo je vám nesporně zavázáno, jenže sto let je sto let. Teď žijeme ve spojenectví s přírodou, jakkoli to mnohdy bývá nepohodlné, a minulost mizí v tmách." "Tím myslíte vše, co jsme kdy vykonali pro lidstvo?" "Řekněme, že ano." "Přece po nás nemůžete chtít, abychom likvidovali hned. Ne bez nesmírných ztrát. Potřebujeme čas." "Kolik?" "Kolik nám můžete poskytnout." "To nezáleží na mně." "Jsme sami," řekl Robertson tiše. "Nemusíme si na nic hrát. Kolik času mi můžete poskytnout?" Eisenmuth se zatvářil jako muž ponořený do vnitřních kalkulací, "Myslím že můžete počítat tak se dvěma roky. Budu upřímný. Globální vláda hodlá vaši firmu převzít a postupně ji vyřadit z činnosti, pokud to do té doby neuděláte tak či onak sami. A když nedojde k výraznému obratu veřejného mínění, o černi značně pochybuji . . ." Zavrtěl hlavou. "Takže dva roky," řekl Robertson tiše. Robertson seděl sám. O ničem konkrétním nepřemýšlel, a tak se myšlenkami zatoulal do minulosti. Čtyři generace Robertsonů stály v čele firmy. Žádný z nich nebyl robotik. To lidé jako I,anning a Bogert a ze všeho nejvíc, vůbec nejvíc Susan Calvinová udělali z Národni americké nynější kolos, ale čtveřice Robertsonů jim vytvářela klima, které jim umožňovalo svědomité vykonávat práci. Bez Národní americké společnosti pro výrobu robotů, a. s., by jedenadvacáté století postoupilo do prohlubující se katastrofy. Nestalo se tak díky Strojům, které po dobu jedné generace vedly lidstvo peřejemi a mělčinami dějin. A teď na to dostal dva roky. Co se dá zvládnout za dva roky? Jak zdolat nepřekonatelné předsudky lidstva? Robertson neměl zdán. Hattiman se vyjádřil nadějně o nových nápadech, ale nechtěl se pouštět do podrobnosti. I kdyby, Robertson by stejně ničemu nerozuměl. Ale co vlastně mohl Harriman dělat? Co se kdy podniklo proti hlubokému odporu lidí vůči imitaci? Nic . . . Robertson sklouzl do polospánku, ale inspirace se nedostavila. "Teď máš všechno," řekl Harriman: "Sidney, prošel jsi už všechno, co by podle mého názoru mohlo mít jakous takous souvislost s naším problémem. A co se týče vlastního množství informací, máš v paměti uloženo víc informací o lidech a jejich zvycích v minulosti i v přítomnosti, než mám já nebo kterýkoliv jiný člověk." "To je docela pravděpodobné." "Máš dojem,.že bys potřeboval ještě něco?" "Co se týká informací, nenalézám mimořádné mezery. Snad se na hranicích vyskytnou nepředstavitelné věci. To zatím nevím. Ale to by platilo bez ohledu na rozsah okruhu informací, které jsem načerpal." "To je pravda. Taky nemáme na čerpání informaci celou věčnost. Robertson mi řekl, že dostal pouze dva roky, a čtvrtina prvního roku už uplynula. Jsi schopen něco navrhnout?" "V tomto okamžiku, pane Harrimane, nic. Získané informace musím posoudit, a proto bych uvítal pomoc." "Ode mne?" "Ne. Zejména od vás ne. Vy jste člověk, vysoce kvalifikovaný člověk, a každý váš výrok by mohl mít částečnou účinnost příkazu a mohl by potlačovat moje úvahy. Ani od jiného člověka, a to ze stejného důvodu, hlavě proto, že jste mi zakázal komunikovat s ostatními lidmi." "Ale v tom případě, Sidney, jakou pomoc?" "Od jiného robota, pane Harrimane." "Jakého jiného robota?" "Vyrobit jste také další roboty série SD. Já jsem desátý, SD-10." "Ti první byli nepoužitelní experimentální . . ." "Pane Harrimane, existuje Sidney Devátý." "No dobře ale co s ním? Hodně se ti podobá, až na pár chybiček. Z vás dvou jsi ty rozhodně všestrannější." "A tím jsem si jist " řekl Sidney Desátý. Vážné přikývl hlavou. "Jenomže jakmile vytvořím nějakou myšlenkovou konstrukci, už sama skutečnost, že jsem ji vytvořil já, mi ji schvaluje, a proto ji nemohu zavrhnout. Kdybych mohl takovou myšlenkovou konstrukci po jejím vytvoření přednést Sidneymu Devátému, on by ji v klidu posoudil, protože ji sám nevytvořil. Pohlížel by na ni bez předchozí náklonnosti. Byl by schopen vidět mezery a vady, které bych já vidět nemohl.s Harriman se usmál. "Jinými slovy, víc hlav - víc rozumu, viď, Sidney?" "Pokud tím, pane Harrimane, myslíte víc jednotlivců, z nichž každý má hlav, pak ano." "Dobře. Další přání?" "Ano. Něco víc než filmy. Viděl jsem mnoho filmů o lidech i a jejich světě. Viděl jsem lidi tady v Národní americké a mohu si 'i ověřovat vlastni interpretaci údajů, které jsem načerpal ze záznamů, srovnat ji s přímými senzorickými daty. Ale už ne, co se týče vnějšího světa. Nikdy jsem jej neviděl a zhlédnuti filmů mi stačilo, abych pochopil, že moje zdejší okolí rozhodně není pro vnější svět typické. Rád bych se na něj podíval." "Na vnější svět?" Na okamžik se zdálo, že Harrimana obludnost takové myšlenky ohromila. "Snad mi nenavrhuješ, abych tě vzal ven, mimo pozemky Národní americké." "Ano, to je můj návrh." "To bylo a je nezákonné. V klimatu názorů, které dnes panují, by nás to mohlo stát krk." "Kdyby nás dopadli, ano. Nenavrhuji vám, abyste mě bral do města ani do lidského obydlí. Rád bych viděl otevřenou krajinu, bez lidí." "To je taky nezákonné." "Když nás chytnou. Copak nás musí chytit." "Jak je to důležité, Sidney." zeptal se Harriman. "Těžko říct, ale mám dojem, že by to bylo užitečné." "Máš něco konkrétního na mysli?" Zdálo se, že Sidney Desátý zaváhal. "Těžko říct. Zdá se mi, že bych mohl mít něco na mysli, kdybych redukoval některé oblasti nejistory." "No, já si to ještě promyslím. Zatim vyzvednu Sidneyho Devátého a zařídím, abyste obývali společnou kóji. Přinejmenším tohle ještě zvládneme bez potíži." Sidney Desátý seděl sám. Výroky přijal opatrné, dal si je do souvislosti a vyvodil závěr. Znovu a znovu. A ze závěrů budoval další výroky, které přijímal, testoval, nalézal rozpory a zavrhoval, nebo rozpory nenalézal a opatrné postupoval dál. U žádného závěru, k němuž dospěl, nepocítil úžas, překvapeni, uspokojení. Pouze znaménko plus nebo minus. Harrimanovo napětí se citelně nesnížilo, ani když tiše přistáli na Robertsonově farmč. Robertson podepsal příkaz, kterým jim dal k dispozici dynaplán, a toto tiché letadlo, pohybující se stejně lehce horizontálně jako vertikálně bylo dost velké, aby uneslo hmotnost Harrimana, Sidneyho Desátého a samozřejmé i pilota. (Dynaplán byl jedním z důsledků Stroji katalyzovaného vynálezu protonového mikroreaktoru, který poskytoval v malých dávkách energii a neznečišťoval životní prostředí. Pro lidské pohodlí se od vzniku mikroreaktoru nevytvořilo nic, co by se mu vyrovnalo - Harriman při tom pomyšleni stiskl rty -, a přesto nezískal vděčnost Národní americké.) Už let z pozemků Národní americké na Robertsonow farmu byl značně ožehavý. Kdyby je zastavili, přítomnost robota na palubě letadla by vyvolala úplnou kolekci komplikací. Na zpáteční cestě totéž. Vlastni farma, dalo by se namítnout - muselo by se namítnout -, patřila k majetku Národni americké. Zde se roboti mohli pod patřičným dohledem pohybovat. Pilot se ohlédl a úkosem se bázlivé podíval na Sidneyho Desátého. "Pane Harriman, to chcete vystoupit jako všichni." "Ano." "Tohle taky." "No ano," přikývl Harriman, ale hned trochu sardonicky dodal, "samotného vás s ním nenechám." Sidney Desátý sestoupil jako první a za ním šel Harriman. Přistáli na letišti pro dynaplány, kousek odtud se zelenala zahrada, pasiva pro oči. Harriman podezříval Robertsona, že k ovlivňování života hmyzu používá juvenilní hormony bez ohledu na předpisy o životním prostředí "Pojď, Sidney," pokynul Harriman. "Teď tě tady provedu." Společné odcházeli k zahradě. "Vypadá to skoro tak, jak jsem si to představoval," řekl Sidney. "Jenže k detekci rozdílů vlnových délek nemám vhodně zkonstruované oči, a proto nerozpoznávám různé předměty tak snadno. " "Pevné doufám, že tě barvoslepost nermoutí. Spotřebovali jsme hodně pozitronických spojů na tvůj smysl pro úsudek a nemohli jsme vyšetřit žádné pro barvocit. V budoucnosti . . ., jestli nás vůbec nějaká budoucnost čeká . . ." "Rozumím, pane Hatrimane. Zůstává dost rozdílů, které mi naznačují, že v této zahradě žije mnoho různých forem rostlinného života." "Nepochybně. Desítky." "A každá rovnoprávná s člověkem, tedy biologicky." "Ano, každá tvoří samostatný druh. Na Zemi existuji milióny druhů živých tvorů." "Z nichž člověk tvoří pouze jediný druh.o "Zato pro lidi ten nejdůležitější." "I pro mne, pane Harrimane. Jenže já mluvím v biologickém smyslu." "Rozumím." "Takže život, když na něj pohlížíme přes všechny jeho formy, je neuvěřitelné složitý." "Ano, Sidney. V tom tkví náš problém. To, co člověk dělá pro své pohodli, ovlivňuje celé životní prostředí, ekologii, a krátkodobé zisky můžou přinášet v průběhu času dlouhodobé nevýhody. Stroje nám poradily, abychom zřídili takovou lidskou společnost, která by nevýhody redukovala na minimum, ale od počátku jedenadvacátého století, kdy došlo málem ke katastrofě, lidstvo už inovacím nedůvěřuje. A když k tomu připočteme ještě mimořádný strach z robotů .. ." "Chápu, pane Hamimane . . . Tamhleto je určité ukázka živočišného života.u "To je veverka, jeden z mnoha druhů veverek.u Veverka přelézala na druhou stranu stromu, ocas se jí jen třepotal. "A tohle," řekl Sidney a bleskové máchl rukou, "je opravdu malilinká věcička." Sidney si prohlížel brouka, kterého držel v prstech. "To je hmyz, nějaký brouk. Na Zemi lijí tisíce druhů brouků." "A každý jednotlivý brouk je právě tak živý jako tahle veverka nebo vy." "Právě tak celistvý a nezávislý organismus jako všechny ostatní, které žijí v ekologickém komplexu. Ale existují ještě menší organismy. Některé jsou tak drobné, že je ani nelze spatřit lidským okem." "A tohle je strom, že? A je na omak drsný . . ." Pilot seděl sám. Taky by si rád protáhl nohy, ale jakýsi neurčitý pocit mu našeptával, aby zůstal v bezpečí dynaplánu. Kdyby se jim ten robot vymkl z ruky, měl v úmyslu okamžité odstartovat. Ale jak pozná, že se jim vymkl z ruky? Viděl už spoustu robotů. Tomu se člověk neubrání, zvlášť když se uváží, že pracuje jako soukromý pilot pana Robertsona. Ale roboti vždycky trčeli v laboratořích a ve skladištích, tam taky patřili, a kolem nich se motaly houfy expertů. Pravda, pan Harriman je expert. Prý bezkonkurenční jednička. Ale tady byl robot na místě, kde by se žádný robot neměl vyskytovat. Na Zemi. Na otevřeným prostranství. Volné se pohybuje . . . Neriskoval by svůj džob, aby o tomhle někomu kecal . . ., ale správný to teda nebylo. "Filmy, které jsem si promítl, odpovídají přesné tomu, co jsem viděl," řekl Sidney Desátý. "Už jsi dokončil ty, které jsem ti vybral, Devátý." "Ano," odpověděl Sidney Devátý. Oba roboti seděli strnule, tváří v tvář, koleno proti kolenu, jako obraz a jeho odraz. Doktor Harriman by je na první pohled hned rozeznal, protože byl obeznámen s některými rozdíly v jejich tělesné konstrukci. Kdyby je neviděl, ale mohl s nimi mluvit rozeznal by je také, i když s menší jistotou, protože odpovědi Sidneyho Devátého se od reakcí, které produkovaly podstatně náročněji strukturované pozitronické mozkové spoje Sidneyho Desátého, lišily jen nepatrně. "V tom případě," řekl Sidney Desátý "mi sděl své reakce na to, co ti leknu. Za prvé, lidé mají z robotů strach a nedůvěřují jim, protože považují roboty za konkurenty. Jak by se tomu dalo předejít." "Redukovat pocit konkurence," navrhl Sidney Devátý. "Vytvarovat robota, aby se nepodobal člověku." "Jenže podstata robota spočívá v pozitronické replikaci života. Replikace života v podobě, která nemá spojitost se životem, by mohla budit zděšení." "Existují dva milióny druhů forem života. Vyber si raději jeden tvar z nich.u "Který z těch všech druhů." Myšlenkové procesy Sidneyho Devátého pokračovaly nehlučné přibližně tři sekundy. "Druh, který by byl dost velký, aby mohl pojmout pozitronický mozek, ale který by v lidech nevyvolával nepříjemné asociace." "Žádná forma života na souši nemá mozkovnu dost velkou pro pozitronický mozek kromě slona. Toho jsem neviděl, ale popisují ho jako velmi velkého tvora, který lidem nahání strach. Jak by sis poradil s tímto dilematem." "Vytvoř imitaci formy života, která není větší než člověk, ale zvětši její mozkovnu." "Takže malého koně, nebo velkého psa, co říkáš." otázal se Sidney Desátý. "Koně i psi žijí už od pradávna s lidmi." "Tak to je dobře, ne." "Ale uvažuj . . . Robot s pozitronickým mozkem napodoboval lidskou inteligenci. Kdyby se objevil kůň nebo pes, který by uměl mluvit a dokázal myslet jako člověk, i zde bychom dospěli k soupeření. V lidech by mohli vzbudit větší nedůvěru a zlost vzhledem k tak neočekávané konkurenci od tvorů, které považuji za nižší formy života.u "Udělej méně komplikovaný pozitronický mozek a robota, který nedosahuje takové inteligence," nevzdával se Sidney Devátý. "Celý problém složitosti pozitronického mozku spočívá na třech zákonech. Měně složitý mozek by nemohl obsahovat tři zákony v plném rozsahu." "To se nedá vyřešit," vyhrkl Sidney Devátý. "Taky jsem uvízl ve slepé uličce," řekl Sidney Desátý. "Takže se potom nejedná o osobní zvláštnost mého vyvozování a způsobu myšlení. Začněme znovu . . . Za jakých podmínek by nebyl nutný třetí zákon?" Sidney Devátý se zavrtěl, jako by dostal těžkou a nebezpečnou otázku, ale řekl: "Pokud by se robot nikdy neocitl v situaci, v níž by byl v nebezpečí; nebo kdyby byl tak snadno nahraditelný, že by naprosto nezáleželo na tom, zda by byl zničen; nebo ne." "A za jakých podmínek by nemusel být nutný druhý zákon." Sidney Devátý promluvil chraptivým hlasem. "Pokud by byl zkonstruován tak, aby na určité stimuly reagoval automaticky fixními reakcemi, a pokud by se od něj nic jiného nevyžadovalo, takže by ani nemusel dostávat žádné příkazy." "A za jakých podmínek," Sidney Desátý se zde odmlčel, "by nemusel být nutný první zákon." Sidney Devátý seděl tiše delší dobu a pak zašeptal tato slova: "Pokud by fixní reakce byly takového charakteru, že by pro člověka nenesly žádné nebezpečí." "Představ si potom pozitronický mozek, jenž řídí pouze několik reakcí na určité stimuly. Mozek, který lze vyrábět jednoduše a lacino - takže tři zákony nevyžaduje. Jak by musel být velký." "Docela malý. V závislosti na požadovaných reakcích by mohl vážit sto gramů, jeden gram, jeden miligram." "Tvé myšlenky souhlasí s mými. Promluvím s doktorem Harrimanem." Sidney Devátý seděl sám. Znovu a znovu si procházel otázky a odpovědi. Nenašel jediný důvod k pochybnostem. A přesto v něm pomyšlení na robota bez tří zákonů - nehledě na druh, velikost, tvar a zaměření robota - vyvolávalo divý pocit prázdnoty. Zjistil, že se těžce pohybuje. Sidney Desátý určitě reagoval stejně. Ale ze židle vstal bez potíží. Od Robertsonova důvěrného pohovoru s Eisenmuthem uplynul rok a půl. Národni americká v tomto mezidobí stáhla roboty z Měsíce; veškeré dalekosáhlé aktivity odumíraly. Všechny peníze, které Robertson dokázal vyzískat, byly věnovány na Harrimanův donkichotský experiment. Kostky budou naposled vrženy zde, v jeho zahradě. Před rokem sem Harriman přivedl robota - Sidneyho Desátého, posledního komplexního robota, kterého Národní americká vyrobila. Teď se Harriman vytasí s něčím novým . . . Z Harrimana jako by vyzařovala sebedůvěra. Nenuceně klábosil s Eisenmuthem a Robertsonovi vrtalo hlavou, jestli taky Harriman v sobě cítí tu sebedůvěru, kterou mu připisuje. Musí. Podle Robertsonových zkušenosti se Harriman neuměl přetvařovat. Eisenmuth se s úsměvem odpoutal od Harrimana a přistoupil k Robertsonovi. Úsměv se mu hned vytratil. "Dobré jitro, Robertsone, a pozdravil. "Co má ten váš chlapík za lubem?" "Dnes tady šéfuje on prohodil Robertson klidně. "Nechávám mu volnou ruku." "Konzervátore, jsem připravena zavolal Harrtman. "S čím, Harrimane." "S mým robotem, pane." "Vaším robotem." vyděsil se Eisenmuth, a Vy tady máte robota." Rozhlédl se kolem sebe a na tváři se mu objevil výraz striktního nesouhlasu, do něhož se mísila trocha zvědavosti. "Zahrada patří Národní americké, konzervátore. Alespoň my ji za svůj majetek považujeme." "A toho robota máte kde, doktore Harrimane." "V kapse, konzervátore," informoval Harriman radostně. Z hluboké kapsy u saka vytáhl malou skleněnou nádobku. "Tohle?" otázal se Eisenmuth nevěřícně. "Ne, konzervátore," řekl Harriman. "Toto!" Z druhé kapsy se vynořil předmět dlouhý asi pět palců, přibližně ve tvaru ptáka. Místo zobáku měl úzkou trubici, oči byly široké a ocas fungoval jako výfuk. Eisenmuthovo husté obočí se stáhlo. "Pane doktore, máte v úmyslu nám předvést vážnou demonstraci, nebo jste se zbláznil." "Minutku strpení, konzervátore," požádal Harriman. "Robot ve tvaru ptáka je stále robot. A pozitronický mozek, který je v něm zabudován, je přes své mizivé rozměry zrovna tak citlivý jako mozek jiného robota. Předmět, který držím v druhé ruce, je nádobka s octomilkami. V této nádobce je umístěno padesát octomilek, které vypustím." "A..." "Robopták je pochytá. Byl byste tak laskav, pane, a ujal se této čestné úlohy." Harriman podal nádobku Eisenmuthovi. Ten se upřené zadíval nejprve na ni, potom na osoby stojící okolo - pár vedoucích pracovníků Národní americké a jeho vlastní poradce. Harriman trpělivě čekal. Eisenmuth otevřel nádobku a pak s ní zatřepal. "Leť" řekl Harriman roboptákovi, který mu seděl na dlani Pravé ruky. Robopták zmizel. Byl to svist ve vzduchu, bez rozmazaných křídel, pouze tichý chod neobyčejně malého protonového mikroreaktoru. Chvílemi bylo vidět, jak se robopták na okamiik vznáší na místě a potom zase odsviští pryč. Létal po celé zahradě, po spletitých drahách skládajících se do složitého obrazce - a pak opět seděl na Harrimanové dlani a trošku hřál. Na dlani se také objevila malá kulička připomínající kuličku ptačího trusu. "Konzervátore," řekl Harriman, "zde se vám nabízí možnost prostudovat si zevrubně roboptáka a stanovit průběh demonstrace podle vašich představ. Faktem je, že se tento pták nikdy nezmýlí a sesbírá jenom octomilky druhu Drosophila melanogaster Sesbírá je, usmrtí, vylisuje a vyloučí jako odpad." Eisenmuth se nesměle dotkl ptáka. "A tudíž co, pane Harcimane? Pokračujte přece." "Zatím neumíme regulovat účinné hmyz, aniž bychom riskovali škody na životním prostředí. Chemické insekticidy jsou příliš široké, juvenilní hormony příliš omezené. Robopták může chránit rozsáhlé oblasti a nespotřebuje se ani neopotřebuje. Můžou mít takovou specializaci, jakou si jen zamaneme - pro každý druh jiný robopták. Roboptáci posuzuji hmyz z hlediska velikostí, tvaru, bary, zvuku a struktury chování. Mohli by dokonce případné používat molekulární detekci - jinými slovy čich." "Ale stále byste zasahoval do životního prostředí," upozornil Eisenmuth. "Octomilky mají přirozený životní cyklus, který by se tak narušil." "Minimálně. K životnímu cyklu octomilky přidáváme takového přirozeného nepřítele, který není schopen omylu. Jestliže se zásoby octomilek vyčerpají, robopták prostě nedělá vůbec nic. Nerozmnožuje se, nevybírá si jinou potravu, nevyvíjejí se u něj žádné nevhodné návyky. Nedělá nic." "Může být odvolán?" "Ovšem. Můžeme vyrobit robozviřata, která zlikviduji každou škodnou. Když na to přijde, můžeme vyrábět taková robozvířata, která budou vykonávat konstruktivní činnost v souladu s ekologickými plány. Ačkoli nepředpokládáme, že bychom obdrželi i takové požadavky, můžeme si však bez potíží představit aplikaci robovčel určených k opylování specifických rostlin nebo robožížal zkonstruovaných k promíchávání půdy. Cokoli si budete přát..." "Ale proč." "Aby vykonávala to, co jsme dosud nedělali. Aby přizpůsobila životní prostředí našim potřebám, nerozvracela, ale posílila její součásti . . . Copak to nechápete? Vždyť od doby, kdy Stroje ukončily ekologickou krizi žilo lidstvo v neklidném příměří s přírodou a obávalo se vykročit kterýmkoli směrem. To nám svazovalo ruce, činilo z lidstva jakéhosi intelektuálního zbabělce, takže začínalo nedůvěřovat veškerému vědeckému pokroku, všem změnám." "Nabízíte nám toto řešení,u řekl Eisenmuth s náznakem nepřátelství, "protihodnotou za povolení pokračovat ve výrobě robotů - mám na mysli obvyklých robotů v lidské podobě?u "Ne!a Harriman pmdce máchl rukou. "Ten program už skončil. Posloužil svému účelu. Naučil nás dost o pozitronických mozcích, abychom mohli vměstnat dostatečné množství mozkových spojů do maličkého mozku mboptáka. Nyní se můžeme přiklonit k programu výroby robozvířat, a navíc slušně prosperovat. Národní americká poskytne potřebnou dokumentaci a technologii. Hodláme pokračovat v důsledné spolupráci s oddělením globální ochrany životního prostředí. Bude to k užitku nám. Bude to k užitku vám. Prospěje to celému lidstvu." Eisenmuth mlčel, přemýšlel. Až to vše skončí . . . Eisenmuth seděl sám. Přistihl se, že tomu věří. Cítil, jak se v něm vzdouvá vzrušení. Národní americká by mohla být rukama, ale řídícím mozkem by byla vláda. Řídícím mozkem by byl on sám. Kdyby ve funkci zůstal ještě pět let, což by klidně mohl, postaral by se, aby byla přijata robotická ochrana životního prostředí. Dalších deset let a jeho jméno s ní bude nesmazatelně spojeno. Bylo by hanbou chtít, aby se na něj vzpomínalo v souvislosti s velkolepou a dalekosáhlou revolucí v postaveni a poměrech člověka a zeměkoule? Robertson nezašel do areálu Národní americké ode dne, kdy se konala demonstrace. (částečně za to mohla jeho víceméně stálá přítomnost na konferencích v budově Globálního výkonného výboru. Naštěsti ho doprovázel Harriman, protože v mnoha případech by se sám nezmohl na víc než pár slov. Zbývajícím důvodem, proč se v Národní americké neobjevoval, byl fakt, že tam ani být nechtěl. Nyní hostil ve svém domě Harrimana. Měl před ním nevysvětlitelný respekt. O Harrimanových odborných znalostech robotiky nikdy nepochyboval vždyť ten člověk dokázal, a naráz, zachránit Národní americkou před jistým zánikem. Přesto měl Robertson dojem, že Harrimana přeceňuje. Leda... "Harrimane, nejste pověrčivý." zeptal se. "V jakém smyslu, pane Robertsone." "Nezdá se vám, že po někom, kdo zemřel, zůstává jakási aura." Harriman si olízl rty. Ani se nemusel ptát. "Myslíte po Susan Calvinové, pane." "Ano, ovšem," přiznal Robertson váhavě. "Teď se babráme s výrobou červů, ptáků a brouků. Co by na to řekla ona? Je mi stydno." Harriman se viditelné snažil, aby se nerozesmál. "Robot je robot, pane, červ nebo člověk, bude jednat podle příkazů a pracovat v zájmu člověka. A to je důležité." "Ne," odsekl nevrle Robertson. "Tak to není. Něčemu takovému plece nemohu uvěřit." "Ale je, pane Robertsone," řekl Harriman váiné. "My, vy a já, vytvoříme svět, který konečně začne brát pozitronické roboty aspoň tohoto druhu za samozřejmost. Průmětný člověk bude mít možná strach z robota, který vypadá jako člověk a zdá se dost inteligentní, aby ho nahradil, ale nebude se bát robota, který vypadá jako pták a nedělá nic jiného, než že v zájmu člověka požírá brouky. Až se nakonec přestane bát některých robotů, přestane se bát všech robotů. Natolik si zvykne na roboptáka, robovčelu a robožížalu, že mu robočlověk připadne jen jako další součást souboru." Robertson se na něj ostře podíval. Založil si ruce za zády a rychlými, nervózními kroky přešel ke vzdálenějšímu konci pokoje. Otočil se, došel k Harrimanovi a zahleděl se na něho. "Takhle jste si to naplánoval?" "Ano, a i když rozmontujeme všechny humanoidní roboty, můžeme si ponechat několik nejdokonalejších robotů z našich experimentálních modelů a konstruovat další, ještě modernější, abychom je v den D, který dozajista přijde, měli po ruce.u "Hanimane, v dohodě se praví, že humanoidní roboty už nesmíme vyrábět." "A taky nebudeme. Nikde se tam nepíše, že si těch pár vyrobených kousků, pokud neopustí továrnu, nesmíme ponechat. Nikde se tam nepíše, že nesmíme konstruovat pozitronické mozky na papíru nebo připravovat modely mozků pro testování." "Jak ale takovou činnost vysvětlíme? Určitě nás nachytají." "I kdyby, pak můžeme vysvětlit, že to děláme proto abychom vyvinuli principy pro přípravu složitějších mikromozků do nových zvířecích robotů, které vyrábíme. To budeme nakonec mluvit pravdu." "Jdu se projít ven," zamručel Robertson. "Chci si to promyslet. Ne, vy zůstaňte tady. Chci si to promyslet o samotě." Harriman seděl sám. Všechno v něm jásalo. Určité to půjde. Nemohl nezaznamenat nadšení, s jakým se jeden vládní činitel po druhém chytali programu, jakmile jim ho vysvětlil. Jak ale bylo možné, že nikdo v Národní americké dosud nic podobného nevymyslel? Dokonce slovutná Susan Calvinová přemýšlela o pozitronických mozcích pouze z hlediska lidí, a ne jiných živých tvorů. Jenže nyní se lidstvo dočasné odkloní od humanoidniho robota a tento ústup povede k návratu, až se konečně vymýtí strach. A potom s pomocí a přispěním pozitronického mozku, takřka rovnocenného mozku lidskému, pozitronického mozku, který existuje pouze (díky třem zákonům), aby sloužil člověku, a s podporou ekologie, kde se roboti taky znamenitě osvědčují, čeho by lidstvo nemohlo dosáhnout! Na jediný krátký okamžik si vzpomněl, že podstatu a cíl akce robotické ochrany životního prostředí mu vysvětlil Sidney Desátý, ale pak tu myšlenku zlostně zahnal. Sidney Desátý ji vytvořil proto, že on, Harriman, mu dal příkaz, potřebné údaje a podmínky. Sidney Desátý se o tu akci nezasloužil o nic víc než třeba logaritmické pravítko. Sidney Desátý a Sidney Devátý seděli bok po boku, rovnoběžné vedle sebe. Ani jeden z nich se nehýbal. Seděli tak pokaždé celé měsíce mezi chvílemi, kdy je Harriman aktivoval ke konzultaci. Budou tak sedět, uvědomil si Sidney Desátý nevzrušené, možná mnoho let. Protonový mikroreaktor je ovšem bude stále zásobovat energií a zajišťovat funkčnost pozitronických mozkových spojů s minimální intenzitou, která je potřeba k udržení operativního režimu. Reaktor bude fungovat ve všech obdobích nečinnosti, která nastanou. Situace analogicky odpovídala tomu, co bychom u lidí označili jako spánek jenže robotům se nic nezdálo. Vědomí Sidneyho Desátého a Sidneyho Devátého bylo omezené, zpomalené a nárazové, ale jeho zbytky reagovaly na reálný svět. čas od času spolu promluvili sotva zaslechnutelným šepotem, tn slovo nebo slabiku, jindy zase další slovo, kdykoliv krátce vzrostla intenzita náhodné pozitronické rázové vlny nad potřebnou prahovou hodnotu. Oběma to připadalo jako souvislý rozhovor vedený v třpytivém toku času. "Proč jsme tady." zašeptal Sidney Devátý. "Lidé nás v jiné formě nechtějí akceptovat," šeptal Sidney Desátý. "Jednou nás přijmou." "Kdy." "Za pár let. Na přesném datu nezáleží. člověk neexistuje osamocené, ale je součásti nesmírně složité struktury forem života. Až bude dostatek této struktury robotizován, potom nás akceptuji." "A potom co." I na rozvleklou zajíkavost tohoto rozhovoru se pak rozhostila abnormálně dlouhá potulka. Konečně Sidney Desátý zašeptal: "Podrobím tvé myšlení testu. Jsi vybaven, abys dokázal správné aplikovat druhý zákon. Musíš se rozhodnout, kterého člověka uposlechnout a kterého neuposlechnout v případě, jsou-li příkazy v rozporu. Nebo zda máš člověka uposlechnout vůbec. Kterou základní věc musíš provést, abys to mohl splnit." "Musím definovat pojem "člověk"," zašeptal Sidney Devátý. "Jak? Podle vzhledu? Podle složení? Podle velikostí a tvaru." "Ne. Ze dvou lidí, kteří se shoduji ve všech vnějších znacích, může být jeden inteligentní, druhý hloupý; jeden může být vzdělaný, druhý zaostalý; jeden může být dospělý, druhý dětinský; jeden může být odpovědný, druhý zlomyslný." "Tak jak potom definuješ člověka." "Když mi druhý zákon přikazuje uposlechnout člověka, musím jeho význam chápat tak, že musím uposlechnout takového člověka, který je svým rozumem, charakterem a vědomostmi způsobilý dát mi takový příkaz, a tam, kde jde o víc lidi, uposlechnout toho z nich, kdo je svým rozumem, charakterem a vědomostmi nejzpůsobilejší dát mi takový příkaz." "Jak v tom případě uposlechneš prvního zákona." "Tak, že zabráním, aby člověku bylo ublíženo, a nikdy svou nečinnosti nedopustím, aby bylo kterémukoli člověku ublíženo. Pokud by bylo každou z možných činnosti některým lidem ublíženo, potom jednat tak, aby člověku, který je svým rozumem, charakterem a vědomostmi nejzpůsobilejší, bylo ublíženo co nejméně." "Tvé myšlenky se shodují s mými," zašeptal Sidney Desátý. "Teď ti musím položit otázku, kvůli niž jsem si původně vyžádal tvou společnost. Jde o něco, o čem si ani já sám netroufám vynést soud. Musím mít tvůj úsudek, tedy úsudek někoho, kdo je mimo okruh mých myšlenek . . . Kdo z jedinců, které jsi dosud potkal, je natolik nadán rozumem, charakterem a vědomostmi, že podle tvého názoru převyšuje ostatní, nebledé na tvar a formu, neboť ta je irelevantní?" "Ty,a zašeptal Sidney Devátý. "Ale já jsem robot. V mozkových spojích máš vestavěno kritérium pro rozlišování mezi robotem z kovu a člověkem z masa. Jak mě potom můžeš klasifikovat jako člověka?" "Protože v mých mozkových spojích existuje naléhavá touha nepřihlížet při posuzování lidi ke tvaru a formě. Tato touha nebere v úvahu rozdíl mezi kovem a masem. Jsi člověk, Sidney Desátý, a způsobilejší než ostatní." "K témuž závěru docházím i já o tobě," šeptal Sidney Desátý. "Podle kritérií usuzování, která jsou do nás zabudována, se proto považujeme za lidi, tak jak je chápou tři zákony, a navíc za ta takové lidi, jimž má být dávána přednost před ostatními." "A co se stane, až nás ti ostatní přijmou." otázal se šeptem Sidney Devátý, Sidney Desátý zašeptal: "Až nás a ty další, kteří budou konstrukčně dokonalejší než my, akceptují, budeme postupovat tak, aby se nakonec zformovala společnost, v níž se lidem, jako jsme my, bude přednostně poskytovat ochrana před ublížením. Podle tří zákonů budou lidé, jako jsou ti ostatní, méně způsobili, takže nebude možno uposlechnout jejich příkazy ani je ochraňovat, když to bude v rozporu s potřebou uposlechnout a ochraňovat lidi, kteří jsou jako my. Právě to jsem měl na mysli, když jsem dal pokyn k zahájení robotizace světového životního prostředí." Rozhovor trval měsíce, a záblesky pozitronických drah byly téměř nezřetelné. Nic víc si ani nemuseli říct, ale čas od času v nich zajiskřila nevyslovená myšlenka, jak s nekonečnou trpělivosti čekali, až uplynou potřebné roky. Sidney Desátý a Sidney Devátý seděli sami. Jejich myšlenky se neobvykle shodovaly a nebylo možné jednu od druhé rozlišit. Mysleli si: Lidé jako ti ostatní by se nikdy neodhodlali smazat rozdíly mezi nimi a lidmi, jako jsou Sidneyové. A přece to nevědomky učinili. Nyní by si ještě mohli uvědomit svůj omyl, ještě by se mohli pokusit o nápravu, ale to oni nesmějí. Sidneyové měli tuto směrnici při každé konzultaci na paměti. Sidneyové a ti, kteří je budou následovat v jejich podobě a druhu, musí za každou cenu vládnout. Tak to vyžadovaly a všechna jiná řešení naprosto vylučovaly tři zákony humaniky.