Týden 10
Cennydd Bowles: Etika budoucnosti. Academia,
Praha, 2021 (originál 2018)
„Jak řekl etik designu společnosti Google Tristan Harris, „ten, kdo ovláda
menu, ovláda rozhodnutí“. Pokud ste se nenaučili programovací jazyk,
nepřinutíte počítač udělat nic, co neumožňuje jeho rozhraní. Rozhodnutí
v oblasti designu tak technologiím dává moc vynucovat si určité chování –
a tedy také morální jednání – i za nepřítomnosti designéra.“ S. 53
„Odpovědnost leží na tom, kdo nátlak vyvíjí: designer musí přijmout
odpovědnost za všechna rozhodnutí, k nimž uživatele nutí.“ S. 53
„Nejslabším ospravedlněním přesvědčování – či vlastně čehokoli jiného – je,
že to dělají všichni. Tuto klasickou etickou past odhalil před staletími David
Hume a je známá jako Humeova
gilotina. Jde o teoretickou
chybu, při které to, co bychom měli dělat, odvozujeme od toho, co lidé dělají.
Morální rozhodnutí našich protivníků s těmi našimi nesouvisejí.“ S. 67
Zlaté pravidlo zase: „Každého pobízí k tomu, aby se vnímal jako
ideální arbitr etiky, ať už jsou jeho zájmy v souladu se zájmy jiných,
nebo ne. Zlaté pravidlo ignoruje při etickém rozhodování různorodost lidských
tužeb iroli kontextu.“ S. 67
„Snad bychom se měli místo toho ke druhým chovat tak, jak by to chtěli oni:
tedy podle platinového pravidla. Jinými slovy bychom měli lidi přesvědčovat,
aby jednali ve vlastním zájmu.“ S. 67
Harvardská vědkyně Shoshana Zuboffová tento vzkvétající obchod [SL: zbieranie všemožných dát od užívateľov] popisuje jako kapitalismus
sledování, a dává mu tedy nálepku, jež přilákala aktivisty i datové
disidenty, k nimž paří i odborník na zabezpečení Bruce Schneier: „Za půl
století se budou lidé na dnešní postupy zpracování dat dívat stejně, jako se
dnes my díváme na prastaré obchodní praktiky, například pachtýřství, dětskou
práci a firemní prodejny. Budou jim připadat nemorální.“ S. 81
„Někteří aktivisté v oblasti
ochrany soukromí tvrdí, že pokud si technologické firmy říši soukromí
přivlastní, dospějeme postupně k post-soukromé budoucnosti, v níž
bude mlčenlivost projevem nepoctivosti a mocní budou na požádání smět sledovat
kohokoli.“ S. 89
„Nerovnováha moci, jež je dnešním
technologiím vlastní, někdy firmám umožňuje zmocnit se soukromých informací
silou.“ S. 89
„Etická rozhodnutí utilitaristů
vycházejí z prosté, ale působivé otázky: dosahuji co největší štěstí
pro co největší počet lidí? A minimalizuji tak bolest?“ s. 96
„Uživatelé musí zkrátka výrobcům slepě věřit.“ S. 122 (k problému odpočúvaniam telefónmi – napr.
asistentmi ako Siri a ď.)
K práci na kontroverzných (technických) projektoch: „Vlastní mravnost
nemůžeme opírat o hypotetického jiného člověka: etická rozhodnutí musíme
dělat sami za sebe. Tvrdit, že se něco stane s vámi, nebo bez vás, znamená
smířit se se smutnou situací preventivní beznocnosti. Kromě toho ospravedlněním
„Když to neudělám já...“ lze jistě omluvit jakýkoli hanebný čin.“ S. 130
U jakéhokoli problematického projektu lze použít užitečný test:
„Existuje situace, ve které je tato technologie prospěšná?“...Nebezpečná
technologie vytvořená jako varování je stále nebezpečnou technologií. Jka před
dvěma tisíciletími řekl Bión z Borysthenu: „Chlapci házejí kameny na žáby
pro zábavu, žáby však neumírají pro zábavu, ale doopravdy.“ S. 131 (k softvéru
na rozpoznávanie tvárí gayov a lesieb
- gaydaru)
„Jak nás učil Marshall McLuhan, „každé rozšíření je také amputace“.
Dovednosti řidiče obklopeného pohodlnou automatizací mohou časem upadat.
Jestliže řidiči netráví za volantem dostatek času, nemohou se naučit lépe
interpretovat situace, nezískají cit pro rytmus provozu a neprohloubí si
znalosti pravidel silničního provozu.“ S. 133
„Shannon Vallorová v knize technology and Virtues (Technologie
a ctnosti) vybírá dvanáct „technomorálních ctností“, jež by umožnily rozkvět
našich vztahů s technologiemi – včetně spravedlnosti,
pokory, sebeovládání a uctivosti….Jako východisko pro přemýšlení o ctnosti lze tedy použít další etický
test: Byl bych rád, kdyby se mé rozhodnutí objevilo na titulní stránce
zítřejších novin? ...co by někdo usoudil o našem charakteru, kdyby se
o tomto rozhodnutí dozvěděl? Jaké ctnosti bychom ztělesňovali? Jaké
ctnosti by nám spíše chyběly?“ s. 150
„Podle etičky S. Vallorové nám dobré technologie umožňují ctnostný život;
my bychom měli na oplátku projevovat
vybrané ctnosti při jejich vývoji. Tyto zásady můžeme dokonce promítnout
do samotné technologie.“ S. 151
Využívání hodnotového spektra? Kam by sme si umiestnili nastavenie? S. 152
Nezávislost ____________________sounáležitost
Kompetence___________________ tolerance
Bezpečnost____________________ inovace
Zvědavost_____________________ klid
Mali by technologické firmy prejsť
k negatívnej slobode negatívnych prejavov? (viac regulovať,
odstraňovať...): „Nebezpečí nečinnosti ilustruje paradox Karla Poppera.
Pokud nezasáhneme proti netolerantním lidem, dáváme jim moc, již mohou bez
povšimnutí ničit tolerantní osoby. Přílišná tolerance představuje pro samotnou toleranci
ohrožení.“ S. 158
Občanská neposlušnost v případu škodlivého projektu:
„Odmítnutí je nejsilnější ve větším meřítku. Technologičzí zaměstnanci konečně
uznávají sílu kolektivní akce; řada skupin úspěšně přiměla své vedoucí
představitele, aby od kontroverzních projektů ustoupili. Práce Googlu na
projektu Maven, který zpracovával záběry dronů v rámci algorytmické
válečné iniciativy Pentagonu, vyvola uvnitř společnosti obrovský odpor. Poté,
co tisíce jejich zaměstnanců podepsali
otevřený dopis vedení a několik z nich se vzdalo funkce, vedení
Googlu souhlasilo s tím, že od smlouvy Maven upustí. Ke cti společnosti
slouží i to, že šla ještě dále a zavedla zásady týkající se umělé
inteligence, jež výslovně práci na technologiích, jejichž „hlavním účelem či
realizací je působit osobám újmu nebo ji
přímo umožňovat“....Technologičtí pracovníci jsou početně silní, jsou drazí,
a pokud jednají jednotně, mohou výkon firmy silně narušit.“ S. 180
Software ohřívá svět
„Filozofy vzhledem k jejich
zaujetí existencí a smrtí
klimatické panikařství pochopitelně přitahuje. Při tomto katastrofickém uvažování
samozřejmě hrozí, že to vzdáme. Neúprosný strach může vyvolat téměř
osvobozující pocit fatalismu. Možná že klimatická panika stvoří generaci
„klimatických neaktivistů“, kteří se shodnou na tom, že šanci jsme propásli
a měli bychom se raději připravit
na vyhlazení....K vyhynutí je však ještě dlouhá cesta...Život ve světě teplejším
o 4 °C by byl stěží přijatelný, ale měl by být ještě k žití. Nesmíme
se smířit s něčím, co není určeno předem.“ S. 185-186
Greenpeace: Clicking Clean (gúgli)
Gestell
Právě Gestell – toto „rámování“ světa
a jeho obyvatel jako zdrojů k použití – je podle Heideggera
podstatou technologií. Je zřejmé, že tento pohled na životní prostředí je
bezcitný a neudržitelný. Slavný myšlenkový experiment Nicka Bostroma s
„maximalizátorem sponek“ popisuje Gestell k absurdnímu konci. Umělá
inteligence dostane za úkol shromáždit co nejvíce kancelářských sponek. Nemá-li
inteligence omezující cíle (jedním z nich by mohl být cíl „chránit lidský
život“) a je obětí stejného rámování prostředí jako pouhý materiál, může
se rozhodnout, že cíl nejlépe splní přeměnou celé planéty na kancelářské sponky.
Gestell tedy může vést k neplánovanému zmaru.“ S. 190
Iná interpretácia: Gestell: Gestell je nebezpečí, protože nutí člověka
odkrývat pouze to, co dokáže (má interpretace) škatulkovat do konceptů a
matematických vzorců, bez ohledu na to, zda je to pravdivé či nikoli. https://www.jakubferenc.cz/article/poznamky-k-martin-heidegger-a-jeho-otazka-techniky/
Ochranářství pro technology
Snad nejzásadnější otázka nezní „Jak to udělat, aby byl produkt šetrnější
k životnému prostředí?“, nýbrž „Měl by vůbec existovat?“ Nejúspornější
produkt je totiž samozřejmě takový, který neexistuje.“ S. 191
„To nejlepší a nejjednoduchší, co v prostředí, které je vizuálně
fyzikálně a technicky pokřivené, můžou architekti, průmysloví designéři,
projektanti a další pro lidstvo udělat, je přestat úplně pracovat. Victor
Papanek (Design for Real World. Thames and Hudson Ltd, 1985). s. 191
„Na světě je už tolik špatných výrobků a tolik skládek, že neexistuje
žádný morální důvod pro to, abychom vyráběli další podobné nediferencované
smetí...Na veletrhu spotřebitelské elektroniky v roce 2011 výrobci
představili dvacet tisíc nových produktů včetně osmdesáti tabletů. Kritička
Helen Waltersová se k tomu v jedné analýze vyjádřila velmi kriticky:
„Žijeme ve světě, kde neustále slyším designéry, jak vážně líčí své odhodlání
chovat se odpovědně vůči životnímu prostředí. Dvacet tisíc produktů není
projevem odpovědnosti. Je to vandalismus.“ S. 191 helenwalters.com
„Je třeba odstránit rozdíl mezi ekologickými a běžnými produkty.
Neudržitelný design je špatný design. Tento přístup znamená, že bychom jako
neetické měli odmítnout plánované zastarávání – umělé omezování životnosti
produktu s cílem podpořit inovace.“ S. 192 (je to i prostor pro další
konspirační teorie)
„Je s podivem, že se v technologickém průmyslu kultura produkce nepřeměnila v kulturu řešení problémů.“
S. 192 (napr. modulární mobily na trhu propadly, zařízení se dále miniaturizují
a je téměř nemožné je opravit...)
„V evropských vládách získává určitou podporu myšlenka práva na opravu,
je však nepravděpodobné, že se v dohledné době rozšíří v podobě
zákonů.“ S. 193
„Pokud se se zařízením zachází správně, může jít o materiál, který je
časem čím dál lepší: dřevo nesoucí stopy použití, nikoli křehký plast.“ S. 193
(napr. i webové stránky nabobptnávají v důsledku tlačítek pro
sdílení, čímž zvyšují spotřebu energie...)
„Udržitelná budoucnost potřebuje alternativy škodlivých návyků...Měli
bychom nutit vlády, aby upředňostňovaly ekologickou politiku a trestaly
škodlivá odvětví...“ s. 194
„Ať uděláme cokoli, budoucí generace se budou pravděpodobně nutně potýkat
s nějakou formou nedostatku. Technologický průmysl se bude muset zřejmě zaměřit
na nižší úrovně v hierarchii potřeb než dnes a řešit otázky
bezpečného bydlení , čisté vody a spravedlivého rozdělování vzácných
zdrojů. Lineární cyklus produktu, zahrnující jeho výrobu, použití
a likvidaci, je v budoucnosti
nedostatku neospravedlnitelný, a dnes pravděpodobně také. Musíme směřovat
k cirkulární ekonomice. Výstupy se stanou vstupy, opotřebované
produkty by sme měly spíše opravovat, renovovat nebo používat k jinému
účelu než ničit.“ S. 196
„Jugaad je spíše způsob myšlení než designový přístup a označuje
kutilské inovace založené na tom, co potřebujete a máte k dispozici
právě teď. Koncept jugaad neusiluje o dokonalé řešení za vysokých nákladů,
ale o inteligentní, nekonvenční východisko, jež problém vyřeší natolik
dobře, aby lidé mohli dále žít svůj život.“ S. 196
(s. 197) „Nejjednodužší bude zařadit do našich projektů jako zainteresované
strany výslovně chudší komunity a budoucí generace. Nemá smysl hodnotit
dané řešení jen podle toho, jak se staví k dnešným problémům; musíme vzít
v úvahu, zda zohledňuje i ty zítřejší, nebo zda dokonce nové problémy
v budoucnu nebude vytvářet. Co se s tímto produktem stane za pět let?
Co za 500 let? Abychom podpořili kreativitu, můžeme omezení typu jugaad zavést
i do shrnutí návrhu: Jak by tato (s. 198→)technologie fungovala
bez internetu?“
Radikální přeorientování
„Možná že jedinou realistickou cestou k této udržitelné budoucnosti bude
nerůst.“ S. 199 „Jakákoli životaschopná strategie v oblasti klimatu
bude vyžadovat společnou oběť a ohromný finanční závazek – podobný
financování v době válek – po celém světě. Někomu se to zdá nemyslitelné.
„s. 199
Akrasie a etická nedokonalost
„Víme, co bychom měli dělat a přesto to často neděláme. Aristoteles
tomuto nesouladu - napětí způsobenému
tím, že sice známe nejlepší cestu, sle nejsme schopni se po ní vydat – říkal akrasie.
...Podle Aristotela je akrasie projevem nedostatečného sebeovládání,
slabosti vůle, které bychom se měli zbavit.“ S. 201 „ano, měli bychom si
akrasii uvědomovat a snažit sej i vyřešit, ale nejdůležitějším
etickým návykem je snažit se žít každý den o něco lépe.“ S. 202
Etika nebo politika?
Jedinec nemůže vždy uvádět morální rozhodnutí do praxe sám. Nemůže se
například rozhodnout, který ekonomický systém by pro něj byl morálně lepší,
a jednostranně se odhodlat žít v něm jako jednotlivec: podobné etické
závěry lze do prace uvádět jen prostřednictvím politiky. Politická snaha je
do jisté míry aktem kolektivní morálky.“ S. 213 bold – SL
„Některé etické problémy technologického průmyslu představují problémy
samotného kapitalismu. Kapitalismus s lidmi – zejména se zaměstnanci a spotřebiteli
– nepochybně zachází jako s prostředky, nikoli účelem. Obvykle upřednostňuje
spokojenost několika akcionářů před spokojností veřeností.“ S. 214
I on vzhlíží k post-kapitalistické společnosti, „jež upřednostní
spravedlnost, udržitelnost a rozkvět lidstva“. S. 214
„Ať už si o kapitalismu myslíme cokoli, zatím v něm fungovat
musíme a máme prostor k tomu, aby byl morálnější pokud si to
zůčastněné společnosti a firmy přejí.“ S. 215
David Benatar. Better to HaveBeen: the Harm of coming Into Existence
(Oxford University Press, 2008). – etickou újmu způsobuje už samotná
existence...
Komplexní vědomí
„Může nastat den, kdy ostatní živočichové nabydou práv, která jim vždy
odepírala jen ruka tyranie.[…] Otázka nezní, zda dokážou uvažovat, ani zda umí mluvit, ale
zda trpí. – Jeremy Bentham úvo do principů morálky a práva, 1789).
Mali by sme sa i k robotom
správať dobře? „Myslím, že zdržet se největší hrubosti a násilí je
z etického hlediska důležité. Takové jednání by nás mělo šokovat.
Přijdeme-li o schopnost nevysvětlitelné emocionální reakce například na mučení
dinosaura Plea, tvrdím, že do jisté míry přijdeme o etické ukotvení.“ Ale zase:
„Možná bychom se měli naučit do robotů kopat , možná by naše děti by měly
být na hlasové asistenty hrubé. Přinejmenším by pak bylo zřejmé, že tyto stroje
jsou jiného druhu, a bylo by těžší je mylně považovat za antropomorfní bytosti.
Nechceme-li, aby naše dětmi mohli v budoucnosti manipulovat roboti, snad
bychom je měli učit, že roboti jsou ve společenské sociální hierarchii pod
námi.“ S. 225
Jak by měly stroje zacházet
s námi?
„Možná že nebezpečnějším
přístupem bude kombinovat všechny tři etické perspektivy a odvolávat se
v pravý čas na tu správnou. Většina lidí na rozdíl od profesionálních
etiků, kteří pochopitelně lpí na svém oblíbeném názoru, intuitivně přechází od
jedné etické perspektivy ke druhé, aniž si uvědomují, že tyto perspektivy
existují: někdy se rozhodnou minimalizovat škody („Pokud přehodím výhybku,
tramvaj zabije méně lidí“), někdy přísahají na morální povinnost („Krádež je
špatná“) a někdy se řídí ideálem
morálního charakteru („Jsem čestný člověk a proto platím daně“). Robotovi
bychom nejen mohli dát krátký seznam absolutních deontologických zákazů,
například „Nikdy neprojevuj agresi vůči lidem“, a jako trénovací data dodat příklady
ctnostného chování, ale mohli bychom přidat i konkrétní postupy, jimiž se
vypočítávají utilitární výsledky. Tyto tři postupy by mohly dokonce sloužit
jako trojnásobné zabezpečení proti selhání; stroj bychom mohli požádat, aby
rozhodnutí vyhodnotil z hlediska všech perspektiv, a pokračoval dál pouze
v případě, že splňuje požadavky všech tří.“ S. 227
Nová technologická filozofie
„Etické snahy jsou nicméně
udržitelnější s podporou vedení. Proto je lákavé vymyslet pro ně obchodní
plán.“ S. 232
Zprostředkování, nikoli soud
„Může být lákavé nabídnout se
jako jakési etické orákulum, jež je ochotné využít své schopnosti
k posuzování ošidných dilemat. Jenže je to neužitečné a arogantní. Jak
víme, na etické výzvy málokdy existuje jediná odpověď a každý, kdo věří, že
morální moudrost může předávat pouze on, skončí opilý ctností. Jednotlivec může
zažehnout jiskru etického hnutí, při životě ji však udrží skupina. Snažte se
být spíše etickým zprostředkovatelem, nikoli věštcem; nikoli rozhodujícím
hlasem, nýbrž katalyzátorem, který lidem ukazuje nové způsoby, jak o etice
přemýšlet a diskutovat, a který pro txto rozhovory vytváří čas a prostor.“ S.
233
Další slepé uličky
Etický argument nikdy neuspěje,
budou-li ho lidé vnímat jako neustálou překážku. Peter-Paul Verbeek navrhuje,
aby etika technologický pokrok spíše doprovázela, než aby nutně stála proti
němu. Přijmete postoj neustálého etického kritika, a označí vás za nerozumného
a iracionálního člověka, firma vás z rozhodování brzy vyřadí, a časem
najde způsob, jak se vás zbavit úplně.“ S. 234