Základní pojmy Úvod do etiky Mgr. Tomáš Foltýnek, Ph.D. foltynek@fi.muni.cz Etika a IT 1 Obrázek vygenerován nástrojem Midjourney Etika ̶ Filosofická disciplína zkoumající morálku a morální hodnoty ̶ Rozprava o tom, co má být / co je správné ̶ Zkoumá principy rozhodování v situacích ovlivnitelných pomocí svobodné vůle ̶ Z řec. éthos = mrav, zvyk Etika a IT 2 Morálka ̶ Individuální morálka = souhrn přesvědčení a postojů o tom, co je správné ̶ Morální = v souladu se svědomím ̶ Svědomí = schopnost poznávat dobro a toto poznání si připomínat ̶ Příslušníci jedné skupiny sdílejí obdobné zkušenosti ̶ Skupinová morálka = společenský konsenzus o tom, co je správné ̶ Kdy dochází k rozporu mezi individuální a skupinovou morálkou? ̶ Otázka “Co je správné?” může mít jiné odpovědi z pohledu různých adresátů Etika a IT 3 Etika, morálka, právo ̶ Etika = uvědomělé hledání dobra ̶ Filosofické pojetí dobra ̶ Morálka = souhrn představ o již nalezeném dobru ̶ Společenský konsenzus o tom, co dobro představuje ̶ Ideologické pojetí dobra ̶ Jde o sebezáchovu lidského společenství ̶ Tyto představy jsou kodifikovány ̶ Konvence, etiketa = dohodnutá pravidla chování ̶ Právo = nezbytné dobro k zachování funkce formální organizace ̶ Řád, soubor vymahatelných pravidel a nařízení Etika a IT 4 Přístupy k etice ̶ Deskriptivní etika popisuje mravní hodnoty platné ve společnosti ̶ Normativní etika se snaží stanovit, jaké jednání má být morální ̶ Zabývá se právy, povinnostmi a hodnotami ̶ Aplikovaná etika odpovídá na konkrétní otázky ̶ Lékařská etika, bioetika, žurnalisticá etika, etika v IT… ̶ Hranice mezi normativní a aplikovanou etikou není ostrá Etika a IT 5 Myšlenkový experiment ̶ Tramvajové dilema (trolley problem) ̶ Nedělat nic a nechat tramvaj zabít 5 lidí ̶ Přehodit výhybku a převzít zodpovědnost za smrt 1 člověka Etika a IT 6 https://en.wikipedia.org/wiki/Trolley_problem#/media/File:Trolley_Problem.svg Myšlenkový experiment ̶ Je správné obětovat 1 člověka, abychom zachránili 5 lidí? ̶ Lékař má 5 pacientů, které může zachránit transplantací ̶ každý pacient potřebuje jiný orgán ̶ Je správné zabít jednoho člověka a použít jeho orgány? ̶ předp. 100% úspěšnost transplantací Etika a IT 7 Morální dilema ̶ Je situace vyžadující rozhodnutí mezi možnostmi, z nichž každá znamená jednání v rozporu s morálními hodnotami ̶ Typicky jsou možnosti v rozporu s různými hodnotami ̶ Řešení dilematu vyžaduje zvážení relativní důležitosti těchto hodnot ̶ Hledání východiska z morálního dilematu ̶ Racionální diskuse, argumentace ̶ Pojmenování hodnot v konfliktu ̶ Zvážení důsledků Etika a IT 8 Debata vs. Dialog ̶ Diskuse o morálních dilematech a hledání konsensu Etika a IT 9 Debata Dialog Cíl Hledání “nejlepší“ odpovědi Jednorozměrné chápání reality Přesvědčit ostatní Pochopení, že dobro je vícerozměrné Snaha, aby všichni pochopili podstatu problému Charakteristika Obrana vlastních myšlenek Kritika myšlenek ostatních Soudy a závěry Hledání objektivní pravdy Snaha porozumět argumentům ostatních Naslouchání Prostor pro “já nevím“ Přístup Snaha přesvědčit ostatní Snaha o srozumitelnou formulaci vlastních myšlenek Kladení otázek Aktivní naslouchání Snaha přemýšlet „jednou hlavou“ Variace tramvajového dilematu ̶ Nedělat nic, nebo přehodit výhybku? ̶ 5 lidí: sprejeři, kteří přelezli plot a nemají tam co dělat ̶ 1 člověk: dělník opravující koleje, otec 4 dětí, živitel rodiny ̶ Navíc jsme jej předtím ujistili, že je výhybka přehozená a on je tedy v bezpečí ̶ A co když je jeden ze sprejerů náš nejlepší přítel / příbuzný? ̶ Obměna: Masový vrah nám dá na výběr: Zabij jednoho člověka, nebo já jich zabiju pět ̶ Na jakých okolnostech (a jejich zvážení) záleží? Etika a IT 10 https://en.wikipedia.org/wiki/Trolley_problem#/media/File:Trolley_Problem.svg Tramvajové dilema a hodnoty v konfliktu Zabít Nechat zemřít Smrt jednoho člověka Smrt pěti lidí Smrt mladého člověka Smrt starého člověka Zavinění Nárok přežít Odklonit existující hrozbu směrem k menší škodě Vytvořit novou hrozbu (byť s menší škodou) Nedělat nic Ovlivnit běh událostí Udělat s tím něco Udělat s někým něco Etika a IT 11 Jak poznat, co je morální? ̶ Deontologie ̶ Stanovení nepřekročitelných pravidel a povinností ̶ Konsekvencializmus ̶ Při posuzování situace jsou relevantní pouze důsledky činů ̶ Teorie společenské smlouvy ̶ Pravidla fungování v rámci společnosti ̶ Etika ctností ̶ Morální charakter jednotlivce Etika a IT 12 Deontologie ̶ Nepřekročitelná pravidla ̶ Práva a povinnosti ̶ Teorie božích přikázání ̶ Morální je to, co vyplývá z božích přikázání ̶ Kulturní relativismus, ovlivněno výkladem ̶ Kantův kategorický imperativ ̶ Nikoho nepoužívej jako prostředek k dosažení cíle ̶ Maxima každého činu musí být dosažitelná ̶ Zlaté pravidlo: Kdyby se takto chovali všichni, cíl činu zůstane dosažitelný Etika a IT 13 Konsekvencialismus ̶ Jediným rozhodujícím faktorem jsou (dlouhodobé) důsledky činu ̶ Jak porovnávat důsledky? è Čisté blaho ̶ Jak definovat a měřit blaho? ̶ Rozkoš, hodnotné mentální stavy, preference, objektivní hodnoty… ̶ Roli hraje i rozložení blaha ve společnosti Etika a IT 14 Teorie společenské smlovy ̶ Osvícenství – pravidla fungování (demokratické) společnosti ̶ Pravidla vzájemné interakce v lidské společnosti ̶ racionální jedinci se rozhodli přijmout ̶ přínosy pro jedince i pro celou společnost ̶ rovné příležitosti pro všechny ̶ Absolutní vs. omezená práva ̶ absolutní je např. právo na život ̶ omezené je např právo na vzdělání (závisí na možnostech společnosti) ̶ Pozitivní vs. negativní práva ̶ Pozitivní = mohu vyžadovat (např. zdravotní péče) ̶ Negativní = ostatní mi nemohou bránit (život, svoboda projevu) Etika a IT 15 Etika ctností ̶ Hodnotí činy podle toho, jak by se v dané situaci zachoval ctnostný jedinec ̶ Aristoteles, Platón: Morálnost vychází z vnitřní síly vůle, všechny vnější důsledky jsou druhotné Etika a IT 16 Morální hodnoty a ctnosti ̶ Morální hodnoty = zásady a standardy uznávané skupinami či jednotlivci, které pomáhají rozlišovat dobré od špatného ̶ Ctnost = morálně dobrá vlastnost ̶ Vypěstovaný a navyklý sklon k dobrému jednání ̶ Opakem je neřest = morálně špatná vlastnost ̶ Též špatný či zavrženíhodný návyk ̶ Hodnoty/ctnosti podle Etického kodexu MU (čl. 3 Vzdělávání) ̶ Odpovědnost, respekt, nezištnost, důvěra, svoboda, objektivita, nezaujatost, otevřenost, korektnost, kolegialita, kvalita, kritické́ myšlení́, osobní růst, profesní́ rozvoj ̶ EK zmiňuje i „neřesti”: podceňování, ponižování, znevažování Etika a IT 17 Moral Machine ̶ Sada morálních dilemat programátora autonomních vozidel ̶ https://www.moralmachine.net/ ̶ Založeno na tzv. tramvajovém dilematu (trolley problem) ̶ Nedělat nic a nechat tramvaj zabít 5 lidí ̶ Přehodit výhybku a převzít zodpovědnost za smrt 1 člověka Etika a IT 18 https://en.wikipedia.org/wiki/Trolley_problem#/media/File:Trolley_Problem.svg Celosvětový výzkum preferencí ̶ Miliony lidí z 233 zemí ̶ 40 milionů rozhodnutí v morálních dilematech ̶ Studie publikována v časopise Nature ̶ Rozdělení světa do tří kulturních clusterů: Západ, Východ, Jih Etika a IT 19 Kulturní clustery: Západ, Východ, Jih Etika a IT 20 Zachránit dítě, nebo starce? Etika a IT 21 Zachránit více životů? Etika a IT 22 Zachránit chodce, nebo pasažéry? Etika a IT 23 Důsledky? Etika a IT 24 Pro zákonodárce Pro výrobce Pro zákazníky Pro chodce Pro řidiče ostatních aut Překonání kultrních rozdílů ̶ Jaké hodnoty jsou v globalizovaném světe univerzálně platné? ̶ Viz Všeobecná deklarace lidských práv Etika a IT 25 Dilemma Game: Trolley Problem Jsem programátorem ve firmě, která se zabývá vývojem systémů pro autonomní auta. Mám naprogramovat systém, který bude určovat, jak se v případě nepředvídané události auto zachová. Já sám v tom však nemám žádné slovo, celý systém prošel rozsáhlým schvalovacím procesem, kterého se zúčastnilo mnoho etických komisí z různých mezinárodních institucí. Uvědomuji si však, že to pořád budu já, kdo daný systém uvede do provozu. Co mám dělat? A) Nebudu řešit etičnost daného systému, necítím se být za chování systému zodpovědný, protože o něm bylo rozhodnuto bez mého zásahu. B) Podrobně se seznámím se schvalovacím procesem, vznesu relevantní otázky a námitky, ale práci udělám i v případě, že mým námitkám nebude vyhověno. C) Podrobně se seznámím se schvalovacím procesem, vznesu relevantní otázky a námitky, a v případě neuspokojivých odpovědí a neřešení mých námitek odmítnu úkol splnit, požádám o přeřazení nebo podám výpověď. D) Jelikož nechci nést takovou morální zátěž, rovnou požádám o přeřazení, případně dám výpověď. Etika a IT 26 Příště ̶ Podívejte se na video ̶ The Trolley Problem in Real Life (34 min.) ̶ https://www.youtube.com/watch?v=1sl5KJ69qiA ̶ Přečtěte si článek ̶ Was It Ethical for Dropbox to Share Customer Data with Scientists? ̶ https://www.wired.com/story/dropbox-sharing-data-study-ethics/ ̶ Téma příští přednášky: Etické nakládání s daty ̶ Jak produkovat a shromažďovat data eticky? ̶ Kdo je vlastníkem dat? ̶ Kapitalismus dohledu Etika a IT 27