Adobe Systems
Digitální kompetence
1
Ochrana dat, Čína a umělá inteligence
Michal Černý

Adobe Systems
Čínská exkurze
̶Jiný kraj, jiný mrav…
̶Blokovány jsou služby, které nejsou pod kontrolou
̶WeChat – něco jako komunikační nástroj, peněženka, místo sdílení obsahu, sociální síť … vše
dohromady. Používají ho v podstatě všichni.
̶WeChat je spojený se stranickými orgány a současně bez něj téměř „nejde fungovat“
̶Nelze vyrábět ani provozovat nic, co by nebylo pod dozorem
̶Trh je v rukou relativně málo, dobře řízených subjektů

Adobe Systems
Čínská exkurze
̶Celá Čína tvoří vlastní „internet v internetu“, využívá tzv. velkou čínskou zeď (firewall,
blokování obsahu) a silnou cenzuru kombinující AI a náklady na ručně prováděnou „vnitřní
bezpečnost“
̶Existují silně diskriminované skupiny (Ujgurové), zájem na průmyslové špionáži (EU a USA),
politické špionáži (Afrika) nebo obecně sledování vlastní opozice (Hongkong)
̶Mají jiné pojetí společnosti dat, ….
̶Čínský komunismus není stejný, jako byl ten náš

Adobe Systems
Sesame Credit
̶Od 2014 je součástí státní politiky sociální kredit
̶Ant Financial (Alibaba) do Sesame Credit převedl všechny své uživatele – „dobrovolně“
̶„Monitoruje chování uživatelů na sociálních sítích, jejich interakce, nákupy na e-shopu Alibaba či
finanční transakce, tato data vyhodnocuje a podle předem daného vzorce uživateli udělí skóre v
rozmezí od 350 do 950 bodů. Motivací je dosažení co nejvyššího skóre, díky čemuž si uživatel může
např. vzít půjčku s výhodnějším úrokem či rychleji získat cestovní vízum do EU.“ (Zdroj)

Adobe Systems
Sesame Credit
̶Sledované oblasti:
̶finanční historie
̶dodržování smluv závazků
̶osobní charakteristiky
̶chování a mezilidské vztahy, využívání technologií, hraní her atp.
̶Má určovat všechny oblasti lidského života – od možnosti půjčit si kolo, přes vzdělání, cestování.
̶Od 1. května 2018 přišlo asi 9 milionů občanů možnost zakoupit si letenky na vnitrostátní lety,
zemi nemůže opustit více než sto lidí a 3 miliony možnost cestovat v obchodní třídě ve vlacích.
Otázka, je, jaká jsou data doopravdy.
̶Čína je současně citlivá na sociální aspekt osobní pověsti, jde o kolektivistickou společnost, což
to celé dosti usnadňuje.

Adobe Systems
Pár komentářů na okraj
̶Existují konkrétní dobře popsané příběhy
̶Silně roste význam AI, detekce obličejů atp.
̶Čína se soustředí na vývoz AI a dalších technologií
̶Klidně sledují „náhodné cestující“
̶

Adobe Systems
Evropská legislativa
̶Právo na zapomnění
̶GDPR
̶Listovní tajemství
̶Regulace cookies
̶…

Adobe Systems
(Nejen) diskriminační problémy
̶Amy Webb, profesorka New York University a zakladatelka Future Today Institute tvrdí, že AI
znamená výrazné posílení pozic korporací, které mají přístup k velkému množství dat a tím mají také
velkou moc. V tomto ohledu jsou pak lákavé pro autoritářské režimy nebo obecně pro vlády, protože
v nich vidí nástroj globální strategické výhody. Nejsilnější zbraní USA nebudou zřejmě atomové
zbraně, ale Google, Amazon, Microsoft, Apple či Facebook.
̶Zajímavým krokem je pak názor, že by společnosti měli akcentovat udržitelný rozvoj před
krátkodobými cíli, což ostatně v Evropě zdůrazňuje také José van Dijck. Skutečnost, že by firmy
masově upřednostnili veřejné blaho (navíc obtížně definované) před ziskem, který od nich očekávají
akcionáři se zdá být velice nepravděpodobná. Současně je ale třeba říci, že velká část velkých
firem zdůrazňuje, že třeba oblast sociálních sítí nebo obecně ochrany osobních dat by měla být
regulována.
̶Podle některých zaměstnanců Amazonu o výpovědích rozhoduje systém s AI, nikoli přímý
nadřízený. Respektive je to tak, že doporučení na výpověď je systémem jasně popsaná, naměřená a
zdůvodněná a příslušný manažer či HR by měl zřejmě provést jen kontrolu, případně uvážit další
možné vlivy.

Adobe Systems
(Nejen) diskriminační problémy
̶Asi nejznámější problém s AI a diskriminací je spojen s oddělením lidských zdrojů, které fungovalo
tak, že se systém naučil na výběru běžných personalistů pracujících v Amazonu, jakým způsobem
vybírají budoucí zaměstnance v závislosti na tom, jak vypadá jejich životopis. Tento výběr byl
reálně diskriminační pro ženy.
̶Otázkou je, nad jakými daty provádíme tréning (ImageNet) a co se děje s našimi daty (Faceapp).
̶Etické otázky vedení války (Ohlin et al.) a čučkaři (Zeman)
̶DeepFake – neexistující tváře, cizí hlasy (jiné), písmo, video a svlékání z plavek – na co se tedy
vlastně můžeme epistemicky spolehnout?
̶

Adobe Systems
Evropská komise: pravidla pro vývoj aI


Adobe Systems
Zápatí prezentace
11