V roce 2004, krátce poté, co vytvořil Facebook, si student Mark Zuckerberg vyměnil několik zpráv se svým přítelem:
Zuck: Jo, takže kdybys někdy potřeboval informace o komkoli z Harvardu Zuck: Stačí se zeptat.
Zuck: Mám přes 4000 e-mailů, obrázků a adres... [Jméno přítele]: Co? Jak jsi to dokázal? Zuck: Lidi mi je prostě poslali. Zuck: Ani nevím proč. Zuck: Oni mi „důvěřují" Zuck: Kreténi1
Po skandálu kolem Facebooku v roce 2018 tato slova opakovaně otiskli novináři, kteří chtějí poukázat na machiavelistický postoj k ochraně soukromí v rámci společnosti. Osobně si myslím, že bychom mohli být trochu shovívavější, vzhledem k tomu, že jde o interpretaci vychloubačných komentářů devatenáctiletého mladíka. A navíc si myslím, že se Zuckerberg mýlí. Lidé mu své údaje neposkytli jen tak. Poskytli je jako součást směny. Na oplátku získali přístup k algoritmu, který jim umožnil libovolná spojení s přáteli a rodinou, tedy prostor, kde mohli sdílet svůj život s ostatními. Jejich soukromá síť uvnitř nekonečného World Wide Web. Nevím jak vy, alejájsem si v té době jistě myslela, že jde o férový kšeft.
V této logice se skrývá pouze jeden zádrhel: nejsme si vždy vědomi dlouhodobějších důsledků takovéhoto obchodu. Jen
{37}
zřídkakdy je zřejmé, co mohou naše data způsobit, anebo k čemu to může vést, když je vložíme do chytrého algoritmu. Anebo, zpětně viděno, jak lacino si nás koupili.
Každá maličkost pomáhá
Obchodní řetězce patřily mezi první, kdo rozpoznal hodnotu údajů o jednotlivci. V odvětví, kde spolu společnosti neustále bojují o pozornost zákazníka - o drobné změny v preferencích, které vyvolají v lidském nákupním chování věrnost právě jejich značce každé nepatrné zlepšení může přinést obrovskou výhodu. To motivovalo britský supermarket Tesco v roce 1993 k průkopnické zkušební jízdě.
Pod vedením manželské dvojice Edwiny Dunnové a Cliva Humbyho, a zpočátku jen v některých vybraných obchodech, vydalo Tesco svou zcela novou klubovou kartu Clubcard -plastovou kartu o velikosti a tvaru kreditní karty, kterou se mohli zákazníci prokázat při placení za nákup. Směna byla jednoduchá. Za každou transakci využívající klubovou kartu získával zákazník body, které mohl využít při budoucích nákupech v obchodě, zatímco Tesco získalo záznam o prodeji a spojilo si jej se jménem zákazníka.2
Údaje shromažďované během tohoto prvního pokusu s Clubcard byly velmi omezené. Spolu se jménem a adresou zákazníka systém zaznamenal pouze to, kolik utratil a kdy, nikoli jaké zboží bylo v jeho košíku. Nicméně i z této skromné sklizně dat získali Dunnová a Humby některé úžasně cenné poznatky.
Zjistili, že malá hrstka věrných zákazníků představuje obrovský objem jejich prodeje. Viděli, podle poštovních směrovacích čísel, z jaké dálky jsou lidé ochotni cestovat do jejich obchodů. Odhalili čtvrti, kde má převahu konkurence, a naopak ty, ve kterých mělo Tesco situaci pod kontrolou. Údaje ukázaly, kteří zákazníci se každodenně vracejí a kteří nechávají nákupy na víkend. Vyzbrojeni těmito znalostmi se mohli pustit do ovlivňování nákupního chování svých zákazníků tím, že uživatelům klubových karet rozeslali poštou sadu kupónů. Hodně utrácející dostali poukázky v rozmezí od tří do třiceti
{38}
liber. Méně utrácejícím byly zaslány menší pobídky, od jedné do deseti liber. A výsledky byly ohromující. Téměř 70 % kupónů bylo využito, a když zákazníci naplnili v obchodech své košíky, vyšlo najevo, že lidé, kteří měli klubovou kartu, utratili o 4 % více než ti, kteří ji neměli.
Dne 22. listopadu 1994 představil Clive Humby výsledky studie představenstvu společnosti Tesco. Ukázal jim data, návratnost, důkazy o spokojenosti zákazníků, zvýšení prodeje. Představenstvo mlčky poslouchalo. Na konci prezentace promluvil jako první předseda. „Co mě na tom děsí," řekl, „je fakt, že za tři měsíce jste se dozvěděl o mých zákaznících více, než já za 30 let."'3
Clubcard byla distribuována všem zákazníkům obchodů Tesco a je jí obecně přičítáno, že díky ní společnost předběhla svého hlavního rivala Sainsbury's a stala se největším řetězcem supermarketů ve Velké Británii. V průběhu času byly získávány stále podrobnější údaje, což usnadnilo cílit na nákupní návyky zákazníků.
Krátce poté, co začalo nakupování on-line, představil stejný tým službu nazvanou „Moje oblíbené", kde se nápadně zobrazovaly položky zakoupené za použití věrnostní karty, když se zákazník přihlásil na webovou stránku společnosti Tesco. Stejně jako v případě samotné Clubcard šlo o bouřlivý úspěch. Lidé mohli rychle najít produkty, které chtěli, aniž by museli procházet různými stránkami. Prodej se zvýšil, zákazníci byli šťastní.
Ale ne všichni. Krátce po zavedení této funkce kontaktovala Tesco žena se stížností na nesprávné údaje. Nakupovala on--line a ve svém seznamu „Moje oblíbené" spatřila krabičku kondomů. Nemohou být jejího manžela, vysvětlovala, protože je nepoužívá. Na její žádost se analytici Tesco podívali na data a zjistili, že v seznamu žádná chyba není. Nicméně, než aby vyvolali manželskou krizi, raději učinili diplomatické rozhodnutí omluvit se za „poškozená data" a odstranit provinilý předmět z jejích „oblíbených".
Podle knihy Cliva Humbyho o společnosti Tesco se tento přístup stal neformální politikou společnosti. Kdykoli se objeví něco, co je snad příliš odhalující, omluví se a data smažou.
{39}
Tento postoj popisuje Eric Schmidt, který v době, kdy sloužil jako výkonný předseda společnosti Google, řekl, že se pokouší uvažovat o věcech v pojmech pomyslné strašidelné hranice. „Politikou společnosti Google je dostat se až k té strašidelné čáře, ale nikdy ji nepřekročit."4
Jenže když sesbíráte dostatek údajů, je těžké předem odhadnout, co odhalíte. Potraviny nepředstavují jen to, co konzumujete. Je v nich něco osobního. Podívejte se pečlivě na něčí nákupní návyky a často odhalíte spoustu detailů o tom, jaký je to člověk. Někdy - jako v případě kondomů - to budou věci, které byste raději nevěděli. Ale častěji, když se do dat podíváte hlouběji, mohou být tyto střípky skrytého vědomí použity ve prospěch společnosti.
Cílový trh
V roce 2002 začal americký diskontní supermarket Target hledat ve svých datech vzorce, které byly něčím neobvyklé.5 Target prodává vše od mléka a banánů po plyšové hračky a zahradní nábytek a - stejně jako každý jiný maloobchod na přelomu tisíciletí - disponuje prostředky k využívání čísel kreditních karet a odpovědí z průzkumů k tomu, aby propojil zákazníky se vším, co si kdy v obchodě koupili, což mu umožňuje analyzovat, jak lidé nakupují.
Pro historku, která (což čtenářům z USA netřeba připomínat) nechvalně proslula po celé zemi, je podstatné, že Target zjistil, že když zákaznice náhle ve velkém kupuje neparfé-mované tělové mléko, často se následně zapíše do seznamu účastnic večírku pro těhotné konaného v obchodě. Objevil tedy v datech určitý signál. Když ženy vstoupily do druhého trimestru a začaly se obávat strií, zanechaly o tom důkaz prostřednictvím svých nákupů hydratačních látek, jež měly udržet jejich pleť vláčnou. Podívejme se dále do minulosti a uvidíme, že ty samé ženy v Targetu vynikaly svými nákupy různých vitamínů a potravinových doplňků, jako jsou vápník a zinek. Podívejme se naopak do budoucnosti a zjistíme, že
data mohou dokonce prozradit, kdy se má dítě narodit - jelikož žena bude v obchodě nakupovat extra velká balení vaty.6 Nastávající matky jsou snem maloobchodníků. Získejte během těhotenství jejich věrnost a je tu velká šance, že budou pokračovat v užívání vašich výrobků ještě dlouho po narození dítěte. Koneckonců, když si vaši pozornost během týdenního nákupu vyžaduje hladové křičící dítě, nákupní návyky se tvoří rychle. Takové postřehy mohly být nesmírně cenné, protože by Targetu daly náskok před jinými značkami v zajišťování jejich potřeb.
Dál to bylo jednoduché. Target spustil algoritmus, který měl zjistit, jaká je pravděpodobnost, že jsou zákaznice těhotné. Pokud tato pravděpodobnost překročila určitou hranici, maloobchodník dotyčné ženě automaticky poslal řadu kupónů na plno věcí, které by sejí možná mohly hodit: pleny, pleťová mléka, vlhčené ubrousky a tak dále.
Takže potud žádná kontroverze. Jenže o něco později, asi rok poté, co byl nástroj poprvé spuštěn, se do obchodu Target v Minneapolis vřítil otec dospívající dívky a dožadoval se setkání s vedoucím. Jeho dcera dostala poštou nějaké těhotenské poukázky a on byl rozhořčen, že maloobchodník tak zřejmě normalizuje těhotenství dospívajících. Vedoucí obchodu se obšírně omluvil a o několik dní později muži zavolal domů, aby zopakoval politování společnosti nad celou záležitostí. Ale v tu chvíli, jak příběh vyprávěl list New York Times, už se musel otec sám omluvit.
„Promluvil jsem si s dcerou," řekl manažerovi. „Vyšlo najevo, že v mém domě docházelo k jistým aktivitám, o kterých jsem nebyl tak docela informován. Narodí se to v srpnu."
Nevím jak pro vás, ale pro mě algoritmus, který informuje rodiče o tom, že je jejich dcera těhotná, dříve, než měli možnost dozvědět se to od ní osobně, učinil velký krok za onu strašidelnou hranici. Nicméně tato trapná záležitost nedokázala přesvědčit Target, aby nástroj zcela přestal používat.
Představitelé Targetu vysvětlovali: „Zjistili jsme, že dokud si těhotná žena myslí, že ji nikdo nešpehuje, kupóny používá.
{40}
{41}
Předpokládá, že všichni ostatní z jejího bloku dostali stejný leták na pleny a postýlky. Dokud ji nevyděsíme, funguje to."
Takže Target za kulisami stále předpovídá těhotenství - tak jak to dnes dělá většina maloobchodů. Jediný rozdíl je vtom, že kupóny pro těhotné se zamíchají mezi další běžné položky, takže si zákazníci nevšimnou, že jsou zaměřeni. Reklama na postýlku se může objevit vedle nějakých sklenic na víno. Nebo kupón na dětské oblečení se umístí vedle reklamy na parfém.
Target není jediný, kdo tyto metody používá. Příběhy o tom, co lze odvodit z vašich údajů, se málokdy dostanou do novin, ale algoritmy tam venku jsou a tiše se ukrývají za bojovými liniemi korporací. Asi před rokem jsem mluvila s vedoucím pracovníkem společnosti, která nabízí pojištění. Mají zcela detailní přehled o nákupních zvyklostech lidí díky věrnostnímu programu supermarketů. Ve své analýze zjistili, že domácí kuchaři budou mít s menší pravděpodobností vysoké nároky na pojištění domácnosti a lze na nich proto více profitovat. Toto zjištění dává smysl i intuitivně. Pravděpodobně nebude velký překryv mezi skupinou lidí, kteří jsou ochotni investovat čas, úsilí a peníze do kompletní přípravy vypiplaného jídla, a skupinou, která by nechala své děti hrát v domě fotbal.
Ale jak zjistili, kteří nakupující jsou domácí kuchaři? A skutečně, někteří měli v košíku několik věcí, které bylo možné spojit s nízkými nároky na pojištění. Jak jsem se dozvěděla, to nej významnější, to, co vás označí za zodpovědného člověka pečujícího o svůj domov víc než o cokoli jiného, je čerstvý fenykl.
Pokud z nákupních návyků lidí ve fyzickém světě můžete vyvodit něco takového, představte si, co byste mohli odvodit, pokud byste měli přístup k větším souborům dat. Představte si, kolik byste se toho o někom dozvěděli, kdybyste měli záznam o všem, co dělal on-line.
Divoký západ
Palantir Technologies, původem ze Silicon Valley, je jedním z nejúspěšnějších start-upů všech dob. Založil jej v roce 2003 Peter Thiel a při posledním výpočtu se jeho hodnota odhado-
{42}
vala na ohromujících 20 miliard dolarů.7 To je přibližně stejná tržní hodnota jakou máTwitter, ačkoli jméno Palantir Technologies jste pravděpodobně v životě neslyšeli. A přesto - věřte mi, když to říkám - Palantir s jistotou slyšel o vás.
Palantir je jen jedním příkladem nového druhu firem, známých jako zprostředkovatelé dat, které kupují a shromažďují osobní data lidí a pak je dále prodávají nebo sdílejí s cílem na tom vydělat. Existuje spousta dalších: Acxiom, Corelogic, Datalogix, eBureau - obrovské společnosti, s nimiž jste se pravděpodobně nikdy přímo nesetkali, které ovšem nepřetržitě monitorují a analyzují vaše chování.8
Pokaždé když nakupujete on-line, pokaždé když se přihlásíte k odběru informačního bulletinu, nebo se zaregistrujete na internetových stránkách, nebo se zeptáte na nové auto, nebo vyplníte záruční list, nebo si koupíte nový dům, nebo se zaregistrujete k volbám - zkrátka pokaždé, když poskytnete nějaké své údaje - jsou informace o vás shromažďovány a prodávány zprostředkovateli dat. Vzpomínáte si, jak jste řekli realitnímu makléři, jaký druh nemovitosti hledáte? Prodáno zprostředkovateli dat. Nebo ony detaily, které jste kdysi zadali do internetového systému porovnávání pojištění. V některých případech mohla být dokonce zabalena a prodána celá historie vašeho internetového prohlížeče.9
Úkolem zprostředkovatele je kombinovat všechna tato data, porovnávat různé informace, které si někdo koupil a získal, a poté o vás vytvořit jednu podrobnou složku: datový profil vašeho digitálního stínu. A to v nejdoslovnějším slova smyslu - v rámci databází některých poskytovatelů byste si mohli otevřít digitální soubor s identifikačním číslem (identifikátorem, o kterém vám nikdo nikdy neřekne), který obsahuje stopy všeho, co jste kdy udělali. Vaše jméno, datum narození, vaše náboženské vyznání, jak trávíte dovolenou, k čemu používáte svou kreditní kartu, vaše jmění, vaši váhu, vaši výšku, vaše politické preference, vaše hazardní návyky, vaše zdravotní postižení, jaké užíváte léky, zda jste prodělali potrat, zda jsou vaši rodiče rozvedení, zda máte sklony k závislosti, zda jste oběť znásilnění, vaše názory na omezení zbraní, vaši předstíranou
{43}
sexuální orientaci, vaši skutečnou sexuální orientaci a míru vaší důvěřivosti. Existují tisíce a tisíce podrobností v tisících a tisících složkách a souborech uložených kdesi na ukrytých serverech, prakticky o každém z nás.10
Stejně jako předpovědi Targetu o těhotenství, většina těchto údajů je odvozená. Předplatné časopisu Wired může znamenat, že máte zájem o technologie; licence na střelné zbraně může znamenat, že vás zajímá lov. Po celou dobu používají zprostředkovatelé inteligentní algoritmy, které obohacují jejich data. Je to totéž, co dělají supermarkety, jenže v masovém měřítku.
To celé přináší mnoho výhod. Datoví zprostředkovatelé používají své znalosti o nás, aby zabránili podvodníkům vydávat se za nic netušící spotřebitele. Stejně tak povědomí o tom, co máme a nemáme rádi, vede k tomu, že reklamy, které jsou nám předkládány při procházení internetem, co nejvíce odpovídají našim zájmům a potřebám. To skoro jistě představuje příjemnější zážitek, než být každodenně zavalen hromadami reklamních inzerátů advokátů obětí nehod nebo nabídkami pojištění schopnosti splácet. Navíc když mohou být zprávy přímo zaměřeny na ty pravé spotřebitele, znamená to, že reklama je celkově levnější, takže i malé podniky s vynikajícími produkty mohou oslovit nové publikum, což je přínosné pro všechny.
Jsem si ale jistá, že vás už napadlo, že existuje také řada problémů, které vzniknou, jakmile začnete rozčleňovat lidi do řady kategorií podle toho, jací jsou. Dostanu se k tomu za okamžik, ale nejprve si myslím, že stojí za to stručně vysvětlit neviditelný proces v pozadí toho, jak se k vám dostává on-line reklama, když se proklikáváte internetem, a jakou roli v tomto procesu hraje datový zprostředkovatel.
Představme si tedy, že vlastním luxusní cestovní kancelář s velmi nápaditým jménem Fry's. Během let jsem přiměla lidi, aby se v případě zájmu zaregistrovali na mých webových stránkách, a nyní mám seznam jejich e-mailových adres. Kdybych se chtěla o svých uživatelích dozvědět více - například jak by rádi trávili prázdniny - mohla bych poslat svůj seznam e-mailů
{44}
uživatelů zprostředkovateli dat, který by se po jejich jménech podíval ve svém systému a vrátil mi seznam s připojenými příslušnými údaji. Je to něco jako přidání dalšího sloupce do tabulky. Když nyní navštívíte moji webovou stránku Fry's, budu již vědět, že máte zvláštní zálibu v tropických ostrovech, a tak vám předhodím reklamu na útěk na Havaj.
To je jedna možnost. Druhou možností je, že si představíte, že Fry's má na svém webu malé vyčleněné místo, které jsme ochotni poskytnout jiným inzerentům. Opět se obrátím na zprostředkovatele dat a poskytnu mu informace, které mám o svých uživatelích. Zprostředkovatel potom vyhledá společnosti, které by chtěly na mou stránku umístit své inzeráty. A v zájmu příběhu si představme, že nabídkou je nadšena firma, která prodává opalovací krémy. Aby ji přesvědčil, že Fry's má zákazníky, na které se prodejce opalovacích krémů chce zaměřit, mohl by zprostředkovatel předvést některé odvozené vlastnosti uživatelů Fry's: třeba podíl rusovlasých lidí, nebo něco takového. Nebo by mu prodejce opalovacích krémů mohl předat e-mailové adresy svých vlastních uživatelů a zprostředkovatel by mohl přesně zjistit, jak velký průnik je mezi těmito dvěma skupinami. Pokud prodejce opalovacích krémů dá souhlas, reklama se objeví na internetových stránkách společnosti Fry's - a zprostředkovatel i já dostaneme zaplaceno.
Tyto metody zatím příliš nepřesahují techniky, které obchodníci k cílení reklamy na zákazníky používali odnepaměti. Ale je tu třetí možnost, kdy podle mě věci začínají vypadat poněkud hrozivě. Tentokrát Fry's hledá nové zákazníky. Chci zacílit na muže a ženy starší 65 let, kteří mají rádi tropické ostrovy a disponují dostatkem prostředků, protože doufám, že se budou chtít vydat na jednu z našich nových luxusních plaveb po Karibiku. Jdu tedy za zprostředkovatelem dat, který prohledá svou databázi a najde seznam lidí, kteří odpovídají mému popisu.
A teď si představte, že na tomto seznamuje i vaše jméno. Zprostředkovatel nikdy nespojí vaše jméno s Fry's. Jenže zpracovává to, které další webové stránky pravidelně navštěvujete. A může se třeba stát, že zprostředkovatel bude propojen také
{45}
s jednou z vašich oblíbených stránek. Možná sociální média nebo zpravodajství, něco takového. Jakmile se náhodně přihlásíte na své oblíbené webové stránky, makléři zabliká kontrolka, která jej na tuto skutečnost upozorní. Prakticky okamžitě zprostředkovatel reaguje tím, že umístí malý praporek - známý jako cookie - do vašeho počítače. Tato cookie* funguje jako signál pro jakékoli jiné webové stránky napříč internetem a říká, že jste někdo, komu by se měla zobrazit reklama na karibské výletní plavby společnosti Fry's. Ať už je chcete nebo nechcete, ať budete kdekoli na internetu, tyto reklamy vás budou pronásledovat.
A tady narážíme na první problém. Co když se nechcete dívat na reklamy? Jistě, být bombardován výjevy z plavby Karibikem představuje jen nepatrné nepohodlí, ale existují jiné reklamy, které mohou mít na člověka mnohem hlubší dopad.
Když Heidi Waterhousová potratila velmi chtěné dítě,11 odhlásila se ze všech týdenních e-mailů, které ji informovaly o aktuálním růstu jejího dítěte a sdělovaly jí, jakému ovoci plod svou velikostí nyní odpovídá. Odhlásila se ze všech elektronických konferencí a seznamů přání, do kterých se přihlásila v očekávání porodu. Ale jak řekla publiku vývojářů na konferenci v roce 2018, na zemi nebyla žádná moc, která by ji mohla zbavit reklam souvisejících s těhotenstvím, které ji pronásledovaly napříč internetem. Tento digitální stín těhotenství se i nadále šířil sám, bez matky či dítěte. „Nikdo z těch, kdo tento systém vybudovali, nepomyslel na tento důsledek," vysvětlila.
Je to systém, který má bud kvůli neúmyslnému opominutí, anebo úmyslně, potenciál zneužívat. Poskytovatelé krátkodobých půjček jej mohou využít k přímému cílení lidí se špatným ratingem; sázkové reklamy mohou být směrovány na uživatele,
* Reklamy nejsou jediným důvodem užívání cookies. Používají je také webové stránky, aby zjistily, zda jste přihlášeni nebo ne (aby věděly, zdaje bezpečné posílat jakékoliv citlivé informace), a aby zjistily, jestli stránku navštěvujete opakovaně (například aby snížily ceny na stránkách aerolinek nebo vám poslali e-mail se slevovým kódem do internetového obchodu s oblečením).
{46}
kteří často navštěvují internetové stránky s hazardními hrami. Existují také obavy z toho, že tento typ profilování dat je používán i proti lidem: o fanoušcích motocyklů se předpokládá, že mají rizikového koníčka, zatímco lidé, kteří jedí sladkosti bez cukru, jsou označováni jako diabetici a v důsledku tohojejim ve výsledku odmítáno pojištění. Studie z roku 2015 ukázala, že společnost Google zobrazovala mnohem méně reklam pro dobře placené výkonné pracovní pozice ženám, které surfovaly po internetu, než mužům.12 A poté, co se jedna afroamerická profesorka z Harvardu dozvěděla, že po zadání vlastního jména do Googlu sejí vrátí inzeráty zaměřené na osoby s trestním záznamem (a jako výsledek byla nucena dokázat potenciálnímu zaměstnavateli, že nikdy neměla problémy s policií), začala zkoumat zobrazování reklamy různým etnickým skupinám. Zjistila, že při vyhledávání „černošsky znějících jmen" se dis-proporčně častěji objeví reklamy obsahující slovo „zatčení" (např. „Byli jste někdy zatčeni?"), nežli při vyhledávání „bělošsky znějících jmen".13
Tyto metody ovšem nepoužívají pouze zprostředkovatelé dat. Je jen velmi malý rozdíl mezi tím, jak fungují oni a jak fungují Google, Facebook, Instagram a Twitter. Tito internetoví giganti nezískávají peníze od platících uživatelů, takže jejich obchodní modely jsou založeny na myšlence mikro-cílení. Jsou to obrovské mašinérie poskytující prostor pro reklamu a vydělávající peníze tak, že miliony uživatelů aktivně navštěvují jejich webové stránky, klikají na ně, čtou sponzorované příspěvky, sledují sponzorovaná videa a dívají se na sponzorované fotky. V každém zákoutí internetu se v pozadí skrývají algoritmy, které obchodují s informacemi, o nichž nevíte, že je mají a nikdyjste jim je neposkytli. Z vašich nejosobnějších, soukromých tajemství dělají obchodní komoditu.
Bohužel, v mnoha zemích vás ani moc neochrání zákon. Datoví zprostředkovatelé jsou do značné míry neregulováni a - zejména v Americe - příležitosti k omezení jejich moci vláda opakovaně přehlížela. Například v březnu 2017 hlasoval Senát USA pro zrušení pravidel, která by bránila datovým makléřům v prodeji historie internetového prohlížeče bez
{47}
vašeho výslovného souhlasu. Tato pravidla byla předtím v říjnu 2016 schválena Federální komisí pro komunikaci (FCC); ale po změně ve vládě na konci tohoto roku se proti nim postavila republikánská většina v FCC a republikáni v Kongresu.14
Co to znamená pro vaše soukromí? Budu vám vyprávět o vyšetřování, které vedli německá novinářka Svea Eckertová a vědec v oblasti dat Andreas Dewes, což bývám mohlo pomoci udělat si o věci jasný obrázek.
Eckertová a její tým založili falešného zprostředkovatele dat a použili jej k nákupu anonymních údajů z prohlížečů 3 milionů německých občanů. (Získávání internetové historie lidí bylo snadné. Spousta firem nabízela údaje tohoto druhu k prodeji britským nebo americkým zákazníkům - jedinou výzvou bylo zjištění údajů konkrétně z Německa.) Samotná data byla shromážděna pluginem Google Chromé, který si uživatelé ochotně stáhli, aniž by si vůbec uvědomovali, že je bude špehovat.*
Celkově to představovalo gigantický seznam adres URL. Záznam všeho, na co se lidé v průběhu měsíce na internetu dívali. Každé vyhledávání, každá stránka, každé kliknutí. Všechny záznamy byly legálně nabízeny k prodeji. Pro Eckertovou a její kolegy představovalo jediný problém, že údaje z prohlížečů byly anonymní. Dobrá zpráva pro všechny lidi, jejichž historie byla prodána, že ano? Nebudou se muset stydět. Chyba! Jak členové týmu vysvětlili při prezentaci na DEFCONu v roce 2017, deanonymizace obrovské databáze historií prohlížečů byla mimořádně snadná.
Takhle to funguje. Někdy existovaly přímé stopy vedoucí k totožnosti osoby v samotných adresách URL. Jako v případě každého, kdo navštívil Xing.com, německý ekvivalent Linkedln. Pokud kliknete na svůj profilový obrázek na webu Xing, budete přesměrováni na stránku s adresou, která bude podobná následující:
www.xing.com/profile/Hannah_Fry7sc_omxb_p
* Tento plugin, ironicky nazvaný „Síť důvěry", uvedl všechny tyto informace jasně černé na bílém jako součást všeobecných smluvních podmínek.
V tu chvíli je jméno prozrazeno, zatímco text za uživatelským jménem naznačuje, že uživatel je přihlášen a zobrazuje svůj vlastní profil, takže tým si mohl být jistý, že si člověk prohlíží svou vlastní stránku. A podobně to chodí i s Twitterem. Každý, kdo na Twitteru zkontroloval svou vlastní stránku, se týmu při tomto procesu odhalil. Pro ty, jejichž data neobsahovala okamžitý identifikátor, měl tým v rukávu další trik. Každý, kdo zveřejnil odkaz on-line - třeba prostřednictvím tweetu o webové stránce nebo sdílením svého veřejného playlistu na YouTube - v podstatě každý, kdo zanechal veřejnou stopu svého datového stínu připojeného ke svému skutečnému jménu, se tak bezděčně odhalil. Tým použil jednoduchý algoritmus k překrytí veřejných a anonymizovaných osob,16 vyfiltroval jejich seznam adres URL, aby následně v datovém souboru našel někoho, kdo navštívil stejné webové stránky v ten samý čas a den, kdy byly odkazy na webu zveřejněny. Nakonec měli celá jména prakticky všech osob z datové sady a neomezený přístup k úplné měsíční historii prohlížečů milionů Němců.
Mezi těmito 3 miliony lidí bylo několik významných osobností. Například politik, který on-line vyhledával léky. Policista, který zkopíroval a vložil do služby Google Translate dokument z citlivého případu, jehož podrobnosti se pak objevily v adrese URL a byly pro výzkumné pracovníky viditelné. A soudce, jehož historie prohlížeče vyjevila každodenní návštěvy jedné spíše specifické oblasti internetu. Zde je malý výběr webových stránek, které navštívil během osmi minut v srpnu 2016:
18:22 - http://www.tubegalore.com/video/amature-pov-ex-wife-in-leather-pants-gets-creampie42945.html
18:23 - http://www.xxkingtube.com/video/pov_wifey_ on_sex_ stool_with_beaded_thong_gets_creampie_ 4814.html
18:24 - http://de.xhamster.com/movies/924590/office_ lady_in_ pants_rubbing_riding_best_of_anlife.html
{48}
{49}
18:27 - http://www.tubegalore.com/young_tube/5762-l/ pageO
18:30 - http://www.keezmovies.com/video/sexy-domina-trix-milks-him-dry-1007114?utm_sources
Při tomto každodenním surfovaní soudce také pravidelně vyhledával dětská jména, kočárky a porodnice. Tým dospěl k závěru, že jeho partnerka v té době čekala dítě.
Jednu věc si rovnou vyjasněme: tento soudce nedělal nic protizákonného. Mnozí - včetně mě - by řekli, že ani nedělal vůbec nic špatného. Nicméně tento materiál by se přesto hodilo mít v rukou někomu, kdo by chtěl soudce vydírat nebo zostudit jeho rodinu.
A v tomto bodě se začínáme velmi nahýbat přes onu strašidelnou čáru. Když se o vás bez vašeho vědomí shromažďují soukromé a citlivé informace, aby vámi bylo možné manipulovat. Což je samozřejmě přesně to, k čemu došlo v souvislosti s britskou politickou poradenskou společností Cambridge Analytica.
Cambridge Analytica
Značnou část příběhu zřejmě znáte.
Od osmdesátých let používají psychologové ke kvantitativnímu popisu osobnosti jedince systém pěti charakteristik. Získáte skóre pro každý z následujících rysů: otevřenost vůči zkušenostem, svědomitost, extraverze, přívětivost a neurotici-smus. Společně poskytují standardizovaný a užitečný způsob, jak vyjádřit, jakou máte osobnost.
V roce 2012, rok předtím, než se Cambridge Analytica objevila na scéně, začala skupina vědců z Univerzity v Cambridgi a ze Stanfordovy univerzity hledat spojení mezi pěti osobnostními rysy a stránkami, které lidé „lajkují" na Facebooku.17 Sestavili za tímto účelem facebookový kviz, který umožňuje uživatelům projít skutečnými psychometrickými testy, a doufali, že najdou spojení mezi skutečnou osobností člověka a jeho virtuální osobou. Lidé, kteří si kviz stáhli, vědomě předali údaje
{50}
o obojím: historii svých lajků na Facebooku a prostřednictvím řady otázek své skutečné osobnostní skóre.
Je snadné představit si, v jakém vztahu mohou být lajky a osobnost. Jak uvedl tým v článku, který publikoval v následujícím roce,18 lidé, kteří mají rádi Salvadora Dalího, meditace nebo přednášky TED, získají téměř jistě vysoké skóre otevřenosti vůči zkušenostem. Zatímco lidé, kteří mají rádi párty, tanec a Snooki z televizní reality show Jersey Shore, mají tendenci být poněkud extravertní. Výzkum skončil úspěchem. Při hledání spojení vytvořil tým algoritmus, který by mohl vyvodit něčí osobnost čistě podle jeho lajků na Facebooku.
V době, kdy se v roce 2014 objevila jejich druhá studie,19 výzkumný tým tvrdil, že pokud byste shromáždili 300 lajků od něčího profilu na Facebooku, algoritmus by dokázal posoudit jeho charakter přesněji nežli choť dotyčné osoby
Rychle se posuňme v čase směrem k dnešku, kdy akademická výzkumná skupina - Psychometrics Centre z Univerzity v Cambridge - rozšířila svůj algoritmus tak, aby předpovídal charakter také z vašich příspěvků na Twitteru. Mají webové stránky přístupné komukoli, kde si to můžete sami vyzkoušet. Vzhledem k tomu, že můj twitterový profil je veřejně přístupný, rozhodla jsem se, že si sama otestuji předpovědi výzkumníků, a tak jsem nahrála svou historii z Twitteru a vyplnila tradiční dotazník založený na osobnostní studii. Algoritmus zvládnul přesně vyhodnotit tři z pěti rysů. I když, jak se ukázalo, podle tradičního testu osobnosti jsem mnohem extravertnější a neurotičtější, než se zdá podle mého profilu na Twitteru.*
Všechna tato práce byla motivována úvahami, jak by mohly být její výsledky využity v reklamě. Takže od roku 201720 přešel stejný tým akademiků k experimentování se zasíláním reklamy šité na míru osobnostním rysům jednotlivce. S využitím platformy Facebook šířili reklamy na kosmetický přípravek pro extraverty pomocí sloganu „Tanči, jako by se nikdo nedíval (ale oni se dívají všichni)", zatímco introvertům se zobrazoval
* Zdá se, že tato konkrétní kombinace naznačuje, že bych toho zveřejnila daleko více, kdybych se nemusela obávat, co z toho vzejde.
{51}
obrázek usmívající se dívky stojící před zrcadlem s frází „Krása nemusí křičet."
V paralelním experimentu, cíleném na osoby otevřené vůči zkušenostem, se objevily reklamy zaměřené na křížovky, které používaly obrázek s textem: „Aristoteles? Seychely? Uvolněte svou kreativitu a vyzkoušejte svou představivost s neomezeným počtem křížovek!" Stejné křížovky byly představovány lidem málo otevřeným, přičemž používaly odlišné znění: „Usaďte se s odvěkým favoritem! Křížovky, které byly výzvou celým generacím hráčů." V souhrnu se tým domnívá, že užití reklamy odpovídající charakteru osoby zvýšilo počet kliknutí o 40% a nákupy až o 50%, oproti situaci, kdy se používaly generické, nepersonalizované reklamy. Pokud si chcete objednat reklamu, tohle na vás udělá dojem.
Po celou dobu, co akademici publikovali výsledky své práce, jiní lidé jejich metody zaváděli do praxe. Mezi nimi, říká se, byla i Cambridge Analytica v průběhu své práce na volební kampani Donalda Trumpa.
Ted se vraťme o kousek zpět. Není pochyb o tom, že společnost Cambridge Analytica používala stejné techniky jako moje imaginární luxusní cestovní kancelář Fry's. Jejich strategií bylo identifikovat malé skupiny lidí, o kterých se domnívali, že byje bylo možné přesvědčit, a poté se zaměřili přímo na ně, namísto toho, aby vysílali všeobecnou reklamu. Například zjistili, že existuje vysoká míra překryvu mezi lidmi, kteří si koupili kvalitní automobil Ford vyrobený v Americe, a lidmi, kteří se zaregistrovali coby podporovatelé republikánské strany. Takže začali hledat lidi, kteří upřednostňovali značku Ford, ale republikány ve volbách nevolili, aby zjistili, zda dokáží jejich názory ovlivňovat celoamerickými reklamami hrajícími na strunu vlastenectví. V jistém smyslu se to příliš neliší od situace, kdy kandidát odhalí konkrétní čtvrť plnou váhajících voličů a chodí ode dveří ke dveřím, aby se jednoho po druhém pokusil přesvědčit. A v on-line světě to znamená totéž, co dělali během svých kampaní Obama a Clintonova. Každá významná politická strana v západním světě používá rozsáhlé analýzy a mikro-cílení na voliče.
Pokud však lze věřit skrytým záběrům pořízeným reportérem Channel Four News, společnost Cambridge Analytica využívala také osobnostní profily voličů, aby předkládala emocionálně nabité politické zpravodajství - například vyhledala svobodné matky, které dosahují vysokého stupně neuroticis-mu a zoufale se bojí, že je ve vlastním domě někdo napadne, a pokusila se přimět je k podpoře lobby vlastníků zbraní. Komerční inzerenti využívali ve značné míře tyto techniky jistě také a stejně tak pravděpodobně i jiné politické kampaně.
Ale kromě toho je Cambridge Analytica obviňována také z toho, že vytvářela reklamy a vydávala je za žurnalistiku. Podle výpovědi jednoho whistleblowera v Guardianu byla jednou z nej efektivnějších reklam během kampaně interaktivní grafika s názvem „10 nepohodlných pravd o nadaci Clintonových".21 Jiný whistleblower zašel ještě dál a tvrdil, že „články" vydané společností Cambridge Analytica byly často založeny na prokazatelných nepravdách.22
Pro účely diskuse předpokládejme, že všechny výše uvedené skutečnosti jsou pravdivé: Cambridge Analytica předkládala manipulativní falešné zprávy uživatelům Facebooku na základě jejich psychologických profilů. Otázka zní: fungovalo to?
Mikro-manipulace
V tom, jak vnímáme sílu cílených politických reklam, existuje asymetrie. Rádi bychom sami sebe považovali za nezávislou bytost, imunní vůči manipulaci, a přesto si představujeme, že ostatní lidé - zvláště ti odlišného politického přesvědčení -jsou fantasticky lehkověrní. Realita je pravděpodobně někde mezi tím.
Víme, že příspěvky, které vidíme na Facebooku, mají moc změnit naše emoce. Kontroverzní experiment, který spustili zaměstnanci Facebooku v roce 2013, manipuloval s 689 003 uživateli bez jejich vědomí (a souhlasu) při pokusu ovládat jejich emoce a ovlivňovat jejich náladu.23 Experimentátoři potlačili příspěvky přátel, které obsahovaly pozitivně zabarvená slova, jindy udělali totéž s těmi, které obsahovaly negativně
{52}
{53}
zabarvená slova, a sledovali, jak budou v tom či onom případě reagovat nic netušící subjekty. Uživatelé, kterým se zobrazoval méně negativní obsah, sami pokračovali v publikování pozitivnějších věcí. Zatímco ti, kterým byly pozitivní příspěvky skryty, používali sami více negativních slov. Závěr: Možná si myslíme, že jsme imunní vůči emocionální manipulaci, ale pravděpodobně nejsme.
Díky Epsteinovu experimentu, který je popsán v kapitole „Moc", také už víme, že i pouhé seřazení stránek ve vyhledávači může stačit k tomu, aby nerozhodnutí voliči upřednostnili jednoho kandidáta před druhým. Díky práci, kterou provedli skuteční akademičtí pracovníci, jejichž algoritmy Cambridge Analytica napodobila, také víme, že reklamyjsou efektivnější, pokud se zaměřují na osobnostní rysy.
To všechno dohromady představuje silný argument, který naznačuje, že tyto metody mohou ovlivnit, jak lidé hlasují, stejně jako za co utrácejí své peníze. Ale - a je to docela velké ale - existuje ještě něco, co byste měli vědět předtím, než si uděláte názor.
Všechno výše uvedené je pravda, ale reálné účinky jsou skromné. Ve facebookovém experimentu uživatelé skutečně častěji zveřejňovali pozitivní zprávy, pokud byli chráněni před zprávami negativními. Rozdíl však činil méně než jednu desetinu procentního bodu.
Podobně v případě cílených reklam - prodávat make-up introvertům mělo větší úspěch, když reklama zohledňovala charakter člověka, ale rozdíl, o který šlo, byl nepatrný. Generická inzerce přiměla 31 lidí z 1000, aby na ni klikli. Ta cílená 35 z 1000. Dokonce i údaj o 50% zlepšení, který jsem citovala na straně 52, a který je tučně vyveden v titulku akademického článku, se ve skutečnosti vztahuje na nárůst z 11 kliknutí z 1000 na 16.
Takže tato metoda může fungovat, ano. Inzerenti však své zprávy nevpraví přímo do mysli pasivního publika. Nejsme snadné oběti. Jsme mnohem zdatnější v ignorování reklamy nebo odhalování propagandy, než by si lidé, kteří tyto zprávy rozesílají, přáli. Koneckonců, dokonce i v nejlepších
{54}
a nejznámějších přesně zacílených kampaních dojde k uplatnění jen malého vlivu na cílový efekt.
A přesto, ve volbách mohou potenciálně být ty malé drobné vlivy právě to, co potřebujete k převrácení poměru sil. V populaci desítek nebo stovek miliónů se mohou tito „jedni z tisíce" rychle nasčítat. A pokud si vzpomenete - na což poukázal Jamie Bartlett v časopise Spectator - že Trump zvítězil v Penn-sylvánii o 44 000 hlasů při šesti milionech voličů, ve Wisconsi-nu o 22 000 a v Michiganu o 11 000, pochopíte, že marginálních „méně než 1 %" může být někdy právě to, co potřebujete.24
Faktem je, že je nemožné určit, jak velký to všechno mělo ve skutečnosti vliv na prezidentské volby v USA. I kdybychom měli dokonce přístup ke všem faktorům, nemůžeme se vrátit zpět do minulosti a rozmotat spletitou síť příčin a následků, abychom zjistili jediný pravý důvod něčího rozhodnutí, komu dát svůj hlas. Co se stalo, stalo se. Záleží na tom, co přijde v budoucnu.
Ohodnoť mě
Je důležité si uvědomit, že jsme z tohoto dosavadního pojetí internetu měli všichni prospěch. Lidé na celém světě mají volný a snadný přístup k okamžitým globálním komunikačním sítím, bohatství lidského poznání na dosah ruky, nejnovější informace z celého světa a neomezené využití nejpozoru-hodnějšího softwaru a technologií vytvořených soukromými společnostmi, to vše zaplaceno reklamami. Takovouto dohodu jsme uzavřeli. Volně dostupná technologie na oplátku za vaše data a možnost využívat je k vašemu ovlivňování a vykořisťování. To nejlepší a to nejhorší z kapitalismu v jedné jednoduché směně.
Mohli bychom si říci, že jsme s touto dohodou spokojeni. A je to naprosto v pořádku. Ale pokud tak učiníme, je důležité si na prvním místě uvědomit nebezpečí shromažďování údajů o nás. Musíme zvážit, kam by nás tyto databáze mohly dovést - a to i mimo rámec otázek ochrany soukromí a potenciálu oslabit demokracii (jako kdyby to nebylo samo o sobě
{55}
dost zlé). V našem dystopickém příběhu přichází další zvrat. Aplikace využívající tyto bohaté, propojené databáze, která by se hodila do populárního science fiction seriálu Black Mirror společnosti Netflix, totiž existuje i ve skutečnosti. Je známa pod názvem Sesame Credit, systém pro hodnocení občanů používaný čínskou vládou.
Představte si, že každá informace, kterou o vás může mít zprostředkovatel dat, se zredukuje najedno číslo. Vše se změní na čísla. Historie vašeho účtu, číslo vašeho mobilního telefonu, vaše adresa - takové obvyklé věci. Ale stejně tak všechno vaše každodenní chování. Vaše příspěvky na sociálních sítích, data z vaší cestovní aplikace, dokonce i vaše záznamy z internetové seznamky. Výsledkem je jediné číslo mezi 350 a 950 body.
Sesame Credit neposkytuje podrobnosti o svém „složitém" skórovacím algoritmu. Ale Li Yingyun, technologický ředitel společnosti, zveřejnil některé příklady toho, co by bylo možné vyvodit z výsledků, v rozhovoru pro pekingskou společnost Caixin Media. „Někdo, kdo například hraje deset hodin denně videohry, by mohl být považován za nečinného člověka. Někdo, kdo často kupuje plenky, by mohl pravděpodobně být považován za rodiče, u něhož je pravděpodobnější pocit zodpovědnosti."25
Jste-li Číňan, pak vám na tomto skóre záleží. Pokud činí vaše hodnocení více než 600 bodů, můžete získat speciální kreditní kartu. Pokud máte přes 666 bodů, budete odměni vyšším limitem kreditu. Ti, kdo mají skóre nad 650 bodů, si mohou pronajmout auto bez složení zálohy a využívat prostor pro VIP na letišti v Pekingu. Každý, kdo má více než 750 bodů, si může ve zrychleném režimu vyřídit vízum do Evropy.26
Zatím je to všechno zábava a hra, dokud je účast v systému dobrovolná. Pokud se však zapojení do systému pro hodnocení občanů stane v roce 2020 povinným, lidé s nízkým skóre pocítí jeho dopad ve všech aspektech svého života. Vládní dokument o systému popisuje příklady trestů, které mohou být vyměřeny každému, kdo by byl pokládán za neposlušného: „Omezení při opouštění země, omezení koupě... nemovitostí, cestování letadlem, turistiky a dovolené, či pobytu v luxusních hotelech."
{56}
Také varuje, že v případě „vážného porušení důvěry ze strany subjektů" bude „nařízeno komerčním bankám... omezit poskytování úvěrů, pojištění prodeje a jiné obdobné služby."27 Loajalita je oceňována. Ztráta důvěry je trestána. Jak říká Rogier Creemers, akademik specializující se na čínské právo a systém vládnutí z Van Vollenhovenova institutu na Leidenské univerzitě: „Nejlepší způsob, jak si to celé představit, je coby druh zvráceného potomka věrnostních programů."28
Pokud jde o Sesame Credit vám nic pozitivního říct neumím, ale nechci vás úplně naplňovat pocitem zkázy ani zármutkem. Na jiných místech naopak nacházíme záblesky naděje. Jakkoli se cesta vpřed jeví neschůdná, existují náznaky, že se věci pomalu mění k lepšímu. Mnozí ve vědecké komunitě o tom vědí a už po nějaký čas protestují proti využívání osobních informací pro zisk. Ovšem až do pozdvižení okolo Cambridge Analytica nebyla těmto problémům věnována vytrvalá, mezinárodní pozornost na prvních stránkách novin. Když tento skandál počátkem roku 2018 odstartoval, veřejnost se poprvé dozvěděla, jak algoritmy potichu sbírají údaje o lidech, a uznala, že bez dohledu nebo regulace by to mohlo mít dramatické důsledky.
A regulace přichází. Pokud žijete v EU, nedávno se objevila nová legislativa nazvaná GDPR - Obecné nařízení o ochraně osobních údajů - která by měla mnohé z toho, co provádějí zprostředkovatelé dat, postavit mimo zákon. Teoreticky již nebudou smět shromažďovat data bez deklarovaného záměru. Nebudou smět odvozovat o vás informace bez vašeho souhlasu. A nebudou smět shromažďovat údaje na základě vašeho povolení k využití z určitého důvodu, a pak je tajně používat jinak. Nicméně, to však nutně neznamená konec takovýchto praktik. Jedním důvodem je, že když se proklikáváme internetem, často nevěnujeme pozornost smluvním podmínkám, takže možná k něčemu dáme souhlas, aniž bychom si to uvědomovali. Dalším je pak to, že identifikace nezákonných postupů a prosazování předpisů zůstává obtížná ve světě, kde se většina analýz a přenosů dat odehrává ve stínu. Budeme muset počkat a uvidíme, jak se to celé vyvine.
{57}
Evropané mají štěstí, ovšem i v Americe se najdou lidé, kteří prosazují regulaci. Federální obchodní komise zveřejnila v roce 2014 zprávu, která odsuzovala pochybné praktiky zprostředkovatelů dat a od té doby aktivně prosazuje posilování práv spotřebitelů. Společnost Apple nyní vestavěla „inteligentní prevenci sledování" do prohlížeče Safari. Totéž učinil Firefox. Facebook zpřetrhává vazby se svými zprostředkovateli dat. Argentina a Brazílie, Jižní Korea a mnohé další země zavedly zákony podobné GDPR. Evropa může být v čele pelotonu, ale existuje celosvětový trend směřující správným směrem.
Pokud jsou data nové zlato, žijeme na Divokém západě. Ale optimisticky věřím, že - pro mnohé z nás - to nejhorší bude brzy za námi.
Přesto je dobré mít na paměti, že nikdo vám nedá nic zadarmo. Jakkoli právo dohání zpoždění a bitva mezi zisky firem a prospěchem společnosti probíhá, musíme být opatrní, abychom se nenechali ukolébat falešným pocitem soukromí. Kdykoli používáme algoritmus - zejména bezplatný - musíme se sami ptát po skrytých podnětech. Proč mi tato aplikace zdarma poskytuje všechny tyto věci? Co tento algoritmus vlastně dělá? Jsem s tímto obchodem spokojená? Nebylo by lepší obejít se bez něj?
Tohle je lekce, která výrazně přesahuje virtuální realitu, protože dosah těchto druhů výpočtů se nyní rozšiřuje na prakticky každý aspekt společnosti. Data a algoritmy nemají pouze moc předvídat naše nákupní návyky. Mají také moc připravit někoho o svobodu.
Spravedlnost
{58}