Soumrak soukromí

Není to tak dávno, co byl zakladatel Facebooku Mark Zuckerberg nucen odložit své oblíbené šedé tričko. Upjatý v tmavém obleku vysvětloval před vyšetřovací komisí amerického kongresu, jak se mohlo stát, že k obsahu facebookových účtů téměř 87 milionů uživatelů získala přístup společnost Cambridge Analytica.

Začátkem června 2018 vyplaval na povrch další skandál. Data více než dvou miliard uživatelů Facebooku jsou sdílena také s největšími výrobci elektroniky, mezi nimiž nechybí Apple, Samsung či Microsoft. Poněkud však utekla podstata celého skandálu. Co vše lze zjistit z vaší digitální stopy a jaké důsledky může mít, pokud toho někdo zneužije.

Naše digitální stopa o nás vypovídá mnohem více, než si myslíme. Postoj Nic neskrývám a na webu nesdílím nic důležitého je ukázkou naší naivity. Chceme-li odhadnout co nejpřesněji něčí osobnost, nejsou psychometrické testy zdaleka tím nejlepším nástrojem, který máme k dispozici. Mnohem přesnější je analýza stop a výsledků chování dotyčného či pozorování v reálném čase. A právě to digitální technologie umožňují v doposud nebývalé míře.

Vědí na vás všechno

Jsme obklopeni digitálními produkty a službami, které zprostředkovávají naše aktivity, komunikaci a sociální interakce. Jak se chováme na síti, myšlenky a emoce, které zde projevujeme, to vše zanechává masivní digitální stopu. Většinu své digitální stopy zanecháváme dobrovolně – historii procházení webu, transakce z online i offline nákupů, fotky a videa, záznamy o poloze GPS, seznamy médií, která čteme, protokoly hlasových hovorů a videohovorů, jazyk použitý v tweetech nebo e-mailech a mnoho dalšího.

Data sbírají chytré televize, chytré telefony i internetové prohlížeče. Množství těchto dat je ohromující. Facebook uchovává nejen všechny naše zveřejněné statusy, lajky a vzkazy, ale také ty, které jsme smazali nebo které jsme se nakonec z nějakého důvodu rozhodli nezveřejnit.

Nejnovější telefony mají senzory, které dokážou rozpoznat váš srdeční tep. Fitness náramky umí měřit váš fyziologický stav. Pokud sledujete na internetu porno (což je statisticky pravděpodobné, protože kolem 40 % internetového provozu tvoří pornostránky), jsou někde na síti monitorovány a uchovávány vaše sexuální preference.

Poznatky z behaviorální psychologie, otevřený přístup k velkému množství dat a pokrok ve strojovém učení (tzv. deep learning) vytvořily výbušnou kombinaci, jejíž důsledky pro nás a pro společnost zatím ještě nejsme schopni dohlédnout. Informační technologie umožňují nyní automatické zpracování ohromného množství dat, při kterém si počítačový algoritmus sám hledá vztahy mezi zdánlivě nesouvisejícími informacemi a dokáže z nich vyvodit patřičné závěry.

Facebook jako okno do duše

Vaše digitální stopa může být použita k vytvoření psychologického profilu v lepší kvalitě, než kdybyste prošli celodenním psychologickým hodnocením. Abychom se někomu dostali do hlavy, už nepotřebujeme klasické psychologické dotazníky nebo někoho pozorovat při modelových situacích v rámci Assessment Centra.

Dávat otázky nemá smysl, když se stačí podívat na něčí internetový profil a získáte všechny informace a odpovědi, které potřebujete. Navíc klasické psychologické testy mají své limity. Pokud dokážete odhadnout, co se skrývá za otázkami a jaký je očekávaný optimální výsledek, můžete výsledky testů do jisté míry zmanipulovat i přes přítomnost takových pojistek, jako je lži skóre.

Na druhé straně lze dlouhodobě těžko zakrývat svoji skutečnou osobnost na internetu. Pokud se na síti sedm let v kuse projevujete jako extrovert, tak jím také budete.

I když některé údaje o sobě na internetu cíleně nesdílíme, neznamená to, že k nim nemá nikdo přístup. Lidé se mohou rozhodnout, že nebudou odhalovat určité informace o svém životě, jako je jejich sexuální orientace nebo věk, a přesto mohou být tyto informace předpovězeny statisticky z jiných aspektů jejich života, které na webu odhalují.

Na základě vaší digitální stopy lze odhadnout váš osobnostní profil, profesní předpoklady, inteligenci či aktuální míru duševní pohody. Ukázalo se například, že předpovědní model založený na Facebook Likes (což by se zdálo, že je relativně obecný typ digitální stopy) je při dostatečném množství lajků pozoruhodně přesný.

Jak dokázal ve svém výzkumu psycholog Michal Kosinski ze Stanfordské univerzity, který se dlouhodobě věnuje možnostem interpretace digitální stopy, nepotřebujete příliš mnoho dat, abyste dokázali odhadnout něčí psychologický profil.

• Už na základě desítky lajků dokáže odhadnout vaši osobnost lépe než vaši kolegové v práci.
• Stovka stačí, aby vás počítačový algoritmus dokázal odhadnout lépe než vaši přátelé či rodinní příslušníci.
• A váš dlouholetý partner může být ve svém odhadu vaší osobnosti a reakcí překonán analýzou na základě 250 lajků.

Kosinského průlomová studie z roku 2013 vycházela z datové sady více než 58 tisíc dobrovolníků, kteří poskytli přístup ke svým facebookových účtům, podrobné demografické profily a výsledky několika klasických psychometrických testů. Se svými kolegy také vyvinul algoritmus, který pouze na základě profilových fotek na Facebooku dokáže s vysokou přesností odhadnout vaši sexuální orientaci. V našich tolerantních končinách to je úsměvné. Ale jsou státy, kde za homosexualitu stále hrozí trest smrti.

Propaganda a manipulace na míru

Pokud znáte něčí osobnost, můžete mu ušít vzkazy na míru, aby s ním co nejvíce rezonovaly. Reklama či propaganda naslepo, kdy miliony lidí dostanou stejné sdělení, jsou mrtvé. Komunikace na internetu je velmi zacílená. Je doslova individualizovaná pro každou osobu.

Dříve reklama či propaganda fungovala tak, že tým vysoce inteligentních a vzdělaných odborníků vymýšlel univerzální sdělení, kterým by zapůsobil na co nejvíce lidí, a pak se je za použití masových sdělovacích prostředků pokoušel protlačit k obecenstvu. Pracovalo se s údaji, jako je věk, vzdělání, bydliště či výše příjmu, a na základě těchto údajů se marketéři snažili upravit sdělení a vybrat vhodné médium.

Nyní už není nutné přemýšlet nad tím, které sdělení pro koho funguje. Díky datům, která jsou k dispozici, víme, jaký typ sdělení funguje u konkrétního člověka, a navíc získáváme zpětnou vazbu v reálném čase.

Víme, že například pro vysoce neurotické a svědomité lidi potřebujete racionální a strach vyvolávající argumenty. Takže pokud byste potřebovali někoho přesvědčit o potřebě regulovat zbraně, víte, že na něj bude účinkovat statistika o počtu spáchaných trestných činů se střelnou zbraní. Kopete-li naopak za zachování možnosti mít střelnou zbraň, nabídnete mu statistku, kolik lidí se střelnou zbraní kriminálnímu činu ubránilo.

Přesně tyto nástroje a přístupy použila k ovlivňování voleb společnost Cambridge Analytica, která je obviňována z neoprávněného přístupu k datům na Facebooku.

Navíc pokud je společnost polarizována, jak tomu bylo v případě prezidentského volebního boje mezi Trumpem a Clintonovou v USA nebo referenda o brexitu, kde Cambridge Analytica pracovala pro vítězné strany, či při nedávných prezidentských volbách u nás, nepotřebujete přesvědčit o své pravdě masy. Stačí zmanipulovat jen pár přesně vytipovaných procent, která tvoří příslovečný jazýček na vahách.

Digitální tyranie

Je strašidelné, co umožnuje kombinace současné technologie a psychologických výzkumů. Mnozí varují před možnostmi zneužití digitálního sledování a ovlivňování ze strany vlád i korporací. Některé vlády se vás však nebudou ptát.

Zatímco západní společnost řeší téma ovlivňování voleb a cílené propagandy, v Číně se rozhodli jít mnohem dál. Prostě vám to spočítají. Čínský stát vytváří rozsáhlý systém sledování a vyhodnocování digitální stopy, který bude sledovat a hodnotit chování jeho obrovského počtu obyvatel. Program má být plně funkční do roku 2020, ale je již zkoušen na desítkách milionů lidí. Účast v programu má být povinná.

Sociální skóre osoby se může pohybovat nahoru a dolů v závislosti na chování. Přesná metodika výpočtu je tajemstvím – váš sociální kredit může ovlivnit i špatné řízení, kouření v nekuřáckých zónách, nákup příliš mnoha videoher, sledování pornografie či zveřejňování a sledování nežádoucích zpráv na sociálních sítích.

Na testování systému se podílejí i soukromé společnosti. Největší čínský e-shop Alibaba používá Sesame Credit, který přiděluje skóre mezi 350 až 950 body. Sleduje platební morálku, nákupy, pohyb lidí i skóre jejich přátel nebo komentáře na sociálních sítích. Systém funguje tak, že lidé s vysokým skóre nemusí například při půjčení auta platit zálohu. Naopak ti, kteří mají skóre nízké, musí při objednání hotelu skládat depozit. Lidé se tak pro své vlastní větší pohodlí a lepší služby snaží mít skóre co největší. V rámci Alipay je v systému již na 200 milionů lidí.

Čína již začala trestat lidi s nízkým skóre omezováním možností cestování. Devíti milionům občanů s nízkými skóre byl zablokován přístup k nákupu vstupenek na vnitrostátní lety, třem milionům byl znemožněn přístup do byznys třídy ve vlacích, uvedla agentura Channel News Asie v březnu. Kolega, který se nedávno vrátil z pracovní cesty z Číny, potvrdil, že sociální kredit je běžnou součástí tamní reality. Nízký sociální kredit vám znemožní získat solidní zaměstnání či pronájem v dobré čtvrti. Samozřejmě pokud se budete chovat správným způsobem, může vám sociální kreditní systém přinést výhody.

Jenže kdo určí a spočítá, co je správné? Konec svobody může přijít ve formě počítačového algoritmu.

Zdroje a literatura:

Michal Kosinski, David Stillwell, and Thore Graepel (2013). Private traits and attributes are predictable from digital records of human behavior

Wang, Y., & Kosinski, M. (2018). Deep neural networks are more accurate than humans at detecting sexual orientation from facial images

Michal Kosinski, Yoram Bachrach,Pushmeet Kohli, David Stillwell,Thore Graepel (2013). Manifestations of user personality in website choice and behaviour on online social networks

Alexander Nix (2016). Cambridge Analytica – The Power of Big Data and Psychographics (video)