Odpor vůči ovlivňování lidí online podle Williamse

O Jamese Wilsona Williamse jsem se začal zajímat, když jsem zjistil, že si ho CoSN pozvalo jako hlavního řečníka na svou výroční konferenci. Jedná se o dalšího z řady odborníků, kteří varují před bezmyšlenkovitým využíváním současných online platforem – tedy hlavně sociálních sítí. Že ví, o čem mluví, prokazuje jeho profesní dráha. Jako student to dotáhl až k doktorátu na Oxfordu, kde se stal posléze vědeckým pracovníkem. 10 let pak působil jako specialista na reklamní strategie u Google, aby se nakonec na Oxford zase vrátil. Jeho životní dráha je tak velmi podobná Tristanu Harrisovi, na jehož kampani proti ovlivňování lidí technologiemi se podílí (viz Dobře strávený čas podle Tristana Harrise).

Jamese proslavila jeho kniha Stand Out of Our Light: Freedom and Resistance in the Attention Economy (Běžte nám ze světla: Svoboda a odpor v ekonomice pozornosti). Za zmínku stojí již samotný způsob jejího vzniku v rámci Nine Dots Prize. Jedná se o program, který vybírá jednu z anonymních odpovědí (ve skutečnosti vlastně již námětů na dosud nenapsanou knihu) o délce max. 3 tisíce slov na danou otázku a poskytuje autorovi 100 tisíc dolarů na tvorbu. Ta otázka v roce 2016 zněla: „Likvidují digitální technologie politiku?“ Vítězem se stal James Williams. Cambridge University Press nabízí PDF celé knihy zdarma.

James se inspiroval u starořeckého filozofa Diogena (4. st. př. n. l.), který údajně na dotaz největšího panovníka té doby Alexandra Velikého, co pro něj může udělat, odpověděl: „Odstup mi ze slunce.“ Na tomto příběhu buduje analogii se současnou mocí v podobě digitálních Alexandrů, kteří lidem skutečně „plní mnohá jejich přání“ [1, str. 3]. Aby ta analogie dávala smysl, je třeba si uvědomit, že i tito světoví digitální vůdci mají ve zvyku nám bránit vidět věci nezkresleně. Hlavním pomocníkem v této jejich snaze je upoutávání naší pozornosti.

Díky prokazatelně existujícímu ovlivňování se skutečné potřeby lidí a cíle na technologie se orientujících společností rozcházejí. Typickými lidskými potřebami jsou např. naučit se hrát na piano, trávit více času s rodinou, přečíst si knihu apod., zatímco hlavním cílem technologiemi podporovaných online platforem je přimět uživatele, aby na nich trávil co nejvíce času a prohlédl si co nejvíce obsahu, který přizpůsobují jeho preferencím. Ve skutečnosti nevytvářejí takové produkty jako jiní výrobci, snaží se utvářet podle svých potřeb samotné uživatele. Ve svém důsledku tak formují celou společnost (Foggův model ovládání lidí technologiemi).

James v této souvislosti připomíná známé dilema, které popsal v roce 1984 ve své knize Ubavit se k smrti Neil Postman. Jde o to, zda další vývoj lidstva bude připomínat spíše Orwellovu Farmu zvířat nebo Huxleyho Konec civilizace (viz otázka „Jakých rizik bychom se v nejbližší budoucnosti měli vyvarovat?“ v Rozhovoru s vizionářem). Skoro to začíná vypadat, že moderní technologie vybavené umělou inteligencí jsou schopny obě katastrofické vize spojit a zábavy chtivé občany ovládnout.

James připouští, že funkční řešení nezná, ale trvá na tom, že se musíme touto problematikou zabývat. Jestliže tvrdíme, že technologie ovlivňují vědomí lidí, je třeba si definovat, co tím vlastně myslíme. Inspirován filozofem Harry Frankfurtem James používá pro popis vědomí přirovnání ke světlu, které nám umožňuje vidět věci kolem sebe. Prostřednictvím světla definuje tři typy vědomí [1, str. 49]:

Bodové světlo – naše okamžitá schopnost obrátit pozornost k úkolu, na němž pracujeme;

Světlo hvězd – naše schopnost nasměrovat svůj život ke splnění vyšších cílů (navigovat podle hvězd);

Denní světlo – základní schopnosti umožňující definovat naše životní cíle jako např. reflexe, metakognice, chápání, inteligence ad.

To, jaké světlo na nás svítí, nemáme plně pod kontrolou, a má to přímý vliv na naše chování. Součástí života většiny dnešních lidí je prostředí spoluvytvářené technologiemi (v mnoha případech okupuje podstatnou část bdělého stavu). Takže působí na všechny typy vědomí (světla). Rozpoznat tento vliv je nejjednodušší u světla bodového. Sem patří všechny všeobecně známé přímé útoky na naši pozornost – cukrátka mysli (reklamy, personalizovaný obsah, prodlužování pobytu na soc. sítích apod.). James používá termín „clickbait“, což je obsah, jehož úkolem je přimět návštěvníka, aby klikl na odkaz na určitou webovou stránku.

Navigovat svůj život podle hvězd znamená, že máme nastaveny určité zásady, morální kodex a způsob vnímání věcí (mentální modely), podle nichž každou situaci vyhodnocujeme. Reprezentací těchto našich zásad online je naše digitální stopa. Přirovnání ke světlu hvězd vyvolává dojem, že jsou naše mentální modely ustálené. Je tomu tak bohužel jen u výjimečných osobností. U většiny lidí (nejen u dětí) jsou životní postoje ovlivnitelné okolím. James tuto skutečnost dokládá slovy oxfordského filozofa Neila Levyho [1, str. 24]: „Autonomie je vývojově závislá na prostředí. Autonomními individualitami schopnými kontrolovat své chování na základě našich osobních hodnot se stáváme pouze tehdy, když prostředí, v němž vyrůstáme, je vhodně strukturováno a podporuje sebekontrolu.“

Přirovnání ke světlu hvězd ale není úplně zavádějící. Ovlivnit tento druh vnímání totiž nelze skokem. Hvězdy obvykle umožňují udržovat směr našeho chápání věcí určitým způsobem. Potíž je v tom, že jejich nastavení lze u každého jedince měnit postupně. Dochází k tomu tehdy, když v prostředí denního světla začne mnoho bodových světel význam věcí pomalu měnit. Člověk si většinou při prvním kontaktu s nesmyslnou zprávou (fake news) uvědomí, že to možná není pravda. Jejich větší množství, opakovaní, ohýbání a šíření různými směry však může naše přesvědčení zvolna posouvat, až nakonec dojde k úplné změně postoje (přenastavení hvězd).

Zásadní problém, před kterým stojí naše civilizace, spočívá v tom, že „inteligentní“ algoritmy, které řídí současné platformy, umí stále lépe vnímání lidí ovlivňovat (hvězdy přenastavovat). Přitom pracují v zájmu svých vlastníků, tedy několika málo jedinců. Lidé si to většinou neuvědomují, ale zájmy vlastníků platforem jsou zatím většinou jiné než zájmy uživatelů.

James si jako skutečný praktický příklad cílevědomého pomalého posouvání vnímání etických hodnot celé společnosti vybral nenápadnou změnu postojů německé společnosti v 30 letech minulého století, jak ji popisuje Milton Mayer v knize „Mysleli si, že jsou svobodní“ [1, str. 94]: „Kdyby ten poslední a nejhorší akt (např. zpráva o likvidaci židů) toho celého režimu přišel okamžitě po tom prvním a nejmenším, tisíce, ano, i miliony by byly dostatečně šokovány … Ale samozřejmě, tímto způsobem se to nedělo. Mezi tím přišly ty stovky malých krůčků, některé z nich i nepostřehnuté, z nichž každý vás připravoval na to, abyste nebyli šokováni při tom dalším … A jednoho dne, když už je příliš pozdě, se vaše principy, pokud jste je někdy měli, všechny najednou zhroutí a vy vidíte, že se vám před nosem změnilo všechno ... Najednou žijete ve světě nenávisti a strachu a lidé, kteří nenávidí a bojí se, si to sami vůbec neuvědomují.“

Snad je tedy již jasné, co chce James říci, když žádá, aby současní digitální Alexandři lidem nebránili vidět svět nezkresleně. Chce, abychom se hromadně rozhodli své svobodné vnímání informací bránit. Minimálně o těchto věcech začali více mluvit, a byl tak vyvolán větší tlak na řešení. Představuje si, že pak se zapojí i vlády všech (dosud) demokratických zemí, i ti technologičtí giganti (jako např. právě Google), kteří mají zájem na budoucnosti lidstva. Jedním z prostředků, který James navrhuje zavést, je přísaha pro designéry digitálních počítačových systémů, jejímž nejdůležitějším bodem by bylo „Hlavně neškodit!“ [1, str. 120]. To pro nás ale není nic nového – viz Hippokratova přísaha pro vzdělávací technology.

Nepřidáte se?

"The Attention Economy" James Williams

Literatura a použité zdroje

WILLIAMS, James Wilson. Stand Out of Our Light: Freedom and Resistance in the Attention Economy [online]. 2018. [cit. 2019-10-05]. Dostupné z: https://www.cambridge.org/core/books/stand-out-of-our-light/3F8D7BA2C0FE3A7126A4D9B73A89415D.