Shoshana Zuboff a kapitalismus dohledu

Shoshana Zuboff je emeritní profesorkou Harvardu. Proslavila se již v roce 1988 vyšlou knihou In The Age Of The Smart Machine: The Future Of Work And Power (Ve věku chytrých strojů: Budoucnost práce a moci). Název naznačuje, čím se celý život zabývá. Je to vztah lidí a technologií. O tom, kam dospěla, vypovídá její nejnovější publikace The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power (Ve věku kapitalismu dohledu: Zápas o budoucnost lidstva při přechodu k novému rozložení moci). Bude pro nás zajímavé, podívat se, jak to myslí.

Začněme definicí:

Shoshana mluví o Googlu jako o prototypu firmy stojící v čele vývoje. Tvrdí sice, že dnes se principy kapitalismu dohledu založené na existenci velkého množství dat vypovídajících o chování uživatelů (behavioral surplus) staly běžným základem online podnikání, za samotný počátek však považuje situaci, v níž se Google během tzv. „Dot-com“ krize (Internetová horečka) po roce 2001 rozhodl data získaná činností uživatelů (primárně generovaná již tehdy jedinečným vyhledávačem) použít i jinak, než bylo dosud zvykem. Do té doby patřilo k základům etického chování vývojářů software, že to, co o chování uživatelů zjistí, použijí výhradně ke zdokonalování svých vlastních produktů a služeb, tedy ku prospěchu uživatelů.

Tehdy poprvé byla takto získaná data použita ke zvyšování účinnosti reklamy, která začala být uživatelům předkládána v personalizované podobě. Tímto rozhodnutím celý IT průmysl nastoupil cestu k masivnímu získávání osobních dat, jehož jsme dnes svědky. Obavy Shoshany by možná nemusely být tak vážné, kdyby procesy naše data zpracovávající byly transparentní – kdybychom přesně věděli, co o nás kdo zjišťuje a jak s našimi daty nakládá (viz evropský pokus o zákonnou úpravu problematiky v podobě GDPR). Pak by asi záleželo jen na naší informační (digitální, mediální) gramotnosti, necháme-li se zneužívat. Skutečnost je ale poněkud jiná.

Rovnováhu mezi zájmy uživatelů online služeb a jejich provozovatelů narušují stále se rozšiřující možnosti technologií poskytovat uživatelská data. Nejedná se již zdaleka jen o to, jaká klíčová slova vyhledáváte nebo co jste v minulosti kupovali v e-shopu. Google ví prostřednictvím Gmailu i to, co si s kým píšete, poskytovatelé připojení k internetu vědí, kde se pohybujete, provozovatelé sociálních sítí znají vaše postoje a myšlenky. Kamery jsou stále více schopné identifikovat vás podle vzhledu, mikrofony (nejen v telefonech) podle hlasu apod. Zásadní problém je v tom, že se všichni „vlastníci“ takto generovaných dat docela úspěšně snaží na jejich využívání příliš neupozorňovat. Uplatňují základní principy behaviorální filosofie, neboť sázejí na ochotu uživatelů co nejsnadněji realizovat své záměry výměnou za poskytování osobních dat (viz Foggův model ovládání lidí technologiemi).

Jenže ono to sběrem dat nekončí. Jsme dnes svědky toho, že algoritmy pracující v rámci existujících platforem (Od kultury konektivity k platformním společnostem) dokáží lidi přímo ovlivňovat (Démonologie podle Marka Pesceho). To je revoluční změna a mocný nástroj v rukou jedné malé skupiny vlastníků/vůdců, který vede k extrémnímu růstu rozdílů a velmi snadno může být zneužit. Bohužel si to zatím uvědomuje příliš málo lidí (Stává se svobodná vůle pouhou iluzí?).

Shoshana tak dospěla až ke snaze nás varovat před možným katastrofickým vývojem, kdy bude „základní právo na budoucí zdárný vývoj lidstva ohroženo agresivní digitální architekturou modifikující chování, vlastněnou a provozovanou kapitálem dohledu“ [1]. Tento vývoj je řízen ekonomickými principy a odůvodňován nutností vytvářet zisk.

Tím nejzávažnějším problémem v pozadí je vznik obrovské nerovnováhy znalostí – „oni o nás vědí vše, my o nich nic“. Je tedy třeba se zamyslet nad tím, co se s tím dá dělat. Shoshana doporučuje cestu regulace prostřednictvím zákonů nutících online podnikatele chovat se eticky. Volá po mobilizaci veřejného mínění, podobně jako mnozí další odborníci – např. Harari, Rushkoff, Pesce, Harris, Williams, ...

What Is Surveillance Capitalism?

Kniha paní profesorky Zuboff vyvolala též kritiku. Audrey Watters [1] se pozastavuje nad tím, že se vůbec nevěnuje vzdělávání, přestože předkládá vizi, v níž je budoucnost lidstva pevně spojena s technologiemi. Kdyby totiž tato vize byla pravdivá, je zřejmé, že právě vzdělání celé společnosti je rozhodujícím faktorem toho, jak ta budoucnost bude vypadat – zda máme šanci na zachování demokracie, nebo zda nás všechny čeká totalita. Za rozumnou nelze považovat snahu se vlivu technologií bránit, je třeba jejich využívání usměrňovat. Otázkou je, zda se vůbec může podařit prosadit naše zájmy proti lobby technologického průmyslu.

Mnohem komplexněji svou recenzi [2] pojal známý, původem běloruský vědec a spisovatel Evgeny Morozov žijící v USA, který se dlouhodobě věnuje podobné problematice, o níž kniha pojednává. Jeho filosofický pohled je pro mě příliš složitý, a tak budu zjednodušovat. Evgeny, vzhledem k tomu, že se jedná o kritiku kapitalismu, celkem logicky konfrontuje Shoshanu s marxistickou filosofií a ukazuje, jak se levicoví myslitelé mýlili, když si představovali, že se internet stane nástrojem edukujícím masy a osvobozujícím je od nadvlády vlastníků online nástrojů a infrastruktury.

Závěr, s nímž jsem schopen se ztotožnit, je ten, že při „přechodu k novému rozložení moci“ asi bude třeba opustit tradiční dialektiku postavenou na antagonistickém vztahu vlastníků výrobních prostředků a pracujících. Zdá se, že jsme svědky paradigmatické změny, která odsune pojem „kapitalismus“ do propadliště dějin. Už samotný fakt, že se nové možnosti kontroly společnosti (dohledu) hodí jak kapitalistům, tak komunistům, o mnohém vypovídá. Od historicky první profesorky Harvard Business School (1981) se zatím asi dokonalého teoretického definování nového paradigmatu nedočkáme.

Literatura a použité zdroje

WATTERS, Audrey. Education Technology and The Age of Surveillance Capitalism [online]. 2019. [cit. 2019-10-30]. Dostupné z: http://hackeducation.com/2019/08/28/surveillance-ed-tech.

MOROZOV, Evgeny. Capitalism’s New Clothes [online]. 2019. [cit. 2019-10-30]. Dostupné z: https://thebaffler.com/latest/capitalisms-new-clothes-morozov.