Odborný článek
Digitalizace ve vzdělávání
Zpráva přinášející bližší informace o tom, jak vypadají postupy využívající AI ke sledování a analýze chování lidí online s velkým potenciálem zneužití.
O rizicích současného vývoje světa, která se projevují jako „nová realita“, mluvíme opakovaně. Začínáme si uvědomovat, že existuje reálná možnost, že může být kdokoli z nás sledován prostřednictvím digitální stopy, kterou zanechává v online prostředí (viz Deibertova občanská laboratoř), vnímáme pronikání snahy ovlivňovat rozhodování lidí online do politiky (Nová éra sociální kontroly) a s obavami sledujeme nástup tzv. „technofašismu“. Nepochybně bude užitečné se na postupy, které jsou v této souvislosti používány, podívat ještě blíže. Jedině to nám dává alespoň jakous takous naději, že se budeme umět bránit. Hezký výklad přináší MIT Technology Review [1].
Po celém internetu jsou roztroušeny kousky našeho života a některé z nich jsou na prodej. Datoví makléři shromažďují informace o webovém vyhledávání, finanční záznamy, údaje o poloze nebo o našich nedávných online nákupech a nabízejí je v anonymizované podobě k prodeji. I když analýza takových dat není triviální, existují důkazy o tom, že AI by ji mohla výrazně usnadnit. Agenti LLM by potenciálně mohli vykonávat funkci zpravodajských analytiků za zlomek času a nákladů, což by platícím klientům umožnilo zaměřit své vševidoucí oko prakticky na kohokoli.
Obavy z toho, jak by LLM mohly usnadnit hromadný dohled, se nedávno dostaly na titulní stránky novin po celém světě, když společnost Anthropic odmítla poskytnout Pentagonu své AI nástroje k analýze komerčně dostupných dat o amerických občanech. Konkurenční OpenAI využila příležitost a s dohodou souhlasila, avšak velká vlna kritiky nakonec vedla k revizi této smlouvy.
Toto však je jen jeden příklad z mnoha. O většině zneužívání osobních dat se nejspíše vůbec nedozvíme. Vlády po celém světě používají např. rozpoznávání obličejů ke sledování občanů i cizinců. Nedávné zprávy naznačují, že v USA jsou tyto aplikace využívány k provádění hromadných deportací přistěhovalců.
Ve Spojených státech existuje 4. dodatek Ústavy, který chrání soukromí občanů. Díky němu lze legálně získávat data z mobilních telefonů jen se souhlasem soudu. Ten však může být obcházen, protože se nevztahuje na komerčně dostupná data nabízená makléři (která nezískal zájemce přímo ze sledovaných mobilů). Drobný problém způsobený absencí jmen majitelů jednotlivých záznamů řeší LLM, jsou-li k dispozici třeba data o častých místech jejich výskytu (domov, práce).
Greg Nojeim, ředitel bezpečnostního a sledovacího projektu v Centru pro demokracii a technologie, tvrdí, že „agenti LLM jsou již na tuto práci připraveni“. LLM dokážou víc než jen identifikovat majitele datových záznamů. Umí mimo jiné porovnat anonymní účty na fórech s profily na LinkedIn, identifikovat rodné jazyky autorů, izolovat identifikační informace z historie online příspěvků uživatele, odvodit psychologické rysy, místo pobytu, příjmy, pohlaví či věk uživatelů sociálních médií.
Všechny tyto skutečnosti naznačují, že AI agenti by mohli nekvalifikovanému pracovníkovi poskytnout schopnosti týmu vysoce kvalifikovaných analytiků zpravodajských služeb. To snižuje vstupní bariéru a posouvá hranice možného sledování občanů. Pokud by např. političtí vůdci chtěli potlačit disent nebo potrestat odpůrce ve velkém měřítku, dostávají nástroj, který jim to může umožnit. Tým agentů LLM by mohl být schopen identifikovat skutečné lidi stojící za účty na sociálních sítích, které vyjadřují negativní názory na vládu, nebo využít datovou sadu o poloze k sestavení seznamu lidí přítomných na protestní akci. K jakým účelům lze takové informace využít, názorně vidíme v totalitních státech. Ono ale možná pro začátek stačí docela nenápadné obtěžování – například v podobě zevrubné kontroly na letišti.
Problém zhoršuje skutečnost, že LLM nejsou imunní vůči chybám. Pracují sice mnohem rychleji než lidští analytici, ale to zároveň znemožňuje důkladnou kontrolu. A protože hromadný dohled je ze své podstaty tajný, oběti takových chyb často nemají žádnou možnost nápravy.
Je obtížné zjistit, co vše se již dnes děje. Je však zřejmé, že se naše soukromí nachází na pokraji propasti. Firmy a korporace, které poskytují nástroje, jež by vláda mohla použít k provádění dohledu, detaily (na rozdíl od Anthropic) z pochopitelných důvodů nezveřejňují.
V některých případech možná existují pro utajování legitimní důvody (zpravodajské nebo obranné účely). Míra utajení, která je s tímto použitím spojena, je však díky současným možnostem AI a nesnadné kontrole obzvláště znepokojivá.
Je proto mimořádně důležité sledovat, kdo má přístup nejen ke komerčně dostupným hromadným datům, ale také k datovým sadám sestaveným jednotlivými státními agenturami (např. adresy). Historicky byly tyto datové sady odděleny v různých úřadech, v rámci digitalizace však dochází k jejich propojování. S daty na jednom místě a výkonnými nástroji umělé inteligence na dosah ruky mohou členové vládních agentur v zásadě vytvářet podrobné profily kohokoli.
Ve skutečnosti to může dělat i někdo jiný. Soukromé společnosti by mohly stejně snadno nakupovat velká data a analyzovat je pomocí agentů LLM. Přitom méně podléhají právním omezením a odporu veřejnosti. AI analýzu lze využít např. k prověřování uchazečů o zaměstnání nebo k určení, zda je někdo pojistitelný. Je velmi, velmi těžké volat korporace k odpovědnosti, když vůbec nevíme, co s našimi daty dělají.
V principu je digitalizace přínosná. Umožňuje státu fungovat efektivněji a ekonomičtěji. Jak vidno, má to však svou cenu. Možná budeme muset přehodnotit, jak chápeme své vlastní soukromí. Dříve ten, kdo měl k našim datům přístup, musel vynaložit značné úsilí, chtěl-li nahlížet do našich životů. Agenti LLM však mohou toto úsilí zmírnit nebo ho úplně odstranit. Pokud vláda či jiné organizace dokážou vytvořit podrobné profily milionů lidí najednou, nikdo není vůči jejich pozornosti imunní.
Public Data, Public Concern: Rethinking Government Accountability in the Digital Age
HUCKINS, Grace. How LLMs could supercharge mass surveillance in the US [online]. 2026. [cit. 2026-06-17]. Dostupné z: https://www.technologyreview.com/2026/04/21/1135919/ai-surveillance-privacy-llms-bulk-data/.
Tento materiál je publikován pod licencí Creative Commons – Uveďte původ – Neužívejte komerčně – Nezpracovávejte 4.0.