Odborný článek
Digitalizace ve vzdělávání
Je AI kognitivním trojským koněm?
5,0 (1 hodnocení)
Informace o zajímavém a mimořádně důležitém pohledu profesora Andrewa Maynarda z Arizona State University na aktuální integraci AI do života lidí na základě jeho přednášky na konferenci OEB25 v Berlíně.
Andrew Maynard je profesorem sociálních inovací a ředitelem Future of Being Human Initiative na Arizona State University. Do Berlína na konferenci OEB25 (globální mezisektorová konference o digitálním vzdělávání) jel s přáním vyvolat diskuzi nad otázkou, zda lze AI považovat za „kognitivního trojského koně”. Podívejme se, jak to myslel [1].
Andrew čelí rostoucím obavám, zda snadnost, rychlost a plynulost, s jakou nám modely AI poskytují výsledky, potenciálně neobcházejí naši schopnost kriticky a zdravě vyhodnocovat informace a vstřebávat znalosti. Problém je v tom, že nově vznikající modely umělé inteligence jsou pro nás tak přitažlivé, že je těžké odolat jejich vstupu do našich kognitivních životů, i když stále nevíme, jak mohou potenciálně ovlivnit naše myšlení, naše přesvědčení, naše vnímání a chápání, a dokonce i to, jak se chováme.
Jsme na AI v tolika různých ohledech stále více závislí, od toho, jak se učíme a chápeme svět, až po to, jak děláme rozhodnutí, řídíme organizace, a dokonce i jak se spojujeme s jinými lidmi. Tak nějak by možná mohl takový „dar s velkým příslibem a potenciálem“ vypadat. Zpochybňování jeho využití se zdá být zaostalé a nesprávné. Přesto bychom si měli klást otázky ohledně potenciálních nezamýšlených důsledků.
Andrew nastíněnou problematiku spojuje s potřebou tzv. „epistemické bdělosti“ (epistemic vigilance), což je soubor kognitivních mechanismů, s jejichž pomocí hodnotíme sdělované informace z pohledu jejich potenciálního rizika nás dezinformovat či oklamat. Zajišťuje, aby komunikace zůstala výhodná i navzdory tomuto riziku.
Teorie epistemické bdělosti [2] ukazuje, že komunikace mezi lidmi je z evolučního hlediska pro učení životně důležitá. Během vývoje jsme vyvinuli mechanismy, které optimalizují učení prostřednictvím komunikace tím, že zajišťují co nejnižší kognitivní náklady a zároveň co nejvyšší efektivitu učení.
Výsledkem je, že při komunikaci s ostatními primárně důvěřujeme tomu, co dostáváme. Pokud se nám ale cokoli zdá nepochopitelné či divné (způsob sdělení, tón, řeč těla, kontext, rozpor s vlastní zkušeností apod.), aktivují se naše mechanismy epistemické bdělosti, začneme kriticky hodnotit a odmítneme to, když se nám to nezdá. Tento model funguje podobně jako náš imunitní systém. Jak ukázala behaviorální věda, lze epistemickou bdělost za určitých okolností oklamat. V chaotické lidské společnosti však obvykle funguje.
Ale co když do procesu přijímání informací přidáte technologii, která naruší status quo – metaforický zbrusu nový virus, na který jsme se ještě neměli šanci adaptovat? Zde se setkáváme s tím, co se často označuje jako evoluční nesoulad (evolutionary mismatch) – situací, kdy nová technologie překračuje naše vyvinuté schopnosti bezpečně a úspěšně se vypořádat s jejími potenciálními dopady. Ve vývoji lidstva jsou takové nesoulady ve skutečnosti poměrně běžné. Jsme pozoruhodně dobří v používání našich kognitivních schopností a inteligence ke kompenzaci a adaptaci na takové nesoulady, a to i přesto, že jsme se nevyvíjeli s riziky přímo spojenými s mnoha technologiemi, se kterými se dnes v životě setkáváme.
Co když ale nesoulad ovlivní právě ty kognitivní schopnosti, na které se spoléháme při zvládání rozdílů mezi tím, co právě zažíváme, a tím, co jsme zdědili minulým vývojem lidské společnosti? Co když nová technologie – a v tomto případě konkrétně AI – nespustí naše mechanismy epistemické bdělosti stejným způsobem jako tradiční mezilidská komunikace, a v důsledku toho má schopnost proklouznout kolem naší obrany bez povšimnutí?
Přestože je detailní výzkum potenciálu AI obcházet epistemickou bdělost naprosto nezbytný, nejedná se o pouhou spekulaci. Existuje dostatek indikátorů naznačujících, jak by k tomu mohlo docházet. Jsou to např. tyto:
Když připustíme, že se AI může stát kognitivním trojským koněm, existuje značné riziko, že vyvíjíme technologie, k nimž nemáme kognitivní obranné mechanismy, abychom se mohli bránit v případě, že naše důvěra není na místě. Schopnost aplikací AI napodobit nejlepšího člověka, jakého jste kdy potkali, spouští okruhy sociálního poznávání bez ohledu na explicitní vědomí. A čím více se interakce podobá lidské, tím větší odolnost důvěry generuje.
Začlenění technologií do života může mít dalekosáhlé důsledky. Proto si musíme klást kritické otázky ohledně potenciálních rizik, provádět výzkum, abychom tato rizika lépe pochopili, a snažit se vývoj AI ovlivňovat. Pokud ovšem jsme již kognitivního trojského koně umělé inteligence nezanesli do našich myslí a hradby jsme nezbořili.
OEB 2025 – Humanity in the Intelligent Age – Opening Plenary
Ve své úvodní přednášce (video výše) položil Andrew Maynard kromě titulní otázky ještě dvě další:
Profesor Maynard možné odpovědi jen naznačil. Jeho hlavním cílem bylo vyvolat diskuzi. Podle mě se mu to povedlo.
MAYNARD, Andrew. Is AI a Cognitive Trojan Horse? [online]. 2026. [cit. 2026-01-15]. Dostupné z: https://www.futureofbeinghuman.com/p/is-ai-a-cognitive-trojan-horse.
SPERBER, Dan. Epistemic vigilance [online]. 2010. [cit. 2026-01-15]. Dostupné z: https://dan.sperber.fr/wp-content/uploads/EpistemicVigilance.pdf.
KAHAN, Dan. The polarizing impact of science literacy and numeracy on perceived climate change risks [online]. 2012. [cit. 2026-01-15]. Dostupné z: https://doi.org/10.1038/nclimate1547.
Tento materiál je publikován pod licencí Creative Commons – Uveďte původ – Neužívejte komerčně – Nezpracovávejte 4.0.