Odborný článek
Digitalizace ve vzdělávání
Jak nás AI učí chápat lidskou moudrost
5,0 (1 hodnocení)
Zpráva o tom, jak vnímá moudrost známý anglický firemní poradce zaměřený na rozhodování s využitím AI Tony Fish.
Tony Fish je londýnský expert, autor a firemní poradce zaměřený na rozhodování, etiku, správu a tvorbu hodnot v nejistotě. V minulosti založil a prodal řadu společností, působil v desítkách správních rad a spolupracoval s investory a globálními organizacemi. Vede Open Governance Project, který zkoumá, jak technologie a transparentnost mohou podpořit lepší sdílené rozhodování v podnikání a společnosti. V současnosti se ve zvýšené míře věnuje umělé inteligenci. Jeho nejnovější kniha má název Decision Making in Uncertain Times (Rozhodování v nejistých dobách). Celá kniha a podpůrné materiály jsou k dispozici na webu Peak Paradox. Tony je známý tím, že upozorňuje na otázky, kterým se lidé vyhýbají, a nabízí praktické cesty vpřed.
Mě zaujal jeho blogový příspěvek vysvětlující, jak mohou být velké jazykové modely využity k lepšímu pochopení lidského poznávání [1]. Tony v něm tvrdí, že současná debata o umělé inteligenci je příliš povrchní. Optimisté předpokládají, že stroje vyřeší vše za nás. Pesimisté, že nás zničí. Oběma postojům uniká hlubší smysl. Proto je dobré se zamyslet nad tím, jak se liší výstupy generované AI od těch vytvářených lidmi, i když všechny mohou působit dojmem moudrosti.
V první řadě je třeba si připomenout zažitý model lidského budování schopností v podobě pyramidy (Bloomova či Maslowova taxonomie). Na začátku jsou informace, ty je třeba si zapamatovat, a pak je propojovat s již dříve zaznamenanými. Vznikají tak synapse a shluky odpovídající souvislostem (mentální modely). Moudrost je vrcholná schopnost aktivovat pro daný případ nejvhodnější znalost.
AI funguje docela jinak. Pracuje vždy s kompletně všemi daty (tokeny), které má k dispozici. Na jejich základě porovnává vzory a stanovuje statistickou pravděpodobnost určitého výstupu (vhodné reakce). V rámci tohoto procesu je schopná rozpoznat příslušný kontext a generovat alternativní postupy. Zásadní proto je si uvědomit, že u AI neexistuje nic, co by mohlo připomínat pyramidu poznání, na jejímž vrcholu je moudrost. Mezi tokeny neexistuje hierarchie.
Pokud se stroj může jevit moudrý, aniž by šplhal po naší milované pyramidě, je docela možné, že moudrost ve skutečnosti není vrcholem, na který se snažíme dostat, ale jen zpětnou vazbou pro konkrétní situaci.
Tony vysvětluje podstatu na pověsti o biblickém králi Šalamounovi, který je považován za mimořádně moudrého díky tomu, že zjistil pravou matku dítěte tak, že ho nenechala zabít. Jenže to mohlo fungovat jen tehdy, když ta nepravá matka žádající dítě neměla informaci o tom, že se jedná jen o zkoušku. Jakmile by ji měla, též by dítě nenechala rozpůlit. „Moudrost“ je ztracena hned po prvním použití, jestliže existují nová data pro rozhodování. Šalamoun musí v dalších podobných případech hledat nový způsob, jak zjistit, kdo je matkou.
Milujeme tvar trojúhelníku, vrcholu nebo pyramidy. Rádi si představujeme, že moudrost má větší hodnotu než data, že je nějakým způsobem ušlechtilejší a hodnotnější, protože jen málokdo získá skutečnou moudrost. Otázka zní – pokud ji získám, budu sedět na vrcholu pyramidy?
Rozsáhlé jazykové modely (LLM) nerozlišují mezi daty, informacemi, znalostmi a moudrostí. Pro LLM jsou vše tokeny se statistickými vztahy. Hluboký filozofický vhled a nákupní seznam jsou zpracovávány pomocí stejných mechanismů. Model „neví“, co je důležitější, jednoduše reaguje na vzorce. Z toho vidíme, že lidé a stroje zpracovávají informace velmi odlišně:
Tony porovnává lidské myšlení se strojovým pomocí principů zpracování dat:
| Lidský přístup | AI (LLM) |
| První dovnitř, první ven: Snadno si můžete vybavit, co jste se právě naučili. Data nejsou testována, ověřována ani se o nich neví, zda jsou pravdivá. Proto často sdílíme věci, které zjistíme, aniž bychom věděli, jak pravdivé nebo zaujaté jsou. To může vést k dezinformacím. | Data umělé inteligence se tímto vzorcem neřídí. LLM zpracovávají všechny tokeny se stejnou statistickou váhou bez ohledu na to, kdy se s informacemi během trénování setkaly. |
| První dovnitř, poslední ven: Tento princip zpomaluje okamžitost reakce a umožňuje nám shromáždit více dat, než začneme rozhodovat o postupu. Je to skvělý způsob, jak zlepšit kvalitu. Teprve když nové informace použijeme, můžeme získat zpětnou vazbu o tom, jakou hodnotu vytvořily, a určit, zda jsou užitečné. | Zpracování informací umělou inteligencí probíhá simultánně. LLM neshromažďují informace postupně – zpracovávají veškerý dostupný kontext najednou a generují odpovědi na základě statistické pravděpodobnosti souladu se zadáním (promptem), místo aby postupně budovaly porozumění. |
| Poslední dovnitř, poslední ven: Před rozhodnutím je nutné shromáždit všechna data a zjistit, zda neexistují nové znalosti, nebo jen nový fakt, který mění výsledek. Pak můžeme zjistit, zda měly požadovaný efekt, nebo jakou změnu vyvolaly. | LLM nerozlišují mezi starými a novými fakty, které mění analýzu. Jednoduše generují aktuální odpovědi na základě statistických vztahů, které se naučily. |
Když člověk při rozhodování používá informace, znalosti nebo moudrost, vždy musí vyvažovat city, intuici a fakta. Větší množství dat samo o sobě nevede k lepším výsledkům či lepším rozhodnutím. V tom mají lidé určitou výhodu oproti strojům. Velké jazykové modely dokáží brilantně zpracovávat datové vzory, ale nemají city, intuici ani schopnost porovnávat fakta s životní zkušeností. Nedokážou být zvědaví, nejistí ani intuitivní tváří v tvář neúplným informacím (zatím).
Nejúspěšnější implementace umělé inteligence budou možná ty, které dávají lidem prostor pro uplatnění vlastní zvědavosti, odvahy a trpělivosti, tedy vlastností, které odolávají optimalizaci, ale vyžadují kultivaci. Jsou to zřetelně čistě lidské schopnosti, které vycházejí z našich biologických vlastností a sociálních kontextů.
Závěr
AI nás učí nově chápat samotnou podstatu moudrosti. Možná za ní není nic víc než nová data, která aplikujeme a měříme jejich účinnost. Přitom proces generování vhodných reakcí na složité situace vůbec nevyžaduje postup v hierarchii.
Pokud tento koncept přijmeme, umožní nám to soustředit se na lepší rozhodování a úsudky, aniž bychom museli těžce šplhat na vrchol, který neexistuje. Místo hromadění obsahu znalostí jako pokladů v trezoru si můžeme vyvinout schopnost v reálném čase reagovat na nově vzniklou situaci. Rozsáhlé jazykové modely nám ukázaly, že inteligence může být méně o tom, co víme, a více o tom, jak efektivně dokážeme generovat vhodné reakce. Ukázaly, že k vytvoření něčeho, co se pozoruhodně podobá moudrosti, nepotřebujete vědomí, paměť ani zkušenosti.
Otázka, kterou to vyvolává, je závažná. Pokud se stroje mohou jevit jako moudré, aniž by skutečně moudré byly, co to prozrazuje o povaze moudrosti samotné? Možná její hodnota nespočívá v akumulaci znalostí, ale v jejím okamžitém vytváření – ne v dosažení vrcholu, ale v rozvoji schopnosti promyšleně reagovat na jakýkoli terén, s nímž se setkáme.
Budoucnost nemusí patřit těm, kteří zdolali nejvyšší vrcholy poznání, ale těm, kteří dokážou nejobratněji tančit mezi lidskou intuicí a strojovým rozpoznáváním datových vzorců a generovat moudrost v reálném čase, místo aby ji vytahovali z nějakého imaginárního trezoru.
Nejde o nahrazení lidské moudrosti umělou inteligencí. Jde o pochopení, že moudrost, ať už lidská, nebo strojová, může být méně o tom, co ukládáme, a více o tom, co vytváříme v reakci na nekonečnou složitost existence.
Can We Master The Art of Questioning in an Age of Instant Answers? – Tony Fish
FISH, Tony. What Large Language Models Teach Us About “Human Knowledge” [online]. 2025. [cit. 2025-11-26]. Dostupné z: https://opengovernance.net/what-large-language-models-teach-us-about-human-knowledge-abe752f35a56.
Tento materiál je publikován pod licencí Creative Commons – Uveďte původ – Neužívejte komerčně – Nezpracovávejte 4.0.
| Moudrost umělé inteligence neexistuje tak, jak ji chápeme. LLM generuje to, co se jeví jako moudrost, ale neměří jeho skutečnou pravdivost, neučí se z aplikace a neupravuje budoucí reakce na základě toho, zda určitá „moudrost“ fungovala. LLM existují ve věčné přítomnosti porovnávání vzorů. |