Zpráva o výsledcích výzkumného projektu, v němž se 47 vědeckých pracovníků z akademických pracovišť z celého světa snažilo odhalit vliv AI na vzdělávání s cílem ho usměrnit.
Celkem 47 vědeckých pracovníků z akademických pracovišť z celého světa se pod vedením Arase Bozkurta s podporou turecké Anadolu University spojilo a vypracovalo manifest [1] snažící se ovlivnit využití především generativní AI ve výuce a její další vývoj. Nejlepší bude, když se rovnou podíváme, na jakých pozitivních a negativních efektech AI se shodli.
POZITIVA AI
NEGATIVA AI
Úspora času a efektivita AI je schopna analyzovat data získaná výukovou činností a automatizovat její rutinní složky. Dává tak prostor pro navýšení přímého kontaktu učitelů s žáky. Je však nezbytné zajistit, aby nedocházelo ke snížení hloubky učení či kvality lidských interakcí.
Personalizované vzdělávání AI dokáže přizpůsobit výukové aktivity úrovni poznání žáka, předložit mu adaptivní trajektorii postupu a poskytnout mu okamžitou zpětnou vazbu. Navzdory velmi slibnému vývoji je třeba při zavádění zohledňovat i existující rizika.
Neformální vzdělávání AI podporuje samostatné poznávání, dává k dispozici výukové zdroje a pomáhá pochopit souvislosti. Umožňuje tak osvojit si nové kompetence nezávisle na formálních postupech. Pozor ale, nezbytnou podmínkou samostatného neformálního vzdělávání je motivace.
Profesní příprava Schopnost pracovat s AI se stává významnou složkou digitálních kompetencí potřebných nejen pro výkon mnoha povolání. Je úzce spojena s rozvojem etických kompetencí a kritického pohledu na výsledky získané pomocí AI.
Změna výukových postupů AI odhaluje potřebu se soustředit více na to, jak se žáci učí, spíše než jen hodnotit jejich reakce. Stoupá význam kritického myšlení a kreativity. Díky AI je snáze možné rozpoznat, které výukové metody jsou neefektivní a překonané.
Podpora výukových inovací AI umožňuje experimentovat s novými výukovými modely a ovlivňuje pedagogický výzkum, jehož role je, kvůli rizikům možného negativního působení, významná.
Usnadnění práce učitelů AI dokáže automatizovat mnohé rutinní práce učitelů, navrhovat výukové lekce, provádět formativní hodnocení žáků. Pozor, nesmí dojít k odosobnění výuky. Učitel je stále zodpovědný za to, co AI žákům předkládá, a navazuje s nimi přímé vztahy.
Potřeba kritického myšlení Díky AI má každý k dispozici sofistikované výstupy, které zohledňují téměř všechny poznatky lidstva. Na jejich správnost se však nelze úplně spolehnout. Existuje velké riziko, že právě to mnozí udělají. Zásadním požadavkem digitální kompetence je proto kriticky tyto výstupy analyzovat, a teprve pak dělat informovaná rozhodnutí.
Inkluze AI zvyšuje dostupnost vzdělání nejen pro hendikepované, ale např. též pro jazykově znevýhodněné žáky. Pomáhá s výukou v nedostupných či nedostatečné rozvinutých oblastech. Má potenciál snižovat nerovnosti ve vzdělávání. Pozor, bez důkladné přípravy a vhodné implementace se mohou stávající rozdíly naopak prohlubovat.
Podpora učitelského sboru Vhodně implementovaná AI vede učitele nejen ke zvyšování kvalifikace, ale posiluje též sdílení poznatků mezi nimi a kolektivní řešení problémů.
Etika a čestnost Použití AI je třeba přiznávat.
Umocnění kreativity a inovací AI pomáhá generovat různé nápady nad rámec individuální perspektivy, dovoluje řešit komplexní problémy bez nutnosti předchozího studia dané problematiky. Umožňuje aplikovat nové výukové metody. Pozor na riziko pasivního přijímání výstupů AI bez zapojení vlastní invence ze strany žáků (i učitelů).
Mezioborový přístup AI integruje informace z mnoha různých oborů. Proto mohou mít výstupy mezioborový charakter, což pomáhá žákům propojovat různé předměty. Disponují-li kritickým myšlením, mohou dospět k hlubšímu porozumění.
Kooperativní učení AI dokáže být partnerem ve skupinové práci, přinášet zajímavé nápady, zpětnou vazbu, dělat zápisy ad.
Posílení kognitivní kapacity Díky komplexnímu zpracování existujících poznatků může AI rozvíjet kognitivní modely a umocňovat lidskou inteligenci.
Digitální nerovnosti Vysoká cena pokrokových AI nástrojů a nezbytnost existence dostatečné infrastruktury omezuje přístup znevýhodněným žákům, oblastem a státům.
Zkreslení Modely generativní AI mohou zesilovat existující zkreslení přítomné v datech, na nichž jsou cvičeny. Typickým příkladem je posilování předsudků vůči odlišnostem, marginalizace hlasu minoritních skupin, šíření dezinformací.
Etika AI bez dovolení využívá data získaná z dostupných zdrojů internetu a tyto zdroje ve výstupech neodkazuje. Je nutná regulace.
Akademická integrita Plagiátorství a podvádění je součástí využití AI ve vzdělávání. Vede k potlačení skutečného učení a je překážkou rozvoje kritického myšlení.
Hodnověrnost a dezinformace AI výstupy nejsou vždy hodnověrné a správné. Mohou obsahovat chyby a trpět halucinacemi. Mohou též sloužit k záměrné produkci dezinformací. Pro nezkušené uživatele internetu je obtížné je odhalit.
Ztráta lidských hodnot AI na rozdíl od učitelů nedisponuje sociálním cítěním, které je pro kvalitní výuku nezbytné. Může sledovat priority svých tvůrců, které nutně nemusí být v souladu s univerzálními lidskými hodnotami.
Je zřejmé, že v tomto manifestu nejspíše každý najde to, co se mu hodí. Určitým ukazatelem naznačujícím, jak bychom ho měli vnímat, jakkoli čistě sumativním, může snad být to, že pozitivních indikátorů je 15 a negativních 20.
Někoho by možná mohl zajímat související obsah přednášky vědeckého pracovníka University College London (taktéž původem Turka) Mutlu Cukurova z nedávné konference v Singapuru, jenž se zabývá vztahem AI k pedagogice podrobněji.
BOZKURT, Aras. The Manifesto for Teaching and Learning in a Time of Generative AI: A Critical Collective Stance to Better Navigate the Future [online]. 2024. [cit. 2024-12-21]. Dostupné z: https://openpraxis.org/articles/10.55982/openpraxis.16.4.777.
Nadměrná závislost na technologiích Díky integraci AI do výuky se může školství stát nadměrně závislé na technologiích.
Ztěžování kognitivního růstu Pasivní přijímání informací může poškodit budování znalostí a omezit vlastní schopnost řešit problémy.
Dopad na kritické myšlení Nadměrné používání AI může bránit rozvoji vyšších forem myšlení (syntéza, hodnocení a tvorba).
Nedostatek transparentnosti a porozumění Modely AI jsou řízeny algoritmy, které fungují jako černé skříňky, takže je obtížné pochopit, jak jsou výstupy generovány.
Nedostatečná a neefektivní regulace Přijímání pravidel a předpisů nestačí rychlému rozvoji AI. Rychlá integrace AI do vzdělávání vyvolává naléhavou potřebu regulace a dohledu.
Datová bezpečnost Osobní data mohou být shromažďována a používána bez souhlasu, což porušuje právo na soukromí. Zvýšené monitorování studentů i pedagogů může mít negativní dopad. Existence citlivých dat vytváří atraktivní cíle pro extrakční útoky.
Potenciál zneužití Obsah generovaný AI může být použit k phishingu, předstírání jiné identity, k šíření dezinformací. Chyby zabezpečení mohou uživatele vystavit rizikům.
Dopad na životní prostředí a udržitelnost AI systémy mají velmi vysokou spotřebu elektrické energie a vody. Environmentální náklady na vývoj AI jsou často přehlíženy nebo skryty před uživateli.
Rizika soužití lidí s AI Přílišné spoléhání na AI může snížit lidskou autonomii a vyvolat erozi lidského úsudku. Čím více integrujeme AI do kritických rozhodnutí, tím více riskujeme vzdání se kontroly nad výsledky, které vyžadují lidskou empatii, intuici, morálku a odpovědnost.
Nerovnoměrná reprezentace Modely generativní AI trénované převážně na dostupných datech mohou nedostatečně reprezentovat jazyky s nižším obsahem zdrojů a kulturní rozdíly.
Rekurze a degradace znalostí Modely AI pracují stále se stejnými vstupními daty. Nastává zacyklení, protože stále častěji budou i na vstupu zdroje taktéž generované AI. To by mohlo vést k zafixování omylů a ke vzniku bubliny, v níž by docházelo k degradaci poznatků.
Disrupce bez přípravy Rychlá integrace AI do vzdělávání může vyvolat odpor ze strany učitelů i žáků. Nedostatečná příprava může vést k chybám.
