Pojďme se zamyslet nad některými méně častými oblastmi, které zavádění umělé inteligence (Artificial Intelligence, AI) do našich životů, škol a vzdělávání přináší. Přemýšlíte, jestli je označení umělá inteligence vhodné? Proč se AI stala celosvětovým fenoménem právě teď? Chová se AI opravdu inteligentně? Proč může být výhodné chovat se k chatbotům slušně? Jak AI mění trh práce? A co může přinést seniorům?
AI není jen dalším z mnoha technologických trendů
Mohlo by se zdát, že AI je vedle tabletů, 3D tiskáren či robotických stavebnic jen dalším z mnoha moderních technologických trendů a za to, že se stala globálním „hypem“ – tématem, které pobláznilo svět a všude se o něm píše – může marketing velkých IT firem. Tak tomu ale úplně není. Generativní AI sice díky chytrému marketingu a několika faktorům (viz níže) získala obrovskou pozornost veřejnosti, zároveň znamená (nejen) pro obor informatiky skutečný průlom. AI stojí nad všemi dalšími trendy digitálního světa, propojuje je, posiluje. V budoucnu se už patrně nebudeme setkávat s novými digitálními trendy, ve kterých by AI nehrála důležitou úlohu.
AI je tu s námi již dlouho, ale…
Za osobnost stojící na počátku historie AI je považován Alan Turing. Samotný pojem umělá inteligence
Archivní diskuze převzatá z rvp.cz. Přidávání nových komentářů není k dispozici.
Jan Maršák9. 1. 2024
1.Jak je možné, že takové průlomové fyzikální teorie,jako jsou např. Maxwellova teorie elektromagnetického pole, teorie relativity či kvantová mechanika, vznikly v době, kdy žádné digitální technologie ani AI neexistovaly a navíc tyto technologie jsou na uvedených teoriích založeny?
2. Jak je možné, že lidé několikrát přistáli na Měsíci v době, kdy žádná AI neexistovala a v současnosti s tím mají velký problém?
3. Jaký status či funkce se vůbec přisuzují člověku v době tak říkajíc "post--singulární" (či "post-singularitní"?), tedy v době kdy AI ve všem člověka zastane a dokonce ho svými schopnostmi překoná?
Bořivoj Brdička9. 1. 2024
Tak úplně otázkám nerozumím. AI zatím špičkovou vědu nedělá. Jen shromažďuje existující poznatky. Co z toho vzejde, ještě přesně nevíme. Víme ovšem to, že potřebujeme kompetence, abychom to uměli využít a přizpůsobit našim cílům.
Proč teď nelítáme na Měsíc, na to je snadná odpověď. Chybí nám "Moon shot thinking", neboli vítězství již bylo dosaženo.
Jan Maršák9. 1. 2024
Trochu zase nerozumím Vaší odpovědi. "AI zatím špičkovou vědu nedělá." To znamená že pro dělání špičkové vědy nebudeme možná AI potřebovat? Když vlastně ještě přesně nevíme, co z toho vzejde.
Bořivoj Brdička9. 1. 2024
Ale, pane Maršáku, přece je rozdíl, když někdo dělá vědu s AI a když ji dělá AI bez lidského přispění!
Jan Maršák9. 1. 2024
Ovšem nealibistické odpovědi na mé otázky jsem bohužel od Vás nedostal.
Jana Binarová7. 2. 2024
Nikdo nemůže pochybovat o značném přínosu AI pro množství oborů lidské činnosti, ale její využití ve vyučování žáků a studentů by mohlo mít i negativní následky.
Jako příklad negativního působení moderní technologie na vývoj žáků mohu uvést osobní zkušenost z nadměrné používání mobilních telefonů. Jejich návykové využívání přispívá například ke snížení funkcí jemné motoriky tak, že někteří žáci dokáží psát jenom tiskací písmena, neumí komunikovat tváří v tvář a zejména se neučí rozumět obličejové mimice. Působení současných moderních faktorů způsobuje, že části žáků i na SŠ chybí odpovídající vyjadřovací schopnosti, včetně artikulace.
Nejsem odborník, ale obávám se, že chybné využívání „strojové inteligence“ ve vyučování by mohlo omezit i zpomalit vývoj kognitivních schopností mozku. AI by mohla začít suplovat používání myšlení, paměti a mohla by se stát jakousi „berličkou“ usnadňující, či dokonce nahrazující učení. V důsledku by pak mohla negativně ovlivňovat hlavní cíl školního vzdělávání, kterým je naučit žáky učit se, studovat, umět omezit „zábavu“ ve prospěch získávání vědomostí, řešení úkolů a cítit ze získaných vědomostí spokojenost, potěšení.
Je-li hlavním úkolem školního vzdělávání příprava žáků k nezbytnému celoživotnímu učení, vytváření klíčových studijních kompetencí, musí jim k tomu škola poskytnout odpovídající základnu vědomostí a „vytrénovat“ potřebné osobnostní i fyziologické předpoklady – schopnost myšlení, porovnávání znalostí, paměť a také volní vlastnosti. AI by mohla být pomocníkem, ale je nezbytné stanovit rozsah jejího využití.
Mgr. Jana Binarová
Bořivoj Brdička7. 2. 2024
Paní Binarová,
některé vaše stesky jsou oprávněné, jiné ne. O tom, že je nadměrné využívání technologií škodlivé, samozřejmě dobře víme. Na druhou stranu je třeba si uvědomit, že místo tradičních dovedností (psaní) budou budoucí generace disponovat mnoha novými schopnostmi. Prosím, uvědomte si, že naše děti budou žít v jiném světě a budou proto jiné. Z tohoto úhlu pohledu je třeba se dívat i na výukové cíle. Na tom, že musí umět se učit a mít kvalitní volní vlastnosti se jistě shodneme. Chce se mi ale zeptat, zda tyto cíle jsou skutečnou prioritou našich škol?
Jana Binarová8. 2. 2024
Ano, v mnohém s Vámi souhlasím, jenom upřesňuji.
Dovednost psaní chápu jako jeden z projevů jemné motoriky, která je stále v běžném životě potřebná i když už ženy dávno nešijí s jehlou a většina mužů nemusí zatloukat hřebíky. Jemnou práci mnohem dokonaleji zvládají roboty, šití 3D tiskárny atd.
Děti budou žít v jiném světě (doufejme). Ale i předchozí generace se musely naučit zvládat a rozvíjet „novoty“. Například, když se žáci na SŠ učili AJ, neuměli si představit, že ji velmi budou potřebovat až za 30 let. Že od poslechu obdivovaného magnetofonu dospějí k mobilům, Googlu atd. Ale kdyby se nenaučili chtít je nejen využívat, ale rozumět, učit se, pamatovat si, přemýšlet a vymýšlet, nedosáhl by svět současné úrovně.
Ale také mám na mysli, že člověk je stále živočich tj. „human being“ a pokud o tuhle podstatu nebude pečovat může ohrozit svoji existenci.
Souhlasím, že učení není jedinou prioritou školy. Dalšími úkoly školy je například socializace, respektování pravidel a zásad, které ve společnosti lidí platí.
Jana Binarová
Bořivoj Brdička8. 2. 2024
Tak teď už se shodujeme naprosto dokonale!
, se ale začal používat až později, kdy se vědci pokoušeli různými algoritmy vyhrát nad člověkem dámu, šachy či jiné společenské hry. Důležitým průlomem pro současný vývoj generativní AI byl rok 2017, kdy výzkumníci společnosti Google přišli s
architekturou hlubokého učení, tzv. transformer
. Dějiny tomu ale chtěly tak, že dosavadní největší mediální zájem způsobila společnost OpenAI zainvestovaná konkurenčním Microsoftem, která 30. listopadu 2022 spustila a zdarma veřejnosti nabídla ChatGPT.
Proč se AI stalo hypem právě teď
K masovému rozšíření a získání prvního milionu uživatelů chatbotu ChatGPT během bezprecedentních pěti dní vedlo několik faktorů. Především se jedná o rostoucí výpočetní sílu, která je dostatečná až díky soudobým grafickým kartám umožňujícím paralelní zpracování úloh strojového učení, jako je trénování a provozování velkých jazykových modelů. K učení potřebují jazykové modely obrovské množství trénovacích dat v elektronické podobě, ze kterých se učí: knihy, články, webové stránky, wikipedii, sociální sítě a další zdroje dostupné na internetu. S tím souvisí i významný pokrok v algoritmech strojového učení, které se učí samy. To vše by nebylo možné bez zajištění velkých finančních investic.
Účinný koktejl těchto podmínek úspěchu pak doplnily důležité vlastnosti uživatelského rozhraní, kdy je komunikace s chatbotem pro lidi přirozená díky konverzačnímu stylu – člověk zadává dotaz a AI odpovídá, výstupem jsou pro člověka srozumitelné texty, obrázky,případně zvuky. Důležitým impulzem pro masové rozšíření je skutečnost, že uživatelům jsou ChatGPT i některá jeho konkurence (Google Bard, Microsoft Bing, …) dostupné zdarma. Je ovšem otázka, jak dlouho budou poskytovatelé tyto služby dotovat z jiných příjmů a kdy současný neudržitelný byznys model opustí a přejdou na placené služby. To se už ostatně děje, viz zpoplatněný ChatGPT-4.
Opravdu inteligence?
Pojem inteligence není příliš odpovídající tomu, co AI dnes představuje. V lidech toto slovo může vzbuzovat různé emoce. O inteligenci jsme si totiž zvykli přemýšlet v souvislosti s živými tvory, nejčastěji (sebestředně, pardon, antropocentricky) s lidmi. A je pravda, že současná AI rozhodně nepřemýšlí jako lidé. Jazykové modely jsou nejprve trénovány na velkém množství textových dat, aby pochopily jazyk, strukturu vět, slovní zásobu a další jazykové aspekty. Během tohoto procesu model získává schopnost predikovat následující slovo ve větě, což mu umožňuje generovat koherentní a relevantní texty. Generativní AI je založena na spojení těchto statistických metod s neuronovými sítěmi a technikami hlubokého učení. Proto by vhodnější nežli pojem umělá inteligence byl například pojem kyberinteligence nebo slovní spojení strojová inteligence. Jenže džin byl z lahve již vypuštěn a patrně není cesta, jak ho vrátiti zpět.
Obrázek vytvořený AI generátorem DALL-E 3 zobrazující černobílou skicu „masomlejnku na informace“, který pohání chatbot AI. Vytvořeno 3. 12. 2023
K AI se chovejme slušně, jako k člověku
Ačkoli AI není lidské stvoření, mnozí lidé si myslí, že se vyplatí k chatbotům chovat slušně. Někteří uživatelé, kteří se systémy AI experimentují, docházejí k přesvědčení, že lidé, kteří se k AI chovají slušně, nešetří slovíčkem prosím a občas ji pochválí či jí poděkují, dostávají o trochu lepší výsledky nežli lidé, kteří jsou k ní hrubí. Výzkumně podloženou jsem tuto hypotézu neviděl, ale ani bych se nedivil. Chovat se slušně k robotovi se ale rozhodně vyplatí. Hrubé chování k robotům totiž může destruovat naše chování ke svému dalšímu nerobotickému okolí, bránit se přenášení obhroublostí i do komunikace s lidmi je pak obtížnější. Buďme tedy k AI slušní, jako by se jednalo o lidského partnera.
Jak na tohle AI přišla?
Problémem se ukazuje být skutečnost, že současná AI není schopna vysvětlit, jak k poskytnutému výsledku došla. Proto je vyvíjen společenský tlak na oblast tzv. vysvětlitelné umělé inteligence (explainable AI), která se zaměřuje na vytváření AI modelů a systémů, které jsou schopny vysvětlit svá rozhodnutí a akce lidským uživatelům. Cílem je zvýšit transparentnost a pochopení toho, jak modely AI fungují, což je obzvláště důležité v oblastech, kde je potřeba důvěra a odpovědnost, jako jsou zdravotnictví, finance nebo právo. Tradiční modely AI bývají označovány jako černé skříňky, protože jejich vnitřní fungování a rozhodovací procesy jsou složité a pro uživatele nepochopitelné.
Explainable AI se snaží tento problém řešit tím, že poskytuje nástroje a metody pro lepší pochopení a interpretaci výstupů AI. Snahy o vysvětlování svých výstupů (nikoli toho, jak na ně přišly) prokazují algoritmy AI již dnes. Zkuste si třeba nechat vyprávět nějaký vtip. Je možné, že chatbot bude mít potřebu vám jej vysvětlit i sám od sebe. Bývá to někdy ještě větší legrace nežli samotný vtip. Nedivil bych se, kdyby nám explainable AI časem vysvětlila, že pro inspiraci pro své kameňáky chodila k Zdeňku Troškovi.
Proč AI neříká pravdu?
Generativní AI se vlastně v některých aspektech docela podobá člověku, často neříká pravdu, zato to, co říká, říká značně asertivně. Vymýšlení si je označováno jako halucinace, kdy AI generuje výstup, který obsahuje nesprávné nebo zavádějící informace prezentované jako fakta. Za halucinace mohou například předsudky v tréninkových datech, a tedy to, že AI vidí svět zkresleně. To může vést k tomu, že AI vytváří falešné vjemy, které odrážejí její předsudky.
Halucinace může způsobovat ale i mnoho dalších příčin, například nízká kvalita tréninkových dat nebo jejich nedostatek, špatná interpretace informací, absence kontextu, chyba v algoritmech atp.
Známý je případ newyorského advokáta, který při zastupování svého mandanta soudu předložil na podporu svého stanoviska spis opírající se mj. i o citace několika soudních precedentů. Jak ale konstatoval soudce, šest z nich bylo smyšlených. Ukázalo se, že advokát využil ChatGPT, ale výsledek si neověřil a neudělal to ani nikdo jiný z jeho advokátní kanceláře. Chatbot si je nejen vymyslel, ale dokonce tvrdil, že jsou k dispozici v hlavních právních databázích. Ve finále vyšlo použití fiktivního právního výzkumu advokátní kancelář na pokutu pět tisíc dolarů [1]. Obecně lze očekávat, že míra halucinace AI by se měla postupně snižovat, ověřování výstupů chatbotů je ale povinným základem práce s jejich výstupy.
Rizika AI: Odpovědi na otázky, které ještě ani nevíme, že máme
Pokud současnou AI něco opravdu charakterizuje, pak je to obrovské množství otázek, které její používání otevírá. Mnoho otázek nemá v současné době dobré anebo jasné odpovědi. Také proto bude používání AI v Evropské unii upraveno takzvaným Aktem o umělé inteligenci (anglicky EU AI Act) [2]. Tato regulace posuzuje rizika v několika kategoriích, takže například přidělování sociálního kreditu na základě chování lidí nebo rozpoznávání obličeje v reálném čase je označeno za nepřijatelné riziko, za hrozbu pro člověka a je zakázáno. Příkladem kategorie vysokého rizika jsou systémy AI, které mají negativní dopad na bezpečnost nebo základní práva. Patří sem např. provoz kritické infrastruktury, jejíž nesprávné fungování by mohlo ohrozit životy lidí, nebo také systémy AI pro oblast vzdělání, kdy by nesprávné nastavení mohlo odepřít lidem přístup ke vzdělávání či je diskriminovat, příkladem je vyhodnocování výsledků zkoušek prostřednictvím AI.
AI proměňuje i vysoce kvalifikovaná povolání
Dlouho jsme si mysleli, že ohrožené nástupem robotizace a automatizace budou především nízkokvalifikované pozice. Generativní umělá inteligence ale ohrožuje i pozice lidí, kteří kvalifikovaní jsou. Už dnes máme příklady oborů, které se zásadně proměňují. Pořád bude potřeba novinářů, kteří jsou schopni přinášet svědectví z konkrétních míst, třeba z válečného konfliktu, stýkat se s lidmi, kteří tam něco prožívají, vést s nimi rozhovory, dokumentovat dění na místě. Ale ty novináře, kteří především čerpají ze sekundárních zdrojů, jako je ČTK, dovede umělá inteligence velmi dobře nahradit. Překladatelé krásné literatury a zvučných jmen budou nejspíše poptáváni i nadále, protože jejich kreativita bývá unikátní. Běžné manuály, technické zprávy, směrnice nebo simultánní překlady už dnes vykonává umělá inteligence v kvalitě, která je na úrovni průměrného překladatele (nevěříte-li, vyzkoušejte například překladač deepl.com).
AI ale nepromění práci jen lidem, kteří primárně pracují s texty. I nejlepší lékaři se nejsou schopni vyrovnat exaktnímu vedení skalpelu či laseru robotem nebo stanovení diagnózy založené na datech o stovkách milionů pacientů. Data z množství senzorů monitorující naše životní funkce – dnes například sports trackery, fitness náramky nebo chytré hodinky, časem další čidla internetu věcí – budou generovat obrovské množství dat. Málokdo ale bude chtít, aby mu diagnózu sděloval automat, prostor pro lidského lékaře jistě zůstane zachován.
AI vlastně přehodnotila, co to je kreativita, posunula její laťku výše. Ukazuje se, že skutečnou tvořivostí a nápaditostí je nadáno jen relativně malé množství lidí. Jedinců, kteří vytvářejí skutečně nové hodnoty a koncepty. My ostatní jsme celkem jednoduše napodobitelní, a to již umělou inteligencí dnešní úrovně. O práci ale přijít nemusíme, jen se ta naše současná bude významně proměňovat. Zatím se zdá, že ten, kdo bude schopen se průběžně učit a adaptovat se, se obávat nemusí. Navíc inovace na trhu práce vytvářejí zcela nové pracovní příležitosti. Není tomu dávno, co například tyto pozice neexistovaly: datový vědec, kybernetický bezpečnostní analytik, designer uživatelského rozhraní (UX/UI), genetický inženýr, odborník na sociální média, specialista na obnovitelné zdroje energie, odborník na klimatickou adaptaci, work-life balance konzultant, …
Co to vše znamená pro vzdělávání? Vlastně jde o oslabení počátečního vzdělávání ve prospěch celoživotního. Neznamená to ale, že bychom měli na vzdělávání od útlého věku rezignovat, je ale potřeba se zaměřit více na rozvoj dovedností a schopností, které přetrvají celý život. Ty v našem vzdělávacím systému označujeme jako klíčové kompetence, především jde o jednu – o kompetenci k učení, o učenlivost, schopnost se efektivně učit a rozvíjet a vnímat to nikoli jako nepříjemnou nezbytnost. Mnohá povolání, která budou dnešní žáci v budoucnu vykonávat, se totiž dnes nedají vystudovat.
Senioři budou moci těžit z moderních technologií
Podle některých odborníků by AI mohla přinést lidem, kteří mají nízké nebo téměř žádné technologické kompetence, přístup k digitálním zařízením a umožnit jim využívat výhod světa digitálních technologií, které je nyní míjejí. Jak se postupně zvyšuje průměrný věk dožití, zvyšuje se i počet lidí, kteří se za svého produktivního života s novinkami na poli digitálních technologií nepotkali. Přívětivé uživatelské rozhraní AI, jako je konverzační charakter psaného či mluveného slova, by mohl i těmto lidem obdobné výdobytky zprostředkovávat. Poradenská agentura Gartner tvrdí, že aktuální vlna AI je především o posunu vztahu mezi lidmi a stroji.
Podle Českého statistického úřadu používá například chytrý telefon v populaci 99,6 % mládeže ve věku 16–24 let, zatímco seniorů nad 75 let je to jen 24 %, většina seniorů (69 %) používá telefon tlačítkový, bez operačního systému [3]. Je to logické, boom smartphonů nastal přibližně mezi lety 2007 a 2012, po uvedení prvního iPhonu společností Apple v roce 2007. Lidé, kteří šli do důchodu před tímto obdobím, neměli možnost ve svém ekonomicky aktivním věku se smartphony pracovat. Vhodně navržený asistent AI by jim tuto novou zkušenost mohl zjednodušit.
Jak na AI reagují školy
Umělá inteligence mění zaběhnuté postupy a posouvá a urychluje proces změny role učitele. Je velmi důležité, jak se k tomuto fenoménu školy postaví. Národní pedagogický institut uskutečnil na přelomu září a října 2023 dotazníkové šetření, ze kterého mj. plyne, že jen 1 % škol používat AI ve škole zakázalo, viz graf. Méně pozitivní je, že celá čtvrtina škol (28 %) využívání AI zatím nijak neřeší a ani to neplánuje. Přitom NPI ČR ve svých doporučeních školám jako první bod uvádí: Vezměte existenci AI v potaz. Nezakazujte ji ani ji neignorujte. Žáci ji i přes případný zákaz stejně budou využívat. Spíš než zákazy funguje otevřená komunikace a nastavení společných pravidel. Svoje špatné i dobré zkušenosti sdílejte s učiteli, s kolegy v asociacích, se vzdělavateli učitelů, ale také s IT specialisty, kteří na vývoji AI aplikací pracují.
Skutečné masivní rozšíření AI a uvědomění si jejího potenciálu nastane, až budou asistenti AI (Copilot v Office 365 od Microsoftu a Duet ve Workspace od Google) integrováni do běžných kancelářských balíků, se kterými ve školách běžně pracujeme. Do té doby je to jen záležitost určité zvídavé části populace, do které, pokud jste dočetli až sem, patříte i vy.
Graf: Odpovědi 634 ředitelů škol na otázku Jaký přístup k umělé inteligenci používané ve škole nebo pro školní účely jste zvolili? Šetření NPI ČR ze začátku školního roku 2023/24
Původně publikováno: NEUMAJER, O. Myšlenky o AI nejen ve vzdělávání. Řízení školy. Praha: Wolters Kluwer, 2024, roč. 21, č. 12, s. 5–8. ISSN 1214-8679
Literatura a použité zdroje
Guardian News & Media. Two US lawyers fined for submitting fake court citations from ChatGPT. [online]. 2023. [cit. 2023-12-12]. Dostupné z: https://www.theguardian.com/technology/2023/jun/23/two-us-lawyers-fined-submitting-fake-court-citations-chatgpt.
Evropský parlament. Akt EU o umělé inteligenci: První nařízení o AI na světe. [online]. 2023. [cit. 2023-12-12]. Dostupné z: https://www.europarl.europa.eu/news/cs/headlines/society/20230601STO93804/akt-eu-o-umele-inteligenci-prvni-narizeni-o-ai-na-svete.
Český statistický úřad. Využívání informačních a komunikačních technologií v domácnostech a mezi osobami – 2023 [online]. 2023. [cit. 2023-12-12]. Dostupné z: https://www.czso.cz/csu/czso/vyuzivani-informacnich-a-komunikacnich-technologii-v-domacnostech-a-mezi-osobami-2023.
