Zpráva konsorcia CoSN shrnující hlavní rizika spojená s AI, kterých se oblastní EdTech lídři nejvíce obávají, a nabídka kroků k jejich snížení.
S novými technologiemi je to pokaždé stejné. Velmi rychle se je naučíme používat, ale málo přitom přemýšlíme o tom, zda je používáme efektivně a především bezpečně. A právě bezpečnost často podceňujeme nejvíc. Nastavujeme slabá, opakující se hesla, nepoužíváme správce hesel, nenastavujeme víceúrovňovou či bezheslovou autentizaci, neřešíme, jaká data o nás námi používané aplikace sbírají a poskytují třetím stranám, a tak bychom mohli pokračovat. A v případě generativní umělé inteligence tomu není jinak.
Hlavní rizika spojená s AI podle CoSN
Za rok a půl od uvedení chatbota ChatGPT se postupně nástroje generativní AI rozšířily do mnoha stávajících platforem včetně těch edukativních. Učitelé je začali využívat v plánování, přípravách a personalizaci výuky, v procesu ověřování úrovně vzdělávání, při hodnocení a poskytování zpětné vazby, pro automatizaci procesů a v řadě dalších situací, kdy jim jejich práci usnadňují a zefektivňují. [1]
Umělá inteligence má významný potenciál ve zlepšování vzdělávání, současně však pro školy představuje obrovské riziko v oblasti kybernetické bezpečnosti, shrnuje americké konsorcium CoSN (
z 30. dubna 2024, pro něž se kybernetická bezpečnost stala v tomto roce nejvyšší prioritou. [2]
Pojďme se nyní podívat na hlavní rizika spojená s AI podle této zprávy:
Obava z kybernetických útoků
Přibližně dvě třetiny, konkrétně 63 % z téměř tisíce dotázaných oblastních EdTech lídrů (průzkum proběhl v průběhu ledna a února 2024) má velkou nebo extrémně velkou obavu, že nově se rozvíjející technologie umělé inteligence umožní vznik nových forem kyberútoků.
Nedostatek kurzů pro učitele
Z průzkumu též vyplynulo, že 49 % z nich současně trápí nedostatek kurzů pro učitele zaměřených na integraci AI do výuky. Výzkumné centrum EdWeek zjistilo, že velká většina učitelů doposud neabsolvovala jakýkoliv kurz na generativní AI.
Podle odborníků jsou tyto kurzy důležité nejen proto, aby učitelé dokázali generativní umělou inteligenci zodpovědně využívat ve své práci, ale také, aby byli schopni studentům ukázat její správné používání.
Více a méně obav
Kolem poloviny, 45–47 % EdTech lídrů se v souvislosti s AI dále obává nových forem kyberšikany, šíření lživých informací či ohrožení ochrany osobních údajů žáků. Čeho se naopak téměř vůbec neobávají, je, že by AI nahradila učitele, vedla k celkové ztrátě pracovních míst nebo lidstvo překonala.
[2]
Bez pravidel a revize
Výše uvedená zpráva též odhalila, že pokud jde o jasně definovaný přístup k tomu, jak mohou zaměstnanci a žáci používat generativní umělou inteligenci, 4 z 10 EdTech lídrů školských okresů uvedlo, že v současnosti taková pravidla neexistují. Více jak polovina z nich, konkrétně 54 % poté sdělila, že školy v jejich regionu existující politiku používání AI nemají. Vytvoření AI strategie je však zároveň jednou z pěti jejich nejvyšších priorit. (2)
Podle Diane Doersch, předsedkyně správní rady CoSN a ředitelky informačních technologií neziskové organizace Digital Promise, mají obvody mnoho vzdělávacích nástrojů, které byly dříve prozkoumány a schváleny k používání pro zaměstnance a žáky, nyní se však zdá, že všechny tyto aplikace potřebují nové přezkoumání, protože do nich byla přidána umělá inteligence. [2]
AI nemůžeme pozastavit
„Nemůžeme pozastavit AI, abychom se na ni připravili,“ říká Sarah Radclife, tajemnice správní rady CoSN a ředitelka vzdělávání pro budoucnost školského okresu Altoona ve Wisconsinu.
„Není to o tom připravit se na umělou inteligenci, protože ta už tady je. Jde o to s ní pracovat a neustále zlepšovat zavedené systémy, abychom AI využili v produktivitě a učení, a zároveň ochránili informace o žácích a zajistili kybernetickou bezpečnost. A to je velmi náročné,“ doplňuje. [2]
5 kroků ke snížení rizik spojených s AI
Z výše uvedených rizik lze odvodit několik základní kroků, díky nimž bychom popsaným hrozbám mohli předcházet či je minimalizovat. Řada z nich již zazněla v jiných našich článcích o AI na Spomocníkovi, nyní jsou uvedeny v kontextu kybernetické bezpečnosti v kontextu publikované zprávy CoSN.
Vytvořte AI strategii podporující bezpečnou integraci AI ve škole.
Zvyšte digitální gramotnosti všech ve škole v oblasti kybernetické bezpečnosti.
Rozšiřte AI gramotnosti žáků, učitelů a vedení školy.
Zajistěte proškolení všech zaměstnanců školy také v oblasti bezpečného používání AI.
Používejte AI nástroje garantující bezpečnostní standardy pro vzdělávací prostředí.
Od AI ovcí k AI liškám
S novými technologiemi je to pokaždé stejné. Velmi rychle si je oblíbíme, a pak se z nás často stávají „ovce“ (syndrom housete), které tyto technologie slepě používají bez racionálních důvodů či hlubšího přemýšlení o jejich potřebě a smysluplnosti.
Zkuste to u AI změnit. Nebuďme AI ovcemi, nepoužívejme generativní AI všude a na všechno, aniž bychom předem zvážili všechny souvislosti. Zkusme být raději AI liškami. Integrujme nástroje AI chytře a především obezřetně. A nezapomínejme přitom na to, co je pro nás opravdu důležité a má vyšší prioritu.
PUNTILLO, Paige. How Ai is used in Education & 10 Ways You Can Too [online]. 2023. [cit. 2024-05-19]. Dostupné z: https://www.classpoint.io/blog/10-ways-how-ai-is-used-in-education.
LANGREO, Lauraine. What Worries District Tech Leaders Most About AI? (It’s Not About Teaching) [online]. 2024. [cit. 2024-05-19]. Dostupné z: https://www.edweek.org/technology/what-worries-district-tech-leaders-most-about-ai-its-not-about-teaching/2024/05.
