Co školy nejvíc znepokojuje na AI

S novými technologiemi je to pokaždé stejné. Velmi rychle se je naučíme používat, ale málo přitom přemýšlíme o tom, zda je používáme efektivně a především bezpečně. A právě bezpečnost často podceňujeme nejvíc. Nastavujeme slabá, opakující se hesla, nepoužíváme správce hesel, nenastavujeme víceúrovňovou či bezheslovou autentizaci, neřešíme, jaká data o nás námi používané aplikace sbírají a poskytují třetím stranám, a tak bychom mohli pokračovat. A v případě generativní umělé inteligence tomu není jinak.

Hlavní rizika spojená s AI podle CoSN

Za rok a půl od uvedení chatbota ChatGPT se postupně nástroje generativní AI rozšířily do mnoha stávajících platforem včetně těch edukativních. Učitelé je začali využívat v plánování, přípravách a personalizaci výuky, v procesu ověřování úrovně vzdělávání, při hodnocení a poskytování zpětné vazby, pro automatizaci procesů a v řadě dalších situací, kdy jim jejich práci usnadňují a zefektivňují. [1]

Umělá inteligence má významný potenciál ve zlepšování vzdělávání, současně však pro školy představuje obrovské riziko v oblasti kybernetické bezpečnosti, shrnuje americké konsorcium CoSN (ke kterému se vracíme opakovaně) ve výroční zprávě celostátního výzkumu oblastních lídrů vzdělávacích technologií z 30. dubna 2024, pro něž se kybernetická bezpečnost stala v tomto roce nejvyšší prioritou. [2]

Pojďme se nyní podívat na hlavní rizika spojená s AI podle této zprávy:

Obava z kybernetických útoků

Přibližně dvě třetiny, konkrétně 63 % z téměř tisíce dotázaných oblastních EdTech lídrů (průzkum proběhl v průběhu ledna a února 2024) má velkou nebo extrémně velkou obavu, že nově se rozvíjející technologie umělé inteligence umožní vznik nových forem kyberútoků.