Zamyšlení nad současným vývojem generativní umělé inteligence, který je spojen s polemikou, v níž značné množství odborníků navrhuje vývoj pozastavit a zabývat se riziky, která může přinést.
To, že bude aktuální skok v rozvoji generativní umělé inteligence (AI) spojen s mnoha výzvami, nás nepřekvapí. Volně dostupný ChatGPT ve verzi 3.5 udělal díru do světa. Lepší reklamu nyní již komerčně nabízená verze 4 ani získat nemohla. Výzvy mají hodně společného se školstvím. Podívejme se nejprve, jak tuto problematiku vidí odborníci a vědci (např. Musk, Wozniak, Harari), kteří podepsali petici Pause Giant AI Experiments: An Open Letter, v níž navrhují zastavit vývoj na 6 měsíců, zamyslet se a nastavit pravidla tak, aby byla rizika minimalizována.
Bez značné kritiky se dosud neobešel žádný převratný objev. I rozvoj AI je s ní spojen již celou řadu let (Superinteligence podle Macieje Cegłowského, Je umělá inteligence rizikem pro demokracii?). Signatáři petice tvrdí, že vývojové laboratoře AI nemají nastávající pokrok plně pod kontrolou a chybí jim dostatečná zodpovědnost. To, co vzniká, že je dosud nejsilnější digitální mozek, jehož funkci nerozumí ani samotní tvůrci. Existuje reálné riziko, že takto umocněná umělá inteligence vyvolá zásadní změny života na Zemi. Že získá kontrolu nad tokem informací a bude rozhodovat o tom, co je a co není pravda. Že převezme celou řadu činností, které dnes dělají lidé. Že ztratíme kontrolu nad celou naší civilizací.
Hádám, že i u nás existuje celá řada odborníků, kteří budou ochotně souhlasit. Mezi učiteli to asi bude většina. Než uděláme závěr, trochu se zamysleme. Možná by nám mohly pomoci názory nám známé dlouholeté propagátorky vzdělávacích technologií, vedoucí IT sekce Sherwood Christian Academy v Georgii, blogerky (CoolCatTeacher) a hlavně učitelky Vicki Davis [1].
Vicki se zamýšlí nad tím, co vede vedoucí představitele konkurenčních korporací k podpisu petice (třeba Wozniak je spolumajitelem Apple). Ptá se, zda to náhodou není potřeba získat čas k dohnání vývoje, který jim utekl. Přesto vnímá, že mezi signatáři je i mnoho významných osobností, jejichž motivace je mnohem ušlechtilejší. Věří, že i ve vývojových laboratořích pracují většinou lidé, kteří vědí, co dělají, a lze jim důvěřovat.
Jiný problém je v tom, že výzkum stojící za rozvojem generativní AI může na současné úrovni dělat jen několik málo vybraných jedinců. Počítačový výkon (neuronové sítě), který je třeba mít, je tak obrovský, že si ho mohou dovolit jen nejbohatší korporace (či státy) – viz rozhovor profesora Pěchoučka níže.
Vicki zmiňuje ještě další souvislost, která se týká všech, kdo patří do množiny rezidentů internetu, tedy i jí. Klade otázku, zda je možné připustit, aby současné systémy AI mohly stahovat a analyzovat všechna data vytvořená uživateli a publikovaná na internetu, včetně webových stránek, zvuků (podcast) či obrázků (osobní fotky), konverzací na sociálních sítích apod. Díky těmto datům lze dnes formou strojového učení vytvořit model každého, o němž jsou k dispozici dostatečná data, a simulovat jeho chování (viz např. How to Make AI Write Like Your Favorite Author). To je samozřejmě nejen otázka práva na použití všech online dostupných dat, ale též již dlouho diskutovaný problém autorských práv k artefaktům vytvořeným umělou inteligencí (Komu patří práce strojů?). Vicki si přeje, aby její právo na vlastní identitu, originalitu a osobnost zůstalo nedotčeno.
Přimlouvá se za to, aby AI dodržovala pravidla, která musí být jasně definována předem:
Právo na nenarušování individuální identity.
Ochrana dětí před reklamou, pornografií ad.
Existence záchranné brzdy (bezpečnostní tlačítko nouzového vypnutí).
Je to tak. Vývoj nelze zastavit. I kdyby měl americký kongres moc ovlivnit činnost společností působících v kalifornském Silicon Valley, je naivní si představovat, že by s něčím takovým souhlasily též laboratoře pracující v jurisdikci autoritářské Číny, jež se cílevědomě snaží v oblasti technologického rozvoje převzít vedoucí roli.
Zdá se, že aktuální situaci lze přirovnat k vývoji atomové bomby v polovině minulého století. Ten, kdo bude disponovat nejsilnější umělou inteligencí, možná bude ovládat směřování celé naší civilizace. Bylo by záhodno dospět k vyváženému stavu, v němž by nové technologie vybavené umělou inteligencí sloužily jen ku prospěchu lidí (analogie atomových elektráren). Zní to idealisticky. Plošné vzdělávání je asi jedinou možnou cestou k tomu, aby se to povedlo.
Zde ale narážíme na další závažný problém. Stroje se učí (zdokonalují) nesrovnatelně rychleji než lidé. Stačí si představit nastávající možnost využít generativní AI místo k rozšiřování obzorů a obohacování vlastního myšlení ke generování hotových produktů – třeba ročníkových či seminárních prací. Pokud by tento postup ve výuce převládl, znamenalo by to jen další rozšiřování nerovností, tedy zvyšování propasti mezi těmi, koho nové schopnosti AI obohacují, a těmi, kdo je jen pasivně přijímají. Přitom již dnes je boj s nerovnostmi jednou z hlavních priorit našeho školství.
Osud lidstva je možná v rukou vývojářů AI. Snad mají dost moudrosti, etiky a cti, aby si uvědomili, že je třeba změnit přístup. Že není možné do budoucna vše podřizovat finančnímu zisku nebo politickým zájmům. Snad se nám podaří zachovat vlastní identitu a nepodlehnout algoritmické kontrole všudypřítomných digitálních AI systémů ovládaných jedinci toužícími jen po vlastním prospěchu.
Na úvodní otázku si odpovězte sami. Určitě máte nad čím přemýšlet!
