Krize vnímání AI podle Carla Iacona

Knihovník australské Charles Sturt University Carlo Iacono mě zaujal zajímavou myšlenkou (The Blank Box Problem). Tvrdí, že dobře nechápeme, co je hlavním problémem spojeným s využitím AI ve vzdělávání. Formuluje ho takto: „I když systémy AI nyní mohou generovat videa, skládat hudbu a zapojit se do sofistikovaného uvažování, náš primární způsob přístupu k nim zůstává stále nezměněn – blikající kurzor čekající na vstup. Pro ty z nás, kteří jsou hluboce ponořeni do AI, se tento jednoduchý interface zdá elegantní. Pro všechny ostatní je to prázdný box nejistoty.“ [1]

Carlovi stávající systémy generativní AI připomněly, jak před 40 lety zkoumal, co s lidmi dělá nutnost pracovat s příkazovým řádkem operačního systému DOS. Pro mnohé se blikající kurzor stal spíše zdrojem paralýzy než možností. Bariéra přitom nebyla technologická – byla psychologická. Lidé postrádali jasná vodítka, co napsat a jak bude systém reagovat.

Současné AI systémy, ať už textové, hlasové, nebo multimodální, čelí na zcela jiné úrovni podobným problémům. Ten, kdo si osvojil jejich nepsaná pravidla, má možnost jejich schopnosti využít, ale pro mnohé blikající kurzor otevírá jen obrovský prostor nejistoty. Nevědí, na co se mají ptát, jak formulovat svou žádost, co daný systém vlastně umí, jak interpretovat výsledek, jak moc je odpověď spolehlivá, co dělat s výstupem. Každá taková otázka zvyšuje kognitivní zátěž ještě předtím, než může začít nějaká interakce. Nejde jen o to vědět, jak nástroj používat – jde o to mít schopnost si předem představit jeho možnosti.

Systém na vznikající problém reaguje tradičním způsobem. Vytváří množství školicích programů, lepší dokumentaci a ukazuje příklady použití. To dává smysl vývojářům a čelným uživatelům, ale ostatním to moc nepomáhá. Neučíme lidi jen používat nástroje – žádáme je, aby přijali nové formy myšlení prostřednictvím postupů, které zůstávají nedostatečně pochopené. Naším cílem není přenos znalostí – je to uznání hodnoty. Žádné školení nemůže překlenout tuto bariéru, pokud základní rozhraní vytváří překážky osobnímu objevování. A nepomůže ani to, když se snažíme vytvářet stále sofistikovanější systémy, které dokážou porozumět a generovat v různých modalitách, když očekáváme, že uživatelé budou každou interakci iniciovat a strukturovat prostřednictvím textu. Je to jako mít univerzálního překladatele, ale vyžadovat, aby každý psal formální dopisy v latině.