Kam až sahají rizika přílišného spoléhání se na AI? A proč se obracet na odborníky, kteří získávají rady od umělé inteligence, když od ní tyto odpovědi můžeme získat sami?
Když přední bostonská poradenská společnost Boston Consulting Group ve své výroční zprávě z roku 2023 uvedla, že její IT konzultanti jsou mnohem produktivnější při používání nástrojů GPT-4 od Open AI, sklidila za to, společně s řadou dalších gigantů v oboru, od mnoha komentátorů ostrou a opodstatněnou kritiku. Jejich argumenty byly následující: pokud vysoce placení konzultanti získávají potřebné rady od ChatGPT, proč bychom si je měli najímat za miliony dolarů, když tyto odpovědi můžeme od ChatGPT získat sami a zadarmo? [1]
Aniž by si to uvědomili, svým konkrétním postojem otevřeli Pandořinu skříňku AI a nepřímo poukázali na řadu obecných a zcela zásadních skutečností, které byly až doposud ukryty někde hluboko na jejím dně.
Tři poselství plynoucí z uvedené kritiky
Kdokoli, i s omezenými nebo nedostatečnými dovednostmi, může nyní využít AI k tomu, aby se prosadil nebo vypadal, že je odborník v dané oblasti.
Kvalifikovaní vědci, technologové a odborníci v konkrétním oboru se mohou dostat do pasti, budou-li se při své práci příliš spoléhat na AI na úkor svých vlastních odborných znalostí.
Dnes jsou potřební a žádaní ti, již dokážou informacím a výsledkům, které AI poskytuje, dodat nadhled a kritické myšlení.
[1]
Rizika přílišného spoléhání se na AI
Výzkumnice Lisa Messeri z Yaleovy univerzity a Molly. J. Crockett z Princetonské univerzity varují, že dokonce i vědci, kteří jsou vyškoleni k tomu, aby kriticky přezkoumávali informace, podléhají lákavosti strojově generovaných poznatků.
„Takové iluze zamlžují schopnost vědecké komunity rozpoznat vznik vědeckých monokultur, kdy některé typy metod, otázek a pohledů začínají dominovat nad alternativními přístupy, což činí vědu méně inovativní a zranitelnější vůči chybám,“ uvádí se v jejich výzkumu.
Messer a Crockett konstatují, že kromě obav z etiky AI, zaujatosti a ztráty pracovních míst se rizika spojená s nadměrným spoléháním se na umělou inteligenci jako na zdroj odborných znalostí teprve začínají objevovat.
V běžném firemním prostředí pak vede přílišné spoléhání se uživatelů na AI ke ztrátě produktivity a zklamání důvěry. Tito lidé mohou měnit své jednání, aby se přizpůsobili doporučením AI. Navíc je pro ně často obtížné vyhodnotit výkonnost AI a pochopit, jak ovlivňuje jejich rozhodnutí, poznamenávají Samir Passi a Mihaela Vorvoreanu ze společnosti Microsoft ve své studii na toto téma.
S tím souhlasí i Kyall Mai, vedoucí inovací z Esquire Bank, který považuje AI za klíčový nástroj pro zapojení zákazníků a zároveň varuje před jejím nadměrným používáním jako náhrady lidské zkušenosti a kritického myšlení.
Mai, který sám prošel kariérou od programátora až po všestranného ředitele IT, nepopírá, že umělá inteligence je pravděpodobně jedním z nejcennějších nástrojů zvyšujících produktivitu. Zároveň se však obává, že přílišné spoléhání se na generativní AI, ať už jde o obsah, nebo kód, sníží kvalitu a bystrost myšlení lidí.
„Uvědomujeme si, že mít fantastické mozky a výsledky nemusí být nutně stejně dobré jako mít někoho, kdo je ochoten kriticky myslet a poskytnout vlastní pohled na to, co vám umělá inteligence a generativní AI vrátí v podobě doporučení,“ říká. „Chceme takové lidi, kteří mají emocionální a sebevědomé schopnosti říct: ‚Hm, tohle mi nepřipadá úplně v pořádku, mám dost odvahy na to, abych si o tom s někým promluvil a ujistil se, že je do toho zasvěcen i člověk.‘“
[1]
Princip, který platí pro všechny
Takto odhodlané, sebevědomé a kriticky smýšlející jedince bychom měli vychovat i z našich žáků. To je jeden z hlavních cílů, který si musíme stanovit.
Potřebujeme odvážné mozky, ne líné tvůrce promptů, AI ovce spoléhající se na výsledek, který jim AI nabídne a s nímž se následně okamžitě spokojí. A tenhle jednoduchý princip platí stejně tak pro žáky, jako pro učitele.
Použijeme-li analogii kritiky konzultantské firmy z úvodu: proč by se měli žáci obracet na učitele, kteří získávají potřebné rady od umělé inteligence, když od ní tyto odpovědi mohou získat sami?
Literatura a použité zdroje
MCKENDRICK, Joe. We need bold minds to challenge AI, not lazy prompt writers, bank CIO says [online]. 2024. [cit. 2024-09-28]. Dostupné z: https://www.zdnet.com/article/we-need-bold-minds-to-challenge-ai-not-lazy-prompt-writers-bank-cio-says/.
