Dokážeme držet krok s AI?

Změny, které se kolem nás odehrávají, nelze přehlédnout. Dochází k prudké polarizaci společnosti i ke konfrontaci mezi demokracií a totalitou. Jen málokdo nemá z budoucnosti strach. Významnou roli v tomto vývoji sehrávají technologie a umělá inteligence zvláště.

Problém je celkem zřejmý. Schopnosti AI se prudce zvyšují. V současnosti se přibližuje k tzv. obecné umělé inteligenci (Definice AGI podle Fadela), to znamená, že bude schopná vlastně ve všech oborech disponovat inteligencí na úrovni lidské. Na cestě dalšího vývoje pak je tzv. superinteligence, která by jednou mohla překonat schopnosti celého lidstva. Kdo by nechtěl, aby takovou sílu mohl kontrolovat a s její pomocí ovládnout celý nám známý svět?

Existuje mnoho výzev významných odborníků, kteří před dalším vývojem AI varují, ale již ze samotné podstaty problému se zatím nezdá, že se podaří vývoj ovlivnit tak, aby byl se zájmy lidstva v souladu (Alignment). V té souvislosti si připomeňme 1. Asimovův zákon z roku 1942 – „Robot nesmí ublížit člověku“ a porovnejme ho se současností, kdy se robotické zbraně stávají hlavním nástrojem vedení války. Pokud se některý z vrcholných vývojářů AI rozhodne soulad se zájmy lidstva zachovat, nikdo mu nezaručí, že to konkurence udělá též.

https://aligntheworld.com/about-ai/

A tak jsme nuceni sledovat, jak schopnosti (Capabilities) AI rostou nad rámec prospěšnosti. Blíží se okamžik, kdy její schopnosti skutečně předčí lidské. Co bude dál, je značně nejisté.

Před nekontrolovaným zvyšováním schopností technologií dnes varuje mnoho odborníků. Jako obvykle se dá říci, že tento problém existuje již dlouho. Je na něm založena třeba i celá literatura science fiction. Spomocník se mu věnuje dlouhodobě.

Vzpomeňme např. zprávu o seriálu BBC Dohlížejí na vše stroje láskyplné milosti? z roku 2011, který vycházel z pocitů beatnické generace (hippies) na počátku snah o automatizaci lidské činnosti (60. léta 20. století). Připomeňme si newyorského profesora Douglase Rushkoffa, který již desítky let učí informatiku a dospěl k tomuto doporučení: Ovládej, abys nebyl ovládán!

Po nedávném raketovém nástupu AI se začaly vynořovat katastrofické prognózy slibující ovládnutí Země umělou inteligencí. Vtip je v tom, že nelze snadno zaručit, aby síla disponující vyšší inteligencí poslouchala rozkazy inteligence nižší. Na druhou stranu je třeba ji vybavit dostatečnou mírou samostatnosti, má-li se sama zdokonalovat a rozhodovat nad rámec schopností lidí.

Jedním z prvních špičkových vývojářů AI, kdo před podobným vývojem varoval, byl Geoffrey Hinton, o němž Spomocník referoval v roce 2023 (Rizika vývoje AI podle Geoffreyho Hintona). Od té doby se objevují další. K nejznámějším patří např. kalifornský profesor a zakladatal Future of Life Institute Anthony Aguirre, jehož esej Keep The Future Human z března 2025 je základem pro stejnojmenný web shrnující důvody pro regulaci AI.

Dalším zajímavým počinem je portál Lesswrong založený známým výzkumníkem a autorem pojmu „přátelská AI“ Eliezerem Yudkowskym, který propojuje komunitu snažící se zlepšit rozhodovací schopnosti lidstva, a to hlavně v souvislosti s vývojem AI.

A přidám ještě jeden web z dílny renomovaných vědců s podobným cílem – AI 2027. Zde najdete detailní prognózu vývoje AI do roku 2027 ve dvou variantách. Dojde, či nedojde k dohodě a regulaci?

Podobných aktivit byste jistě našli mnohem více. Jde o to, zda má naše úsilí naději na úspěch. Zatím to nevypadá, že by k dohodě mohlo v dohledné době dojít. Totalitní režimy v čele s Čínou touží po změně zaběhaných pořádků. AI hraje roli podobnou atomovým zbraním v 50. letech minulého století. Mimochodem ten, kdo je vlastní, je nedotknutelný! I dnes se všichni vývojáři snaží držet krok s nejnovějším pokrokem a, nejde-li to jinak, objevy zdokonalující schopnosti AI se snaží získat za každou cenu.

Nechci končit zcela pesimisticky. Určitá naděje přece jen existuje. U atomových zbraní to bylo riziko zničení celé Země. U AI existuje naděje, že mocní tohoto světa nebudou chtít zajít tak daleko, že kontrolu nad dalším vývojem přenechají umělé inteligenci. To by paradoxně mohl být i jejich konec.

Literatura a použité zdroje

AI Alignment: Ensuring AI Systems Reflect Human Values [online]. 2025. [cit. 2025-09-23]. Dostupné z: https://witness.ai/blog/ai-alignment/.

The AI Alignment Dilemma: Can We Control Super Intelligent Machines Before It’s Too Late? [online]. 2025. [cit. 2025-09-23]. Dostupné z: https://medium.com/@ai_93276/the-ai-alignment-dilemma-can-we-control-super-intelligent-machines-before-its-too-late-ceb42c0dc413.