Odborný článek
Digitalizace ve vzdělávání
Je umělá inteligence rizikem pro demokracii?
5,0 (2 hodnocení)
Článek seznamuje s názory Amy Webb, profesorky New York University a zakladatelky Future Today Institute. Je další z řady akademiků, kteří varují před katastrofickým vývojem společnosti vyvolaným technologiemi. K nápravě jsou nutné základní digitální kompetence většiny občanů.
Dnes se seznámíme s názory Amy Webb, profesorky New York University a zakladatelky Future Today Institute. Oborem, kterému se věnuje na vědecké úrovni, je futurologie – tedy předvídání budoucnosti. To je problematika, která nás zajímá, zvláště když se týká umělé inteligence (AI). Název poslední Amyiny knihy hovoří za vše – Velká devítka: Jak technologičtí obři a jejich myslící stroje mohou zdeformovat humanitu (The Big Nine: How Tech Titans & Their Thinking Machines Could Warp Humanity).
Podle Amy „jsme dosáhli bodu zlomu. Musíme udělat krok zpět a podívat se, kam jdeme.“ [1] Současný vývoj technologií se dostal na nebezpečnou cestu. Problém je v tom, že velcí hráči jako Google, Microsoft, Amazon, Facebook, IBM a Apple (G-MAFIA) v Americe se orientují na krátkodobou maximalizaci výnosu na kapitalistickém trhu znemožňující dlouhodobé plánování, zatímco ti čínští, jako jsou Tencent, Alibaba a Baidu, procházejí konsolidací a shromažďují obrovské množství dat, aby posílili autoritářské ambice vlády.
Zvolna se dostáváme do situace, kdy budou systémy umocněné AI dělat bez nás za nás závažná rozhodnutí. Není třeba hned jako největší riziko zmiňovat inteligentní zbraně. Dokumentovat to lze třeba na mnohem známějším příkladu superpočítače Google AlphaGo, který se v roce 2016 proslavil vítězstvím nad mistrem světa ve hře GO (Co dokáží stroje schopné hlubokého učení). Tehdy byl představitelem tzv. „slabé“ inteligence (ANI – viz Co bychom měli vědět o botech). Zvládal „jen“ tu jednu hru. Následovník AlphaGo, AlphaZero se dnes chlubí tím, že již zvládá 3 na logické myšlení náročné hry najednou (GO, šachy a šógi). [2] To znamená, že se z jednoúčelové umělé inteligence (slabé) zvolna přesouvá do kategorie umělé inteligence silné (AGI).
Ještě mnohem důležitější však je, že původně týmem DeepMind nasazená metoda hlubokého učení pracovala na základě dat získaných vložením tahů všech známých partií odehraných lidmi. Na základě těchto dat počítala pravděpodobnost úspěšného tahu v dané situaci. A vlastním hraním se pak zdokonalovala. Tento postup je ale pro úlohy strojového učení s jasně definovanými (algoritmem popsatelnými) pravidly již, zdá se, překonaný. Ukázalo se, že AlphaZero se může učit hrát i bez dat vytvořených lidmi. Prostě hraje sám se sebou a zdokonaluje se tak rychle, že se během 3 dnů dostane na úroveň vyšší než kterýkoli člověk. Velmistři občas s úžasem zírají na to, jak neobvyklé úspěšné tahy takový stroj použije.
Je to tak. Již dnes jsou oblasti, v nichž, chceme-li dosáhnout nejlepších výsledků, musíme řešení nechat jen na strojích. Denně přitom můžeme pozorovat tisíce různých posunů ve vývoji, které schopnosti těchto technologií dále vylepšují.
Pro budoucnost je zásadní otázkou, zda jsou vyspělé západní státy schopné na stávající situaci reagovat v politické rovině. Zdá se, že právě probíhá souboj v tom, která orientace převládne – zda to bude demokracie založená na svobodné vůli občanů, či totalita založená na ovládání společnosti nyní nově podpořená lidmi generovanými daty. Klíčový vliv bude mít úroveň vzdělání většiny (hlavně mediální gramotnost). Přesněji řečeno, to, zda si lidé budou schopni uvědomit, že jsou všudypřítomnými AI systémy ovlivňováni (Stává se svobodná vůle pouhou iluzí?).
Chceme-li alespoň v nějaké modifikované podobě zachovat společnost s převládajícím demokratickým principem fungování, musíme urychleně zavádět systémová opatření vyžadující značné investice. Zatím je to ale spíše tak, že je vývoj AI v demokratickém světě financován hlavně ze soukromých peněz. A soukromí investoři jsou ve svobodném světě na státě nezávislí (na rozdíl od Číny, která v AI spatřuje strategickou zbraň budoucnosti), a udělají vše pro co nejrychlejší návratnost svých investic. Proto jsme svědky toho, jak G-MAFIA mohutně investuje do vývoje bez ověřování a sdílení výsledků, a díky tomu dělá velké množství špatných rozhodnutí.
„My v USA trpíme tragickým nedostatkem předvídavosti. Jestli nezměníme stávající vývoj, blíží se pravděpodobně katastrofa“ [1], říká Amy a formuluje několik doporučení, která mají potenciál katastrofické trendy změnit:
„Mým hlavním doporučením je vytvořit Globální alianci pro rozvoj AI (GAIA), která by vyvinula plošně respektované normy (standardy) pro vývoj budoucích systémů umělé inteligence tak, aby reflektovaly zájmy všech, nejen Američanů a Číňanů. Nesmíme myslet jen v horizontu 5 let. Budoucnost sice předvídat neumíme, určitě jsme ale schopni její příchod lépe připravit.“ [1]
Amy Webb ve svém snažení není sama. Vzpomeňme na Sherry Turkle a její vzkaz, že „technologie jsou zde příliš krátce na to, aby nekontrolovaným způsobem ovlivňovaly náš život“ (viz Spojeni, ale sami!) nebo aktuálně na Douglase Rushkoffa a jeho Team Human (viz Démonologie podle Marka Pesceho). Rozhodující je, zda nás bude dost?!
HAO, Karen. Why AI is a threat to democracy—and what we can do to stop it [online]. 2019. [cit. 2019-05-13]. Dostupné z: https://www.technologyreview.com/s/613010/why-ai-is-a-threat-to-democracyand-what-we-can-do-to-stop-it/.
DeepMind’s Go playing software can now beat you at two more games [online]. 2018. [cit. 2019-05-13]. Dostupné z: https://www.newscientist.com/article/2187599-deepminds-go-playing-software-can-now-beat-you-at-two-more-games/.
Tento materiál je publikován pod licencí Creative Commons – Uveďte původ – Neužívejte komerčně – Nezpracovávejte 3.0 ČR.