Policy Horizons Canada je vládou zřízené výzkumné centrum, jehož úkolem je předpovídat budoucnost. (Nedá mi to a připomenu, že podobný ústav byl před revolucí i u nás a nesl přízvisko Prognostický.) Nesnaží se přímo říkat vládě, co má dělat, jen ukazuje vývojové trendy s možnými riziky, s nimiž je třeba při rozhodování počítat. Podívejme se alespoň na několik nejzávažnějších možných rizik z jeho poslední zprávy Disruptions on the Horizon [1] dotýkajících se technologií.
- Lidé nedokážou rozlišit, co je pravda a co ne
Informační prostor je zaplaven obsahem generovaným lidmi a umělou inteligencí (AI). Dezinformace téměř znemožňují poznat, co je skutečné a co falešné.
Je mnohem těžší vědět, čemu nebo komu věřit. Výkonnější generativní nástroje umělé inteligence, klesající důvěra v tradiční zdroje informací a algoritmy snažící se spíše o emocionální zapojení než o faktické podávání zpráv by mohly zvýšit nedůvěru a vést k sociální fragmentaci. Mnoho lidí může žít v odlišných realitách utvářených prostřednictvím personalizovaných médií a informačních ekosystémů. Tyto skutečnosti by mohly vyvolat vznik neslučitelných konkurenčních narativů a tvořit základ zlomových linií ve společnosti. Provádět seriózní výzkum na základě vědeckých důkazů by mohlo být stále obtížnější. Veřejné rozhodování může být ohroženo, jestliže bude stále obtížnější efektivně komunikovat klíčová sdělení. - Kybernetické útoky ohrožují kritickou infrastrukturu
Technologie jsou stále důležitějším prvkem v kritické infrastruktuře.
Poruchy základních služeb, jako je internet, doprava, dodávky elektřiny či vody nebo zásobování potravinami, se mohou stát běžnými kvůli pravidelným kybernetickým útokům, které narušují každodenní život. Týká se to i klíčových operací a služeb poskytovaných vládami, což by mohlo snížit důvěru ve služby, technologie nebo vládní politiku. Důsledkem může být poptávka po osobních off-line službách. Nálady veřejnosti by se mohly dále posunout proti digitálním technologiím též proto, že jsou implementovány stále složitější systémy s umělou inteligencí (AI), ale uživatelé jim mohou špatně rozumět a často jim nedůvěřují. Globální soutěž o technologickou dominanci může rizika dále zvyšovat, protože geopolitika, technologie a ekonomika se sbližují. - Umělá inteligence běží nekontrolovaně
AI se rychle vyvíjí a její využití se stává všudypřítomným. Společnost nedokáže držet krok a lidé příliš nerozumí tomu, kde a jak se používá.
Tržní a geopolitická konkurence by mohla být hnací silou dalšího rychlého rozvoje AI a zároveň potenciálně motivovat k riskantnímu chování a nedostatku transparentnosti. Rychlý vývoj může předstihnout regulační snahy bránící zneužití AI, což by vedlo k mnoha nepředvídatelným problémům. Data používaná k trénování generativních modelů AI mohou porušovat soukromí a práva duševního vlastnictví, protože informace jsou shromažďovány, ukládány a používány bez odpovídajících regulačních postupů. Stávající nerovnosti se mohou zesílit, protože AI zachovává zkreslení ze zdrojů původně vyprodukovaných lidmi. Sociální soudržnost může erodovat, protože záplava nedetekovatelného obsahu generovaného AI manipuluje a rozděluje populace, čímž podněcuje střety. Jako technologie náročná na energii a vodu by umělá inteligence mohla také vyvolat tlak na dodávky životně důležitých zdrojů a zároveň urychlovat změnu klimatu. - Svět řídí miliardáři
Extrémně bohatí lidé využívají své platformy, firmy, nadace a investice k utváření veřejné politiky – vnucují své individuální hodnoty a přesvědčení a obcházejí principy demokratického vládnutí.
Budoucnost demokracie a globálního vládnutí by mohla být ohrožena. Více miliardářů by mohlo využít svou kontrolu nad strategickými technologiemi a obrovskou koncentraci bohatství a vstoupit do oblastí, které byly dříve vyhrazeny státům, jako je průzkum vesmíru a diplomacie. Jak jejich moc roste, mohli by získat válečné schopnosti a kontrolu nad přírodními zdroji a strategickým rozhodováním. Někteří by mohli kooptovat národní zahraniční politiku nebo podniknout jednostranné diplomatické či vojenské akce, což by destabilizovalo mezinárodní vztahy. To může přinést nové nejistoty pro řídicí struktury, protože soukromé osoby nemají stejná rozhodovací omezení jako diplomaté, politici a vojenští profesionálové.
Literatura a použité zdroje
Disruptions on the Horizon [online]. 2024. [cit. 2024-09-08]. Dostupné z: https://horizons.service.canada.ca/en/2024/disruptions/index.shtml.
