5 největších rizik generativní AI

S generativní umělou inteligencí se doslova roztrhl pytel. Necháváme si pomocí ní vytvářet obsah v různých formátech, ať se jedná o texty, grafiku, zvuky, videa, programy ad., a aplikujeme ji na celou řadu problémů. Firmy, nejen ty technologické, jako by se lekly, že pokud AI okamžitě neintegrují do svých produktů, přestanou být konkurenceschopní. A uživatelé, ti začali generativní AI využívat naplno pro profesní i osobní potřebu, pohodlí, zábavu a nedokážou pochopit, jak bez ní dřív mohli existovat.

Vrhli jsme se zkrátka po hlavě na tuto novou technologii a začali vidět spoustu pozitivních hledisek a benefitů, které nám přináší, a příliš jsme přitom nemysleli na rizika, která jsou s ní spojena.

5 největších rizik generativní AI

Avivah Litan, VP analytička Gardneru, v nedávném rozhovoru s názvem Proč jsou důvěra a bezpečnost zásadní pro budoucnost generativní AI vyjmenovala 5 nejvýznamnějších rizik, která v dnešní době v souvislosti s generativní AI vyvstávají. Pojďme si je postupně přestavit včetně komentářů, které k nim uvedla.

1. Halucinace

Halucinacemi se myslí chyby, ke kterým jsou AI modely náchylné, protože i když jsou pokročilé, pořád to není člověk, a tak se spoléhají na trénink a data k poskytování odpovědí. Pokud používáte AI chatbota, pravděpodobně jste tyto halucinace zažili prostřednictvím nesprávného pochopení vaší otázky nebo očividně nesprávné odpovědi na tuto otázku.

„Tréninková data mohou vést k zaujatým, nesprávným nebo chybným odpovědím, které ale mohou být obtížně rozpoznatelné, zejména když jsou daná řešení stále více uvěřitelná a dá se na ně stále více spoléhat,“