Základy AI pro školy

Nedávno jsem se zúčastnil kurzu European Schoolnet Academy AI Basics for Schools vyvinutého v rámci známého CodeWeeku. Skutečně se jednalo hlavně o základy umělé inteligence, které každý čtenář Spomocníka již zná. Přesto jsem tam našel dvě témata, která stojí za vypíchnutí.

Evropské etické pokyny

Málo se u nás mluví o tom, že EU již v roce 2019 vydala Etické pokyny pro zajištění důvěryhodnosti UI [1] (Dosud jsem používal výhradně anglickou zkratku AI, tak teď nevím. Toto je ale oficiální překlad Evropské komise.). Vyberu to nejdůležitější.

Základní pokyny pro vývojáře:

• Vyvíjet, zavádět a používat systémy UI způsobem, který dodržuje etické zásady týkající se: respektování lidské autonomie, předcházení újmám, spravedlnosti a vysvětlitelnosti. Uznat potenciální konflikty mezi těmito zásadami a zabývat se jimi.
• Věnovat zvláštní pozornost situacím, v nichž vystupují zranitelnější skupiny obyvatel, jako jsou děti, osoby se zdravotním postižením a jiné skupiny, které byly v minulosti znevýhodněny, jsou ohroženy vyloučením a/nebo čelí situacím, ve kterých existuje mocenská nebo informační asymetrie, jako například ve vztazích mezi zaměstnavateli a zaměstnanci nebo mezi podniky a spotřebiteli.
• Uvědomit si a zohlednit skutečnost, že přes veškeré výhody, které jednotlivcům i společnosti obecně přinášejí, mohou mít některé aplikace UI také negativní dopady, včetně dopadů, které lze obtížně předjímat, určit nebo měřit (např. na demokracii, právní stát, spravedlivé rozdělování nebo na samotnou lidskou mysl). Přijmout náležitá opatření k zmírnění těchto rizik, je-li to vhodné a přiměřené vzhledem k velikosti rizika.