Příběhy skryté za projektem Glaze odkrývají mnohavrstevnatou problematiku generativní AI a připomínají, na co bychom při zavádění technologií neměli zapomínat.
Zdroj: Glaze
Příběh Autumn Beverly
Na podzim roku 2022 učinila Autumn Beverly odvážné rozhodnutí. Opustila profesi trenérky psů, která ji doposud živila, a na plný úvazek se vrhla na uměleckou dráhu. Ve snaze udělat si jméno, publikovala svá díla, převážně barevné skicy, na Twitteru a postupně získala první zakázky – od návrhu log až po konceptuální umění.
Tou dobou však začalo lidem velmi imponovat generativní umění a Beverly se dozvěděla, že AI brzy překoná lidské umělce. Její nová kariéra mizela a ona s tím nemohla téměř nic dělat.
Pak to najednou přešlo do osobní roviny. Když Beverly v říjnu zkontrolovala webovou stránku HaveIBeenTrained.com, která odhaluje umělecká díla a fotografie použité pro výuku AI modelů, zjistila, že její nedávná práce je jen nepatrným zlomkem díla, které bylo staženo. Dokonce i kresby, které zveřejňovala před několika lety na platformě pro sdílení obrázků DeviantArt
, byly využity k vytvoření bota, který by ji mohl jednoho dne nahradit.
„Měla jsem dokonce strach svou práci někde zveřejnit. Zatímco dříve jsem ji šířila proto, aby mé umění bylo vidět, nyní to bylo skoro až nebezpečné,“ říká.
A její dilema s ní sdílí tisíce umělců: pokud by nabízeli svou práci online, živili by tím roboty, kteří jsou připraveni zničit jejich kariéru.
Řešení s názvem Glaze
Ben Zhao, profesor počítačových věd z Chicagské univerzity, našel pro umělce, jako je Autumn Beverly, řešení. Se svým týmem vytvořil zdarma dostupný program s názvem Glaze, který dokáže upravit snímek způsobem, který obelstí učící se modely AI, pro lidské oko ovšem tyto změny nejsou takřka patrné.
Program, jenž od svého vydání v březnu 2023 zaznamenal již bezmála 900 tisíc stažení, konkrétní snímek na umělcově počítači přerenderuje s přidáním vizuálního šumu. Upravený obrázek lze tak stále předložit učícím se AI modelům, získaná data z něj ale budou nepřesná. Pokud by například Beverly upravila svou práci pomocí programu Glaze, člověk by stále toto dílo dokázal rozeznat, pod daným zakrytím by však AI rozpoznala zřetelné rysy jiného stylu umění, jako například abstraktní obrazy Jacksona Pollocka.
Glaze umožňuje uživatelům upravit intenzitu daného zakrývání a také délku renderování. V závislosti na tom, co si uživatel zvolí, mohou být vizuální rozdíly výrazné.
„Nový rendering zcela změní způsob, jakým AI model vnímá fotografii nebo umělecké dílo. A mělo by to fungovat napříč všemi dnešními učícími se modely, jelikož využívá základní rozdíl mezi tím, jak AI čte obrázky, a tím, jak je vidí lidé,“ vysvětluje Zhao.
Ukázka úrovně renderování pomocí Glaze (Celso FLORES, Flickr)
Hlavní cíl programu Glaze
Jak Zhao říká, hlavním cílem programu Glaze je ochrana individuálního stylu umělce. Jeho tým přišel s konceptem tohoto programu poté, co jej oslovili umělci, kteří se obávali toho, že se modely AI speciálně zaměřují na jejich dílo.
A dodává, že to se již děje. Tým z Chicagské univerzity zaznamenal lidi, kteří nabízejí programy online, vytrénované k imitování kreseb a obrazů jednoho konkrétního umělce.
„Takže někdo stáhne hromadu uměleckých děl z účtu patřící konkrétnímu umělci, vytrénuje program na těchto modelech a řekne: ‚Tenhle program nahradí daného umělce, můžete ho mít, pokud si jej stáhnete ode mě a zaplatíte mi pár dolarů,'" popisuje Zhao.
Příběh Sarah Andersen
Sarah Andersen, tvůrkyně a provozovatelka webového komiksu Sarah's Scribbles, v loňském roce zjistila, že AI text-to-image generátory, jako je Stable Diffusion, mohou vytvářet komiksy jejím charakteristickým stylem.
S tak velkým počtem sledujících (více než 4,3 milionu lidí na Instagramu) se obává, že by AI data o její práci mohla být použita jako mocný nástroj pro online napodobování nebo obtěžování.
„Pokud mě chcete obtěžovat, můžete napsat ‚postava Sarah Andersen‘, vymyslet něco skutečně urážlivého a ono vám to vyklopí čtyři obrázky," popisuje Andersen.
Zde má program Glaze přirozeně své místo, říká Zhao. Pokud AI nedokáže získat přesné informace o umělcově stylu, nemůže doufat, že jej nahradí nebo zkopíruje jeho práci.
Sarah Andersen zatím nemá způsob, jak z internetu stáhnout všechna svá díla, která pravidelně nahrává posledních 12 let. Kromě toho jsou sociální sítě prakticky jediným zdrojem jejích současných příjmů.
Je také jednou z hlavních žalobců v soudním řízení o miliardu dolarů proti AI společnostem jako OpenAI nebo Stability AI. Tvrdí, že tyto společnosti trénovaly své modely na miliardách uměleckých děl bez souhlasu umělců.
Po dobu soudního řízení Andersen doufá, že ji Glaze poslouží jako dočasné obranné opatření.
„Před Glaze jsme neměli žádnou možnost, jak se proti AI chránit. Mluví se o možnosti odhlášení se ze služeb, ale když jste jako já už přes deset let online umělcem, vaše práce je všude," vysvětluje.
O co projekt Glaze ve skutečnosti usiluje
„Konečně, pokud by společnost zaměřená na umělou inteligenci chtěla Glaze obejít, mohla by to snadno udělat,“ konstatuje Haibing Lu, profesor infoanalytiky z Univerzity v Santa Claře, který se zabývá studiem AI.
„Kdybych byl společností zaměřenou na umělou inteligenci, opravdu bych se tímto moc neznepokojoval. Glaze do umění v podstatě přidává šum, a pokud bych opravdu chtěl prolomit jejich ochranné systémy, bylo by to možné, a je to velmi jednoduché,“ doplňuje Lu.
Teoreticky by to mohlo vést k jakémusi pseudozávodům ve zbrojení, kde se společnosti zaměřené na umělou inteligenci a tým Glaze neustále snaží předčit jeden druhého. Pokud by ale tyto společnosti věnovaly své zdroje na prolomení Glaze, pak již tento program částečně splnil svůj účel, uvažuje Zhao.
„Celou podstatou zabezpečení je nastavit laťku tak vysoko, že ten, kdo dělá, co by dělat neměl, to vzdá a najde si místo toho něco levnějšího," dodává Zhao.
„Technologické systémy navržené k ochraně něčí práce jsou v některých zemích právně chráněny, není ale jasné, zda by program jako Glaze mohl do této kategorie spadat. Pokud jde o mě, dokážu si představit, že soudci budou ochotni říci, že tomu tak je,“ uvádí Martin Senftleben, profesor informačního práva z Amsterdamské univerzity.
V co dalšího ještě mohou umělci doufat
„Umělci, kteří se obávají AI, mnoho alternativ ke Glaze nemají. Pokud tvůrci jako Beverly nebo Andersen chtějí žalovat společnosti zaměřené na umělou inteligenci kvůli porušení autorských práv, čeká je těžká cesta k vítězství,“ říká Senftleben.
„Problém spočívá v tom, že samotná imitace stylu obvykle k uplatnění autorského nároku nestačí, protože koncepty, styly, nápady atd. zůstávají podle autorských práv volné. Například autorka Harryho Pottera J. K. Rowling nemá monopol na příběhy o mladém chlapci, který objeví své kouzelnické schopnosti,“ dodává Senftleben.
„Jedním právním řešením by pro umělce mohl být systém licencování, který by jim platil za použití jejich umění pro výuku AI. Nebo by země mohly zdanit zisky z děl generovaných umělou inteligencí a peníze přesměrovat zpět do kapes umělců. To ale může trvat roky, možná i desetiletí, než takové zákony nabydou účinnosti,“ doplňuje ještě Senftleben.
Základem pro takovéto právní řešení, platné v USA a v ostatních zemích, by mohl posloužit Akt o umělé inteligenci, první komplexní zákon o AI na světě, který v rámci své digitální strategie připravuje Evropský parlament.
Glaze si tak podle Zhaoa klade za cíl vyplnit mezeru, dokud tyto zákony nebo směrnice nebudou ustáleny.
„Glaze nikdy neusiloval o to být dokonalý," říká Zhao. „Celým smyslem bylo řešit hrozbu pro umělce, kdy buď úplně ztratí svůj příjem, nebo budou publikovat a vědět, že je někdo může nahradit AI modelem."
Autumn Beverly mezitím začala s využitím programu Glaze opět zveřejňovat svou práci online a stala se jedním z podporovatelů této platformy. Od srpna do října přestala kreslit úplně, protože si myslela, že je její kariéra u konce, nyní ale tvoří a propaguje kolem 10 nových děl měsíčně.
Jak sama říká: „Myslím si, že pokud existuje etická cesta vpřed, rozhodně bychom o ni měli usilovat. Jsem digitální umělkyně. Ve své práci pravidelně používám aktualizované programy. Nejsem proti pokroku. Ale nelíbí se mi, když jsem zneužívána.“
[1][2]
Podporovat rozvoj kreativity nelze bez zajištění bezpečného prostředí
Seznamovat žáky s umělou inteligencí neznamená jen naučit je ovládat nástroje generativní AI. Je potřeba vidět celou problematiku v širších souvislostech. Při používání jakékoliv technologie, nejen AI, nikdy nesmíme zapomínat na lidi. A už vůbec ne na lidi kreativní, kteří svou tvorbou posouvají náš svět neustále dopředu.
Proto, chceme-li podporovat kreativitu našich žáků, musíme se postarat také o zajištění bezpečného prostředí pro její rozvoj. A tím je kupříkladu i to, že je naučíme tuto kreativitu chránit prostřednictvím ochrany děl v online světě, ať už před lidmi pomocí například licencí Creative Commons, nebo před AI prostřednictvím programů, jako je právě Glaze, případně těmi, které přijdou po něm.
Literatura a použité zdroje
LOH, Matthew. Artists are losing the battle against AI. Glaze, a tool that's found a way to trick algorithms, is giving them a fighting chance. [online]. 2023. [cit. 2023-07-15]. Dostupné z: https://www.businessinsider.com/glaze-artificial-intelligence-artists-intellectual-property-midjourney-openai-stability-2023-7.
Akt EU o umělé inteligenci: První nařízení o AI na světe [online]. 2023. [cit. 2023-07-16]. Dostupné z: https://www.europarl.europa.eu/news/cs/headlines/society/20230601STO93804/akt-eu-o-umele-inteligenci-prvni-narizeni-o-ai-na-svete.
Zdroj: Glaze