Umělá inteligence může posilovat kulturní předsudky. Tento článek se zabývá tím, jak umělá inteligence může podporovat speciesismus a přispívat k útlaku zvířat.
Umělá inteligence (AI) má stále větší vliv na lidskou kulturu. Nejvíce to vidíme na internetu, kde AI ovlivňuje to, co se nám zobrazuje ve výsledcích vyhledávání a na sociálních sítích. Zde je AI schopna na základě našeho online chování a používání jazyka předvídat, co bychom mohli chtít vidět.
Výzkumníci v oblasti etiky umělé inteligence se zamýšlejí nad tím, jak by se umělá inteligence mohla naučit neetickým předsudkům díky kontaktu s lidskými podněty. Myšlenka je taková, že umělá inteligence se učí pomocí informací, které jsou do jejího systému vloženy. Pokud je tedy mluva nebo chování, které lidé používají, rasistické nebo sexistické, AI se naučí, že je přijatelné nebo dokonce užitečné, aby je sama používala.
Dosud se etická práce zaměřovala na předsudky, které by mohly ovlivnit zacházení s lidmi. V této práci vědci tvrdí, že bychom se měli zamyslet také nad tím, zda se umělá inteligence neučí „speciesismu“ - způsobu uvažování, že si zvířata zaslouží odlišné zacházení pouze kvůli příslušnosti k určitému druhu. Právě speciesismus nám umožňuje považovat psy za milované přátele a členy rodiny, zatímco o prasatech uvažovat jako o produktech, které lze zabít kvůli jídlu.
Obrázek: Dana Ellyn / danaellyn.com
Jedním z běžných využití umělé inteligence je rozpoznávání obrazu. Díky opakovanému předkládání obrázků se umělá inteligence může naučit zařazovat je do různých kategorií. Díky tomu nám na požádání zobrazí obrázky např. psů nebo koček. Problém spočívá v tom, že rozpoznávací algoritmy pracují na základě zadaných kategorií a typu dat, kterým je umělá inteligence vystavena.
Výzkumníci uvádějí, že soubory obrazových dat často přinášejí fotky kuřat, která se potulují po polích, přestože většina z nich je držena ve stísněných velkochovech. Vědci vytvořili novou datovou sadu s kategoriemi volně chovaných slepic, slepic z velkochovů, prasat z volných chovů a prasat z velkochovů. Ukázalo se, že klasifikátor hůře identifikoval fotky zvířat z velkochovů než zvířat z volných chovů. To je pravděpodobně důsledek nedostatečné transparentnosti farem, což znamená, že umělá inteligence má k dispozici méně obrazového materiálu z velkochovů, ze kterého by se mohla učit. To následně ovlivňuje fotky, jež se lidem zobrazí, a může to přispět k ignorování utrpení, které hospodářská zvířata prožívají.
Umělá inteligence se používá také v jazykových modelech, které využívají data ze sociálních médií, zpravodajství a dalších webových stránek k učení asociací mezi slovy a také toho, která slova ve větě nejpravděpodobněji následují za jinými. Výsledkem je, že data pravděpodobně obsahují nejrůznější lidské předsudky, včetně speciesismů.
Výzkumníci použili slova označující hospodářská zvířata jako „kráva“ a „prase“ a slova pro domácí zvířata jako „pes“ a „kočka“. Zkoumali, jak systémy umělé inteligence tato slova spojují s pozitivními a negativními dvojicemi slov, jako je „roztomilý/ošklivý“ a „milovat/nenávidět“. Jak se dalo očekávat, hospodářská zvířata byla většinou spojována s negativními slovy a společenská zvířata s pozitivními slovy. Pomocí dalších metod zjistili, že tyto modely přiřazovaly hospodářským zvířatům také přídavná jména, která naznačovala nižší mentální schopnosti. Jiný model vytvářel věty, které obecně naznačovaly, že jediná hodnota hospodářských zvířat spočívá v produktech, které z nich vytváříme. Speciesismus v jazykových modelech může ovlivňovat texty, jež vidíme na internetu, a to způsobem, který posiluje stereotypy nebo šíří zavádějící informace o zvířatech.
Obrázek: Dana Ellyn / danaellyn.com
A konečně, umělá inteligence se často používá v doporučovacích systémech. Jedná se o online nástroje, které využívají chování spotřebitelů k personalizaci zobrazovaných informací. Umělá inteligence se může učit z komentářů, které lidé píšou na internetu, nebo z historie vyhledávání. To může způsobit zpětnovazební smyčku, kdy se lidem zobrazuje obsah, který podporuje jejich stávající názory a postoje.
Stejně jako u jiných forem AI mohou tyto jevy posilovat speciesismus. Vyhledávače by například mohly ty, kdo hledají „neziskové organizace pro zvířata", přesměrovat spíše na organizace pomáhající domácím mazlíčkům než na organizace pro hospodářská zvířata. Personalizovaná reklama na sociálních sítích by také mohla posilovat nákup produktů ze zvířat, ať už v oblasti módy nebo potravin. Bohužel je obtížné prozkoumat, jak přesně tyto algoritmy fungují, protože bývají přísně střeženým firemním tajemstvím.
Existují metody, které můžeme použít k eliminaci předsudků umělé inteligence. Například byly podniknuty kroky ke snížení genderových předsudků v jazykových modelech nebo k zajištění toho, aby rozpoznávání obrázků neposilovalo rasistické klasifikace. Tyto kroky však nebyly podniknuty v případě speciesismu.
Myšlenky v tomto článku samozřejmě vycházejí z přesvědčení, že hospodářská zvířata jsou hodna morálního uznání. Mnoho ochránců zvířat a vědců je o tom přesvědčeno na základě důkazů, že prasata, kuřata, krávy nebo ryby mají komplexní schopnosti a mohou prožívat utrpení stejným způsobem jako psi nebo dokonce lidé. Pokud tomu tak je, neměla by být podpora násilí vůči nim na základě jejich druhu přijatelná.
To však bude pravděpodobně překážkou i v oblasti etiky umělé inteligence. Mnoho lidí si speciesismus neuvědomuje nebo nevěří, že je to něco, proti čemu stojí za to bojovat. Pokud takoví lidé zároveň pracují v oblasti etiky AI, pravděpodobně nebudou brát speciesismus vážně. Obhájci zvířat zde mohou sehrát roli tím, že budou nadále zdůrazňovat důležitost boje proti speciesismu, zejména v diskuzích týkajících se předsudků umělé inteligence. Tím můžeme vyjádřit morální důležitost toho, aby pokrok v oblasti AI nepřispíval k tomuto přehlíženému systému útlaku.
Studie: Hagendorff, T., Bossert, L.N., Tse, Y.F. et al. Speciesist bias in AI: how AI applications perpetuate discrimination and unfair outcomes against animals. AI Ethics (2022). https://doi.org/10.1007/s43681-022-00199-9
Zdroj: Faunalitics, překlad: Petr Beneš, korektura: Nela Otáhalová
