Když Aishwarya Lahariya studovala na univerzitě chemii vláken, učili ji standardizovanou metodu zpracování bavlny. Poté, co spoluzaložila řemeslnou módní značku Jiwya a začala spolupracovat s řemeslníky po celé Indii, však rychle spatřila limity tohoto přístupu, který je značně závislý na vodě a chemikáliích. Metoda řemeslníků byla rychlejší a využívala méně zdrojů. Vynechávali proces máchání – odstraňování vosků a olejů horkou vodou a čisticími prostředky – a bělení, protože oba kroky jsou při práci s přírodními barvivy, jak to dělá Jiwya, zbytečné. „Velká část úspor vody u Jiwya je způsobena tím, že tyto dva kroky neděláme,“ vysvětluje. Tento alternativní proces však nikdy nebyl zmíněn v jejím formálním vzdělávání.

Mnoho domorodých znalostí zůstává nedokumentováno v rámci mainstreamových západních rámců a k jejich odhalení je zapotřebí skutečného oslovení a zkoumání. Nyní s nástupem umělé inteligence a její rostoucí rolí ve výzkumu, sběru informací a rozhodování se zkreslení ve prospěch západních perspektiv prohlubuje. Jak módní průmysl stále více outsourcuje procesy technologiím, hrozí, že se bude dále vzdalovat klíčovým domorodým a tradičním znalostem.

„Umělá inteligence nemůže nahradit lidskou životní zkušenost,“ říká Virginia Keesee, senior ředitelka globálních módních a přírodních iniciativ v Conservation International. „Domorodé národy a místní komunity jsou obrovskou součástí módního hodnotového řetězce jako správci přírody, biodiverzity a klimatu. Partnerství s nimi a podpora pro ně jsou kriticky důležité nejen pro lidi, ale i pro budoucnost naší planety.“

Módní průmysl má dlouhou historii marginalizace domorodých národů. V roce 2022 organizace Textile Exchange uvedla, že pouze 5 % z 252 dotazovaných módních a textilních společností konzultovalo domorodé národy a místní komunity při vývoji svých strategií udržitelnosti. Aby tuto mezeru zaplnily, spolupracovaly Conservation International, Textile Exchange a Kering v roce 2024 na vytvoření průvodce principy partnerství s domorodými komunitami. Cílem průvodce je chránit domorodé komunity před vykořisťováním – jako je zábor půdy, ztráta biodiverzity a neoprávněné používání tradičních vzorů – a zároveň podporovat integraci domorodých znalostí do strategií udržitelnosti. To může zahrnovat postupy jako těžba divokého kaučuku, která zachovává zdraví stromů, používání přírodních barviv z kůry manioku a ochranu půdy.

Integrace umělé inteligence do módy – od personalizovaných reklam a virtuálních zkoušení přes správu dodavatelského řetězce až po řešení založená na přírodě – problém dále komplikuje. Dotazy související s módou s větší pravděpodobností vycházejí z dat amerických nebo evropských výzkumných institucí, průmyslových standardů nebo značek než z domorodých znalostí. Umělá inteligence, trénovaná na datech vytvořených lidmi, absorbuje a zesiluje stávající předsudky, silně upřednostňující dominantní západní pohledy.

Když jsem požádal ChatGPT o seznam odborníků na bavlnu a správu vodních zdrojů, poskytl pouze západní akademiky a klimatické nevládní organizace. Další dotaz na původ údajů o úspoře vody odhalil: „Tréninková data nejsou globálně rovnoměrně rozložena. Domorodé, místní nebo nepublikované znalosti farmářů jsou nedostatečně zastoupeny.“ (OpenAI, americký vývojář ChatGPT, neposkytl včas komentář k publikaci.)

Zapojení tradičních komunit není tak jednoduché, jako je jen pozvat ke stolu. Domorodé národy jsou často z konverzace vyloučeny a mnoho z nich se obává, že jejich znalosti budou umělou inteligencí zneužity, i když jsou k účasti pozváni. Pokud tyto hlubší předsudky zůstanou neřešeny, hrozí, že podkopou pokrok v oblasti udržitelnosti i diverzity a inkluze.

Kdo tedy z umělé inteligence skutečně těží?

Taylor Sparklingeyes, senior specialistka na datovou suverenitu v konzultační firmě Shared Value Solutions a členka komunity Goodfish Lake First Nation v Kanadě, tuto otázku zkoumá. Poté, co se ve své komunitě setkala s dotazy na umělou inteligenci, připojila se k programu Indigenous Pathfinders in AI, který provozuje montrealský institut umělé inteligence Mila. Program si klade za cíl posílit účastníky z řad Prvních národů, Inuitů a Métisů přístupy k umělé inteligenci zaměřenými na domorodé obyvatele.

Sparklingeyes varuje, že závratná rychlost vývoje umělé inteligence – nejrychleji se šířící technologie v historii – hrozí přehlédnutím obav domorodých komunit o bezpečnost, zabezpečení a soukromí. „Abyste byli skutečným spojencem, musíte někdy upustit od striktních časových harmonogramů a očekávání,“ říká. „Budování důvěryhodných vztahů vyžaduje čas a tento základ je zásadní, ať už společně navrhujeme správu, spravujeme data nebo posuzujeme dopad umělé inteligence na komunity.“

Někteří odborníci jdou dále a naznačují, že zkreslení v umělé inteligenci není jen náhodné, ale záměrné. Deepak Varuvel Dennison, výzkumník umělé inteligence na Cornellově univerzitě, poukazuje na to, že platformy umělé inteligence mají finanční motivaci vyhovovat předsudkům své většinové uživatelské základny, což udržuje lidi zapojené posilováním jejich stávajících přesvědčení. S uživateli soustředěnými na globálním Severu tento „silikonový pohled“ dále marginalizuje domorodé znalosti. „To, co je ekonomicky cenné pro ty, kdo mají moc, je podporováno, a to, co není, je odsunuto na vedlejší kolej,“ vysvětluje Dennison.

Problém přístupu přidává další vrstvu složitosti. Pro mnoho domorodých komunit není otázkou jen zastoupení, ale zda vůbec chtějí, aby umělá inteligence měla přístup k jejich datům a poznatkům. Zatímco tvůrci na globálním Severu se nyní potýkají s vlastnictvím dat, domorodé komunity dlouho bojovaly za datovou suverenitu.

Sparklingeyes poznamenává, že mnoho domorodých skupin zažilo historickou újmu prostřednictvím extrakce znalostí a dat, často bez spravedlivých podmínek nebo souhlasu. Data o nich – od map po umělecká díla – mohla být odebrána a použita k trénování systémů umělé inteligence, pokud se objevila online, v časopisech nebo ve vládních databázích. Tyto informace jsou často zbaveny původního kontextu a přefiltrovány západními perspektivami, protože výzkum z vysokopříjmových zemí v angličtině dominuje tréninkovým materiálům pro umělou inteligenci.

Aby se zabránilo tomu, že by jakýkoli pokus o vyvážení umělé inteligence opakoval tyto vzorce nerovnoměrné extrakce, organizace jako domorodci vedená nezisková organizace Earth Daughters prosazují silné záruky. Mezi ně patří ochrana definovaná komunitou, jako je svobodný, předchozí a informovaný souhlas; domorodá správa dat a znalostí; spravedlivá kompenzace; a skutečné právo odmítnout účast. V e-mailu pro Vogue Business tým Earth Daughters vysvětluje: „Tyto záruky musí být stanoveny před zahájením jakéhokoli zapojení a nelze je redukovat na pouhá technická řešení nebo řešení založená na kontrolních seznamech.“

V praxi by to mohlo znamenat, že domorodé komunity odmítnou módním nebo technologickým společnostem přístup ke svým datům. Advokátka pro duševní vlastnictví Monica Boţa Moisin založila v roce 2018 iniciativu Cultural Intellectual Property Rights Initiative (CIPRI), která prosazuje uznání práv duševního vlastnictví souvisejících s tradičními oděvy, designéry a výrobními technikami.

Případ z roku 2019 se týkal etnické menšiny Oma v severním Laosu, která obvinila luxusní italskou módní značku z prodeje oblečení s kopiemi jejich tradičních vzorů. Ve spolupráci s Traditional Arts and Ethnology Center pomohla CIPRI skupině Oma vytvořit digitální databázi k ochraně jejich tradičních znalostí a kulturních projevů, což jim dává kontrolu nad tím, jak jsou k nim přistupováno a komercializovány. Když později výzkumník požádal o použití této datové sady k trénování systému umělé inteligence navrženého k prevenci kulturního přivlastňování v módě, mohli Oma a jejich podpůrný tým návrh důkladně vyhodnotit.

Nakonec Oma žádost odmítli, protože cítili, že přínosy pro jejich komunitu jsou nedostatečné. Zatímco výzkumník chtěl ochránit designy Oma před zneužitím, komunita věřila, že poskytnutí přístupu by je vyloučilo z budoucích diskusí. Jakmile jsou data použita pro trénink umělé inteligence, mohlo by to odradit módní průmysl od dalšího přímého zapojení. „Technologie je nevyhnutelná, ale musíme se ptát: Je to prospěšné pro Oma? Mají potřebnou infrastrukturu, aby z toho těžili? A jak?“ říká Boţa Moisin.

Quinn Manson Buchwald, ředitel programu pro domorodé a tradiční národy v Conservation International a občan kmene Little Shell Tribe of Chippewa Indians of Montana a Manitoba Métis Federation, zdůrazňuje, že „svobodný, předchozí a informovaný souhlas je průběžný proces. Není to jednorázové zapojení. Musíte udržovat neustálé partnerství s těmito komunitami, udržovat je v obraze a informované.“ Jednorázový přístup k datům těmto standardům prostě nevyhovuje.

Tým Earth Daughters dodává, že odmítnutí účasti na tréninku umělé inteligence by nemělo být vnímáno jako brzdění pokroku, ale spíše jako akt suverenity a péče. „Místo debaty o tom, zda je umělá inteligence inherentně dobrá nebo špatná, se zaměřujeme na to, kdo ji ovládá, kdo z ní těží a kdo je vystaven riziku.“ Podobně Sparklingeyes varuje před pouhým „krmením“ domorodých znalostí do centralizovaných nástrojů. „Když instituce osloví komunitu se slovy: ‚Máme tento systém; pomozte nám nahráním vašich dat,‘ nerovnováda přetrvává,“ vysvětluje. „Musí se vrátit do fáze společného návrhu, aby skutečně pochopili, zda je to to, co komunity chtějí.“

**Přístup zaměřený na domorodé obyvatele**

Vymazání domorodých perspektiv na platformách, modelech a nástrojích umělé inteligence odráží jejich širší vyloučení ze společnosti, což činí vzdělávací programy nezbytnými pro začlenění těchto komunit. „V domorodých kontextech často doháníme zpoždění po letech vyloučení z těchto prostorů,“ říká Lynnsey Chartrand, vedoucí domorodých iniciativ v Mila, která provozuje program Pathfinders spuštěný v roce 2024. „Na umělé inteligenci je vzrušující, že tentokrát existuje příležitost, aby domorodé hlasy formovaly tento obor od základů, jak se vyvíjí.“

Jedním z projektů vyvinutých Pathfinders je Green Circle, nástroj umělé inteligence, který kombinuje tradiční zemědělské znalosti s klimatickými a půdními údaji, aby poskytoval přizpůsobené pokyny k výběru plodin, výsadbě a obchodování. To by mohlo být cenné pro značky pracující s přírodními vlákny nebo hledající udržitelná řešení zdrojování. Chartrand, která je také občankou federálně uznávané Manitoba Métis Federation, zdůrazňuje důležitost přírodních vláken. Zamýšlí se: „Co mě od prvního roku – a stále – opravdu zasáhlo, je, jak mocné je dát domorodým talentům čas, zdroje, nástroje a tvůrčí svobodu k prozkoumání, jak by umělá inteligence mohla pomoci jejich komunitám. Také to zdůrazňuje hodnotu toho, že tuto technologii vyvíjíme my sami, nejen pro nás. Péče vložená do těchto projektů se zdá být nereplikovatelná někým mimo komunitu.“

I když existuje obava, že břemeno vytváření spravedlnosti by mohlo padnout na samotné domorodé lidi, Chartrand zůstává optimistická. „Věřím, že existují skuteční spojenci, kteří nejsou domorodí, ale přesto se zvedají, aby podpořili,“ říká.

Potenciál pro vyváženější a spravedlivější umělou inteligenci poroste, jak budeme zlepšovat zabezpečené, lokálně spravované úložiště dat; jak se bude rozšiřovat zapojení a advokacie domorodých obyvatel z místní úrovně; jak se budou formovat rámce vedené domorodci; a jak nedostatečně zastoupené kultury a hlasy budou vzdorovat systémovým předsudkům. Jeho dosažení si však vyžádá neustálé, adaptivní úsilí módního průmyslu spolu s obtížnou sebereflexí ohledně otázek přístupu, přínosů a účelu.

Dennison dodává: „Kdykoli přemýšlím o tom, jak učinit modely umělé inteligence reprezentativnějšími, okamžitě se ptám: jaký je cíl? Je to proto, aby americká korporace mohla vytvářet reklamy, které budou lépe rezonovat v Indii? Kdo z toho nakonec těží? To je ta zásadní otázka hodnoty, na kterou se ptám.“

**Často kladené otázky**
FAQs o umělé inteligenci a domorodých znalostech

**Otázky pro začátečníky**

**Co jsou domorodé znalosti?**
Domorodé znalosti jsou jedinečné poznatky, dovednosti a filozofie vyvinuté společ