När Aishwarya Lahariya studerade fiberkemi på universitetet lärde hon sig en standardiserad metod för bearbetning av bomull. Men efter att ha medgrundat det konstnärliga modemärket Jiwya och samarbetat med hantverkare över hela Indien insåg hon snabbt begränsningarna med detta tillvägagångssätt, som är starkt beroende av vatten och kemikalier. Hantverkarnas metod var snabbare och använde färre resurser. De hoppade över avtvålning – borttagning av vax och oljor med varmt vatten och rengöringsmedel – och blekning, eftersom båda stegen är onödiga när man arbetar med naturliga färgämnen, som Jiwya gör. "En stor del av Jiwyas vattenbesparingar sker eftersom vi inte utför dessa två steg", förklarar hon. Ändå nämndes aldrig denna alternativa process i hennes formella utbildning.
Mycket urfolkskunskap förblir odokumenterad inom västerländska ramverk och kräver genuin outreach och efterforskningar för att avslöjas. Nu, med framväxten av AI och dess växande roll inom forskning, informationsinsamling och beslutsfattande, förstärks partiskheten mot västerländska perspektiv. Eftersom modeindustrin outsourcar fler processer till teknologi riskerar den att driva längre bort från vital urfolks- och traditionell kunskap.
"AI kan inte ersätta den mänskliga livserfarenheten", säger Virginia Keesee, senior direktör för globala mode- och naturinitiativ på Conservation International. "Urfolk och lokala samhällen är en enorm del av modevärdekedjan som förvaltare av natur, biologisk mångfald och klimat. Partnerskap med dem och stöd för dem är kritiskt viktigt, inte bara för människor, utan för vår planets framtid."
Modeindustrin har en lång historia av marginalisering av urfolk. År 2022 rapporterade Textile Exchange att endast 5 % av 252 undersökta mode- och textilföretag konsulterade urfolk och lokala samhällen när de utvecklade sina hållbarhetsstrategier. För att adressera denna klyfta samarbetade Conservation International, Textile Exchange och Kering 2024 om en guide till principer för partnerskap med urfolk. Guiden syftar till att skydda urfolkssamhällen från exploatering – såsom markinkräktning, förlust av biologisk mångfald och obehörig användning av traditionella design – samtidigt som den uppmuntrar integration av urfolkskunskap i hållbarhetsstrategier. Detta kan inkludera metoder som vildgummitappning som bevarar trädens hälsa, användning av naturliga färgämnen från kassavabark och bevarande av mark.
Integrationen av AI i mode – från personifierade annonser och virtuella provningar till försörjningskedjehantering och naturbaserade lösningar – komplicerar frågan ytterligare. Mode-relaterade frågor är mer benägna att dra på data från amerikanska eller europeiska forskningsinstitutioner, industristandarder eller varumärken än på urfolkskunskap. Tränad på mänskliggenererade data, absorberar och förstärker AI existerande fördomar, med stark övervikt för dominerande västerländska synsätt.
När jag bad ChatGPT om en lista över experter på bomull och vattenförvaltning, gav den endast västerländska akademiker och klimat-NGO:er. En annan prompt som frågade var vattenbesparingsdata kommer från avslöjade: "Träningsdata är inte jämnt fördelad globalt. Urfolks-, lokal- eller opublicerad bondkunskap är underrepresenterad." (OpenAI, den amerikanska utvecklaren av ChatGPT, gav inte kommentar i tid för publicering.)
Att engagera traditionella samhällen är inte så enkelt som att bara bjuda in dem till bordet. Urfolk utelämnas ofta från samtalet, och många är försiktiga med att deras kunskap ska exploateras av AI, även om de bjuds in att delta. Om dessa underliggande fördomar inte åtgärdas riskerar de att underminera framsteg inom både hållbarhet och mångfald och inkludering.
Så, vem gynnas egentligen av AI?
Taylor Sparklingeyes, senior specialist i datasuveränitet på konsultföretaget Shared Value Solutions och medlem av Goodfish Lake First Nation i Kanada, har utforskat denna fråga. Efter att ha hanterat förfrågningar från sitt samhälle om AI, gick hon med i Indigenous Pathfinders in AI-programmet som drivs av Montreal AI-institutet Mila. Programmet syftar till att stärka First Nations, Inuit och Métis-deltagare med urfolkscentrerade tillvägagångssätt till AI.
Sparklingeyes varnar för att den rasande utvecklingstakten för AI – den snabbast spridande teknologin i historien – riskerar att förbise säkerhets-, trygghets- och integritetsfrågor inom urfolkssamhällen. "För att vara en sann allierad måste man ibland släppa strikta tidsramar och förväntningar", säger hon. "Att bygga förtroendefulla relationer tar tid, och den grunden är avgörande, oavsett om vi samdesignar styrning, hanterar data eller bedömer AI:s påverkan på samhällen."
Vissa experter går längre och föreslår att partiskhet i AI inte bara är oavsiktlig utan avsiktlig. Deepak Varuvel Dennison, en AI-forskare vid Cornell University, påpekar att AI-plattformar har ett ekonomiskt incitament att tillgodose majoritetsanvändarbasens fördomar, vilket håller människor engagerade genom att förstärka deras existerande övertygelser. Med användare koncentrerade i globala norr marginaliserar denna "silicon gaze" urfolkskunskap ytterligare. "Det som är ekonomiskt värdefullt för makthavare främjas, och det som inte är det sidoställs", förklarar Dennison.
Tillgångsfrågan lägger till ytterligare ett lager av komplexitet. För många urfolkssamhällen handlar frågan inte bara om representation utan om de överhuvudtaget vill att AI ska ha tillgång till deras data och insikter. Medan skapare i globala norr nu brottas med dataägarskap, har urfolkssamhällen länge kämpat för datasuveränitet.
Sparklingeyes noterar att många urfolksgrupper har upplevt historisk skada genom kunskaps- och dataextraktion, ofta utan rättvisa villkor eller samtycke. Data om dem – från kartor till konstverk – kan ha tagits och använts för att träna AI-system om det dyker upp online, i tidskrifter eller i statliga databaser. Denna information är ofta fråntagen sitt ursprungliga sammanhang och filtrerad genom västerländska perspektiv, eftersom engelskspråkig forskning från höginkomstländer dominerar AI-träningsmaterial.
För att förhindra att alla försök att balansera om AI upprepar dessa mönster av orättvis extraktion, förespråkar organisationer som den urfolksledda ideella organisationen Earth Daughters starka skyddsåtgärder. Dessa inkluderar samhällsdefinierade skydd som fritt, förutgående och informerat samtycke; urfolksstyrning över data och kunskap; rättvis kompensation; och den genuina rätten att vägra delta. I ett e-postmeddelande till Vogue Business förklarar Earth Daughters-teamet: "Dessa skyddsåtgärder måste fastställas innan något engagemang börjar och kan inte reduceras till enbart tekniska eller checklistbaserade lösningar."
I praktiken kan detta innebära att urfolkssamhällen vägrar mode- eller teknikföretag tillgång till deras data. Immaterialrättsadvokaten Monica Boţa Moisin grundade Cultural Intellectual Property Rights Initiative (CIPRI) 2018 för att förespråka erkännande av kulturella immaterialrättigheter relaterade till traditionella plagg, designers och tillverkningstekniker.
Ett fall från 2019 involverade Oma, en etnisk minoritetsgrupp i norra Laos, som anklagade ett högkvalitativt italienskt modemärke för att sälja kläder med kopior av deras traditionella design. I partnerskap med Traditional Arts and Ethnology Center hjälpte CIPRI Oma att skapa en digital databas för att skydda deras traditionella kunskap och kulturella uttryck, vilket gav dem kontroll över hur dessa nås och kommersialiseras. När en forskare senare begärde att få använda denna dataset för att träna ett AI-system designat för att förhindra kulturell appropriering inom mode, kunde Oma och deras stödteam noggrant utvärdera förslaget.
I slutändan avböjde Oma begäran, med känslan att fördelarna för deras samhälle var otillräckliga. Medan forskaren syftade till att skydda Oma-design från missbruk, trodde samhället att bevilja tillgång skulle utesluta dem från framtida diskussioner. När data väl används för AI-träning kan det avskräcka från ytterligare direkt engagemang från modeindustrin. "Teknologi är oundviklig, men vi måste fråga: Är detta fördelaktigt för Oma? Har de den nödvändiga infrastrukturen för att dra nytta? Och hur?" säger Boţa Moisin.
Quinn Manson Buchwald, direktör för Indigenous and Traditional Peoples-programmet på Conservation International och medborgare av Little Shell Tribe of Chippewa Indians of Montana och Manitoba Métis Federation, betonar att "Fritt, förutgående och informerat samtycke är en pågående process. Det är inte engångsengagemang. Man måste upprätthålla konstant partnerskap med dessa samhällen, hålla dem uppdaterade och informerade." Engångstillgång till data uppfyller helt enkelt inte dessa standarder.
Earth Daughters-teamet tillägger att vägran att delta i AI-träning inte bör ses som ett hinder för framsteg, utan snarare som en handling av suveränitet och omsorg. "Istället för att debattera om AI är inneboende gott eller ont, fokuserar vi på vem som kontrollerar det, vem som gynnas och vem som utsätts för skada." Likaså varnar Sparklingeyes mot att helt enkelt mata in urfolkskunskap i centraliserade verktyg. "När en institution närmar sig ett samhälle och säger, 'Vi har detta system; hjälp oss genom att ladda upp er data', kvarstår obalansen", förklarar hon. "De måste gå tillbaka till samdesignfasen för att verkligen förstå om det är vad samhällena vill."
Ett urfolkscentrerat tillvägagångssätt
Utplåningen av urfolksperspektiv på AI-plattformar, modeller och verktyg återspeglar deras bredare uteslutning från samhället, vilket gör utbildningsprogram väsentliga för att inkludera dessa samhällen. "I urfolkssammanhang hinner vi ofta ikapp efter år av uteslutning från dessa utrymmen", säger Lynnsey Chartrand, chef för urfolksinitiativ på Mila, som driver Pathfinders-programmet lanserat 2024. "Det som är spännande med AI är att, för en gångs skull, finns det en möjlighet för urfolksröster att forma området från grunden medan det utvecklas."
Ett projekt utvecklat av Pathfinders är Green Circle, ett AI-verktyg som kombinerar traditionell jordbrukskunskap med klimat- och jorddata för att ge skräddarsydd vägledning om grödval, plantering och handel. Detta kan vara värdefullt för varumärken som arbetar med naturfibrer eller söker hållbara insamlingslösningar. Chartrand, som också är medborgare av den federalt erkända Manitoba Métis Federation, betonar vikten av naturfibrer. Hon reflekterar: "Det som verkligen har slagit mig sedan första året – och fortfarande gör – är hur kraftfullt det är att ge urfolkstalang tid, resurser, verktyg och kreativ frihet att utforska hur AI kan hjälpa deras samhällen. Det belyser också värdet av att ha denna teknologi utvecklad av oss, inte bara för oss. Omsorgen som läggs i dessa projekt känns omöjlig att replikera av någon utanför samhället."
Medan det finns en oro att bördan av att skapa rättvisa kan falla på urfolket själva, förblir Chartrand hoppfull. "Jag tror att det finns genuina allierade som inte är urfolk men som kliver fram för att stödja", säger hon.
Potentialen för mer balanserad och rättvis AI kommer att växa när vi förbättrar säker, lokalt hanterad datalagring; när gräsrotsengagemang och förespråkande från urfolk expanderar; när urfolksledda ramverk tar form; och när underrepresenterade kulturer och röster pushar tillbaka mot systemiska fördomar. Att uppnå detta kommer dock att kräva pågående, anpassningsbara ansträngningar från modeindustrin, tillsammans med svår självreflektion kring frågor om tillgång, fördelar och syfte.
Dennison tillägger: "När jag överväger hur man gör AI-modeller mer representativa, undrar jag omedelbart: vad är målet? Är det så ett amerikanskt företag kan skapa annonser som resonerar bättre i Indien? Vem gynnas i slutändan? Det är den grundläggande frågan om värde jag ställer."
Vanliga frågor
Vanliga frågor om AI och urfolkskunskap
Nybörjarfrågor
Vad är urfolkskunskap?
Urfolkskunskap avser de unika förståelser, färdigheter och filosofier som utvecklats av samhällen med långa historier av interaktion med sina naturliga omgivningar. Den överförs ofta muntligt genom generationer och är djupt förknippad med kultur, språk och plats.
Hur kan AI få denna kunskap att falla ur bruk?
Om AI-system främst tränas på dominerande globala dataset kanske de inte erkänner, värderar eller korrekt representerar urfolks sätt att veta. Detta kan få lokal, muntlig och kulturellt specifik kunskap att verka mindre relevant eller mindre korrekt jämfört med AI-genererad information, vilket leder till dess gradvisa försummelse.
Är inte AI bara ett verktyg? Hur kan ett verktyg få människor att glömma saker?
AI är ett verktyg som formar vilken information som är lätt att hitta, betrodd och använd. Om AI-assistenter, sökmotorer och utbildningsverktyg inte inkluderar eller prioriterar urfolkskunskap kan yngre generationer enbart förlita sig på dessa digitala källor och kringgå traditionellt lärande från äldre och samhällspraxis.
Finns det några exempel på att detta redan händer?
Ja, inom områden som jordbruk där AI-drivet precisionsjordbruksrådgivning kan åsidosätta traditionell växtföljd eller markhanteringspraxis. Inom språkbevarande misslyckas ofta autöversättningsverktyg med urfolksspråk, vilket driver människor mot dominerande språk för bekvämlighetens skull.
Kan AI faktiskt hjälpa till att bevara urfolkskunskap istället?
Absolut. När det utvecklas etiskt och i partnerskap med samhällen kan