Quando Aishwarya Lahariya estudou química de fibras na universidade, aprendeu um método padronizado para processar o algodão. No entanto, após cofundar a marca de moda artesanal Jiwya e colaborar com artesãos em toda a Índia, ela rapidamente percebeu as limitações dessa abordagem, que depende fortemente de água e produtos químicos. O método dos artesãos era mais rápido e usava menos recursos. Eles pulavam a etapa de purga — remoção de ceras e óleos com água quente e agentes de limpeza — e o branqueamento, pois ambos os passos são desnecessários ao trabalhar com corantes naturais, como a Jiwya faz. "Muita da economia de água da Jiwya acontece porque não fazemos essas duas etapas", explica ela. No entanto, esse processo alternativo nunca foi mencionado em sua educação formal.

Muito do conhecimento indígena permanece não documentado dentro das estruturas ocidentais predominantes e requer um alcance genuíno e investigação para ser descoberto. Agora, com o surgimento da IA e seu papel crescente na pesquisa, coleta de informações e tomada de decisões, o viés em direção às perspectivas ocidentais está sendo amplificado. À medida que a moda terceiriza mais processos para a tecnologia, corre o risco de se afastar ainda mais do conhecimento vital indígena e tradicional.

"A IA não pode substituir a experiência humana vivida", diz Virginia Keesee, diretora sênior de iniciativas globais de moda e natureza da Conservation International. "Os povos indígenas e as comunidades locais são uma parte enorme da cadeia de valor da moda como guardiões da natureza, biodiversidade e clima. A parceria com eles e o apoio a eles são criticamente importantes, não apenas para as pessoas, mas para o futuro do nosso planeta."

A moda tem um longo histórico de marginalização dos povos indígenas. Em 2022, a Textile Exchange relatou que apenas 5% das 252 empresas de moda e têxteis pesquisadas consultaram povos indígenas e comunidades locais ao desenvolver suas estratégias de sustentabilidade. Para abordar essa lacuna, a Conservation International, a Textile Exchange e a Kering colaboraram em um guia de princípios de parceria indígena em 2024. O guia visa proteger as comunidades indígenas da exploração — como invasão de terras, perda de biodiversidade e uso não autorizado de designs tradicionais — enquanto também incentiva a integração do conhecimento indígena nas estratégias de sustentabilidade. Isso pode incluir práticas como a extração de borracha selvagem que preserva a saúde das árvores, o uso de corantes naturais da casca da mandioca e a preservação da terra.

A integração da IA na moda — desde anúncios personalizados e provadores virtuais até gestão da cadeia de suprimentos e soluções baseadas na natureza — complica ainda mais a questão. Consultas relacionadas à moda têm maior probabilidade de se basear em dados de órgãos de pesquisa dos EUA ou da Europa, padrões do setor ou marcas do que em conhecimento indígena. Treinada com dados gerados por humanos, a IA absorve e amplifica vieses existentes, favorecendo fortemente os pontos de vista ocidentais dominantes.

Quando pedi ao ChatGPT uma lista de especialistas em algodão e gestão da água, ele forneceu apenas acadêmicos ocidentais e ONGs climáticas. Outro prompt perguntando de onde vêm os dados de economia de água revelou: "Os dados de treinamento não são distribuídos uniformemente globalmente. O conhecimento indígena, local ou não publicado de agricultores está sub-representado." (A OpenAI, desenvolvedora americana do ChatGPT, não forneceu comentários a tempo para publicação.)

Envolver comunidades tradicionais não é tão simples quanto apenas convidá-las para a mesa. Os povos indígenas são frequentemente deixados de fora da conversa, e muitos desconfiam de ter seu conhecimento explorado pela IA, mesmo que convidados a participar. Se esses vieses subjacentes não forem abordados, eles correm o risco de minar o progresso tanto na sustentabilidade quanto na diversidade e inclusão.

Então, quem realmente se beneficia da IA?

Taylor Sparklingeyes, especialista sênior em soberania de dados na consultoria Shared Value Solutions e membro da Primeira Nação Goodfish Lake no Canadá, tem explorado essa questão. Após receber perguntas de sua comunidade sobre IA, ela ingressou no programa Indigenous Pathfinders in AI, realizado pelo instituto de IA de Montreal, Mila. O programa visa capacitar participantes das Primeiras Nações, Inuit e Métis com abordagens centradas nos indígenas para a IA.

Sparklingeyes alerta que a velocidade vertiginosa do desenvolvimento da IA — a tecnologia de disseminação mais rápida da história — ameaça negligenciar preocupações de segurança, proteção e privacidade dentro das comunidades indígenas. "Para ser um verdadeiro aliado, às vezes você tem que abrir mão de prazos e expectativas rígidas", diz ela. "Construir relacionamentos de confiança leva tempo, e essa base é essencial, seja para co-projetar governança, gerenciar dados ou avaliar o impacto da IA nas comunidades."

Alguns especialistas vão além, sugerindo que o viés na IA não é apenas acidental, mas intencional. Deepak Varuvel Dennison, pesquisador de IA na Universidade Cornell, aponta que as plataformas de IA têm um incentivo financeiro para atender aos vieses de sua base de usuários majoritária, o que mantém as pessoas engajadas reforçando suas crenças existentes. Com os usuários concentrados no Norte Global, esse "olhar de silício" marginaliza ainda mais o conhecimento indígena. "O que é economicamente valioso para aqueles no poder é promovido, e o que não é é deixado de lado", explica Dennison.

A questão do acesso adiciona outra camada de complexidade. Para muitas comunidades indígenas, a questão não é apenas sobre representação, mas se elas querem que a IA tenha acesso a seus dados e insights. Enquanto criadores no Norte Global agora lutam com a propriedade dos dados, as comunidades indígenas há muito lutam pela soberania de dados.

Sparklingeyes observa que muitos grupos indígenas sofreram danos históricos por meio da extração de conhecimento e dados, muitas vezes sem termos justos ou consentimento. Dados sobre eles — de mapas a obras de arte — podem ter sido coletados e usados para treinar sistemas de IA se aparecerem online, em revistas ou em bancos de dados governamentais. Essas informações são frequentemente despojadas de seu contexto original e filtradas por perspectivas ocidentais, já que pesquisas em inglês de países de alta renda dominam os materiais de treinamento de IA.

Para evitar que qualquer esforço para reequilibrar a IA repita esses padrões de extração desigual, organizações como a Earth Daughters, sem fins lucrativos liderada por indígenas, defendem salvaguardas robustas. Isso inclui proteções definidas pela comunidade, como consentimento livre, prévio e informado; governança indígena sobre dados e conhecimento; compensação justa; e o genuíno direito de recusar a participação. Em um e-mail para a Vogue Business, a equipe da Earth Daughters explica: "Essas salvaguardas devem ser estabelecidas antes que qualquer engajamento comece e não podem ser reduzidas a meras soluções técnicas ou baseadas em lista de verificação."

Na prática, isso pode significar que comunidades indígenas recusem o acesso de empresas de moda ou tecnologia a seus dados. A advogada de propriedade intelectual Monica Boţa Moisin fundou a Cultural Intellectual Property Rights Initiative (CIPRI) em 2018 para defender o reconhecimento dos direitos de propriedade intelectual cultural relacionados a vestimentas tradicionais, designers e técnicas de manufatura.

Um caso de 2019 envolveu os Oma, um grupo étnico minoritário no norte do Laos, que acusou uma marca de moda italiana de luxo de vender roupas com cópias de seus designs tradicionais. Em parceria com o Traditional Arts and Ethnology Center, a CIPRI ajudou os Oma a criar um banco de dados digital para proteger seu conhecimento tradicional e expressões culturais, dando-lhes controle sobre como esses são acessados e comercializados. Quando um pesquisador posteriormente solicitou usar esse conjunto de dados para treinar um sistema de IA projetado para prevenir a apropriação cultural na moda, os Oma e sua equipe de apoio puderam avaliar minuciosamente a proposta.

No final, os Oma recusaram o pedido, sentindo que os benefícios para sua comunidade eram insuficientes. Embora o pesquisador visasse proteger os designs Oma de uso indevido, a comunidade acreditava que conceder acesso os excluiria de discussões futuras. Uma vez que os dados são usados para treinamento de IA, isso pode desencorajar um engajamento direto adicional da indústria da moda. "A tecnologia é inevitável, mas devemos perguntar: Isso é benéfico para os Oma? Eles têm a infraestrutura necessária para se beneficiar? E como?", diz Boţa Moisin.

Quinn Manson Buchwald, diretor do programa de Povos Indígenas e Tradicionais da Conservation International e cidadão da Tribo Little Shell de Índios Chippewa de Montana e da Federação Métis de Manitoba, enfatiza que "O consentimento livre, prévio e informado é um processo contínuo. Não é um engajamento único. Você deve manter uma parceria constante com essas comunidades, mantendo-as atualizadas e informadas." O acesso único aos dados simplesmente não atende a esses padrões.

A equipe da Earth Daughters acrescenta que recusar-se a participar do treinamento de IA não deve ser visto como um obstáculo ao progresso, mas sim como um ato de soberania e cuidado. "Em vez de debater se a IA é inerentemente boa ou ruim, focamos em quem a controla, quem se beneficia e quem está exposto a danos." Da mesma forma, Sparklingeyes alerta contra simplesmente alimentar o conhecimento indígena em ferramentas centralizadas. "Quando uma instituição se aproxima de uma comunidade dizendo: 'Temos este sistema; ajude-nos enviando seus dados', o desequilíbrio persiste", explica ela. "Eles precisam voltar à fase de co-projeto para entender verdadeiramente se é o que as comunidades querem."

Uma Abordagem Centrada nos Indígenas

O apagamento das perspectivas indígenas em plataformas, modelos e ferramentas de IA reflete sua exclusão mais ampla da sociedade, tornando programas educacionais essenciais para incluir essas comunidades. "Em contextos indígenas, muitas vezes estamos correndo atrás do prejuízo após anos de exclusão desses espaços", diz Lynnsey Chartrand, chefe de iniciativas indígenas no Mila, que executa o programa Pathfinders lançado em 2024. "O emocionante sobre a IA é que, pela primeira vez, há uma oportunidade para vozes indígenas moldarem o campo desde o início à medida que ele evolui."

Um projeto desenvolvido pelos Pathfinders é o Green Circle, uma ferramenta de IA que combina conhecimento agrícola tradicional com dados climáticos e de solo para fornecer orientação personalizada sobre seleção de culturas, plantio e comércio. Isso pode ser valioso para marcas que trabalham com fibras naturais ou buscam soluções de abastecimento sustentável. Chartrand, que também é cidadã da Federação Métis de Manitoba reconhecida federalmente, enfatiza a importância das fibras naturais. Ela reflete: "O que realmente me impressionou desde o primeiro ano — e ainda impressiona — é o quão poderoso é dar ao talento indígena o tempo, recursos, ferramentas e liberdade criativa para explorar como a IA poderia ajudar suas comunidades. Também destaca o valor de ter essa tecnologia desenvolvida por nós, não apenas para nós. O cuidado colocado nesses projetos parece impossível de replicar por alguém de fora da comunidade."

Embora haja uma preocupação de que o ônus de criar justiça possa recair sobre os próprios indígenas, Chartrand permanece esperançosa. "Acredito que há aliados genuínos que não são indígenas, mas estão se posicionando para apoiar", diz ela.

O potencial para uma IA mais equilibrada e equitativa crescerá à medida que melhorarmos o armazenamento de dados seguro e gerenciado localmente; à medida que o envolvimento e a defesa indígenas de base se expandirem; à medida que estruturas lideradas por indígenas tomarem forma; e à medida que culturas e vozes sub-representadas resistirem a vieses sistêmicos. No entanto, alcançar isso exigirá esforços contínuos e adaptativos da indústria da moda, juntamente com uma difícil autorreflexão sobre questões de acesso, benefícios e propósito.

Dennison acrescenta: "Sempre que considero como tornar os modelos de IA mais representativos, imediatamente me pergunto: qual é o objetivo? É para que uma corporação americana possa criar anúncios que ressoem melhor na Índia? Quem se beneficia no final? Essa é a questão essencial de valor que estou perguntando."



Perguntas Frequentes
Perguntas Frequentes sobre IA e Conhecimento Indígena



Perguntas de Nível Iniciante



O que é conhecimento indígena?

Conhecimento indígena refere-se aos entendimentos, habilidades e filosofias únicos desenvolvidos por sociedades com longas histórias de interação com seu ambiente natural. É frequentemente transmitido oralmente através das gerações e está profundamente ligado à cultura, língua e lugar.



Como a IA poderia fazer com que esse conhecimento caísse em desuso?

Se os sistemas de IA forem treinados principalmente em conjuntos de dados globais dominantes, eles podem não reconhecer, valorizar ou representar com precisão as formas de conhecimento indígenas. Isso poderia fazer com que o conhecimento local, oral e culturalmente específico parecesse menos relevante ou menos correto em comparação com informações geradas por IA, levando à sua negligência gradual.



A IA não é apenas uma ferramenta? Como uma ferramenta pode fazer as pessoas esquecerem coisas?

A IA é uma ferramenta que molda quais informações são fáceis de encontrar, confiáveis e usadas. Se assistentes de IA, mecanismos de busca e ferramentas educacionais não incluírem ou priorizarem o conhecimento indígena, as gerações mais jovens podem confiar apenas nessas fontes digitais, ignorando o aprendizado tradicional com os mais velhos e as práticas comunitárias.



Existem exemplos disso já acontecendo?

Sim, em áreas como a agricultura, onde conselhos de agricultura de precisão dirigidos por IA podem substituir práticas tradicionais de rotação de culturas ou manejo da terra. Na preservação de línguas, ferramentas de autotradução frequentemente falham com línguas indígenas, empurrando as pessoas para línguas dominantes por conveniência.



A IA pode realmente ajudar a preservar o conhecimento indígena?

Absolutamente. Quando desenvolvida de forma ética e em parceria com as comunidades, a IA pode ajudar a documentar línguas, mapear terras ancestrais usando dados de satélite ou criar arquivos digitais de histórias e práticas. A chave é quem controla o processo e os dados.



Perguntas de Nível Avançado



Qual é a diferença entre digitalizar conhecimento e preservá-lo?

Digitalizar é criar um registro digital. Preservar significa manter o conhecimento vivo, dinâmico e integrado à vida da comunidade. A IA pode ajudar com o primeiro, mas pode prejudicar o segundo se transformar o conhecimento vivo em um artefato estático desconectado de seu contexto cultural.



Como as questões de soberania de dados entram em jogo?

Soberania de dados é o direito dos povos indígenas de possuir, controlar e governar os dados coletados deles ou sobre seu conhecimento. Sistemas de IA frequentemente requerem grandes conjuntos de dados. Se o conhecimento indígena for extraído sem consentimento ou governança adequada, pode ser mal utilizado, comercializado ou distorcido, colocando ainda mais em risco seu uso autêntico.



A IA poderia criar versões tendenciosas ou imprecisas do conhecimento indígena?

Sim