Cuando Aishwarya Lahariya estudiaba química de fibras en la universidad, le enseñaron un método estandarizado para procesar el algodón. Sin embargo, después de cofundar la marca de moda artesanal Jiwya y colaborar con artesanos de toda la India, rápidamente vio las limitaciones de este enfoque, que depende en gran medida del agua y los productos químicos. El método de los artesanos era más rápido y utilizaba menos recursos. Omitían el desengrasado —eliminación de ceras y aceites con agua caliente y agentes de limpieza— y el blanqueo, ya que ambos pasos son innecesarios cuando se trabaja con tintes naturales, como hace Jiwya. "Gran parte del ahorro de agua de Jiwya se produce porque no realizamos esos dos pasos", explica. Sin embargo, este proceso alternativo nunca se mencionó en su educación formal.

Gran parte del conocimiento indígena sigue sin documentarse dentro de los marcos occidentales dominantes y requiere un acercamiento genuino y una investigación para descubrirlo. Ahora, con el auge de la IA y su creciente papel en la investigación, la recopilación de información y la toma de decisiones, el sesgo hacia las perspectivas occidentales se está amplificando. A medida que la moda externaliza más procesos a la tecnología, corre el riesgo de alejarse aún más del vital conocimiento indígena y tradicional.

"La IA no puede reemplazar la experiencia humana vivida", dice Virginia Keesee, directora senior de iniciativas globales de moda y naturaleza en Conservation International. "Los pueblos indígenas y las comunidades locales son una parte enorme de la cadena de valor de la moda como guardianes de la naturaleza, la biodiversidad y el clima. La asociación con ellos y el apoyo a ellos es de vital importancia, no solo para las personas, sino para el futuro de nuestro planeta".

La moda tiene una larga historia de marginación de los pueblos indígenas. En 2022, Textile Exchange informó que solo el 5% de 252 empresas de moda y textiles encuestadas consultaron a pueblos indígenas y comunidades locales al desarrollar sus estrategias de sostenibilidad. Para abordar esta brecha, Conservation International, Textile Exchange y Kering colaboraron en una guía de principios de asociación indígena en 2024. La guía tiene como objetivo proteger a las comunidades indígenas de la explotación —como la invasión de tierras, la pérdida de biodiversidad y el uso no autorizado de diseños tradicionales— al mismo tiempo que fomenta la integración del conocimiento indígena en las estrategias de sostenibilidad. Esto puede incluir prácticas como la extracción de caucho silvestre que preserva la salud de los árboles, el uso de tintes naturales de la corteza de yuca y la preservación de la tierra.

La integración de la IA en la moda —desde anuncios personalizados y pruebas virtuales hasta la gestión de la cadena de suministro y soluciones basadas en la naturaleza— complica aún más el problema. Es más probable que las consultas relacionadas con la moda se basen en datos de organismos de investigación estadounidenses o europeos, estándares de la industria o marcas que en conocimiento indígena. Entrenada con datos generados por humanos, la IA absorbe y amplifica los sesgos existentes, favoreciendo en gran medida los puntos de vista occidentales dominantes.

Cuando le pedí a ChatGPT una lista de expertos en algodón y gestión del agua, solo proporcionó académicos occidentales y ONG climáticas. Otra pregunta sobre de dónde provienen los datos de ahorro de agua reveló: "Los datos de entrenamiento no están distribuidos uniformemente a nivel mundial. El conocimiento indígena, local o no publicado de los agricultores está subrepresentado". (OpenAI, el desarrollador estadounidense de ChatGPT, no proporcionó comentarios a tiempo para su publicación).

Involucrar a las comunidades tradicionales no es tan simple como invitarlas a la mesa. Los pueblos indígenas a menudo quedan excluidos de la conversación, y muchos desconfían de que su conocimiento sea explotado por la IA, incluso si son invitados a participar. Si estos sesgos subyacentes no se abordan, corren el riesgo de socavar el progreso tanto en sostenibilidad como en diversidad e inclusión.

Entonces, ¿quién se beneficia realmente de la IA?

Taylor Sparklingeyes, especialista senior en soberanía de datos en la consultora Shared Value Solutions y miembro de la Primera Nación Goodfish Lake en Canadá, ha estado explorando esta pregunta. Después de recibir consultas de su comunidad sobre la IA, se unió al programa Indigenous Pathfinders in AI dirigido por el instituto de IA de Montreal, Mila. El programa tiene como objetivo empoderar a los participantes de las Primeras Naciones, Inuit y Métis con enfoques de IA centrados en lo indígena.

Sparklingeyes advierte que la velocidad vertiginosa del desarrollo de la IA —la tecnología de más rápida expansión en la historia— amenaza con pasar por alto las preocupaciones de seguridad y privacidad dentro de las comunidades indígenas. "Para ser un verdadero aliado, a veces hay que dejar de lado los plazos y expectativas estrictas", dice. "Construir relaciones de confianza lleva tiempo, y esa base es esencial, ya sea que estemos codiseñando gobernanza, gestionando datos o evaluando el impacto de la IA en las comunidades".

Algunos expertos van más allá, sugiriendo que el sesgo en la IA no es solo accidental sino intencional. Deepak Varuvel Dennison, investigador de IA en la Universidad de Cornell, señala que las plataformas de IA tienen un incentivo financiero para atender los sesgos de su base de usuarios mayoritaria, lo que mantiene a las personas comprometidas reforzando sus creencias existentes. Con los usuarios concentrados en el Norte Global, esta "mirada de silicio" margina aún más el conocimiento indígena. "Lo que es económicamente valioso para quienes están en el poder se promueve, y lo que no lo es se margina", explica Dennison.

El problema del acceso añade otra capa de complejidad. Para muchas comunidades indígenas, la pregunta no es solo sobre representación, sino si quieren que la IA tenga acceso a sus datos y conocimientos en absoluto. Mientras que los creadores en el Norte Global ahora lidian con la propiedad de los datos, las comunidades indígenas han luchado durante mucho tiempo por la soberanía de datos.

Sparklingeyes señala que muchos grupos indígenas han experimentado daños históricos a través de la extracción de conocimientos y datos, a menudo sin condiciones justas o consentimiento. Los datos sobre ellos —desde mapas hasta obras de arte— pueden haber sido tomados y utilizados para entrenar sistemas de IA si aparecen en línea, en revistas o en bases de datos gubernamentales. Esta información a menudo se despoja de su contexto original y se filtra a través de perspectivas occidentales, ya que la investigación en inglés de países de altos ingresos domina los materiales de entrenamiento de IA.

Para evitar que cualquier esfuerzo por reequilibrar la IA repita estos patrones de extracción desigual, organizaciones como la organización sin fines de lucro dirigida por indígenas Earth Daughters abogan por salvaguardas sólidas. Estas incluyen protecciones definidas por la comunidad, como el consentimiento libre, previo e informado; la gobernanza indígena sobre datos y conocimientos; una compensación justa; y el derecho genuino a negarse a participar. En un correo electrónico a Vogue Business, el equipo de Earth Daughters explica: "Estas salvaguardas deben establecerse antes de que comience cualquier compromiso y no pueden reducirse a meras soluciones técnicas o basadas en listas de verificación".

En la práctica, esto podría significar que las comunidades indígenas nieguen a las empresas de moda o tecnología el acceso a sus datos. La abogada de propiedad intelectual Monica Boţa Moisin fundó la Iniciativa de Derechos de Propiedad Intelectual Cultural (CIPRI) en 2018 para abogar por el reconocimiento de los derechos de propiedad intelectual cultural relacionados con prendas tradicionales, diseñadores y técnicas de fabricación.

Un caso de 2019 involucró a los Oma, un grupo étnico minoritario del norte de Laos, que acusó a una marca de moda italiana de lujo de vender ropa con copias de sus diseños tradicionales. En asociación con el Traditional Arts and Ethnology Center, CIPRI ayudó a los Oma a crear una base de datos digital para proteger sus conocimientos tradicionales y expresiones culturales, dándoles control sobre cómo se accede y comercializan estos elementos. Cuando un investigador solicitó más tarde usar este conjunto de datos para entrenar un sistema de IA diseñado para prevenir la apropiación cultural en la moda, los Oma y su equipo de apoyo pudieron evaluar exhaustivamente la propuesta.

Finalmente, los Oma rechazaron la solicitud, sintiendo que los beneficios para su comunidad eran insuficientes. Si bien el investigador buscaba proteger los diseños Oma del mal uso, la comunidad creía que otorgar acceso los excluiría de futuras discusiones. Una vez que los datos se utilizan para el entrenamiento de IA, podría desalentar un mayor compromiso directo de la industria de la moda. "La tecnología es inevitable, pero debemos preguntarnos: ¿Esto beneficia a los Oma? ¿Tienen la infraestructura necesaria para beneficiarse? ¿Y cómo?", dice Boţa Moisin.

Quinn Manson Buchwald, director del programa de Pueblos Indígenas y Tradicionales en Conservation International y ciudadano de la Tribu Little Shell de los indios Chippewa de Montana y la Federación Métis de Manitoba, enfatiza que "El consentimiento libre, previo e informado es un proceso continuo. No es un compromiso único. Debes mantener una asociación constante con estas comunidades, manteniéndolas actualizadas e informadas". El acceso único a los datos simplemente no cumple con estos estándares.

El equipo de Earth Daughters agrega que negarse a participar en el entrenamiento de IA no debería verse como un obstáculo al progreso, sino como un acto de soberanía y cuidado. "En lugar de debatir si la IA es inherentemente buena o mala, nos enfocamos en quién la controla, quién se beneficia y quién está expuesto al daño". De manera similar, Sparklingeyes advierte contra simplemente alimentar el conocimiento indígena en herramientas centralizadas. "Cuando una institución se acerca a una comunidad diciendo: 'Tenemos este sistema; ayúdanos subiendo tus datos', el desequilibrio persiste", explica. "Necesitan volver a la fase de codiseño para entender realmente si es lo que las comunidades quieren".

**Un Enfoque Centrado en lo Indígena**

La eliminación de las perspectivas indígenas en las plataformas, modelos y herramientas de IA refleja su exclusión más amplia de la sociedad, haciendo que los programas educativos sean esenciales para incluir a estas comunidades. "En contextos indígenas, a menudo estamos recuperando el tiempo perdido después de años de exclusión de estos espacios", dice Lynnsey Chartrand, jefa de iniciativas indígenas en Mila, que dirige el programa Pathfinders lanzado en 2024. "Lo emocionante de la IA es que, por una vez, existe la oportunidad de que las voces indígenas den forma al campo desde cero a medida que evoluciona".

Un proyecto desarrollado por Pathfinders es Green Circle, una herramienta de IA que combina conocimientos agrícolas tradicionales con datos climáticos y del suelo para proporcionar orientación personalizada sobre selección de cultivos, siembra y comercio. Esto podría ser valioso para las marcas que trabajan con fibras naturales o buscan soluciones de abastecimiento sostenible. Chartrand, que también es ciudadana de la reconocida federalmente Federación Métis de Manitoba, enfatiza la importancia de las fibras naturales. Reflexiona: "Lo que realmente me ha impactado desde el primer año —y todavía lo hace— es lo poderoso que es dar al talento indígena el tiempo, los recursos, las herramientas y la libertad creativa para explorar cómo la IA podría ayudar a sus comunidades. También destaca el valor de que esta tecnología sea desarrollada por nosotros, no solo para nosotros. El cuidado puesto en estos proyectos parece imposible de replicar por alguien fuera de la comunidad".

Si bien existe la preocupación de que la carga de crear equidad pueda recaer en los propios indígenas, Chartrand se mantiene esperanzada. "Creo que hay aliados genuinos que no son indígenas pero que están dando un paso al frente para apoyar", dice.

El potencial de una IA más equilibrada y equitativa crecerá a medida que mejoremos el almacenamiento de datos seguro y gestionado localmente; a medida que se expanda la participación y defensa indígena de base; a medida que tomen forma marcos dirigidos por indígenas; y a medida que las culturas y voces subrepresentadas se enfrenten a los sesgos sistémicos. Sin embargo, lograr esto exigirá esfuerzos continuos y adaptativos de la industria de la moda, junto con una difícil autorreflexión sobre cuestiones de acceso, beneficios y propósito.

Dennison agrega: "Siempre que considero cómo hacer que los modelos de IA sean más representativos, inmediatamente me pregunto: ¿cuál es el objetivo? ¿Es para que una corporación estadounidense pueda crear anuncios que resuenen mejor en la India? ¿Quién se beneficia en última instancia? Esa es la pregunta esencial de valor que estoy haciendo".



Preguntas Frecuentes
Preguntas frecuentes sobre IA y conocimiento indígena



Preguntas de nivel principiante



¿Qué es el conocimiento indígena?

El conocimiento indígena se refiere a las comprensiones, habilidades y filosofías únicas desarrolladas por sociedades con largas historias de interacción con su entorno natural. A menudo se transmite oralmente a través de generaciones y está profundamente ligado a la cultura, el idioma y el lugar.



¿Cómo podría la IA hacer que este conocimiento caiga en desuso?

Si los sistemas de IA se entrenan principalmente en conjuntos de datos globales dominantes, es posible que no reconozcan, valoren o representen con precisión las formas de conocimiento indígenas. Esto podría hacer que el conocimiento local, oral y culturalmente específico parezca menos relevante o menos correcto en comparación con la información generada por IA, lo que lleva a su gradual abandono.



¿No es la IA solo una herramienta? ¿Cómo puede una herramienta hacer que la gente olvide cosas?

La IA es una herramienta que da forma a qué información es fácil de encontrar, confiable y utilizada. Si los asistentes de IA, los motores de búsqueda y las herramientas educativas no incluyen o priorizan el conocimiento indígena, las generaciones más jóvenes pueden depender únicamente de estas fuentes digitales, evitando el aprendizaje tradicional de los ancianos y las prácticas comunitarias.



¿Hay ejemplos de que esto ya esté sucediendo?

Sí, en áreas como la agricultura, donde los consejos de agricultura de precisión impulsados por IA podrían anular las prácticas tradicionales de rotación de cultivos o gestión de la tierra. En la preservación de idiomas, las herramientas de traducción automática a menudo fallan con los idiomas indígenas, empujando a las personas hacia idiomas dominantes por conveniencia.



¿Puede la IA realmente ayudar a preservar el conocimiento indígena?

Absolutamente. Cuando se desarrolla de manera ética y en asociación con las comunidades, la IA puede ayudar a documentar idiomas, mapear tierras ancestrales usando datos satelitales o crear archivos digitales de historias y prácticas. La clave está en quién controla el proceso y los datos.



Preguntas de nivel avanzado



¿Cuál es la diferencia entre digitalizar el conocimiento y preservarlo?

Digitalizar es crear un registro digital. Preservar significa mantener el conocimiento vivo, dinámico e integrado en la vida comunitaria. La IA podría ayudar con lo primero, pero podría dañar lo segundo si convierte el conocimiento vivo en un artefacto estático desconectado de su contexto cultural.



¿Cómo entran en juego los problemas de soberanía de datos?

La soberanía de datos es el derecho de los pueblos indígenas a poseer, controlar y gobernar los datos recopilados de ellos o sobre su conocimiento. Los sistemas de IA a menudo requieren grandes conjuntos de datos. Si el conocimiento indígena se extrae sin consentimiento o gobernanza adecuada, puede ser mal utilizado, comercializado o distorsionado, poniendo aún más en peligro su uso auténtico.



¿Podría la IA crear versiones sesgadas o inexactas del conocimiento indígena?

Sí.