대학에서 섬유 화학을 공부할 때 아이슈와리야 라하리야는 표준화된 면 처리 방법을 배웠다. 그러나 장인 패션 브랜드 지위야(Jiwya)를 공동 창업하고 인도 전역의 장인들과 협력하면서, 그녀는 물과 화학 물질에 크게 의존하는 이 접근법의 한계를 빠르게 깨달았다. 장인들의 방법은 더 빠르고 자원도 덜 사용했다. 그들은 왁스와 오일을 뜨거운 물과 세제로 제거하는 정련(scouring)과 표백 과정을 생략했다. 지위야가 그렇듯 천연 염료를 사용할 때는 이 두 단계가 불필요하기 때문이다. 그녀는 "지위야의 물 절약은 대부분 이 두 단계를 생략하기 때문에 가능하다"고 설명한다. 그러나 이 대안적 공정은 그녀의 정규 교육 과정에서는 결코 언급되지 않았다.
많은 토착민 지식은 주류 서구 학문 체계 내에서 문서화되지 않은 채 남아 있으며, 이를 발견하기 위해서는 진정한 소통과 탐구가 필요하다. 이제 AI의 부상과 연구, 정보 수집, 의사 결정에서의 역할이 커지면서 서구 중심적 시각의 편향성이 더욱 증폭되고 있다. 패션 산업이 더 많은 공정을 기술에 외주하면서, 필수적인 토착민 및 전통 지식으로부터 더 멀어질 위험에 처해 있다.
컨서베이션 인터내셔널(Conservation International)의 글로벌 패션 및 자연 이니셔티브 선임 디렉터인 버지니아 키시(Virginia Keesee)는 "AI는 인간의 살아있는 경험을 대체할 수 없다"고 말한다. "토착민과 지역 사회는 자연, 생물다양성, 기후의 수호자로서 패션 가치 사슬의 거대한 부분을 차지한다. 그들과의 협력과 지원은 사람들을 위해서뿐만 아니라 우리 행성의 미래를 위해서도 매우 중요하다."
패션 산업은 오랜 역사 동안 토착민을 주변화해왔다. 2022년 텍스타일 익스체인지(Textile Exchange)의 보고서에 따르면, 조사 대상 패션 및 섬유 기업 252곳 중 단 5%만이 지속가능성 전략을 수립할 때 토착민과 지역 사회의 의견을 참고했다. 이 격차를 해소하기 위해 컨서베이션 인터내셔널, 텍스타일 익스체인지, 케링(Kering)은 2024년 토착민 협력 원칙 가이드를 공동으로 마련했다. 이 가이드는 토착민 공동체가 토지 침탈, 생물다양성 손실, 전통 디자인의 무단 사용과 같은 착취로부터 보호받으면서, 동시에 토착민 지식이 지속가능성 전략에 통합되도록 장려하는 것을 목표로 한다. 여기에는 나무 건강을 보존하는 야생 고무 채취, 카사바 껍질에서 추출한 천연 염료 사용, 토지 보존과 같은 실천 방법이 포함될 수 있다.
맞춤형 광고와 가상 피팅에서부터 공급망 관리와 자연 기반 솔루션에 이르기까지, AI의 패션 산업 통합은 이 문제를 더욱 복잡하게 만든다. 패션 관련 질문은 토착민 지식보다는 미국이나 유럽의 연구 기관, 산업 표준, 브랜드의 데이터를 참조할 가능성이 더 높다. 인간이 생성한 데이터로 훈련된 AI는 기존 편향성을 흡수하고 증폭시켜, 지배적인 서구 관점을 크게 선호한다.
작성자가 ChatGPT에게 면화 및 물 관리 분야 전문가 목록을 요청했을 때, 그것은 서구 학자들과 기후 비정부기구(NGO)만을 제시했다. 물 절약 데이터의 출처를 묻는 또 다른 질문에는 "훈련 데이터는 전 세계적으로 고르게 분포되어 있지 않습니다. 토착민, 지역 사회, 또는 출판되지 않은 농부의 지식은 충분히 반영되지 않고 있습니다"라는 답변이 나왔다. (ChatGPT의 미국 개발사 OpenAI는 출판 시한 내에 논평을 제공하지 않았다.)
전통 공동체와의 협력은 단순히 그들을 테이블에 초대하는 것만큼 간단하지 않다. 토착민들은 종종 대화에서 배제되며, 참여 초대를 받더라도 자신들의 지식이 AI에 의해 이용당할까 봐 많은 이들이 경계한다. 이러한 근본적인 편향성이 해결되지 않으면, 지속가능성과 다양성 및 포용성 모두에서의 진전을 훼손할 위험이 있다.
그렇다면, AI로부터 실제로 이익을 보는 사람은 누구인가?
컨설팅 회사 'Shared Value Solutions'의 선임 데이터 주권 전문가이자 캐나다 굿피쉬 레이크 퍼스트 네이션(Goodfish Lake First Nation)의 구성원인 테일러 스파클링아이즈(Taylor Sparklingeyes)는 이 질문을 탐구해왔다. 그녀의 공동체로부터 AI에 관한 문의를 받은 후, 그녀는 몬트리올 AI 연구소 'Mila'가 운영하는 'Indigenous Pathfinders in AI' 프로그램에 참여했다. 이 프로그램은 퍼스트 네이션, 이누이트, 메티스 참가자들에게 토착민 중심의 AI 접근법을 통해 역량을 강화하는 것을 목표로 한다.
스파클링아이즈는 역사상 가장 빠르게 확산된 기술인 AI 발전의 질주 속도가 토착민 공동체 내 안전, 보안, 프라이버시 문제를 간과할 위험이 있다고 경고한다. "진정한 동지가 되기 위해서는 때로는 엄격한 일정과 기대를 내려놓아야 합니다"라고 그녀는 말한다. "신뢰 관계를 구축하는 데는 시간이 걸리며, 그 기초는 우리가 거버넌스를 공동 설계하든, 데이터를 관리하든, AI가 공동체에 미치는 영향을 평가하든 필수적입니다."
일부 전문가들은 더 나아가, AI의 편향성이 단순히 우연이 아니라 의도적일 수 있다고 지적한다. 코넬 대학교의 AI 연구원 디팍 바루벨 데니슨(Deepak Varuvel Dennison)은 AI 플랫폼이 대다수 사용자 기반의 편향성에 맞추는 데 재정적 인센티브가 있으며, 이는 기존 신념을 강화함으로써 사람들의 참여를 유지한다고 지적한다. 사용자가 글로벌 노스(Global North)에 집중되어 있어, 이 '실리콘 시선(silicon gaze)'은 토착민 지식을 더욱 주변화한다. 데니슨은 "권력자들에게 경제적으로 가치 있는 것은 부각되고, 그렇지 않은 것은 소외됩니다"라고 설명한다.
접근성 문제는 또 다른 층위의 복잡성을 더한다. 많은 토착민 공동체에게 있어 문제는 단순히 대표성에 관한 것이 아니라, AI가 자신들의 데이터와 통찰력에 전혀 접근하는 것을 원하는지 여부이다. 글로벌 노스의 창작자들이 이제야 데이터 소유권 문제로 고심하는 동안, 토착민 공동체는 오랫동안 데이터 주권을 위해 싸워왔다.
스파클링아이즈는 많은 토착민 집단이 공정한 조건이나 동의 없이 지식과 데이터를 추출당하며 역사적 피해를 경험했다고 지적한다. 지도부터 예술 작품에 이르기까지 그들에 관한 데이터는 온라인, 학술지, 정부 데이터베이스에 나타난다면 채취되어 AI 시스템 훈련에 사용되었을 수 있다. 이 정보는 종종 원래의 맥락에서 벗어나 서구의 시각으로 걸러지는데, 고소득 국가의 영어권 연구가 AI 훈련 자료를 지배하기 때문이다.
AI 재균형화를 위한 노력이 이러한 불평등한 착취 패턴을 반복하지 않도록 하기 위해, 토착민 주도 비영리 단체 'Earth Daughters'와 같은 조직들은 강력한 안전장치를 주장한다. 여기에는 자유롭고 사전에 충분한 정보에 기반한 동의(FPIC), 데이터와 지식에 대한 토착민 거버넌스, 공정한 보상, 참여를 진정으로 거부할 권리와 같은 공동체가 정의한 보호 장치가 포함된다. Earth Daughters 팀은 Vogue Business에 보낸 이메일에서 "이러한 안전장치는 어떠한 협력도 시작되기 전에 마련되어야 하며, 단순한 기술적 체크리스트 방식의 해결책으로 축소되어서는 안 된다"고 설명했다.
실제로 이는 토착민 공동체가 패션이나 기술 기업의 데이터 접근을 거부하는 것을 의미할 수 있다. 지식재산권 변호사 모니카 보차 모이신(Monica Boţa Moisin)은 2018년 전통 의상, 디자이너, 제조 기술과 관련된 문화적 지식재산권의 인식을 주장하기 위해 'Cultural Intellectual Property Rights Initiative(CIPRI)'를 설립했다.
2019년 사례에서는 라오스 북부의 소수 민족 오마족(Oma)이 이탈리아의 한 고급 패션 브랜드를 자신들의 전통 디자인을 복제한 옷을 판매했다고 고발했다. CIPRI는 Traditional Arts and Ethnology Center와 협력하여 오마족이 자신들의 전통 지식과 문화적 표현을 보호하는 디지털 데이터베이스를 구축하도록 도왔고, 이들이 어떻게 접근되고 상업화되는지 통제할 수 있게 했다. 나중에 한 연구자가 패션에서 문화적 전용을 방지하도록 설계된 AI 시스템을 훈련시키기 위해 이 데이터셋 사용을 요청했을 때, 오마족과 그 지원 팀은 제안을 철저히 평가할 수 있었다.
결국 오마족은 자신들의 공동체에 충분한 이익이 되지 않는다고 느껴 요청을 거절했다. 연구자가 오마족 디자인의 오용을 방지하려는 목표를 가졌음에도 불구하고, 공동체는 접근 권한을 부여하는 것이 미래 논의에서 자신들을 배제할 것이라고 믿었다. 일단 데이터가 AI 훈련에 사용되면, 패션 산업의 추가적인 직접적 협력을 막을 수 있기 때문이다. 보차 모이신은 "기술은 피할 수 없지만, 우리는 물어야 합니다: 이것이 오마족에게 유익한가? 그들이 혜택을 누릴 수 있는 필요한 인프라를 가지고 있는가? 그리고 어떻게?"라고 말한다.
컨서베이션 인터내셔널의 토착민 및 전통 민족 프로그램 디렉터이자 몬태나 주의 'Little Shell Tribe of Chippewa Indians'와 'Manitoba Métis Federation'의 시민인 퀸 맨슨 부크왈드(Quinn Manson Buchwald)는 "자유롭고 사전에 충분한 정보에 기반한 동의(FPIC)는 지속적인 과정입니다. 일회성 교류가 아닙니다. 이러한 공동체와 지속적인 파트너십을 유지하며, 그들에게 최신 정보를 제공하고 알려야 합니다"라고 강조한다. 일회성 데이터 접근은 이러한 기준을 충족시키지 못한다.
Earth Daughters 팀은 AI 훈련에 참여하지 않기로 한 결정이 진전을 방해하는 것으로 보아서는 안 되며, 오히려 주권과 배려의 행위로 보아야 한다고 덧붙인다. "AI가 본질적으로 좋은지 나쁜지 논쟁하는 대신, 우리는 누가 그것을 통제하는지, 누가 이익을 보는지, 누가 피해에 노출되는지에 초점을 맞춥니다." 마찬가지로, 스파클링아이즈는 단순히 토착민 지식을 중앙 집중식 도구에 공급하는 것에 대해 경고한다. "어떤 기관이 공동체에 접근하여 '우리는 이 시스템을 가지고 있습니다. 데이터를 업로드하여 도와주세요'라고 말할 때, 불균형은 지속됩니다"라고 그녀는 설명한다. "그들은 공동체가 원하는 것이 진짜 무엇인지 이해하기 위해 공동 설계 단계로 돌아가야 합니다."
토착민 중심 접근법
AI 플랫폼, 모델, 도구에서 토착민 관점의 소거는 그들이 사회 전반에서 더 넓게 배제되는 것을 반영하며, 이러한 공동체를 포함시키기 위한 교육 프로그램이 필수적이다. Mila의 토착민 이니셔티브 책임자이자 2024년 시작된 Pathfinders 프로그램을 운영하는 린지 샤트랜드(Lynnsey Chartrand)는 "토착민 맥락에서 우리는 종종 이러한 공간에서 수년간 배제된 후 따라잡기 위해 노력하고 있습니다"라고 말한다. "AI의 흥미로운 점은, 이번 한 번은 토착민의 목소리가 분야가 발전함에 따라 처음부터 그 분야를 형성할 기회가 있다는 것입니다."
Pathfinders가 개발한 프로젝트 중 하나는 기후 및 토양 데이터와 전통 농업 지식을 결합하여 작물 선택, 재배, 거래에 대한 맞춤형 지침을 제공하는 AI 도구 'Green Circle'이다. 이는 천연 섬유를 다루거나 지속가능한 조달 솔루션을 찾는 브랜드에게 가치 있을 수 있다. 연방 정부가 인정한 Manitoba Métis Federation의 시민이기도 한 샤트랜드는 천연 섬유의 중요성을 강조한다. 그녀는 "첫 해부터 지금까지 정말 인상 깊었던 점은 토착민 인재들에게 시간, 자원, 도구, 창의적 자유를 주어 AI가 그들의 공동체에 어떻게 도움이 될 수 있는지 탐구하도록 하는 것이 얼마나 강력한지입니다. 또한 이 기술이 우리를 위해만이 아니라 우리에 의해 개발되는 것의 가치를 부각시킵니다. 이 프로젝트들에 투입된 배려는 공동체 외부의 누군가가 복제하기 불가능하다고 느껴집니다."
공정성을 창출하는 부담이 토착민 자신들에게 떨어질 수 있다는 우려가 있지만, 샤트랜드는 희망적이다. 그녀는 "토착민이 아니지만 진정한 동지로서 나서서 지원하는 사람들이 있다고 믿습니다"라고 말한다.
보다 균형 잡히고 공정한 AI의 잠재력은 안전하고 지역적으로 관리되는 데이터 저장소를 개선하고, 토착민의 풀뿌리 참여와 옹호가 확대되며, 토착민 주도의 프레임워크가 형성되고, 소외된 문화와 목소리가 체계적 편향성에 맞서 저항함에 따라 커질 것이다. 그러나 이를 달성하기 위해서는 패션 산업의 지속적이고 적응적인 노력과 함께, 접근성, 이익, 목적에 관한 문제에 대한 어려운 자기 성찰이 요구될 것이다.
데니슨은 "AI 모델을 어떻게 더 대표성 있게 만들지 고려할 때마다, 나는 즉시 궁금해집니다: 목표가 무엇인가? 미국 기업이 인도에서 더 잘 공감되는 광고를 만들기 위해서인가? 궁극적으로 누가 이익을 보는가? 그것이 제가 묻는 가치에 관한 본질적인 질문입니다"라고 덧붙인다.
자주 묻는 질문
AI와 토착민 지식 FAQ
초급 수준 질문
토착민 지식이란 무엇인가요?
토착민 지식은 자연 환경과의 오랜 상호작용 역사를 가진 사회에서 발전한 독특한 이해, 기술, 철학을 말합니다. 종종 구전으로 세대를 거쳐 전수되며, 문화, 언어, 장소와 깊이 연결되어 있습니다.
AI가 어떻게 이 지식이 사용되지 않게 만들 수 있나요?
AI 시스템이 주로 지배적인 글로벌 데이터셋으로 훈련된다면, 토착민의 인식 방식을 인식하거나 정확하게 표현하지 못할 수 있습니다. 이는 지역적, 구전적, 문화적으로 특정된 지식을 AI 생성 정보에 비해 덜 관련성이 있거나 덜 정확한 것으로 보이게 하여 점차적으로