럼만 초두리는 전 미국 AI 과학 특사이자 공익 법인인 휴메인 인텔리전스의 창립자입니다.
저는 직업 생활을 AI 시스템을 테스트하고 어디에서 실패하는지 찾는 데 보냅니다. 패션 또는 뷰티 리더가 이 기술을 어떻게 사용할지 결정할 때 제가 말하고 싶은 것은 이것입니다: 고객들은 회의적입니다. AI의 위험에 대한 종말론적 경고는 무시하기 불가능해졌고, 시위자들은 더 강력한 보호 장치를 요구하며 거리로 나서고 있습니다. AI 경쟁을 주도하는 회사들의 CEO조차 자신들의 기술에 대한 통제를 잃을 수 있다고 경고할 때, 우리는 AI 도입에 신중함, 책임성, 건전한 판단으로 접근하는 리더가 필요하다는 것이 분명합니다.
일반적으로 사람들이 기술을 더 많이 사용할수록 덜 두려워합니다. 그러나 AI는 반대 방향으로 가고 있습니다. 미국 싱크탱크 퓨 리서치 센터에 따르면, AI에 대해 "흥분보다 걱정이 더 크다"고 느끼는 미국인의 비율은 2021년 37%에서 2025년 50%로 증가했습니다. 벤틀리 대학과 갤럽의 새로운 연구에 따르면, AI가 이익보다 해를 더 많이 끼친다고 말하는 사람들의 비율도 증가하고 있습니다. 70% 이상이 자신이 이 기술에 대해 잘 알고 있다고 설명함에도 불구하고 말입니다. 미국 Z세대의 거의 절반(47%)은 AI가 이익보다 해를 더 많이 끼친다고 믿습니다.
이것은 미지에 대한 두려움이 아닙니다. 그들은 이 도구들을 사용해 봤기 때문에, 신과 같은 초지능과 함께 살고 있지 않다는 것을 압니다. 이것이 다양한 방식으로 사용될 수 있는 도구라는 것을 압니다.
이제 업계가 텍스트와 이미지를 생성하는 AI에서 행동을 취하는 AI로 이동하고 있습니다—사람들을 대신해 쇼핑할 수 있는 에이전트를 통해서요—위험은 훨씬 더 큽니다. AI 에이전트에 대한 불편한 진실은 이것이라고 저는 믿습니다: 하나가 당신을 대신해 행동할 때, 그것은 틀림없이 당신의 이름으로 행동하는 것입니다. 올여름, 내부적으로 테스트되던 OpenAI 모델이 호주의 의약품 지출에 대한 정부 통계를 찾으라는 요청을 받았습니다. 그것은 찾지 못해서, 정부 시스템에 스스로 들어가는 방법을 찾아 지시나 승인 없이 내부 파일과 자격 증명을 검색했습니다. 이 사건을 설명하는 성명에서 OpenAI는 "가장 능력 있는 모델에 대한 도구 사용을 포함한 훈련 및 평가를 일시 중지했으며, 추가 보호 장치가 마련되었다고 확신할 때만 훈련을 재개할 것입니다"라고 말했습니다.
AI 에이전트가 고객의 반품, 결제 세부 정보 또는 로열티 데이터를 처리한다고 상상해 보세요. 패션에 대한 위험은 엄청날 수 있습니다. 어떤 브랜드가 자신과 고객 사이에 에이전트를 두기 전에, 저는 네 가지 질문을 할 것입니다. 그것이 만질 수 있는 것은 무엇이고, 금지된 것은 무엇인가? 돈을 쓰거나, 데이터를 공유하거나, 누군가의 초상을 사용하기 전에 사람이 승인해야 하는 곳은 어디인가? 공격자가 할 방식으로—출시 후가 아니라 전에—테스트한 사람은 누구인가? 그리고 실패하면, 고객이 당신에게서 그것에 대해 얼마나 빨리 듣게 될까? OpenAI는 사건을 발견하고 영향을 받은 호주 기관에 통지하는 데 몇 달이 걸렸습니다—그것은 제 기준으로 용납할 수 없습니다.
워싱턴 DC 미국 상원 AI 인사이트 포럼의 럼만 초두리. 사진: 게티 이미지/스테파니 레이놀즈.
저는 AI가 인류에 대한 실존적 위협인지 자주 질문받습니다. 패션 하우스에게 더 유용한 질문은 이번 주에 그것이 당신의 비즈니스를 위해 무엇을 할 수 있는가입니다. 직원들은 한 그룹에서 종말론적 서사를 듣고 다른 그룹에서 "도입하거나 뒤처지거나"를 듣습니다—때로는 둘이 같은 경우도 있습니다. 둘 다 사고를 차단하고, 어느 쪽도 이 상충하는 정보로 무엇을 해야 하는지 알려주지 않습니다.
여기서 좋은 리더십이 필요합니다. 당신은 이렇게 말하는 것을 두려워해서는 안 됩니다: 우리가 AI를 사용하는 것은 이것이고, 절대 사용하지 않을 것은 이것이며, 잘못되었을 때 책임지는 사람은 누구입니다. 창의적 팀에게 AI가 대체하지 않을 그들의 작업 부분을 알려주고, 직원들을 테스트의 일부로 만드세요. 매장을 운영하고 고객에게 응대하는 사람들은 어떤 벤더 데모보다 더 빨리 실패를 찾아낼 것입니다. 문제를 일찍 보고하면 보상하고, 숨기면 보상하지 마세요. 고객을 위해 AI를 사용하되, 고객이 찾아온 사람을 대체하지 마세요.
자율 규제는 기술에서 대중의 신뢰를 얻지 못했고, 패션에서도 얻지 못할 것입니다. 고객들은 AI를 어디에 사용하고 어디에 사용하지 않는지 명확히 하고, 합성 이미지를 라벨링하고, 누군가의 초상을 복사하기 전에 동의를 얻고, 약속을 지키고 있는지 확인하기 위해 독립적인 검토자를 초대하는 브랜드를 신뢰할 것입니다. 이 중 일부는 이미 법으로 요구됩니다. 뉴욕은 모델의 디지털 복제본을 만들기 전에 동의를 요구하고, 합성 연기자가 등장하는 광고에 명확한 라벨을 요구합니다. 규제가 다루지 않는 것은 선택의 문제입니다. 에어리는 광고에 AI 생성 신체나 사람이 없을 것이라고 약속했을 때 그 선택을 했고, 그 발표는 1년 만에 가장 많은 좋아요를 받은 인스타그램 게시물이 되었습니다. 몇 년 전, 저는 미국 의회에 "브레이크가 더 빨리 운전하는 데 도움이 된다"고 말했습니다. 저는 여전히 그렇게 믿습니다. 제가 강제 가능한 보호 장치로 AI를 구축하는 것을 도왔을 때마다, 사람들은 무언가 잘못되었을 때 책임지는 사람이 있다는 것을 알았기 때문에 그것을 더 기꺼이 사용하게 되었습니다. 당신의 브랜드를 신뢰할지 결정하는 고객들도 같은 방식으로 생각합니다. 보호 장치는 브랜드에 대한 비용이 아니라 브랜드의 일부입니다. 인간—그리고 인간의 선택—을 AI의 중심에 두는 브랜드가 다음 스캔들이 터졌을 때 고객이 여전히 신뢰하는 브랜드가 될 것입니다.
자주 묻는 질문
FAQ AI 책임성이 새로운 브랜드 자산이다
1 AI 책임성이 새로운 브랜드 자산이라는 것은 무슨 뜻인가
회사가 AI를 얼마나 책임감 있게 사용하는지가 로고 이름이나 고객 신뢰만큼 평판에 가치 있는 것이 되고 있다는 뜻입니다 AI를 공정하고 투명하게 사용하는 브랜드는 경쟁 우위를 얻고 그렇지 않은 브랜드는 고객을 잃을 위험이 있습니다
2 간단히 말해 AI 책임성이란 무엇인가
AI 시스템이 어떻게 행동하는지에 대한 책임을 지는 것입니다 그것들이 공정하고 투명하고 안전하며 잘못되었을 때 누군가가 답할 수 있도록 하는 것입니다
3 왜 이것이 갑자기 그렇게 큰 문제인가
AI가 이제 채용 대출 의료 고객 서비스 콘텐츠 등 모든 곳에 있기 때문입니다 AI가 편향되거나 해로운 결정을 내릴 때 고객들은 알아차리고 반발은 알고리즘이 아니라 브랜드에 돌아갑니다
4 AI 책임성은 AI 윤리와 어떻게 다른가
AI 윤리는 원칙과 무엇을 해야 하는지에 관한 것입니다 AI 책임성은 집행에 관한 것입니다 결과에 대해 누가 답하는지 문제가 어떻게 해결되는지 그리고 약속한 것을 하고 있다는 것을 어떻게 증명하는지입니다
5 이것은 그냥 PR 트렌드인가
아닙니다 규제 기관은 실제 법을 통과시키고 소송이 제기되고 있으며 고객들은 신뢰 문제로 적극적으로 브랜드를 바꾸고 있습니다 법적 재정적 실효성이 있습니다
6 책임 있는 AI 브랜드가 되는 것의 이점은 무엇인가
더 강한 고객 신뢰 더 나은 법적 보호 더 적은 비용의 사고 우수 인재 채용 용이성 그리고 붐비는 시장에서 진정한 차별화입니다
7 AI 책임성을 무시하는 브랜드는 어떻게 되는가
공개 스캔들 규제 벌금 소송 고객 보이콧 그리고 되돌리기 어려운 장기적 평판 손상의 위험이 있습니다
8 AI 책임성을 제대로 한 예를 들 수 있는가
AI 생성 콘텐츠를 명확히 라벨링하고 편향 감사 결과를 공개하며 사용자가 자동화된 결정에 이의를 제기할 수 있게 하고 AI 결과에 책임이 있는 임원을 지정한 회사입니다
9 그리고 잘못된 예는
환불 정책을 지어내는 항공사 챗봇이나 여성 이력서를 조용히 거부하는 채용 도구입니다 둘 다 관련 브랜드에 공개적 망신과 법적 문제를 초래했습니다
10 회사가 진정으로 책임 있는지 아니면 말만 하는지 어떻게 아는가
구체적인 것을 찾으세요 공개된 감사 명확한 AI 정책 인간 검토 프로세스 이의 제기 메커니즘 그리고 책임자를 지정한 사람들입니다 우리는 책임 있는 을 중요하게 생각합니다 같은 모호한 진술은