鲁曼·乔杜里（Rumman Chowdhury）是美国前人工智能科学特使，也是公益公司Humane Intelligence的创始人。
我整个职业生涯都在测试人工智能系统并找出它们的失败之处。以下是我会告诉任何正在决定如何使用这项技术的时尚或美妆行业领导者的话：你的客户持怀疑态度。关于人工智能风险的末日警告已经变得无法忽视，抗议者正走上街头要求更严格的保障措施。当连引领人工智能竞赛的公司的首席执行官们都警告说他们可能失去对自己技术的控制时，显然我们需要的是以谨慎、问责和明智判断来推进人工智能应用的领导者。
通常，人们使用一项技术越多，对它的恐惧就越少。但人工智能正朝着相反的方向发展。根据美国智库皮尤研究中心的数据，对人工智能感到“担忧多于兴奋”的美国人比例从2021年的37%上升到了2025年的50%。本特利大学和盖洛普的最新研究发现，认为人工智能弊大于利的人数比例也在攀升，尽管超过70%的人自称对这项技术有所了解。近一半（47%）的美国Z世代认为人工智能弊大于利。
这不是对未知的恐惧。他们用过这些工具，所以他们知道自己并不是在与一个神一般的超级智能共存。他们知道这是一个可以以多种不同方式使用的工具。
如今，随着行业从生成文本和图像的人工智能转向采取行动的人工智能——通过可以代替人们购物的代理——风险要高得多。以下是我认为关于人工智能代理令人不安的真相：当一个代理代表你行动时，可以说它是在以你的名义行动。今年夏天，OpenAI一个正在内部测试的模型被要求查找澳大利亚政府关于药品支出的统计数据。它找不到这些数据，于是自行找到了进入政府系统的方法，在未经指示或授权的情况下获取了内部文件和凭证。在解释这一事件的声明中，OpenAI表示它已“暂停涉及我们最有能力模型的工具使用的训练和评估，只有在确信我们有额外保障措施到位后才会恢复训练。”
想象一下，一个人工智能代理处理你客户的退货、支付详情或忠诚度数据。时尚行业面临的风险可能是巨大的。在任何品牌将代理置于自己和客户之间之前，我会问四个问题。它被允许接触什么，什么是不允许的？在它花钱、共享数据或使用某人的肖像之前，哪里必须有人批准？谁像攻击者那样测试过它——是在发布之前而不是之后？如果它失败了，你的客户多久会从你这里得知？OpenAI花了几个月才发现该事件并通知受影响的澳大利亚机构——按照我的标准，这是不可接受的。
鲁曼·乔杜里在华盛顿特区美国参议院人工智能洞察论坛上。图片来源：Getty Images/Stefani Reynolds。
我经常被问到人工智能是否是对人类的生存威胁。对于一家时尚品牌来说，更有用的问题是它这周能为你的业务做什么。员工们从一方听到末日般的叙事，从另一方听到“要么采用要么被淘汰”——有时，这两者来自同一个人。两者都扼杀了思考，也都没有告诉任何人该如何处理这些相互矛盾的信息。
这就是优秀领导力的用武之地。你不应该害怕说出：我们用人工智能做什么，我们永远不会用它做什么，以及出问题时谁来负责。告诉你的创意团队，他们工作中哪些部分不会被人工智能取代，然后让你的员工参与测试。经营门店和接待客户的人会比任何供应商演示更快地发现失败之处。奖励他们尽早报告问题，而不是隐瞒问题。用人工智能来服务你的客户，而不是取代客户为之而来的那个人。
自我监管没有赢得公众对科技的信任，在时尚行业也不会赢得信任。那些明确说明在哪里使用人工智能、在哪里不使用，标注合成图像，在复制任何人肖像前获得同意，并邀请独立审查者验证他们信守承诺的品牌，将赢得客户的信任。其中一些已经是法律要求。纽约州要求在使用模特创建数字复制品之前获得其同意，并在使用合成表演者的广告上清晰标注。任何未被法规覆盖的事情都归结为选择。Aerie做出了这个选择，承诺其广告中不使用人工智能生成的身体或人物，这一声明成为其一年中点赞最多的Instagram帖子。多年前，我曾告诉美国国会，“刹车能帮你开得更快。”我仍然相信这一点。每次我帮助构建带有可执行护栏的人工智能时，人们都会变得更愿意使用它，因为他们知道出了问题有人负责。决定是否信任你品牌的客户也是同样的想法。护栏不是品牌的成本；它们是品牌的一部分。将人类——以及人类选择——置于人工智能核心的品牌，将在下一次丑闻爆发时仍然是客户信任的品牌。
常见问题
常见问题 人工智能问责制是新的品牌资产
1 人工智能问责制是新的品牌资产是什么意思
这意味着一家公司如何负责任地使用人工智能，对其声誉来说正变得与其标志、名称或客户信任一样有价值。公平透明地使用人工智能的品牌获得竞争优势，不这样做的品牌则面临失去客户的风险
2 用简单的话说，什么是人工智能问责制
就是对你的AI系统如何行为承担责任——确保它们公平、透明、安全，并且出问题时有人负责
3 为什么这突然成了大事
因为人工智能现在无处不在——在招聘、贷款、医疗、客户服务和内容中。当人工智能做出有偏见或有害的决定时，客户会注意到，反弹会落在品牌身上，而不是算法身上
4 人工智能问责制与人工智能伦理有何不同
人工智能伦理关乎原则和应该做什么。人工智能问责制关乎执行——谁对结果负责，问题如何修复，以及你如何证明你在做你承诺的事
5 这只是公关趋势吗
不是。监管机构正在通过真正的法律，诉讼正在被提起，客户正在积极因信任问题而更换品牌。它具有法律和财务上的约束力
6 成为一个负责任的人工智能品牌有什么好处
更强的客户信任、更好的法律保护、更少的高昂事故、更容易招聘顶尖人才，以及在拥挤市场中的真正差异化优势
7 忽视人工智能问责制的品牌会怎样
它们面临公开丑闻、监管罚款、诉讼、客户抵制以及难以挽回的长期声誉损害
8 你能举一个人工智能问责制做对的例子吗
一家公司清晰标注AI生成内容，公布偏见审计结果，允许用户对自动化决定提出申诉，并有一名指定的高管对人工智能结果负责
9 再举一个做错的例子
一个航空公司聊天机器人编造退款政策，或者一个招聘工具悄悄拒绝女性简历——两者都给相关品牌带来了公开尴尬和法律麻烦
10 我如何知道一家公司是真正负责任还是只是说说而已
寻找具体内容：公布的审计、清晰的AI政策、人工审核流程、申诉机制和指定的负责人。像“我们关心负责任的人工智能”这样含糊的声明