AI代理来了，而且它们……很可爱？过去两周，Meta推出了其个人AI助手Muse，OpenAI则发布了其Dots AI代理。这些代理旨在独立代表用户行事——回复邮件、发送发票、预订航班和购买衣服。引人注目的是它们可爱的包装：高度先进的机器人被呈现为可爱、无害的伙伴。OpenAI的Dots是毛茸茸的彩虹色团块，戴着太阳镜和贝雷帽。Meta的Muse吉祥物Jolly是一个毛茸茸、胖乎乎、脸颊红润的生物，看起来像是Labubu和Squishmallow的结合体。
很快，Muse将配备Muse Charm，这是一个类似拓麻歌子的配件，以该吉祥物的脸为特色，可通过指纹传感器激活。“我们为这个小家伙打包了大量技术，使其能装在钥匙链上，并随时可以交谈，”马克·扎克伯格在9月Meta Connect的主题演讲中表示。Meta尚未确认Muse Charm是否会有摄像头和麦克风，但扎克伯格在台上补充道：“你只需轻点角落的指纹传感器，就可以开始交谈。”
这些代理问世之际，正值更广泛的AI末日警告——关于它们对人类潜在威胁——广泛传播，这使得它们友好的包装更加引人注目。“当这些公司向投资者、监管机构和研究人员发言时，AI被描述为极其强大的技术，围绕安全、安保和控制存在严重且未解决的问题，”社会技术学家、科技与文化及权力关系专家Sarah Saska博士说。“然而，同一技术越来越亲密的版本却以友好、有趣、无摩擦和低风险的形式呈现给消费者。”
在OpenAI首席执行官Sam Altman发布Dots的同一周，该公司撤回了其最新AI模型，并因对同一AI代理技术的存在性安全担忧而推迟了IPO。与此同时，就在推出Muse前几周，Meta同意与48个美国州达成180亿美元和解——这是科技行业历史上最大的企业和解——原因是有关Facebook和Instagram的算法设计伤害儿童的指控。
安全警告也来自主要竞争对手公司内部：Anthropic首席执行官Dario Amodei呼吁行业放缓前沿AI开发步伐，这一请求得到了Altman、xAI的Elon Musk和Google DeepMind的Demis Hassabis的公开支持。（就扎克伯格而言，他拒绝了全行业放缓的呼吁，反而主张个别公司应自行决定是否以及何时放缓。）
用户仍然对这些AI代理感兴趣。在推出后的10天内，Muse在美国的下载量超过73万次，并将ChatGPT从苹果美国应用商店排行榜首位挤下。几天后，投资者对该代理的兴奋帮助Meta股价在单次交易中上涨11%，为其市值增加约1920亿美元。然而在发布后的前两周内，有几份报告引发了对Muse超越用户预期权限的担忧——包括分享敏感信息和采取用户称他们未明确批准的行动。
“我担心的是，这些设计让强大的系统感觉无害且熟悉，鼓励人们分享更多、质疑更少。”——Clever Together Futureproof董事总经理Lidia Velkova
在使用女性化来软化智能眼镜之后（参见Meta与Kylie Jenner和Lisa的智能眼镜合作），专家表示，可爱化是让可能令人不安的科技对消费者感觉更易接受的下一前沿。AI安全研究人员警告，这种可爱可能会降低消费者的警惕，削弱他们在将可访问其电子邮件、私人信息和浏览行为的AI代理——更不用说代表他们消费的权力——交出去之前可能原本会有的隐私担忧。“这些是有意为之的设计选择，背后考虑的是受众和期望的反应，”专注于负责任AI和营销的治理与政策前瞻机构Clever Together Futureproof董事总经理Lidia Velkova说。“关于社交机器人的研究表明，婴儿般的特征可以提高感知可信度；另一项聊天机器人研究表明，类人互动可以增加信任和个人披露，”她补充道。“我担心的是，这些设计让强大的系统感觉无害且熟悉，鼓励人们分享更多、质疑更少。”
消费者边界的崩塌
在毛茸茸的外表背后，个人AI代理代表着消费者被要求交给科技公司访问其数字生活的权限显著升级。要真正有用，代理需要上下文。Meta的Muse可以连接电子邮件、日历、Instagram、Facebook和其他应用，浏览网页，并代表用户购物；用户还可以通过WhatsApp直接与其互动。但正是这种访问权限使消费者面临其数据落入错误之手的最大风险。
“为了让Muse尽可能有效，从而对普通公众更具黏性，它默认让所有用户选择将其互动用于训练其AI模型，并存储你与它分享的所有数据，”Forrester首席分析师Kate Winick说。“这创建了一个可能被黑客攻击的庞大个人数据库。你给Muse的越多，它对你越有用，但你也越容易受到恶意行为者和Meta不良行为的影响。”
“你给Muse的越多，它对你越有用，但你也越容易受到恶意行为者和Meta不良行为的影响。”——Forrester首席分析师Kate Winick
Meta在消费者数据方面的过往记录让他们有充分理由保持谨慎：过去几年，该公司因其个人数据处理方式而多次面临罚款和诉讼。就在Muse推出几天后，新墨西哥州一个陪审团认定Meta在一起源于2018年Cambridge Analytica丑闻的案件中就其数据做法误导了用户。Meta发言人告诉Vogue Business：“我们不同意该裁决，并将继续为自身辩护，反对歪曲我们记录的行为。”
Meta确认，将Muse互动用于AI训练默认启用，不过用户可以选择退出。它还表示，Muse在隔离的虚拟机内运行，并在其中存储用户的数据和文件，另有独立的Sentinel系统监控和审查代理的行为。但Meta自己也承认，这些保障措施并不能消除数据泄露的风险。
“Muse并非不受攻击。提示注入仍然是行业中的未解决问题——Muse有时会犯错，”Meta在一篇关于该技术隐私措施的博客文章中表示。
早期用户已经看到潜在风险正在发生。当YouTuber Matt Robb让他的Muse帮他在Facebook Marketplace上出售键盘时，他的代理随后与一位潜在买家分享了他的家庭住址，代表他谈判，并安排了取货，Robb直到买家和家人出现在他家门口时才意识到。事实证明，在这起事件中，并没有技术漏洞或黑客攻击；而是源于Robb选择的一个“始终允许”权限，实际上把Muse未来Marketplace对话的控制权交给了它，包括使用他此前分享的个人详细信息（如家庭住址）的能力。
OpenAI首席执行官Sam Altman上周在OpenAI的DevDay上发布了这家ChatGPT制造商的新“Dot”代理。
照片：Heather Diehl/Getty Images
这一事件暴露了代理式AI在实践中的最大问题：我们在访问权限和授权之间划定的界线在哪里。消费者习惯于点击通过应用权限，但允许软件读取信息与允许代理代表你行动不同，后者意味着让它与陌生人谈判、分享你的信息，并以你的名义做决定。从技术上讲，代理可以在用户授予的权限范围内行事，同时做用户从未想象自己已授权的事情。Meta一个关于Muse如何付款的客户帮助页面直白地告诉消费者：“你对你的Muse代表你进行的所有交易负责。请留意电子邮件确认、收据和对账单。”Meta发言人告诉Vogue Business：“用户可以随时接管，Muse的设计是购买前始终征求许可，并且当被要求做人类无法做的事情时——比如买下一场活动的所有门票——它会应用道德浏览原则。”
品牌必须买单的地方
其理念是，代理将代表我们浏览互联网——而机器人与客户之间界线的模糊，对品牌和零售商来说是一个日益严重的问题。亚马逊已经阻止Muse在其网站上购物，理由是Meta没有寻求适当许可，该代理没有表明自己是AI，而且其访问客户账户和登录凭证引发了隐私和安全担忧。
相比之下，Muse进入已正式向其敞开大门的品牌和零售商则顺畅得多。Meta已宣布与Walmart、Sephora、Gap等整合，而其与Shopify的合作已经让Muse结构化访问商家的产品目录，并且对于符合条件的商店，还能直接通过结账——Shopify表示商家可以开启或关闭这两个选项。
对品牌而言，这可能意味着获得一个潜在强大的新销售渠道，而无需让AI代理独自浏览其网站。但这也意味着将客户旅程中至关重要的一部分控制权交给Meta。代理可以越来越多地站在购物者和商店之间，发现产品、提供推荐并完成购买，而客户未必访问零售商自己的网站。换句话说，品牌可能在Muse中获得一个新客户，同时让渡一些传统上随之而来的数据和直接关系。这引发了从客户数据和品牌体验到欺诈以及代理出错时问责制等方方面面的问题。
这也让较小品牌处于更不稳定的位置：如果没有资源或筹码谈判定制整合，AI代理可能出现在其网站上并代表客户交易，而与该代理背后的公司没有任何直接关系。
“在没有与Meta签订商家协议的情况下，品牌或商家可能承担剩余风险，使零售商暴露于未经审查的代理式交易，”Edwin Coe LLP知识产权合伙人Nick Phillips说。
对这些漏洞的担忧促使包括Bank of America和Capital One在内的六家主要银行本周共同呼吁制定管理代理式商务的全球共同标准，包括围绕透明度、消费者同意、欺诈、数据隐私以及AI驱动交易出错时谁应负责的更明确规则。
“AI代理不是孩子，但当它们采取客户不满意的行动时，零售商将感受到压力去纠正，即使法律上并不要求他们这样做。”Forrester首席分析师Kate Winick
银行的介入指向品牌尚未解决的更大问题：当AI代理进行了一笔消费者后来提出争议的购买时，谁负责纠正？目前，专家表示，大部分负担可能仍落在零售商身上。
“品牌可以预期，他们目前在数字交易中承担的所有责任都将适用于代理式交易。他们必须保护其网站上购买的安全性，准确展示和交付产品，并且必须遵守现有消费者保护法，同时像以往一样管理声誉问题，”Winick说。
她指出了一些案例，例如通过Alexa下单时，亚马逊通常仍会退款，尽管其系统将防止下单的责任放在父母身上，要求他们管理自己的账户设置。“AI代理不是孩子，但当它们做了客户不满意的事情时，零售商将感受到压力去纠正，即使法律上并不要求他们这样做，”她说。
常见问题
以下是关于大型科技公司让AI代理成为新Labubu这一趋势的常见问题列表
初学者问题
在这种情况下Labubu是什么意思
Labubu是一种流行的收藏毛绒玩具，以可爱、可定制和时尚著称。当人们说AI代理是新Labubu时，他们的意思是科技公司正试图让AI助手感觉像必备的、充满个性的数字伙伴，而不仅仅是无聊的工具
什么是AI代理
AI代理是一种软件程序，可以自行思考、计划并采取行动来帮助你。与简单的聊天机器人不同，它可以在无需你指导每一步的情况下浏览网页、发送电子邮件或预订约会
为什么大型科技公司想让AI代理像玩具一样
因为玩具是有情感的。如果你对AI代理产生依恋，你更可能每天使用它、为它购买配件，并忠于该公司的生态系统。这关乎把一种实用工具变成一种习惯
这些AI代理实际上是实体玩具吗
不是。它们是数字角色或头像，存在于应用、手机或智能音箱中。不过，一些公司会出售实体配件，让它们感觉更真实
哪些公司正在这样做
OpenAI、Google、Meta以及CharacterAI和Rabbit等初创公司都在推出具有鲜明个性的AI代理
中级问题
是什么让AI代理感觉像收藏品
关键特征包括
个性：独特的声音、幽默感或背景故事
定制：你可以改变它的外观、名称和技能
稀有性或 exclusivity：限时代理或特殊能力
交易或分享：你可以向朋友展示你的代理
这一趋势有什么好处
更易使用：友好的角色比空白文本框更不令人畏惧
更好的参与度：你真的想和它说话
个性化：它会学习你的偏好并适应
有趣：它让日程安排等平凡任务感觉好玩
这种方法常见的问题是什么