智能体爆红后,遭亚马逊“封杀”!美国银行等六家银行预警:可能发生诈骗或错误交易
🖋️
🌤️
⏳
登录新浪财经APP 搜索【信披】查看更多考评等级
Meta的个人AI智能体Muse最近爆红。自该产品发布约两周以来,Meta股价已累计上涨超过20%,市值增加逾2000亿美元。
不过,这一大热的产品正接连遭遇电商平台、金融机构与安全研究者的多重质疑。
当地时间9月20日,亚马逊正式阻止Muse代用户在其平台购物,理由是该AI未获得授权、不主动披露身份,存在账户凭证抓取与数据安全隐患。仅仅两天后,包括美国银行、NatWest在内的六家全球银行联合发布报告,集体警示AI智能体购物带来欺诈、隐私泄露等难题。
一波未平一波又起,安全研究员披露Muse Mac客户端存在漏洞,攻击者仅需一行命令便可劫持Muse。更令人意外的是,Muse主打AI代打电话功能,实际部分通话竟是外包真人操作,还出现承包商不当言论事件,Meta已紧急撤回该功能。
当AI从“回答问题”升级为直接替人交易办事,AI智能体商业化落地过程中的数据安全与用户隐私等风险,正在集中暴露。
亚马逊“封杀”Muse
六家银行对AI购物发出警告
Muse走红后,最先与其发生正面冲突的,是全球最大的电商平台之一亚马逊。
当地时间9月20日晚,亚马逊开始阻止Meta旗下个人AI智能体Muse访问亚马逊并代用户购物。亚马逊发言人确认,在Meta拒绝主动将亚马逊从Muse中移除后,公司采取了这一措施。
使用Muse访问亚马逊的用户收到提示:“未经授权的AI Agent持续访问违反亚马逊的使用条款。”
图片来源:亚马逊网站
亚马逊发言人向《每日经济新闻》记者(以下简称每经记者)表示:“第三方应用如果要代表消费者从其他企业购买商品,就应该公开透明地运行,并尊重服务提供商是否愿意参与的决定。”
亚马逊将Muse与外卖、配送和在线旅行平台作比较。其表示,外卖平台需要得到餐厅合作,旅行网站也需要与航空公司建立相应关系,“Muse这样的第三方智能体应用负有同样的义务”。而Meta事先并未告知Muse将访问亚马逊,也未获得授权。
更重要的是,亚马逊认为,当Muse代替消费者购物时,它可能绕过亚马逊基于用户浏览和购买历史建立的个性化推荐体系。
账户和数据安全是亚马逊提出的另一个问题。亚马逊对每经记者称,Muse似乎会获取和保存用户凭证并抓取账户数据,这引发了人们对这些数据如何处理和保护的严重质疑。同时,Muse访问亚马逊时不会主动表明自己是AI智能体。这意味着,一个未披露身份的第三方可能进入消费者账户、处理交易和敏感信息,而亚马逊本身并不知情。
这场争议发生之际,AI智能体正在越来越深地进入真实购物场景。英国零售商John Lewis今年9月披露,来自AI智能体的搜索流量占比已经从一年前的0.3%升至2.5%。OpenAI、Anthropic、Google和Meta等科技公司都在推动AI从推荐商品进一步走向替用户选择商品乃至直接完成交易。
亚马逊封锁Muse两天后,金融机构也对这一趋势发出了警告。
当地时间9月22日,NatWest、美国银行、Capital One、ING、澳大利亚联邦银行和新西兰ASB Bank六家银行联合发布“构建可信商业智能体”报告,警告AI智能体用于购物和支付可能增加诈骗、欺诈以及数据隐私泄露风险,并指出相关技术的发展速度正在超过行业标准和消费者保护机制。
“构建可信商业智能体”报告封面
六家银行列出的风险十分具体:AI智能体可能买错商品、支出超过消费者预期,也可能要求用户提供银行卡信息并直接输入网站,甚至将消费者引向保护机制更弱的支付方式。一旦发生诈骗或错误交易,消费者还可能面临另一个问题——究竟应该找AI公司、商户还是银行负责?
美国银行全球支付解决方案负责人Mark Monaco表示,随着智能体商业的发展,要建立消费者、商户和金融机构的信任,需要解决身份识别、授权、欺诈防范、责任划分和消费者保护等一系列问题。
六家银行因此提出,未来AI参与交易时应明确披露身份,提高AI决策过程的透明度,加强用户数据保护,同时保证消费者和商户能够自主决定使用哪些AI电商服务。
研究员称“一行命令就可劫持”!
Meta回应:“已修复,不是远程漏洞”
Muse随后曝光的安全漏洞也让零售巨头和银行的担忧变得更加具体。
当地时间9月21日,macOS安全研究员、Objective-See创始人Patrick Wardle公开披露,Muse的Mac客户端存在一个“零日漏洞”(zero-day vulnerability):攻击者可以修改Muse原本用于开发调试的一个设置,把语音输入请求偷偷转到自己控制的服务器,从而截获Muse用于验证用户身份的认证信息,并进一步冒充用户向Muse下达指令。
Wardle在接受每经记者采访时表示,他通过逆向工程Muse发现了这一问题。“我查看外部低权限代码能够影响哪些部分,很快就找到了Muse未公开的设置。其中一个设置允许敏感端点被劫持,这正是整个攻击链的关键。”他说。
在Wardle看来,这一漏洞的利用门槛并不高。“利用它非常简单。一个没有特殊权限的本地攻击者,只需要运行一条命令就可以劫持Muse。”Wardle表示,当用户随后使用Muse的语音听写功能时,漏洞便可以被触发。
Wardle测试发现,攻击者获取相关认证token后,可以继续获得Muse关联的虚拟机凭证,并访问与账户相关的聊天记录、调用智能体执行任务。“Muse能做的事情,攻击者基本也能通过Muse去做。”Wardle向每经记者表示。
Wardle表示,Muse拥有的访问权限和能力“远远超过普通恶意软件梦想拥有的范围”。因此,攻击者不一定需要自己突破macOS的一道道权限限制,而可以“胁迫”Muse替自己完成原本无法直接进行的操作。
这一风险甚至可能跨越设备。Wardle告诉每经记者,他在测试中获取Muse的账户认证token后,可以远程调用同一账户下其他Muse设备,包括iPhone。他展示的能力包括查找设备、读取和控制智能家居设备、查看门锁和传感器状态,以及访问日历、联系人、提醒事项和位置信息等。
Wardle强调,所有测试均在他自己的设备上进行,另外也有朋友在各自设备和账户上进行了验证。
对于“AI智能体获得的权限越多,一旦被攻破后的风险是否越大”这一问题,Wardle的回答非常直接:“是的,百分之百。这才是更大的问题。”
对此,Meta在回复每经记者时表示,公司已经向Muse Mac应用发布热修复,并称这一漏洞已经被修复。
Meta进一步解释称,Muse的语音听写功能使用服务器端语音模型,而Mac客户端原本保留了一个内部开发设置,可以将相关请求地址重定向至其他URL。由于这一设置位于本地偏好文件中,同一用户账户下运行的程序可以修改它。攻击者因此可能代理Muse的语音请求,并截获Muse用于驱动智能体的access token。热修复补丁已经彻底移除了正式版本中的这一设置,从而关闭了这一漏洞。
不过,Meta与Wardle对于漏洞的实际风险存在明显分歧。
Meta将其定义为一次本地权限提升攻击,并强调它“不是远程漏洞”。按照Meta的说法,要利用这一漏洞,恶意代码首先必须已经在用户Mac的账户下运行,因此使用Mac的Muse用户面临的实际风险“相当低”。这一问题并没有涉及Muse服务器,也没有攻破用于隔离智能体任务的虚拟电脑。
Meta还表示,公司认真对待所有潜在安全问题,即使这些问题是以公开漏洞利用代码的形式出现。同时,Meta也提到,其漏洞赏金计划针对这一类别的问题最高奖励可达30万美元。
不过Wardle表示:“上次我间接接触Meta的漏洞赏金计划时,他们曾威胁要举报一位向他们报告漏洞的同事,并要求FBI介入。”
Wardle同时认为,“不是远程漏洞”的说法并不能完全反映现实中的攻击方式。
他向记者表示,攻击者可以通过所谓“ClickFix”方式,从远程诱导用户执行那一条命令。例如,用户可能在网页上看到虚假的故障或安全提示,被要求复制一条命令到终端中运行。
尽管Meta称漏洞已经得到修复,但Wardle认为,Muse暴露出的风险并没有随着补丁一起消失。他表示,目前还存在可能更严重的AI智能体漏洞,由于这些漏洞已报告给供应商,所以目前还不能透露细节。
“AI打电话”?其实是外包给人工!
Meta已紧急撤回该功能
而在“零日漏洞”之外,Muse另一项核心卖点——替用户打电话办事——也曝出了新的隐私争议。
当地时间9月22日,有媒体援引Meta内部帖子报道称,Meta近期一直在Muse中测试一项名为“human concierge(真人礼宾)”的功能:用户以为自己把任务交给了AI,但部分电话实际上会被转交给真人承包商,由他们替Muse拨打和完成。
Muse的电话功能可以替用户联系美国商家,例如预约理发、询问商品库存,或者向不同服务商询价。完成通话后,Muse还会向用户提供通话摘要和文字记录。Meta从8月开始让员工测试这一功能,并在Muse正式上线后逐步向用户开放。
但AI自己打电话的成功率并不总是理想 英超直播 。
Meta内部帖子显示,一名员工曾让Muse联系自己的保险公司,但对方一听出是AI便不断挂断电话。为了解决类似问题,Meta上周向约一半员工开放了“真人礼宾”测试,让Muse可以把任务转交给接受过培训的真人,由后者完成通话。
从效果来看,真人明显更“好用”。Meta超级智能实验室一名副总裁在内部帖子中表示,一些测试显示,由真人拨打电话后,任务成功率可以达到95%~98%,明显高于纯AI完成电话任务的成功率。
但一些Meta员工在内部提出了关于隐私的担忧。他们警告,如果Muse把任务交给呼叫中心的承包商,原本用户以为只是在与AI分享的信息,就可能意外暴露给真人。
一名员工在内部帖子中直言:“我很难理解为什么我们认为这个功能值得冒这样的风险。”他警告,只要出现一个漏洞,就可能导致不必要的信息泄露给真人接线员。
争议很快从假设变成了现实。另一名员工曾让Muse联系网络和有线电视服务商,试图协商降低账单。但他随后发现通话记录显示,负责该任务的真人承包商在通话中使用了涉及种族的冒犯性表述。
随后,Meta超级智能实验室一名副总裁在内部承认,在没有充分披露的情况下开始测试由承包商拨打电话,“是一次失误”,并表示公司已经暂时撤回这一功能。涉事真人承包商也不会再参与Meta的任何项目。
Meta发言人Daniel Roberts称,员工对于这项测试的反馈“绝大多数是积极的”,测试的目的正是为了在功能正式推出前收集反馈,并完善安全和隐私保护措施。他表示,Meta正在与商家合作继续改进这一潜在功能,只有在功能准备好、并具备适当的信息披露机制之后,才会正式推出。
海量资讯、精准解读,尽在新浪财经APP
⏳
责任编辑:张恒星
VIP课程推荐
加载中...
新浪直播
百位牛人在线解读股市热点,带你挖掘板块龙头
收起
@@title@@
@@status_text@@@@program_title@@
APP专享直播
1/10
热门推荐
收起
新浪财经公众号
24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)
相关新闻
财经头条作者库
股市直播
图文直播间
视频直播间
最近访问
我的自选
01/习近平抵达华盛顿对美国进行国事访问02/习近平抵达美国首都华盛顿(高清大图+现场视频)03/9月24日收盘:纳指跌超1% 美债收益率飙升04/直击“倒闭”风波中的西贝一线:部分核心门店尚能盈利 有门店新签三年租约 但员工感叹“再也回不到以前了”05/近镜头|习近平主席抵达华盛顿 美方机场举行隆重迎接仪式06/习近平抵达美国安德鲁斯空军基地发表书面讲话07/美越协议即将落地,苏林最不敢面对的问题:没有中国零件怎么活?08/人民日报:美中元首会晤对两国和世界都意义重大(国际论坛)09/人民日报:“推动中美关系这艘巨轮沿着正确航道平稳前行”10/9月24日外盘头条:伊朗总统向美国释放强硬信号 布油重回100美元之上 美联储巴尔称需要进一步加息以压低通胀
🔨 01/操盘必读:影响股市利好或利空消息_2026年9月24日_财经新闻02/新概念,突然火了!龙头暴涨近70%(附股)03/财经早报丨人民币对美元汇率创阶段新高 股票私募加仓意愿再度集聚丨2026年9月24日04/股海导航_2026年9月24日_沪深股市公告与交易提示05/降压疫苗要来了!中国超3.3亿人患高血压,你的血压还好吗?06/10月再加息一次!高盛:这可能是本轮周期“终曲”,但关键取决于……07/四大证券报头版头条内容精华摘要_2026年9月24日_财经新闻08/清晨,突变!暴跌超300点!一则数据,引爆市场09/高中签率!半导体龙头今日申购10/美国国务卿宣布对“生育旅游”实施新的签证限制
01/“双节”理财踩点买!多家理财公司明确申购时间,降费潮仍在持续02/上市银行中收“分水岭”:谁在领跑?谁在掉队?03/银行黄金代客业务一进一退:“炒金”通道收窄 积存金扩容04/人民币汇率升破6.7,买美元存款的人自嘲“存个寂寞”05/数字人民币运营机构向农商行下沉?江苏农商联合银行启动相关招标,回应:有计划申报06/朱民:智能支付走出工具属性,货币竞争进入多维时代07/批量降价!银行理财“0费率”重出江湖08/16套房难填16亿债,贵阳银行追债“正威系”终本09/季末AUM冲量 银行纷纷转向“抢资产”!“留客”难题仍需破解10/央行通过CMU发行600亿元人民币央行票据 中标利率1.37%
7X24小时
徐小明 凯恩斯 占豪 花荣 金鼎 wu2198 丁大卫 易宪容 叶荣添 沙黾农 冯矿伟 趋势之友 空空道人 股市风云 股海光头
杨伟民
↘️ 夏心愉:
从半年报看银行财富管理成色
🆖 刘元春:
新旧动能转换与增量政策发力
🐺 张瑜:
年底财政发力的三种情景
🌲 曾刚:
助贷行业出清与模式重构
😮💨 余永定:
用扩张性政策刺激有效需求
交易提示
操盘必读
证券报
最新公告
限售解禁 英超买球网站官网
数据中心
条件选股
券商评级
股价预测
板块行情
千股千评
个股诊断
大宗交易
财报查询
业绩预告
ETF期权
类余额宝
基金净值
基金对比
基金排名商品行情
外盘期货
商品持仓
现货报价
CFTC持仓
期指行情
期指持仓
期指研究
行业指数
权重股票
期货名人
专家坐堂
高清解盘
期货入门
各国国债
期市要闻
期货研究
机构评论
品种大全外汇计算器
人民币牌价
中间价
美元指数
直盘行情
所有行情
美元相关
人民币相关
交叉盘
拆借利率
货币分析
机构观点
经济数据
专家坐堂
分析师圈
国债收益率
全球滚动
CFTC持仓
比特币外汇计算器
黄金资讯
白银分析
实物金价
ETF持仓
黄金TD
白银TD
金银币
专家坐堂
基础知识
现货黄金
现货白银
现货铂金
现货钯金
高清解盘
黄金吧 白银吧
黄金分析
CFTC持仓
叶檀
凯恩斯
曹中铭
股民大张
宇辉战舰
股市风云
余岳桐
股海战神
郭一鸣
赵力行
叶檀
凯恩斯
曹中铭
股民大张
宇辉战舰
股市风云
余岳桐
股海战神
郭一鸣
赵力行
董明珠还能为格力奋战多久?|《至少一个小时》
🔜 梁建章:中国人口衰竭的速度前所未有
⛔ 冷友斌回应网友质疑:说价格高 对飞鹤不公平!
➿ 王中军:我喜欢比较“江湖”一点的人
🗂️ 7x24快讯:9月19日沪深两市涨停分析 非凡哥哥samm:不想做任何操作 飞我eight:今天才这点成交量 和你天天向上:全部清除了 一分不剩 用户7048726012:想红但是又有点怕羞 江东子弟93949:还对中芯抱有幻想的人 和你天天向上:拉升一下吧 给我清仓的机会 用户7763476192:再玩下去6000亿都守不住了,没人玩了
10-09
通则康威
30-17-18
-- 09-28
南方乳业
92-01-96
🌈 14.21 09-28
联亚药业
30-15-69
7 09-24
粤芯半导体
30-16-60
🍺 12.01 09-23
莫森泰克
92-01-62
🥽 17.37
新浪财经意见反馈留言板
新浪简介|广告服务|About Sina
联系我们|招聘信息|通行证注册
产品答疑|网站律师|SINA English
Copyright © 19-96-20-26 SINA Corporation
All Rights Reserved 新浪公司 版权所有
英超买球网站官网