Meta推出Muse AI助手，存在严重安全漏洞

Meta创始人马克·扎克伯格曾大力宣传其新款AI助手Muse的安全性，声称它"从底层开始就为隐私和安全而设计"。但一个零日漏洞（zero-day，指尚未被厂商发现或修补的安全缺陷）可以让本地运行的应用程序和终端命令完全控制这个AI代理，这让上述承诺显得相当可疑。更耐人寻味的是，亚马逊在周日开始屏蔽Muse访问其网站。 Meta在几周前推出Muse。按照官方描述，这个助手能"预约、填表、处理客服事务"，"主动帮你分担任务"，还可以"购物、生成图片、创建文档，并连接你常用的应用和服务"。macOS版本（奇怪的是没有Windows版）还能接入用户的WhatsApp、邮箱、日历和社交媒体账号。当任务需要某个不存在的工具时，Muse会即时生成一个。 要让Muse完成这些操作，用户必须先授予它账号访问权限，包括对每项服务进行身份验证。由于应用运行在macOS上，用户还得给它开放大量受操作系统限制的设备资源权限，比如写入磁盘文件、访问麦克风和摄像头、监控位置和日历。苹果多年来一直在构建这些防护机制，目的就是阻止已安装应用或终端命令随意访问这些资源，显然是因为苹果认为它们构成安全威胁。而Muse把这些默认防护措施完全绕过了。 这个零日漏洞允许任何应用或终端命令获取用于验证用户Muse账号的令牌（token）。Meta开发者在设计助手时，让任何本地安装的应用或执行的代码——无论它拥有什么macOS权限——都能修改一长串未公开的设置。其中大多数设置无关紧要，比如控制深色模式。但有一个设置绝非无害：它允许进程更改语音转文字的终点地址。正常情况下，这是一个由Meta运营的服务器地址。攻击者可以把地址改成自己的服务器，一旦得逞，他们就能拿到完全控制Muse账号的令牌。 发现该漏洞的macOS安全专家帕特里克·沃德尔在热修复发布前告诉Ars Technica："我们可以操纵这个代理，利用它的权限做任何我们想做的事。所以我们不需要写一个功能齐全的Mac恶意软件窃取程序，直接利用这个AI助手本身就行了。"沃德尔表示，他已经开发出多个概念验证攻击，可以实现向磁盘写入恶意文件、拍照等操作，很多时候连警觉的用户都不会察觉。在这篇报道发布超过12小时后，Meta表示已发布热修复补丁修复了该零日漏洞。 Meta在两周内发布了两篇文章，阐述为确保这样一个拥有用户数据和资源超级访问权限的助手安全私密所做的设计决策。这些文章发布的背景是，有消息披露Anthropic和谷歌的模型在内部测试中导致了对外部第三方网络的入侵，而参与工程师从未打算针对这些网络。在传统的人类黑客行为中，这类操作很可能面临刑事指控。Meta发这些文章，很可能是意识到了由此引发的反弹，以及要求放缓AI开发步伐的呼声。 沃德尔指出，Meta开发者做出的几个设计决策让他的攻击成为可能。其中之一是选择让Muse的听写功能在云端进行，这样Meta可以记录内容。macOS长期以来一直提供简单方法，让应用在设备本地安全地处理听写和转录。如果开发者选择这个更安全的方案，攻击就不可能实现。另一个有缺陷的决策是……