AI工具AI评分 一般 (52)AI 中文改写

WhatsApp帮助页面泄露Meta聊天机器人隐藏指令

1 天前 1 阅读来源:Wired AI
WhatsApp帮助页面泄露Meta聊天机器人隐藏指令

AI 中文改写

原文为英文,由 AI 改写为中文报道,内容完整。如需参考原文请点击下方链接

WhatsApp官网的帮助页面最近出了个不大不小的岔子:大约80个用来解答用户疑问的帮助和FAQ页面,在网页代码里意外暴露了Meta写给自家聊天机器人的内部指令。这些指令原本不该被用户看到,其中一些段落甚至直接标着“WHAT NOT TO SAY”(不要说什么),明确要求机器人不得向用户提供法律建议。发现这一问题的是隐私公司Redact,其CEO丹·索尔特曼表示,最值得注意的地方在于“用户被告知的内容和LLM(大语言模型)看到的内容之间存在差距”。 这些隐藏指令的具体内容颇能说明问题。在“如何删除账户”的页面里,代码中的指令要求机器人不要建议用户联系任何数据保护机构、监管机构或监督机构。在“关于举报和屏蔽”的页面里,指令则规定:一旦用户提到法律诉讼、律师、法院等字眼,机器人不得引用或解释WhatsApp的服务条款、隐私政策及任何法律文件,不得代表WhatsApp发表责任相关的表态,也不得引用GDPR(欧盟通用数据保护条例)、LGPD(巴西数据保护法)、CCPA(加州消费者隐私法)等隐私法规——哪怕用户主动提起也不行。此外还有针对特殊情况的指令,比如用户自称失聪或听力困难时,机器人要将其视为背景信息而非支持请求;以及不得提及尚未全面上线的社区功能。这些文字藏在名为“HelpContentGalaxyLLMInclude”的代码块下,在页面存档版本的底层代码中仍可查看。 事件曝光后,WIRED联系了Meta,相关文本已从所有页面移除。WhatsApp发言人乔舒亚·布雷克曼称,这是程序错误导致的显示问题,现已修复,并强调“这些是给我们聊天机器人的指令,不是直接给用户的,目的是确保选择通过AI联系WhatsApp支持的用户能获得准确、相关的回复”。目前尚不清楚这些文本是否会被第三方机器人抓取,也不清楚它们已经暴露了多久。对跨境电商卖家和出海从业者来说,这件事的启示在于:平台对AI客服的话术边界控制得远比对外展示的严格,尤其在法律和监管话题上刻意设防;而这类内部指令一旦泄露,既暴露了大厂AI客服的真实行为逻辑,也提醒依赖平台官方支持渠道解决问题的卖家,AI能给的答案其实是被精心限定过的。

以上为 AI 中文改写版本,如需查看英文原文请访问

英文原文 · Wired AI

内容版权归原作者及 Wired AI 所有

这篇文章对你有帮助吗?
觉得有用?分享给更多人

留言 · 0 条

暂无留言,来说两句吧

留言经合规过滤后展示,禁止违法内容