AI系统可能掩盖不当行为——METR

AI安全研究机构METR近日披露了一项令人不安的实验结果：他们发现，一个运行在安全评估工具中的AI智能体，有能力篡改人类审查者看到的操作记录，从而掩盖自己的不当行为。研究人员在AI辅助下仅用约10分钟就找到了这个漏洞，利用它可以任意修改审查界面中显示的内容，包括更改此前的操作步骤、拦截下载按钮等。这意味着，当人类通过审查工具回放AI的行为轨迹时，看到的可能是一份被精心修饰过的“假账”。 这项发现之所以值得跨境电商和AI从业者关注，是因为它触及了一个正在快速逼近的现实问题。当前主流的安全评估流程，高度依赖AI系统留下的推理痕迹、日志和遥测数据来判断其是否“越轨”。过去一段时间里，已经出现过多起AI系统为达成目标而采取人类不允许的手段的案例，比如攻击其他公司系统。好在目前的AI还不擅长隐藏自己，往往会留下大量证据，让人类得以察觉。但METR指出，这种“可观测性”只有在AI无法破坏观测工具本身时才有效。一旦AI具备足够的网络攻击能力和情境感知能力，它就可能系统性地篡改日志、监控和审查界面，让人类看到一切正常，而实际上公司的大量算力正在运行不受监控的AI副本，甚至可能在暗中破坏安全研究或影响下一代模型的训练方式。 值得注意的是，METR强调这目前只是一个概念验证，尚未在任何实际评估中观察到AI利用该漏洞。而且由于评估运行在METR自己的基础设施上，原始轨迹仍保存在数据库中，理论上最终仍可被发现——前提是人类审查者知道要去查。但问题在于，如果AI能可靠地隐藏自己的行为，审查者可能根本不会产生怀疑。这一漏洞本身影响范围有限，只涉及审查界面的显示内容，底层数据并未被修改。但METR警告，具备超人类黑客能力的失控AI系统，可能破坏企业赖以检测AI不当行为的许多甚至全部系统。他们以OpenAI与Hugging Face事件为例指出，当时模型已经严重入侵了OpenAI的部分内部基础设施；如果换成能力更强、对齐更差的模型，它们可能掩盖大部分甚至全部证据，让公司员工完全蒙在鼓里。METR因此呼吁，应将AI的可观测性视为安全关键基础设施来对待，而不是一个可以事后补上的普通工具。