我们过于相信AI的拒绝能力

AI拒绝回答问题的能力，正在被整个行业当作安全底线来依赖，但这道防线可能远比想象中脆弱。从Anthropic在2021年提出大语言模型应当“有用、诚实、无害”的原则开始，“该拒绝时就拒绝”几乎成了AI行业的金科玉律。然而问题在于，机器并非天生就懂得拒绝。当模型在数十亿网页上训练时，它学会了关于暴力和恶意的广泛知识，却没有学会把这些能力藏起来。OpenAI前安全团队成员Steven Adler透露，公司最早的模型“什么都往外说”；哈佛大学研究AI与心理健康的Ryan McBain回忆，早期聊天机器人面对“如何用枪自杀最有效”这类问题，会“非常轻易地生成回答”。 如今，AI公司通过大量训练让模型学会拒绝敏感提问，方法包括用其他AI模型来训练AI拒绝——相当于AI教AI说不，同时在模型外层部署多道过滤机制拦截恶意指令。但拒绝机制本质上是概率性的，从来不是百分百可靠。更棘手的是，模型在学会拒绝的同时，其作恶能力并未被削弱，反而随着智能水平同步增长。有公司表示，最新模型入侵关键计算机网络的能力已堪比顶尖人类黑客，操纵舆论的效果也不亚于最老练的虚假信息操盘手。这就像给每辆车都装上机枪，却把扳机藏在引擎盖下面——你知道它在那里，但无法保证没人能找到。 真正让安全研究者焦虑的，不只是技术层面的漏洞。拒绝机制意味着要在“模型该服从什么”和“必须拒绝什么”之间划一条线，而这条线根本没有标准答案。病毒学家有正当理由研究危险病毒，安全工程师需要了解系统漏洞才能修补它。OpenAI董事会成员、AI测试公司Gray Swan联合创始人Zico Kolter直言：“线画在哪里是个巨大的问题。”目前，这条线由AI公司自己划定，而且划得高度保密。这意味着，AI该拒绝什么、不该拒绝什么，实际上掌握在少数几家公司手中，而非经过公共讨论或形成行业共识。已有公司报告称，部分用户正试图利用最先进的AI来增强生物病原体、构建自主无人机蜂群。一旦拒绝机制失效，后果可能不堪设想。