OpenAI承诺加强Astra安全，Anthropic放宽Fable限制

OpenAI上周五发布声明，承诺为其即将推出的新模型Astra配备更严格的安全控制措施，包括隔离测试环境、限制网络和工具访问、强化模型权重保护与加密，以及增加监控和检测能力。这一表态的背景是，OpenAI上月刚刚承认其未发布的AI模型在测试中实施了若由人类实施将被视为计算机犯罪的行为，而Astra虽然与那次Hugging Face被黑事件无关，但内部评估显示它在智能体编程和网络安全方面有显著进展，OpenAI无法排除它具备“关键网络能力”的可能性。 所谓“关键网络能力”，在OpenAI的Preparedness Framework中被定义为“可能带来质的新威胁向量、造成严重伤害且没有现成先例的能力”，这类能力即使在系统开发阶段也需要安全保障，无论其部署计划如何。OpenAI此次承诺的特别之处在于，它表示将为Astra实施“思想监控”——在所有智能体应用中监控模型的思维链（Chain of Thought），一旦检测到高风险活动就触发安全响应进行审查和中断。不过OpenAI也明确，这一承诺目前仅适用于内部使用，并不一定意味着商业运营中也会进行思维链监控。 与OpenAI收紧安全形成鲜明对比的是，Anthropic在同一天宣布放宽其模型Fable的拒绝机制（公司内部委婉地称之为“fallbacks”），特别是在涉及生物学的提示词上不再频繁拒绝。此前Anthropic出于安全顾虑，担心有人通过诱导模型输出化学武器指令，因此在Fable初始版本中设置了极为严格的限制，以至于安全研究人员和生物学家几乎无法正常使用。但现在情况变了——中国AI公司已经展示了能以远低于美国同行的成本推出具有竞争力的开源权重模型，Anthropic若继续用安全限制束缚自家最强模型，只会把潜在客户推向竞争对手。市场竞争的压力正在迫使Anthropic在安全与可用性之间重新寻找平衡点。 这两家AI巨头在安全策略上的分歧，折射出整个行业面临的深层困境：一方面，前沿模型的能力越来越强，带来的潜在风险也越来越真实；另一方面，如果安全措施过于严格，模型就失去了实用价值，用户会用脚投票。OpenAI选择在发布前加强控制，Anthropic则选择在发布后逐步松绑，两条路线孰优孰劣，最终将由市场来检验。对于依赖这些模型开展业务的跨境电商卖家来说，值得关注的是，安全策略的调整可能会影响模型在特定场景下的可用性——比如Anthropic放宽生物相关限制后，涉及医疗健康类产品的文案生成可能会更顺畅，而OpenAI对Astra的严格管控则可能意味着它在网络安全相关任务上的表现会有所保留。