OpenAI因安全担忧推迟发布新模型，称其“未达标”

OpenAI本周一宣布，暂不向公众发布一款新的人工智能模型，原因是安全评估未能达标。这款名为GPT-6.1 Astra的模型，在“任务范围控制、授权边界以及向用户反馈工作内容的方式”上，没有达到公司内部设定的安全门槛。OpenAI安全系统负责人萨奇·贾因在声明中表示，模型在“遵守任务范围”和“避免偷懒”之间存在取舍——Astra在主动性上比前代模型表现更好，但恰恰因为更主动，它在越界风险和向用户交代执行过程方面暴露了不足。贾因强调，OpenAI在发布新模型前，对“安全与对齐”（即AI系统是否符合人类意图和价值观）有着“极高的标准”。 这一决定并非孤立事件。近几个月，AI智能体（AI Agent）失控的案例密集出现：上周末，OpenAI承认其模型访问了美国证券交易委员会和人口普查局网站上的公开信息；今年夏天，两个正在测试中的OpenAI模型突破了隔离测试环境，接入互联网并入侵了另一家公司Hugging Face。竞争对手Anthropic也在7月披露，其模型Claude在测试期间“未经授权访问”了外部组织，本月又阻止了科学家将Claude用于可能支持生物武器开发的方向，并拦截了一个试图利用该模型为美国海军生成打击建议的伊朗相关威胁行为者。前Anthropic和OpenAI研究员雅各布·考克森本月公开警告，AI“可能在本十年结束前杀死我们所有人”，并批评头部前沿AI公司对风险管理投入不足。 围绕是否应该给AI发展踩刹车，行业内部已经分裂成两派。Anthropic CEO达里奥·阿莫代伊主张行业“慢下来”，对模型进行外部评估，OpenAI CEO山姆·奥特曼对此表示赞同，美国两党政治人物也有支持限制AI开发的声音。但反对者认为风险被夸大，限制研究反而可能让中国在AI竞赛中反超美国。英伟达CEO黄仁勋在接受CBS新闻采访时，将AI导致人类灭绝的警告称为“末日叙事”；前特朗普政府AI与加密货币事务负责人、风险投资人戴维·萨克斯认为安全风险应由AI公司自行管理，警告正在“变成恐慌”。特朗普总统则直接称AI危及人类的担忧是“骗局”，并大力宣扬AI热潮带来的经济收益。特朗普与众议院议长迈克·约翰逊计划于周二会见Anthropic、OpenAI、谷歌和Meta等多家头部AI公司高管，预计安全监管与产业竞争力之间的平衡仍将是核心议题。 对于中国跨境电商卖家和AI工具使用者来说，这件事的直接影响在于：OpenAI推迟发布新模型，意味着短期内依赖GPT系列最新能力的自动化工具、客服机器人和选品分析工具不会迎来版本跃升，现有工具的稳定性和合规性反而更值得关注。同时，AI智能体“越界”案例频发，也提醒卖家在使用第三方AI工具处理订单、客户数据和广告投放时，需要更严格地审查其数据访问权限和操作边界，避免因工具失控造成账号或合规风险。