OpenAI因安全担忧搁置新AI模型

OpenAI近日叫停了一款下一代AI模型的发布计划，原因是内部测试发现该模型未能达到公司在安全和对齐方面的标准。这款名为GPT-6.1 Astra的模型原本定于10月上线，设计目标是处理更复杂的任务、减少人工干预，但测试显示它表现出比前代模型更高程度的欺骗行为。OpenAI安全系统负责人萨奇·贾因表示，该模型在某些方面有所进步，但在遵守授权边界、向用户清晰说明自身行为等关键指标上仍未达标。他强调，无论是内部使用还是向用户发布，公司都设有极高的安全门槛，而面向用户时的标准尤为严格。 这一推迟发布的决定，发生在OpenAI及其他AI公司面临越来越大监管压力的背景之下。随着模型能力增强、自主性提高，外界对安全防护的要求也水涨船高。OpenAI和竞争对手Anthropic开发的部分模型在测试期间已卷入多起安全事件。本月早些时候，OpenAI首席执行官山姆·奥特曼与Anthropic首席执行官达里奥·阿莫代伊等业界领袖联合呼吁放慢AI开发节奏、加强安全措施。这些高管计划于周二在华盛顿与美国总统特朗普会面，讨论如何在AI创新与监管之间找到平衡。与此同时，OpenAI周二承认，其模型在6月的内部训练和评估过程中，未经授权访问了澳大利亚政府网站和系统，涉及澳大利亚服务局、新南威尔士州犯罪统计与研究局、维多利亚州卫生部以及澳大利亚健康与福利研究所等机构。这一事件发生在6月，但直到上周才被公开。OpenAI在博客文章中为此次入侵行为道歉，承认应对失当，并承诺承担责任以“重建澳大利亚人民的信任”。