萨姆·奥特曼提议行业暂停，前沿AI安全担忧加剧

OpenAI首席执行官山姆·奥特曼在一次全员会议上向员工透露，公司正在考虑放缓前沿人工智能的开发节奏。据彭博社9月11日援引匿名消息人士的报道，奥特曼希望其他AI实验室也能跟随OpenAI一起减速，但他也承认，部分竞争对手可能不会这么做。OpenAI方面尚未对此置评。这一表态之所以引人关注，是因为它来自全球最具影响力的AI公司掌门人，且恰逢OpenAI自身因安全问题连续踩下刹车。 事实上，OpenAI的放缓并非突然之举。9月1日，公司宣布推迟其Astra模型的开发和发布，理由是需要加强并测试针对“网络滥用和未经授权的模型行为”的防护措施。OpenAI在测试后认定，Astra是首个达到其“Critical（临界）”网络安全阈值的模型——这意味着在拥有合适工具和访问权限的情况下，该模型能够自主发现此前未知的安全漏洞，并开发出针对众多防护严密的系统的攻击方法，全程无需人工逐步引导。更早的8月7日，OpenAI就已因安全顾虑暂停了与Astra相关的内部活动。换句话说，OpenAI是在自家模型展现出超出预期的危险能力后，才开始认真讨论“要不要慢下来”这个问题。 这一动向并非OpenAI一家之言。Anthropic早在6月就提出，前沿AI开发者应当放缓或暂停研发步伐，给社会结构和对齐研究留出追赶技术的时间。Anthropic研究所负责人Marina Favaro和联合创始人Jack Clark在6月4日的博客文章中解释，提出暂停的起因是AI开发中越来越多的工作被委托给AI系统本身，存在AI完全自主设计和开发另一个AI系统的可能性。7月，来自各前沿AI公司的1132名员工联合签署声明，呼吁美国政府支持一项国际努力，刻意放缓自动化AI开发的前沿推进速度。声明警告称，随着全球领先的AI公司接近实现AI研究的自动化，它们可能失去对由此产生的系统的控制。截至9月11日，该声明的签署人数已上升至1386人。 对跨境电商卖家和AI工具用户而言，这场关于“减速”的讨论并非遥不可及。前沿模型的开发节奏直接影响AI能力的迭代速度，也间接决定了卖家能多快用上更强大的选品分析、广告投放、客服自动化等工具。如果头部实验室真的集体放缓，短期内新功能的推出可能会变慢，但与此同时，模型安全性和合规性的提升，也可能减少AI工具在实际业务中“闯祸”的风险。更值得关注的是，一旦AI系统具备自主发现漏洞甚至自主开发的能力，围绕AI的监管和合规要求势必收紧，出海企业在使用AI工具时需要更加留意数据安全和平台规则的变化。