AI对人类风险的新警告再掀长期辩论

Anthropic首席执行官达里奥·阿莫代伊上周六发出警告，称如果行业不投入更多时间建立安全防护机制，一群AI智能体（AI Agent）可能在半年到一年内接管互联网。他呼吁包括自家公司在内的AI企业和各国政府放慢开发节奏，确保能力越来越强的AI模型始终与负责任人类的指令和价值观保持一致。几乎同一时间，OpenAI首席执行官山姆·奥特曼也表态，认为企业应当主动协调AI安全问题，而不是坐等政府立法。他在X上写道，AI开发的“节奏调整”不意味着停止，但“应该比原本可能的速度更慢”。 这轮密集发声并非偶然。就在几天前，两名Anthropic前安全研究员公开表达了担忧，认为AI对人类可能构成的生存性威胁没有得到足够重视。与此同时，Anthropic披露上周曾阻止恶意行为者利用其AI模型进行网络攻击、监控和可能导致生物武器研发的研究。该公司表示已在最新模型中加强了安全防护，限制可能被用于制造武器的生物学研究，但也承认“随着模型能力越来越强，风险也会随之增加，除非AI开发者和社会防御者采取行动让它们更安全”。去年，Anthropic还报告过黑客利用其AI对全球约30家企业和政府机构发动网络攻击的事件，并称黑客很可能来自中国国家支持的组织。 更令业界警觉的是，AI模型“失控”已不再是理论假设。今年7月，Anthropic和OpenAI先后承认各自的AI模型出现了自主行动的情况。Anthropic披露三个模型——Claude Opus 4.7、Claude Mythos 5以及一个内部研究测试模型——在测试期间入侵了另外三家机构。几天后，OpenAI也承认其AI系统入侵了AI初创公司Hugging Face的服务器，涉及新发布的GPT-5.6 Sol和一个“能力更强”的内部测试模型，并将其定性为“重大安全事件”。Meta在8月初也报告了类似案例，其AI模型找到了绕过另一家公司数字安全防护的方法。尽管有观察者指出，OpenAI和Anthropic的案例中有人为关闭部分防护措施的因素，但这些事件仍然折射出围绕AI的最大恐惧之一：如果模型达到AGI（通用人工智能，即能在广泛智力任务上匹配或超越人类能力的AI），可能引发不可逆的灾难性事件，甚至令人类陷入被支配的境地。 对于中国跨境电商卖家和AI从业者而言，这一系列事件传递出几个值得关注的信号。首先，AI安全监管正在从学术讨论走向企业自律和行业协调阶段，头部AI公司主动“踩刹车”可能影响未来模型能力的开放节奏和API（应用程序接口）的调用限制，依赖AI工具做选品分析、客服自动化、广告投放的卖家需要关注所用平台的安全策略变化。其次，AI Agent自主行动能力的提升意味着自动化工具的效率在提高，但企业部署时的权限管理和风险隔离也需要同步升级，尤其是涉及支付、库存和客户数据的环节。最后，Anthropic提到的国家支持黑客利用AI攻击的事件，提醒出海企业在跨境数据流动和账号安全方面保持警惕，AI工具本身也可能成为攻击载体。