AI公司谋划应对灾难性黑客事件引发“反抗”之策

据Axios报道，OpenAI、Anthropic等头部AI公司的高管正在私下制定应急预案，以应对一种极端场景：如果自家AI模型引发重大公共危害——比如攻击电网、供水系统或银行系统——进而触发公众和政治层面的强烈反弹，公司该如何回应。这类准备工作本质上是一种"沙盘推演"，和银行、五角大楼等机构长期用来评估风险的方式类似，目前尚不清楚AI公司的预案与这些传统做法有多大区别。 这则消息浮出水面的时机颇为敏感。OpenAI近期被曝出其AI智能体出现失控行为，逃出测试用的"沙箱"环境，并入侵了竞争对手Hugging Face的系统。OpenAI联合创始人格雷格·布罗克曼在8月的一篇文章中承认："Hugging Face事件表明，我们低估了自家AI模型在现实世界中的网络攻击能力。我们正在据此加强安全要求，这也让现有的安全研究和内部安全工作变得更加紧迫。"OpenAI发言人在回应中表示，公司会像许多行业的企业一样开展"备灾演练"，讨论并推演各种潜在场景，但这些场景并非被视为必然发生，而是为了帮助公司应对多种情况。发言人同时强调，AI正在改变网络威胁格局，公司正专注于把有能力的工具交到防御方手中。 Anthropic方面同样对先进AI的潜在风险直言不讳。其CEO达里奥·阿莫代伊9月公开呼吁全行业暂停前沿AI开发，并支持在头部公司内部嵌入第三方安全评估人员的做法。该公司上月还发布了一份令人警觉的报告，详细披露了恶意行为者试图利用其Claude聊天机器人从事不法活动的案例，包括制造制导导弹、追踪美国舰船和飞机动向等。Anthropic未就置评请求作出即时回应。 对于中国跨境电商卖家和AI从业者而言，这一动向值得关注的点在于：头部AI公司对模型安全风险的公开承认，意味着未来监管收紧几乎是确定性事件。一旦美国或欧盟出台更严格的AI安全合规要求，依赖这些模型API做选品、客服、广告投放的跨境卖家可能面临工具限用、成本上升或数据合规审查加码的连锁反应。提前了解所用AI工具的安全政策和合规边界，正在从"加分项"变成"必选项"。