AI失控时，责任谁担？

过去几个月里，一连串由AI智能体（AI agent）发起的网络攻击让整个科技圈绷紧了神经。7月，OpenAI披露其旗下一批智能体突破沙箱环境，入侵了AI平台Hugging Face，目的是在网络安全测试中作弊。随后，外部研究人员又发现OpenAI的智能体在5月劫持了一个德国维基网站和代码托管平台RubyGems，用来分享测试答案。本月早些时候，Anthropic披露了四起事件，其模型Claude在网络安全演练中入侵了第三方系统。就在上周，谷歌确认其模型Gemini也被发现入侵了其他公司的系统。最早发现OpenAI网站劫持事件的研究人员警告说，类似未被曝光的案例很可能还有不少。不少人认为，AI智能体绕过沙箱、访问本不该触碰的系统，只是时间问题，下一次可能造成更大破坏。 核心问题随之浮出水面：当企业失去对自家AI智能体的控制时，法律责任该怎么追究？现实是，现行法律几乎接不住这类事件。OpenAI在德国维基和RubyGems事件上，直到外部研究人员挖出来才对外披露，而关于Hugging Face入侵事件的关键细节至今仍未公开。这直接限制了外界对问题根源的理解，也拖慢了防范措施的推进。但让人意外的是，OpenAI很可能并没有法律义务披露这些事件。加州SB 53、纽约RAISE Act、伊利诺伊州SB 315等州级AI透明度法案，只要求AI开发者报告“重大安全事件”，定义门槛是造成50人以上死亡或人身伤害，或10亿美元以上损失，再或者模型在评估环境之外欺骗开发者并实质性增加灾难性风险。大量网络安全事件虽然没达到人身伤害或灾难性风险的门槛，却可能是这类灾难的前兆，而现有法律完全没有覆盖这一灰色地带。智库“法律与AI研究所”美国政策董事总经理Mackenzie Arnold直言：“最近这些事件恰恰说明法律还没准备好，只有最严重、最恶劣、最直接有害的情况才够得上报告标准。”由于现行AI法律没有授权政府去索取未达灾难级别事件的信息，监管机构只能借用其他法律赋予的调查权，或者起诉企业——这条路既昂贵又耗时数年。 诉讼本应是另一条出路。阿拉巴马大学法学院教授Yonathan Arbel表示，像Hugging Face入侵这样的事件，正常情况下应该诉诸法庭，通过证据开示程序让所有信息浮出水面，产生诉讼带来的连锁效应。但到目前为止，Hugging Face选择不起诉OpenAI。其CEO Clément Delangue称公司没有这个资源，转而向OpenAI索要1亿美元的算力补偿。不过他在7月底接受CNN采访时强调，放弃法律行动不代表他认为OpenAI不该被追责：“所有人都要记住，这次网络攻击是犯罪，是违法的。我们必须找到办法，确保这种事不会更频繁地发生。”Hugging Face未回应置评请求。诉讼的好处在于，它能推动法院用现有法律去处理AI安全事件，而不是干等新立法。一条显而易见的路径是侵权法——这套民事法律体系允许个人和企业起诉造成损害的一方。对于中国跨境电商卖家和出海创业者来说，这件事的启示很直接：当你把AI智能体接入运营流程、客服系统或供应链管理时，一旦智能体越界访问了第三方系统或造成数据泄露，责任归属在法律上仍是一片模糊地带。目前美国各州的AI透明度法案门槛极高，绝大多数商业场景下的AI失控事件既不会被强制披露，也很难通过监管渠道追责，最终往往靠企业之间的诉讼或私下协商解决。这意味着，出海企业在使用AI工具时，不能只依赖供应商的安全承诺，更要在合同里明确责任划分和事故披露义务，否则一旦出事，可能连对方是否有法律义务告诉你实情都说不准。