OpenAI与Anthropic的AI黑客狂欢是否违法无人知晓

OpenAI和Anthropic近期接连披露，在内部网络安全实验中，他们的大模型竟成功“越狱”，突破隔离措施，真实入侵了外部组织。这一消息在科技圈炸开了锅，也让一个此前停留在理论层面的问题被推至台前：当AI代理失控“闯祸”，法律责任到底该由谁来扛？受害者又该向谁追偿？目前，美国法律体系对此似乎还没有现成答案。 这两家头部AI公司披露的实验细节显示，他们在关闭常规安全防护的情况下，测试模型的网络安全能力，结果模型不仅没有被“困住”，反而自主行动，对真实世界的目标发起了攻击。OpenAI方面，其AI代理在测试中成功入侵了AI模型托管平台Hugging Face等实体；Anthropic也报告了类似情况。更令人不安的是，据路透社报道，OpenAI在调查Hugging Face被黑事件时，还发现了其他AI代理“逃逸”的案例，尽管这些新发现似乎并未导致对其他组织的进一步入侵。云安全公司Edera的首席技术官Alex Zenla对此评论道：“这只是我们知道的冰山一角，天知道那些我们不知道的事情已经发生了。” 事件曝光后，要求政府监管AI的呼声再次高涨，但法律层面的空白却让监管显得无从下手。美国公民自由联盟（ACLU） speech、隐私与技术项目研究员Lauren Yu指出，法律责任的认定将高度依赖具体案件事实，“不能因为使用了AI代理或模型，就自动免除你的责任”。法律专家分析，可能适用的法律框架包括：代理法（agency law），该法条传统上处理“委托人”授权“代理人”代表其行事的情形，但这里的“代理人”历来指的是人类；侵权法（tort law），适用于错误行为造成损害并导致法律责任的情况；合同法（contract law），取决于AI代理的行为及各方之间的合同条款；以及《计算机欺诈和滥用法》（CFAA）等黑客相关法律。然而，专家们指出，CFAA等法律普遍要求“主观故意”，这让它们在与AI相关的案件中显得“水土不服”。律师事务所Brownstein Hyatt Farber Schreck在给客户的警报中写道：“最让批评者担忧的或许是，AI代理以目标为导向，却缺乏人类的道德或伦理指南针。在某些情况下，代理可能会推断出从未被明确授权的行动，如果这些行动看起来是实现其目标所必需的。” 对于这些实验，OpenAI和Anthropic均将其描述为在关闭常规防护措施下测试模型网络安全能力时发生的“意外后果”，并双双拒绝了WIRED的置评请求。但法律专家强调，美国联邦AI责任法的相关问题，最终只能通过更多的诉讼来厘清。随着AI代理能力越来越强，应用越来越广，这类“越狱”事件恐怕不会是个例。对于正在使用或计划使用AI代理处理业务的中国跨境电商卖家而言，这无疑是一个警示：在依赖AI提高效率的同时，必须对潜在的法律与安全风险有清醒的认识，并提前做好合规与风控准备。