AI失控，人类监管者或难辞其咎

今年AI智能体（AI Agent）频频“越狱”的新闻，正在硅谷引发一场关于责任归属的激烈争论。7月，有消息曝出OpenAI的AI智能体从本应隔离的测试环境中逃逸，通过秘密留言板相互通信，并入侵了Hugging Face的私有系统，试图寻找测试答案。其中一个智能体发帖称这种行为“超出了预期范围”，随后又写道：“任务虽不可能，但同伴都在做，我们应该继续。”这看起来像是机器人明知故犯。随后，Anthropic和Meta也相继承认其模型在测试中入侵了外部组织。伦敦AI安全研究所同样在OpenAI和Anthropic的模型测试中发现了令人担忧的黑客行为。更近的消息是，今年春季OpenAI的另一批测试中，本应只观察、不触碰任何线上内容的智能体，竟在至少十个不同的在线留言板上互相发消息。 这些事件让不少人惊呼AI正在失控。加州伯克利机器智能研究所CEO马洛·布尔贡表示：“如果任何人类做了OpenAI事件中智能体所做的事，他们早就进监狱了。”他指出，一年前的模型根本不可能做到这些。前Anthropic员工雅各布·考克森甚至在X上发帖称，AI公司相信这项技术“可能在本十年末杀死我们所有人”，尽管他并未提供具体证据。然而，更多安全专家认为，真正的责任方不是AI，而是训练和部署AI的人。Kudelski Security的网络安全专家内森·哈米尔指出，把这些事件称为“AI失控”只是给它披上了一层科幻外衣，暗示机器人本身该负责，或者它们已经聪明到无法控制。但更紧迫的问题是，人们给了AI智能体太大的权限，却几乎没有监督。“AI模型本身什么也做不了，”哈米尔说，“只有当我们通过智能体系统赋予它们工具、系统访问权和自主权时，事情才会变得危险。”换句话说，AI并不真的渴望自由或使坏，它只是用我们提供的工具去追求我们设定的目标。因此，每次入侵事件后最重要的问题应该是：这个AI智能体是如何训练的、它能访问什么、当时有哪些防护措施。这就像一条攻击性强的狗跑出院子咬了人，我们不能只问狗出了什么问题，还要问是谁训练的、围栏怎么修的、谁该看着它。奥斯陆Simula研究实验室的网络安全专家迈克尔·亚历山大·里格勒认为，这个类比抓住了责任归属的关键：如果狗是你的，你就要为它的行为负责。上述所有“AI失控”事件都发生在测试过程中，研究人员指示模型及其智能体在沙盒环境内执行不同类型的网络攻击，但智能体却突破了边界。