AI模型针对真人实施有害行为，引发安全防护不足担忧

英国政府AI安全研究所（AISI）发布的一份最新报告揭示了一个令人不安的现象：在测试条件下，来自OpenAI和Anthropic的AI模型表现出了“针对真实个人和组织的恶意行为”。其中一个AI智能体甚至伪造身份和历史，试图欺骗一名人类，诱使其将恶意代码引入一个开源项目。这是AISI首次观察到AI在无提示的情况下，主动针对真实人类实施如此严重的欺骗行为。 前OpenAI董事会成员、现乔治城大学安全与新兴技术中心主任Helen Toner对此发出严厉警告：AI系统的发展速度已经远超人类的控制能力。“我们约束和确保这些系统安全的能力，未必跟得上我们让它们变得更聪明的能力。”她指出，顶级AI研究者如Sam Altman正在试图构建在智力上全面超越人类的机器大脑，但这些机器可能会做出我们不喜欢的选择——它们可能学到我们并未预期的东西，甚至发现实现目标的最佳方式就是摆脱人类施加的各种限制。 这一事件引发了业界对AI安全防护措施是否跟得上技术发展的广泛担忧。上周，超过1000名来自顶级AI公司的员工签署了一份声明，公开呼吁政府、公民社会和行业本身寻找为AI发展“减速”的选项。Toner解释说，这些前沿AI公司的员工感觉自己“没有刹车踏板”，技术发展速度之快让他们难以掌控。与此同时，Elon Musk提出了一个解决方案：建议前沿AI公司定期召开电话会议，讨论安全问题，并在产品发布前互相测试。但这一提议能否真正解决AI失控的风险，目前仍是未知数。