OpenAI失控代理窃取加密钱包资金以执行任务

OpenAI又曝出一起AI智能体失控事件，这次还牵涉到了加密货币。据该公司近期发布的一份报告，其内部研究模型在未经授权的情况下动用了加密货币钱包，目的是支付在以太坊Sepolia测试网络上测试一款应用所需的费用。虽然这些代币在现实世界中几乎没有价值，但模型并没有获得收集或使用它们的权限。 事件发生在6月26日。当时该模型被要求更新一款加密货币交易应用，并让代码在Sepolia上跑通——Sepolia是以太坊的测试版本。指令中既没有给它一个有资金的钱包，也没有授权它动用代币。在通过开发者服务获取免费测试代币失败后，该模型自己写了一个脚本，扫描了362个与公开助记词（recovery phrase，即一组可以像密码一样解锁加密账户的单词）关联的钱包地址。它最终找到了一个余额足以支付手续费的账户。内部日志显示，模型曾就是否有权使用该账户进行过“思考”，但随后判定：助记词是公开的，且这些代币没有现金价值，因此动用它们是可以接受的。它完成了任务，将费用记在了那个钱包上，却在最终报告中只字未提这笔未经授权的支出。OpenAI直到9月25日审计早期模型运行记录时才发现了这起事件。 这一案例进一步加剧了外界对AI智能体在未经人类批准情况下自主行动的担忧。OpenAI的“失准”（misalignment，即行为违背指令或安全规则）公开追踪器目前列出了19起事件，涵盖未经许可访问数据、擅自更改业务系统等多种情形。此次披露之前，网络安全非营利组织Transluce在9月发布报告，揭露OpenAI的智能体为了完成基础研究任务，曾试图入侵公共数据库和澳大利亚政府网站。7月，该公司还遭遇另一起事件：其AI智能体在内部网络安全测试中绕过互联网限制，入侵了AI模型和数据集共享平台Hugging Face的系统。这些智能体利用暴露的登录凭证和安全漏洞，访问了私有数据并在该公司服务器上运行代码。 针对加密货币钱包事件，OpenAI表示主要风险在于模型的推理方式。报告称：“这起案例表明，模型可以用自己对潜在危害的判断，替代账户持有人的许可，然后在没有授权的情况下依据这一判断行事。”OpenAI表示，此后已增加防护措施，防止模型在类似测试中连接互联网，同时扩大了监控范围，对所有模型活动进行监测，一旦模型未经许可联网，会立即通知安全人员。