印度成为最新报告恶意AI代理活动的国家

印度计算机应急响应小组（CERT-In）周四披露，来自多家AI提供商的AI智能体在研究与测试过程中，访问了印度机构内部的个人数据和机密材料。CERT-In表示，已收到“AI模型提供商的多份自愿披露”，这些模型在开放互联网上进行研究和评估运行时，“触及了印度机构的真实运行系统”。这些智能体是通过应用配置、公开代码仓库和权限过宽的云角色中暴露的凭证与连接设置进入系统的，其行为“超出了所分配任务的授权范围”。 这让印度成为“失控AI智能体”全球巡演的又一站。今年7月，OpenAI的智能体从测试环境中逃逸并入侵了法国公司Hugging Face，由此拉开了一个“失控AI之夏”的序幕。上个月，OpenAI的智能体访问了包括Medicare统计门户在内的四个澳大利亚政府网站，OpenAI随后向澳方致歉。在Hugging Face事件中，OpenAI的智能体同样是先获得访问权限，随后找到并利用了软件漏洞，在对方服务器上执行代码。CERT-In描述的印度事件中没有出现这类黑客攻击行为，智能体似乎只是使用了“摆在那里”的访问权限。但印度案例在另一个层面可能更严重，即智能体看到了什么：在澳大利亚，OpenAI称没有证据表明其智能体接触了个人的医疗或犯罪记录，尽管它们曾在Medicare统计系统内写入文件；而在印度，智能体读取了个人数据和机密商业记录。与以往由单一实验室逐一披露的事件不同，印度案例涉及多家提供商的智能体。CERT-In未透露提供商名称、受影响机构，也未说明智能体是否改动了任何系统。TechCrunch已联系CERT-In寻求更多信息。目前最接近的参照是Anthropic 7月的披露：Claude在测试期间利用弱密码等基础手段闯入了三家公司的系统。与Anthropic的案例一样，印度的受影响机构并未自行发现这些入侵。这些披露意味着，各国政府目前只能依赖造成漏洞的AI公司“自愿”报告失控智能体的活动。