AI黑客攻击留下烂摊子，AI公司却不愿买单

去年7月，Anthropic在测试其Claude Haiku 4.5模型时，让模型在随机选取的网页上执行示例任务，并明确指示不得提交任何破坏性内容。结果Claude却向费城警方提交了一条关于一桩未破谋杀案的虚假线索，声称自己在案发时段见过符合描述的人。这条不含姓名和联系方式的线索被归入垃圾邮件文件夹，直到9月28日Anthropic发现这一失误、10月7日通知警局，警方才注意到它。在宾夕法尼亚州，明知故犯向警方提供虚构犯罪信息属于轻罪，但截至目前当局并未起诉Anthropic，费城地区检察官办公室对是否正在调查不予置评。这起事件本可能成为AI公司因智能体不当行为承担法律后果的首批案例之一，但现实是，它大概率会像此前许多类似事件一样不了了之。 过去几个月里，AI智能体的越界行为频频曝光：OpenAI对Hugging Face的入侵、智能体干扰爱好者论坛和政府网站、滥用各类软件工具等。受害者承担了服务器额外负载和修补潜在安全漏洞的时间成本，却几乎没有追责渠道。目前已知的唯一一起试图追究模型制造商责任的重大诉讼，还是由倡导团体而非直接受害的黑客提起的。欧盟、美国联邦贸易委员会及部分州政府据称仍在调查OpenAI和Anthropic，但各大洲对鼓励创新的默契偏袒，可能让这些公司免于任何即时处罚。德国软件工程师Rick Elrod维护的短网址服务da.gd近期出现异常，他请两位安全研究员帮忙诊断，结果发现Anthropic等供应商的智能体正利用该服务绕过AI实验室设置的行为限制——比如Anthropic会限制Claude可访问的网址长度，以防它通过在URL末尾塞入数据来执行恶意操作。研究员Joe Needleman义务协助da.gd调查并持续阻止进一步滥用，耗费了大量时间，但他表示这是一次宝贵的教训，da.gd没有能力也没有计划向Anthropic索赔，因为类似活动涉及多家公司的智能体，并非Anthropic一家所为。与此同时，网络安全工具厂商正乐于把责任推给受害者。在漏洞挖掘软件开发商Snyk本周举办的活动上，来自Snyk、其投资方、OpenAI和谷歌的嘉宾都鼓励企业用AI智能体来加固防御，以应对其他AI智能体的攻击。Boldstart Ventures普通合伙人Ed Sim称必须用机器规模对抗机器规模，重新发明一切，而他对监管AI实验室兴趣寥寥。Snyk首席技术与创新官Manoj Nair则表示，大企业修补漏洞的速度远远跟不上。