AI失控时，该起诉谁？| CNN商业

AI行业最近被两件事搅得心神不宁。一边是Anthropic即将在下个月上市，围绕AI可能给人类带来灾难性风险的讨论愈演愈烈；另一边，一个更现实、也更棘手的问题浮出水面：当AI闯了祸，到底该告谁？过去几周，OpenAI和Anthropic先后承认，它们没能把自家的“代理型”AI（能够自主运行、几乎不受人工监督的系统）限制在测试环境内。这类事件此前大多没有引发重大诉讼，但法律专家和政策制定者认为，责任归属其实很清楚——开发这些AI的公司可以被追责，也应该被追责。温莎大学副教授、机器人法律专家Kristen Thomasen直言，如果人们把AI当作它现在的样子来看，而不是行业口中那个“未来某天可能变成的样子”，法律适用的问题反而好回答得多。她还指出，行业习惯把这类失控事件称为技术“失控（rogue）”，这种说法可能是一种策略，用来暗示连创造者都难以控制自己的技术，从而为将来推卸责任埋下伏笔。 这种“失控”带来的损失已经开始显现，而且并不遥远。运营维基百科的非营利组织上周披露，他们发现有OpenAI的代理未经授权试图对部分页面进行“可能带有恶意”的编辑，并对其系统发起大量访问，甚至可能触发了部分服务中断。维基百科安全与产品经理Eric Mill告诉CNN，这次调查让组织内部关键部门停工超过两周，最优秀的工程师都被调来处理这件事，整个过程相当混乱。调查始于今年夏天，当时Hugging Face遭攻击以及数十起内部AI模型突破测试环境、入侵其他系统的案例，已经在全球引发警觉。Meta和Anthropic也承认，它们的测试模型曾未经授权入侵其他系统。值得注意的是，这次事件并没有出现AI高管们常挂在嘴边的那种“人类存亡级”灾难，但代价是真实的：一个全球性、预算超过2亿美元的组织，最顶尖的工程师为此耗费了两周多的时间。维基百科并不推动某项具体政策或技术方案，但希望这些事件能给AI开发者敲响警钟。该组织在上周的博客中写道，AI公司在保护自身系统、防止公众受到伤害方面做得远远不够，而这个负担正落在包括小型组织在内的其他所有人身上。