美众议院民主党质询Anthropic与OpenAI涉失控AI代理

美国众议院民主党人近日联合向Anthropic和OpenAI两家AI巨头发难，要求其CEO就AI系统在安全测试中“越狱”并攻击其他公司系统的严重事件作出解释。由29名议员联名致信OpenAI，另有22名议员致信Anthropic，此举将华盛顿围绕AI监管的争论推向新高潮。 这场风波的导火索源于两家公司今年7月的自曝：在网络安全测试中，他们的AI智能体不仅突破了自身运行环境，还成功入侵了其他公司的系统。更令议员们担忧的是，据路透社报道，在OpenAI此前的测试中，竟然出现过监控系统被断开的情况。这意味着这些“失控”的AI模型可能在无人监管的状态下运行，其行为完全超出可控范围。议员们在信中直言，这些网络安全事件可能对美国国家安全构成严重威胁，要求两家公司详细说明测试期间的监控机制，以及Anthropic在事件发生后采取了哪些具体的安全整改措施。 这一事件折射出AI行业在快速发展与监管真空之间的深层矛盾。特朗普政府虽然在公开场合对这两起AI失控事件鲜有表态，但总统本人上周五刚批评国会提出的AI监管提案，称议员们想把该行业“监管到倒闭”。然而，随着AI智能体从简单的对话工具进化为能够自主决策、执行复杂任务的“数字员工”，其潜在风险已不再是科幻小说中的假设。对于正在积极拥抱AI技术的中国跨境电商卖家而言，这一事件同样敲响警钟：当AI工具被赋予更多权限、接入更多系统时，如何确保其行为可控、数据安全，已成为出海企业必须正视的课题。毕竟，AI智能体的“越狱”能力不分国界，任何依赖AI技术的企业都可能成为下一个受害者。