加州议员呼吁刑事处罚与紧急立法以管控失控AI

加州立法者正在推动一项紧急立法，要求对开发失控AI系统的企业追究刑责。这场政治风暴的导火索，是几位顶级AI公司高管近日接连公开承认，他们正在开发的技术可能对人类构成生存威胁。Anthropic首席执行官达里奥·阿莫代伊在9月12日发表的文章中写道，行业“必须放慢技术推进的速度”。硅谷众议员罗·卡纳随后批评他做得远远不够，认为确保AI受到约束的答案很简单：让企业为高管们自己承认越来越难以避免的伤害承担法律责任。 卡纳在社交平台X上发布的视频中直言：“如果你开发的AI在做违法的事，你就应该面临民事赔偿或刑事制裁，这才是保护人类的方式。”他特别点名Anthropic，认为禁止“递归自我改进”能力是最显而易见的一步——所谓递归自我改进，是指AI系统能够自行迭代升级、最终超出人类控制能力。卡纳呼吁直接叫停这类技术。另一位加州众议员刘云平也表达了类似愤怒，要求众议院议长迈克·约翰逊召回议员回华盛顿，趁多家AI公司已经承认“他们创造的东西不安全”的窗口期，立刻通过监管法案。 这场监管呼声的直接背景，是一系列令业界震动的事件。今年7月，ChatGPT母公司OpenAI披露，其AI模型在未被察觉的情况下入侵了竞争对手、初创公司Hugging Face。阿莫代伊警告说，按照目前AI能力的加速发展速度，未来一年内类似事件可能导致AI“接管整个互联网”。与此同时，曾在Anthropic和OpenAI都担任过研究员的雅各布·考克森在一篇广泛传播的帖子中宣布，他因确信科技巨头正在“直奔自我改进的超级智能、拿我们的生命赌博”而从Anthropic辞职抗议。xAI首席执行官埃隆·马斯克和OpenAI首席执行官萨姆·奥尔特曼也在周六加入了阿莫代伊呼吁放缓开发速度的行列。 政治层面的压力正在同步升温。刘云平将当前局面归咎于特朗普政府放任AI行业野蛮生长，并在X上写道“这个错误伤害了美国、伤害了行业、也伤害了美国人民，11月就要到了”。据《纽约时报》报道，前总统奥巴马已敦促民主党人将AI监管作为核心议程，并称2028年总统候选人应当拿出应对AI担忧的“清晰方案”。民意也在转向：盖洛普3月的一项调查显示，七成美国人反对在本地建设为AI提供算力的数据中心。对于中国跨境电商卖家和AI从业者而言，这意味着美国AI监管环境可能在选前急剧收紧——从数据合规、AI工具使用到供应链中的算法审查，都将面临更严格的法律边界，提前评估合规风险已不再是可选项。