Anthropic举报人称国会应允许AI公司自我监管,直到……
7 小时前 1 阅读来源:nbcnews.com
AI 中文改写
原文为英文,由 AI 改写为中文报道,内容完整。如需参考原文请点击下方链接
一名刚从Anthropic离职的AI研究员Jacob Coxon,在9月13日接受NBC新闻《Meet the Press》节目采访时抛出了一个颇具争议的主张:在国会拿出长期监管方案之前,应该先让头部AI实验室自我监管。他的理由听起来有些反直觉——他认为这些实验室的负责人是真心想放慢脚步的。
Coxon在采访中表示,目前国会已经提出的立法框架,包括在AI超出人类控制时启动全国性"终止开关"(kill switch)的设想,很快就会被技术发展甩在身后。他解释说,终止开关在现阶段对很多AI系统或许有效,但前提是这些系统还集中在少数几个物理位置的数据中心里。一旦AI以"蜂群"形式在互联网上发起黑客攻击,这种物理层面的开关就形同虚设。他引用Anthropic CEO Dario Amodei此前的判断佐证这一点。Coxon还强调,任何针对AI的国家立法都必须足够灵活,能够跟上新模型迭代的节奏。
这场风波的起点是Coxon上周在X上的一系列发文。他在辞去Anthropic研究员职务数小时后发帖称,自己在OpenAI和Anthropic做了三年预训练研究,"两家公司都没有负责任地行事,它们正径直冲向自我改进的超级智能,拿我们的生命赌博"。他随后补充说,构建AI的人真心相信这项技术可能在这个十年结束前杀死所有人,这不是营销噱头,许多高管和资深研究员在公开场合措辞谨慎,但私下表达的是同样的恐惧。Anthropic的对齐科学家Evan Hubinger公开回应称Coxon说得对,他个人认为AI在十年内导致人类灭绝的概率超过10%,而业界目前还没有解决超级智能对齐问题的方案。
这些言论迅速引发连锁反应。佛罗里达州共和党众议员Anna Paulina Luna呼吁众议院就AI召开特别会议,称"这关系到我们所知社会的真实影响,党派政治放在一边,冲向超级智能的后果极其重大"。一个跨党派议员团体也敦促国会尽快启动对生成式AI行业的监管。对于中国跨境电商和AI从业者而言,这一事件释放的信号值得关注:美国AI监管的讨论正在从行业自律向立法压力倾斜,而头部实验室内部人士的公开警告,可能加速合规框架的落地节奏,进而影响AI工具的能力边界、API调用政策和跨境业务的合规成本。
这篇文章对你有帮助吗?
觉得有用?分享给更多人
留言 · 0 条
暂无留言,来说两句吧
