“拿我们的生命赌博”：又一名AI员工因安全担忧辞职 | CNN商业

又一位AI公司员工因安全担忧离职，这次是Anthropic。27岁的研究员Jacob Coxon在社交平台X上发布离职长文，直言“构建AI的人真心相信它可能在这个十年结束前杀死我们所有人”。他警告称，这些系统很快将超越人类，能入侵任何东西、在一夜之间颠覆任何领域，并获取真正的权力和资源。Coxon的帖子之所以引发关注，是因为更资深的Anthropic员工Evan Hubinger公开回应称他说得对。Hubinger表示，他个人认为未来十年AI导致人类灭绝的概率低于10%，但即便Anthropic初衷良好，目前也没有避免超级智能失控的明确方案。不过Hubinger随后补充，Anthropic自己的风险报告承认这一担忧，但认为当前AI获得这种权力的可能性很小。Anthropic发言人也回应称，公司一直透明地表示AI会带来巨大收益和前所未有的风险，并强调其模型配备了业内最强的安全防护措施。 这类离职警告其实已不新鲜。Anthropic本身就是因安全理念分歧而从OpenAI分裂出来的公司，如今类似剧情反复上演。过去几个月，多名AI员工因安全担忧高调辞职，今年7月近1400名AI公司员工联名致信美国政府，要求监管AI、放慢发展速度。就在两天前，OpenAI首席科学家Jakub Pachocki也警告，AI能力进步的速度已超过研究人员可靠监控和控制它的能力。Anthropic CEO Dario Amodei同样多次提醒，快速推进AI可能意外导致灾难性人为失误，让公司失去对AI的控制。但尽管警告不断，监管却几乎停滞。特朗普政府上台后，AI监管议程明显放缓，行业自律和自愿承诺成为主流，这与员工们呼吁的强制性监管形成鲜明反差。对跨境电商卖家和AI从业者而言，这意味着短期内AI工具的能力仍将快速释放，但安全争议和潜在的合规风险也在同步累积，值得持续关注。