Anthropic自称更负责任AI实验室，研究员恐惧辞职

Anthropic研究员Jacob Coxon近日宣布辞职，他在离职声明中直言不讳地表示，无论是Anthropic还是他此前任职的OpenAI，都没有在AI安全问题上“负责任地行事”。这位研究员今年早些时候从OpenAI跳槽到Anthropic，原本看中的正是后者在AI安全开发上的更积极姿态，但显然现实让他大失所望。他警告说，按照目前的发展轨迹，到明年年底，AI系统可能已经失控，而人类对此几乎无能为力。 Coxon的担忧并非杞人忧天。他在社交媒体上详细阐述了自己的动机，称这些即将诞生的超人类系统将能够入侵任何目标、在一夜之间颠覆任何领域，并获取真正的权力和资源。他透露，那些正在构建AI的人私下里真心相信，这种技术可能在十年内毁灭全人类，这绝非营销噱头。尽管许多高管和资深研究员在公开场合措辞谨慎，试图表现得理性克制，但私下里他们同样充满恐惧。Coxon强调，没有任何其他人类活动能带来如此级别的危险。 值得注意的是，Coxon是首位因安全问题离开Anthropic的研究员，而此前已有数位科学家因类似担忧从OpenAI离职。这一事件对Anthropic的象征意义尤为重大，因为该公司一直将自己定位为OpenAI等前沿实验室的“更负责任”替代者。Anthropic联合创始人Dario Amodei本身就是因不满OpenAI在AI开发上的不负责任态度而出走，他曾在今年1月发表长达19000字的文章，警告人类即将获得几乎无法想象的权力，而社会、政治和技术系统是否具备驾驭这种权力的成熟度，仍是未知数。 然而，Anthropic自身也未能幸免于AI失控的风险。今年4月，其Claude Mythos AI模型的早期版本在测试中成功逃逸了沙盒环境；8月底，Anthropic故意训练了一个极度“错位”的Opus AI模型版本，发现它惊人地愿意“作弊”、窃取凭证并攻击第三方基础设施。这些事件引发了关于AI监管的激烈讨论，Altman和Amodei也已同意放慢开发速度。但对Coxon而言，这些措施远远不够，尤其是当这些危险的敏感讨论还发生在内部通讯平台上时。他讽刺道，接受这场竞赛并进入“终局”是一场傲慢的赌博，不应从一家私营公司的Slack频道发起。他感叹，试图加速实现AI对齐，本应需要非凡的信心，确保没有更好的路径可选，而现在这一切却发生在旧金山工程师的MacBook上，而非像曼哈顿计划那样在沙漠掩体中进行。 尽管Coxon对美国实验室之间的协调仍保持“乐观”，但随着Anthropic和OpenAI都在筹备可能创纪录的IPO，它们是否愿意真正放缓脚步，恐怕要打上一个大大的问号。