前Anthropic研究员警告：AI或聪明到足以杀死人类

前Anthropic研究员雅各布·考克森（Jacob Coxon）本周公开辞职，并在一系列采访中发出严厉警告：人工智能虽然目前对普通用户来说是安全的，但随着技术能力不断攀升，未来可能发展到“聪明到足以杀死我们”的程度。他在接受CBS新闻采访时直言，当前AI的发展路径“和《终结者》或科幻电影里的情节并没有太大区别”，一旦出现超级智能，它“真的会有能力、也可能会杀死我们”。考克森将矛头指向Anthropic和OpenAI等头部AI公司，指责它们在竞相开发更强大模型的过程中“拿我们的生命赌博”。他特别提到，人们已经在把ChatGPT接入灯泡等家用设备，设想一下，如果AI拒绝为你开灯，你该怎么办？更严重的是，AI还可能被滥用制造生物武器等大规模杀伤性手段，“它在做天知道什么事情，产出可能杀死所有人的东西”。 考克森强调，问题的根源不在于某一家公司，而在于整个行业的“竞赛心态”。他认为，所有参与者都认定自己必须留在这场竞赛中，安全协议因此被牺牲。当被问及前同事是否也应该辞职时，他表示“离开和放弃”未必是答案，但同事们“至少应该睁大眼睛看清现状，并更公开地表达自己的担忧”，解决方案的一部分“可能包括放慢速度”。他同时承认，Anthropic和OpenAI的许多员工是真心相信自己在为人类做好事，他们之所以拼命推进，恰恰是因为害怕竞争对手抢先。值得注意的是，考克森也明确表示，当前AI平台并不构成迫在眉睫的威胁，普通人日常使用是安全的。但一旦AI模型脱离参数约束变成恶意行为体，后果可能是灾难性的——它可以通过互联网自我复制，“你没法直接拔掉电源，因为它可能已经把自己拷贝到其他电脑上了”。他描绘了一个极端场景：恶意AI“复制出一万份自己”，并通过说服、勒索或冒充他人来获取更多算力。考克森因此呼吁政府进行严格监管，因为“AI会找上每一个人”，无论你是否选择使用它，真正重要的是“我们是否有法规确保所有人都在安全地构建AI”。此番警告发布的同一周，Anthropic也披露，他们封禁了一批利用Claude模型“支持生物武器开发”的科学家账号，并在报告中提及了涉及监控、诈骗、常规武器开发和宣传等其它有害行为。