研究人员称人工智能末日场景或危及人类

过去几年，人工智能研究者一直在警告这项技术可能以多种方式终结人类：AI机器人可能设计出无法阻挡的疾病、引发核战争，或者像某个思想实验所描述的那样，把整个地球变成回形针工厂。随着多位企业高管以安全为由公开支持放缓技术开发速度，AI行业内外围绕这些末日场景是否可信的争论正在升温。尽管有人警告人类可能失去对技术的控制，但也有不少人怀疑，AI公司自己描绘的那些最坏情况，与其说是现实威胁，不如说是为了证明自身工作的重要性。 网络安全公司SentinelOne的研究员、OpenAI前沿风险委员会成员胡安·安德烈斯·格雷罗-萨德就直言，这些论点站不住脚。他认为这些说法属于科幻范畴，迎合的是某种幼稚的思维方式，而前沿实验室之所以热衷于渲染它们，是因为这有助于招募特定类型的人才。不过，随着AI展现出令人惊叹的能力，越来越多的人开始真正担忧其风险。Anthropic研究员雅各布·考克森因担心公司及竞争对手在AI开发中不够负责任而辞职，他最近在X上表示，自己需要更好地向公众解释AI究竟会如何终结人类，但坦承“具体场景很难传达清楚”。 在众多讨论中，核战争是最常被提及的末日路径之一。研究者长期推测，AI系统可能诱导各国互相发射核弹头导弹，核爆炸及其后持续的放射性大气沉降将引发“核冬天”，对地球生命造成毁灭性打击。不过，兰德公司去年的报告认为，由于指挥控制系统中设有严格保障措施，“目前”AI还无法导致核武器被使用。但报告也指出，一旦AI模型被整合进核武器“决策链”，或未经授权侵入这些系统，情况就可能改变。对许多AI研究者来说，危险恰恰在这里——不是AI突然决定消灭人类，而是人、国家或组织利用AI来消灭对手。 另一个令人不安的方向是生物安全。AI最大的前景之一是帮助人类开发疾病疗法和治愈手段，但反过来，它也可能被用来制造或增强危害人类的病原体。本月早些时候，Anthropic表示已阻止恶意行为者利用其AI进行网络攻击、监控以及可能导致生物武器研究的一系列活动。其中一例是，其系统拦截了通过Claude工具提出的协助请求，该请求涉及一项研究提案，试图增强突变，使蚊媒传播的基孔肯雅病毒逐步变得更具危害性。Anthropic指出，这类研究虽然可用于开发更好的疫苗和治疗方法，但“也可能被用来让病原体更加危险”。兰德公司的报告同样提到，AI在相关领域的近期进展值得警惕。