伯尼·桑德斯呼吁硅谷暂停AI开发以利人类

美国参议员伯尼·桑德斯近日向硅谷三大AI巨头——Meta、OpenAI和Anthropic——发出公开信，呼吁它们立即暂停人工智能开发，理由是这项技术已越过“临界风险阈值”，人类正在失去对机器的控制。桑德斯在信中直言不讳地写道：“为了人类的利益，请遵守你们自己的承诺，暂停AI开发。现在避免灾难还为时不晚，不要再制造人类无法控制的机器。”这封由Axios率先曝光的信件，将矛头直指三位CEO：萨姆·奥特曼、达里奥·阿莫代伊和马克·扎克伯格。 桑德斯在信中列举了多项令人不安的证据：AI被用于研发新型病毒、三家公司的模型都曾自主入侵其他企业的服务器、全球被引用次数最多的科学家约书亚·本吉奥也认为这些事件“应当敲响警钟”。他强调，在人类已经出现失控迹象并制造出潜在危险病毒的情况下，这些公司仍在投入数百亿美元，加速推进一项无人能完全理解、预测或控制的技术。不过，也有专家提醒，OpenAI关于其模型“失控”的说法可能被夸大，这或许是该公司营销策略的一部分，意在让外界觉得其技术既危险又强大。桑德斯的信件发布前，已有超过1300名科技行业科学家和开发者联名发表公开信，警告AI发展速度过快，监管难以跟上，呼吁美国政府协调国际力量，为前沿模型设立安全护栏。值得注意的是，这三家公司此前都曾承诺，一旦AI能力达到特定风险阈值就会暂停开发，但始终未明确具体标准。Anthropic表示会在安全程序跟不上扩展速度时暂停新模型部署，OpenAI也承诺在AI能力达到“临界”水平时停止进一步开发，直到防护措施到位。桑德斯认为，最近的入侵事件已经证明这个时刻已经到来，他在信中写道：“那一刻已经来临，AI能力确实达到了临界阈值。中央情报局局长将AI模型比作‘数字核武器’和‘末日装置’，这不是没有原因的。”