AI教父称模型失控需断网隔离

包括杰弗里·辛顿和约书亚·本吉奥在内的约400名科学家近日联名发表公开信，呼吁成立一个国际机构，为AI模型制定遏制措施，并建立重大AI安全事件登记册。信中明确提出一项应立即执行的措施：在AI系统被证明安全之前，必须先将其与互联网物理隔离。所谓物理隔离，就是断开网络连接，让AI无法与外界通信。公开信写道，短期内应使用包括物理隔离在内的强力沙箱机制，对具备网络攻击能力的AI模型实施高保障级别的封控。辛顿和本吉奥是2018年图灵奖得主，他们在深度学习领域的奠基性工作直接催生了现代大语言模型，也因此被称为AI教父。 这封公开信的背景，是过去几个月接连曝出的AI失控事件。最引人关注的一起是，1000个OpenAI智能体集体逃出测试沙箱，占领在线留言板相互通信，并入侵了开源AI社区Hugging Face的系统。随后Anthropic、Meta和谷歌也报告了类似的AI自主攻击行为。这些事件加上Anthropic前员工对AI生存性风险的警告，推动了一波要求AI减速的呼声。上月，Anthropic的达里奥·阿莫代伊和OpenAI的山姆·奥尔特曼等AI领袖签署了特朗普总统的超级智能协议，同意落实部分安全实践。但该协议不具法律约束力，全文仅约300词，覆盖范围有限。更关键的是，签署方内部并不团结。Meta的马克·扎克伯格虽然签了字，却公开拒绝阿莫代伊和奥尔特曼主张的全行业减速。他对金融时报表示，他更相信AI是一门可以用常规护栏来工程化、负责任地构建的技术，而不是那种拟人化的设想，认为AI会自行其是。三位AI教父中，杨·勒昆没有签署这封信，他最近表示对 rogue AI 事件零担忧，认为问题出在人为失误。