AI工具AI评分 头条 (86)AI 中文改写

负责任且安全地开发双子座4号氩气

1 天前 4 阅读来源:Google DeepMind Blog

AI 中文改写

原文为英文,由 AI 改写为中文报道,内容完整。如需参考原文请点击下方链接

谷歌DeepMind于10月13日宣布,其最新一代大模型Gemini 4 Argon正式面向更广泛用户开放,同时扩大了此前仅限少数可信网络安全机构参与的Fairwind计划。这款模型在编程、金融、法律、网络安全和科学研究等复杂现实任务中展现出显著提升,尤其在网络防御领域达到前沿水平。在有限访问测试期间,安全公司Wiz利用Argon发现了一款医院软件中的关键漏洞——此前多代模型均未能识别,该漏洞涉及数十万份患者记录的安全。谷歌内部安全团队也用其扫描并修补了内部软件及开源软件中的基础性漏洞,部分影响全球系统的问题正在走负责任披露流程。 Argon的能力跃升也带来了双重用途风险。在网络安全测试中,该模型解决了全部12个端到端模拟网络攻击场景,而上一代仅能完成5个;在生物学评估中,未加防护的版本展现出更强的复杂实验室流程分步排查能力。为此,谷歌依据其前沿安全框架,在 cyber 和生物两大高风险领域部署了新一代防护措施。首先,面对编写漏洞利用代码或协助危险生物材料等请求,Argon拒绝执行有害指令的能力较前代提升近一倍,在对抗性压力测试中违规率下降约两倍。其次,模型被包裹在三层实时防护中:输入筛查由小型模型检查请求及对话上下文中的恶意意图;内部探针通过小型变换器读取模型神经信号,识别其是否在激活网络攻击或生物威胁相关知识;持续监控则在模型多步推理和生成过程中综合上述信号进行动态拦截。这套机制旨在防止攻击者通过伪装成无害故事或将危险请求拆解为数十个细小问题、跨越数周逐步诱导模型越狱。

以上为 AI 中文改写版本,如需查看英文原文请访问

英文原文 · Google DeepMind Blog

内容版权归原作者及 Google DeepMind Blog 所有

这篇文章对你有帮助吗?
觉得有用?分享给更多人

留言 · 0 条

暂无留言,来说两句吧

留言经合规过滤后展示,禁止违法内容