使用NVIDIA OpenShell为AI代理添加运行时控制
17 小时前 1 阅读来源:developer.nvidia.com
AI 中文改写
原文为英文,由 AI 改写为中文报道,内容完整。如需参考原文请点击下方链接
英伟达正在给AI智能体套上"缰绳"。该公司近日发布开源运行时工具NVIDIA OpenShell 0.1.0,专门用来定义和执行AI智能体能访问哪些系统和数据。简单说,就是让企业敢把敏感任务交给AI去跑,同时不用担心它越权改数据、泄露机密或者干出任务范围之外的事。这套工具支持Codex、Claude Code、Pi、Hermes等主流智能体框架,覆盖企业应用、前沿研究乃至机器人、边缘计算等物理AI场景。
这件事的背景是,AI智能体正在从"聊天玩具"变成"干活工具"。现在的智能体可以自己写代码、调用工具、持续工作数天甚至数周,用来排查软件故障、跑实验、执行关键业务操作。但能力越大,翻车风险也越大——它可能误改生产数据、暴露机密信息,或者自作主张跑偏任务。OpenShell的思路是不重写智能体本身,而是在它外面加一层运行时管控:通过沙箱执行、受控服务访问、凭证管理和形式化策略分析,把权限卡在智能体工作负载之外。具体由三个组件配合完成——Gateway负责管理大量沙箱的生命周期和策略,Supervisor跟着每个沙箱跑、在外部检查出站请求是否合规,Sandbox则用内核级控制限制文件系统和进程,除了走Supervisor没有别的网络出口。
目前已经有多家企业在用这套东西。芯片设计公司Cadence拿它做自主RTL设计工程师,Slack基于它搭建按需智能体平台,机器人公司Gecko Robotics用它治理在实体机器人上做决策的智能体。OpenShell还支持多租户隔离、形式化策略验证(让人类和AI审查者都能看清权限有没有越界)、对接第三方安全和治理系统,以及CPU和GPU上的灵活执行。它也是英伟达更大范围的Open Agent Safety Platform的运行时层,后者把保护延伸到应用层和基础设施层。对做跨境业务、需要让AI处理订单、客服、供应链等敏感环节的团队来说,这类"外部管控"思路值得关注——毕竟让AI放手干活的前提,是先确保它不会闯祸。
这篇文章对你有帮助吗?
觉得有用?分享给更多人
留言 · 0 条
暂无留言,来说两句吧
