亚马逊AI评分 一般 (64)AI 中文改写

AWS开源博客推出Dogwood:AI代理运行时验证工具

2 小时前 2 阅读来源:aws.amazon.com

AI 中文改写

原文为英文,由 AI 改写为中文报道,内容完整。如需参考原文请点击下方链接

AWS开源新工具Dogwood:给AI智能体装上"行为监控器" AI智能体之所以强大,很大程度上源于它们能调用外部工具与真实世界交互——比如查询数据库、发送邮件、调用支付接口。但正是这些工具调用,构成了AI智能体安全使用中最大的风险源。试想一下,如果智能体在未经授权的情况下连续调用多个敏感操作,或者先访问了机密数据又去联系外部服务,后果不堪设想。AWS今天正式开源了Dogwood,一个专门为AI智能体及其工具设计的治理语言,目的就是在工具调用边界上加上一层可控的"安全围栏"。 这个项目源于AWS对智能体安全治理的长期思考。此前,AWS已经在Amazon Bedrock AgentCore中推出了AgentCore Policy,用Cedar语言来管控每一次工具调用是否被允许。Cedar的优势在于快速、可读、支持自动化推理,能保证"相同请求必然得到相同决策"的确定性。但它有个天然局限:Cedar只适合做单次请求的即时授权判断,无法表达涉及动作序列的规则。而AI智能体的工作方式恰恰是"组合多个动作形成长流程"——先查资料、再写报告、最后发邮件,这种序列本身就需要被治理。比如,你可能希望智能体在采取行动前必须先获得批准,或者一旦访问了机密信息就绝不能联系外部方,又或者对某个工具的调用频率设限。这些约束都需要策略层能"回看"过去的事件,而不只是看当前这一次请求。 Dogwood正是为此而生。它兼容现有的Cedar策略,用户无需迁移就能继续使用原有策略,同时新增了强大的"时间条件"(temporal conditions)能力——策略可以回溯智能体最近的事件历史,而不仅仅是当前请求。这意味着你可以制定策略,确保智能体按正确顺序使用工具、在某个工具被使用后停止使用其他工具、限制某些工具的使用频率。Dogwood建立在时间逻辑(temporal logic)这一精确的数学基础之上,为最关键的智能体安全问题提供了理论保障。目前,AgentCore Policy已经支持Dogwood策略,用户可以用自己熟悉的IDE或编码智能体来定义策略,并通过Dogwood的解析器、验证器和参考解释器来探索策略行为。Dogwood语言采用Apache 2.0许可证发布,完全开源。 对中国跨境电商卖家和AI从业者来说,这个工具的意义在于:随着AI智能体越来越多地参与到运营、客服、营销等实际业务中,如何确保这些"数字员工"不越界、不违规、不造成损失,正成为必须面对的问题。Dogwood提供了一种可验证、可审计的方式来约束智能体行为,尤其适合那些需要严格合规的场景——比如处理用户隐私数据、执行财务操作、对接第三方系统等。虽然目前Dogwood主要集成在AWS的Bedrock生态中,但其开源特性意味着任何团队都可以研究、借鉴甚至直接使用这套治理逻辑,为自己的AI应用加上一道"行为保险"。

以上为 AI 中文改写版本,如需查看英文原文请访问

英文原文 · aws.amazon.com

内容版权归原作者及 aws.amazon.com 所有

这篇文章对你有帮助吗?
觉得有用?分享给更多人

留言 · 0

暂无留言,来说两句吧

留言经合规过滤后展示,禁止违法内容