亚马逊Bedrock上Anthropic Claude模型的结构化输出 | 人工智能
5 小时前 1 阅读来源:aws.amazon.com
AI 中文改写
原文为英文,由 AI 改写为中文报道,内容完整。如需参考原文请点击下方链接
亚马逊云科技(AWS)近日宣布,Amazon Bedrock 平台上的所有 Anthropic Claude 模型现已支持结构化输出(Structured Outputs),覆盖 bedrock-runtime 和 bedrock-mantle 两个端点。开发者无论通过 Boto3 调用 bedrock-runtime API,还是通过 Messages API 调用 bedrock-mantle 端点,都能直接拿到符合预设 JSON Schema 的响应,不再需要自己写解析代码、重试逻辑或后处理流程。这意味着调用 Claude 做数据抽取、报告生成、API 返回等任务时,输出格式从"概率性"变成了"确定性"。
这次更新的核心在于约束解码(constrained decoding)技术:模型在生成每一个 token 时就被强制遵守 JSON Schema,而不是先生成完再校验。配套提供两个机制,一是 JSON Schema 输出格式,用于控制响应结构,适合数据抽取、报告生成、API 响应等场景;二是严格工具调用(Strict tool use),用于校验工具参数是否符合 schema,适合智能体工作流、函数调用和多步自动化。对开发者来说,最直接的好处是每条响应都是合法 JSON,不会再遇到 JSON.parse() 报错,字段类型和必填项都被强制执行,因 schema 违规导致的重试也随之消失。由于输出被限制在 schema 定义的字段内,token 消耗减少,高频调用场景下的推理成本也能降下来。
实际应用场景相当广泛:从财报和合规文档中抽取全部必填字段、把临床笔记解析进电子健康记录(EHR)系统、为商品目录做一致性校验后的数据补充、分析合同中的关键条款与义务方,以及支撑工单智能路由——让意图、情绪、实体始终匹配应用的数据模型。该功能还支持批量推理,可异步处理大批量请求;在 bedrock-runtime 端点上支持跨区域推理,无需额外配置即可跨 AWS 区域使用;需要实时响应时,结构化结果还能以类型化事件的形式流式返回。
使用流程上,Bedrock 会先校验 JSON Schema 是否符合支持的 Draft 2020-12 子集,然后为新 schema 编译语法工件,首次请求可能稍慢;编译后的语法会缓存 24 小时,后续请求开销极小。缓存按账户隔离,修改 schema 结构会使缓存失效并触发重新编译,但只改名称或描述字段则不影响缓存。对跨境电商卖家和出海团队而言,这项能力尤其适合商品信息标准化、多语言 listing 批量生成、评论与客服工单的自动分类等需要稳定数据结构的环节,可以减少自建校验层的维护成本。
这篇文章对你有帮助吗?
觉得有用?分享给更多人
留言 · 0 条
暂无留言,来说两句吧
