我们分享构建更安全、更有益的健康AI框架。

谷歌近日公布了一套面向医疗健康场景的AI评估框架，试图回答一个越来越紧迫的问题：当普通人拿着健康问题去问AI、当医生在诊疗中使用AI工具时，怎么判断这些工具到底安不安全、有没有用。这套框架由谷歌健康部门临床评估负责人Sarah Montgomery-Taylor牵头，联合外部健康专家Elizabeth McGlynn和Dana Gelb Safran共同完成，并以白皮书形式对外发布。 框架的核心是把评估拆成三个维度：准确性、安全性和实用性。具体做法上，谷歌没有单纯依赖人工打分，而是把封闭式问题基准测试、自动评分器（autorater）和专家人工复核结合起来，重点覆盖常见健康场景和高风险健康场景。谷歌表示，这套框架不仅用于发布前的模型评估，也会持续用于日常监测，判断模型在健康语境下给出的回答是否准确、是否能引导安全的互动。选择公开方法论，谷歌的说法是希望提升透明度，同时让开发者、研究者和临床医生都能用上这套思路。 对AI从业者来说，这释放的信号是健康类AI的竞争正在从"能不能答"转向"答得对不对、敢不敢用"，评估能力本身正在成为产品能力的一部分。对做健康、健身、母婴、养老等垂直出海的创业者而言，如果产品涉及健康建议或医疗相关信息，平台方和监管方未来大概率会要求类似的评估证据，提前理解这套框架的逻辑，有助于在产品设计和合规准备上少走弯路。