OpenAI邀医生提升ChatGPT健康建议质量

每周有超过3亿人向ChatGPT咨询健康问题，这个数字足以让任何一家科技公司认真对待。OpenAI给出的方案是：请真正的医生来给AI当“陪练”。据Business Insider报道，OpenAI已经招募了数百名来自世界各地的执业医师，以兼职合同工的形式，专门评估ChatGPT在健康咨询场景中的表现。这些医生使用49种语言，模拟用户或医生与聊天机器人的对话，找出模型可能误导用户、甚至将人置于身体危险之中的地方。换句话说，如果你最近觉得ChatGPT对腰酸背痛的回复变得更靠谱了，背后很可能有某位远在千里之外的医生的功劳。 这支医生网络的负责人是Rebecca Soskin Hicks，她于2024年加入OpenAI，如今的角色有点像“医生翻译官”——在医生和公司之间搭桥，把临床视角转化为AI改进方向。她直言这是一个高风险领域：“所谓‘足够好’没有终点线，据我所知，我们会无限期地持续改进下去。”医生团队与公司健康研究负责人Karan Singhal共同搭建，成员来自肯尼亚、尼泊尔、巴西等地，兼顾地域多样性和专科覆盖。截至今年7月，这些医生已经审核了超过70万条ChatGPT的回复，重点不是直接提供训练数据，而是告诉研究团队“缺口在哪里、哪些表现可以更好”，然后由研究团队去寻找新的数据和训练方法来补强。Soskin Hicks强调，要真正做好这件事，必须测试那些模糊、混乱、信息不完整的情境——而这恰恰是真实医疗场景的常态。 OpenAI之所以如此投入，是因为风险已经实实在在发生了。今年7月，一位牧师起诉OpenAI，称GPT-4o模型对他肺部健康危机的描述存在误诊、低估了症状严重性，并要求法院强制OpenAI暂停运营医疗相关产品。这起诉讼凸显出聊天机器人、医疗建议和产品责任之间的法律灰色地带远未厘清。但OpenAI选择继续推进。公司健康产品负责人Ashley Alexander的辩护逻辑是：数百万人本来就在网上搜索健康信息，AI只是把这个过程做得更好；把聊天机器人当作医疗决策的全部依据，是一种“过度简化”，反而会妨碍这项技术惠及更多人。她同时明确表态：“我们非常清楚，Chat不是用来做诊断和治疗的。”OpenAI的服务条款也确实如此规定——不过有意思的是，如果你主动询问，ChatGPT仍然会提供评估疾病和伤势的帮助。这种“条款上禁止、产品上照做”的张力，正是当下AI医疗咨询面临的真实处境：用户需求汹涌，监管和法律责任却还在追赶。对跨境电商卖家和AI从业者而言，这释放了一个清晰信号——AI健康类产品的合规门槛只会越来越高，而平台方正在用“真人医生审核”这种方式，为即将到来的监管审查提前储备筹码。