医生用AI记录病历，你的医疗数据何去何从？

澳大利亚医疗界正掀起一场AI革命：据数字权益观察组织最新报告《Off the Record》显示，超过40%的澳洲医生已开始使用AI scribe（AI医疗记录助手）。这类工具在问诊时实时记录对话，通过类似ChatGPT或Claude的大语言模型自动生成病历。对临床医生而言，这堪称完美解决方案——省去数小时文书工作，把精力还给患者，尤其对长期处于职业倦怠的医生来说，这种改变意义重大。加上澳大利亚医保只报销面诊时间、不报销病历撰写，医生采用AI工具的经济和情感动力都相当充足。 然而，患者的获益远没有这么清晰。当个人最私密的医疗数据被交给监管松散的AI工具处理时，数据流向和安全性成了大问题。AI scribe并非简单转录，而是基于AI对医疗场景的理解来总结和诠释对话。问题在于，AI经常出现“幻觉”——自信满满地记录下根本没发生过的事。比如医生劝患者戒烟，AI可能记成“建议患者避免房屋火灾”。AI系统还普遍存在种族、民族、阶层和性别偏见，对非英语母语患者或多元文化背景患者，AI的语音解读可能导致病历与现实严重脱节。早期研究显示高达90%的AI生成病历需要人工修正，近期研究也表明约20%的AI临床记录存在足以影响诊断的严重错误。更棘手的是，医生在时间压力下很难发现这些错误——人类在审查他人工作时天然存在盲区，自动化偏见更让医生倾向于不加审视地接受AI输出。错误一旦进入病历，不仅伤害患者，也会误导后续接诊的医生。法律领域已出现类似困境：法官和律师被迫逐字核查每份文件以防AI幻觉漏网，反而拖慢了司法进程。如果医生也必须逐条核验AI病历，承诺的生产力提升很可能化为泡影；若不核验，医疗系统将被不可靠数据淹没。 更深层的信任危机在于，医疗专业人士根本没有能力回答“数据去了哪里”这个问题。目前患者只能盲目相信医生理解AI工具的数据处理方式，但医生并非AI专家，他们的行业协会也只提供笼统指导。更糟的是，AI scribe厂商通常不披露数据处理方式、访问权限和所用AI模型，患者得到的只有“数据留在澳大利亚”这类模糊保证。监管层面同样滞后，现有法律无法明确界定这个快速演变领域的责任主体。数字权益观察组织呼吁，澳大利亚药品管理局（TGA）应将AI scribe视为医疗器械进行监管，要求其通过与其他医疗设备同等的安全测试。但TGA目前声称只有提供诊断建议的scribe才算医疗器械，这给了厂商规避审查的空间。这种立场完全忽视了生成式AI在医疗场景中的实际应用方式——当AI不仅能记录，还能解读、总结甚至暗示诊断方向时，它早已超越了简单的转录工具范畴。