生成式AI或“发明”不存在的生物学发现

生成式AI正在进入生物学研究领域，但一项新研究警告称，这项技术可能“发明”出根本不存在的生物学发现，甚至让科学家误以为某种生物效应真实存在。法国格勒诺布尔阿尔卑斯大学的计算生物学家托马斯·伯格在《Patterns》期刊上发表观点文章，系统梳理了生成式AI在生物研究中的10种潜在应用，并指出不同场景的风险等级差异巨大。 伯格的核心担忧在于，生成式AI虽然能帮助科学家从海量基因、蛋白质等组学数据中提取规律，但其“幻觉”问题可能带来实质性后果。所谓幻觉，是指AI生成看似合理但实际不符合底层生物学逻辑的分子模式或推断。在药物筛选中，AI可能忽略本应有效的候选药物，或把研究者引向无效疗法；在更复杂的场景下，AI生成的合成数据若混入真实实验数据，可能掩盖真实生物效应，甚至让一个不存在的疾病机制看起来像重大发现。伯格强调，最危险的情况不是AI输出一个明显虚假的结论，而是在处理真实数据的过程中悄悄扭曲、放大或改变某些信号，这种变化极难被研究者察觉，除非他们对AI的工作机制有深入理解。 风险差异的关键在于AI输出的用途：如果AI生成的是待验证的假设，风险相对可控，因为后续仍需真实实验检验；但如果AI生成的合成数据直接作为证据使用，风险就急剧上升。合成数据在填补缺失测量值、保护患者隐私、构建对照组、降低研究成本等方面有巨大价值，但一旦AI插入现实中不存在的特征，科学家就可能把幻觉当成发现。伯格指出，大多数情况下问题并非幻觉与真实发现并排出现，而是真实数据在复杂的AI辅助计算流程中被污染，最终导致错误的生物学结论。对于依赖AI加速研发的跨境电商和生物科技从业者而言，这意味着在拥抱效率的同时，必须建立更严格的验证机制，防止AI的“创造性”变成科研的“陷阱”。