2016 年，深度学习的奠基者之一 Geoffrey Hinton 在一次演讲里抛出一句后来广为流传、也广受批评的话："我们应该停止培养放射科医生了。"他的意思是，影像识别正是深度学习最擅长的任务，机器很快会取代读片的医生。十年过去，事实给出了一个更微妙的答案：放射科医生不仅没有消失，需求反而在增长——而 AI，确实开始走进了诊室，只是以一种和 Hinton 预言很不一样的方式。
医学诊断中有大量任务本质上是"模式识别"：从胸片里找肺结节、从眼底照片里识别糖尿病视网膜病变、从病理切片里数有丝分裂、从皮肤照片里区分良恶性。这些恰是卷积神经网络等深度学习模型的强项。过去十年，一系列研究显示，在某些狭窄、定义清晰的任务上，AI 模型的表现可以达到甚至超过专科医生的平均水平。
但"在某个基准数据集上达到专家水平"和"在真实世界的医院里安全可靠地用起来"，中间隔着一道深渊。这一页要讲的，正是 AI 医学诊断真实走到了哪一步、它在哪里靠谱、又在哪里会以危险的方式失灵。
破除误解：AI 不会"取代"医生，至少现在不会
最流行的误解，是把 AI 诊断想象成"医生 vs 机器"的替代关系。现实里，几乎所有已获批、已落地的医疗 AI 都是辅助工具，定位是"第二双眼睛"或"分诊排序器"，最终诊断与责任仍在医生。
原因有三。其一，监管与责任：当诊断错误关乎生死，必须有可问责的主体，目前没有任何体系允许 AI 独立"签字"做出重大诊断。其二，医学诊断远不止读一张图——它需要整合病史、体征、检验、患者意愿与临床判断，这些是当前模型不擅长的。其三，已批准的多数工具任务极其狭窄（"在这张眼底照片里有没有糖网"），而不是"诊断这位患者得了什么病"。
更准确的图景是人机协作：AI 负责它擅长的、可重复的、海量筛查的部分（标记可疑区域、排序待读队列、量化测量），医生负责整合、判断与决策。Eric Topol 等人反复强调，AI 真正的价值或许是把医生从机械劳动中解放出来，让他们有更多时间面对患者。
现场：从基准超越到 FDA 批准
学术基准上的"超越人类"屡见报道：在皮肤镜图像分类、糖尿病视网膜病变筛查、某些 X 光与病理任务上，模型在特定数据集上达到或超过专家平均水平。但这些都是在整理好的、回顾性的数据集上得到的，离临床部署很远。
真正的里程碑是监管批准。2018 年，FDA 授权了 IDx-DR（现 LumineticsCore），这是首个被批准在没有眼科医生介入的情况下，对糖尿病视网膜病变做出筛查级诊断判断的自主 AI 系统——它用于初级保健场景，对眼底照片给出"需转诊/暂不需转诊"的结论。这是一个有意义的突破，但也要看清它的边界：它只做一件非常具体的事，且明确是筛查而非确诊[idxdr]。
截至 2020 年代中期，FDA 已经授权了数百款含 AI/机器学习的医疗器械，绝大多数集中在放射影像领域（标记可疑出血、肺结节、骨折、乳腺密度等）。数量看着多，但每一款都被限定在很窄的用途里——"批准"不等于"通用"。
值得一提的是分诊型工具的崛起：一类被称为"computer-aided triage（CADt）"的产品并不给诊断结论，只是把疑似严重病变（如颅内大血管闭塞、气胸）的影像在阅片队列里提前排到最前，让医生更快看到最危急的片子。它改变的不是准确率，而是"多久看到"——在卒中这类与时间赛跑的急症里，几分钟的提前可能直接影响预后。这提示了 AI 落地最现实的价值，往往不是"比医生更准"，而是"帮医生更快、更不漏"。
现场：乳腺癌筛查的随机试验
要回答"AI 到底改不改善真实结局"，需要的是前瞻性试验而非回顾性基准。乳腺 X 线筛查是少数走到这一步的领域。2023 年，瑞典的 MASAI 随机对照试验发表了中期结果：把 AI 辅助阅片与传统双人阅片对比，AI 辅助组在保持召回率相近的前提下检出更多癌症，同时显著减少了放射科医生的阅片工作量[masai]。
这是一个有分量的信号——它是前瞻性、随机的，直接衡量临床流程而非论文指标。但要克制：它仍是中期结果，最终是否降低间期癌、是否改善长期生存，需要完整随访。它也只覆盖乳腺筛查这一种场景。把它当作"AI 普遍优于医生"的证据，就是过度外推。
现场：数字病理——把玻片变成像素
病理是 AI 的另一个主战场。病理诊断长期依赖医生在显微镜下逐张观察玻片，主观性强、耗时、且病理医生在全球普遍短缺。把玻片数字化为全切片图像（whole-slide image）后，AI 可以辅助计数、分级、标记可疑区域，乃至从形态学预测分子特征或预后。
数字病理的潜力很大，但落地比影像更慢：全切片图像极其庞大（一张可达数十亿像素），扫描设备昂贵，不同实验室的染色与扫描差异巨大，使得模型在 A 医院训练、到 B 医院就"水土不服"。这正是泛化难题的典型缩影。
数字病理还有一个超越"辅助读片"的诱人方向：从形态学预测分子特征。研究者尝试让模型直接从普通的苏木精-伊红（H&E）染色切片，推测肿瘤是否携带某些基因突变或分子亚型——这些信息过去必须靠昂贵、耗时的分子检测。如果可靠，它可能把一张普通切片变成低成本的"分子筛查"。但这仍处探索阶段，且高度依赖前面所说的泛化与验证。
谁在做、做到了哪一步：泛化与偏倚才是真正的考题
AI 诊断真正的科学难点，不在"能不能在测试集上超过人类"，而在"换一家医院、换一台机器、换一个人群，它还灵不灵"。
- 泛化失败（generalization）：模型常常学到的是数据集的"伪特征"而非真正的病灶。著名的例子：某些肺炎检测模型实际上学会了识别 X 光片上的医院标记或便携机型号——因为重症患者更常用便携机，模型把"便携机标记"当成了"肺炎信号"。换一家医院，这种捷径立刻失效。
- 算法偏倚（bias）：如果训练数据以某一人群为主，模型在其他人群（不同肤色、性别、年龄）上的表现可能显著下降。皮肤病变识别在深色皮肤上表现较差、就是反复被记录的问题。这不是抽象的公平口号，而是会直接导致漏诊的安全隐患。
- 数据漂移（distribution shift）：临床实践、设备、人群随时间变化，一个上线时准确的模型可能逐渐"过时"，需要持续监测与再校准——而对"会学习的医疗器械"如何持续监管，本身就是监管前沿。
- 校准（calibration）问题：一个模型可能在排序上很准（先后顺序对），但它输出的"概率"未必可信——说"90% 是恶性"时未必真有九成。在临床决策里，错误校准的概率比单纯的准确率更危险，因为医生会据此权衡治疗。
这些问题有一个共同根源：深度模型擅长找"相关"，而医学需要的是"病灶本身"。区分二者，恰恰是当前最难、也最被低估的工程。
代价与争议
- 黑箱与可解释性。 深度模型常常给出结论却说不清理由。在医疗里，"为什么"和"是什么"同等重要——无法解释的判断既难被医生信任，也难在出错时复盘。
- 自动化偏见（automation bias）。 当 AI 给出建议，医生可能过度依赖、放松独立判断，反而错过 AI 漏掉的病例。人机协作若设计不当，可能让整体表现不升反降。
- 数据隐私与同意。 训练医疗 AI 需要海量患者数据，如何在保护隐私、获得知情同意、明确数据权属之间取得平衡，争议不断。
- "AI 鸿沟"。 高质量的标注数据、算力与设备集中在富裕地区与大医院，落地最顺利的恰恰是最不缺医生的地方，技术可能反向加剧而非缩小医疗不平等。
- 验证标准之争。 大量 AI 诊断研究是回顾性、单中心的，缺乏前瞻性随机对照试验。"在论文里超过医生"远不等于"在临床里改善了患者结局"。
- 责任归属。 当 AI 辅助下出现误诊，责任在医生、医院、还是厂商？法律框架仍在追赶技术。
- 基准的失真。 许多"超越医生"的研究让医生在没有病史、不能调阅既往影像的"裸图"条件下比赛——这并非临床真实情境，容易高估 AI 的相对优势。
- 生成式模型的新风险。 把大语言模型用于写病历、答患者问、辅助决策时，它会以流畅的语气输出错误（幻觉），且错误往往看起来很可信，这在医疗里格外危险。
未知的边界
- 如何可靠地保证一个模型在未见过的医院、设备、人群上仍然安全？泛化问题有没有通用解？
- 大语言模型/多模态基础模型能否真正整合病史、影像、检验做出"全科式"推理，而不只是单任务识别？目前它们仍会自信地输出错误（幻觉），在临床中是严重风险。
- 如何对"持续学习、会更新"的 AI 器械进行持续监管，确保更新后不退化、不引入新偏倚？
- 人机协作的最优分工是什么？怎样设计界面与流程，既发挥 AI 的筛查能力，又不诱发自动化偏见？
- AI 诊断能否真正惠及医疗资源匮乏地区，还是会因数据与设备的不平等，反而扩大鸿沟？
- 怎样的前瞻性试验设计，才能真正证明 AI 改善了患者结局，而不只是改善了某个统计指标？
- 当模型把"概率"报错（校准失准）时，如何让医生既用上它、又不被它误导？
跨域连接
- 筛查与早期发现：在低患病率场景里，阳性预测值由特异度主导——乳腺筛查每千人只有几例癌，特异度提高一个百分点减少的假阳性，通常多于灵敏度提高五个百分点带来的额外检出。更要紧的是终点：MASAI 显示 AI 辅助检出了更多癌症，但"多检出"不等于获益，因为存在过度诊断与领先时间偏倚。真正需要的是间期癌与死亡率数据，而这些还没有。
- 贝叶斯定理：脱离患病率谈"准确率 99%"没有意义，后验取决于先验与似然比。另有一个更少被提及的区分：区分度与校准是两件事。模型的 AUC 可以很高（排序对了），输出的概率却不可信（说"90% 是恶性"时实际只有六成）。临床决策用的是概率而不是排序，因此校准漂移比准确率下降更危险，而它恰恰在分布迁移时最先失效。
- 卷积神经网络：模型学到的常常是采集过程的伪特征而非病灶——便携机标记、扫描仪型号、染色批次。这解释了为什么数字病理的泛化比放射影像更差：全切片图像的染色与扫描差异构成了强烈的协变量偏移。可检验的推论是，修复这类失败靠的是跨中心外部验证与采集标准化，而不是把模型做得更大。
- 测量等价性：亚组表现差异本质上是测量等价性问题——同一个模型在不同肤色、性别、年龄的人群上未必在测同一个东西，而只报一个总体 AUC 会把这一点掩盖掉。合适的审计是分层校准（各亚组的预测概率是否都对得上实际频率），而不只是分层准确率；否则一个在某亚组系统性低估风险的模型，仍可能拿到漂亮的总分。
- 实施科学与卫生政策：分诊类工具（CADt）改变的不是准确率，而是"多久被看到"。这意味着收益完全依赖工作流是否真的重排了阅片队列、医生行为是否随之改变——模型不是瓶颈，落地才是。反方向的风险同样具体：自动化偏倚会让医生对未被标记的片子放松警惕，而省下的时间可能被更高的产出指标直接吸收。这两项都必须在部署之后测量，验证集上看不出来。
参考文献
- Esteva, A. et al. Dermatologist-level classification of skin cancer with deep neural networks. Nature 542, 115–118 (2017). DOI: 10.1038/nature21056.
- Abràmoff, M. D., Lavin, P. T., Birch, M., Shah, N. & Folk, J. C. Pivotal trial of an autonomous AI-based diagnostic system for detection of diabetic retinopathy in primary care offices. npj Digital Medicine 1, 39 (2018). DOI: 10.1038/s41746-018-0040-6.
- Zech, J. R. et al. Variable generalization performance of a deep learning model to detect pneumonia in chest radiographs: A cross-sectional study. PLOS Medicine 15, e1002683 (2018). DOI: 10.1371/journal.pmed.1002683.
- Topol, E. J. High-performance medicine: the convergence of human and artificial intelligence. Nature Medicine 25, 44–56 (2019). DOI: 10.1038/s41591-018-0300-7.
- Lång, K. et al. Artificial intelligence-supported screen reading versus standard double reading in the Mammography Screening with Artificial Intelligence trial (MASAI): a clinical safety analysis of a randomised, controlled, non-inferiority, single-blinded, screening accuracy study. The Lancet Oncology 24, 936–944 (2023). DOI: 10.1016/S1470-2045(23)00298-X.
延伸阅读
- Topol, E. J. Deep Medicine: How Artificial Intelligence Can Make Healthcare Human Again. Basic Books, 2019.