AI Agent在医疗诊断中的潜力与风险

医疗是AI最具社会价值也最具风险的应用领域之一。AI Agent在诊断准确率上已经展现出超越人类医生某些方面的潜力，但医疗场景的特殊性使得任何错误都可能危及生命。我们需要冷静审视AI Agent在医疗诊断中的能力和边界。

潜力：AI能做什么

影像诊断

影像诊断是AI在医疗领域最成熟的应用。在放射科，AI Agent可以在数秒内分析CT、MRI影像，检测肺结节、脑出血、骨折等异常。在皮肤科，AI对黑色素瘤的识别准确率已经达到甚至超过皮肤科专家的水平。

但"识别准确率"不等于"诊断准确率"。影像只是诊断的一个维度，真正的诊断需要结合患者病史、症状、实验室检查等多维信息。AI Agent的优势在于可以同时处理这些多模态信息——读取影像、分析化验结果、检索类似病例、参考最新指南，然后给出综合诊断建议。

罕见病诊断

罕见病诊断平均需要4-7年，患者往往辗转多个科室。AI Agent可以突破人类医生的经验局限——它"阅读"过所有已知的罕见病文献和病例。当遇到医生不熟悉的症状组合时，Agent可以快速检索可能的罕见病匹配。

我们参与的一个项目中，AI Agent成功识别了3例此前被误诊为普通皮炎的Fabry病。这些患者已经辗转多个科室数年，Agent通过分析其皮疹特征+四肢疼痛+出汗减少的症状组合，提出了Fabry病的可能性，后续基因检测确认了诊断。

个性化治疗方案

同样的疾病在不同患者身上可能需要不同的治疗方案。AI Agent可以综合患者的基因组信息、合并症、药物过敏史、既往治疗效果等，推荐最适合个体的治疗方案。

风险：我们不能忽视的问题

幻觉风险

大模型的幻觉在医疗场景中是致命的。一个虚构的药物剂量建议、一个不存在的参考文献、一个看似合理但错误的诊断结论，都可能导致严重后果。

我们的评估显示，在不加约束的情况下，AI Agent在复杂病例的诊断中有约8%的概率产生含有虚构信息的输出。这个比例在日常生活中可能可以接受，但在医疗场景中完全不可接受。

缓解策略包括：强制引用来源、对关键输出进行交叉验证、设置置信度阈值（低于阈值的建议不输出）。

责任归属

当AI Agent参与了诊断过程，而诊断结果有误时，谁承担责任？是使用AI的医生？是AI系统的开发者？还是医疗机构？

这不是一个纯技术问题，但技术设计可以部分缓解。我们采用"AI建议-医生决策"模式——AI Agent的输出始终标注为"建议"而非"诊断"，最终决策权和责任归属明确在人类医生。

数据偏见

医疗AI的训练数据存在系统性偏见。大多数数据来自发达国家的大型医院，对少数族裔、发展中国家常见疾病的覆盖不足。这导致AI在这些人群上的表现可能显著低于平均水平。

过度依赖

当AI Agent的诊断建议越来越准确时，医生可能逐渐产生依赖心理，减少独立思考。这种"自动化偏见"在长期使用AI的医生中确实存在。一旦AI出错，依赖性强的医生可能更难发现错误。

落地路径

渐进式部署

医疗AI的部署应该是渐进的：

第一阶段：AI作为"第二意见"工具，仅在医生主动请求时提供诊断建议。不直接参与诊断流程。

第二阶段：AI作为"辅助筛查"工具，自动分析影像和化验结果，标记异常发现，但所有结论需要医生确认。

第三阶段：AI作为"决策支持系统"，在特定低风险场景中（如常见皮肤病的初步筛查）提供自主诊断建议，但保留医生否决权。

每个阶段都需要充分的临床验证和监管审批，不能跳步。

可解释性要求

医疗场景对可解释性的要求远高于其他领域。AI Agent不仅要给出诊断建议，还要解释推理过程、提供证据链、标注不确定性。

我们实现了一个"诊断报告生成器"——Agent输出包含：初步诊断、支持证据、鉴别诊断、置信度、建议进一步检查的项目、以及参考的临床指南条款。这种结构化输出使医生能够快速理解和验证AI的推理。

结语

AI Agent在医疗诊断中的潜力是巨大的，但实现这一潜力需要技术、伦理、监管的协同推进。技术进步让我们看到了曙光，但谨慎和谦逊同样重要——在关乎生命的领域，宁可慢一步，不可错一步。AI不应该试图替代医生，而应该成为医生更好的工具。

本文同步发布于 硅基AGI论坛