跳到主要内容
人工智能

医疗领域的AI:当下能做什么、在哪里失灵以及如何监管

发布于 阅读约 3 分钟
一名放射科医生背对镜头坐在昏暗的阅片室里,在几台显示器上研究胸部X光片,屏幕泛着冷蓝色的光

简而言之

当下,医疗AI在范围明确、经过充分测试的任务上效果最好,尤其是医学影像:美国FDA名单上的1,600多款AI器械中,大多数用于放射科[1]。在瑞典的一项大型试验中,AI辅助的乳腺X线筛查发现了更多癌症[3]。然而,使用通用聊天机器人的人识别相关病症的能力并不比对照组更好[5]。

要点

  1. 对截至2026年9月4日的FDA AI器械名单进行统计,共有1,614个条目,其中1,230个属于放射科[1]。
  2. 在瑞典对105,934名女性开展的MASAI试验中,AI辅助筛查多发现了29%的癌症,假阳性没有增加,阅片次数减少了44%[3]。
  3. 在一项外部验证研究中,一款在医院广泛使用的脓毒症模型漏掉了67%的脓毒症病例[4]。
  4. 在2026年的一项随机研究中,聊天机器人单独作答时在94.9%的案例中指出了相关病症,但使用它们的人做到这一点的比例不到34.5%[5]。
  5. 世卫组织就医疗领域的大型多模态模型提出了40多项建议,警告其可能产生错误、带有偏见或不完整的输出,并存在自动化偏差[2]。
  6. AI蛋白质结构预测分享了2024年诺贝尔化学奖[7]。
本页内容 13 个部分
  1. AI如今在医疗领域能做什么?
  2. AI在医学影像中如何应用?
  3. 医疗AI在哪些方面失败过?
  4. AI聊天机器人能提供可靠的医疗建议吗?
  5. AI如何助力医学研究和药物发现?
  6. 医疗AI的主要风险是什么?
  7. 医疗AI如何受到监管?
  8. 患者应如何安全地使用AI健康工具?
  9. 医疗AI的下一步会怎样?
  10. 常见错误
  11. 常见问题
  12. 术语表
  13. 来源

AI如今在医疗领域能做什么?

医疗领域的人工智能(AI)涵盖多种技术,从扫描设备内部的图像分析软件,到回答健康问题的通用聊天机器人。根据下文总结的证据,截至2026年11月3日,效果最好的是那些只做一项明确界定的工作、并已为此经过测试和批准的专用工具,效果最差的则是直接向患者提供建议的通用聊天机器人。

美国食品药品监督管理局(FDA)维护着一份已获准在美国上市的AI医疗器械公开名单[1]。FDA标注该名单截至2026年9月4日为最新,对其统计显示共有1,614个条目,其中放射科1,230个、心血管科154个、神经科73个[1]。FDA表示,这些器械均满足了相应的上市前要求,包括针对安全性和有效性的重点审查[1]。

世界卫生组织(世卫组织)将较新的生成式模型的用途分为五个领域:诊断和临床护理;患者自主使用,例如查询症状;文书和行政工作,例如记录就诊情况;医学和护理教育;以及科学研究和药物开发[2]。

以上为一般性信息,不构成医疗建议。有关你自身健康的决定,应与具备资质的临床医生共同做出。

AI在医学影像中如何应用?

以获批产品的数量衡量,影像是AI应用最成熟的领域:放射科约占FDA名单条目的四分之三[1]。

乳腺癌筛查

最知名的随机对照证据来自瑞典国家筛查项目中的MASAI试验,该试验在瑞典西南部的四个地点开展[3]。它将105,934名女性随机分配到AI辅助筛查组或由两名放射科医生进行标准双人阅片的对照组[3]。AI系统Transpara将检查分流为单人阅片或双人阅片,并标出可疑的发现[3]。

AI辅助组检出338例癌症(每1,000人6.4例),而标准阅片组为262例(每1,000人5.0例),比值为1.29[3]。两组的假阳性率基本相同,比值为1.01;放射科医生的阅片次数为61,248次,而不是109,692次,减少了44.2%[3]。作者的结论是,AI有助于早期发现具有临床意义的乳腺癌[3]。这份报告涉及的是次要结局;已发表的摘要将其描述为对召回率、检出率、假阳性和工作量进行的方案预设分析[3]。

该试验的主要结局,即间期癌(两轮筛查之间确诊、筛查未能发现的癌症)的发生率,于2026年发表在《柳叶刀》(The Lancet)上[9]。AI辅助组的间期癌发生率为每1,000名参与者1.55例,标准阅片组为每1,000人1.76例,比值为0.88,达到了该试验的非劣效性标准;灵敏度为80.5%对73.8%,两组的特异度均为98.5%[9]。作者写道,可以考虑在临床实践中推行AI辅助筛查[9]。

眼部筛查

AI也已走出放射科。FDA名单中包括IDx-DR,这是一款获批日期为2018年4月11日的眼科器械,此外还有其后续版本以及EyeArt等竞品[1]。FDA的De Novo数据库将IDx-DR归类为糖尿病视网膜病变检测器械,并于该日期获批[10]。

明亮整洁的医院房间里有一台现代化的核磁共振扫描仪,检查床上空无一人,光线柔和漫射

医疗AI在哪些方面失败过?

并非每一款被广泛部署的工具都能兑现承诺。最明显的警示来自医院的预测模型,这类模型用于估计脓毒症等风险;脓毒症是一种危及生命的感染反应。

2021年,密歇根医学中心的研究人员在27,697名患者、38,455次住院的数据上,对Epic脓毒症模型(Epic Sepsis Model)进行了外部验证,这是一款被广泛采用的专有工具[4]。它的曲线下面积(AUC,衡量模型区分病例与非病例能力的指标,0.5相当于随机猜测,1.0为完美)为0.63[4]。在其预警阈值下,它未能识别出1,709名脓毒症患者,占总数的67%,同时却对18%的住院病例发出了警报[4]。作者的结论是,该模型的区分度和校准度都很差,其广泛使用引发了对全国脓毒症管理的担忧[4]。

作者还报告说,这一表现远不如该模型开发商所报告的数据[4],这表明开发商报告的结果并不能保证在其他地方也有同样的表现。世卫组织同样建议,对大规模部署的系统在发布后进行独立审计和影响评估,并按年龄、种族或残疾等用户特征分别列出结果[2]。

AI聊天机器人能提供可靠的医疗建议吗?

在医学知识基准测试中,大语言模型如今的得分已达到足以通过美国医师执照考试的水平,但这并不意味着它们能帮助人们就自身症状做出正确的决定[5]。2026年2月9日发表在《自然·医学》(Nature Medicine)上的一项经过预注册的随机研究,直接检验了这一点[5]。

牛津大学的研究人员及其同事为1,298名英国成年人各分配了十个医疗场景之一,这些场景根据英国国家卫生与临床优化研究所(NICE)的临床知识摘要起草,并与全科医生和重症监护医生共同制定[5]。参与者使用GPT-4o、Llama 3或Command R+;对照组则使用他们平时常用的任何资源,主要是互联网搜索[5]。

  • 模型单独作答时,平均在94.9%的案例中指出了相关病症,在56.3%的案例中给出了正确的处置方式[5]。
  • 使用模型的人指出相关病症的比例不到34.5%,给出正确处置方式的比例不到44.2%[5]。
  • 对照组在识别相关病症方面明显优于使用聊天机器人的各组[5]。

作者将失败归因于人机交互:用户经常遗漏症状部位或严重程度等关键细节,没有把正确的建议采纳到最终答案中,而且收到的建议前后不一;在一个描述脑出血(蛛网膜下腔出血)的场景中,一名用户被告知躺在黑暗的房间里休息,而另一名症状几乎完全相同的用户则被告知应寻求急诊救治[5]。他们的结论是,受测模型中没有一个可以用于直接的患者护理,并呼吁在向公众部署之前,先与真实用户进行系统性测试[5]。

美国标准机构NIST也从更宏观的角度发出了同样的警告:对患者信息的虚构(凭空编造的)摘要可能导致医生做出错误的诊断或治疗[6]。

AI如何助力医学研究和药物发现?

AI不仅用于临床,也用于实验室。2024年诺贝尔化学奖由戴维·贝克(David Baker)因计算蛋白质设计、以及Google DeepMind的德米斯·哈萨比斯(Demis Hassabis)和约翰·江珀(John Jumper)因蛋白质结构预测而共同获得[7]。瑞典皇家科学院表示,他们于2020年推出的AI模型AlphaFold2已被用于预测研究人员已发现的几乎全部2亿种蛋白质的结构,并已被来自190个国家的超过两百万人使用[7]。

瑞典皇家科学院指出,蛋白质的结构对其功能起着决定性作用,并列举了理解抗生素耐药性、生成可分解塑料的酶的图像等应用[7]。世卫组织将科学研究和药物开发(包括发现新化合物)列为生成式模型在医疗领域的主要用途之一[2]。

一名戴着手套的实验室科学家正用移液器向孔板中加样,旁边的显示器上是模糊的彩色蛋白质结构

医疗AI的主要风险是什么?

迄今已显示的好处

  • 在一项大型随机试验中,筛查的癌症检出率更高,假阳性没有增加,阅片工作量也更低[3]。
  • FDA名单上有1,600多款获批的AI器械,该机构表示它们均满足上市前要求[1]。
  • 蛋白质结构预测已被来自190个国家的超过两百万人使用,并获得了2024年诺贝尔化学奖的认可[7]。
  • 在同一筛查试验的主要分析中,间期癌发生率达到非劣效标准,灵敏度更高[9]。

世卫组织等机构指出的风险

  • 错误输出。世卫组织警告说,大型多模态模型可能生成错误、不准确、带有偏见或不完整的陈述,从而对做出健康决定的人造成伤害[2]。
  • 偏见。模型可能使用质量低劣或带有偏见的数据进行训练,包括基于种族、民族、性别、性别认同或年龄的偏见[2]。
  • 自动化偏差。临床医生和患者可能忽视错误,或把困难的决定交给系统[2]。
  • 现实表现欠佳。正如脓毒症模型所显示的,工具在其开发环境之外的表现可能不尽如人意[4]。
  • 隐私。斯坦福大学的研究人员发现,六家领先的聊天机器人开发商默认使用用户的对话数据训练其模型,并对用户分享生物特征和健康数据发出了警告[8]。
  • 安全与可及性。世卫组织还指出了患者信息面临的网络安全风险,以及在获取性能最佳的系统方面存在的不平等[2]。

医疗AI如何受到监管?

监管方式取决于软件的功能。在美国,符合医疗器械定义的AI须经过FDA的上市前审查,该机构会公布其识别出的获批器械[1]。FDA指出,其名单并不全面,因为这些器械主要是通过其批准摘要中与AI相关的术语来识别的[1]。它还表示,将探索如何识别和标记使用基础模型(包括大语言模型(LLM))的器械[1]。

公众用来咨询健康问题的通用聊天机器人不在该名单上,因为名单涵盖的是获准上市的器械[1]。世卫组织建议,各国政府在资源允许的情况下,指定一个现有或新设的监管机构来评估和批准用于医疗的大型多模态模型,并通过立法确保此类系统符合伦理和人权标准[2]。

世卫组织还要求开发者从设计的早期阶段就让患者和医疗专业人员参与进来,并针对定义明确的任务构建具有所需准确性和可靠性的模型[2]。各国规定不同且经常变化;请向你所在国家的药品或医疗器械监管机构了解最新要求。

患者应如何安全地使用AI健康工具?

  1. 把聊天机器人的回答当作起点,而不是诊断。在牛津大学的研究中,使用聊天机器人的人在识别相关病症方面并不比对照组做得更好[5]。
  2. 如果确实要用,请提供完整的信息,包括症状的部位、严重程度和发作频率;遗漏细节是失败的主要原因之一[5]。
  3. 出现急症症状时应立即就医,而不是询问聊天机器人;该研究发现,针对几乎相同的脑出血场景,给出的建议却截然相反[5]。
  4. 保护你的健康数据。避免把可识别身份的病历输入面向个人消费者的聊天机器人,因为这些产品的开发商通常默认使用对话数据进行训练[8]。
  5. 询问你的临床医生在你的诊疗中是否使用了AI工具,以及其结果是如何核查的,因为世卫组织已就自动化偏差发出警告[2]。
一名患者背对镜头坐在安静的诊所候诊室里看手机,背景中的护士站模糊不清

医疗AI的下一步会怎样?

每年的获批数量一直在增加:对FDA名单的统计显示,决定日期在2023年的条目有226个,2024年有235个,2025年有335个[1]。FDA还表示,将探索如何识别和标记包含基础模型(包括LLM)的器械[1]。

仍不确定的问题

  • AI筛查的长期结局。已发表的MASAI分析涵盖检出率、假阳性、工作量[3]以及间期癌、灵敏度和特异度[9];乳腺癌死亡人数并不在其报告的结局之列。
  • 能否让聊天机器人安全地直接为患者提供建议。牛津大学的作者发现,受测模型中没有一个准备就绪,需要进行用户测试[5]。
  • 工具在不同医院和人群中的表现如何,世卫组织希望通过独立审计来衡量这一点[2],而脓毒症研究表明这一点不能想当然[4]。

截至2026年11月3日的总体情况是:在专业人员监督下,AI在经过测试的特定任务上是已被证实有效的辅助工具,但作为临床医生的替代品,它尚未得到证实。

医疗AI的部分证据:测试了什么,发现了什么
用途证据发现
乳腺X线筛查(Transpara)随机试验,105,934名女性,瑞典[3]每1,000人检出癌症6.4例对5.0例;假阳性不变;阅片次数减少44.2%[3]
脓毒症预测(Epic脓毒症模型)外部验证,38,455次住院[4]AUC为0.63;漏掉67%的脓毒症病例[4]
供公众自查症状的聊天机器人随机研究,1,298名英国成年人[5]用户指出相关病症的比例不到34.5%[5]
蛋白质结构预测(AlphaFold2)2024年诺贝尔化学奖[7]预测了几乎全部2亿种已知蛋白质的结构[7]
获批的AI器械(美国)FDA AI器械名单,截至2026年9月4日[1]1,614个条目,其中1,230个属于放射科[1]

常见错误

  • 以为能通过医学考试的聊天机器人就能给出好的个人建议

    正确做法: 在一项随机研究中,聊天机器人的使用者指出相关病症的比例不到34.5%[5]。

  • 以为所有医疗AI都经过了监管机构的批准

    正确做法: FDA名单涵盖的是获批器械;通用聊天机器人不在其中,而且该名单本身也不全面[1]。

  • 因为某款医院工具被广泛使用就信任它

    正确做法: 被广泛采用的Epic脓毒症模型在外部测试中漏掉了67%的脓毒症病例[4]。

  • 把完整的病历分享给面向个人消费者的聊天机器人

    正确做法: 在斯坦福大学的一项研究中,全部六家聊天机器人开发商都默认使用对话数据训练其模型[8];请删除可识别身份的细节,或使用临床医生认可的工具。

  • 让AI的回答取代临床判断

    正确做法: 世卫组织警告存在自动化偏差,即错误不被察觉;应由临床医生对决定负责[2]。

常见问题

如今医院在使用AI吗?

是的。根据截至2026年9月4日的统计,FDA的获批AI器械名单共有1,614个条目,其中大多数用于放射科[1]。

AI检测癌症的能力比医生更强吗?

在MASAI试验中,由放射科医生配合AI进行的筛查比仅由放射科医生进行的标准双人阅片发现了更多癌症[3],灵敏度更高,间期癌发生率也达到非劣效标准[9]。现有证据支持用AI辅助医生,而不是取代医生。

我应该用ChatGPT检查自己的症状吗?

请谨慎。在2026年的一项研究中,使用GPT-4o和其他聊天机器人的人并不比使用常用资源的人做得更好,作者表示没有一个受测模型可以用于直接的患者护理[5]。以上不构成医疗建议;请联系临床医生。

AI会取代医生吗?

现有证据并不支持这一点。即使在AI表现出色的领域,如筛查,它也是与放射科医生配合使用的[3];世卫组织也强调人类监督以及自动化偏差的风险[2]。

谁来检查医疗AI是否安全?

在美国,FDA会在上市前审查属于医疗器械的AI[1]。世卫组织建议,各国政府在资源允许的情况下,指定一个现有或新设的监管机构来评估和批准用于医疗的大型多模态模型[2]。

术语表

AI医疗器械
使用AI、符合医疗器械定义并经FDA等监管机构批准的软件或硬件[1]。
大型多模态模型(LMM)
一种生成式AI模型,可以接受文本、视频和图像等一种或多种类型的输入,并生成不限于输入类型的输出[2]。
AUC(曲线下面积)
衡量模型区分病例与非病例能力的指标,0.5相当于随机猜测,1.0为完美;Epic脓毒症模型的得分为0.63[4]。
自动化偏差
倾向于接受系统的输出而没有察觉其中的错误,或把本不该由系统做出的决定交给它[2]。
处置方式
为患者推荐的下一步行动,例如是休息还是寻求急诊救治,牛津大学的研究对此进行了衡量[5]。

来源

  1. Artificial Intelligence-Enabled Medical Devices US Food and Drug Administration; content current as of 2026-09-04, retrieved 2026-11-03 · 2026-09-04
  2. WHO releases AI ethics and governance guidance for large multi-modal models World Health Organization · 2024-01-18
  3. Screening performance and characteristics of breast cancer detected in the Mammography Screening with Artificial Intelligence trial (MASAI) Hernstrom et al., The Lancet Digital Health 2025;7(3):e175-e183 (PubMed) · 2025-02-03
  4. External Validation of a Widely Implemented Proprietary Sepsis Prediction Model in Hospitalized Patients Wong et al., JAMA Internal Medicine · 2021-06-21
  5. Reliability of LLMs as medical assistants for the general public: a randomized preregistered study Bean et al., Nature Medicine 32(2):609-615 (PubMed Central) · 2026-02-09
  6. NIST AI 600-1: Generative Artificial Intelligence Profile US National Institute of Standards and Technology
  7. Press release: The Nobel Prize in Chemistry 2024 The Royal Swedish Academy of Sciences / Nobel Prize Outreach · 2024-10-09
  8. Be Careful What You Tell Your AI Chatbot Stanford Institute for Human-Centered Artificial Intelligence (HAI) · 2025-10-15
  9. Interval cancer, sensitivity, and specificity comparing AI-supported mammography screening with standard double reading without AI in the MASAI study Gommers et al., The Lancet 2026;407(10527):505-514 (PubMed)
  10. De Novo Classification Request: IDx-DR (DEN180001) US Food and Drug Administration, De Novo database · 2018-04-11
分享这篇指南 Telegram WhatsApp X
0 个赞

评论

热门评论

关于 Pouyam 团队 编辑方针

Pouyam 上还有

探索 Pouyam

指南只是 Pouyam 的一角,接下来可以去这些地方。

快速导航