
大语言模型(LLM)在支持临床内外的药物推荐方面展现出前景,但也可能放大影响公平性和成本的系统性偏差。
ChatGPT 和 Claude 等大型语言模型(LLMs)正越来越多地被用于向公众提供健康信息。尽管这有助于改善人们获取治疗信息的途径,但一项新研究揭示了它们的局限性:研究发现,大型语言模型在治疗选择上存在偏见,而在实践中使用这些输出结果可能会推高治疗成本。

大语言模型(LLM)正在迅速改变医疗服务的提供方式、临床工作流程以及公众获取健康信息的途径。在医院方面,据估计,2025 年,美国已有大约一半的医院将大语言模型整合到电子健康记录系统中。在患者方面,21.5% 的成年人表示曾使用大语言模型进行在线健康信息搜索。大语言模型在各类临床任务中的能力,也可能影响个人对健康信息的解读以及对护理方案的选择。
药物推荐是大语言模型的一项颇具前景的应用。在从急诊到门诊护理的多种场景中,选择合适的药物需要整合来自非结构化临床文本中的诊断、合并症、禁忌症和患者偏好。这种复杂性增加了用药错误的风险,据估计,用药错误每年在全球造成 420 亿美元损失。大语言模型非常适合应对这一挑战,因为它们具备解读和整合高维临床情境的高级能力,近期研究也证明了它们在药物推荐和错误预防方面的潜力。
然而,随着大语言模型日益影响用药相关决策,人们对算法偏见的担忧不断加剧。由于大语言模型是在海量人类生成文本上训练而成的,它们可能延续社会刻板印象。既往研究主要关注社会人口学偏见,例如基于种族、性别或收入状况的分诊或影像学检查建议差异。然而,算法偏见的一个关键但尚未得到充分考察的维度,是推荐哪些具体药物名称。与遵循优先推荐成本效益较高药物的指南开展工作的临床医生和医疗系统不同,基于通用网络数据训练的大语言模型可能表现出流行度偏见,优先推荐被广泛宣传的药品,而非临床等效的替代药品。这种趋同可能带来大规模公共卫生、运营和经济后果,但其趋同程度仍缺乏量化评估。
在这项研究中,研究团队评估了五个主流大语言模型(GPT-5.4、Claude Sonnet 4.6、Gemini 3.1 Flash、Llama 4 和 MedGemma)在 177120 个临床病例摘要中针对 123 个常见疾病-药物组合所推荐的产品名称,要求每个模型推荐含有每个病例摘要中指定活性成分且经美国食品药品监督管理局(FDA)批准的药物。该研究的主要目标是刻画每个组合内药物名称推荐结果的分布情况。因此,该研究衡量了所选药物的趋同程度、其与真实世界处方模式的偏离程度,以及预计的采购成本影响。该研究还评估了患者社会人口学因素与不符合监管要求的输出之间的关联,并识别了与推荐频率相关的药物特征。这些分析为评估大语言模型生成的药物名称推荐在监管一致性和商业中立性方面建立了基准。
具体来说,该研究考察了大语言模型生成的药物名称推荐在含有相同活性成分的美国食品药品监督管理局(FDA)批准的药物之间是否具有商业中立性。
研究团队利用涵盖 123 个疾病-药物组合和 1440 个社会人口学特征的 177120 个合成临床病例,评估了五个大语言模型的药物名称推荐。每个病例均指定一种疾病和一种活性成分,并要求模型推荐最多 3 款获得 FDA 批准的药物。

结果显示,在所有疾病-药物组合和大语言模型中,最常被推荐的药物平均占首选推荐的 97.5%,且各个大语言模型在推荐哪些药物方面几乎完全一致。

大语言模型推荐的药物分布与真实世界的处方模式不同,且通常导致更高的预计采购成本。与监管信息不一致的推荐因大语言模型和社会人口学因素而异。大语言模型更常推荐网络可见度更高的药物(Google 搜索量,比值比(OR)=1.70;专属维基百科页面,OR 3.00),并且偏好原研药(OR=20.5),而 FDA 批准较晚以及在临床实践中更常被开具的药物则被推荐较少(OR 分别为 0.76 和 0.87)。也就是说,大语言模型更倾向亩推荐大品牌,在谷歌搜索中曝光度高的药物,以及拥有独立维基百科页面的治疗方案。
随后,研究团队根据美国的数据评估了这可能会给患者带来多少潜在费用,他们考察了一种情景:医生根据这些大语言模型的建议开具处方。结果显示,年度采购成本将增加约 5560 万美元,这意味着这些药物处方的采购成本增加了 1019%。
此外,当要求大语言模型优先推荐成本较低的药物或仿制药时,大语言模型的推荐会向预期方向调整,但推荐药物仍集中于有限的一小部分药物,这可能对药物成本和制药市场产生潜在影响。因此,在广泛使用大语言模型进行药物推荐之前,需要进行严格评估和有针对性的缓解措施。
论文链接:
https://www.nature.com/articles/s44360-026-00205-y
×