基于心力衰竭领域数据增强的问答模型优化与应用

Optimization and application of question-answering model based on heart failure data enhancement

摘要

心力衰竭是心血管领域的一种复杂疾病，对精准诊断、治疗和管理有着很高的要求。针对心力衰竭领域高精度可溯源的问答场景，本文提出了一种心力衰竭领域数据增强的问答模型优化方法。首先收集并整理大量心力衰竭相关的内容，并构建包含170余万个令牌的心力衰竭领域语料库，用于BGE-M3模型的增量预训练；其次构建超过3 200个心力衰竭专业问答的数据集，对预训练后的模型进一步进行细粒度的微调；最后将优化后的模型应用于检索增强生成（retrieval-augmented generation，RAG）中，实现了最终的问答系统。通过实验对比，较BGE-M3模型，微调后的模型与增量预训练并微调后的模型准确度分别提升了48%和52%，且在回答的精准性和内容全面性上均优于DeepSeek和通用RAG，验证了基于领域数据驱动的模型优化的有效性。本文方法证明了针对心力衰竭领域的智能化知识服务方案是实际可行的，尤其在医学教育场景中能显著提升教学效果，对于其他垂直领域的建模工作同样具有重要的参考价值。

Abstract

Heart failure (HF) is a complex disease in the cardiovascular field, imposing high requirements for precise diagnosis, treatment, and management. Aiming at high-precision and traceable question-answering scenarios in the heart failure domain, this paper proposes a method for optimizing question-answering models with HF domain data enhancement. First, a large amount of heart failure-related content was collected and sorted to construct an HF domain corpus containing over 1.7 million tokens, which was used for incremental pre-training of the BGE-M3 model. Second, a dataset of over 3,200 professional HF Q&A pairs was built to further fine-tune the pre-trained model at a fine-grained level. Finally, the optimized model was applied to Retrieval-Augmented Generation (RAG) to implement the final question-answering system. Experimental comparisons show that compared with the general RAG, the accuracy of the fine-tuned model and the model after incremental pre-training and fine-tuning increased by 48% and 52% respectively. Moreover, it outperforms DeepSeek in both answer precision and comprehensiveness, verifying the effectiveness of domain data-driven model optimization. The method in this paper proves that the intelligent knowledge service scheme for the HF domain is practical, especially in improving teaching effectiveness in medical education, and provides important reference value for modeling work in other vertical domains.

Graphical abstract

关键词

问答系统 / RAG / 模型优化 / 心力衰竭

Key words

question-answering system / RAG / model optimization / heart failure

心力衰竭（以下简称心衰）是心血管疾病发展的晚期，已成为导致全球死亡率上升的重要原因。据世界卫生组织统计，全球患有心衰的人数约6 430万^[1]。在我国，35岁以上人口患有心衰的比例高达1.3%^[2]。在心衰的整个诊疗过程中，包括急性发病的决策、长期慢病的管理、指南的解读以及个体化治疗策略的选择等，都离不开对医学知识的快速检索与循证。然而，面对海量且不断增长的医学知识，传统人工检索与整理工作使得临床医师越来越力不从心。对于医学教育而言，如何帮助学习者高效掌握心衰相关知识、提升学习针对性，更是该领域的一个重要课题。近年来，随着大语言模型（large language models，LLMs）为代表的生成式人工智能（artificial intelligence，AI）技术的出现，利用AI来快速获取医学知识并解释得出医学证据的方法引起广泛关注。然而，直接将LLMs应用于心衰领域仍存在很大的挑战，通用LLMs不能很好地理解心衰的专业语言体系，并且不能直接引用权威的指南文献等作为依据，更重要的是LLMs本身无法实现知识库的动态更新，因此模型知识也会较为滞后。RAG可以通过与外部的知识库连接实现答案溯源，但其语义检索模型是利用通用语料构建的，对心衰领域的检索往往不够精准，极大地限制了通用RAG在心衰教学与临床实践中的应用。因此，开发高效可靠的心衰垂域检索模型，并搭建面向心衰的问答系统，成为了迫切需求。

针对上述问题，本文提出了一种心衰领域数据增强的问答模型优化方法，具体包括：

（1）构建含1 705 510个令牌（token）的心衰专业语料库，对BGE-M3模型进行增量预训练，强化通用基座模型对心衰知识的语义表征；

（2）利用3 224个心衰高质量问答对，对预训练后的模型进一步微调，优化模型对心衰问题的逻辑推理能力；

（3）结合RAG构建心衰领域适配的检索生成问答系统，实现精准的问题理解、证据检索与回答，为心衰教学场景提供高效的知识支持。

为了验证该方法的有效性，本文设计实验，分别对比领域数据增强模型与基座BGE-M3模型、通用RAG和DeepSeek的性能表现。

1 医学大模型与RAG技术的研究进展

近年来，LLMs已经在金融、教育等场景中成功落地，然而直接将LLMs应用到医学场景中时，无论是开源模型（如LLaMa、ChatGLM等），还是商业闭源模型（如ChatGPT等），均面临明显的迁移困难^[3-5]。主要有以下三个原因：一是通用词汇问题，由于训练语料库为通用语料库，导致LLMs对医学专业词汇的认知能力不足；二是诊断思维问题，LLMs缺乏对诊疗决策因果关系机制的认知；三是知识时效问题，医疗知识指南动态性变化使得LLMs的知识更新不及时。因此，LLMs在问诊、诊疗等医学场景中，容易出现诊断建议不准确、诊疗不遵循指南等明显错误。而在医学教育场景中，这些问题会直接影响学习者对知识理解的准确性，甚至传递错误信息。针对上述问题，当前主要集中在两大技术上的探索：参数微调和检索增强生成。

关于参数微调方向，Tian等^[6]把LLM融合到中医药方推荐当中，并且构建TCMLLM-PR模型对指令微调数据集进行定制化调整，在中医教材问答中提升水平；Tan等^[7]基于LLaMA结构搭建MedChatZH模型，首先用精选的医疗指导数据集进行微调，然后再使用中医书籍语料进行预训练，最后在医疗对话数据集上超过多个中文基线模型。对于用药指导与不良反应预测场景，Dou等^[8]提出了神农GPT，其思路为先用模型学习提取药物数据库的基本相互作用知识，然后用真实患者的案例让模型模仿人做出决策，所以该模型可以针对具体的问题给出较为贴切的答案，故其效果优于基线LLMs。这些研究均表明，通过领域数据微调的模型在专业知识问答中表现更优，为医学教育中精准知识的传递提供了技术基础。

尽管领域适配训练可以大幅提高基线LLMs在医学任务中的准确性，但由于医学知识库本身是不断变化的，随时会发布新的诊疗指南或新药上市，而LLMs大规模的知识实时迭代更新在工程上十分困难。也正是在这种情况下，RAG技术开始引起大家的关注^[9-10]。RAG最突出的优点就是能实时地把最新的医学知识直接纳入到检索系统，并且还能为产生的内容与检索源建立起关系，以达到医学知识溯源的效果，使得整个决策过程变得有理有据。在医学教育中，这种可溯源性能够帮助学习者明确知识来源，培养其循证思维。丁宁等^[11]将RAG技术以及临床医学教科书知识库结合起来，在实现了智能问答准确可靠的同时降低了AI幻觉的发生率。而Miao等^[12]则基于2023年慢性肾病指南提出一个针对ChatGPT的RAG定制版本，这样可以利用RAG产生精准的专家级医疗建议，另外也可以通过构建该系统来引领肾病学的临床实践更好地向可靠、高效的决策阶段迈进。

本文聚焦于心衰领域，训练模型并构建心衰精准问答系统。首先，利用心衰领域语料增量预训练BGE-M3模型；其次，基于预先准备好的问答数据集，对预训练后的模型进一步细粒度微调；最后，结合RAG，将优化后的模型与LLMs融合构建心衰领域问答系统，并探索其在医学教学中的应用价值。

2 心力衰竭领域问答模型构建方法

基于RAG的问答系统可以从根本上解决大模型在医学领域回答不精准、知识更新不及时，以及无法对回答的内容进行溯源等问题。该系统主要包括语义检索模型和LLMs，其中，语义检索模型用于从知识库中准确地查找与用户问题相关的知识内容，LLMs将这些知识内容进行整合，最终生成与用户问题相关的回答。系统结构图如图1所示。

基于构建好的本地知识库，利用语义检索模型对知识库中的内容进行文本向量化，得到知识向量库；同时使用语义检索模型将输入的问题进行向量化，得到问题向量。通过向量相似度筛选出topk与用户提问最接近的答案作为参考依据，将问题和相关的答案构成prompt输入模型；通过LLM的理解分析，生成最终答案，并且如果问题超出知识库的范围，禁止模型自动生成答案引起“幻觉”误导用户。

与直接使用LLMs相比，RAG虽然能解决一部分问题，但是通用RAG中使用的语义检索模型在垂直领域的语义表征能力不足，难以满足心衰的专业需求。

BGE-M3模型是BAAI和中国科学技术大学发布的通用领域语义开源模型^[13]，在大规模通用语料上完成预训练，具备基础的语言理解、语义编码和知识推理能力，并且与其他开源模型及OpenAI模型对比，BGE-M3模型在很多项测评中全面领先。因此，本研究选择BGE-M3模型作为心衰领域语义检索的基座模型，并针对心衰领域进行了优化和改进。

2.1 领域语料与问答数据的体系化构建

收集并整理心衰领域的指南共识、文献书籍等语料，涵盖心衰分型、诊断标准及治疗路径，用于BGE-M3的增量预训练。国内外指南共识共计153篇，包括从2006年到2025年的中国心力衰竭诊断和治疗指南、HFA／ESC共识建议、ACCF AHA指南、CCS／CHFS心衰指南、AHA／ACC／HFSA 指南等内容，均为国内外权威学术组织制定，对心衰的临床实践具有很强的指导意义，并且被广泛认可和应用。心衰相关的书籍主要有3本：（1）《内科学（第10版）》是国内医学教育的标配教材，由教育部、卫健委规划，知识体系系统且全面；（2）《内科护理学（第6版）》是护理学科的核心教材，由权威机构的学科带头人、临床护理专家及高校学者共同编撰；（3）《西医内科学（第5版）》是临床医生诊断和治疗内科疾病的重要依据，具有高度权威性。从3本书籍中选择心衰相关内容，与指南共识等一起组成模型预训练的基础语料。

将原始数据经过结构化处理，识别出标题、图表、文本内容等，并将文本转换为统一的UTF-8编码，确保文本格式一致；过滤数据中的无用信息，包括页眉、页脚、标签、特殊符号、乱码、重复的内容等；按照一定的方式划分chunk，处理后共得到含1 705 510个令牌。其中，指南共识的令牌数共计166万，书籍的令牌数共计4万。增量预训练的数据样例如表1所示。

通过对心衰指南、治疗方案及专家经验总结，构建心衰领域的专业知识问答，用于BGE-M3的微调。共收集整理3 224个心衰相关问答对，数据样例如表2所示。其中，基础概念类问答对约1 500条，主要是心衰的基础医学知识，如“心衰的诊断流程”“心衰的发病率”；临床应用类问答对约1 700条，包括治疗调整、并发症管理等，如“心衰患者的用药是否能在社区进行方案或剂量的调整”“慢性HFrEF患者使用β受体阻滞剂时出现液体潴留和心衰恶化如何处理”。3 224个问答对遵循疾病的诊疗路径制定，包括心衰的定义、病因、预防、症状、检查、诊断、治疗、随访管理等，覆盖心衰全周期，并且全部为医学人工整理，数据质量高，理论上可提升模型效果。

2.2 两阶段模型优化训练策略

增量预训练：采用高掩码率编码-解码策略，基于6块A800 GPU进行分布式训练，训练轮次为100轮，学习率为2e-5，批量大小为24。

模型微调：采用全参数微调，重新初始化了所有的模型参数权重，同时利用对比学习的方法，从问答对中采集与目标问题语义相似的问题与问题对应的答案组合成正样本对，强化模型的语义区分能力，设置训练时的学习率为1e-5。

2.3 模型评估指标

将3 224个心衰问答对随机划分为不相交的5等份，并选出其中1份作为测试集，剩余的4份作为训练集。语义检索任务本质上属于多标签分类问题，因此本文采用多标签分类中常用的top@K指标作为评估指标^[14]。具体来说，分别使用前K项精确率（Precision@K）、前K项召回率（Recall@K）和前K项F1分数（F1@K）来评估模型在测试集上的性能。精确率表示预测为正例的结果中的正确比例，召回率表示所有正例样本中被预测为正例的比例，F1分数是精确率和召回率的综合平均值，用来综合评估模型的能力^[15]。三个指标定义如下：

\mathrm{P}\mathrm{r}\mathrm{e}\mathrm{c}\mathrm{i}\mathrm{s}\mathrm{i}\mathrm{o}\mathrm{n}@\mathrm{K}=\frac{{\sum }_{i=\mathrm{1}}^n\left|R(i)\bigcap T(i)\right|}{{\sum }_{i=\mathrm{1}}^n\left|R(i)\right|}（1）

\mathrm{R}\mathrm{e}\mathrm{c}\mathrm{a}\mathrm{l}\mathrm{l}@\mathrm{K}=\frac{{\sum }_{i=\mathrm{1}}^n\left|R(i)\bigcap T(i)\right|}{{\sum }_{i=\mathrm{1}}^n\left|R(i)\right|}（2）

\mathrm{F}\mathrm{1}@\mathrm{K}=\frac{\mathrm{2}\times \mathrm{P}\mathrm{r}\mathrm{e}\mathrm{c}\mathrm{i}\mathrm{s}\mathrm{i}\mathrm{o}\mathrm{n}@\mathrm{K}\times \mathrm{R}\mathrm{e}\mathrm{c}\mathrm{a}\mathrm{l}\mathrm{l}@\mathrm{K}}{\mathrm{P}\mathrm{r}\mathrm{e}\mathrm{c}\mathrm{i}\mathrm{s}\mathrm{i}\mathrm{o}\mathrm{n}@\mathrm{K}+\mathrm{R}\mathrm{e}\mathrm{c}\mathrm{a}\mathrm{l}\mathrm{l}@\mathrm{K}}（3）

其中，i表示测试集中的第i个样本，T(i)表示第i个样本对应的真实检索结果，R(i)表示第i个样本的预测结果，n表示测试集中的样本数量。

3 实验验证与结果分析

3.1 模型增量预训练性能评估

利用包含1705 510个令牌的心衰领域语料作为增量预训练数据，对BGE-M3模型进行预训练，使其学习心衰领域专业词汇、临床逻辑的语义表示。实验过程中，在测试数据集上监控了准确率、召回率、F1分数等，得到模型的性能在训练的第12轮时最好，监控指标变化如图2所示。

3.2 模型微调的对比结果

为了进一步优化模型在下游任务上的表现，选取预训练阶段中表现最好的第12轮模型，使用3 224条心衰领域问答数据进行下游任务微调，训练模型共50轮，模型损失值下降过程如图3所示。在同样的测试集上动态选择得到最好的模型与基座BGE-M3比较，如图4中实验组所示，包括基座模型BGE-M3（baseline）、对BGE-M3进行下游任务微调的模型（sft），以及增量预训练后再微调的模型（pre_train+sft）。

实验结果显示，模型优化后，提升了通用模型在心衰领域问答任务中的专业能力。具体来说，sft模型比基线模型明显提升，平均准确率提升了47.96%；pre_train+sft模型学习了心衰领域的语义表达，效果比sft模型更进一步提升，平均准确率提升了52.02%。图5展示了2个临床应用类问答对的测试结果，其中question是测试问答对中的问题，answer是测试问答对中的正确答案，baseline和pre_train+sft分别表示基座模型和优化后模型给出的答案。通过观察发现，baseline模型难以准确理解复杂医学问题的语义特征，因此不能给出准确的回答，case1的问题是“慢性HFrEF患者使用β受体阻滞剂出现低血压怎么办”，但baseline回答的是该类患者使用β受体阻滞剂的不良反应，而在case2中baseline同样没有理解问题含义，将心衰患者的随访管理内容错误地回答成了心衰患者避免或慎用的药物；而优化后的模型学习了心衰语义表达及临床逻辑的表示，理解能力明显提升，对于case1的回复与标准答案一致，而对case2的回复，虽然不是很全面，但也是与心衰患者随访管理相关的内容，这可能是由于随访管理相关的问题在训练数据中数量较少导致的，因此后续针对错误案例补充训练数据，是进一步优化模型的方向。

3.3 RAG系统临床应用效果验证

利用训练好的语义检索模型构建RAG问答系统，并与DeepSeek及通用RAG进行对比，其中DeepSeek在公开评测集中取得领先成绩，通用RAG则是将基座BGE-M3模型与DeepSeek融合构建，结果如图6所示。question一行是原始问题；DeepSeek一行是直接用DeepSeek回答的结果，答案中有回答不准确的情况（已用下划线文字标识说明）；通用RAG一行显示不能对问题进行回答，这是由于基座BGE-M3对心衰语义表达能力欠佳，并未从知识库中找出与原始问题相关的内容；优化后RAG是对BGE-M3利用心衰数据进行增量预训练和微调后并结合DeepSeek回答的结果，能准确地理解心衰领域语义表达，并且给出精准全面的回答。

在医学教育场景中，该系统的应用效果主要体现在以下三个方面：第一，对于刚开始接触心衰知识的医学生，系统可快速响应基础概念类问题，整合成条理清晰的答案，并返回指南或教材中的原文依据，帮助学生建立问题点与知识的关联记忆；第二，针对临床实习生，系统可支持复杂临床问题的分析，整合多源数据，包括指南、用药、注意事项等内容进行回答，有利于学生构建更具体系统的心衰临床知识；第三，该系统还可以满足心内科医师的知识更新需求，帮助医师快速追踪指南变化，掌握知识更新要点。

4 结束语

本文面向心衰领域对精准知识服务的需要，提出了一种领域数据增强的问答模型优化方法，通过领域知识增量预训练、微调并结合RAG构建心衰问答模型。实验结果显示，与基座BGE-M3相比，微调后的模型准确率提升了48%，增量预训练和微调的优化方式使模型的准确率提升了52%，证明了借助领域数据来驱动检索模型优化的有效性，克服了LLMs的知识更新滞后和可解释性不足等问题。

从AI发展的前沿趋势来看，医疗领域的大模型研究不断向更专业化、精细化的方向发展，本文聚焦心衰这一特定的疾病领域，通过收集心衰相关内容语料及问答对数据优化模型，使得模型在处理该领域问题时能够更精准。而通用大模型由于缺乏对心衰领域知识的深度学习，给出的答案存在回答错误、信息不全或未结合心衰特异性等问题。因此，本文进一步验证了对通用大模型在医疗细分领域的拓展、领域数据增强实现模型优化是有效且必要的，也为后续其他领域的AI应用提供了重要的方法借鉴和实践参考。

从医学教育发展的需求来看，本文构建的心衰领域RAG系统，有效解决了知识时效性的问题，系统知识库可实时同步最新指南，弥补了教材更新滞后的不足之处，同时可强化医学生循证思维的培养，系统中的答案均标注了来源，方便学习者查依据溯源头。另外，该系统还支持个性化学习，通过精准检索满足不同医学角色的差异化需求。

目前，本研究主要是心衰知识检索的优化，而在实际临床应用中，想让模型真正做到辅助医师诊断，还需要让模型进一步掌握疾病诊疗的思维逻辑和推理方法。后续研究可以从以下多个维度进行展开：第一，收集包含诊断过程、检查报告、推理依据等内容的病历数据，对模型进一步优化；第二，多中心临床验证模型在不同医疗场景下的泛化能力；第三，与电子病历对接实现医师在诊疗过程中实时的查知，并根据诊疗与教学反馈，不断优化模型在辅助诊断及医学教育场景中的表现。这些研究将进一步推进心衰领域智能服务落地，并为安全、可解释的医疗AI提供解决思路。

参考文献

[1] BRAGAZZI N L, ZHONG W, SHU J X, et al. Burden of heart failure and underlying causes in 195 countries and territories from 1990 to 2017[J]. European Journal of Preventive Cardiology, 2021 (15): 1682-1690.

[2] HAO G, WANG X, CHEN Z, et al. Prevalence of heart failure and left ventricular dysfunction in China: the China hypertension survey, 2012 — 2015[J]. European Journal of Heart Failure, 2019(11): 1329-1337.

[3] 黄子扬, 董超, 姜会珍, 等. 医学大模型幻觉问题及应对策略的研究与实践[J]. 数字医学与健康, 2025(1): 54-58.

[4] 蔡文涛, 丁增辉, 李梦, 等. 面向医学领域生成任务的大语言模型性能评测研究[J]. 电脑知识与技术, 2025 (4): 11-16.

[5] 刘泓泽, 王耀国, 唐圣晟, 等. 医学大语言模型的应用现状与发展趋势研究[J]. 中国数字医学, 2024 (8): 1-7.

[6] HAOYU T, KUO Y, XIN D, et al. TCMLLM-PR: Evaluation of large language models for prescription recommendation in traditional Chinese medicine[J]. Digital Chinese Medicine, 2024(4): 343-355.

[7] TAN Y, ZHANG Z, LI M, et al. MedChatZH: A tuning LLM for traditional Chinese medicine consultations[J]. Computers in Biology and Medicine, 2024, 172: 108290.

[8] YUTAO D, XIONGJUN Z, HAITAO Z, et al. ShennongGPT: A tuning Chinese LLM for medication guidance[C]//2023 IEEE International Conference on Medical Artificial Intelligence, Beijng, China, September 2023: 67-72.

[9] YUNFAN G, XIONG Y, XINYU G, et al. Retrieval-augmented generation for large language models: A survey[J]. arXiv preprint arXiv: 2023.

[10] 陈冬雷, 秦薇. 基于检索增强生成的智能问答系统关键技术研究[J]. 办公自动化, 2024, 29(19): 82-86.

[11] 丁宁, 宋雨欣, 单泽田, 等. 基于检索增强生成 (RAG) 技术的医学教学辅助智能问答系统的构建探索[J]. 中国医学教育技术, 2025(1): 1-5.

[12] MIAO J, THONGPRAYOON C, SUPPADUNGS-UK S, et al. Integrating retrieval-augmented generation with large language models in nephrology: Advancing practical applications[J]. Medicina 2024(3): 445.

[13] JIANLV C, SHITAO X, PEITIAN Z. Bge m3-embedding: multi-lingual, multi-functionality, multi-gran-ularity text embeddings through self-knowledge distillation[C]// Annual Meeting of the Association for Computational Linguistic, 2024.

[14] ZHAO W, LU WK, LI ZY, et al. TCM herbal prescription recommendation model based on multi-graph convolutional network[J]. Journal of Ethnopharmacology, 2022, 297: 115109.

[15] DONG X, ZHENG Y, SHU ZX, et al. TCMPR: TCM Prescription recommendation based on subnetwork term mapping and deep learning[J]. BioMed Research International, 2022(1): 4845726.

基金资助

上海市科委医学创新研究专项“基于‘心肾同治’理论指导的中医药干预治疗射血分数保留型心力衰竭的随机对照、双盲、安慰剂、多中心临床研究”(23Y31920200)

国家自然科学基金青年科学基金项目“基于深度学习与多模态构建中西医射血分数保留型心衰复发风险预测模型研究”(82405185)