基于检索增强生成技术的中医药问答大语言模型的构建

摘要

目的 构建基于检索增强生成技术的中医药问答大语言模型。方法 收集中医古籍《伤寒论》、中医教材、名老中医经方及其他人工标注的中医数据集组建中医药语料库，构建中医药知识向量库；将检索增强生成(RAG)技术结合P-Tuning v2微调方法与大语言模型(ChatGLM2-6B)进行融合构建中医药问答大语言模型。结果 以精确率、召回率与F1值为知识问答任务的评价指标进行验证，在简单类中医问答可以达到90%以上的准确率，其中成分类问题的回答准确性最高，F1值达到0.928,中高难度问答准确率在75.8%～87.7%之间，F1值均达到0.766以上；以多样性和准确性为中医问题生成任务的评价指标进行专家打分，研究模型相较于基座模型高出了9.5分。结论 研究模型具备良好的语义理解能力和较高的可靠性，有效缓解了模型幻觉并帮助患者明确问题意图，对推进中医药知识的研究以及人性化的交互式回答具有重要意义，为促进中医经验的传承与普及、中医诊疗智能化建设提供了创新方式。

关键词

中医药知识库 / 大语言模型 / 问答系统 / 检索增强生成技术

基金资助

国家中医药管理局高水平中医药重点学科建设项目(国中医药人教函[2023]85号); 江苏省中医药科技发展计划项目(MS2023010); 2023年江苏省研究生科研创新计划(KYCX23＿2084)