基于电子病历数据和知识增强的医疗大语言模型构建方法研究

摘要

背景电子病历数据在构建医疗领域大规模语言模型中具有关键作用。目的 研究一种基于通用大语言模型的三阶段训练范式，以充分挖掘电子病历数据的价值。方法 第一阶段，利用大规模电子病历文本对预训练的通用模型进行进一步训练，增强其医疗领域的语言知识；第二阶段，利用标注的电子病历数据针对特定临床任务对模型进行微调，从而赋予其专业的任务处理能力；第三阶段，通过结合医师的反馈优化模型输出，进一步提升其决策的准确性和可解释性。结果 该方法显著提升了模型在临床任务中的表现，减少了模型产生幻觉的现象，并增强了输出的可信度。结论 该研究为构建规范化、可信赖的医疗大规模语言模型提供了有效的方法，具有重要的实际应用价值。

关键词

大规模语言模型 / 医疗人工智能 / 继续训练 / 有监督指令微调 / 强化学习

基金资助

新一代人工智能国家科技重大专项(2021ZD0140408); 省部级课题