医学教育中大语言模型应用信息幻觉及其抑制策略

Research on the Information Hallucination in Large Language Model Applications for Medical Education and Its Mitigation Strategies

摘要

大语言模型为医学教育带来深刻变革的同时，其信息幻觉问题凸显，给医学教育带来潜在风险。该研究聚焦医学教育中信息幻觉的场景映射，识别出医学教育中三类信息幻觉：知识传授场景的事实冲突型、学习辅助场景的逻辑断裂型、临床模拟场景的语境误导型；进而从三个层面将医学教育中的信息幻觉问题归因为数据驱动层面局限、模型架构与训练机制缺陷、医学教育场景动态复杂等。基于此，研究提出从技术优化、教育适配、伦理校准、人机协同等方面构建多维协同的抑制策略体系：多模态知识融合与动态验证机制构建；推理链可视化追溯与因果增强模型优化；临床多元语境嵌入与价值校准框架设计；基于人机协同的元认知学习体系强化。总之，该多维策略体系有助于在保障大语言模型创新潜力的同时，系统性降低信息幻觉在医学教育中的传播风险，提升模型输出的可靠性与教学适配性，为安全、可靠地推进智能医学教育提供实践路径。

Abstract

Large language models (LLMs) have significantly transformed medical education, yet the issue of information hallucination has emerged as a critical concern, introducing potential risks to medical education. This study systematically maps the manifestations of information hallucination within medical education contexts, identifying three distinct types, including fact-conflict hallucinations in knowledge transmission scenarios, logic-disruption hallucinations in learning support settings, and context-misleading hallucinations in clinical simulation environments. The study further analyzes the underlying causes across three interrelated dimensions including limitations inherent in data-driven training paradigms, architectural and algorithmic constraints in model design and training mechanisms, and the inherently dynamic and complex nature of medical education environments. On this basis, the study proposes constructing a multi-dimensional collaborative inhibition strategy system encompassing technical optimization, educational adaptation, ethical calibration, and human-machine collaboration. Key components include the development of a multimodal knowledge fusion system with dynamic validation protocols, enhancement of reasoning traceability through interpretable inference chains and causal modeling, integration of diverse clinical contexts with value-sensitive calibration frameworks, and the establishment of a human-machine collaborative meta-cognitive learning architecture. In conclusion, this multidimensional strategy system is conducive to preserving the transformative potential of LLMs while systematically minimizing the propagation of hallucinated content, enhancing the reliability and instructional suitability of model outputs, thereby providing a practical pathway for the safe and reliable advancement of intelligent medical education.

关键词

医学教育 / 大语言模型 / 信息幻觉 / 幻觉抑制

Key words

Medical education / LLMs / Information hallucination / Hallucination mitigation

大语言模型（Large Language Model， LLM）是一种基于大规模语料库进行预训练的超大型深度学习模型^［1］，以ChatGPT、DeepSeek-R1、Med-PaLM等为代表，凭借其强大的自然语言处理能力和知识生成效率，正在深刻重塑着医学教育生态。据统计，全球超过67%的顶尖医学院校已在其课程体系中引入AI辅助教学组件，用于基础医学知识传授、临床思维训练及考核评估等场景^［2］。这种技术融合不仅能够模拟临床对话、生成教学案例、解答医学疑问，而且还能参与临床决策支持。为医学教育提供了前所未有的数字化辅助，显著提升教学设计的个性化、教学资源的可及性和教学评价的科学性。然而，随着大语言模型应用的深入，信息幻觉（Hallucination）问题在医学教育领域逐渐凸显。模型在运用过程中极易生成与医学事实不符或缺乏可靠依据的误导性内容，给医学教育带来了潜在风险。因此，厘清医学教育场景中的信息幻觉表现形式，对其深层根源进行系统剖析，建立具有针对性的风险防控策略，助力AI技术安全融入医学教育体系。

1 医学教育场景中大语言模型信息幻觉的场景映射

从基础理论教学到临床技能培训，大语言模型凭借强大的信息处理能力和自然语言的交互特性，深刻映射医学教育中教师知识传授、学生学习辅助、临床实践模拟等三大核心场景。然而，这种场景映射也由于技术层面缺陷形成了系统性的“信息幻觉”问题：大语言模型生成看似合理但与实际不符、缺乏逻辑支撑、偏离专业语境的内容。具体而言，医学教育中的AI信息幻觉问题可归结为事实冲突型幻觉、逻辑断裂型幻觉，以及语境误导型幻觉等。同时，伴随信息幻觉问题而来的危害，在知识层面表现为错误概念的内化、技能层面表现为有缺陷的临床推理模式、决策层面表现为错误的医疗诊疗隐患。

1.1 知识传授场景中的事实冲突型幻觉

在医学教育中，教师可借助大语言模型来辅助备课。在此过程中，大语言模型发挥的作用包括：即时问答工具、教学内容生成器和电子教材拓展资源。然而，当模型生成内容与既定的医学事实或科学共识发生根本性冲突时，便产生了事实冲突型幻觉（Factual Conflict Hallucination）。本质上，这类信息幻觉现象意味着AI生成内容与可验证的医学知识之间出现了认知鸿沟，而且这种幻觉常常采取一种专业化的知识表征策略，具有极强的迷惑性、隐蔽性和误导性。

首先，对基础医学知识的扭曲表述。一方面，医学领域拥有大量专业术语，其含义精确且具有特定的临床背景。例如，“心力衰竭”和“心功能不全”在医学上有明确的定义和区别，但大语言模型可能会将它们混淆，生成模糊或错误的解释。在讲解疾病诊断标准时，模型可能会遗漏关键的诊断指标或错误地添加不相关的条件，影响学生对疾病诊断的准确理解。另一方面，临床实践本身的复杂性和严谨性要求医学教育场景中应用大模型时也保持严谨态度。因为“医学数据不仅包括科学的客观信息，如患者的检验结果和体征数据，也包含患者就医的主观感受、临床过程中的情绪变化以及医务人员的记录”^［1］。大语言模型并不具备主观能动的核检鉴定能力，无法像人类大脑一样对知识进行长时记忆、思考和逻辑推理，因而也就无法在医学教育场景下对药物剂量的使用和紧急疾病的防控进行精准评估。因此，教师在运用大语言模型进行知识传授时，若由于缺乏充足的专业知识，难以对大语言模型的生成结果进行准确鉴别，可能导致医学知识在临床使用中因缺乏严谨性而出现重大失误。

其次，对过时医学指南的不当引用。生物医学相关知识更新迭代速度越来越快，促使新的研究成果和临床指南不断涌现，而大语言模型的训练数据往往难以实时跟进。具体而言“训练数据有偏差且不完整，则算法可能有偏差且不完整，导致信息的不完整、过时或不准确”^［3］。事实上，大语言模型的知识基础在于研发者向系统中输入的数据以及使用过程中所获取的信息^［4］，由于模型的训练周期长、验证流程复杂、知识更新机制有待完善，其医学知识库的更新往往具有迟滞性，导致大模型难以精准把握医学指南的更新迭代规律，在知识输出时产生与现行临床标准相悖的信息偏差。因为医学指南的更新往往伴随循证医学证据的迭代，例如，美国糖尿病协会（ADA）每年度更新的糖尿病诊疗指南、欧洲心脏病学会（ESC）定期修订的心血管疾病管理指南等，这些更新可能涉及诊断阈值、治疗流程或药物推荐的重大调整。然而，大语言模型生成内容时极易因训练语料未同步更新而延续对旧版指南的引用，例如，将2010年WHO糖尿病诊断标准中的空腹血糖阈值7.0 mmol/L作为当前标准输出，却忽略了2023年ADA指南中关于糖化血红蛋白（HbA1c）检测的优先级调整。这种不当引用最终导致模型输出的知识体系具有误导性，可能使医学生将过时的指南建议视为当前临床金标准，在见习或实习阶段面对真实病例时出现诊断思路偏差。

再次，对前沿医学进展的虚构声明。一方面，训练数据的质量直接影响模型输出的准确性。大语言模型为学术研究提供文献支撑作用时，需要利用知识图谱和语料库中的信息创建和生成使用者所需新内容^［5］，若模型训练数据包含虚假、过时的信息，就可能导致生成内容与现实脱节。例如，在基因治疗领域，模型可能基于过时或错误的数据，虚构出某种新型基因编辑技术已通过 III期临床试验的结论，而实际该技术仍处于实验室阶段。这种虚构声明可能源于训练数据未及时纳入最新研究成果，或模型在推理过程中错误整合不同研究的结论。另一方面，模型的推理机制存在局限性。本质上，大语言模型通过概率预测生成内容，当面对复杂的医学逻辑或需要多源数据整合时，可能因语境理解偏差或长时记忆丢失而产生矛盾结论。例如，在解释某种罕见病的发病机制时，模型可能混淆不同基因突变的作用，生成虚构的因果关系，导致学生误判临床决策的依据。换言之，前沿医学知识的快速迭代与模型训练数据的滞后性之间的矛盾，导致模型缺乏对动态知识的实时验证能力。此外，前沿医学进展的不确定性也加剧了幻觉风险，许多突破性研究尚处于早期阶段，结论可能存在争议或未经验证，但模型可能将这些初步结果误判为确定性结论。

1.2 学习辅助场景中的逻辑断裂型幻觉

在学习辅助场景中，大语言模型的信息幻觉因医学教育的学科特性而被放大。医学知识体系建立在严密的因果逻辑基础之上，对精确性、严谨性和系统性具有极高要求。但LLM生成内容在表面连贯的叙述下常常隐藏着关键推理链条扭曲的问题，导致结论与事实或逻辑脱节，即形成“逻辑断裂型幻觉”。这类幻觉不同于明显的知识性错误，其隐蔽性更强且危害性更大。

一方面，逻辑断裂型幻觉的显性表征。大语言模型常呈现离散知识点间的因果链断裂，这种隐性逻辑断裂，对于正在构建系统性医学知识框架的学生而言，会形成认知偏差、埋下安全隐患。以“抗生素使用原则”为例，当学生查询“青霉素过敏患者术后感染处理方案”时，模型可能机械组合“头孢菌素”与“术前预防性用药”策略，却忽略了β-内酰胺类药物的交叉过敏反应机制。这种错误根源于大模型对医学知识的理解停留在词汇层面，未能建立基于“药物化学结构、过敏机制、替代方案”之间的立体知识网。与此同时，大模型在病程演变分析场景中也可能陷入时序逻辑混乱情境。例如，在进行肿瘤化疗方案推演时，模型可能正确列举“FOLFOX”方案组成，却在剂量调整环节错误关联非相关毒性反应数据。更严重的是，当大语言模型在处理“化疗后血小板减少”案例时，可能会一刀切地建议输注血小板，却忽视骨髓抑制分级标准，从而导致处置措施与NCCN指南产生系统性偏差。这是因为医学知识的多模态特性，使模型难以有效整合实验室指标、影像特征、病理分级等异构数据间的动态关联。

另一方面，逻辑断裂型幻觉的次生危害。逻辑断裂型幻觉所引起的风险不仅表现为对医学生的认知结构解构，更为典型的危害是对临床思维模式的腐蚀。这种危害与医学教育培养“批判性思维”“科学思维”的核心目标直接冲突，对临床医学的发展产生严重阻碍。临床医学知识体系以“树状知识体系”为核心，医学生在应用大模型进行学习时往往遭遇大模型“碎片化认知”的干扰。当学生反复接触存在逻辑断层的模型输出时，可能形成“虚假知识锚点”。例如，误将“糖尿病酮症酸中毒补液首选生理盐水”简化为“所有脱水均用生理盐水”，这种错误认知一旦融入长期记忆，将大幅增加临床实践中纠错成本。更严重的是，逻辑断裂产生的“局部最优解陷阱”造成医学生临床决策能力的异化风险。例如，在有关“急性胰腺炎”案例的模拟诊疗环节，大模型可能直接建议“急性胰腺炎患者使用生长抑素”（忽略关键适应证判断标准），从而误导学生形成“见胰炎即用药”的刻板决策模式，久而久之甚至对错误决策形成路径依赖。而这种路径依赖产生的连锁反应是，医学生可能在学习场景中依赖“碎片化采集”倾向。例如，面对“腹痛待查”病例时，仅关注疼痛部位而忽视伴随症状的时间序列关系，导致个体化诊疗能力退化。

此外，逻辑断裂型输出可能触发“虚假权威效应”，进而导致伦理危机。当模型以肯定语气呈现错误结论时，多数医学生倾向于采信而非质疑，这种信任偏差一旦延续至临床阶段，造成的医疗决策失误将不可避免。例如，在心理健康教育中，模型若直接关联“焦虑症状”与“双相情感障碍”，可能导致学生过早形成病理性标签认知，违背“无害化”医学伦理原则。

1.3 临床模拟场景中的语境误导型幻觉

临床实践模拟是医学教育的重要环节，大语言模型（LLM）在其中扮演着虚拟患者与智能导师的角色，能够模拟复杂病例、生成沉浸式诊疗对话、提供即时知识反馈^［6］。然而，临床实践模拟场景中常常遭遇“语境误导型幻觉”，并在潜移默化中削弱临床决策教育的根基，误导受训者陷入危险的思维定式。

第一，病史采集环节的语境剥离式误导。在临床实践模拟的病史采集训练中，大语言模型常常忽略症状发生的背景。当处理“突发性胸痛伴左肩放射”的模拟病例时，模型可能仅记录疼痛性质与放射部位，却遗漏“患者晨起剧烈运动后发作”的关键情境要素，这种语境要素的缺失，会使学生忽视“运动诱发心肌缺血”的诊断方向；在消化系统疾病模拟中，模型对“餐后腹痛加剧”的症状描述，可能未关联“患者长期服用非甾体抗炎药”的用药史语境，导致学生难以建立“药物性胃黏膜损伤”的诊断联想；在心理社会史采集场景，当模拟“慢性头痛伴焦虑”的病例时，模型可能倾向于聚焦神经影像学检查建议，将注意力过度集中于中枢神经系统病变，反而屏蔽了“患者近期工作压力骤增”的社会心理语境，形成“生物医学指标优先于社会心理评估”的诊疗偏差。这种语境剥离本质上是模型对“症状-诱因”关联逻辑的识别缺陷，削弱了病史采集的系统性思维训练。

第二，诊断决策环节的语境错配式误导。临床决策常常依赖于严谨的时序逻辑：病情的发生、发展、转归等都必须符合病理生理学规则，然而，LLM在整合多源患者信息以便构建动态叙事时，往往会无意识地弱化、模糊甚至颠倒真实事件发生的先后顺序，诱发时序错乱。尽管这种错序幻觉并不会凭空捏造事件，但会错置事件节点、压缩合理进展或模糊时间尺度。例如，在感染性疾病模拟病例中，面对“发热伴咳嗽且胸部CT示斑片状阴影”的情境，模型可能直接推荐“肺炎链球菌”的经验性治疗，却忽略“患者1周前有鸟类接触史”的流行病学语境，导致错失“鹦鹉热衣原体感染”的诊断结论。这种语境错配恰恰反映了模型对诊断证据时空关联性的处理缺陷。急诊模拟场景中的语境错配危害更为显著，尤其在多系统疾病共存的复杂病例中，语境错配可能引发诊断方向的根本性偏差。例如，当面对“意识障碍伴低血糖”病例时，大模型若仅考虑“肝性脑病”等非医源性因素，未关联“患者正在接受胰岛素泵治疗”的语境，就会使学生形成错误的急诊思维惯性，在真实的临床实践中陷入证据链断裂的决策困境。​

第三，治疗方案推荐的语境脱嵌式误导。医学治疗方案推荐需要根据患者的具体情况进行个性化决策，包括患者的年龄、性别、身体状况、过敏史等。如果模型在生成治疗方案时忽略了这些关键因素，就会在推荐药物的剂量和使用方法方面出现错误，误导学生的临床决策思维，进而使其在实际临床工作中面临风险。例如，在心血管疾病模拟中，如果大模型对“急性心肌梗死”患者推荐溶栓治疗方案时直接生成标准治疗方案，而忽略“患者半年前有脑出血史”的禁忌证语境，这种语境脱嵌会使学生忽视溶栓治疗的出血风险评估。当然，更严重的语境脱嵌问题体现在围手术期管理模拟中。如果模型对“胃癌根治术”患者推荐术后镇痛方案时，未整合“患者有阿片类药物过敏史”的个体语境，而是草率地推荐“吗啡静脉镇痛”，这种对过敏史的语境屏蔽会误导学生轻视术前评估的重要性。

可见，临床实践模拟中的语境误导性幻觉，本质上是模型对“个性化医疗”原则的执行缺陷。尤其是在多病共存、老年衰弱等复杂病例情境中，语境脱嵌会使学生在临床实践中形成“指南照搬”而非“语境适配”的治疗思维，导致治疗方案的整体失效。因此，在医学教育领域“大语言模型可能在语料运用过程中存在潜在偏倚，需要进行人工二次验证对所产生结果的可解释性进行分析和确定”^［7］。

2 医学教育场景中大语言模型信息幻觉的归因维度

大语言模型应用于医学教育场景中触发的信息幻觉现象，已对精准医学教育构成潜在威胁。本质上，这种幻觉是模型在处理复杂的医学知识和临床模拟时产生的认知偏差，主要包括：教学图谱映射中因数据采样偏差导致的知识节点误连与验证机制失效、诊疗推理链条中因果关系的断层式错位与逻辑失洽，以及临床情境建模时医疗诊断的语境脱嵌与价值失准。当前研究亟须解构这三重生成机制，为构建安全可靠的医学智能教育系统提供理论锚点。

2.1 教学图谱映射中的数据偏差与验证失效

首先，教学图谱的数据偏差是导致信息幻觉的根源性缺陷。在医学教育场景中，大语言模型依赖的“教学图谱”本质上是对医学知识的结构化映射，其构建过程中触发的系统性数据偏差是事实冲突型幻觉的主要诱因。医学专业语料库的质量缺陷（如术语不统一或时效性不足）正在侵蚀专业标准的严谨性。大语言模型的生成途径是将现有的数据和信息综合运用，形成符合人类语言表达习惯的新内容，是对各个领域和方向的知识进行综合性分析，对其内容和语言表达的形式化运用^［8］，并没有关于医学专业的特殊语料积累。在现实的使用过程中，医学教育的特殊性要求医学生在理论学习和临床运用的过程中，均需要建立充实扎实、准确科学的专业化语言表达形式。尽管大语言模型的介入为医学教育领域的使用者提供了更为便捷地获取信息的方式，但其非结构化的医学信息并不能够支撑医学生的专业化学习；与此同时，医学数据更新迭代十分迅速，大语言模型信息获取的滞缓性导致语料质量具有一定缺陷，无法在专业性上提供有力帮助。

其次，通用语料库的语言表征模式与医学专业术语体系之间的适配偏差，导致跨领域知识迁移中的语义失真，进而削弱模型输出的临床准确性。截至目前，对大语言模型的发展现状分析，其生成内容的丰富性已经远超了所获取的数据信息，然而，其准确性仍面临着严峻的考验。大语言模型作为人工智能的具体表现，并不具有对输出内容的正确与否的判断能力，因而不能够保证其生成的内容就是“知识”^［8］。大语言模型通过研发者的“日常训练”对自身语料进行补充，以这些语料为生成内容的语言基础，所以输出的内容常常是多个领域和专业语料的综合表述。这一表述虽然总体上符合大众的表达习惯，但是与医学教育语言表达的严谨性并不相符。专业术语被日常用语所代替、通用语料和医学知识表达语义上的矛盾，这些情况均会影响大语言模型在医学教育领域应用的准确性。

再次，罕见病领域的数据覆盖不足（如样本量小、多样性缺失、标准化程度低），制约了个性化医疗中临床分型标准与诊疗方案的精准制定。大语言模型对医学教育特殊性、个性化和深层次内容的理解仍有待深化。一方面，大语言模型在医学教育领域特别是医疗运用方面，难以分析罕见病病例所体现的问题、制定智能治疗计划或者理解特殊患者的具体医疗需求。另一方面，大语言模型在运用医疗数据分析复杂语义，解析医学问题的潜在信息方面仍然不够成熟，在处理信息的过程中，常常会将个性化的医疗数据普遍化，使得医学教育的学习者难以全面了解患者，特别是罕见病患者的症状，从而不能够给予富有针对性的治疗意见。

2.2 诊疗推理链条中的因果错位与逻辑失洽

一方面，自回归机制的统计相关性依赖。大语言模型的核心运行机制是自回归建模，即通过序列中的某一个词继续向下生成相关文本，是通过条件概率进行序列生成的模型。序列中的每个token都依赖于被研发者输入和历史生成的其他token^［9］：

p_i=softmax(LLM\left(x,y_{\mathrm{1}},y_{\mathrm{2}},\dots ,y_{i-\mathrm{1}}\right))（1）

softmax\left(z_i\right)=\frac{exp\left(z_i\right)}{{\sum }_{j}exp\left(z_i\right)}（2）

公式（1）中，x表示输入序列（如指令和源语句）；（y_{\mathrm{1}},y_{\mathrm{2}},\dots ,y_{i-\mathrm{1}}）表示模型运行过程中已经计算出的token序列（根据指令依次生成的内容）；p_i 表示运行中第i步输出的序列中每个token出现的概率。

公式（2）中，softmax函数将LLM输出向量z中的各元素的值z_i 映射到0~1的范围作为各元素对应的概率，输出向量z的维度为词表大小。

将z_i 假设为数字1至10，运用公式进行计算得到结果p_i，见表1。

运用SPSS Statistics数据统计软件对表1数据进行分析，得到以下结果。

根据表2与表3分析结果可知，P=0.020<0.05，即序列中输入的每一个token与其生成的结果具有显著相关性。

综上，在大语言模型运行过程中，修改运行序列中的任何一个token序列，在其之后所生成的token序列100%会受到影响。因此，大语言模型在医学领域的运用中受限于输入语言的限制，根据输入语言的默认算法生成内容，无法与时俱进根据医学发展现状进行能动的因果逻辑分析。

另一方面，医学实体关系建模的粒度不足。大语言模型对于医学实体关系建模的粒度仍有待细化。在粗粒度模式下，大语言模型面对患者提出的困惑仅能够根据其问题表征做出诊断分析和药物建议，不能够对不同药物的相互作用进行判断。因而，患者在根据其建议进行服药时具有一定风险。与此同时，医学报告的细粒度特征包括报告中的专业医学描述，报告中单个单词可能直接与医学影像或医学诊断结果的异常区域直接相关^［10］大语言模型无法对诊断报告进行细节解析，仍需要人工进行二次分析。

此外，大语言模型的生成内容以多个领域的数据和信息为基础，依赖于历史信息的表面语义进行答案拟成。这导致大语言模型所生成的内容不可避免地显现出“过度自信”的特点，生成结果缺乏不确定性提示、潜在错误缺乏明确标识。建立模型在运行过程中对不确定性结果进行明确标识的制度，是完善模型架构、构建训练机制的重要一步。

2.3 临床情境建模中的语境脱嵌与价值失准

其一，临床指南更新的实时性需求。随着医学教育发展场景的多样化、临床指南的种类和数量快速增长，现有适用性评价工具呈现快速发展趋势^［11］。大语言模型作为医学教育领域的学习教育工具需要构建完善和健全的临床指南体系，以确保其生成和输出的临床建议与最近美国国立综合癌症网络（NCCN）指南等权威标准能够保持同步，为医学领域的学者和工作人员提供更为可靠的学习平台。当前，医学领域每年关于最近医学研究的文献数不胜数，NCCN指南平均每年更新1~3次。例如，在2024年12月19日，NCCN公布了《2025子宫颈癌临床实践指南（第1版）》，对子宫颈癌的手术内容进行了8项不同维度的阐释^［12］。大语言模型若不能够及时更新，就会导致临床应用过程中决策滞后，影响治疗效率。

其二，伦理边界模糊问题。“医学教育的特殊性要求对伦理规范与隐私保护保持极高敏感度，而大语言模型的数据处理方式、生成内容的不可控性可能引发多重伦理困境”^［13］。大语言模型在医学教育中的伦理边界模糊是指其在运用时，对人与人工智能、人与人、人与社会、人与自身等方面的伦理关系产生的难以预料和解决难度较大的伦理层面的消极影响^［14］。这种消极影响在具体的医疗过程中，主要表现为大语言模型在根据患者状况做出个体化治疗方案时，存在虚构临床诊断数据、诊疗缺乏可操作性、不考虑患者实际生活方式和治疗水平等缺陷，不能够在真实的诊疗过程中运用。例如，大语言模型在处理“罕见胰腺肿瘤”案例时，模型可能会引用一篇不存在的核心期刊论文作为其治疗推荐的依据。这不仅误导用户构建错误知识体系，更埋下了未来临床决策的隐患。

其三，跨学科知识整合的认知负荷。大语言模型在进行跨学科知识整合时面临认知负荷，不同学科存在术语表达方式的不同和研究渠道的差异。例如，基因学的研究过程侧重于对遗传信息、基因序列等微观分析；而临床医学则更注重对患者的症状、病史以及治疗反应等宏观层面进行分析。大语言模型在将微观知识与宏观知识进行深度理解分析的过程中，由于无法准确把握不同学科具体的应用方式，可能导致在交叉盲区中加剧认知负荷，影响临床实践的准确性和可靠性。

3 医学教育场景中大语言模型信息幻觉的抑制策略

根据医学教育场景的特殊性，对大语言模型在医学发展中所存在的信息幻觉问题提出对应抑制策略。合理有效的抑制策略是实现大语言模型在医学教育体系全方位进步的实践途径，是夯实医学教育知识、拓展诊疗辅助渠道、丰富临床实践场景的关键。其主要包括：多模态知识融合与动态验证机制构建、推理链可视化追溯与因果增强模型优化、临床多元语境嵌入与价值校准框架设计、基于人机协同的元认知学习体系强化四个主要方面。

3.1 多模态知识融合与动态验证机制构建

首先，医学知识图谱嵌入对比学习。在医学领域，大语言模型在运行过程中不具备提供准确专业术语的能力，且需要昂贵计算资源和宝贵时间进行信息推理。知识图谱作为一种能够实现知识结构化整合、语义网络式展现的模型图谱^［15］，在医学教育场景中对于克服信息幻觉能够发挥显著作用。因而，融合医学领域的结构化知识构建医学知识图谱，提高大模型对医学领域专业术语的理解能力和表达能力至关重要。同时，知识图谱在结构上具有优于普通模型的高效性，能够降低大语言模型在运行过程中生成不准确甚至不相关信息的幻觉风险^［16］。

其次，动态课程学习机制。医学教育领域知识更新的迅速性和临床诊断经验的时效性，要求大模型通过动态课程学习不断健全其学习机制。搭建动态数据更新系统是动态课程学习的前提基础。大语言模型需要实时采集和搜寻各个领域的数据和信息，通过自动化平台对数据进行清洗，为用户提供具有时效性的知识库。构建动态信息分类模型是动态课程学习的中坚基石。根据使用者的不同指令，对数据库中的数据信息按照任务难度、内容类型和输出重要程度进行动态板块分类，以提高分析复杂问题的能力。设计动态反馈系统是动态课程学习的查修机能。设置实时反馈系统，以便于在运行过程中根据输出信息准确率和使用者的反馈对大模型的薄弱环节进行动态修补。

再次，罕见病数据的模型优化。对大语言模型进行罕见病数据的长尾样本增量训练，即向大语言模型引入罕见病病例作为模型训练的长尾样本，使大模型具备分析罕见病数据的能力。罕见病信息是大语言模型在运用过程中出现的频率极低的样本数据，由于其出现次数少、可参考数据不足，模型难以学习相关病症的成因和解决方式。在使用者进行询问的时候，模型根据现有错误信息进行分析和输出，从而陷入信息幻觉的漏洞。长尾样本增量训练是大模型以低频效率整理罕见病样本再与原有数据融合，并在这一过程中优化生成策略、降低信息幻觉风险，生成更符合罕见病患者状况的诊断建议。

在医学院的临床教学中，通过构建多模态知识融合与动态验证机制，使大语言模型能够模拟教学查房。例如，在模拟“年轻患者反复腹痛伴皮疹”的案例中，传统模型往往将其诊断为常见病“过敏性紫癜”。而优化模型在给出该常见诊断的同时，提供更具结构化的推理链条。通过对抗训练获得警惕性，将症状类似的罕见病“嗜酸性粒细胞性胃肠炎”列为诊断参考，为使用者提供进一步诊断建议。使模型能实现从“知识复读机”向“严谨的临床助手”的升级。凭借知识图谱提升基础知识的准确性，以动态学习保障诊断时效性、以对抗训练扩展诊断思维边界，从而在教学场景中显著降低信息幻觉的风险。

3.2 推理链可视化追溯与因果增强模型优化

其一，交替对比解码。交替对比解码聚焦大语言模型的解码优化过程，通过对比生成路径、对比文本内容、动态调整生成序列等方式，不断克服大语言模型在使用过程中产生的信息幻觉以及可能带来的风险^［17］。交替对比解码的运用能够协助大语言模型发展，克服其在计算过程中因“自回归建模运行机制陷阱而产生的前后序列负面关联。通过在模型运行中分析输入内容、观察用户反应，不断预测使用者即将提出的问题和下一次对话可能出现的序列符号。将各种可能性与即将生成的文本进行对比，在对比过程中进行实时反馈。进而对后续生成内容进行精准化和个性化调整，实现生成结果的高质量和多样化的输出，满足用户的全方位需求。

例如，大语言模型在回答“服用华法林能否食用菠菜”时，传统模型会根据前后连接词，从“菠菜中含有维生素K”推导出“应完全禁止同时服用”这一片面结论。而采用交替对比解码的模型会多层面考虑，给予更专业的建议：“应与医生沟通，维持每日维生素K摄入量稳定”，并预判用户可能追问“如何安全食用”，从而在回答中直接给出行为指导。这一过程表明，该技术能从生成机制上实现实时纠偏，显著提升输出的准确性与可靠性，满足用户对高质量信息的需求。

其二，检索增强生成。检索增强生成技术主要表现为大语言模型在用户提出要求的同时开始迅速检索模型之外的知识库。通过利用外部、权威的知识库，而不是依赖于可能过时的训练数据或模型内部知识，来增强大语言模型响应的准确性^［18］。使其在语言文本生成之前获取大量与用户要求相关的信息并将其作为提示信息输入大模型。这一功能将提高大模型文本生成的准确性和大模型在“诊疗推理链条—医学实体关系建模”当中的颗粒度，为医学教育提供精细化信息支撑。传统大语言模型由于无法清晰呈现医学教育数据的生成依据，在医学信息更新迭代迅速的情况下容易产生信息幻觉。检索生成技术的运用使模型基于权威医学指南和临床数据提出治疗建议进行文本生成，增强生成文本信息来源的可信度，抑制大模型的信息幻觉缺陷。

例如，在回答“晚期乳腺癌内分泌治疗方案”这一专业问题时，传统模型受限于其训练数据的时效性极易形成过时指南，产生信息幻觉。采用检索增强生成模型首先自动查询NCCN等权威知识库，锁定“CDK4/6抑制剂联合芳香化酶抑制剂”作为当前标准疗法的最新建议，基于确凿证据来组织其回答，确保答案的时效性与准确性。

其三，多专家模型集成验证。发挥多专家模型集成验证的优势，即通过整合多种专业领域的模型作为大语言模型输出内容的补充，发挥其专业模型所独具的领域优势，对大模型所生成内容进行交叉验证。不同领域的大语言模型在知识获取和运作任务中各有专长，能够从多种角度审视单一模型输出内容的科学性和合理度，为大模型生成的模糊信息提供“不确定性提示”。用户能够对自身所需要的信息进行能动的分析判断和运用，克服传统模型生成内容的“过度自信”的缺陷，避免因大语言模型的知识局限性产生信息幻觉。

多专家模型集成验证通过汇聚不同领域智慧，对大语言模型的输出进行交叉验证。在临床用药咨询场景中，当医师向模型询问“华法林患者适用的抗癫痫药物”时，系统会调用神经科、心血管科及临床药学三个专家模型对这一问题进行协同回答。神经科模型基于疗效推荐丙戊酸钠、药学模型立即标记该药与华法林的相互作用、心血管模型则评估出血风险为高危，最终输出安全建议“首选左乙拉西坦”，并明确提示需监测INR值。这种机制通过职业制衡与不确定性分析，将医疗决策的最终判断权回归人工，从而抵御信息幻觉风险。

3.3 临床多元语境嵌入与价值校准框架设计

第一，动态可信度评分系统。动态可信度评分系统作为一种评估大模型输出内容科学性的系统，对医学领域生成内容进行后处理具有重要作用，对于临床教育特别是临床实时信息的获取具有关键作用。动态评分系统能够根据使用者提出的不同问题和源数据，分析其内容准确度和数据的可信度；对运行模型的结构和运行参数进行评估，对因过度复杂而影响模型效率或过度简单影响输出内容质量的模型进行建议纠正；并根据使用者的实际操作反馈和效果进行动态分析，优化不同场景和不同语境下的反应功能，为技术应用的教育性、有效性和安全性保驾护航。

第二，医学事实三级核查。医学事实三级审查制度是核查医学信息严谨性和科学性的规范化制度，涉及三个不同层次的审查验证阶段，即数据搜集和初步核查、专业审核与综合评估、外部审查与质量鉴定。这一核查制度能够及时解决大模型在应用过程中表现出的伦理边界模糊问题，规范临床过程中的伦理价值框架。其主要步骤表现为：一级审查即进行医学数据的搜集，并确保搜集到的数据的完整和准确，在搜集过程中进行初步核查确保没有明显的错误和疏漏；二级审查即由具有专业知识和核查经验的医学教育领域专家对所搜集到信息进行深入审核，根据严谨科学的深刻标准对相关数据和信息进行综合评估和核定；三级审查即通过邀请医疗领域相关的外部机构进行三次评定，对于具有特殊性的罕见病例等进行讨论和分析，以保证核查的质量。

第三，基于SNOMED-CT的语义验证管道。医学术语系统命名法-临床术语（systematized nomenclature of medicine - clinical terms，SNOMED-CT）作为世界上最全面的国际标准医学术语系统，其中包含了30多万个医学概念和超过130万个关系，具备全面稳固的语义基础和综合完善的结构化术语表达形式，在国际医疗与健康领域和临床医学数据分析的研究中都有着广泛应用^［19-20］。利用SNOMED-CT的标准化术语和语义关系，对大语言模型生成或处理的医学文本进行语义验证。例如，通过对医学数据进行应用前清晰分析和处理、应用中概念对照、文本关系投射分析。通过这一语义验证管道降低医学术语知识整合的认知负荷，使医学文本中医学概念和逻辑更为畅通，提高医学文本处理的准确性和可靠性，为医疗领域的应用提供更有力的支持。

3.4 基于人机协同的元认知学习体系强化

在医学人工智能应用中，构建一个稳健的人机协同验证生态是解决大语言模型在教学、诊疗、临床这三种情景下产生信息幻觉问题的重要基础。人机协同的元认知学习体系的核心是医学专业知识与模型迭代训练的双向反馈机制，即通过持续的人类专家输入与AI输出交互，实现模型的动态优化。具体而言，预训练阶段注入医学认知心理学规则（如疾病脚本理论），约束知识生成边界；推理阶段模拟专家自查流程，强制执行“鉴别诊断清单”生成；输出阶段关联LIME可解释性模块，突出高风险幻觉语句供人工复审。

首先，医学生批判性思维训练。医学生在操作和运用大语言模型进行学习时，要正确理解大语言模型在医学教育中作用和地位，培养自身的批判性思维。大语言模型在医学教育中究竟能发挥什么样的作用？要回答这一问题，本质在于理解大语言模型的能力作用及其在医学教育领域的应用范围。如果不能够认清其作用，使用者可能会高估或低估大语言模型的能力，进而掉进“LLM全能论”或者“LLM无能论”的二级化“黑洞”。过分夸大这一模型的作用，缺乏对模型的批判性思维，可能导致教育双方的主体性减弱；而低估这一模型的地位，则可能会错失一次推进医学教育迈向新阶段的机会。

其次，人机协作教学协议。在人工智能进入医学教育领域的条件下，教育的两大主体——教育者和受教育者的主体地位发生改变甚至被削减。主体性是教育者和受教育者双方在进行医学教育的过程中表现出的主体能动性^［14］。在大语言模型的介入下，本来在传统模式下应当由教育者即教师承担的部分教育活动转移至生成式人工智能——大语言模型的职责范围内，教育者和受教育者的关联性被削弱，两者之间的联系被大语言模型所具备的技能所代替，两者之间的主体性也随之减弱。因而，在使用大语言模型的过程中，需明确AI辅助的边界与责任归属。例如“通过多元化的方式赋能教师成长，构建多渠道、多平台、多模式的培训及交流机会，为教师提供持续、专业的学习渠道”^［21］，从而真正实现教育主体从“师-生”为主的二元化主体向“师-机-生”的三元化主体转变^［22］。

再次，区块链版本追溯体系。大语言模型具有先进的知识与信息抓取合成能力，能够为使用者提供更为丰富的参考数据和更加理性的决策依据，发挥大语言模型的功能性从而克服其信息幻觉的弊端。大语言模型在搜集和分析数据的基础上进行“深度思考”，对所搜集到的数据和信息进行收集、清洗、融合，在此基础上将其储存^［23］。在这一算法模型下，模型获得与传统模式表达形式相比之下截然不同的信息和素材。同时，将其所生成的新内容与原本储存的历史数据相结合，提高使用者的整合分析效率，为使用者提供技术支持和全新的学习模式。大语言模型不是以某一种单独的思考模式为路径，而是多层次、多平台、多领域摄取信息。使医学领域的受教育者不再局限于医学知识，为医学教育开拓了广泛、全面、精准的信息获取平台，与医学教育发展有着高度契合性。

在医学人工智能教学中，人机协同验证生态通过构建“预训练规则约束—推理过程自查—输出结果警示”的全链条防护机制，有效遏制大语言模型的信息幻觉。例如，在临床发热待查病例教学中，当学生提交“疑似成人斯蒂尔病”的诊断假设时，系统基于预先学习的疾病理论限定诊断范围；在推理环节自动生成包含败血症、淋巴瘤的鉴别诊断清单，并重点标注血清铁蛋白等关键指标的确诊价值；最终通过可解释性模块对“试用非甾体抗炎药”等存在风险的治疗建议添加人工复核标识。这套体系既保障了医学知识的准确传递，又通过突出诊断逻辑中的不确定性节点，有效培养了学生的批判性思维，使其在人机互动中逐步建立严谨的临床思维路径。

4 结语

大语言模型在医学教育场景中的信息幻觉问题已成为制约其深度应用的关键瓶颈，因此，构建可信、可控、可解释的技术应用框架尤为迫切。本研究不仅为破解大语言模型在医学教育中的幻觉困境提供了系统性解决方案，更为人工智能从辅助工具向教学共体的范式跃迁奠定了理论与实践基础。一方面，理论维度上，通过可解释性技术锚定关键决策节点，实现临床逻辑链的可视化呈现与动态干预，使医学生在复杂诊疗情境中逐步建立风险识别意识与批判性思维能力。另一方面，实践维度上，基于“抑制幻觉生成、增强事实追溯、校准临床语境、协同教育目标”的四维框架，均锚定了医学教育的实际需求：动态学习机制响应知识迭代，可实时跟进NCCN指南等权威标准更新；对抗性训练提升模型鲁棒性，有效应对罕见病与边缘病例的生成偏差；检索增强生成确保诊疗建议基于最新循证医学证据，避免知识滞后导致的决策偏移；多专家模型集成强化诊断推理的多样性与稳定性，防止单一模型偏好引发的系统性错误；人机协同教学协议将医学生置于决策中心，通过区块链记录学习轨迹，实现思维过程的可追溯与可评估。由此可见，必须构建以医学知识图谱为内核、可解释性算法为支撑的智能教育系统，从“技术优化、教育适配、伦理校准、人机协同”等维度协同推进医学人工智能教育的规范化发展，强化模型输出的可追溯性与临床逻辑透明度。

总之，本研究构建了医学人工智能教育中幻觉防控的框架体系，有助于促进AI医学教育从技术干预到教育融合的有机联动。助力医学教育从“AI辅助”向“AI融合”升级。通过精准防控信息幻觉，LLM不再是简单的教学工具补充，而是能深度参与知识传授、临床训练、考核评估的核心环节，推动教学设计向更个性化、更精准化方向演进，例如基于知识图谱的LLM可根据医学生认知薄弱点生成定制化学习内容，提升教学效率。重塑医学人才培养模式。策略体系中强调的批判性思维训练、临床决策逻辑追溯，不仅能规避LLM带来的认知偏差，更能强化医学生的自主思考能力与风险意识，培养出“既懂技术工具，又守医学本质”的新型医学人才——这类人才既能借助LLM提升诊疗效率，又能保持对医学事实的敬畏与对患者的人文关怀，符合未来医疗健康领域的核心需求。构建医学教育AI的伦理与安全底线。研究针对LLM伦理边界模糊问题提出的价值校准框架，以及基于区块链的版本追溯体系，为医学教育AI设立了“安全红线”，确保技术发展始终围绕“培养高素质医学人才”的核心目标，避免因技术滥用或风险失控偏离医学教育本质。

未来，随着LLM技术的持续迭代与医学教育需求的不断演进，还需进一步优化抑制策略：一方面，可结合医学教育的新场景（如远程临床教学、虚拟仿真训练）拓展幻觉识别维度；另一方面，需加强人机协同模式的长期效果评估，持续完善“技术-教育-人”的协同机制。只有始终坚守“技术服务于教育”的初心，以严谨的理论框架防控风险，以系统的策略体系释放技术价值，才能让LLM真正成为医学教育发展的“加速器”，为推动医学教育现代化、培养适应未来医疗挑战的人才提供坚实保障。

参考文献

[1] 陈剑锋 ．大语言模型在临床医学的可应用性探讨［J］．医学与哲学，2023，44（21）：1-6．

[2] 老莫一起学AI.直击医疗大语言模型幻觉痛点，MedGPT以高准确性破局［EB/OL］.（2024-12-10）［2025-06-10］

[3] 隋佳宇，刘爽，刘海霞，等 ．ChatGPT在临床医学教育中的应用与挑战［J］．医学教育研究与实践，2024，32（2）：141-145．

[4] 吕臻，周东东 ．大语言模型在医学论文撰写中的应用与挑战［J］．继续医学教育，2024，38（9）：9-12．

[5] 刘泽垣，王鹏江，宋晓斌，等 ．大语言模型的幻觉问题研究综述［J］．软件学报，2025，36（3）：1152-1185．

[6] BUESS L， KEICHER M， NAVAB N，et al ．From large language models to multimodal AI：A scoping review on the potential of generative AI in medicine［J］．Biomedical Engineering Letters，2025，15（5）：845-863．

[7] 罗旭飞，吕晗，史乾灵，等 ．大语言模型在循证医学领域的应用［J］．中国循证医学杂志，2024，24（4）：373-377．

[8] 陈小平 ．大模型关联度预测的形式化和语义解释研究［J］．智能系统学报，2023，18（4）：894-900．

[9] 李博，季佰军，段湘煜 ．基于译文易错词纠正机制的大语言模型机器翻译［J］．计算机工程，2026，52（2）：372-382．

[10] 陈欣然，刘宁，闫中敏，等 ．基于注意力指导的双粒度跨模态医学特征学习框架［J］．计算机工程与科学，2025，47（1）：150-159．

[11] 臧丹阳，杨曙光，徐莉莉，等 ．国内临床实践指南适用性评价工具的研制现状与思考［J/OL］．中国全科医学，2025：1-6．（2025-04-25）．

[12] 周晖，刘昀昀，余孝丽，等.《2025 NCCN子宫颈癌临床实践指南（第1版）》解读［J］.中国实用妇科与产科杂志，2025，41（1）：96-102.

[13] 吕勇，王钧，樊代明 ．DeepSeek在临床医学见习教学中的应用［J］．医学教育研究与实践，2025，33（4）：564-570．

[14] 张娟，邓卓明 ．生成式人工智能赋能思想政治教育的伦理风险与防范［J］．教学与管理，2025（18）：80-89．

[15] JI S X， PAN S R， CAMBRIA E，et al ．A survey on knowledge graphs：Representation，acquisition，and applications［J］．IEEE Transactions on Neural Networks and Learning Systems，2022，33（2）：494-514．

[16] 张君冬，严颖，王震宇，等 ．融合大模型与图嵌入模型的领域知识图谱补全研究：以生物医学为例［J］．现代情报，2025，45（10）：39-50．

[17] MCKENNA N， LI T Y， CHENG L，et al ．Sources of hallucination by large language models on inference tasks［EB/OL］．（2023-10-22）［2025-09-17］．

[18] TONMOY S M T I， MEHEDI ZAMAN S M， JAIN V，et al ．A comprehensive survey of hallucination mitigation techniques in large language models［EB/OL］．（2024-01-08）［2025-09-17］．

[19] PU Q F， GUPTA S， GOLLAKOTA S，et al ．Whole-home gesture recognition using wireless signals［C］//Proceedings of the 19th Annual International Conference on Mobile Computing & Networking．ACM，2013：27-38．

[20] YANG J， GE Y， XIONG H，et al ．Performing joint learning for passive intrusion detection in pervasive wireless environments［C］//2010 Proceedings IEEE INFOCOM．March 14-19，2010，San Diego，CA，USA．IEEE，2010：1-9．

[21] 熊绘，樊越，张迪，等 ．人工智能大模型赋能医学教育实践的伦理风险及对策［J］．医学教育研究与实践，2025，33（5）：635-640．

[22] 王一岩，吴国政，郑永和 ．生成式人工智能赋能教育信息科学与技术研究：新机遇、新趋势、新议题［J］．现代远程教育研究，2024，36（6）：46-54．

[23] 阮一帆，王智博 ．生成式人工智能赋能思想政治教育创新研究［J］．学校党建与思想教育，2025（2）：4-7．

基金资助

2025年度教育部高校思想政治理论课教师研究专项优秀中青年择优资助项目(25JDSZK112)

2024年度山西省教育科学研究院“十四五”规划课题(GH-240205)