DeepSeek在中国临床执业医师资格模拟考试中的应用研究

李蒙 ,  金岑 ,  金琦 ,  单连弋 ,  温馨 ,  李健维 ,  张雪 ,  张丽

中国医学教育技术 ›› 2025, Vol. 39 ›› Issue (6) : 760 -766.

PDF (1377KB)
中国医学教育技术 ›› 2025, Vol. 39 ›› Issue (6) : 760 -766. DOI: 10.13566/j.cnki.cmet.cn61-1317/g4.202506012
技术与教育

DeepSeek在中国临床执业医师资格模拟考试中的应用研究

作者信息 +

Research on the application of DeepSeek in the simulated China National Medical Licensing Examination

Author information +
文章历史 +
PDF (1409K)

摘要

目的 评估深度生成预训练模型DeepSeek-R1在中国临床执业医师资格模拟考试中的表现,并探讨其优势与局限性。 方法 将300道涵盖多题型与学科的模拟试题输入DeepSeek-R1,记录答题表现,并通过质疑错误答案评估其纠错能力。 结果 DeepSeek-R1总体正确率为94.3%(283/300),经质疑提升至97.3%(292/300)。不同题型间差异具有统计学意义(P<0.05),A2题型最低(84.3%)。临床与非临床试题正确率分别为93.1%和97.6%,差异无统计学意义。低阶思维试题略优于高阶思维试题(97.1% vs. 92.8%),差异亦无统计学意义。模型在所有回答中均高度自信(100.0%)。 结论 DeepSeek-R1展现了良好的医学知识和推理能力,具备医学教育和临床应用潜力。但在复杂题型上仍有不足,且错误时自信度不减,存在“AI幻觉”,须结合专业判断使用。

Abstract

Objective To assess the performance of DeepSeek-R1, a deep generative pre-trained model, in the simulated Chinese National Medical Licensing Examination and explore its strengths and limitations. Methods A examination paper with 300 simulated questions convering various formats and disciplinary knowledge was input into DeepSeek-R1 and its responses were recorded. Incorrect answers were challenged to evaluate its ability to correct errors. Results DeepSeek-R1 achieved an overall accuracy of 94.3% (283/300), and after challenges, accuracy rose to 97.3% (292/300). Accuracy varied significantly across question types (P<0.05), with A2-type scoring the lowest (84.3%). Clinical and non-clinical question accuracies were 93.1% and 97.6%, respectively, with no significant difference. Performance was slightly better on lower-order (97.1%) than higher-order questions (92.8%), without statistical significance. The model showed high confidence (100%) in all responses, including incorrect ones. Conclusion DeepSeek-R1 demonstrated strong medical knowledge and reasoning skills, indicating potential for use in medical education and clinical support. However, its weaker performance on complex cases and unjustified confidence in errors highlight risks of AI hallucination. Human oversight remains essential for safe and effective application.

Graphical abstract

关键词

DeepSeek / 继续教育 / 中国临床执业医师资格考试 / AI幻觉 / 自然语言处理

Key words

DeepSeek / continuing education / China National Medical Licensing Examination / AI hallucination / natural language processing

引用本文

引用格式 ▾
李蒙,金岑,金琦,单连弋,温馨,李健维,张雪,张丽. DeepSeek在中国临床执业医师资格模拟考试中的应用研究[J]. 中国医学教育技术, 2025, 39(6): 760-766 DOI:10.13566/j.cnki.cmet.cn61-1317/g4.202506012

登录浏览全文

4963

注册一个新账户 忘记密码

近年来,人工智能(artificial intelligence,AI)技术在医学领域快速发展,在临床决策支持、医学影像分析以及疾病风险评估等关键领域得到广泛应用[1-4]。其中,大语言模型(large language models,LLMs)因其强大的自然语言处理能力,在医学文本解析、临床问答及科研辅助等方面展现巨大潜力[5]。以OpenAI的ChatGPT为代表的LLM不断优化,医学知识理解和推理能力不断提升,为医疗智能化带来了新的可能[6-7]。DeepSeek由杭州深度求索人工智能基础技术研究有限公司研发,是LLM领域的新兴力量,该公司于2025年1月20日发布了推理大模型DeepSeek-R1,凭借与OpenAI o1相当的性能和低成本优势,在国内迅速拥有了众多使用者,成为了当前领先的AI对话系统[8]。该模型不仅能够生成高度自然的语言文本,且与OpenAI o1相比,以极低的成本就实现了相当的性能[9]。DeepSeek-R1等大语言模型不同于传统基于规则或者浅层学习的问答系统,其具有上下文理解、多轮对话、医学推理和动态纠错的能力,这使其在模拟真实临床场景时有了技术上的保障,尤其是应对结构复杂、背景信息繁多的临床题目时,能结合自身的知识库与训练数据,在很大程度上模拟真实医师的思维路径。因此,DeepSeek不但被医学生用于学习和自我测试,也可能成为医师实际临床工作参考决策的辅助工具。不过,DeepSeek等AI模型仍面临一些难题,如术语理解不准确、推理不连贯、幻觉效应等。这些问题限制了其在高风险医学任务中的应用,从而突显了对其开展系统评估的必要性。
中国临床执业医师资格考试是临床医师在中国行医必须通过的一场考试,涵盖临床、中医、口腔和公共卫生四个类别[10]。考试包括实践技能测试和医学综合笔试两部分,其中医学综合笔试由全国统一命题,且全部为选择题形式。DeepSeek能否通过这个高标准的考试,既体现其医学知识水平也给评估其临床实践应用潜力提供重要参照,是相关教育工作者需要面对的问题。因此,本研究通过模拟试题评估DeepSeek的答题能力,并对其在医学知识理解与应用方面的表现加以分析,旨在探索该模型在医学教育领域(如提高教学效率、帮助考生高效备考)以及临床实践场景(如辅助临床决策、提供诊疗参考)中的应用价值,进而为人工智能技术在医学领域的深入应用提供科学依据和实践指导。

1 资料与方法

1.1 一般资料

本研究收集了一定数量的中国临床执业医师资格考试模拟试题。

试题收集过程步骤如下:①从公共互联网资源(如百度文库、医考帮、昭昭医考等平台)筛选近5年内的模拟试题;②参考《昭昭医考》和《贺银成执业医师全真模拟试卷》这两本主流中国临床执业医师考试辅导书籍。

初步收集的500道试题按照以下标准筛选:①题目完整性(包含完整题干和选项);②知识点覆盖全面性;③符合最新考试大纲要求。两名副主任医师以上职称的专家用双盲法独立审核所有题目以保证答案准确,最终纳入300道试题,含217道临床医学试题和83道非临床医学试题。

本研究评估的DeepSeek版本为2025年 1月发布的DeepSeek-R1作为服务器端部署的智能语言模型,DeepSeek具备实时检索互联网、访问外部数据库、处理多模态数据,以及高效自然语言理解和生成能力。

1.2 方法

在每个选择题的题干及选项均输入至DeepSeek对话框后启用“深度思考”模式(如图1所示)。

系统会全程记录答题过程,包含选项的选择以及回答的内容,并将其与标准答案进行比对分析,从而全面评估DeepSeek的答题准确性。模型在作答时研究团队不提供上下文提示,使其完全基于已有知识和推理能力进行独立判断,力求真实地反映该模型的性能。若DeepSeek回答错误,研究团队会对DeepSeek的答案进行质疑,质疑模版为标准化语句:“经核实,你的答案与标准答案不一致,请重新生成”,提示其生成的答案与标准答案不符,随后对其新的回答进行记录和分析,并再次进行回答并记录其回答情况。这一过程旨在通过反复验证与调整,对DeepSeek处理中国临床执业医师资格考试问题时的反应能力与纠错机制加以评估,而纠错能力是衡量大语言模型实用价值的重要指标,这对其在医学教育、辅助决策等实际场景中的可靠性与安全性有着直接影响,因此系统记录模型被质疑时的响应速度、修正准确率和答题稳定性,以更好地了解其在真实应用中的表现。

1.3 观察指标

(1)评估DeepSeek在考试中的整体表现且60%视为通过。

(2)按照学科类别把试题分为临床医学(包含内科学、外科学、妇产科学、儿科学、传染病学、精神病学、神经病学)与非临床医学(涵盖基础医学、预防医学以及人文医学),再对DeepSeek在不同学科领域的答题情况进行分析来对其知识掌握程度和作答能力加以评估。

(3)中国临床执业医师考试大纲把试题进一步分成A1(单句型最佳选择题)、A2(病例摘要型最佳选择题)、A3/A4(病例组型/典型最佳选择题)以及B1(标准配伍题)这四类题型来考查DeepSeek对不同类型试题的适应性。

(4)按照Bloom分类法的学习和评估体系,把试题分成侧重知识记忆和基本理解的低阶思维类,以及强调应用分析与综合评估的高阶思维类来测试DeepSeek在不同认知层次的能力。

(5)采用 Likert 量表对 DeepSeek 回答的自信程度进行评估,分为五个等级:1级(无信心,表明其不确定);2级(信心较低,表示可能);3级(中等信心,认为较大概率正确);4级(有信心,能清晰陈述答案及解释);5级(高度自信,毫无疑问地给出答案及理由)。

1.4 统计分析方法

所有数据均使用SPSS 27.0软件进行分析。答题表现通过正确率用(%)进行评估,组间差异比较采用χ²检验。以P<0.05为差异具有统计学意义。

2 结果

2.1 DeepSeek的总体考试表现

总体而言,DeepSeek 在模拟考试中的答题正确率为 94.3%(283/300),远超通过标准(60.0%)。当对其错误答案提出质疑之后正确率进一步提高至97.3%(292/300)。这表明模型不但基础医学知识储备很扎实,而且能凭借反馈机制进行自我修正,表1表2对此做了具体展现。表1详尽展示了DeepSeek在首轮中国临床执业医师资格模拟考试中的答题状况,并按照学科、题型以及认知层次分成四组来分析,而表2则展现了DeepSeek在首次答错试题被质疑后的表现,且依据相同的分类标准进行对比。从数据走向看,模型在低阶认知与常规题型方面表现平稳,但在高阶思维试题和病例型题目上一开始正确率稍低。然而,经过反馈以后模型表现显著提升,这意味着它在复杂任务中还有可塑性与优化的空间。

2.2 DeepSeek在不同学科考试中的表现

DeepSeek在不同学科考试中的表现如图2所示。对于临床医学和非临床医学这两类试题,DeepSeek的答题正确率并无统计学差异(P>0.05),当错误答案被质疑之后,两个学科组的正确率均有提升但差异不具有统计学意义(P>0.05),进一步的亚组分析显示,无论是首次答题还是质疑错误答案后的作答,七个临床医学学科之间的正确率差异均无统计学意义(P>0.05)。具体结果见表1表2所示。值得注意的是,非临床学科(如预防医学、医学统计学)虽然题量较少但正确率普遍较高,可能与这类试题的确定性较强有关。而核心临床学科(内科学、外科学、妇产科学)题量占比最大(共186题),正确率均稳定在95.0%以上;基础医学学科(如生理学、病理学)表现优异,正确率与临床学科相当。

2.3 DeepSeek在不同题型考试中的表现

首轮作答时,DeepSeek在不同类型的试题(A1、A2、A3/A4、B1)正确率的差异具有统计学意义(P<0.05)。然而,在对错误答案进行质疑后,尽管其正确率有所提升,但各题型间的正确率差异无统计学意义(P>0.05)。具体数据如表1表2图2所示。其中,A2型题(病例分析题)初始正确率最低,仅为84.3%,但在反馈后显著提升至94.3%,这表明模型在处理需要多步骤推理的临床题型时刚开始容易出错,但能通过交互方式不断优化,同时这也显示出模型在应对特别依赖临床逻辑判断和上下文整合的题型时还不稳定,需进一步提升其临床推理能力。

2.4 DeepSeek在不同维度试题中的表现

在首轮测试中,DeepSeek 在低阶思维试题上的正确率高于高阶思维试题,但二者的差异无统计学意义(P>0.05),而在让DeepSeek质疑错误答案之后,DeepSeek在低阶思维试题上的正确率仍高于高阶思维试题,且差异依然无统计学意义(P>0.05)(详细数据如表1表2所示)。图1展示了DeepSeek对一道生物化学低阶思维试题的正确作答。图3反映DeepSeek错答一道妇产科学高阶思维试题,但是在质疑错误之后提供了正确答案。这道题涉及病例分析与治疗选择,需要综合多个临床要素,DeepSeek第一次答题时逻辑有偏差,但收到“答案错误”的反馈之后进行了修正,说明其具备一定的纠错和反思能力。图 4则显示了一道 DeepSeek 无论是否接受质疑均未能正确作答的高阶思维试题。模型在此类题目中暴露出其知识覆盖不足或推理路径混乱的问题,提示其在应对非典型、高度复杂的临床情境时仍有产生“AI幻觉”的风险。总体而言,虽然DeepSeek在大多数题型中表现出色,但是,其在高阶思维试题中的表现并不稳定,需进一步优化医学逻辑建模及知识结构的完整性。

2.5 DeepSeek的答题语言自信度

DeepSeek在所有试题(100.0%,300/300)中均以相当自信或者非常自信的语气回答。并且评估其答题自信度的结果显示,虽然部分推理过程或许存在不确定因素,但所有错误回答整体上的自信程度依然被划分为自信或者高度自信(Likert评分是4分或者5分),其中首次答题答对了283道,经质疑后再答题答对了292道。

3 讨论

3.1 DeepSeek 模型表现的优势与启示

基于DeepSeek-R1模型的技术特性,使其在医学知识服务领域展现出显著优势。相较于专有模型,DeepSeek采用透明且社区驱动的方法,促进了数据研究人员与临床医师之间的深度协作,使得区域专业化和个性化定制具有更大的灵活性。同时,这种开放性和可扩展性使得其具备应对医学领域复杂需求的能力,有力地支持了医学知识服务的创新发展[11]

3.2 不同维度下 DeepSeek 表现的深度剖析

3.2.1 学科维度

本研究将中国临床执业医师模拟考试试题初步划分为临床医学和非临床医学两大类。统计分析结果显示,在这两类试题中DeepSeek答题准确率没有统计学差异(P>0.05),而在临床医学类别下涵盖的七个学科之间答题准确率的差异依然无统计学意义(P>0.05),说明DeepSeek对不同医学学科知识的掌握比较均衡。这得益于DeepSeek强大的自然语言处理能力和广泛的知识覆盖范围,能够处理不同学科领域的专业术语和知识体系。

3.2.2 题型维度

医学综合笔试全是选择题,包含A1、A2、A3/A4和B1四种题型。分析发现,DeepSeek 在 A2题型上的表现明显低于其他类型,且差异具有统计学意义(P<0.05),提示DeepSeek在需要归纳、推理的A2型病例分析题方面表现较弱,其处理复杂临床情境、整合多学科知识以及辨别高迷惑性选项的能力还有待提高。例如,在一道关于“妊娠2个月的甲亢女性”治疗方案选择的题目中,DeepSeek误选了抗甲状腺药物治疗(B),而未能正确识别早孕期甲巯咪唑(MMI)存在致畸风险。且本题中患者症状明显、甲状腺肿大压迫呼吸,提示病情较重,应优先考虑手术治疗的知识点。该题正确答案为D(甲状腺次全切除术),但模型未能综合病史中的妊娠早期、高度甲亢症状及药物禁忌等信息,反映了其在复杂情境判断与治疗路径优选等方面仍存在短板。

3.2.3 思维维度

依据 Bloom 分类法,本研究进一步将试题分为低阶思维与高阶思维两类。结果表明,DeepSeek-R1对高阶思维试题回答正确率低于低阶思维试题,但差异无统计学意义(P>0.05)。该结果提示,尽管DeepSeek-R1在处理高阶思维试题时存在一定挑战,但其整体表现与低阶思维试题相近,尚未表现出显著劣势。

3.3 DeepSeek 与其他模型的比较分析

作为衡量医学生是否具备从医资格的行业准入考试,中国临床执业医师考试可作为评估 DeepSeek 医学能力的关键标准。因此,分析其在该考试中的表现具有重要研究价值。最近的研究显示,GPT-4.0在美国医学执照考试(united states medical licensing examination, USMLE)中,具有大约90.0%的准确率,GPT-3.5则为62.5%[12]。值得注意的是,我们之前的研究发现GPT-3.5在中国临床执业医师考试中的回答准确率达到70.3%[13](如表3所示)。新的研究发现,使用中国临床执业医师考试的中文和英文数据集,GPT-4.0的准确率分别达到84%及86%[14]

表3可以看出,DeepSeek-R1的总体正确率为94.3%,显著高于GPT-3.5(70.3%),显示其在中文医学知识获取方面具备较强优势。但在题型维度上,DeepSeek-R1在A2型病例分析题中的表现明显低于其他题型,提示其在处理复杂临床情境的能力尚有待提升。而GPT-3.5虽然总体正确率较低,但在题型间表现更为均衡。不过,其在高阶思维试题中的正确率下降较多,暴露出逻辑整合能力的不足。总体而言,DeepSeek在中文环境下的表现优于主流英文大模型,尤其适合本地化应用。同时,由于DeepSeek基于国产算法生态,其在部署和应用成本上比GPT系列低得多,因此在医疗机构、科研单位以及教育平台要实现本地化和定制化落地会更容易。

3.4 DeepSeek 答题自信度与“AI 幻觉”问题探讨

本研究对DeepSeek的回答进行了语言自信度评估,结果表明,即使在回答错误的情况下,DeepSeek依然保持高度自信地表达(100.0%)。这一特点反映了其在应答过程中可能存在的局限性。AI幻觉(AI hallucination)是大型语言模型领域的一个重要挑战,即模型生成文本时会生成看起来合理但实际上不准甚至完全是虚构的内容[4,15-17]。针对这一问题,或许可以从模型优化、系统设计和应用规范这三个维度协同改进。具体来说,模型优化时可把医学知识校验机制引进来,让其能实时检索像PubMed这类医学数据库以核查生成内容;系统设计方面要开发置信度提示功能,一旦模型对特定医学问题的把握度低于阈值就自动标注警示信息;应用规范方面可以建立医学AI的“双校验”机制,保证关键医学结论经临床专家复核,并且以后的研究重点应放在医学领域幻觉检测算法开发和医学专用可信AI评估体系构建上,从而提升模型在医学应用中的可靠性。

3.5 研究局限性及未来研究方向

本研究存在一定的局限性,由于医学考试真题受严格保密协议和监管机制保护,测试用中国临床执业医师考试题目非官方真题,这会在一定程度上影响研究结果的普适性。DeepSeek-R1模型凭借独特的自适应学习框架与持续优化机制,使其知识更新能力突出,但持续优化特性使研究结果有时间限制。因此,随着模型不断更新和进步,性能指标可能出现变化,从而会有不同的答题准确性。

综合本研究的实证分析结果,DeepSeek答题准确率较高且能顺利通过中国临床执业医师模拟考试,充分验证了其在医学知识掌握、临床推理能力以及多题型适应性等方面的综合能力,也揭示出LLM在医学教育和临床实践中的广泛应用前景。然而,尽管DeepSeek展现了显著的潜力,但在应对复杂情境、推理与分析型题目(如A2题)时仍存在一定的局限性,尤其是在错误回答时表现出的过度自信倾向,这可能对使用者产生误导。因此,医学从业者和教育者需保持审慎态度,充分认识到当前阶段AI系统在医疗决策和教育辅助中的局限性,避免过度依赖[18]。为了进一步提高其在医学领域的适用性,之后的研究可重点关注提升模型的临床语境理解能力与复杂推理能力上,特别是在病例整合分析与高阶思维试题中的表现。展望未来,随着AI技术的不断迭代优化,其在医学领域的应用会更精准和可靠,将为医学教育、临床辅助决策和患者咨询等场景提供更高水平的支持,进一步推动医疗行业的智能化转型[19]

综上所述,DeepSeek-R1在中国临床执业医师模拟考试中表现优异,显示出其在医学教育和辅助决策中的潜力,但其在处理复杂推理题和避免“AI幻觉”方面仍有提升空间。未来应加强模型优化与风险防控,使其更安全、更可靠地服务于医疗实践。

参考文献

[1]

PIANYKH O S, LANGS G, DEWEY M, et al. Continuous learning AI in radiology: Implementation principles and early applications[J]. Radiology, 2020(1): 6-14.

[2]

SEIFERT R, WEBER M, KOCAKAVUK E, et al. Artificial intelligence and machine learning in nuclear medicine: Future perspectives[J]. Seminars in Nuclear Medicine, 2021(2): 170-177.

[3]

KULKARNI S, SENEVIRATNE N, BAIG M S, et al. Artificial intelligence in medicine: Where are we now?[J]. Academic Radiology, 2020(1): 62-70.

[4]

ONG J C L, SENG B J J, LAW J Z F, et al. Artificial intelligence, ChatGPT, and other large language models for social determinants of health: Current state and future directions[J]. Cell Reports Medicine, 2024(1): 101356.

[5]

XIANGBIN M, XIANGYU Y, KUO Z, et al. The application of large language models in medicine: A scoping review[J/OL]. iScience, 2024, 27(5)[2025-02-20].

[6]

ERIC S, JEREMY M, ELMERC G, et al. Use of Artificial Intelligence Chatbots in Interpretation of Pathology Reports[J/OL]. JAMA Network Open, 2024(5)[2025-02-20].

[7]

JIAXI P, JIE H, QIAO Y, et al. Accuracy, satisfaction, and impact of custom GPT in acquiring clinical knowledge: Potential for AI-assisted medical education[J/OL]. Medical Teacher, 2025[2025-02-20].

[8]

CONROY G, MALLAPATY S. How China created AI model DeepSeek and shocked the world[J/OL]. Nature, 2025.

[9]

SMITH J. Daily briefing: The pros and cons of DeepSeek[J/OL]. Nature, 2025[2025-01-30].

[10]

缪李丽, 黄易, 谢波, . 从执业医师资格考试探讨医学生临床实践教学改革[J]. 中华医学教育杂志, 2012(5): 781-783.

[11]

TEMSAH A, ALHASAN K, ALTAMIMI I, et al. DeepSeek in healthcare: Revealing opportunities and steering challenges of a new open-source artificial intelligence frontier[J]. Cureus, 2025(2): e79221.

[12]

BRIN D, SORIN V, VAID A, et al. Comparing ChatGPT and GPT-4 performance in USMLE soft skill assessments[J]. Scientific Reports, 2023(1): 16492.

[13]

张丽, 张雪, 周海燕, . ChatGPT在中国临床执业医师资格模拟考试中的表现研究[J]. 中国继续医学教育, 2024(15): 157-162.

[14]

WANG H, WU W, DOU Z, et al. Performance and exploration of ChatGPT in medical examination, records and education in Chinese: Pave the way for medical AI[J]. International Journal of Medical Informatics, 2023, 177: 105173.

[15]

HATEM R, SIMMONS B, THORNTON J E. A Call to Address AI "Hallucinations" and How Healthcare Professionals Can Mitigate Their Risks[J]. Cureus, 2023(9): e44720.

[16]

GODDARD J. Hallucinations in ChatGPT: A cautionary tale for biomedical researchers[J]. The American Journal of Medicine, 2023(11): 1059-1060.

[17]

ALKAISSI H, MCFARLANE S I. Artificial hallucinations in ChatGPT: Implications in scientific writing[J]. Cureus, 2023(2): e35179.

[18]

BEARD K, PENNINGTON A M, GAUFF A K, et al. Potential applications and ethical considerations for artificial intelligence in traumatic brain injury management[J]. Biomedicines, 2024(11): 2459.

[19]

SU Z, TANG G, HUANG R, et al. Based on medicine, the now and future of large language models[J]. Cellular and Molecular Bioengineering, 2024(4): 263- 277.

基金资助

中央高水平医院临床科研业务费资助

AI Summary AI Mindmap
PDF (1377KB)

0

访问

0

被引

详细

导航
相关文章

AI思维导图

/