生成式人工智能对医患共享决策的影响机制探究

Exploration of the impact mechanisms of generative artificial intelligence on doctor-patient shared decision-making

摘要

随着大型语言模型日臻成熟，以ChatGPT/GPT-4为代表的生成式人工智能（GenAI）有望深度嵌入临床决策之中。然而，GenAI的临床应用同样存在莫拉维克悖论等隐忧，WHO发布的《卫生领域人工智能的伦理与治理：多模态大模型指南》提出了大模型应用于医疗领域时应遵守的六项原则。GenAI参与临床决策需要医患双方的共同参与。临床医生参与到GenAI的研发与推广应用，把控好技术发展方向。GenAI赋能患者参与决策，贴近医疗实际情况，满足患者价值选择偏好。深化GenAI可解释性、责任分配体系，赋能医患共享决策，妥善处理GenAI对传统告知与理解带来的挑战，实现临床效益最大化。

Abstract

As large-scale language models become increasingly mature， generative artificial intelligence （GenAI）， represented by ChatGPT/GPT-4， is anticipated to be deeply embedded in clinical decision-making. However， the clinical application of GenAI also has potential issues， such as the Moravec paradox. The Ethics and Governance of Artificial Intelligence for Health： Guidance on Large Multi-Modal Models released by the World Health Organization proposed six principles that should be followed when large models are applied in the medical field. The participation of GenAI in clinical decision-making requires the joint engagement of both doctors and patients. Clinical doctors are involved in the research and development， promotion， and application of GenAI， as well as in controlling the direction of technological development. GenAI empowers patients to participate in decision-making， aligning with actual medical scenario and meeting the value selection preferences of patients. Deepen GenAI’s explainability and responsibility allocation system， empower doctor-patient shared decision-making， properly handle the challenges brought by GenAI to traditional information and understanding， and achieve maximum clinical benefits.

关键词

生成式人工智能 / 临床应用 / 医患关系 / 共享决策 / 伦理挑战

Key words

generative artificial intelligence / clinical application / doctor-patient relationship / shared decision-making / ethical challenge

0　引言

生成式人工智能（generative AI，GenAI）的迅猛发展对医疗领域产生深刻影响，引发了一系列伦理、社会和法律难题 ^［1］。为此，世界卫生组织（WHO）于2024年1月发布了《卫生领域人工智能的伦理与治理：多模态大模型指南》，旨在为GenAI的医学应用提供伦理指导与治理思路^［2-3］。医患与GenAI之间可以实现相互赋能，携手共促医学GenAI研发与应用。技术研发者、技术使用者、医生、患者等利益相关者以不同形式参与到GenAI的设计、研发、使用体验、评估和反馈之中。此外，GenAI赋能临床共享决策（shared decision making， SDM），对医患双方均提出了新的挑战与机遇，也呼吁建立医疗领域人工智能的新的伦理治理机制。

1　GenAI在临床决策中的前景及隐忧

1.1　临床前景及内在缺陷

人类目前已经能够熟练在模式识别、数据分析、结局预测、自动化制造以及自动驾驶等方面应用AI。随着大型语言模型（large language model， LLM）的出现，以ChatGPT为代表的GenAI带来了一种全新的对话交互模式并有望在医学领域得到快速应用，可能会催生“三个世界，三类医生”的医学新框架^［4］。WHO文件指出，大型多模态模型之所以引人注目，是因为其促进了人机交互，对查询或数据输入作出类似人类且看似权威的回应。从常规医疗服务到慢性病管理；从辅助治疗方案决策到日常生活保健，AI均有不可估量的发展空间。通常，临床医生是在医学知识和经验之上，作出在当前条件下最有利于患者的决策。医学大模型有助于发现医生诊疗过程中潜在的误诊可能，降低医护人员工作压力，提高就诊效率和医疗效果^［5］。比如，医生可将患者症状及检查信息等输入医学大模型，将拟诊和大模型的诊断结果进行核对和二次分析。通过医学大模型还可以协助将医学用语简单化，将信息以患者能够理解的方式进行传递，实现更有效率和效果的医患沟通。无论患者所在区域或自身经济情况如何，GenAI均会提供大致相当的医疗信息和建议。通过医生和GenAI的双重诊断、确认及核对流程，能够提升医疗行为的可靠性，以实现公平性、安全性目标，改善患者就医体验和生活质量。

GenAI难以理解人类多元文化和非文字交流，因此其辅助临床决策应用的前景受限。这就是所谓的莫拉维克悖论（Moravec’s paradox）。它是说：GenAI在处理某些复杂任务时显示出超越人类的能力，但对人来说简单的事情文化表达和行为，对AI来说就很难；反之亦然^［6］。同样，人类医生在文化习得、生活历练、职业培训、临床经验等因素综合作用下形成的专业知识、技能与价值观念，在医学生乃至就诊患者看来，较为容易学习、理解与模仿。虽然GenAI读取医疗信息的能力强，具备了超越人类能力的潜在优势；但当前GenAI却难以胜任上述的人类习惯的学习行为^［7］。例如，医患有效沟通既要求医生对专业术语的准确表达，又需要非语言的手势、面部表情配合，这是医疗大模型难以企及的沟通难题。

1.2　临床应用潜在风险与伦理指引

高新技术的临床应用需要遵守相应的技术标准或操作规范^［8］，目前的GenAI仍处在发展初期，存在缺乏深入理解能力、上下文记忆欠佳、输出内容不可重复且不可预测、难以验证决策过程、偏见等方面的问题^［9］。GenAI在某些问题上的深入理解和逻辑推理能力仍显不足，难以跨领域学习和应用知识，多任务之间的切换尚不流畅，难以适应多变的任务环境^［10］。此外，输出信息依赖于用户输入的提示词（prompt），难以充分理解并适应具体场景，无法像人类一样作出人性化决策 ^［11］。此外，GenAI的透明度和可解释性有待提高，从而导致临床决策的不确定性^［12］，由此诱发因AI辅助诊疗错误而产生的责任分配不清的难题^［13］。同时，科技公司对GenAI工具的附加的管理或法规限制，仍会被他人成功地规避限制，或者通过引导使AI工具作出不合理、不合法的回应。

虽然当下以GenAI为基础的医学大模型具有作为共享决策的辅助工具的潜力，但仍无法单独承担行为主体（agent）的角色。在临床共享决策中，一个合格的独立行为主体需要具备专业知识技能、足够准确的判断能力、相当的沟通能力以及同理心。目前的GenAI无法满足这些要求，还需要充分发挥医患双方在临床决策过程中的主观能动性。

因此，在GenAI的设计、研发和临床应用中，不仅需要从政策法规方面的强化监管，还需要加强道德规范的制定和伦理分析研判。《卫生领域人工智能的伦理与治理：多模态大模型指南》指出，医疗领域的AI应遵守以下六项原则：保护人类的自主性，增进人类福祉、安全和公共利益，确保透明性、可以解释和可以理解，培养责任感和实行问责制，确保包容性和公平，推广反应迅速且可持续性的AI。

上述六个伦理原则之间关系密切。具体而言，保护人类的自主性是指，本着确保患者在医疗决策中的主体地位的理念，GenAI系统应该协助而非代替医患作出理性、知情的决策，增进患者群体的健康福祉、保护生命安全，保障其他的社会公共利益。基于GenAI的医疗决策应尽可能保证透明性，可以较好地解释决策过程，便于医患双方的充分理解，增强医患相互信任，为医患双方的信息共享和临床决策参与奠定基础。在GenAI辅助医疗决策过程中，临床医生要对临床决策和行为担负责任，要对患者安危和最佳利益负责，坚守医疗安全底线。医疗决策必须是包容的，所有条件适合的人均应有公平地参与和享用机会，并在具体使用中要做到平等对待，不得有歧视性态度和行为。GenAI研发和应用要有响应性，根据变化的医疗需求来自我调整和更新；同时，GenAI还必须是可持续的，立足当下，展望未来，不断满足日益增长的多元化的医疗需求。

2　医患携手推进GenAI技术革新与临床应用

2.1　临床医生参与研发的角色定位与影响

目前，许多临床医生对AI工具都有所了解，也希望应用到临床实践，但也存在焦虑，担心自己的工作岗位被AI所取代，或者所学专业知识技能很快会落后于时代发展。这种担忧或恐慌是可以理解的，但无须过度焦虑，在AI时代，临床医生仍然拥有广阔的职业发展空间和机遇。

正如WHO文件所指出的那样，考虑到GenAI颠覆核心社会服务和经济部门的潜力，许多大型科技企业、初创企业和政府都在投资并竞相引导其发展。当下的大模型多为大型科技企业所研发，应用到专业壁垒森严的临床医学领域难免会引发不可预知的系统性风险。例如，虽说GenAI的智能化程度高，能够快速理解用户的需求并给出答案，但也会给出错误答案^［14］。可以说，大模型本身的能力越强，它的安全隐患也就越大。大模型能力的增强，虽然带来了更强大的功能和更广泛的应用前景，但也伴随着潜在安全隐患的增加。能力越强的大模型在受到攻击、处理敏感数据或作出重要决策时，其错误可能带来更严重的后果。WHO文件中列举的诊疗风险包括：回答不准确、不完整或错误，训练的数据质量不合格，训练数据和回答带有偏见性以及医护人员的技能退化等。受制于医疗大模型的专业性，从事模型开发的技术人员可能更多关注于技术内容和使用体验，难以对医疗相关过程提出实质性意见。通过临床医生的参与，能够在早期阶段识别瑕疵回答，发现瑕疵数据和潜在偏见，通过深入参与研发过程，避免技能退化。临床医生的参与也会使得患者更为放心，在一定程度上缓解知情同意问题。

具体来说，只有临床医生更能够从专业角度评估GenAI研发及临床应用所面临的实际问题，实现医疗AI效能的最大化。为了改善医疗AI的公平性，临床医生需要在模型中关注部分人数较少的人种、群体等，使得模型在具有泛化能力的基础上实现个性化。因此，临床医生的参与对于医疗AI产品研发具有独特的价值，既能够对医用GenAI研发团队的专业知识进行有益补充，又可以准确反映临床需求和患者诉求，能够对医疗AI将来在临床应用的适配性提供较大帮助。当然，针对临床医生乃至患者及社会公众所提出的想法，研发人员需要进行可行性评估，尽可能地满足临床医生和患者的诉求，临床医生与研发人员应密切合作，不断完善大模型内容，提升决策水平，实现螺旋向上的产品更迭过程。

2.2　赋能医疗服务质量的提升

GenAI可以理解和处理复杂的医学信息，并从中提取关键内容，生成高质量的内容精要并给出建议。同时，GenAI可以根据用户的需求和反馈，对生成学习内容进行个性化调整和优化。可见，GenAI应用有望在医疗教育和临床实践中发挥重要作用，提高医疗服务的效率和水平。在医学教育中，GenAI可以辅助构建智能化的医学知识学习系统，生成较为准确的内容提要、知识图谱，帮助医学生和临床医生便捷地获取医学知识，了解疾病的诊断、治疗方案和研究进展，提高医学知识的学习效率，培养高水平的医学人才。

以GenAI为代表的人工智能可以被用于监测人类医生的失误或者提醒决策偏见，提升医疗服务质量。从医疗管理的角度来看，如果某家三甲医院每天门诊量为1万人左右，其中约有10%的患者因各种原因挂错了科室，这便意味着至少有1 000位患者在门诊大厅或候诊室的等待是无效的。GenAI提供必要的指引，以减少挂错科室的概率，提升患者就医体验和患者满意度。倘若“互联网窗口”能够被升级为“AI窗口”，就能辅助患者就诊和慢病管理过程。对此，医疗机构则应加强临床科室医护人员和管理人员的AI知识与技能的培训，临床医生应熟悉最新的临床指南，充分了解AI新技术的进展、应用场景。

2.3　赋能患者参与临床决策的途径与困难

2.3.1　以患者为中心的GenAI研发与个性化医疗

在传统习惯里，医生主导着从诊疗信息的提供到诊疗方案制定的全过程，患者主要是配合医生完成就医过程。然而，随着医患共享决策理念兴起，患者被鼓励从使用者和亲身经历者的角度参与临床决策，提供就诊的感受、意见和建议^［15］。以人为中心的人工智能（human-centered AI）为医患共同参与临床决策提供了新的机遇。AI技术对于辅助决策功能的提升，有助于医患更好地分享信息与互动，实现以患者为中心的个性化医疗。

患者群体视角审视医学大模型，提供了外界反馈，并汇集成集体智慧，正所谓“旁观者清”。具体来说，当涉及以下问题时，让患者群体可以参与医用GenAI的研发过程十分必要，具体包括：①涉及患者治疗方案选择，选择过程中存在偏好因素；②所进行的医疗决策对于患者生命质量及医疗安全至关重要，与患者利益直接相关；③医疗决策可能存在伦理争议，或社会关注度较高；④在决策过程中，患者体验十分重要，如涉及少数人种、少数群体及罕见病方面的医学大模型。促进患者群体积极参与，可以确保AI得到适当使用，了解数据共享、评估社会/文化可接受性、提高公众的素养并衡量可接受的GenAI用途。

2.3.2　兼顾患者价值观的辅助医疗决策

GenAI赋能患者以便捷的方式获取诊断和治疗信息。当患者使用GenAI进行了自我诊断，并携带相关的信息（如提示词、GenAI提供的诊疗方案）就诊时，医生备选的诊疗抉择包括：①按照GenAI对患者的诊疗结果进行诊疗；②拒绝GenAI的结果，重新独立地为患者进行诊疗，不参照GenAI的任何提示和结果；③在诊疗的基础上，参考GenAI的结果，综合进行诊疗。临床医生首先与患者沟通，详细了解其对使用GenAI的期望，并解释诊疗流程，以确保获得患者的理解和同意。同时，对GenAI提供的诊断和治疗建议进行专业评估，判断其合理性和准确性。最后，GenAI的建议将作为参考作出综合决策，再结合医生的专业知识和患者的具体情况，制定出个性化的诊疗方案。医生需要不断更新自己的知识，了解和掌握GenAI的基本原理和局限性，以便在临床实践中更好地应用和监督GenAI的使用。

GenAI辅助临床决策深受价值观的影响。OpenAI的CEO奥尔特曼认为，比技术更难的问题是：谁来决定默认的价值观是什么、界限在哪里。人类的价值观可能是多元的、动态的、模糊的，价值观念之间会存在冲突，在GenAI难以真正理解临床场景的背景下，凸显了医患决策的内在价值和意义。人类的临床决策函数是非线性的且与场景相关，在概率和收益之间存在依赖关系。当GenAI框架和方法不符合人类的实际决策行为和偏好时，就难以适用于主观、复杂、多目标的临床决策问题，以及人机决策协作问题。GenAI协助人类作出临床选择时，应该关注到决策者的偏好、信念和行动之间的关系，利用好数据和信息来融入信念和价值观并作为决策参考，通过技术研发者、医生和患者的共同参与来纠偏。

3　辅助医患共享决策的伦理挑战

3.1　GenAI 信息披露模式下对传统知情选择权的挑战

《卫生领域人工智能的伦理与治理：多模态大模型指南》建议“披露LLM生成的内容是由人工智能系统生成的”。在医疗过程中，披露对象主要是医生与患者，以确保在诊疗的全流程、多层次实现对大模型使用的知晓，以规避风险，减少对患者的伤害。如果医生选择尊重GenAI所作出的诊断，便体现了尊重自主意愿。需要指出的是，GenAI虽可以根据输入内容生成所需要的答案，但其回复仍为内设程序所决定的而非存在自主意愿。患者通过自行提问，并阅读了解回复之后，主观上主动地选择了GenAI所作出的医疗决策，体现了患者的自主抉择。

在技术层面上，目前人们对GenAI的理解还不够充分，可能存在过度期待、恐惧等复杂心态。因此，GenAI环境下，临床医生的告知内容应涵盖AI的生成过程的主要方面：机制、模型准确性、生成结果及替代治疗方案等。如GenAI的工作原理和数据来源，模型的准确性和不确定性，根据GenAI方案对治疗方案可能进行动态调整等。此外，临床医生要注意如何谈论死亡或一些禁忌。假如AI模型显示了患者死亡风险极高，此时的医生应有技巧的、在确保不影响治疗基础上，向患者本人和/或家属进行告知。

3.2　GenAI赋能的医患沟通模式对传统告知与理解的挑战

GenAI在应用过程中仍存在困境，而《卫生领域人工智能的伦理与治理：多模态大模型指南》中的六项原则可以为困境的解决提供思路。大部分患者还难以理解大模型的机理、操作过程、利与弊，难以对比分析它与传统治疗方案之间的优劣。可解释原则使得患者更易理解模型的决策原理与过程，增加参与临床决策的积极性和可行性^［16］。不少患者还心存疑虑，既对GenAI参与的披露主观上不关心或存在恐惧，但是又希望诊疗过程有GenAI的参与；既希望GenAI参与决策，但又不希望知道过多诊疗细节。通过建立GenAI参与辅助医疗的责任体系，有助于压实各方主体责任，一方面增强GenAI的可信性，另一方面则可以减轻患者的恐惧和逃避心理^［17］。此外，如果患者无法独立为自己的医疗行为作出决断、患者意识丧失需要紧急救治等情况下，还要允许告知/理解的豁免，或者设置医学大模型的预同意/预拒绝以简化医疗流程。患者可以选择完全接受/拒绝医学大模型的参与，在后续诊疗过程中无须再对患者进行询问及告知等。

GenAI辅助性用于医患共享决策过程，应该做到以下几点：①教育和培训：从患者角度出发，通过视频、图片和简洁通俗的文字，减少患者的恐惧和误解。②强化沟通：临床医生应与患者针对GenAI的使用进行深度沟通，解释GenAI的诊疗角色和作用，确保患者对GenAI知情并实现共享决策。③重视患者选择权：除设置预同意/预拒绝选项外，在决策中充分尊重患者的意愿。④综合决策模型：临床医生应综合考虑GenAI的建议、自身的临床经验和患者喜好，结合具体情况作出最佳决策，与患者讨论使用/不使用GenAI情况下的诊疗方案并动态调整。⑤紧急情况处理： 在紧急情况下，通过预先设置的明确的豁免机制，允许在患者无法自主决策时选择是否使用GenAI辅助决策；通过签署预先同意书，允许在紧急情况下选择是否自动启用GenAI。⑥重视反馈和持续改进：通过建立反馈机制，不断改进GenAI的应用方式和患者体验。

4　结语

GenAI作为当前AI发展的新前沿和新主流，将对临床决策模式产生深远影响。《卫生领域人工智能的伦理与治理：多模态大模型指南》的落地为卫生领域AI伦理治理提供了依据和思路，并具象化提出了六项原则。在伦理治理原则的指引下，通过医患与GenAI之间的相互赋能，让医患共享决策模式落地生根。此外，多方参与共同决策可以从技术研发者、患者和医生等多个层面实现对GenAI的评估，促进医疗人工智能的伦理治理体系建设。

参考文献

[1] ROSEMANN A . ZHANG X. Exploring the social， ethical， legal， and responsibility dimensions of artificial intelligence for health-a new column in intelligent medicine［J］. Intelligent Medicine， 2022，2（2）： 103-109.

[2] Ethics and governance of artificial intelligence for health： guidance on large multi-modal models［EB/OL］.［2024-02-20］.

[3] 王玥，宋雅鑫，王艺霏，等.卫生领域人工智能的伦理与治理：多模态大模型指南［J/OL］.中国医学伦理学：1-58［2024-05-03］.

[4] WANG Y， SONG Y X， WANG Y F， et al. Ethics and governance of artificial intelligence for health： guidance on large multi-modal models［J/OL］. Chinese Medical Ethics： 1-58［2024-05-03］.

[5] 王飞跃， 平行医生与平行医院：ChatGPT与通用人工智能技术对未来医疗的冲击与展望［J］. 协和医学杂志， 2023，14（4）： 673-679.

[6] WANG F Y. Parallel doctors and parallel hospitals： lmpact and perspective of ChatGPT-like AIGC and AGI on medicine and medicare［J］. Medical Journal of Peking Union Medical College， 2023，14（4）： 673-679.

[7] MOULAEI K， YADEGARI A， BAHARESTANI M， et al. Generative artificial intelligence in healthcare： a scoping review on benefits， challenges and applications［J］. International Journal of Medical Informatics， 2024：105474.

[8] ARORA A.Moravec’s paradox and the fear of job automation in health care［J］. Lancet， 2023， 402（10397）：180-181.

[9] DONG X L， MOON S， XU YE， et al. Towards next-generation intelligent assistants leveraging llm techniques［C］. in Proceedings of the 29th ACM SIGKDD Conference on Knowledge Discovery and Data Mining， 2023.

[10] BEAM A L， DRAZEN J M， KOHANE I S， et al.Artificial intelligence in medicine［J］. The New England Journal of Medicine， 2023，388（13）： 1220-1221.

[11] 李东洋，刘秦民， 论ChatGPT在医学领域可能带来的伦理风险与防范路径 ［J］. 中国医学伦理学， 2023，36（10）： 1067-1073.

[12] LI D Y， LIU Q M. On the possible ethical risks and corresponding prevention paths of ChatGPT in the medical field［J］. Chinese Medical Ethics， 2023，36（10）： 1067-1073.

[13] CHENG V， YU Z. Analyzing ChatGPT’s mathematical deficiencies： insights and contributions［C］// The 35th Conference on Computational Linguistics and Speech Processing， 2023.

[14] DENNY P， DENNY P， LEINONEN J， et al. Prompt problems： a new programming exercise for the generative AI era［C］. In Proceedings of the 55th ACM Technical Symposium on Computer Science Education V. 1， 2024.

[15] FUI-HOON NAH F， ZHENG R， CAI J， et al. Generative AI and ChatGPT： applications， challenges， and AI-human collaboration［J］. Journal of Information Technology Case and Application Research， 2023，25（3）： 277-304.

[16] 陈安天，张新庆. 医学人工智能辅助诊疗引发的伦理责任问题探讨［J］. 中国医学伦理学， 2020，33（7）： 803-808.

[17] CHEN A T， ZHANG X Q. Discussion on the medical ethical responsibility problems caused by artificial intelligence assisted diagnosis and treatment［J］. Chinese Medical Ethics， 2020， 33（7）： 803-808.

[18] JO A. The promise and peril of generative AI［J］. Nature， 2023，614（1）： 214-216.

[19] 张新庆.医患“共享决策”核心概念解析［J］. 医学与哲学， 2017，38（10A）： 12-15.

[20] ZHANG X Q. Core Concept analysis of shared decision-making between physicians and patients［J］. Medicine and Philosophy， 2017，38（10）： 12-15.

[21] ADAMS J.Defending explicability as a principle for the ethics of artificial intelligence in medicine［J］. Medicine， Health Care and Philosophy， 2023，26（4）：615-623.

[22] YAZDANPANAH V， GERDING E H， STEIN S， et al.Reasoning about responsibility in autonomous systems： challenges and opportunities［J］. AI and Society，2023，38（4）： 1453-1464.

基金资助

2023年年度中央高校基本科研业务费专项资金资助课题“医学院校‘科技哲学’专题研究与课程思政探索”(3332023182)