中国人口老龄化程度不断加深，居民的医疗需求显著增加，人工智能正在越来越多地被开发并应用于医学领域。中国出台了一系列政策鼓励和指导其发展。2017年，国务院印发《新一代人工智能发展规划》，提出推广应用人工智能治疗新模式，探索智能医院建设；2018年国务院办公厅发布的《关于促进“互联网+医疗健康”发展的意见》提出，研发基于人工智能的临床诊疗决策支持系统，提高医疗服务效率。2021年，由国家发展改革委等21部门印发实施的《“十四五”公共服务规划》提出，加强智慧医院建设，促进人工智能在公共服务领域推广应用。人工智能是指计算机软件模拟人类认知过程的方式，被定义为机器的智能
［1］。其在医疗行业的应用实现了智能导诊、云平台诊疗、临床辅助诊断等，传统医疗逐步转变为数字医疗、信息医疗和智慧医疗，传统的医患互动方式、信息获取渠道和医疗决策模式也随之改变，介于患者和医生二者之间的双重关系，由于医疗人工智能的参与，形成了新型的“医生-医疗人工智能-患者”共同参与的医患关系。本文旨在分析医疗人工智能对传统医患关系的影响，并提出适宜的“三位一体”新型医患关系建构路径。
1 医疗人工智能对传统医患关系的影响
医疗人工智能是指在医疗领域运用人工智能技术，包括机器学习、深度学习、自然语言处理、计算机视觉技术等。其广泛应用于药物研发、医学影像、辅助诊疗、健康管理以及疾病预测等方面
［2］。传统的医患关系基于医生-患者之间沟通交流，依赖医生经验和患者提供的信息进行医疗决策，医疗人工智能的应用提供了诸如智能设备或在线平台等新的沟通方式、信息获取渠道，改变了医疗决策模式和资源配置格局，对传统医患关系也产生了新影响。
1.1 “家长式作风”的人工智能对患者自主权的影响
尊重患者的自主性被认为是当代医疗实践的基本原则之一
［3］。既往造成医患之间不平等地位的重要因素之一是，医生与患者之间存在信息鸿沟，医生具有丰富的医疗专业知识，而患者的医疗知识相对匮乏。这在文化程度低或者医疗条件较差的偏远地区的患者群体中更被放大。人工智能在医疗领域的应用在一定程度上可以通过为患者提供更多的医疗信息，增强患者的权能，减少地域和知识偏差对患者作出决定的限制，为其参与医疗决策提供更多的数据支持。
然而人工智能是依靠收集的患者信息，输入数据库检索，并依据大数据特定的参数给出答案，因为缺乏对社会、心理、生物和精神等层面的了解，尚不能将不同患者的固有价值观或偏好纳入考虑。例如，大多数算法会根据哪种治疗能最大限度地延长患者的预期寿命来推荐治疗决策，然而，患者可能更喜欢减轻疼痛的治疗方式。此外，医疗人工智能给出的推荐是基于海量的基础数据和算法模型。算法偏差包含人类引起的偏差和数据引起的偏差，由人类引起的偏见受到开发商本身的道德观念及相关利益的影响，而算法可能会继承人类的偏见，并随着数据的积累和迭代，使得偏差被加强和放大。由数据引起的偏差是指训练不具有代表性而影响算法模型时的偏差，如果该算法是基于西方人的诊疗数据开发的，那么在诊断亚洲人群时则会不太准确
［4］。因此，在智慧医疗中，有偏见的算法可能或低估或高估某些患者的风险，不具有代表性的数据可能导致某些群体边缘化，巩固或加剧健康差距，增加弱势群体的风险。而这种所谓人工智能基于医疗大数据分析，引导患者做出他们认为符合患者最大利益的决策，可能会带来新的“计算机最了解”的“家长式作风”，进而形成主体为人工智能的新型家长制关系，对患者的自主选择权造成新的冲击，削弱患者在医疗实践中的主体地位
［4］。此外，人工智能在智慧医疗应用场景中，“家长式”地大量收集和共享使用患者个人信息和医疗信息，并完善其可访问的数据库，这通常是在患者没有明确同意和许可的情形下完成的。
1.2 “非责任主体”的人工智能对医生决策责任的影响
临床医生需要为他们作出的医疗决定负责，如果因为其错误诊断而对患者造成严重损害，临床医生可能会面临医疗事故纠纷，被指控实施了“不负责任”的诊疗。为了减轻这种风险，医生应当根据现有的最佳证据作出决定。倘若在智慧医疗场景中，临床医生和人工智能之间出现分歧，如果医生坚持了他最初的建议，而最终的诊断结果却是错的，他可能被认为是采取不负责任的行为，因为其疏忽大意或是过于自信而忽略了人工智能提供的证据
［4］。然而许多医疗决定是在不完善的条件下作出的，例如由于时间限制，一定程度上阻碍医生对现有证据的深入评估。而如果医生听从了人工智能的建议，但是其建议是基于诸如教条主义或经验主义等认识缺陷产生的，又或者其算法出现错误，导致其给出了错误的治疗建议，谁应该为此诊疗决策负责？人工智能给出了错误的建议，而最终作出决定的是临床医生，医疗责任归属是否应当从医生转向人工智能？有学者认为，人工智能不具备自由意志和道德主体性，从亚里士多德的“行动必须源于主体，人不可能不知道自己在做什么”来看，人工智能既不符合传统的自由意志标准，也不知道自己在做什么，因此人工智能不能成为负责任的主体
［5］。就目前智慧医疗的实际场景而言，人工智能只是医生用来诊断和治疗疾病的辅助工具，并不具备作为负责人的资格。然而，医疗人工智能的应用涉及诸多利益相关者，包含其开发者、算法设计者以及监管者等，简单地将医疗责任归咎于医生并不公平。决定将人工智能应用于医疗场景的医疗机构是否应当负责？人工智能的制造者是否应当负责？人工智能算法的设计者是否应当负责？责任不清的诊疗关系对智慧医疗中的医患关系造成了新的冲击。
1.3 “黑箱”般的人工智能对医患信任关系的影响
正如医患关系建立在医患信任基础之上一样，医生和患者也必须与医疗人工智能建立信任关系，才能促使智慧医疗良性发展。信任关系的建立需要依靠信息的可靠性和可解释性，然而，人工智能在多数情况下被称为“黑箱”，依靠综合大数据寻求最佳回应使得人工智能工具并不总是能够提供可解释性的、透明度高的信息。而由于人工智能缺乏可解释性，可能导致“决策瘫痪”现象
［6］。当患者面对人工智能提供的大量信息时，往往会因为难以理解复杂的医学术语，而出现信息过载的问题。缺乏必要性的解释说明时，患者会对人工智能提供的数据表现为低信任度。智慧医疗中理想的状态是由医生承担患者和人工智能之间的桥梁，由医生审查和完善人工智能提出的结论和建议，并向患者解释或回答相关疑问。这需要医生以正确的方式向患者传达和解释人工智能创新，既要证明其附加价值，又要避免技术在患者感知中取代人类医生的风险。然而，人工智能提供的诊断可能并不能完全反映医生的评估和想法，例如，国际商业机器公司（International Business Machines，IBM）的人工智能系统Watson for Oncology显示出的医疗建议，医生常对其也缺乏理解
［6］。如果医生和人工智能提供的诊断、预后和治疗提供不同的意见，或是缺乏理解，这种模棱两可或分歧的情况会导致患者体验到不确定性，不知道该遵循何种意见，谁更有权威性或更值得相信。患者在犹豫听从医生建议还是选择人工智能建议之间就可能会造成决策瘫痪或延误
［7］。
因为“黑箱”般的人工智能缺乏结果的可解释性，可能会导致患者和医生更加重视人工智能的准确性和有效性。换言之，医患可能将他们的可信赖关系建立在人工智能工具提供高度确定性而不是高度透明度的理解上，对其决策的有效性产生高度依赖，而忽略人际信任价值的提升。一旦决策的有效性或准确性受到影响，都可能会摧毁智慧医疗中的医患信任关系。相关报道显示，IBM的沃森肿瘤系统经常推荐“不安全和不正确的”癌症治疗指南，因为用于训练沃森算法的数据不是来自真实的患者，而且来自虚拟患者的假设和不充分的数据
［5］。治疗建议是根据每一类癌症的少数专家提出的，而不是有关的指引或可靠的证据，这些数据并不代表实际复杂的临床情况，进而不可避免地影响了人工智能决策的准确性和适用性。患者可能将错误决策的原因归咎于医生能力有限，缺乏识别人工智能不当决策的能力；医生将错误决策的原因归结于人工智能大多数时候正确且患者可能表现出对人工智能建议的倾向性，进而导致医患信任关系受到影响。
1.4 “程式化的”人工智能对医患情感关系的影响
相关研究
［3］显示，同理心是以人为本医疗的基础，同理心要求医生要理解患者的立场、了解患者的疾病经历和个人处境，并通过这种认知产生共鸣，感到有动力为患者提供帮助，进而有助于医生从患者的角度以及患者个体的价值观和目标来理解疾病。如果不站在患者的角度去理解患者的选择，医生难以与其达成共同决策。同理心可以激发同情心，同情心可以使得医生具有关心、关爱患者的感觉，进而产生改善他人福祉的强烈动机。而人工智能在人际关系和情感体验的心理表征上，不可避免地与人类存在异质性。即使接受了对自然语言的理解训练，人工智能也无法以原始形式整合这些信息，无法获得人类医生与患者会诊时可以使用的复杂而微妙的肢体语言和情感互动能力。对患者而言，如果在体验智慧医疗中，提供医疗服务释疑解惑的是人工智能医生，他可能会产生负面情绪，感觉到自己被遗弃、不被重视。尽管也有相关研究
［8］认为，人工智能在医疗领域的推广可以节省医生时间，让医患之间有足够的沟通交流时间，以便医生能够获得充分的信息与患者建立更有意义和富有同理心的关系。相关研究
［9］显示，医疗人工智能Watson for Oncology需要40秒来捕获和分析数据，然后根据可用数据生成治疗建议。相比之下，医生手动收集和分析数据平均需要20分钟，当肿瘤学家对病例更加熟悉时，时间会减少到12分钟
［9］。然而，目前尚不清楚这些节省下来的时间是否会用于增进医患之间的情感交流，促进更加信任的医患关系的建立
［2］。出于医疗资源的短缺性和市场经济的逐利性，特别是在人口老龄化加剧、医疗资源紧缺的情况下，人工智能节省的时间也可能会被用于接诊更多的患者，这意味着医生仍然没有足够的时间与患者进行充分且有效的沟通，患者的接诊时间缩短可能会导致医患情感关系的恶化。
2 “医生⁃医疗人工智能⁃患者”三位一体的医患关系构建路径探析
2.1 明确人工智能在智慧医疗活动中的辅助地位
基于前述医疗人工智能对医患关系的影响，很大程度上取决于其在医疗环境中发挥的作用，其角色究竟是协助医生还是替代医生？一项行为学实验发现，如果人工智能可以进行个性化的对话，参与者遵循人工智能建议的意愿就会增加，这意味着患者可能更喜欢可以进行语言沟通的真实的医生建议
［3］。另一神经学研究显示，即使是在人工智能使用个性化的对话风格时，研究参与者大脑反应显示出对医疗人工智能的冷漠，相比之下，真实的医生更容易引起患者的情感反应
［3］。这些研究表明，即使人工智能足够聪明，但是也难以做到像真实的医生一样，感受患者情绪，理解患者期待，与患者产生情感共鸣。
相关学者提出，医疗人工智能只能通过改善沟通方式等渠道在辅助作用中对医患关系产生积极影响
［10］。例如，一项关于精神健康的研究显示，对边缘性人格障碍的患者使用AI补充疗法可能是有益的，尽管患者知道医生可以访问这些信息，但他们仍然更愿意向人工智能医生披露信息
［11］。
由此可见，人工智能应当在医疗中扮演医生的辅助角色。这需要以正确的方式向患者传达和解释人工智能创新，既要证明其附加价值，又要避免技术在患者感知中取代人类医生的风险。尽管人工智能可以提供一般的健康信息和管理日常任务，但他们目前的能力并没有扩展到会应对处理复杂的医疗问题。这些疑难杂症的解答通常需要丰富的医学知识、批判性的思维和多年的临床经验，这是人工智能所不具备的。患者在诊疗中享有自主选择权和知情同意权，医生需要向患者解释人工智能在医疗咨询中的作用，求助于这种技术是一种理想策略，用来提供最好的咨询和治疗，而不是人工智能正在做医生的工作
［7］。此外，医疗机构应当尝试“泛知情”方式提前获得对医疗数据用于人工智能机器训练学习的许可。只有这样，患者才能在充分知情的前提下，与人工智能工具和使用人工智能的医生在智慧医疗行为中建立信任关系，将人工智能基于大数据算法提供的建议与医生富有诊疗经验的建议进行细致综合评估，并共同参与医疗决策，将其作为自我健康管理的有力支持。
2.2 强化医生在智慧医疗中的主导地位与互动角色
首先，人工智能对医患关系的影响是一把“双刃剑”，如何让人工智能对医患关系产生正向影响，医生作为主导者需要承担更多的责任。法律层面缺乏对人工智能诊疗行为的规范，导致人工智能在医疗领域的应用尚无统一的标准化质量标准、准入体系、评价体系和保障体系。此外，医疗人工智能的算法主要基于预先存在的医疗实践经验，出于药物本身的潜在风险和不确定性，无论人工智能多么科学，即使随着其学习能力的提高，基础知识的不断丰富，其准确率可能会比医生更高，但仍不能保证不犯错。医生是诊断患者疾病开展诊疗行为的主体，意味着与医疗人工智能合作开展诊疗行为的医生需要承担主体责任。因此，医生需要清楚地认识到医疗人工智能在伦理和社会问题方面存在的缺陷，并加强对人工智能建议的甄别和监督。相关学者提出，智慧医疗时代医生的角色应当更接近于工程师，也就是说要了解大数据和人工智能，并熟练地将其作为工具使用
［12］。鉴于医疗人工智能可能会比医生更容易获得相关的医疗知识，在认知上可能会超过医生，这使得医生需要学习如何与人工智能系统和大型数据集进行互动并一起工作，将人工智能的建议纳入日常诊疗实践，同时保持批判性的眼光，评估人工智能输出的信息，从而更有把握地为患者提供诊疗服务。
其次，医疗专业人员的作用远比诊断疾病或推荐治疗方法要多，当患者因对未知疾病感到焦虑或备受压力时，医护人员会为患者提供情感和精神慰藉。这种医患关系建立在信任、和谐和理解的医患互动基础上，不是自动化的，也不能用人工智能聊天机器人来代替。如果人工智能可以帮助医生更容易地获取医疗知识，协助医生进行医疗诊断，那么医生应当更加注重发展与患者交往互动的综合能力。例如，如何运用知识并充分解释说明的能力，如何以富有同理心、同情心的方式最大限度地帮助患者。充分弥补程式化医疗人工智能的情感缺陷，发挥医生的共情能力，提高沟通效率、提供情绪价值，构建有温度的医患关系。
2.3 动态调适“医生⁃医疗人工智能⁃患者”医患关系的建构
人工智能医疗中的广泛应用形成了“医生-医疗人工智能-患者”共同参与三位一体的新型医患关系，医疗人工智能的应用同样需要遵循医学伦理原则，将患者的利益放在首位，促进新型医患关系的发展。而医疗人工智能本质是一种技术，在前文人工智能在医疗应用的论述中，已经论述了其对患者自主权、决策问责制、透明可信度的影响，这些问题的处理不仅需要技术进步，也需要医疗机构相关管理部门加大监管力度，以确保负责任地使用人工智能，并改善医患关系。
当前人工智能本质是通过测量现实世界来获取数据，从数据中提取算法模型，并进行相关的预测。因此数据和算法是医疗人工智能决策并提供建议的基础。首先，相关监管部门应当关注数据质量和算法的透明度
［8］，并且在智慧医疗环境中使用人工智能进行准入审核，以防滥用；其次，还需要加强对算法偏倚的纠偏管理，定期收集医生决策和人工智能决策的一致性，并反馈给人工智能制造商，及时减轻算法偏差或训练数据集的不当影响。最后，为维护患者权益，管理部门需要对数据的收集和共享使用执行可靠的安全协议，在患者知情许可的前提下收集信息，采用区块链处理隐私数据，动态加密技术等对数据交换与共享进行协同管理，合乎道德地收集且负责任地使用患者数据。
采取严密技术保护措施的同时，医疗人工智能作为新型医患关系的直接参与者之一，监管部门还需重视其长期广泛应用对医患关系的影响情况。如，通过收集医患共同决策的落实情况、与医疗人工智能的合作情况、医生在为患者提供诊疗服务中花费的时间、医患双方的接受度和满意度、医患双方的体验感和获得感等多个维度，综合评估并识别哪些情况下人工智能可能对医患关系产生不良影响，以便及时介入并采取有效措施以动态调适医患关系。
3 结语
综上，医疗人工智能对传统医患关系产生了广泛影响，一方面可以为患者提供健康教育和疾病管理支持，促进医患共同决策实践；另一方面也可能造成新形式的“家长式作风”，侵犯患者的自主权益。同样，医疗人工智能可能通过节省时间减轻医生诊疗负担，但尚不清楚节省的时间是否用于促进医患情感关系的构建。此外，医患之间的信任关系也受到医疗人工智能的影响，可解释的人工智能可以支持信任关系，但缺乏解释性和透明度的决策建议会对信任关系产生负面影响。本研究论述了几种改善智慧医疗场景中医患关系的解决办法，以确保正确地使用和监管可以让医疗人工智能促进以人为本医患关系的构建。理想的“医生-医疗人工智能-患者”共同参与的医患关系需要人工智能与医疗专业人员进行角色互补，明确人工智能的辅助地位，强化医生的主导角色，将数字效率优势、医学诊疗经验及人类情感支持等结合起来，通过加强监管以及时识别这种协作方式中可能存在的冲突及风险，以便采取适当的措施改善医患关系，促进智慧医疗的健康发展。
首都医科大学附属北京地坛医院院内科研基金“泛知情同意在医疗机构中的应用研究”(DTZK-202403)
首都医科大学医院管理研究所开放性课题“传染病数据共享中的风险防范策略研究”(2023YGS09)
北京市教育委员会社科计划一般项目“价值共创视域下‘互联网+’医患关系改进对策研究”(SM202010025006)
京公网安备11010202008535号
PDF
(671KB)
