生成式人工智能在智慧医疗中的伦理问题及对策研究

Research on ethical issues and countermeasures of generative artificial intelligence in smart healthcare

摘要

生成式人工智能在智慧医疗中的应用虽处于初步阶段，但是其所显露出来的伦理问题已经威胁到了患者的隐私权、知情权、生命健康权等权益，面对当前生成式人工智能的不确定性潜藏患者生命健康风险、模糊责任主体致使医疗事故难以追责、弱化医患主体地位激化医患矛盾的伦理问题，应剖析出其内在公共利益与个人权利的张力、道德主体与责任归属的错乱、工具理性与价值理性的博弈的实质，从解蔽智能技术局限、加强医疗伦理治理和正视技术工具属性着手，提出保障患者的生命健康、明确事故的责任认定以及强化医患主体地位的对策，从而推动人-机关系和谐发展。

Abstract

Although the application of generative artificial intelligence （AI） in smart healthcare is still in its early stages， the ethical issues it has revealed already threaten patients’ rights to privacy， right to be informed， and right to life and health. In confronting the ethical challenges presented by generative AI， which include potential risks to patients’ lives and health due to the uncertainty of generative AI， difficulties in holding parties accountable for medical accidents due to the ambiguity of responsible subjects， and intensified doctor-patient conflicts resulting from the weakened subject status of both doctors and patients， it is necessary to analyze the essence of these ethical issues， namely， the tension between public interests and individual rights， the ambiguity of moral subjects and responsibility attribution， and the game between instrumental rationality and value rationality. Starting from revealing the limitations of generative AI， strengthening medical ethics governance， and recognizing the attributes of technological tools， this paper proposed countermeasures to protect patients’ lives and health， clarify the responsibility for accidents， and strengthen the subject status of doctors and patients， thereby promoting the harmonious development of human-machine relationships.

关键词

生成式人工智能 / 智慧医疗 / 伦理问题 / 人-机关系

Key words

generative artificial intelligence / smart healthcare / ethical issues / human-machine relationship

近年来，生成式人工智能作为新兴技术工具愈发成为社会发展的引擎，在各个领域得到广泛应用。在智慧医疗领域，生成式人工智能可以应用到智能病历归档、疾病辅助诊断、电子病历生成、健康管理等多个典型场景中^［1］，为提升医疗效率、优化患者就医体验提供强大助力。然而，生成式人工智能在赋能医疗实践的同时，也带来了诸如误诊漏诊风险、患者隐私泄露、责任主体界定模糊等伦理挑战。若应对不当，此类技术可能对人类社会产生反噬效应。因此，如何在智慧医疗中合理应用生成式人工智能，使其真正造福于人类，已成为医学伦理和人工智能伦理共同面临的重要议题。基于这一背景，本文遵循“问题—实质—对策”逻辑进路，系统梳理生成式人工智能在智慧医疗应用中可能引发的伦理问题，深入剖析其实质，并提出相应的治理对策。

1　生成式人工智能在智慧医疗中的伦理问题

1.1　不确定性潜藏患者生命健康风险

在智慧医疗领域，生成式人工智能的介入尽管可以提高医生的诊断效率，为患者提供个性化的医疗建议，但由于受到数据质量、数据保护和技术内核的不确定性制约，可能引发患者的生命健康风险。

第一，数据质量的不确定性潜藏误诊漏诊风险。生成式人工智能虽然具有强大的信息生成和泛化能力，但是在医疗场景中却受到潜在的数据质量问题的影响，可能生成虚假的、错误的、模糊的信息。生成式人工智能作为一种高度依赖训练数据的技术，其训练数据质量的不确定性将显著增加智慧医疗系统的误诊和漏诊风险。若在此基础上未结合患者的完整病史进行充分验证，临床决策可能出现偏差，导致患者错过最佳治疗时机，甚至危及生命健康。

第二，数据保护的不确定性潜藏患者隐私安全风险。在患者接受诊治的过程中，生成式人工智能通过“人机互动”收集患者的医疗记录，将患者的个人数据等医疗信息转化为代码化和符号化的数据资源。即便是患者的数据已经经过匿名化和碎片化处理，也仍然残存着痕迹。在经过多次收集后，生成式人工智能生成了关于患者全部医疗信息的数据集，形成患者的“个人大数据”^［2］，致使患者面临个人信息泄露风险。患者隐私直接关乎个人尊严，一旦泄露，不仅严重侵害其尊严，还可能对身心健康造成实质损害。

第三，技术内核的不确定性潜藏医疗公平风险。作为生成式人工智能的核心，算法可能受到“训练数据的偏见、算法设计者的偏见以及人机交互的偏见”^［3］的影响而产生偏见；“算法黑箱”问题也引发了人们对生成式人工智能医疗决策可靠性的质疑^［4］。此外，作为生成式人工智能基础的医疗数据也难逃被资本控制的趋势，可能会将低收入人群排除在智慧医疗服务体系之外，形成“数据鸿沟”，加剧医疗资源分配不公平的现象，制约患者生命健康权利的实现。

1.2　模糊责任主体致使医疗事故难以追责

生成式人工智能在智慧医疗中的应用冲击着中国法律规定的传统医疗责任主体框架，导致医疗事故责任主体界定模糊化，造成医疗事故的责任归属困难。

目前，生成式人工智能在智慧医疗中主要作为“虚拟医生”在以下三个场景中发挥作用：第一，在诊断前阶段，它可以通过案例检索、信息搜集与内容分析，回应患者咨询并提供初步建议，从而实现更高效的分诊与导流；第二，在诊断过程中，它以“医生助理”的身份参与智能导诊、问询互动和病历录入，显著提升诊疗效率；第三，在确诊后的居家康复环境中，它能够预测患者的疾病发展趋势及药物反应，并基于个体特征与病情数据为患者量身定制康复训练计划与健康指导，辅助其实现更科学的健康管理。

在上述三种场景中，生成式人工智能为患者提供了更便捷、更低成本、更高效的诊疗服务。然而，它的介入也导致医疗事故的责任主体难以明确，加剧了医疗事故责任归属的复杂性。在传统医疗决策中，基于不伤害原则，医生的诊治行为应以不伤害患者为前提，若发生医疗事故，通常由医生或医疗机构承担相应的法律与道德责任。而生成式人工智能依托其数据和算法驱动机制，能够在智慧医疗环境中深度参与临床决策，其所引发的医疗事故未必源于传统意义上的人为过失。一旦发生医疗事故，责任主体难以确定，责任的界定和归属就会变得异常困难。

1.3　弱化医患主体地位激化医患矛盾

传统的医患关系由于生成式人工智能的介入而受到猛烈冲击，医生既往在诊疗过程中的知识权威与主导地位发生动摇，以人为主体的医疗发展模式也受到工具理性的影响而被淡化，医患的主体地位和相互关系面临严峻挑战。

生成式人工智能的介入使医生主体地位面临弱化风险。医生作出判断往往依赖于长期积淀的临床经验与扎实的专业知识，而生成式人工智能凭借海量数据和强大算力，可在极短时间内习得医生需多年积累的医学知识。在家庭医疗咨询和健康管理场景中，患者也逐渐开始接受“虚拟医生”提供的初步健康建议，这种高效、便捷和快速的服务模式显著提升了医疗健康服务的可及性和普惠性。然而，若工具理性凌驾于价值理性之上，生成式人工智能的广泛应用不仅可能逐渐弱化医生的主体地位，甚至可能引发主体异化，导致医生降低对自身专业知识和技能的要求。

生成式人工智能的介入会使患者主体地位面临弱化风险。生成式人工智能的介入彻底改变了患者获取健康信息的渠道和方式，使医疗诊治呈现“患—机”“医—患”“医—机”“医—机—患”四种关系格局，推动医患关系趋向于复杂化。然而，医患之间的直接沟通和情感交流往往是帮助患者排解负面情绪、重拾信心的关键。随着医患关系格局的改变，医患之间更多由直接联系转化为间接联系，当患者面对疾病产生恐慌的感受时，医生再难以及时地为患者提供心理疏导、情感关怀和社会支持。生成式人工智能情感干预功能的固有缺陷与以患者为中心的治疗原则相违背，致使患者的主体地位被弱化。

生成式人工智能的介入易引发医患信任危机，激化医患矛盾。在传统医疗模式中，医生作为医疗知识的掌握者，处于高度权威地位。随着生成式人工智能的介入，患者得以绕过医生直接获取医疗知识、进行疾病咨询并获得健康管理建议，这在一定程度上削弱了医生的知识权威。若被患者视为“权威信息源”的生成式人工智能产生虚假信息或误导性内容，则可能在患者心中形成难以纠正的错误认知。当患者以此类信息评估医生的诊断和治疗方案时，便可能基于这种不对称的信息质疑医生的专业判断，从而引发医患信任危机。若工具理性凌驾于价值理性之上，还将进一步激化医患矛盾。

2　生成式人工智能在智慧医疗中伦理问题的实质

2.1　公共利益与个人权利的张力

公益论来自对社会公正的追求，“它要求公平、合理地对待每一个社会成员，在行为的结果上关注社会大多数人的利益，其实质是如何使社会利益分配更合理。”^［5］28尽管生成式人工智能可以提升医疗效率与资源普惠性，但其对数据的高度依赖与算法的不透明性，也增加了患者个人权利被侵犯的风险，导致公共利益与个人权利之间形成显著张力。

一是公共利益与患者隐私权之间的张力。生成式人工智能医疗服务的优化，有赖于对海量患者医疗数据的收集与深度分析。然而，尽管技术不断进步，但“现有技术无法实现完全匿名化”^［6］，这意味着患者的医疗信息从采集之初就潜藏着泄露的风险。这正是医疗技术发展所带来的公共利益与个人隐私保护之间张力的具体体现。有学者认为，“公共利益的增加意味着隐私和自由的减少”^［7］。但这种将公共利益与个人权利截然对立的零和思维，与宪法基本权利理论相悖。公众对健康权益的追求与患者个体的隐私权并非水火不容，通过选取合适有效的隐私保护措施，并加强对生成式人工智能技术的监督和控制，完全可能实现公共利益与患者隐私权之间的动态平衡。

二是公共利益与患者知情权之间的张力。在智慧医疗领域，生成式人工智能在智能导诊、辅助诊断、电子病历生成、健康管理等场景的应用，能够极大地提高诊疗效率，推动医疗资源的普惠化，从而带来广泛的公共利益。然而，生成式人工智能的应用也使得医疗诊断过程趋向于不透明。在传统医患关系的二元模式下，患者可通过直接沟通清晰了解医生的诊断思路和治疗方案，从而基于充分信息作出决策，实现有效知情同意。但随着生成式人工智能深度嵌入诊断流程，其固有的“算法黑箱”特性使得医生难以向患者透彻解释诊断的具体推理路径和结果成因，这在实质上构成了对患者知情权的挑战。因此，未来应致力于提升算法的透明性和可解释性，以期在实现技术带来的公共利益与保障患者知情权之间取得合理平衡。

2.2　道德主体与责任归属的错乱

道德主体与责任归属的错乱，实质是道德主体的定位模糊导致的责任归属错乱。当生成式人工智能凭借强化的类人属性突破传统工具边界深度介入医疗伦理判断时，以往的伦理和法律便难以对医疗事故给出恰当的责任归属。因此，厘清生成式人工智能能否作为道德主体这一核心问题尤为必要。

道德主体是指“具有自我意识，能够进行道德认知、能够进行推理并形成自我判断、能够进行道德选择与实施道德行为且承担道德责任的道德行为体”^［8］。康德将道德界定为理性当事人之间的关系，“基于这个角度的判断，具有理性思维的人才具有道德主体地位”。瓦拉赫与艾伦在《道德机器：如何让机器人明辨是非》一书中将道德主体划分为三种类型，即操作性道德、功能性道德和完全道德主体。从众多关于道德主体的界定标准来看，只有具有自我意识，能够理性思考和独立决策并且承担道德责任的理性主体才能作为道德主体。从目前来看，人工智能分为两类：一类是弱人工智能，一类是强人工智能。弱人工智能并不具有自主意识，强人工智能拥有一定的自主意识，可以产生类似人的学习、思考、判断、创造的行为。当前，生成式人工智能作为具有文本、图片、音频、视频等内容生成能力的模型及相关技术，由于“缺乏人类的主观意识、情感和直觉等能力”^［9］，无法基于真实认知进行逻辑推理或独立解决复杂问题。因此，可以认定生成式人工智能当前还处于弱人工智能阶段，不能作为医学领域的道德主体。

2.3　工具理性与价值理性的博弈

马克斯·韦伯指出，工具理性是在行动中“完全理性地考虑并权衡目的、手段和附带后果”^［10］146，而价值理性是“对作用于行动的终极价值有着清晰自觉的阐述，并将这些价值观念一以贯之地体现在具体的行动进程中”^［10］145。二者之间的动态平衡是实现人机关系和谐发展的关键。然而，生成式人工智能的开发者往往过度追求工具理性，对人造成了一定程度的异化，使人的主体性造成了一定程度上的丧失。

人的本质在其现实性上是一切社会关系的总和，人不是无主体的存在。真正的生成式人工智能应该以全人类的生命健康为根本宗旨和最终目的，充分凸显人的本质和人的主体性。一旦工具理性超越了价值理性，生成式人工智能越是发展越将成为人自身的束缚。海德格尔就将现代技术的本质视为“座架”，认为现代技术把“有用性”作为对事物的评价标准，割舍了物体的其他性质。人处于现代技术的“座架”，导致了技术的滥用，“最终将使人类陷入‘无家可归’的状态”^［5］34。

技术只是人类实现目的的一种手段，并非目的本身。在智慧医疗领域，生成式人工智能应以人类的尊严、健康、福祉、权益为最终追求，而非深陷于资本主导的追求商业利润的沼泽中。当前，生成式人工智能的算法由于存在不透明性，使得算法决策过程易被资本操纵以追求其利益最大化，这在一定程度上与生命伦理学的“尊重、有利、不伤害、公正原则”相背离。医学的发展需要新技术的推动，问题就在于由资本主导的技术最终能否真正帮助公众。面对当前算法带来的伦理风险，唯有在推动技术发展进步的同时强化人的主体地位，实现工具理性与价值理性的有机统一，才能确保生成式人工智能的应用能够真正造福人类。

3　生成式人工智能在智慧医疗中伦理问题的对策

3.1　解蔽智能技术局限，保障患者生命健康

数据是生成式人工智能模型的基础，数据质量在很大程度上影响了生成式人工智能提供医疗信息的准确性和真实性。为此，应着力推动数据采集、存储、分析等环节的标准化和统一化进程，保护患者隐私，并打破算法黑箱和偏见，推动医疗公平，保障患者的生命健康安全。

高质量的医疗大数据是医疗模型不断优化和迭代的重要资源，应在确保数据安全的前提下，推动医疗数据资源的有效整合。一方面，要着力提升患者电子病历质量，从中提取大量经过清洗的高质量医疗数据，推动构建医疗健康数据资源平台，实现数据互联共享。另一方面，相关部门应积极制定统一的数据交换与共享标准，推动医疗数据的标准化进程。与此同时，专家、医务人员、管理人员、技术研发人员应基于高质量数据合力推动生成式人工智能在医疗领域的研究与创新，通过持续提升算法效率实现模型的训练优化与迭代升级。

患者的医疗数据属于个人隐私，对于其医疗数据的采集，必须以遵循其个人意愿为前提，确保患者知情同意。首先，要强化患者的权利意识，引导患者认识到数据隐私的重要性，畅通患者对数据采集和应用的监督与反馈渠道。其次，强化生成式人工智能医疗数据使用者的责任意识，使其遵循数据最小化原则，不过度采用甚至滥用患者个人信息。最后，完善个人信息保护相关法律规范，健全个人信息保护的监督评估机制，以法律保障患者的个人隐私权利。

要推动医疗公平，就要打破算法黑箱和偏见，不断提高算法的透明度，增强生成式人工智能的可解释性。首先，要确保生成式人工智能的应用过程受到监督，并在医疗系统中引入自动推理技术和因果推断方法，推动生成式人工智能的算法决策更加透明。其次，要在生成式人工智能中内嵌以人为本的医学道德观念和伦理规范，同时引入算法偏见识别技术，对存在偏见的算法予以修正。最后，医学的科学发展是惠及全世界人类健康利益之基石，应挣脱资本裹挟，加强国际合作交流，通过建立国际数据共享平台，弥合“数据鸿沟”。

3.2　加强医疗伦理治理，明确事故责任认定

目前，中国主要依据《医疗事故处理条例》《中华人民共和国民法典》等法律法规进行医疗事故的责任划分与认定，而专门针对生成式人工智能介入诊疗过程所引发的医疗事故的责任划分和认定的法律法规与配套伦理规范尚不健全。鉴于此，亟须加强医疗伦理治理，聚焦责任主体，明确事故责任认定。

鉴于生成式人工智能目前尚不具备道德主体资格，不能作为责任的最终承担者，因此必须健全医疗事故的问责机制，确保人类主体承担相应的事故责任。首先，若是生成式人工智能内在缺陷引发的医疗事故，应以生成式人工智能服务提供者为主要问责对象，若医疗机构作为使用者未履行其基本的验证义务也应承担相应责任。其次，若是生成式人工智能在辅助医生决策时所导致的医疗事故，则应将医疗机构作为主要的问责对象。最后，若是上述两种情况共同导致医疗事故发生，则应先遵循“原因力规则”分配责任，若无法区分原因力作用大小，再遵循“公平原则”分配责任^［11］。

生成式人工智能在医疗领域应用的伦理责任追究机制的落实，必须有与之相应的制度为其保驾护航。应建立严格的伦理和法律问责制度，确保生成式人工智能符合伦理和法律要求，同时还应健全审批制度，严格审查生成式人工智能的算法、数据和系统的运行机制，以避免潜在安全风险的生成式人工智能产品被应用于医疗领域。

建立全面和严格的伦理监管机制，并强化伦理监督与治理效能，是预防和解决生成式人工智能引发的伦理问题的关键。首先，政府应建立严格的伦理监管机制，对生成式人工智能在医疗领域中的应用进行实时监督与评估，判定其是否符合医学伦理规范和法律规定。其次，生成式人工智能服务提供者应确保模型持续符合安全评估要求，实现运行全流程可审计、可追溯，为事后责任认定提供依据。最后，要畅通患者的反馈与投诉渠道，对于患者正式投诉或反映的严重问题，应及时启动科技伦理审查机制进行独立审查，并建立透明的信息发布机制，将审查结果及整改措施予以公开，以提升治理的公信力与效能。

3.3　正视技术工具属性，强化医患主体地位

在生成式人工智能赋能智慧医疗的过程中，一旦工具理性超越了价值理性，便会使技术凌驾于人之上，进而背离保障人类生命健康的根本宗旨。因此，要确保技术以人为本的发展方向，就必须正视技术的工具属性，强化医患的主体地位，实现工具理性与价值理性的有机统一。

生成式人工智能是人的产业劳动的产物，仅能辅助而非替代医生，确保具备丰富临床经验的医生处于主体地位是保障医疗决策专业性和准确性的前提。首先，要赋予医生在诊疗过程中的主导、监督和决策权力，承认医生决策的独立性，捍卫医生的专业权威，将生成式人工智能作为医生的助手。其次，要强化医生的主体意识，通过医学伦理培训告知医生运用技术注意事项和伦理规范，避免医生对技术产生过度依赖。最后，应强化医生的亲历性，保证医生全程参与患者的关键诊疗过程，以保障患者的生命健康安全。

在智慧医疗领域，生成式人工智能的发展和应用须始终秉持以人为本的核心理念，以增进人类健康福祉为追求，不断强化患者的主体地位。一方面，研发人员应确保生成式人工智能模型与人类价值观和医疗伦理对齐，将保障患者的生命健康安全作为第一价值目标，并推动构建以患者为中心的制度框架，保障患者的数字人权。另一方面，医生应坚定立足以患者为中心的立场，贯彻人本主义理念，进一步强化人文关怀，积极回应患者的情感需求，从而弥补生成式人工智能在情感支持与人性化沟通方面的局限。

有效的医患沟通和对称的医疗信息是化解医患信任危机和矛盾的关键。应加强对医务人员信息伦理和职业道德方面的培训，提升其职业素养和道德意识，鼓励医生在诊疗过程中使用通俗易懂的语言，确保医患沟通过程顺利进行。同时，政府、专家、医疗机构、研发人员应携手研发和设计生成式人工智能在线健康咨询模型，构建统一的医学专业知识库，为患者查询相关问题提供便捷和可靠的渠道，从而推进医患之间的信息对称。

4　结语

目前，生成式人工智能在智慧医疗中的应用虽处于初步阶段，但是其所显露出来的伦理问题已经威胁到了人类权益，还衍生出技术滥用和误用、数据垄断与权力滥用、医疗资源分配不均等问题。如果不及时对这些伦理问题加以治理，不仅会严重损害患者的健康，还会阻滞整个医疗行业的发展和进步。未来应着力推动数据标准化和统一化进程，打破算法黑箱和偏见，保障患者的数据隐私安全和生命健康，推动医疗公平。生成式人工智能作为前沿科技，在智慧医疗领域的应用必须受到伦理和法律框架的规范和制约，应通过健全医疗事故问责机制和制度保障体系，加强伦理监督与治理，解决生成式人工智能引发的医疗事故责任难定的伦理问题。在未来相当长一段时期内，生成式人工智能仍然不具备自主意识，将继续扮演工具性角色。因此，要深入探索人机关系范式，强化医患的主体地位，实现工具理性与价值理性的有机统一，从而推动“人—机”关系协调发展。

参考文献

[1] 吴英华，罗家锋，林成创.迈入人工智能新时代：ChatGPT在智慧医疗应用场景研究与思考［J］.数据通信，2023（4）：33-38.

[2] WU Y H， LUO J F， LIN C C. New era of artificial intelligence： applications and reflections about ChatGPT in smart healthcare［J］. Data Communications， 2023（4）： 33-38.

[3] 李伟鑫，王晓丽.ChatGPT类生成式人工智能的伦理问题、原因分析与规制路径［J］.昆明理工大学学报（社会科学版），2024，24（1）：54-62.

[4] LI W X， WANG X L. Ethical issues， causal analysis and regulatory paths of ChatGPT generative artificial intelligence［J］. Journal of Kunming University of Science and Technology （Social Sciences），2024，24（1）：54-62.

[5] 郭高维.医疗机器人应用的伦理风险及其治理路径［J］.东南大学学报（哲学社会科学版），2025，27（S1）：31-34.

[6] 黄一洲，谭郑雨.生成式人工智能对于医患关系的伦理重构［J］.医学与哲学，2024，45（3）： 49-53.

[7] HUANG Y Z， TAN Z Y. Ethical reconstruction of doctor-patient relationships through generative artificial intelligence［J］. Medicine and Philosophy，2024，45（3）：49-53.

[8] 赵迎欢.高技术伦理学［M］.沈阳：东北大学出版社，2005.

[9] 冉尤冰，胡志民.基于系统性文献综述的医学科学数据质量评价指标框架构建［J］.医学信息学杂志，2025，46（7）：7-14.

[10] RAN Y B， HU Z M. Construction of quality evaluation indicator framework for medical scientific data based on systematic literature review［J］. Journal of Medical Informatics，2025，46（7）：7-14.

[11] 张衠.大数据时代个人信息安全规制研究［M］.上海：上海社会科学院出版社，2020：129.

[12] 古天龙.人工智能伦理导论［M］.北京：高等教育出版社，2022：257-258.

[13] 孟芳.从边界重构到协作共生：生成式人工智能背景下的人机关系演进探究［J］.人工智能，2025（3）：86-95.

[14] 马克斯·韦伯.经济与社会：第1卷［M］.阎克文，译.上海：上海人民出版社，2019.

[15] 徐明，韦俨芸.数字时代医疗人工智能的算法逻辑、风险及其应对［J］.中南民族大学学报（人文社会科学版），2024，44（1）：146-154.

[16] XU M， WEI Y Y.Algorithmic logic， risks， and countermeasures tomedical artificial intelligence in the digital era［J］.Journal of South-Central Minzu University （Humanities and Social Sciences）， 2024， 44（1）： 146-154.

基金资助

2020年度国家社科基金高校思政课研究专项“当代西方社会思潮在我国高校传播中的意识形态风险及防范研究”(20VSZ125)

四川省中医药文化与中医药发展研究中心重点基金项目“中医药文化科普研究”(ZYYWH2025007)