0 前言
当下生成式人工智能已经在疾病诊断、手术辅助技术、治疗方案参考、医学图像识别等众多医疗场景中得以广泛应用，这种深度融合在一定程度上减轻了患者的认知负担，并减少了医师的主观偏见，但也削弱了传统医疗中医师在告知中的主导地位，导致患者知情同意权的虚化。在大语言模型的数据收集中，需要获取患者的基本信息和病历信息，为医疗辅助决策提供算法来源，但这一过程往往存在信息的过度获取和超范围要求患者进行同意授权的问题
［1］，而医疗机构采取的“一刀切”广泛授权方式，极易导致患者敏感信息的非必要泄露。同时，在算法模型的自我学习中，大量病历信息被反复使用，且缺乏有效的去识别化处理，导致患者的知情同意形同虚设。现有关于医疗生成式人工智能的研究，主要涉及应用场景、治理路径
［2］等问题，有必要对医疗生成式人工智能临床应用的知情同意规则体系进行深入研究。
1 医疗生成式人工智能中的知情同意概述
1.1 医疗生成式人工智能概念界定
“人工智能”是指能模拟、延伸、扩展和表现出人类思维的智能工具，如推理和学习的能力
［3］。这一概念源自1956年的美国达特茅斯学院会议，这一时期的人工智能主要围绕某一垂直领域发展，对社会的影响相对有限。直至2022年ChatGPT的问世，以及2025年DeepSeek的出现，彻底引发了人工智能对人类社会影响的讨论。以ChatGPT和DeepSeek为代表的“生成式人工智能”，在算法、大语言模型整合的基础上，经过强化而形成的深度学习模式，本质上是一种预训练式的人工智能
［4］。它具有交互性和无边界性，能全面融入人们生活实践的各类场景，“医疗生成式人工智能”应运而生。“医疗生成式人工智能”是指已实现深度学习和精准识别的医疗人工智能，它融合了生成式AI的交互性和通用性优势，通过获取已有数据中的信息，利用计算机算法训练出具有自我创新和迭代能力的辅助诊疗数据模型，以协助制定临床决策、医学影像分析、智能分诊及卫生健康行业中的多类场景
［5］。
1.2 医疗生成式人工智能的应用场景
20世纪50~70年代，英国出现“AAPHelp”计算机诊断程序，可以辅助医师进行腹痛诊断和手术，是早期人工智能应用于医疗领域的典型产物。21世纪初以来，生成式人工智能语言大模型开始应用于诊疗辅助决策、医学影像辅助以及手术机器人等领域，并逐步走向普及。阿里健康联合万里云医学影像中心于2017年开发DoctorYou医疗AI系统，包含临床医学科研诊断平台、医学辅助监测引擎等智能工具，极大地提升了医师的诊断效率。2023年数坤科技推出肝脏局灶病变MR图像辅助分诊软件。2024年上海西门子获批“CT图像处理与分析”软件，打破“一证一病”的管理模式，可以通过数据集成方式提供全面的医疗决策。上述产品都借助机器算法的深度学习来整合医疗知识，提高诊断效率和诊断精确度。2024年11月国家卫生健康委颁布《卫生健康行业人工智能应用场景参考指引》，明确“人工智能+”医疗服务的应用场景，包括“医学影像智能辅助诊断、临床专病智能辅助决策、基层全科医生智能辅助决策、手术智能辅助规划”等。
1.3 医疗生成式人工智能中知情同意的内涵界定
2024年8月，欧盟《人工智能法》正式生效，该法将“知情同意”定义为“受试者在了解所有与其参与决策相关的测试信息后，自由做出的、清晰和自愿地表示愿意参与特定真实条件下测试的表达”。而医疗生成式人工智能应用可以贯穿整个医疗过程，如通过读取病历，按照不同分类模式整合数据，输出包括诊疗方案、患病概率预测及手术风险预警等内容的医疗建议；依托更高的拟人特性，识别患者的面部表情、语气等外在表现，输出针对性较强的内容，提升医疗服务的人性化程度，一定程度上抚慰患者；还可以监测临床数据，对疾病进行判断，提高模拟诊断和试验的精确性。因此，医疗生成式人工智能中的“知情同意”应当是一个贯穿医疗全过程的动态链条，即患者在充分了解生成式人工智能推演出的医疗决策后，自由、自愿、清晰地做出的意思表示。
2 医疗生成式人工智能中知情同意的特殊性
2.1 法律基础演变的多元性导致知情同意规则的内涵不断扩张
第一，知情同意规则在医疗临床试验领域有其独特的发展历程。知情同意起源于1947年的《纽伦堡法典》，即“受试者的自愿同意是明确且必要的”。其后，美国的司法判例和侵权理论，将知情同意规则引入到医疗领域。1964年颁布并经多次修改的《赫尔辛基宣言》是医学研究中保护人类权益的伦理原则声明，强调对参与者的尊重和保护，2024版宣言将“知情同意”（informed consent）调整为“自由和充分的知情同意”。
第二，中国医疗临床试验中知情同意规则多以法条形式明确。1982年的《医院工作制度》首次以法律形式明确了知情同意权。目前，中国法律法规中关于患者知情同意权的相关规定，散见于各基本法律、普通法律、行政法规、规章中。《中华人民共和国民法典》第一千零八条规定，对临床受试者开展临床试验时应取得伦理审查同意以及书面同意；第一千二百一十九条规定，在实施手术、特殊检查和治疗的情况下，医务人员需向患者告知替代方案及风险等情形。这对医疗科研及医疗临床实践领域中的知情同意规则作出了不同界定。
第三，医疗生成式人工智能的发展，也使知情同意规则的内涵得以拓展。2022年颁布的《互联网诊疗监管细则（试行）》第九条规定，“医疗机构应当充分告知患者互联网诊疗相关的规则、要求、风险，取得患者知情同意后方可开展互联网诊疗活动”。2023年颁布的《生成式人工智能服务管理暂行办法》第七条规定，“生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动”“涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形”；第四条规定“不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益”。在医学研究领域，2023年颁布的《涉及人的生命科学和医学研究伦理审查办法》第十七条对知情同意设有专门规定：涉及人的生命科学和医学研究应当“尊重和保障研究参与者或者研究参与者监护人的知情权和参加研究的自主决定权，严格履行知情同意程序”。2024年出台的《卫生健康行业人工智能应用场景参考指引》，明确指出了人工智能在医疗服务管理、基本公共卫生服务、医学教学科研等多领域的应用场景，这表明国家已逐步以立法界定医疗生成式人工智能的实际运用。
2.2 医疗生成式人工智能临床实践的复杂性导致告知内容的不确定性
以ChatGPT和DeepSeek为代表的生成式人工智能主要应用于诊断治疗及临床试验研究等领域，为患者和医疗机构带来便利的同时，也挑战了知情同意的具体实施。
第一，医疗生成式人工智能设备的故障导致告知内容不清晰。医疗生成式人工智能的存在实体是精密电子元器件，在使用中不可避免地会出现如软硬件缺陷、机器故障，甚至是黑客攻击，需要常态化检查和维护以确保系统稳定运行。那么，如何保证输出诊疗决策时，新漏洞已被修补？若此时漏洞仍未被完全消除，技术风险就会随之转移到对患者的告知过程中。这不但会加剧人们对人工智能的信任危机，而且错误的诊疗决策将危害患者健康。
第二，医疗生成式人工智能设备运行的操作风险导致告知不完备。医师需学习和熟悉智能设备才能熟练操作，但智能设备的专业性强，存在技术壁垒，医护人员可能只了解基础操作，难以预见其运行故障及风险。那么要求医师向患者完整履行告知义务，或许会带来一定的信任危机。
第三，医疗生成式人工智能设备的算法偏差导致告知被误导。智能设备的算法和程序遵循数理逻辑，存在数据偏差的结果，且无法形成反思和辩证思维。诊疗决策虽基于信息收集、分析，但预测结果仍可能与真实情况有出入
［6］。因此，决策偏差将引发比传统知情同意更大的伦理风险，甚至可能对患者造成误诊。
2.3 “医-患-机”三方的协同性增加告知的难度
在以“医师—患者—医疗生成式人工智能”为参与主体的临床实践中，由于医疗实际情况复杂、参与主体的个体性强等因素，需要协调三者优先权以保证诊疗的同步配合。
第一，在医患双方主体间，医师履行告知义务与患者享有知情同意相对应存在。医师因其具有专业知识和临床实践经验，既要提供专业详尽的诊疗建议，又要以通俗易懂的语言进行沟通，以便于患者对自身病情有更客观的了解。患者在医疗决策的告知中处于接受方，其是否完全理解告知内容、是否具有同意的能力，都需结合当时的情况来讨论。因而，在此时产生的同意可能会取决于患者的认知能力、受教育程度和对医学知识接受度的高低
［7］。
第二，医疗生成式人工智能的决策结果，可辅助医师和患者对病情的理解。智能算法与人工决策相比具有更高的准确性和全面性，可帮助医师快速作出诊疗决策。医师虽是具有较高医学素养的角色，但也会有人力所不及之处，而患者非医疗专业，对病情了解的需求尤为迫切。此时，医疗生成式人工智能的决策结果则可以弥补两者之中的不足，更好地实现对病情的解释。
第三，在医疗生成式人工智能的决策过程中，要达成三者间的协作，需要视具体情况做调整。在数据模型建立初期，应引入“医患共同决策”模式，结合临床数据、社会背景、文化风俗、患者偏好信息以及特定健康状况等进行分析
［8］。同时，以患者需求为导向，转换用户思维视角，三者同步推进以达到患者评价满意、目标决策精准、医师检验合格的状态
［9］。
3 医疗生成式人工智能应用中知情同意规则的检视
3.1 医师对智能信息的充分披露存在障碍
其一，有关“充分披露”的法律标准有待进一步细化。《民法典》第一千二百二十一条规定履行诊疗义务的判断标准为是否达到了当时的一般诊疗水平。从医师角度而言，以自我所学结合临床实践经验，以保障患者生命安全，即视为已尽到相应义务。然而，医师能否依据客观标准向患者阐述诊疗情况，患者又能否充分领悟其义，这实则缺乏明确标准，此时的知情同意易变成患者的被动接受。同时，智能决策也不尽然正确，如何发挥医师本职技能中的“批判性思维”来保护性地告知患者，也暂无明确的伦理标准。
其二，医疗生成式人工智能产品算法存在黑箱
［10］，由此得出的结果可能存在数据造假和决策偏差等伦理问题。如，以“阿司匹林”和“饮酒”作为关键词在模型中频繁共现，可能生成“阿司匹林可与酒同服”的危险建议，造成误导性用药的结果。同时，智能设备输出决策的数理逻辑往往超出医师的理解范围，且其潜在风险尚未可知。医师在为患者提供诊疗指引时，难以将智能决策转化为易于理解的语言，这会降低患者对智能决策的信任度。医疗生成式人工智能可否参与重大医疗风险活动，甚至做出影响患者生死的决策？决策过程又是否透明且得到有效监管？这已转变为新的焦点。
其三，医疗生成式人工智能的算法输出可能因训练数据缺失而丧失客观性。若部分数据样本量少且代表性不足，算法结果可能忽视某类群体需求，加剧诊疗不平等的风险。大数据模型培育的算法也难免会融入人为因素。在医疗生成式人工智能的临床预测系统中发现，普通肺炎患者比患有哮喘病的肺炎患者的致死率更高
［11］，此结果明显与医学常识相悖。过度依赖智能决策而忽视专业知识，将会损害患者的生命健康，因此更需要医师结合自身专业知识和临床经验来向患者告知。
3.2 患者对知情同意的授权范围判断困难
其一，患者自身具有脆弱性，易受制于当时的医疗情况、医师告知以及个人医学素养的影响。当患者心理和生理遭受痛苦时，其理性判断的能力会减弱，主观上更倾向于依赖医方，从而放弃部分自主决策权。同时，技术鸿沟亦是导致患者授权判断困难的影响因素之一。医疗生成式人工智能辅助决策的运行机制取决于机器训练出的大语言模型，普通患者往往难以理解结果背后的复杂运行机制，在患者尚不能完全理解智能决策所蕴含意义的情况下便做出授权，此时意思表示是否真实且自愿仍存疑。
其二，尽管医疗生成式人工智能所提供的服务，在形式上符合知情同意规则的要求，但实质上却难以认定授权的合理范围。患者在急于就诊的情况下，极易导致广泛、被动地授权。同时，不规范的告知流程和非理性的患者授权行为，也可能削弱患者的信任，并加剧医师对医疗生成式人工智能的不当依赖。个人信息利用是否在病情告知的应有授权限度内，是否已达到相应程度的信息利用需要，仍需要加以规范。目前，个人健康信息授权的隐私条款中缺乏明确划分，是否应设置针对不同临床情况的告知程序，以便于患者自主决策，仍是值得讨论的议题。
3.3 知情同意判断过程中所涉个人健康信息的保护失效
其一，医疗机构对患者个人健康信息的保护力不足。医疗生成式人工智能的优势在于高效地收集、整合、分析病历数据，这也造成患者信息面临泄露及被滥用的威胁。当前，医疗机构的个人健康信息保护制度尚不完善，政府原有监督机制难以适应智能医疗的新环境；现有医务管理部门主要聚焦于行政事务，难以有效介入健康信息的保护工作；外部立法与司法领域同样缺乏明确指引，患者个人健康信息的保护界限模糊不清。究其原因，即传统监管体系的顶层设计存在不足，难以适应智能时代下的监管需求。
其二，医疗生成式人工智能在数据收集和分析阶段存在数据泄露的伦理风险。一方面，个人健康信息具有鲜明的个人标识，蕴含着潜在的商业价值。若缺乏严格的访问限制政策和法律约束，服务商内部员工可能因保密意识淡薄或受利益驱使而泄露数据。另一方面，个人健康信息数据可被多方共享，可通过患者本人信息关联至亲友信息，导致相关群体数据也遭泄露。如，通过地理位置的行动轨迹，可以拼凑出患者的工作地点，甚至是家庭住址等。
其三，个人健康信息的知情同意处理存在特殊风险，即数据的“去标识化”不足。就现有技术手段而言，患者敏感信息仍可在隐去后被修复，这使得个人健康信息极易为不法分子所利用。若该健康信息经技术修复后以非法手段重新流入信息市场，那么服务提供者对于已泄露信息的追踪则更加难以判定，同时新的提供方也无法证明获取的个人健康信息是否来源合法。此时，个人健康信息沦为商业操控的工具，造成数据物化的伦理后果。个人健康信息不是冰冷的数据体，而是包含个体生命历程的载体，因数据物化而导致的伦理风险，从根本上破坏了人的完整性（physical and mental integrity）。
4 医疗生成式人工智能中知情同意规则的构建
4.1 完善医疗生成式人工智能中的告知程序
第一，完善决策告知机制。2022年发布的《互联网诊疗监管细则（试行）》规定医疗机构应当建立“患者知情同意制度”，并充分告知患者“互联网诊疗相关的规则、要求，取得患者知情同意”。但涉及医疗生成式人工智能中知情同意的细分领域却缺乏相应法律依据。因此，可在《生成式人工智能服务管理暂行办法》中，以补充条款的形式，细化服务提供者以及医疗机构使用者等主体的告知义务。2024年美国加州通过《医疗保健服务中的人工智能法》也有可借鉴之处，该法规定在使用人工智能生成的信息时，必须明确告知患者此内容是由人工智能创建，且需包含明确的免责声明。这既增强了医疗决策的信息透明度，又有效地保护了个人隐私。
第二，制定决策告知等级制度。如，以“分析结果在临床应用中的成熟度高低”为由，结合智能医疗器械的管理类别来区分不同告知等级
［12］。若分析结果成熟度高，则表明诊疗风险相对较低，可参照第一类、第二类医疗器械的管理标准执行。如，非用于辅助决策、提供养生保健指导等功能的健康观测设备，此时医师的告知义务可按照自身的专业知识衡量。反之，当分析结果成熟度低时，可参照第三类医疗器械的严格管理标准。此类设备多为直接植入人体或用于维持患者生命，如参与临床辅助决策，并提供用药指导、诊疗计划等，此时医师必须介入二次验证后方可告知患者。在具体的告知程序中，可重点培养医师的沟通技能，将伦理风险纳入医师继续教育课程。
第三，建立告知程序多元化运行监督机制。引入政府外部机构的力量，构建“内部+外部”多元化的监督与审查体系
［13］。完善卫生健康行政部门的监督职责，加强行业内监管；医疗机构应区分科学研究伦理审查与临床应用伦理审查的不同职能。涉及人的生命科学和医学研究，由伦理审查委员会对研究活动进行审查。智能医疗产品的临床诊疗应用，则由医疗技术临床应用管理委员会协同伦理委员会，依据《医疗技术临床应用管理办法》等规定进行伦理评估。在外部机构监督中，可通过成立专门的医疗生成式人工智能伦理委员会、智能数据监督小组等，汇聚学界智慧，共同构建有效监督机制。如，当医师决策与智能决策矛盾争议较大，或患者需进行重大手术及特殊治疗时，可由相关伦理机构对告知程序是否合规、合理予以审查。
4.2 明确医疗生成式人工智能中知情同意的授权划分
第一，明确界定分等级的知情同意授权模式。《民法典》和《中华人民共和国个人信息保护法》将个人健康信息划分为一般信息和隐私信息。其中，“一般信息”主要包括患者的身高、体重、年龄、性别等直观数据；“隐私信息”更偏向于患者的病历信息、医师的诊疗信息等。针对不同敏感程度的信息，应采取不同的告知程序
［14］。以欧盟2016年颁布的《通用数据保护条例》为例，其中规定需在主体同意的情况下才能对相关个人数据进行处理；应保证告知患者的信息简洁、清晰且容易理解，并以书面或者电子的方式取得其知情同意。同时，限制个人可识别信息的储存时间，对于此部分信息的利用时间不得超过完成信息处理所必要时间。联合国教科文组织在2023年发布《伦理影响评估：人工智能伦理治理工具建议书》，提出“对于尊重、保护和促进人权、基本自由和伦理原则而言，透明的、可解释的、负责任的、拥有归责机制的人工智能系统是必不可少的”。因此，可在医疗生成式人工智能临床研究的伦理审查中，关注智能设备运行的决策透明度和可解释性。通过设置不同医疗智能授权程序，明确解释的原因、解释的对象、解释的方法，以便于患者理解，从而实现有效的知情同意。
第二，加强隐私权保护禁止概括授权。基于生成式人工智能数据运行的复杂性采用动态标准，即同样的个人健康信息，在不同场景下也可能引发不同程度的风险，因而需采取相适宜的处理规则。如，可将数据使用场景分为“诊疗必需”“医学研究”等不同级别，根据患者需求有选择性地授权，并结合智能医疗分析结果，综合医师专业知识加以考量是否有取得个人信息的必要
［15］。同时，在告知过程中注意避免医师个人主观臆测，以免影响患者的授权意向。在授权过程中，加入医疗机构、医疗生成式AI产品提供者与医师共同组成三方授权保护。医疗机构可通过对患者授权过程进行录音、录像存证，以确保授权的真实性；产品提供者应确保授权系统符合伦理规范，避免提供误导性条款而引发错误的授权表示。
4.3 保障医疗生成式人工智能中的知情同意所涉个人健康信息安全
第一，可参考国内外相关健康信息保护法规，出台符合医疗生成式人工智能临床应用需求的立法。《个人信息保护法》第十三条提到：为应对突发公共卫生事件，或紧急情况下为保护自然人的生命健康和财产安全所必需，可适用读取信息的豁免。由于医疗生成式AI的实际运用场景一般不存在对危急患者的抢救情形，因而在立法时注意规避此类情况。又如美国《健康保险可携带性和责任法案》（Health Insurance Portability and Accountability Act，HIPAA）规定未经同意禁止使用或共享健康信息，除非此类信息被用于治疗、付款或健康医疗目的；实体机构应按消费者的要求向其充分告知，并视个人要求提供健康信息副本。该法案在确保个人健康信息得到妥善保护的同时，允许为提供高质量医疗服务而合理披露健康信息。其个人信息披露模式具有借鉴意义，可融入中国医疗信息保护体系中。
第二，医疗生成式人工智能的服务提供者需承担特定的监管职责。从《生成式人工智能服务管理暂行办法》第七条第3款及第9条可知，服务提供者应当依法“履行个人信息保护义务”“涉及个人信息的，应当取得个人同意”。因此，可在各数据运营企业内部建立起对从业人员追责制度，提高其对法律法规的认知；设立专门监督岗位，严格审核数据使用途径；在数据的收集、存储、分析、共享的不同节点中，设立多环节的规制。如，在程序设定中，强制纳入多样性数据集以减少算法偏见带来的伦理风险。在提起医疗智能产品的研发申请时，先经过学术委员会的立项审核，再经由伦理委员会进行伦理审查。特别是在对提供终末期诊疗建议的高风险应用进行审查时，可邀请伦理委员会委员、高校科研专家以及医学临床和法律方面的专业人士一并加入讨论。
第三，加强对医疗生成式人工智能中个人健康信息的技术维护。一是采取严格的访问登录，设置能够恢复数据或不可删除浏览记录的系统；对健康信息的访问权限实施严格控制，并应用最新、最高级别的安全防护措施；对于健康信息的显示以实名授权或手机号绑定等作为登录准入条件。二是数据加密存储。由于健康信息本身所具有的商业价值，可能存在被二次利用的风险，应在加密技术中限制不同应用场景的数据读取和授权。在临床应用中，进行实时监测，并安装保密系统以增强数据存储的严密性；在信息录入阶段对患者的可识别个人信息去标识化处理；在出现数据泄露等安全问题时，装载的安全系统可及时冻结数据登入路径，以确保系统的安全性和稳定性。
5 结语
医疗领域内的传统的知情同意规则主要围绕患者权益保护展开，而现今智能医疗的发展使得其由以往的“医师—患者”的单一对应模式，转变为“医师—患者—医疗生成式人工智能”三维对应模式。将知情同意规则融入医疗生成式人工智能的临床应用，不仅是其发展进程中的核心议题，也是医疗机构与智能服务提供者积极响应医患需求、全面保障各方权益的必由之路。因此，加强对医疗生成式人工智能应用的监督，形成此类临床实践中的知情同意规则的统一标准，有助于更好地服务于医疗机构、医师与患者，以保障个人健康权益。
京公网安备11010202008535号
PDF
(537KB)
