随着医疗人工智能（以下简称“医疗AI”）的临床应用由导入期演变为拓展期，其已在很大程度上推动产生了数字化健康革命。医疗AI可以通过大数据整合分析，快速准确地筛检疾病，预测疾病风险，了解发生机制，最终提出改善疾病的诊疗策略。但是，医疗AI的技术嵌入也带来不同层面的制度风险。就前端准入规制而言，如何调整传统准入规管，确保医疗AI普遍使用的安全有效；就中端审查而言，如何合理配置知情同意权，确保医疗AI个体在程序上适法无虞；就致损后的责任承担而言，生产者/设计者、医务人员、医疗机构等责任主体之间关系复杂，如何在利益平衡理念下厘定责任归属、分配以及损害填补等均是亟待解决的重要议题。需要指出的是，现阶段医疗AI仍是辅助医务人员决策，最终对于疾病诊疗方法的选择均有赖医务人员的专业判断及自由裁量，因而本文的相关情景探讨大多围绕弱人工智能展开，以期为医疗AI规制发展提供阶段性的建议参考。
1 医疗AI对传统准入机制与一般侵权规则的冲击与挑战
1.1 关于传统准入机制的前端挑战
目前医疗AI应属于医疗器械范畴。在此基础上，现阶段对医疗AI的监管仍然要落位于医疗器械监管框架内，因此，国内外监管机构均出台了相应政策法律，以加强医疗AI的监管创新。以美国为例，从上市前风险分类管理的基本样态来看，美国食品和药品监督管理局（Food and Drug Administration，FDA）的分类如下：第Ⅰ类为低风险器械，仅在注册时就可以合法销售；第Ⅱ类为中等风险器械，监管途径是上市前通知，此途径是依据FD&C Act第510节第k项（简称“510（k）”）进行监管；第Ⅲ类为高风险医疗器械，监管途径为严格的上市前许可（premarket approval，PMA）。部分第Ⅰ类、Ⅱ类的医疗器械风险较小，经FDA公告可免除510（k）或PMA申请途径
［1］。国家药品监督管理局（以下简称“药监局”）则是将医疗器械分为3类进行管理：第一类（风险程度低）、第二类（中度风险）、第三类（较高风险），判定分类的因素包括预期目的、结构特征、使用形态、接触程度等。在监管机制中，准入机制是决定技术能否产品化并进行规模化临床应用的前提。首先，医疗器械的准入本身应具备强监管属性，但是考虑到医疗AI更新迭代快的特性，是否需要释放相当程度的监管弹性，实为一个两难的议题。一方面，过于严格的准入监管可能会扼杀医疗创新；另一方面，过于宽松的准入监管会造成医疗AI上市后充斥不良反应，扰乱医疗AI创新市场秩序，降低消费者对医疗AI的信任度。其次，传统经验表明，准入机制一般要求相对严格的科学理解、耗时繁杂的资料审查以及极为谨慎的临床试验等。关于科学理解，中国的《医疗器械监督管理条例》《医疗器械注册管理办法》等规章明确要求申请人需要提交各类用于科学理解的研究资料。但是，医疗AI的可解释性本身就存在相当程度的解释空场，未来是否可释放无法科学解释但准予投入临床应用的监管弹性。再者，中国绝大部分医疗AI都必须经过临床试验方可上市，但临床试验同样存在可能无法解释的困境，依此，是否存在可替代性方法或者采用综合判定法整体判断准入与否
［2］。此外，健全准入机制还须以“新质”审批人才作支撑，因此，医疗AI注册审批队伍建设也极为关键，而目前医疗AI注册审批队伍的量与质都存在不同程度的不足。总之，传统医疗器械的准入监管机制已经不足以因应医疗AI发展需要，现行模式亟待调整。
1.2 关于知情同意实施的中端挑战
医疗AI行为并不只是“指令输入+行为输出”的执行过程，而是基于患者知情同意权基础上的系统活动。不论医疗AI发展如何，保障患者的知情同意权都是必须坚持的基本价值取向。如果说前端建立准入机制是为确保医疗AI普遍使用过程中的安全有效，中端实施知情同意则是个体使用过程中的首要前提，在此基础上，才有医疗AI的使用余地。
《中华人民共和国民法典》第一千二百一十九条、一千二百二十条对患者知情同意权作出规定。相比旧条文，《民法典》的新规定突出了具体说明和明确同意两项要求。基于此，医疗AI使用是否应纳入知情同意范畴，如果纳入，那么关于“具体说明”的判断余地何以裁量。同时，“理性医师标准说、理性病患标准说、具体病患标准说、二重基准说以及折中说”等学说如何适用采纳，特别是，医疗AI的披露标准或者告知范围乃至程序设计如何界定。毕竟，患者能否从医务人员所告知的内容中获得足够的信息，是其能够行使自主权的关键，若界定不明则难以说明该知情同意是真实有效的。例如，诊疗过程中的告知范围是否包括解释医疗AI运作的依据或逻辑？这一问题梗阻的本质在于算法的黑箱属性使然，在于算法从输入到输出的过程机理是不透明的。现实中，生产者/设计者通常以商业秘密为理由拒绝公开算法，而这也导致商业秘密保护有时会凌驾于解释权之上。况且，算法公开本身也并不代表算法可被理解，公开往往只是被理解的前置环节。算法解释并不是指对源代码的解释，而是指对算法判断或决策的解释
［3］。必须承认的是，这一判断或决策过程并非基于医务人员都充分理解、充分验证以及得到广泛证据支持的生物学关系
［4］。医务人员往往只能基于观察医疗数据而非临床试验来验证这些判断或决策
［5］，或者说只能转述别人的评价来解释说明。在此基础上，若医疗AI所形成的诊疗建议与人工诊疗结论相冲突且不被医务人员所充分理解，那么无论是医务人员坚持己见的告知，还是医务人员向医疗AI结论妥协的告知，都会增添患者疑虑。若医务人员长期囿于理解盲点而直接选择相信医疗AI，便可能会导致出现“批量化”后果的出现。再加上市场性行为难免会左右医务人员的风险释明程度
［6］，这些都会实质性影响患者知情同意权的实现。从“理性人”角度观察，如果患者明确知道风险存在，却难以进一步获得风险相关的可理解信息时，其通常会基于既有理解或者风险臆想而作出保守决策，从而对属于医疗AI采取排斥态度
［7］。
1.3 关于致损后的后端担责挑战
在现行立法框架下，医疗AI致损后的担责形式主要涉及产品责任和医疗过失侵权责任两大场域。在面对医疗AI这一新技术领域时，任何法律规范的涵摄失灵都在所难免，进一步说，产品责任或医疗过失侵权责任都有适用空间，也都有适用障碍，具体还应在不同情境中仔细甄别。关于产品责任的适用障碍。从性质定位来看，医疗AI本质上属于医疗器械，产品责任完全符合现阶段医疗AI属“物”的法律地位。从功能实现来看，产品责任既能充分保护救济受害人，又能合理限制生产者的责任，同时还能鼓励生产者进行技术革新。但是，在医疗AI这一场域，关于产品缺陷的归责和认定却成为难题。产品缺陷一般包括设计、制造、警示等三种缺陷。其中，制造缺陷所指涉的认定标准（是否偏离原有设计进而存在不合理的危险）还是归责原则（通说认为适用无过错责任原则）往往争议不大；相比之下，设计缺陷和警示缺陷的整体判断则较为复杂，因而也构成了司法实践的争议焦点。以设计缺陷的认定为例，设计缺陷意味着设计本身存在不合理危险。关于不合理危险，由于前述算法的“黑箱”特性，医疗事故的发生往往无法从设计方面找到合理归因的因素
［8］，算法追责难度极大。即便是采用近年域外较为重视的风险效用标准也相当困难，按照该标准，原告一般只要确立一个合适的安全参照设计即可完成举证，但适用过程依然存在诸多局限，例如，美国《侵权法第三次重述：产品责任》第6（c）节规定了但书情形，即使患者能够证明更加合理替代设计的存在，也并不代表缺陷一定存在，前提是至少对一类患者有益，且能够让一位负责任医生做出此诊疗建议。再如，要求患者提出更加合理的替代设计成本高昂且难以实现等
［9］。此外，设计缺陷认定的法定标准是指国家标准和行业标准，而中国与医疗AI相关的国家标准和行业标准并不明确也并不统一。再加上由于现实中诊疗的多样性和效果的不确定性，往往只能依据抽象复杂的“不合理危险”来填补判断余地。同时，由于标准应急性与技术认识边界性，当出现符合国家、行业标准但存在不合理危险的产品时，又该如何认定
［10］？
关于医疗过失侵权责任的适用障碍。医疗过失侵权责任的核心在医疗过失的认定。医疗过失认定最基本的标准是“合理医生标准”。在医疗AI这一场域，是否应将AI所能达到的医疗水平全面或者选择性融入现行的“合理医生”标准之中？特别是，“当时的医疗水平”作为医务人员注意义务和能力的通常标准，在不同医疗过失侵权情形下的解释应有所不同。除了责任认定难题之外，医疗机构的担责样态也有待厘清。医疗机构一方面须为医务人员的过失承担替代责任，这点一般无异议；另一方面需要为组织过失承担责任。组织过失通常理解为医疗机构没有部分或完全履行确保医疗AI正常运作之义务，而医疗AI领域医疗机构组织过失的样态何以呈现，何种责任分配形式更能彰显体现公平效率。
2 制度吸纳之一：完善医疗AI前端准入机制的策略探讨
2.1 适当放宽准入审查，加强上市前后协同监管
考虑医疗AI特性，可借鉴美国有条件排除准入监管的相关经验，例如，美国《21世纪治愈法案》便将某些医疗AI排除在医疗器械定义之外，不受FDA管辖
［11］。依此趋势，中国的规制思路应作调整，即原则上只有涉及核心领域的医疗AI才有必要纳入传统监管框架。而且，即使属于核心医疗领域的医疗AI，在确保安全性和有效性的前提下，也应当简化上市程序，缩短审批流程
［2］。相关应用的例证是，2018年，FDA将放射医学图像分析仪包括乳房X线摄影乳腺癌的计算机辅助检测器械、超声乳腺病变和X光上肺部结节等软件重新分类，将其由第三类医疗器械调整为第二类医疗器械。如此一来，相似医疗器械可申请上市前通知510（k）或De Novo分类审查，不必历经PMA
［12］。此外，中国还应当进一步加快对医疗AI的审查速度，必要时以“快保护”为导向，适时开辟特殊或重大审批通道。例如，根据美国的“突破性医疗器械计划”，针对特定疾病，FDA可以在AI器械开发期间以及上市审核过程中与企业进行密集互动与实时沟通指导，以加快FDA的审查速度，而审查程序则可以采取上市前通知FDCA 510 （k）、De Novo分类审查程序等相对简单的程序
［13］。
需要指出的是，准入机制只是系统监管机制的一环，为实现规制平衡，还应发挥不同环节的协同作用，即无论前端准入机制放宽与否，医疗AI上市后监管部门都可以根据安全性和有效性要求，随时要求持有人执行风险管理、强制召回、停售以及下市等措施。美国也有类似实践，当不受FDA规制的医疗AI可能对消费者利益产生威胁时，FDA可以保留对其的适法监管，并具备相当程度的执法自由裁量权。同时，为加强对医疗AI的全生命周期协同规管，中国还需要持续开展指导原则和审评要点制订修订工作；发展建立医疗AI预认证试点项目；引入年度报告制度完善变更控制要求等。美国相关的实践是，FDA于2017年启动了软件预认证试点项目，提出将尝试建立基于制造商质量与组织卓越文化（culture of quality and organizational excellence，CQOE）的审批模式，作为完全基于产品的传统审批模式的选择性，旨在评估医疗AI能否在全生命周期内确保安全、有效
［14］。
2.2 加强医疗AI安全性和有效性之多元验证
中国《医疗器械监督管理条例》将医疗器械的注册条件为“安全、有效”。在验证“安全、有效”过程中，算法机理太过复杂，医疗行为本身又极具不确定性，这些诱因都会导致只依靠科学理解往往难以理想化、常态化验证医疗AI的有效性与安全性。况且，实践中缺乏科学理解本身也并非一定会落入不被容许的风险范畴
［15］，例如，消炎镇痛药阿司匹林的作用机理至今仍无法解释，但其安全性和有效性确实已得到充分的实践验证
［16］。进一步说，科学理解只是验证安全有效的一种重要手段而非唯一的依赖，除此之外，临床试验与真实世界数据及证据规则（RWD /RWE）的搭配规制应被更加重视。一方面，临床试验目前仍然是医疗AI监管特别是通过上市前审查最为重要的方法。首先，医疗AI的临床试验应充分考量“PICO”原则，即P（patient/population）患者的临床特征；I（intervention or exposure）干预或暴露因素；C（comparison）对照措施；O（outcome）关注的结局指标，在并以此为基础审慎设计试验对象选择、对照选择、评价指标选择等三大要素。例如，对象选择要区分类型而差异化精准选择，对照选择要尽量选择金标准，若实在无法成就选择具有相似适应症、基础算法和使用条件的同类产品，评价指标的选择应基于研究目的和临床实际需求而设定
［17］。其次，分阶段厘清医疗AI临床试验的任务重点，在I-Ⅲ期应围绕安全性和有效性重点研究使用者对医疗AI的理解力、接受度、信任度等，评价对临床结局的影响；Ⅳ期临床试验主要是评价效果，在广泛使用条件下分析其利弊和注意事项
［18］。同时，为进一步贯穿上市前后临床试验的风险控制，医疗AI的临床试验还应全过程评估其安全、有效性，例如全周期评估过拟合和欠拟合等算法风险、假阴性和假阳性等决策风险、进口产品的中外差异风险、样本选择的合理性与充分性、对照方法的可接受性和可行性等。
另一方面，临床试验也存在诸多局限，一般而言，基于临床试验证据获批的药械通常由于病例数较少、研究时间较短、试验对象入组条件严格、干预标准化等原因，存在安全性信息有限、疗效结论外推不确定、用药方案未必最优等不足，而这些不足的本质问题就是数据驱动力不足。与之相比，RWD是“从各种来源常规收集的、与患者健康状况和（或）医疗服务相关的数据”，RWE则是进一步“通过分析RWD得出的、关于医疗产品使用以及潜在获益或风险的临床证据”
［19］，这与医疗AI的数据驱动本质高度切合，故更容易发挥其在样本代表性和样本数量方面的绝对优势，进而克服高度控制的随机对照试验（RCT）在代表真实世界中患者群体和治疗方案的局限性，进而辅助监管机构决策药械审评审批，同时帮助医疗卫生利益相关方制定临床实践指南。不过，真实世界的数据并不等于真实世界的证据，只有符合证据规则的数据才能最终转化为符合法定规则的证据。因而，未来还需要更多地关注数据质量问题（如数据缺失和数据异常等）以及模型性能问题（如模型的可解释性、偏差和漂移），《真实世界数据用于医疗器械临床评价技术指导原则（试行）》更是从相关性和可靠性两方面对数据质量提出要求，并要求以此为基础加速推动真实世界数据用于临床评价进程，例如，推动真实世界数据用于支持产品注册，作为已有证据的补充；推动其为单组目标值的构建提供临床数据；支持在说明书中修改产品的临床价值；支持附带条件批准产品的上市后研究；用于高风险植入物等医疗器械的远期安全性和/或有效性评估；用于治疗罕见病的医疗器械全生命周期临床评价，加快其上市进程；上市后监测等。整体来看，临床试验为聚焦于上市前审查的受控态研究，RWE为偏重于上市后的自然态研究，二者互相结合充分体现了“全生命周期”确保医疗AI安全性与有效性的监管理念
［15］。此外，还要持续加强医疗AI注册审批队伍建设。例如，通过产学研用整合的诱因机制，重点培育跨部门、跨领域的复合型审批人才。重视软法的补充性作用，细化业务流程、管理标准与产品规范，逐渐完善技术审评制度，统一审批标准尺度，突出层次化的绩效激励，全面提高审批人员积极性和执行力
［20］。
3 制度吸纳之二：医疗AI中后端侵权责任调适
3.1 关于患者知情同意权的具体厘定
目前，从各国司法实践来看，以患者需求和信息“实质性”为导向的患者标准已成为学界主流。《中华人民共和国民法典》（以下简称《民法典》）所规定的“具体说明”也明显指向了患者标准。《德国民法典》则是将这一“实质性信息”趋同于“所有对患者同意治疗有关键意义的信息”。应当说，未来当医疗AI逐步成为行业共识后的主要选择时，医生自然有义务将其作为“公认的医疗实践”来披露，并将其视作重新评估注意义务程度的起点
［21］。但是，目前医疗AI虽获业界认可但却未成行业惯例，这一阶段，以履行必要的结果预见和结果避免义务为前提，还是应主要尊重医生的专业判断，具体有无说明义务应视具体患者的不同需求作差异化考量。如果确定医生负有告知义务，那么其告知范围应全面覆盖诊断告知、治疗告知、过程告知、替代告知以及风险告知等情形，特别是要释明推荐使用医疗AI的具体理由，包括但不限于风险比例、诊疗效果、成本对比等详细事证，而患者也应明确同意（不限于书面同意形式）在可容许的智能风险内责任自负。受限于医疗AI算法的黑箱属性、医学自身的有限性以及人体反应的不确定性，“无法科学解释”的医学现象将长期存在。从这个角度讲，告知范围在“覆盖广度”不容弹性的前提下，可以对医疗AI的披露“深度”有所放宽，具体按照“合理医生标准”在能力范围内履行充分告知义务即可，而对于自己能力范围之外的相关信息，则有义务向患者释明相应的获取渠道。同时，为避免市场寻租行为，医生还有义务将其所属相关利益关系如实向患者告知，否则推定为未完全“具体说明”之情形
［6］。需要指出的是，由于不同AI决策模型的透明度有所不同，导致其风险的可控性不同，而医生的单独告知必要性也因此不同。例如，对于目前常见的规则模型、树模型、线性模型、距离模型、概率模型、集成模型和深度学习模型这7种模型
［22］，随着其透明度依次降低，而医生单独告知必要性则依次增加
［23］。此外，《民法典》还特别规定了知情同意中的例外——紧急情形，即出于治疗急迫性而立即实施的医疗行为。此时的医疗措施应首选医疗AI急救架构，这一架构可以充分发挥手术室、急救室等数个医疗关系者的协同作用。因而，在该架构渐至成熟时，紧急情形下的知情同意适用应具更大弹性，特别是在患者因生理、精神状态无法作出有效判断时，不仅确认主体可以向近亲属延伸，而且程序瑕疵也应允许限期予以补正。
3.2 关于产品责任的承担规则构建
首先，设计与开发环节的归责原则与认定标准是产品责任承担的重点和难点。在这一场域下，设计开发者承担的主要义务包括设计解释、警示义务、跟踪观察、召回义务、数据保障义务等。在此基础上，对于归责原则而言，针对设计缺陷，设计缺陷应适用无过错责任原则，这主要是考量到现实中很难区分医疗事故是由系统的设计缺陷所引起，或由其他医疗AI的零部件缺陷所引起，若不统一适用无过错责任，患者举证时将会存在模糊空间。医疗领域始终应坚持以患者利益为最高设计原则，适用无过错责任原则能够促使开发者持续提升医疗AI的安全性，并倒逼开发者完善履行设计解释义务。相反，警示缺陷则应适用过错责任原则。若生产者以恰当的方式对医疗机构或者医务人员提出警告后，其责任可以免除，而且生产者还可以基于成本考虑弹性作出必要的安排。例如，功能强大甚至能“自我诊疗”的医疗AI售价高保费低，而普通的医疗AI则是售价低保费高。此时，使用者或部署者出于风险预期以判断事故率与理赔风险，而生产者也恰当地履行了警示义务
［8］。对于认定标准而言，有学者提出运用理性算法标准，即从诊断准确率、信息采集准确率、诊疗平均时间以及诊断增益率等指标入手，量化计算医疗AI的合理反应与理性水平。这一理性算法标准指向的是算法本体，与之相比较的是市场上同类型的一般算法
［9］，而这种比较也对构建事后可解释技术提出了新要求，并高度依赖于开发者设计解释义务的履行，即尽快研究融合白箱和黑箱模型的模型设计方法，以在模型的可解释性与准确度之间进行平衡
［24］，进而促进比较场景的算法应用。与此同时，中国还应尽快明确并统一医疗AI的国家标准和行业标准，厘定过程应以技术治理和组织治理融通为导向，发挥研发企业、医疗机构、算法运营商、技术开发方等协同作用，参考内容包括但并不限于成熟的业界共识性标准、医生权威经验、最新资料和临床指引等。此外，当发生符合法定标准却存在不合理危险情形时，应允许设计开发者主张发展风险抗辩事由，但前提是设计开发者须负有较为严苛的举证义务且其相关义务履行皆没有瑕疵，若然违反或举证不能便可推定为缺陷构成。
其次，医疗AI产品责任担承还涉及第三方（提供者）、部署或使用者的责任分配。第三方（提供者）应重点延续开发者所承担的跟踪观察、召回义务，主要观察医疗AI使用过程中是否存在危害部署者或使用者的可能性，若履行不能应认定其与开发者共同承担不利后果。而部署使用者的义务履行主要涉及维护及培训、风险告知、信息披露、保密等场域。以风险告知和信息披露为例，有学者根据实践经验大致总结了医疗机构的下列告知义务：①医务人员在科研或实践中感知或确定的风险；②医疗AI的自身风险；③医务人员使用医疗AI的资质及经验；④医疗AI的过往应用案例；⑤医疗AI相关责任主体对本医疗机构的资助、合作关系及其他利益关系等
［25］。在此基础上，医疗机构若然不对上述内容进行告知或披露便认为其存在过失，患者可以依据《民法典》第一千二百一十九条、以妨碍知情同意权为诉求主张医疗机构承担告知损害责任。此外，无论是第三方（提供者）还是部署或使用者都应履行必要的数据保障义务，将数据安全维护贯穿从开发到使用的全链条环节。同时为避免抑制创新并进行损害填补，产品责任担承还涉及产品强制责任险的合理运用，具体应以社会最大效益为导向，考虑让医疗AI相关责任主体按照风险高低分担保费
［26］。
3.3 关于医疗损害责任的承担规则构建
医疗损害责任承担的关键在于医疗过失之认定。实践中，医疗过失致损的情形大致包括三种：
①医务人员的不作为。医务人员应当使用AI而未使用。现阶段，医疗AI使用尚未整体改变目前的诊疗惯例，是否使用医疗AI应当落位于医生的专业裁量范畴，利益平衡理念下的专业裁量要求医生不能简单地依赖 “公认的医疗实践”以及“专家共识”进行抗辩，换言之，还要考量“最新医学文献”的适用可能，并从文献的时效性、权威程度等方面进行初步验证，并结合患者病情、治疗风险、未使用医疗AI所发生的损害大小、损害发生的概率、治疗成本以及患者经济情况等予以综合判断。特别是，当患者病情严重、传统疗法无效果且医疗AI推荐的干预措施为中低风险时，应视为医务人员采纳医疗AI的理由当然充分，此时医务人员的未使用行为极有可能被认定为医疗过失
［9］。为更好量化过失基准，司法实践还可以引入汉德公式辅之以法经济学判断。在汉德公式中，医务人员的注意义务和能力受三个因素的影响：P（损害发生概率）、L（损害发生大小）、B（预防损害成本）。若P乘以L之数值大于B，即认定医疗过失存在。虽然汉德公式也有诸多局限，特别是现实中医疗损害的责任点并不完全固定，但也可以根据个案认定得出责任点范围，在该范围内可通过自主裁量得出医疗行为是否达到最低预防责任点的初步结论
［27］。
②医务人员的不当作为。医务人员不当使用所致医疗损害，具体又可大致分为两种情形：其一，不适宜使用医疗AI却使用。例如，结合医疗AI安全说明以及患者具体指征，此时明显不适于医疗AI而医务人员却过失决策使用，则构成过失
［2］。其二，确宜使用医疗AI却在使用过程中存在过失。例如，在使用前，医生需要按照医疗AI安全说明做好操作准备，若履行瑕疵便认定存在医疗过失。而关于过失认定标准，考虑到使用前的准备过程相对不复杂，不需要医务人员具有高于一般水平的注意义务和能力，一般按照临床指南确定“当时的医疗水平”即可；而在使用过程中，医务人员对医疗AI需要具备相当程度的结果预知可能性及结果回避可能性，特别是不得将信赖原则适用于医疗AI，从而降低医务人员客观的注意义务和主观的注意能力。关于上述医疗过失致损的担责主体识别问题，本文认为，无论是上述不作为医疗的过失还是作为的医疗过失，其所致的医疗损害责任都应由医疗机构承担，换言之该责任的担承性质为替代责任。这一点在《民法典》中也有迹可循，《民法典》将原《侵权责任法》中的“医疗机构及其医务人员”的“及”改为了“或者”。应当说，现代医疗行为具有高水平化和复杂化的典型特征，医疗AI场域更是往往由多个医疗关系者分别参与并在不同时刻介入整个医疗过程，医疗行为之间的流程衔接环环相扣，在界定过失归属时很难聚焦到特定人员或固定环节，同时又不能规定所有参与主体均负过失责任，否则不仅有失公平，还会导致医疗分工集体效率低下。再者，由于医疗AI通常是由医疗机构来购买并进行后续风控，这些都使得医院的替代责任更容易实现。因此，在基于替代责任的外部担责情形下，患者无须证明医疗过失由特定医务人员造成，或医疗机构的组织管理过错，而只需在优势证据标准下证明医疗机构的诊疗活动没有达至客观的注意义务水平
［28］。
③医疗机构自身的组织过失。医疗机构的角色则类似经营者，有义务培训操作人员、定期保养医疗仪器、定期检验功能运作，以及在医疗AI正式运转前应做好相关应急预案，出现认知或运转障碍时应及时求助开发者等。结合当前医疗AI的现实实践，包括但不限于以下行为可认定为医疗机构的组织过错：擅自将医疗AI系统安装于传统医疗器械上使用；将禁止类或未经备案的限制类医疗AI投入临床应用；提供瑕疵的医疗训练数据或者虚假的诊疗准确率提供给智能设备学习；对医疗AI没有尽到合理的维护和保养义务；对医疗AI存在不当使用情形，如未按照诊疗规范进行操作、故意干扰运行中的智能设备等情形；未对医务人员进行相关的培训、考核；拒绝或无法提供医疗AI的既往诊疗准确率；擅自拆除、拒绝提供黑匣子记录仪的查阅请求等
［26］；没有履行必要的核查或评估程序等。而针对实践中可能出现争议的医疗AI选取问题，一般认为，医疗AI先进性取决于医院的取向、等级与规模，医疗机构有义务购置满足诊疗需求的AI，但是患者无正当理由不得要求医院提供超过成本或尚未普及的医疗AI。
特别需要指出的是，医疗场域本身就存在多因一果、连锁因果、多因多果等复杂因果关联，医疗AI产品缺陷和医疗机构过错共同致损的情形更是常见，此时，应结合医疗AI诊疗模式、侵权场景、错误发生原因等因素，采用“以原因力大小为主、以过错程度为辅”的比较方法综合判定连带责任或按份责任形式
［29］。若无法区分原因力大小可酌情考量平均主义分配的个别适用。此外，为实现均衡化且普惠化的责任分配，医疗强制责任险的设置也至关重要。医疗强制责任险的设置与推广，不仅可以减轻医疗机构和医务人员的负担，还可以通过扩大危险共同体的方式，使得损害赔偿客观化并能够迅速填补损害。同时，还可考量设立补偿基金或者储备金作为补充，具体可参考工伤保险索赔程序，并借鉴美国《医疗损害赔偿改革法》相关规定，适时单列精神损害抚慰金项目，根据损害程度设置不同范围梯度
［30］，以确保损害填补的全面性。
4 结语
在传统诊疗模式中，医疗损害范围相对有限且可控，往往只是单一医生出错影响单一患者，而医疗AI出错却会殃及使用AI的所有患者。未来要尽快从技术、产品两个维度完善医疗AI的全周期监管，并制度化明确责任归属、分配以及损害填补等工作极为迫切且关键。诚然，中国近年来持续开展指导原则和审评要点制定修订工作，发布了《深度学习辅助决策医疗器械软件审评要点》《人工智能辅助诊断技术管理规范（2021版）》《人工智能医疗器械注册审查指导原则》等政策指南。同时，现行产品责任规则体系和医疗损害责任体系也有适应性调整，为医疗AI法律规制的最小化与程序化改造创造了空间。但是在现行制度框架下，无论是前端准入规制还是中后端侵权调适都存在相当程度的涵摄失灵和责任空场。而且就理论探讨而言，对比无人车等AI领域，目前关于医疗AI规管和侵权的相关研究明显不足。未来，应秉持全周期的系统治理理念，尽快明确实质性、具体性的规管和侵权基准，形成向外AI临床运用、向内制度反馈与底层AI反向驱动的圈层式创新联盟。
京公网安备11010202008535号
PDF
(592KB)
