人工智能对医疗损害责任归责原则影响的探讨

Discussion on the impact of artificial intelligence on the principle of attribution for medical damage liability

摘要

中国传统医疗损害责任归责原则采取三元说，以过错责任为一般原则，以过错推定责任和无过错责任为补充。目前，人工智能在医疗领域已经得到广泛应用。基于道德自主选择、技术独立发展的特质，其产生效益的同时对患者权益产生了前所未有的风险，导致传统医疗损害责任归责原则与医疗人工智能不能完全适配。一方面，在人工智能自主行为不足以影响诊疗活动的主体和因果关系的情况下，依然可以适用传统医疗损害归责原则；另一方面，在人工智能加入诊疗活动因其高自主性导致因果关系发生根本变化后，传统医疗损害责任归责原则与其不适配，如固守传统，则易导致医患利益失衡、医疗秩序紊乱。因此，为了重建医疗行为自由与患者权益保护的平衡、促进医疗创新、用好人工智能去提高诊疗水平，以扩大患者自主、增进患者福祉，拟探讨如何调整人工智能加入后诊疗活动后的医疗损害责任归责原则，使之与人工智能适配。基于AI的风险管理，应立法为人工智能运营者设定合规义务，制定理性人工智能标准，违反合规义务或不符合标准的，应推定过错。故人工智能参与的医疗损害责任归责原则应适用过错推定责任；过错责任或无过错责任应谨慎适用。

Abstract

China’s traditional principle of liability attribution for medical damage adopts a tripartite theory， with fault liability as the general principle， supplemented by the presumption of fault liability and no-fault liability. At present， artificial intelligence （AI） has been widely used in the medical field. Based on the characteristics of moral autonomy and technological independent development， it brings unprecedented risks to patients’ rights and interests while generating benefits， resulting in the traditional principle of liability attribution for medical damage not being fully adapted to medical AI. On the one hand， in the case where the autonomous behavior of AI is not enough to affect the subject and causality of diagnosis and treatment activities， the traditional principle of liability attribution for medical damage can still be applied. On the other hand， after the fundamental change of causality caused by the high autonomy of AI in diagnosis and treatment activities， the traditional principle of liability attribution for medical damage is not suitable for AI. If the tradition is adhered to， it will easily lead to an imbalance of the doctor-patient interests and disorder medical order. Therefore， to rebuild the balance between the freedom of medical behavior and the protection of patient’s rights and interests， promote medical innovation， and make good use of AI to improve the level of diagnosis and treatment， thereby expanding patients’ autonomy and improving patients’ well-being， this paper explored how to adjust the principle of liability attribution for medical damage after the inclusion of AI in diagnosis and treatment activities， and make it fit with AI. AI-based risk management should be legislated to set compliance obligations for AI operators and formulate reasonable AI standards， and those who violate compliance obligations or do not meet standards should be presumed at fault. Therefore， the principle of liability attribution for medical damage involving AI should apply the presumption of fault liability； fault liability or no-fault liability should be applied cautiously.

关键词

人工智能 / 医疗损害责任 / 归责原则 / 过错责任 / 过错推定责任 / 无过错责任

Key words

artificial intelligence / medical damage liability / principle of liability attribution / fault liability / presumption of fault liability / no-fault liability

0　引言

任何国家的侵权法都不可能为社会生活中的所有损害提供救济，也不可能对一切权益损害置之不理^［1］3。“哪些损害需要得到救济，将受害人的损失转移到行为人或者其他人一方，这就需要由主权者基于自由、安全、公平、正义等诸多价值观的考量作出判断。因此，侵权责任法应当对自由和安全进行均衡、恰当地保护”^［2］。医疗领域也是如此，传统法律旨在实现医疗行为自由与患者权益保护的利益均衡。在人工智能（artificial intelligence，AI）出现在医疗领域之前，传统医疗损害责任归责原则以过错责任为原则，特定情形由法律规定适用过错推定或无过错责任，较好地平衡了医疗行为自由与患者权益保护，禁得住实践的检验。但是，在AI参与诊疗后，情况发生了重大改变，AI对传统医疗损害责任归责原则产生巨大冲击，利益恐失去均衡。

本文所述AI，具有两个特质，一是道德自主选择，二是技术独立发展^［3］53，本文所述医疗AI指代参与诊疗活动的AI。2024年8月1日生效的《欧盟人工智能法》（EU Artificial Intelligence Act）第三条体现了AI的前述特质。依据该法，AI系统包含如下要素：①基于机器系统运作，而非人体或者其他碳基生命体；②具有不同程度的自主选择性，以区分于完全遵照人类意愿设定预期目标的自动化程序（例如符号主义之遵循“逻辑决策树“的专家规则系统）；③对于物理和虚拟环境表现出适应性，此与人类相似；④为了适应环境、改造环境，AI可以自主设定运行目的，而非确定地限于预期目的；⑤基于对输入数据的处理而输出，意味着其与人类认知原理一致，均遵循IPO（input-processing-output）模式^［4］；⑥通过生成预测、内容、建议以及决策影响环境（包括物理环境和虚拟环境），意味着AI对人类社会产生获益与风险的双刃剑效应。概念是逻辑的起点，《欧盟人工智能法》正是以AI概念为起点，围绕AI定义所揭示的AI特质，基于该特质所引发的AI对人类的风险予以分级分类，展开风险管理、行政准入、行政监管等制度设计，赋予AI运营者与AI风险等级相适应的合规义务。尽管该法侧重行政管理，并未直接规定侵权责任归责原则，但在逻辑上，欧盟的AI运营者不能证明完成合规义务的，在侵权案件中应推定其存在过错。

综上，AI参与诊疗的，鉴于AI具有高度自主性，可能产生人类难以合理预见或有效控制的风险，此冲击中国法律行医主体及因果关系等传统基本法律概念；因基本法律概念与侵权责任归责原则密切相关，故进而冲击传统侵权责任归责原则，造成归责原则与AI不完全适配。如不能妥善解决不适配问题，将导致医患利益失衡。

1　医疗AI对基本法律概念的冲击

社会生活的丰富性、AI技术的复杂性、AI强大的数据处理能力及其不可解释性等，使得人们难以窥及AI全貌。目前，AI系统已不同程度地介入诊疗过程的各个方面。有的将AI（例如DeepSeek）嵌入医疗机构的HIS系统，使其涉及医疗资源的分配，成为医务人员诊疗助手，有的甚至实质上在替代医务人员的角色——是AI而非医务人员在实施诊疗。据媒体报道，头部医院布置医疗AI积极踊跃，例如北京大学第一医院的“中国电信的健康大模型”、北京大学人民医院的“人医智助”、北京大学第三医院的“三生大模型”^［5］。这些AI实践活动对医疗主体、因果关系等基本法律概念产生了冲击。

1.1　对传统行医主体的冲击

传统行医主体为医疗机构及其医务人员。医疗机构及其医务人员依法取得执业资格，是依法行医的前提条件。依法行医，要求行医主体能理解法律、适应法律，并调整自己的行为，承担其自主行为的法律后果，即承担自己责任^［6］，除非法定替代责任的情形^［7］。AI加入后，有时就是实质上的行医主体。有些高自主性AI，呈现与人类相似的理解法律制度并与之互动的能力，有AI已经能够通过美国的医师资格考试，中国实践中普遍反映医疗AI水平在某些领域恐不低于中级职称的执业医师，那么，能否赋予AI执业医师资格的讨论，实际上是对传统行医主体的冲击，乃至有些专业的医师已经产生了技术性失业的焦虑。鉴于医疗AI的自主性，其实质上已经成为行医主体，不同程度地辅助乃至替代传统行医主体的诊疗活动。目前的情况是，关于AI加入诊疗的准入制度尚不足，行政机关对AI的行医能力缺乏有力的监管，风险管理缺失，实践中普遍存在由医院自行决定布置AI参与诊疗活动的情况。如因AI自主行为而非传统行为主体行为发生损害，由行医主体承担责任还是由AI承担责任则成为焦点。如由传统行医主体径直承担自己不能预见或不能有效控制的AI自主行为的责任，属于无过错责任之替代责任，恐无法律依据；如由AI承担自己的责任，鉴于AI虽有智能行医主体之实，却无法律主体之名，亦无法律依据。主体的行为是事物发展的动力因，对传统行医主体的冲击，当然牵动着诊疗活动的因果链条。

1.2　对因果关系的冲击

传统诊疗活动中，诊疗行为导致患者权益损害的，因果链条上的法律主体主要是医方和患方，产品责任可涉及生产者、销售者。AI加入后，因果链条发生了变化。量化人类各方主体与AI在因果链条上各自的原因力，对于查清事实是必要的。在医疗损害责任纠纷案件中，依照传统侵权责任因果关系的认定规则，一般分两步走^［8］。第一步是对事实上因果关系的判断，一般遵循“若无，则不”公式（but for test）^［9］。第二步是法律上因果关系的判断。在事实因果关系的基础上，根据一定价值判断来确定行为人对哪些损害负责，是法律上因果关系要解决的问题。这些价值判断中，可预见程度越高、过错程度越高，责任应越大^［10］16。过错，往往以有无尽到合理的预见或结果避免义务为衡量；确立事实上的因果关系后，认定有医疗过错的，往往被认定法律上的因果关系成立。例如，《中华人民共和国民法典》第一千二百一十九条、第一千二百二十一条、第一千二百二十二条，均体现过错程度是认定存在法律上因果关系的关键因素。但问题是，如何判断使用AI存在过错，何种预见属于合理范畴，抑或如何证明AI自身存在过错？中国现行法律并无答案。现行法律尚未明确规定人类运营者对医疗AI风险管理的合规义务，也没有规定医疗AI的行为在什么情况下存在过错，这就需要建立理性AI标准，下文将讨论。此意味着即使人类运营者使用AI或者AI 的自主行为与患者损害后果在事实上存在因果关系，欲认定其与患者损害后果存在法律上的因果关系也缺乏明确法律依据。前述对法律因果关系认定产生的冲击必然会对责任认定结果产生不利影响，这就涉及归责原则，包括但不限于：①AI的自主行为导致患者损害，医疗机构或者其医务人员没有过错的，如果照搬传统归责原则，仍然由医疗机构承担医疗损害责任，则会出现普洛克路斯忒斯之床以及责任鸿沟问题^［11］，导致医疗行为自由受限；②现行法律对医疗机构及其医务人员缺乏AI合规义务要求，患方认为医方使用AI技术不当的，如固守传统过错责任原则，则需要患方举证医方使用AI存在过错，此显著加重患方举证负担，恐利益失衡；③AI自主行为导致患者损害，医方无过错的，因患者不能举证证明AI存在问题，进而由患者自行承担损失，可能会产生无人对患者损害负责的责任鸿沟问题。

2　AI与传统医疗损害责任归责原则的不完全适配

依据《民法典》，医疗损害责任归责原则采三元说，以过错责任为一般原则，在法律明定的情形适用过错推定或无过错责任。

2.1　对过错责任的冲击：不宜以过错责任为原则

“过错是现代侵权责任法的基石”^［12］。过错责任原则是医疗损害责任的一般归责原则，要求当医疗行为导致患者权益损失时，只有在医务人员在主观方面具有道德上的可非难性时^{［10］ 13}，方可承担赔偿责任。中国立法借鉴汲取了国内外的民法理论，医疗损害责任以过错原则为一般原则，在长期的实践摸索中稳固确立，对于平衡医疗行为自由与患者权益保护而言颇为有效。然而，AI加入后，在AI自主程度越来越高、其算法黑箱、数据处理不当等导致难以合理预见、难以有效控制的风险时，对主体和因果关系产生冲击，进而冲击传统的归责原则，故而不宜再机械套用过错责任原则：其一，目前中国法律没有确立理性AI标准，没有明确规定医疗AI准入标准，没有对医方主体AI素养有明确要求，如固守过错责任原则，因法律供给不足，裁判者难以判断医方在应用高自主AI方面是否有过错。其二，如采过错责任，如前所述，须由患者承担举证责任，证明医方使用AI存在过错以及AI自身存在过错。然而，鉴于AI算法的“黑箱性”、其处理数据的海量性、其算力的强大性，且无医方AI合规义务及理性AI标准，患方显然难以完成举证责任。因此，高自主AI导致的医疗损害责任纠纷案件中，一律固守过错责任恐致患者权益保护不足，致使利益失衡。需要注意的是，尽管过错责任在表观上通过举证责任正置来保护医疗行为自由，侧重AI的创新、发展，以图更广大的公众获益，但如果该归责原则导致对当事患者权益保护明显不利，很难说这可以促进一种可持续的人本主义的、负责任的、可信赖AI的发展，反而会影响公众对医疗AI的接受程度，转而阻遏发展。

2.2　AI与过错推定责任的部分适配

2.2.1　AI与过错推定责任的部分适配

比较法上，作为各国重要的立法参照例，《通用数据保护条例》（General Data Protection Regulation，GDPR），确立个人数据处理原则、规则、合规义务、法律责任等，但意外地对于AI规制有着显著的作用^［3］53。《中华人民共和国个人信息保护法》借鉴GDPR，对AI设计者、提供者、使用者等个人信息处理者赋予了合规义务；未尽到合规义务的，依据该法第六十九条，推定个人信息处理者存在过错。可见，在AI数据治理方面，中国法律关于个人信息处理所致侵权责任的归责原则为过错推定，此与AI适配。

除个人信息处理外，中国现行法律设定了其他合规义务，义务主体没有履行该义务的，推定过错，与AI适配。例如，《民法典》第一千二百二十一条、第一千二百二十二条适用AI，AI篡改病历或违反法律、行政法规、诊疗规范的，应推定医疗机构存在过错。

2.2.2　AI对过错推定责任的冲击

依据《民法典》第一千二百一十九条，医方未尽到法定说明义务的，推定其有过错。但AI加入后对此产生冲击。其一，鉴于AI 的算法黑箱性、数据海量性以及可能的样本偏差性、医务人员的AI素养限制等因素，要求医务人员向患者全面告知AI的运作原理、逻辑、获益、风险、负担等，显见困难；如医务人员未尽到说明义务，此种情形如一律适用传统的过错推定似有不妥。“法律不强人所难”，如果没有相应合规要求及明确的标准，却要求医务人员履行此种告知义务，恐属强人所难。其二，AI独立告知的情形。在某些场域，医务人员退出或隐退（医务人员仅在形式上把关，实质上由AI做主），缺乏有效的人类监督，完全由AI基于多模态数据的输入进行处理，最终输出所生成内容、预测、建议、决策等作为诊疗建议，由AI自动向患者告知。然而，AI应当如何通过输出向患者告知并无法律明确规定。不受人类控制的高自主性AI生成的告知内容或知情同意过程存在不当的，如固守《民法典》第一千二百一十九条，径直推定医疗机构或其医务人员存在未尽说明义务的过错，由医疗机构承担侵权责任，而本应承担责任的AI则躲在了法律责任之外，此对医疗机构和医务人员似乎并非完全公平，甚至会产生AI使用的寒蝉效应，不利于医疗AI的创新与发展。

在算法规制方面，虽然中国目前有《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》以及《生成式人工智能服务管理暂行办法》等规范性文件，对于医疗AI具有一般规则的效力，但因其法律位阶过低，难以形成对医疗AI算法的有效规制。中国需要高位阶的立法，对医疗领域AI的道德自主选择和技术独立发展导致的黑箱性、偏见性等作出充分因应，明确在算法设计、布置等方面赋予运营者合规义务，明确规定医疗AI案件原则上适用过错推定责任。

2.3　AI与产品责任难以适配

产品责任为无过错责任，不以过错为侵权要件，是基于危险理论（危险开启、危险控制）、报偿理论、深口袋理论等社会本位考量^［1］122，为了产品生产者、销售者与消费者的利益平衡所确立，一般靠产品内化成本后的定价、购买保险等分散因无过错责任带来的风险和损失。《民法典》第一千二百二十三条为医疗领域的产品责任，该归责原则意在减轻患方举证负担，倾向于保护患者利益。问题是，含有AI的医疗产品能否视为法律意义上的产品，需要结合应用场景考虑。传统法律意义上的产品，一旦流通，风险即为确定；但AI上市后，其风险因其自主性的特质而不能确定，高自主AI尤甚。故其难以归属于传统的产品，恐不宜直接套用现行产品质量相关法律。简言之，产品责任与AI（尤其是高自主AI）难以适配，无过错责任在医疗AI所致医疗损害责任中应当慎用甚至原则上排除适用，否则，立法增加的成本还是要通过保险、定价等加诸民众，严重不利于医疗AI的创新、应用。

2.4　替代责任的AI适配问题

侵权责任原则上是自己责任；在例外情形，由法律明确规定由其他主体承担侵权人的责任，即为替代责任。替代责任属于无过错责任，即不以替代责任主体是否存在错为责任要件。替代责任的一种典型情形为监护人责任。AI模型的培育逻辑有类似于人类养育后代之处，那么，培育AI模型的运营者例如医方可以被立法规定为AI的“监护人”吗？如果可以，在什么时间节点视为AI“长大了”的“理性年龄”，而由AI承担自己的责任呢^［3］62？当然，这些都属于假设AI被赋予法律主体资格的情形下应考虑的问题。但争议主要在于能否认定AI具有主体权利而赋予AI法律主体资格。反对赋予AI主体资格者的，主要是基于人文主义之人的内在价值，认为赋予AI人格，可能会动摇人本主义，即使从最底线的人文主义而论，作为万物灵长的人类也有着不同于万物的人格尊严与主体地位。赋予人工智能主体地位，不仅有损人类的人格尊严和主体地位，而且不利于现实的责任归因与承担^［13］。赞成赋予AI主体资格的，主要是基于实用主义或者说法律上的功能考量^{［3］124-150}，是为了消除因果关系链条上AI导致的责任鸿沟及普罗克罗斯特斯现象。鉴于目前AI没有法律主体资格，故传统替代责任不适用AI。

3　医疗AI相关医疗损害责任归责原则的调整探讨

如前所述，加入诊疗活动的AI带来了对患者的健康、安全、基本权利的前所未有的风险，冲击传统的基本法律概念，导致医疗损害责任归责原则与AI不完全适配。一方面，现行法律与AI部分适配，意味着对现行法律全部推倒重来是不必要的，可通过解释将传统法律应用于AI；另一方面，不适配意味着法律不做相应调整是不可取的。

3.1　AI对现行法律的承继与挑战

3.1.1　一般性规则的部分适配与不适配

如前文所述，通过现行法律医疗损害责任归责原则，解决其能够解决的部分问题。这种情况原则上适用于行医主体并未明显改变、因果链条并未因AI加入而发生实质性改变的情形。例如，自主程度不是很高的AI加入诊疗活动，没有改变或者没有明显改变AI的预期目的、其风险可以合理预见且可以有效控制或弥补的，运营者对于AI存在有效的控制，故可视为并未因AI的加入导致行医主体和因果链条的变化。此种情形，AI为诊疗活动的有限辅助，且存在有效的人类监督，如AI导致患者损害，应视为医疗机构或者其医务人员医疗行为的一部分，可以按照现行法律相应的归责原则，视具体情况确定由医疗机构承担过错责任、过错推定责任抑或无过错责任。

然而，如AI自主程度高，不论是否存在人类监督，均存在人类无法合理预见或难以有效控制的损害，实质上的行为者为AI，医方的医疗行为与患者的损害结果之间因果链条因AI的自主行为而中断，如一律将责任归于医方人类主体，则会由人类运营者为AI“背锅”，此时医方人类主体并无道德上的可非难性，归责于医方不再符合正义的诉求，利益明显失衡。问题是，能否通过对传统医疗损害责任归责原则做扩大解释来解决这些问题呢？

3.1.2　对现行法律扩大解释有时是牵强的

通过对现行法律的适当解释尤其是扩张解释，以解决AI加入后的归责问题，似乎在部分情形也是可行的。毕竟在立法后转入法律解释论，民法的解释论，是通过解释既存的民法规范而形成的理论，其目的在于正确地理解和适用民法规范^［14］。即法律出台后需要通过对法律的不断解释与实际适用来以打磨法律的粗粝棱角，增强法律的生命力，这是法律实践中一贯的传统。但是，高自主程度的AI加入后情况明显不同。AI道德自主选择程度越高，技术越能独立发展，人类越难对AI风险产生合理的预见及实施有效的控制。例如，有的高自主程度的AI，其可独立编码、自我改造硬件、自我输入数据等，为了适应环境、改造环境可自我设定的人类无法预见的目标，甚至会出现欺骗、强迫、诱导或者其他意图侵害患者权益的情形；当出现患者权益损害时，强行对传统归责原则扩大解释，可能会牵强附会，出现普洛克路斯忒斯之床现象或责任鸿沟，导致利益失衡。因此，针对高自主AI参与诊疗的侵权责任归责原则专门立法规定是必要的。

3.2　高自主性医疗AI医疗损害责任归责原则的立法调整探讨

概括而言，中国可以基于中国的立法价值，依靠长期以来的立法经验，结合中国实际情况，借鉴域外立法经验，结合具体场景来设计高自主AI加入诊疗活动后的医疗损害责任归责原则。本文认为，原则上应采过错推定，限制适用过错责任或无过错责任。

3.2.1　归责原则应秉持以患者为中心的人本主义

欧盟《人工智能法》第一条提到，AI应当是以人为本的、值得信赖的AI，这也是公认的伦理准则的目标。中国AI专门立法，不论在何种场景、不论判断AI为何种性质、不论AI有无被赋予主体资格，也应围绕患者的健康、安全以及基本权利等为核心，秉持以患者为中心的人本主义，发展医疗AI。

3.2.2　AI准入制度的建立与制定相应合规义务

基于以患者为中心的人本主义立法价值，不论AI是否被立法认可具有法律主体资格，AI准入制度（例如备案、许可、持续监管等）是必要的。AI加入诊疗后，具备技术复杂性、公众互动性、社会重要性的特点，应予以行政监管。比较法上，《欧盟人工智能法》基于风险级别对AI准入做出了明确具体的规定，对AI运营者设定了风险管理的合规义务。有观点^［15］认为，可参照风险级别对应归责原则，例如在禁用型人工智能侵权场合，服务提供者因创设了“不被容许的危险”而应承担无过错责任。本文不赞成这一观点。在中国，明知或应知法律已经禁用此类不可接受风险AI而应用于临床的，依据《民法典》第一千二百二十二条，应属违反法律禁止性规定而被直接推定过错的情形，此对应的归责原则是过错推定。人类运营者过错程度明显的，适用过错推定责任较无过错责任更加能保护患者权益，更加能敦促运营者遵守法定义务，以利于患者权益保护。

3.2.3　AI视为不同性质客体时的归责原则探讨

第一，视AI为技术或者服务时，原则上应采过错推定责任。

如前所述，因AI具有价值自主选择、技术独立发展的特质，其不同于“输入后输出确定”的传统技术，此技术非彼技术， 其技术不中立。如立法规定A I属于技术，则不仅要考虑医方人员使用AI是否达到了公认的技术水平，还要考虑AI本身的价值自主选择是否合法，是否符合人本主义等价值观，是否“价值对齐”。这就需要推动制定理性AI标准或者理性算法标准以衡量AI的”技术”水准，主要可从算法和数据治理的角度考量。

其一，制定理性AI标准。值得指出的是，法律是否要追求AI的完美性，或者说不允许AI出现任何风险或伤害呢？本文认为，务实的做法是不应追求完美，即便AI出现了问题，只要其水平高于当时人类其他技术水准，成本效益比改善且没有明显失控风险，即可认为达到基本要求，这符合人类发明史上的技术发展的规律。简言之，无论对哪种技术，包括AI，均不应有不切实际的期望。完美的AI现在不存在，甚至以后也难说会有，关键在于权衡其对于人类的利弊。因此，对算法的合规要求不宜脱离现实，可先从现行法律的要求作为起点，确立标准后渐进提高。首先，算法中应体现公认的AI技术水平，遵循“me too”，鼓励“me better”；其次，AI价值对齐的底线应为自然法，即保护人的生命、自由和财产，算法中应写入不违反自然法的法律原则、规则，以法律为底线，让AI理解法律、遵守法律，并建立自我监督机制；最后，算法应嵌入公认的国际医学伦理准则，坚持人本主义。这样一来，一个具有“理性AI标准”的算法就有了技术、法律和伦理方面的基本支撑，再结合政治、文化、经济、习惯等因素考量，经广泛讨论后可以推动设立此类标准，以供实践运用，并在实践中适时调整。比较法上，欧盟《人工智能法》为设定理性算法标准作出了尝试。例如其第8条第一款规定，“高风险人工智能系统应符合第三章规定的要求，同时考虑到其预期目的以及人工智能和人工智能相关技术的公认技术水平。在确保遵守这些要求时，应考虑到第9条所述的风险管理系统”。这意味着制定理性AI标准须基于AI风险考虑到当时在人工智能技术和相关领域内公认的技术水平、最佳实践标准和技术标准、伦理道德规范和法律规制要求。

其二，关于数据治理，应避免因数据训练、检验、测试等产生数据的样本偏差^{［3］331-341}，考虑纠正因人类社会整体数据存在偏见而对AI产生不良影响，做好患者隐私权及个人信息权益保护。目前中国关于数据治理的法律是理性AI标准所含数据治理的主要法律渊源。

第二，高自主性AI难以适用产品责任。

如前所述，传统法律与AI在产品责任上难以适配。AI是智能体，其自主性决定了其不是传统的产品，不宜照搬产品责任，原则上宜采过错推定责任。然而，司法实践中也并非完全没有参照适用无过错责任的空间。有相当部分的自主程度较低AI的风险是可以合理预见的，并且设计者、提供者、使用者等运营者有时可以通过相应措施有效控制或降低风险，例如，参考《欧盟人工智能法》，当未改变预期目的、所发生的风险包括合理使用的风险、滥用的风险等风险可合理预见，这种情况下参照适用产品责任有其合理性。

第三，类不可抗力的情形。

AI自主行为严重偏离预期目的，产生了人类不能合理预见的且不能有效控制的损害的，AI已经完全脱离了人类的控制，其风险性质完全不同于经典的产品风险，而是类似于不可抗力。但是，毕竟风险是因运营者使用AI而来，故其不同于自然灾害等不可抗力。如这种情形由患者一律“自吞苦果”，似有违公平正义。是否可以借鉴新西兰的无过错事故赔偿计划^［3］89-92，或者美国国家儿童疫苗赔偿计划^［16］，来分散这一类的风险，值得探讨。

综上，如果视为AI为技术或者服务，鉴于其自主选择的特质，赋予运营者AI风险管理等合规义务、制定有理性AI标准的，一般宜采过错推定责任，由运营者就自己的行为合规以及符合理性AI标准等承担举证责任。一般不宜认为医疗AI属于传统意义上的产品，故不宜适用经典产品责任；对于表观上为“产品”的AI案件，原则上也应适用过错推定责任。但是，无论视AI为哪种客体，均因其无行医主体资格，其所致患者损害的归责对象都是人类运营者，而不是AI本身。

3.2.4 赋予AI法律主体资格探讨

尽管从道德论或者内在价值的角度将AI视为法律主体存在争议^{［3］124-150}，但有学者认为从实用主义的角度，为了避免普洛克路斯忒斯之床似的削足适履、填补责任鸿沟、鼓励创新和经济增长、合理分配人工智能的创造性成果、因利益攸关而促使AI增强责任心^{［3］162-187}，赋予AI法律主体资格具有合理性、可行性。有学者认为，AI具有以下能力时，就具备了赋予其法律主体资格的初步条件，一是与环境互动以及参与复杂思考和交流的能力，二是至少基于彼此利益与他人共处的能力。从法律实用主义角度看，是否具备意识，不是AI能否被赋予法律主体资格的条件^［3］181。值得澄清的是，赋予某些AI法律主体资格，并非赋予其自然人所享有的人格权等自然人专属的权利，而是基于法律实用而限定于有限的权利，例如独立的法律人格、揭开公司神秘的面纱、拥有和处分资产的能力、起诉和被起诉的以及保护或禁止一定的言论自由等权利^［3］183。若能立法赋予AI前述有限权利，则传统替代责任之监护人责任可能就有了适用的空间，例如医方此时被视为AI的监护人，而承担替代责任。但是，赋予AI法律主体资格还存在诸多挑战，例如政治、经济、文化和道德等方面的限制，人工智能的识别问题，赋予人工智能哪些权利义务为适宜的问题，人类可以拥有作为法律主体的AI的问题，哪些方面需要限制AI加入的问题，AI是否可以负刑事责任等，故需要广泛讨论、慎重决定。

4　结语

医疗AI具有道德自主选择、技术独立发展的特质，其投入运营后可自行设定目标，产生人类不可合理预见或者不能有效控制的风险乃至损害，导致传统医疗损害责任归责原则与AI的发展不能完全适配，故探讨因应措施必要且急迫：一方面，适配部分予以承继，或通过适当的扩张解释适用传统法律；另一方面，不适配部分，应专门立法应对，以重建利益均衡。立法应秉持以患者为中心的人本主义，这是中国的法价值取向。基于AI风险的分级分类，尽快立法展开行政准入、风险管理、制定理性AI标准等制度建设。医疗损害责任归责原则，原则上应与人类运营者的风险管理合规义务相对应，AI参与诊疗发生患者损害的，原则上人类运营者应对自己使用AI履行合规义务情况、符合理性AI标准等举证证明，这样才可以摆脱过错推定。简言之，基于重建利益均衡考量，医疗AI参与诊疗活动的医疗损害责任案件，原则上宜采用过错推定责任，慎用过错责任与无过错责任。含高度自主性AI的产品，完全不同于传统产品责任所指向的产品，若强行固守传统无过错责任，将会不当加重运营者的负担，甚至产生寒蝉效应，严重阻碍AI创新与发展，严重不利于人类整体福祉的提高，故不宜沿用传统的产品责任。AI参与诊疗活动造成损害的，适用过错责任因容易导致患者利益保护不足，故原则上不适用高自主AI。对于高度自主AI可能产生的难以合理预见的、不能控制的风险，类似于不可抗力，可视为免责事由，该风险可以考虑通过完善保险、内化成本等机制分散。最后，基于法律实用主义考量，可赋予高度自主AI以非自然人人格权性质的有限权利的法律主体资格，这些有限权利例如基于法律实用而限定于独立的法律人格、拥有和处分资产的能力、起诉和被起诉的以及保护或禁止一定的言论自由等权利。此对于客观揭示因果链条，对于消弥责任鸿沟，对于避免削足适履式的普洛克路斯忒斯之床等，在逻辑上是有效的；此有限权利的赋予难以产生人们所担忧的毁灭人本主义的灾难后果，故赋予AI前述有限的主体资格殊值考虑。

参考文献

[1] 程啸.侵权责任法［M］. 3版.北京：法律出版社， 2020.

[2] 张新宝.侵权责任法立法：功能定位、利益平衡与制度构建［J］.中国人民大学学报，2009，23（3）：2-8.

[3] ZHANG X B.The Tort Law： function status， benefit balance and system construction ［J］.Journal of Renmin University of China，2009，23（3）：2-8.

[4] 雅各布·特纳.机器人现代法则：如何掌控人工智能［M］.朱体正，译.北京：中国人民大学出版社，2023.

[5] 张凌寒.权力之治：人工智能时代的算法规制［M］.上海：上海人民出版社，2021：4.

[6] 中国医院院长.“北大系”医院领衔，医疗大模型“国家队”悄然面世［EB/OL］.（2024-10-29）［2024-11-10］.

[7] 陈珍妮.生成式人工智能的侵权责任承担：人机交互视角下的反思［J］.西部法学评论，2024（4）：23-24.

[8] 王成.中国民法上侵权替代责任的反思与重构［J］.清华法学，2023，17（5）：22-40.

[9] 张金玲.侵权行为法上的因果关系认定浅论［J］.科技信息（学术研究），2007（21）：491-493.

[10] 赵西巨.医疗过失与因果关系之认定：英美法中的理论与具体规则［J］.东方法学，2011（1）：126-140.

[11] 邹海林，朱广新.《民法典》评注：侵权责任编（1）［M］.北京：中国法制出版社，2020.

[12] 俞鼎，李正风.智能社会实验：场景创新的责任鸿沟与治理［J］.科学学研究，2024，42（6）：1121-1128.

[13] YU D， LI Z F.Intelligence social experiments： the responsibility gap of context - driven innovation and its governance ［J］. Studies in Science of Science，2024，42（6）：1121-1128.

[14] 陈巍.论统一的过错证明责任分配规则［J］.法商研究，2020（5）：75-88.

[15] 李凌.“人工智能是否应具有法律主体地位”的伦理审思［N］.光明日报，2024-09-09（14）.

[16] 韩世远.民法的解释论与立法论［EB/OL］.（2005-05-19）［2024-11-10］.

[17] 胡巧莉.人工智能服务提供者侵权责任要件的类型构造：以风险区分为视角［J］.比较法研究，2024（6）：57-71.

[18] HU Q L.Typological construction of elements for tort liability by artificial intelligence service providers： from the perspective of risk differentiation ［J］. Journal of Comparative Law， 2024（6）：57-71.

[19] 傅蔚冈.合规行为的赔偿机制：基于风险社会的视角［J］.交大法学，2011，2（1）：14-42.