人工智能（artificial intelligence，AI）技术的革新被认为是继蒸汽机革命、电气革命、信息革命之后的第四次工业革命。在医疗卫生领域，人工智能已被应用于医学影像、疾病筛查和预测、临床决策支持、手术机器人、健康管理等多个领域。人工智能辅助医生作出决策，或是取代医生执行某些任务，这不仅改变了医患关系的传统模式，也给道德责任的划分带来了难题。尽管医疗人工智能致力于保护和促进人类健康，但任何技术都不是100%安全的。一旦医疗人工智能出错，可能对患者造成严重的伤害。
AI参与的医疗行为一旦给患者造成了伤害，谁应该承担责任？2021年6月，世界卫生组织发布的指南《医疗卫生中人工智能的伦理与规制》（Ethics and Governance of Artificial Intelligence for Health）中指出：“责任规则在促进安全和问责方面发挥着重要作用，在某些情况下，它们是防止机器学习技术出错的第一道也是唯一一道防线”。现有的法律关于AI责任的认定多指的是人类在开发、制造、销售和使用AI系统时所承担的责任。如欧盟2024年的《人工智能法案》（EU Artificial Intelligence Act），阐述了AI系统的相关方，包括提供商、部署者、进口商、分销商等如何对产品造成的伤害和问题负责。在责任的分配上，现有的讨论主要基于两个方面：①当AI按照预期的方式工作时，责任在于用户；②由于错误或故障导致AI运行异常，开发商和制造商承担责任。可见，人类被视为承担责任的主体，这与传统的道德责任主体的认定有关。
依据亚里士多德
［1］对“意愿行为”和“选择”的阐述，许多哲学家定义了承担道德责任的前提条件：一是控制条件，指对决定或行动有足够的控制权；二是认知条件，即充分理解决定或行动及其可能的后果
［2-3］。简而言之：人们只对自己有意选择的并且认识到这样选择基础的行为负责。这两个条件与道德能动性密切相关，也就是说只有具有道德能动性的主体，才能对自己的行为承担道德责任。未能满足这些条件将免除一个人的道德责任，如儿童和有认知障碍的人不具备充分的认知条件，被胁迫的主体即使知道行为的后果也无法自由地控制自己行为。这种传统的道德责任观将道德责任限制在了人的身上。试想，除了完全理智的成年人之外，还有谁或是什么东西能够真正拥有道德能动性呢？答案是没有。据此可以推论，尽管AI可能在诸多方面赶超人类，但本质上它不符合自由和意识等完全道德能动性的传统标准（也是责任的先决条件），因此它不是道德行为体，不能承担道德责任
［2］，对其行动或决策的责任应保留在开发和使用该技术的人类身上。然而，由人类承担责任的结论并不能解决责任归属的问题。哪些人对AI的医疗决策或行动负责，以及人类是否能够始终对AI负责，仍然是一个复杂的问题。
1 人类作为道德责任承担者在人机关系中的挑战
1.1 责任分配困难
现阶段的医疗AI是医疗从业者用以诊断、治疗相关疾病的辅助工具。以临床决策系统为例，如IBM的“Waston for Oncology”（沃森），这些系统处理患者的医疗信息，计算患者的选择，然后向临床医生提供排好序的治疗建议清单。一位IBM的执行顾问指出，沃森不会决定医生应该做什么，它只是根据假设和证据提出建议。还有机器人辅助手术（RAS）系统，这在临床中也非常常见。目前，按照医疗机器人的自主性水平（level of autonomy，LoA），手术机器人被划分为LoA 0无自主性（如纯远程操作）到LoA 5完全自主性（机器人外科医生，无需人类即可进行整个手术）五个层级
［4］。LoA 0级最著名的例子是达芬奇机器人，也是目前应用最广泛的手术机器人。达芬奇机器人在手术期间的每个动作都由外科医生通过主控制台进行远程操作。专业人士认为这种LoA 0级机器人辅助手术的范式完全由操作它的外科医生的手动能力决定
［5］。针对这类辅助型医疗AI，它们的使用者，也就是临床医生，被清楚地界定为决策者和对决策负有责任的人。欧洲议会曾向机器人民法规则委员会提出针对医疗机器人的建议：“最初的治疗方案和最终执行该方案的决定将始终归属于人类外科医生”。这样的界定显然对软件开发公司有利，他们的AI系统仅提供建议，临床用户承担接受或不接受该建议的后果，这使得临床医生成为了保护软件开发公司的“道德缓冲带”（moral crumple zone）
［6］。临床医生被视为人-机系统中的“道德缓冲带”，是为了吸收责任，还是他们有能力为自己的行为负责呢？
“临床医生负责”基于一个前提，即临床医生能够发现AI系统不恰当的建议。但临床医生发现或确认AI系统的错误并不是一件容易的事情。当人类同事给出决策建议时，所有的人是在一个公平的认知环境中理解或质疑他们的推理。然而，AI的输出过程对用户是不透明的，其推理过程无法被仔细审查，因此人们无法准确判定输出结果是否存在错误。在这种情况下，临床医生遵循AI的错误建议或是不遵循AI的正确建议，患者都可能面临风险。那么，因为担心AI可能产生不正确的结果，就有理由授予人类专家比AI更大的决策权吗？对于鲁莽的决定或遵循明显有错误的AI建议，让临床医生承担道德责任是公正的。但当人类专家没有绝对性的证据来推翻机器人专家的决策建议时，机器人专家的循证记录其实是更有说服力的依据。人们无法证明推翻机器人专家的决定是合理的，人类专家推翻机器人专家的决策产生何种结果由道德运气决定，只有事后对有分歧的案例进行回顾分析，才有评估好坏的可能性。在后果出现之前，人类专家和机器人专家的选择实际上处于同等的道德地位。因此，当人们无法合理检测或确认AI的错误时，特别是在AI系统被认为在处理信息方面较人类具有优越性的前提下，将所有责任分配给临床用户是不公正的。如果临床医生需要对伤害承担全部责任，临床医生完全有理由不使用医疗AI，这是履行其维护患者安全职责和保护自己的唯一途径，但这样也就意味着患者可能永远无法从AI中获益。一种解决方案是直到医疗AI足够安全，无需临床监督才可以部署。不过这会大大增加开发AI的成本，而且实际上AI系统需要更多的临床学习才能变得更加准确。
其次，在医疗AI的开发、部署和使用过程中，不止一个人参与其中。除了使用AI的临床医生之外，还有训练数据的提供者、算法的设计者、医疗AI设备的开发商、监管者等，均是医疗AI做出行动的因果链中的一环。这种涉及多人的责任归属问题被称为“多手问题”（The problem of many hands）。不过，多手问题并不是AI系统特有的，当某些结果经由多个代理人（手）贡献时，责任分配也会出现类似的问题。此外，AI系统的开发可能经手多个程序员甚至跨组织、跨公司，数据的获取和处理也有不同历史，AI系统被开发后可能在未来应用于完全不同的场景中，以及后续系统升级、维护不及时等都可能造成AI行动的偏差。在这些情境下，如果没有相关历史记录，很难追溯到具体责任人。
医疗AI还涉及“多物”问题，这指的是有不同的软件和硬件（零部件）涉及技术的开发和行动。如外科医生通过控制手术机器人的机械手臂进行切割、抓取等操作，开发商可能会提供一种具有“避免切割肌腱程序”的机器，类似于装上汽车避免碰撞的警报传感器。当手术机器人的肌腱传感器出现故障，导致医生错误切割肌腱而没有预警，是供应商承担责任还是依赖机器的医生承担呢？临床操作者要为并非完全由其控制的事故承担责任，这种模式掩盖了其他人类行为者对AI系统的控制权。
1.2 人类对医疗AI的控制权有限造成“责任空场”
随着AI自主程度的增强，人类对AI的控制程度在减弱。2022年，美国约翰·霍普金斯大学开发的智能组织自主手术机器人（STAR），在猪大肠上成功完成了腹腔镜自主缝合的实验。该系统在一致性和准确性方面优于专家外科医生和机器人辅助手术系统。这是人类实现完全机器人自主手术的第一步，高度自主性的手术机器人可能拥有更为标准的手术技术。在不久的将来，医疗AI可能替代人类医生，独立决策或行动。那么，当人类对AI没有足够的控制权时，完全由人类承担责任是否公正呢？
2016年，欧盟在《机器人民事法律规则》（
European Civil Law Rules in Robotics）中引入了“责任与AI机器人的自主性成反比”规则，即机器人自主性越强，开发者的责任越小。这种设定承认了人类对自主机器控制权的有限性，也创造出一种新的情境，即机器的行为不再仅仅由初始状态和内在的程序决定，拥有学习能力的机器可能不按照生产过程中被赋予的原则运作，由于机器拥有信息量与处理速度等方面的优势，人类专家对自主机器运作的全程监控原则上已不可能。机器的制造商或是操作者不再能够预测自主学习机器的未来行为，导致制造商或是操作者丧失对设备的控制权。让人们对不能有效控制的机器的行为负责似乎是不公正的，而机器人又不能负责，这就造成了“责任空场”（responsibility gap）
［7］。如果不能解决这个问题，那么继续使用这类设备在道德上是不能被接受的，但与此同时，人们似乎也不愿意放弃使用这类设备。这种责任的缺失是由于系统的自主性造成的，如果不能妥善处理，就会对社会道德框架的一致性和法律责任的基础构成威胁。
还有一种情境与医疗AI的准确率和有效性有关。如肺癌自动诊断系统，通过学习从患者身上获取的活检标本的病理图像来识别癌细胞。该系统的设计目标是尽可能避免假阴性诊断的发生（宣布病人健康，但实际上存在癌细胞），因为这将延误患者治疗，带来生命健康上的风险。但相应的，系统对假阳性诊断的防范能力可能会减弱。虽然假阳性诊断不会立即危及生命，但也会给受影响的各方带来巨大的经济和情感问题，因此同样也需要为机器的假阳性诊断找到责任人。如果机器的限制条件事先已被明确知晓，程序员不能被追究责任。因为就程序员而言，他已经尽到努力来防止假阴性诊断，这是他能做到的最好的程度。那么，更直接的解决办法是要求人类专家必须验证机器诊断的正确性，并承担相应的责任。但这显然也困难重重，因为机器正是为那些没有人类专家的情况而开发的（如欠发达的农村地区）。如果能够为每台机器配备一名控制机器的人类专家，那么首先就不会有人需要机器了。因此，人们将面临似乎没有人或是什么东西应该为医疗AI的行为及其后果负责的责任空场。
1.3 人类对开发和使用医疗AI的后果理解不充分
亚里士多德区分了人可能无知的几种方式：一个人可能不知道他是谁，他在做什么，他在对什么人或什么事采取行动，有时也不知道他在用什么东西（如工具）采取行动，他是为了什么目的（如为了安全），以及他是如何做到的（如温和地还是粗暴地）。这包含了一个人应当了解他正在使用的技术，这对责任来说也是很重要的。然而，参与人工智能开发和使用的人可能并不完全了解他们的软件或系统。
开发人员和用户知道使用人工智能的目标和预期结果，但他们不一定意识到非预期的后果和道德意义。如偏见问题，他们可能不知道训练数据集中存在偏差，不知道自己的偏见会影响算法设计，也可能不知道自己的行为会产生什么样的道德影响及后果。再比如替代用途问题，开发人员在多大程度上意识到其开发的产品的替代用途或可能的误用，用户也不一定清楚算法是为哪个领域服务的。
其次，操作者和使用者可能知道这项技术一般如何工作，但这并不意味着他们了解这项技术的一切以及与之相关的行动链。例如，司机知道怎样开车，但不一定十分清楚发动机等内部构造的运行原理。医疗设备的操作者同样如此。在20世纪80年代，曾发生过六起因计算机故障导致的医疗事故。事故发生的原因是操作机器的技术人员快速输入了一些错误的指令，导致机器实际释放了低剂量的辐射，但却向技术人员显示辐射剂量尚未释放。这一错误导致技术人员释放了高剂量的辐射，致使两名癌症患者放射剂量过大，一人死亡。在该次事件中，除了患者报告感到疼痛之外，操作人员根本无法知晓系统已经发生了故障。
此外，深度学习型AI是典型的“黑箱”，具有不透明性和不可解释性，其功能和输出将随着学习的时间而发生变化，即使患者的情况没有变化，AI今天提供的建议明天也可能会有所不同。哪怕最初的算法是透明的，随着数据的累积和算法的迭代，人类也无法充分地理解AI后续的计算逻辑。缺乏透明度和可解释性造成了人类代理人的“无知”，他们不知道AI是如何作出决策的。如果医生不明白为什么该算法会作出这样的诊断，他们是否应该依赖该软件，又如何让患者相信该治疗方案呢？
2 人工智能成为道德责任主体的可能性
图灵测试表明，复杂的AI可能具有一定的意识水平。2017年，美国汉森公司制造的类人机器人“索菲娅”在沙特阿拉伯获得公民权，成为世界上第一个拥有公民权的机器人。欧盟在《就机器人民事法律规则向欧盟委员会提出立法建议的报告草案》（Draft Report with Recommendations to the Commission on Civil Law Rules on Robotics）中建议赋予智能化机器“电子人”的独立地位，使其有资格担负自身所致损害的责任。那么，AI是否能够成为责任主体呢？
2.1 对传统道德责任观的拓展
通过前文的论证可知，道德主体的判定从亚里士多德的路径出发有其局限性，无法满足复杂人机关系中的责任描述，可以尝试从其他角度对传统责任观进行扩展。
从后果主义的立场来看，评价一个行为的道德价值基于行为的后果，不需要去追问行为主体的内在动机或主观意愿。从行为主义的角度来看，人的主观动机与外在行为之间并没有明确的划分，无法把握人们的内在想法，只能通过其外在行为来推论其主观动机。比如作为乘客，无法知晓司机在开车过程中的主观想法，只要司机的驾车行为和结果是安全可靠的，就可以认为在这段行程中司机是负责任的。同样，在评价机器人行为的道德价值时，可以不去追问机器人的主观动机，只需关注其行为的后果。只要机器人做出了与人大致相当的行为，就应当把机器人视为与人大致相当的主体来对待。Allen等
［8］认为，人工智能虽然还不具备意识能力，但如果它的架构和机制允许它完成与人类意识相同的任务，能够做出和自然道德行为体相同的行为，那么它就可以被视为具有功能意识（functionally conscious），具备“功能性道德”（functional morality）。从他者伦理的视角来看，个体或集体的行为必须为他者负责，道德责任是被他者期望的责任行为和责任能力。对于智能机器而言，其行为发生偏差的概率与人类行为偏差概率大致相同，甚至机器的行为模式较人类更为稳定，换句话说，机器和人类的自主性在可能性上是相似的。从意向性角度来说，人工智能是人类研发出来的，它的行为模式由人类设计，目的是增进人类福祉，符合人类社会普遍的道德原则。因此，人们合理地信任并期望人工智能能够做出稳定的符合道德规范的行为，这种责任是他者视角的，是他者期望型道德责任
［9］。还有学者从角色责任理论出发，将人工智能在人机系统中的角色视作人类社会中的律师、股票经纪人等代理者，它不具有初级利益，仅具有次级利益，是有限的道德代理者
［10］。综上，人工智能具备成为道德能动者的可能性。
2.2 人工智能可以承担有限的道德责任
相较于人类和一般机器，人工智能的道德地位有其特殊性，无法简单地认为人工智能具有完全的道德主体地位，也不能将其视为与一般机器一样没有道德主体地位。有学者
［11］认为，作为一种客观属性，道德责任只有在自然道德主体身上才能得到最恰当的确认，即使承认人工智能在某种程度上具备道德主体的地位，并不意味着人工智能可以承担道德责任。要让某个人承担道德责任，他必须能够接受指责或赞扬、惩罚或奖励。而要使惩罚成为惩罚，惩罚对象“必须能够承受痛苦”。既然人工智能系统不能受到惩罚或奖励，它们就不能承担责任。关于这一点，Daniel
［12］根据结果论的观点反驳道，惩罚的理由基于要实现的目的，而不是目标所受的待遇。在许多法律案件中，惩罚目标的受苦能力与为什么必须监禁那些人根本无关。寻找目标的意识能力或痛苦是定位责任主体的一种手段，但不一定是追究责任的一种方式。如果责任主要是为了阻止或震慑伤害事件的发生，那么意识是否参与其中就并不重要了。虽然人工智能不能像人类一样受苦，但它们可以而且应该承担实施有害行为的后果。只要惩罚机器人能够阻止伤害事件的发生，机器人就应该受到惩罚，如削弱它的某种奖励或功能，对它进行重新编程、停用、销毁或数字监禁等。当然，如何让机器承担责任还没有具体的机制，但是作为程序性问题，可以基于后果让机器人承担责任，并与具有自主决策能力的人工智能系统以赋予某种责任的方式互动。
探讨人工智能承担责任的可能性并不意味着人类一方可以免于承担责任。从短期到中期来看，目标是让AI帮助人类，提高工作效率和有效性，而不是取而代之。也许医学有部分可以自动化，但法律应该确保人类是医疗AI自动化进程中持久的合作伙伴。在这样的背景下，人工智能就类似于儿童，儿童是不断学习和经验增长中的个体，人工智能是人类依据自身的知识体系和价值导向构建的，具有自主学习和不断优化的潜能，人类与人工智能的关系类似于监护人和未成年人的关系。儿童的道德主体性从童年至成年没有绝对清晰的界限，人工智能可以同儿童一样被视为有限的道德主体，承担有限的道德责任，并以道德主体的标准去教育和适当惩戒。
人工智能有限的道德责任体现在以下几个方面。第一，人工智能具有一定的道德敏感性。少数人工智能已经具备评估和应对道德挑战的能力。第二，赋予人工智能有限的道德责任有助于对发生的问题进行溯源和分析，人工智能也可以在一定程度上分担责任。第三，人工智能不能承担全部的责任，利益享有者如开发商、医疗机构等需要承担人工智能产生的不良后果，并对受害者进行补偿。
3 人机联合责任的设想及责任分配
在此基础上，笔者设想了一种人机联合责任，以应对医疗AI应用的责任困境。人机联合责任源于人机合作行动中的分布交互关系
［13］，人和机器都可以是行动的节点，它们之间的交互决定了行动的结果，类似于Floridi等
［14］提出的分布式道德责任。
从责任认定的程序来看，道德责任可以分为两种类型：①前瞻性道德责任：是一种前瞻性的义务，强调的是在行动前就考虑到可能产生的后果，并为之负责。②追溯性道德责任：是一种回顾性的问责制，指的是根据行为的结果和性质来评估行为的善恶，对后果履行相应的道德责任。在医疗AI参与的临床诊疗中，前瞻性道德责任由人类承担，追溯性道德责任由人机联合承担。
3.1 人类承担前瞻性道德责任
医疗AI的开发商、设计人员、监管部门、部署机构及临床用户等都需要承担前瞻性道德责任。医疗AI的研发、部署和应用均需要多学科、多领域的人员共同参与，如人工智能专家、临床医生、政策制定者、哲学家、公众等利益相关者，就医疗AI应用的相关伦理问题进行公开讨论，包括安全性、隐私保护、算法偏见、可解释性、公平性等。为了确保促进创新、面向未来和抗破坏的法律框架，欧盟《人工智能法案》还建议国家主管部门至少建立一个人工智能监管沙盒，以促进创新人工智能系统在严格监管下进行开发和测试，合格后投放市场或以其他方式投入使用。
医疗AI的开发商有义务考虑其系统在临床应用中可能产生的不良后果，并采取措施减少可预见的伤害风险的发生。他们需要证明已经采取了哪些行动来减轻可预见的伤害风险，或解释为什么不需要采取其他行动。开发商可以通过“用户注意”的方式，警告用户产品存在错误输出的风险。这种错误输出的发生概率在什么范围内是合理的，可以接受的呢？人们可能希望AI是完美的，无错误的，然而完美是比临床医生更高的标准。医学本身具有潜在的风险性和不确定性，医疗AI的算法建立在已有的人类经验基础上，无论多么科学的AI，都有犯错的可能性。因此，关键的问题在于多大程度的安全性是可以被接受的，达到多高的准确率，一款算法产品才算合格，才能获得市场准入资格。这不是由开发商决定的，而是需要公共部门和行业协会共同决定。笔者认为，辅助型医疗AI应至少达到人类医生的平均水平，替代型医疗AI应超出人类医生的平均水平，否则部署医疗AI的实际价值将大大下降。设备在进入市场前应该经过严格的测试和验证，以确保其在正常使用情况下的安全性和可靠性。此外，设备应该具备防止意外伤害的功能，例如设置安全开关或限制某些操作的权限。厂家应对其开发及生产的产品和软件进行定期维护、升级、检修及回访。行业相关机构需要定义使用医疗AI的最低专业要求，并对临床用户进行教育、培训和准备，使他们能够熟悉该领域的技术要求，了解如何使用AI系统，减少因使用不当而产生的潜在伤害。
临床用户需要承担注意义务，在医疗实施过程中负责监督仪器的操作，审核AI的决策，保护患者。但正如前文所述，医疗AI的部署目的是提高临床工作的效率和准确性，鉴于双重检查的繁琐和AI算法的不透明性，临床医生并不总是能够分辨和解释AI出现的错误。如果完全让临床医生承担最后的“守门人”，那么可能没有医生愿意去使用AI。这也使得可解释性成为了AI开发的重要目标之一。但事实上，临床医生也并不总是能够完美解释自己的推论，因为这些推论可能更多地基于经验和直觉，而不是明确的医疗标准。如阿司匹林因其解热、镇痛和消炎的临床作用被使用了大约70年，但人们在很长的时间内并不完全了解其药理机制。可见，只要有足够的证据表明这些模型的可靠性和准确性，医生或许可以在临床实践中接受黑箱模型。
当算法解释愈发困难时，也可以适当转向算法透明和可追溯。一般认为，算法透明是指算法开发者应披露包括源代码、输入数据和输出结果等在内的算法要素。各类国际文件也都规定了算法透明原则，如欧盟发布的《可信赖人工智能道德准则》（Ethics Guidelines for Trustworthy AI） 、二十国集团（G20）提出的《G20 AI原则》（Principles for Responsible Stewardship of Trustworthy AI）等。虽然算法透明不等于算法可知，但它将形成强大的威慑力，并鼓励多元主体，如医疗机构、保险公司等参与监督，补充监管力量。关于算法可追溯，是指医疗AI的决策过程应当被完整记录，以待未来核查。算法可追溯实际上是算法透明的延展。算法透明强调的是静态的编码透明，算法可追溯强调的则是动态的算法运行过程的透明性。总之，算法透明和可追溯并非要求算法可解释，但他们为算法可解释提供了可能，并形成有效的威慑力。人类暂时可以不必解释AI，但应该创造条件，让人类在未来可以解释AI。
3.2 人机联合承担追溯性道德责任
关于追溯性道德责任的归属，需要简化过程，假设以自由选择为前提，即开发商没有被迫部署AI系统用于临床，同样，临床医生也没有被强迫使用开发商提供的AI系统。另外，患者的自主权也应该得到尊重。必须告知患者，诊断是在人工智能的帮助下获得的，并获得患者的知情同意。患者需要接受相关的教育和培训，了解设备的工作原理和设置，理解设备的功能和潜在的风险，设备也可以提供明确的操作选项，以便患者能够根据自己的需求和偏好进行调整，并自主地作出决策。在此前提下，需要从有无操作失误、产品缺陷、注意义务缺失和AI自主决策等几个方面来考虑道德责任的归属。
第一，医生在使用AI时有无操作性失误。如果医生在使用AI时存在操作性失误，那么医疗机构需要承担责任。因为医疗机构是医生执业的场所，也是诊疗行为发生的场所。医生（员工）操作失误致人损害，由医疗机构（雇主）承担责任，医疗机构可向造成损害的医生进行追偿。同时，还需要检视AI厂家和医疗机构对医生使用AI的培训是否到位，以评价医生责任的大小。
第二，产品缺陷，也就是说医疗AI产品本身存在问题，如数据标注、程序设计、产品质量等。依据产品责任的标准，需考察产品缺陷与造成他人损害之间的因果关系，包括设计缺陷、制造缺陷、警示说明缺陷等。溯源AI产品存在的相关问题，对AI的设计者、开发者、厂家等划分和追究责任。此外，还需要考察批准AI上市的部门及引进AI的医疗机构在流程和风险管控中是否存在漏洞。
第三，注意义务缺失。在当前医疗AI的发展水平下，临床医生是医疗AI的上级医师，依然处于监督和作出最终决策的主体地位。《中华人民共和国民法典》第一千二百二十一条规定了医务人员的注意义务，即“医务人员在诊疗活动中未尽到与当时的医疗水平相应的诊疗义务，造成患者损害的，医疗机构应当承担赔偿责任”。其判断的标准是“当时的医疗水平”，应考虑当时当地的客观医疗条件和医务人员的平均水平。具体而言，如果临床医生遵循了明显有错误的AI建议，可视为诊疗过失，需要担责。如果说AI在数据获取和自主学习方面超出了医疗领域常规认识水平，而医务人员可能因无法全面掌握最新的医学知识导致判断错误，这种情况下医生只要尽到合理的诊疗义务应予以免责。而如果医院已经更新临床指南并组织学习，医生因自身原因没有及时获取知识而导致误诊，医生需要为此无知负责。
第四，随着AI自主性的增强，算法正在以开发者和提供者都无法完全控制的方式发展，不可预见的风险和安全失误也限制了现有产品责任标准的效力。在严格责任的框架下，即使制造商或开发商没有过错，也需要承担责任。但这种严格责任原则也可能会打击研发人员和开发商的积极性。此时，可以让人工智能分担道德责任，如优化升级，停用销毁等。这种分担不是为了让人类主体逃避责任，而是延缓人类的责任。当暂时无法回溯全部原因时，可以暂缓设计者、生产者或管理者的责任，让其以此为经验教训，及时改进，以便更好地促进人工智能的发展。在补偿方面，卫生保健领域有时也会在没有过错或责任的情况下提供赔偿，如疫苗不良反应导致的医疗损害。对于这种无过错、无责任的补偿资金可以借鉴欧美经验，如在AI售价中增加特定的责任费用，或是建立政府、行业主导的强制性保险和专门用于法律责任支付的独立资金池，由开发商、制造商、所有者（医疗机构）、政府等多方共同支付，这样既可以保障患者权益，又可以避免相关主体因承担过重的风险责任而失去研发和使用新技术的积极性。
4 结语
医疗AI因其应用场景的特殊性，关系着患者的生命安全和健康，其责任归属是重要的伦理问题和法律问题。在传统伦理学的框架下，人类是道德责任主体，但由人类承担全部的道德责任在AI应用的新环境中面临诸多挑战。通过前文分析，医疗AI在某种程度上可以被视为有限的道德主体，具备承担一定道德责任的可能性，并在人机联合责任的框架下缓冲和分担人类的责任。对于人们所担忧的未来强人工智能或超人工智能的出现，其角色可能愈发接近人类甚至超过人类，此时的AI是否会完全替代临床医生成为专家？笔者认为，这在技术上是可能的。但AI的建议源于模型的设定，并不一定符合特定患者的价值观和偏好。比如，算法会根据哪种治疗能最大限度延长患者寿命来对治疗决策排序，而患者可能更倾向选择伤害最小的治疗方法。如果AI算法没有考虑患者价值观、非语言沟通和社会背景，就可能会遇到道德困境，威胁患者的利益。因此，医疗保健自动化的形态不能简单地由工程师来决定，当价值判断岌岌可危时，需要经验丰富的领域专家反复讨论和权衡。从短期到中期来看，临床医生需要得到AI的帮助，而不是被AI取代。
江苏省高校哲学社会科学研究一般项目“医疗人工智能的伦理风险与治理研究”(2024SJYB1282)
京公网安备11010202008535号
PDF
(516KB)
