近年来，人工智能技术演进至数据驱动与深度学习相融合的新阶段。在疾病诊治过程中，医疗人工智能技术已广泛应用于疾病筛查、医学影像分析、手术方案制定等环节。然而，诸多现实案例与理论研究均揭示，医疗人工智能算法的应用在提升医疗服务效率与精确度的同时，也不可避免地滋生了复杂的正义实现困境。在实践中，医疗人工智能算法或因医疗健康数据的偏倚而作出误判，从而威胁患者的生命健康等合法权益；或因算法黑箱特性导致医生与患者难以理解和信任其决策过程与结果，从而破坏了医患关系中的信任基础。这些现实困境均表明，若医疗人工智能未能实现算法正义的目标，那么患者个体的医疗福祉也将面临切实风险。长远观之，也将给整个医疗服务环境与社会稳定埋下隐患。如何在充分释放医疗人工智能算法技术潜力的同时，协调科学技术发展与患者权益保障，以及患者个体利益与公共利益之间的关系，成为当下治理医疗人工智能算法正义问题面临的关键议题。基于此，本研究拟通过剖析医疗人工智能算法正义的三阶困境，提出法治化治理路径，以期在法治轨道上实现医疗人工智能算法正义。
1 医疗人工智能算法正义的内涵诠释
1.1 算法正义的内涵
算法是人工智能应用的核心要素之一。各类算法的计算结果不可避免地带有主体性立场，法律介入算法的规制过程是明确“输入－输出”的因果构造，找到原因来确定法律责任以求达到实质正义
［1］。算法正义并非探讨算法本身是否正义，而是衡量以算法作为连接体的人与人之间的关系是否仍符合正义价值，或者算法应用是否侵害了人与人之间的正义关系
［2］。算法与法律相互关联，如同正义是法律的基本价值追求一样，算法正义在法律自身以及法律所指向的社会实践目标等方面均有多样化的体现
［3］。具体到医疗领域，算法正义呈现出多重面孔，从医务人员、患者、技术设计者等不同视角观察，其内涵具有多维动态且均衡易变的特点，有必要深入探究。
1.2 医疗人工智能算法正义的概念界定
算法正义是医疗人工智能算法模型平稳运行的重要驱动力。尽管医疗人工智能算法具备高度动态性、准确性、自主性和可重复性，但是在实践中仍存在着科技局限性。算法应用的偏差及其他人为因素影响医疗人工智能算法的公平正义。罗尔斯（John Rawls）的“正义即公平”理论，强调资源分配应优先考虑弱势群体利益
［4］。医疗人工智能算法正义，是指将科学技术运用在医疗行业所寻求的更为合理的道德约束和情感适用。据医疗人工智能算法生命周期而言，可从以下三个维度探讨算法正义的要义所在：一是起点正义，即数据集的选用及处理应保持公平无偏；二是决策的公平性，即医疗人工智能算法的决策所依赖的选择特征应符合医学道德伦理价值取向，具有正当性；三是结果正义，需将算法决策对患者实际健康影响的差异纳入考虑范围，以实现真正的健康公平正义
［5］。
1.3 医疗人工智能算法正义的价值意蕴
人工智能技术在医疗健康领域的深度应用，引领医疗行业从具有个体经验依赖特征的传统诊疗模式逐步向以数据驱动和人机协同为特征的现代诊疗模式转型。维持医疗人工智能算法正义具有多重价值意蕴。
一方面，从技术权利和患者权益对抗的角度看，维护医疗人工智能算法正义有利于矫正患者权利和医疗人工智能算法权力失衡的局面，更好地保障各个利益主体的合法权益。其一，从宏观上观察，强调医疗人工智能算法正义有利于增强区域间的健康正义。以急性传染性疾病为例，其在易感人群中的分布和救治状况并不公平。其易感人群可能包括老年人、生活在人口稠密地区的人、社会经济地位较低的人等。但是医疗人工智能算法技术的介入有助于预测易感人群和高危区域，及时扭转偏远地区或低收入者的弱势地位。其二，从微观层面分析，医疗人工智能算法正义的实现有利于调和医患双方信赖利益。医疗人工智能算法产品研发利用的整个生命周期均坚持健康正义原则，具体包括设立理念正义、运行程序正义、决策结果正义三个维度。这一正义要求有利于尽可能地让患者参与并知晓智能技术诊疗的风险，增强患者自主权和信任度，从而避免医疗人工智能算法权力肆意扩张。
另一方面，从医学伦理学角度观察，有效应对医疗人工智能算法正义问题可以有效维护患者隐私利益、防止诊断偏差、避免少数群体遭受技术排斥。其一，健康数据具有高度敏感性和多元价值属性，这常常使其主体隐私利益遭受侵犯。欲实现医疗人工智能算法正义则必然要求不得伤害这一隐私利益，从而防止健康数据被不合理利用。其二，为了使不同群体都能平等享受到医疗人工智能算法的红利，研发设计人群在模型设计之初就需要令数据集覆盖多个群体特征以防范诊疗结果偏差。其三，切实保障医疗人工智能算法正义有利于缩减社会弱势群体的健康差异。在追求医疗人工智能算法正义的过程中，残障、疾病、年龄、经济等可能影响群体遭遇不公平对待的因素均应纳入受保护特征，从而最大限度保证正义价值实现。
2 医疗人工智能算法正义实现的三阶困境
算法的技术特性与医疗场景的复杂性相互交织，在实现上述价值目标的各个环节均存在困境。这些困境横亘在医疗人工智能算法通向正义的道路上，制约着公民健康权的平等实现，甚至关涉医疗健康事业的均衡发展。
2.1 起点正义阶段：治理机制缺陷引发患者权益失衡
2.1.1 患者知情同意权保障效能弱化
知情同意是医疗伦理的基石
［6］。在医疗人工智能算法的应用情境中，患者知情同意的保障面临着诸多困境。首先，“医—患—机”三方之间存在着显著的信息不对等状况。在医疗人工智能算法自动决策模式下，算法权力与患者权利形成对抗之势，传统的知情同意原则已难以充分确保患者权利不受侵害
［7］。患者因技术认知壁垒难以理解算法逻辑，医务人员因算法的黑箱特性丧失专业解释能力构成双重信息不对称，使得患者在医疗决策中的被动地位加剧，其知情同意权利的有效保障面临严峻挑战。其次，在健康信息高频采集的数字化医疗场景中，医疗机构及其医务人员在履行告知义务时存在缺陷。患者个人健康信息往往在未得到充分告知或理解的情况下被用于算法训练，侵犯了患者隐私权和信息自主权。最后，算法开发者将复杂授权条款嵌入诊疗服务流程，形成“不接受即无服务”的强制捆绑，实质上架空了患者的自主选择权。由此产生的 “同意” 可能因缺乏充分理解和解释、违背患者真实意思表示而不具备完全的法律效力。此种技术异化导致“同意”沦为形式，使得《赫尔辛基宣言》要求的动态知情同意沦为格式条款勾选。美国Epic Systems案例更因违反《健康保险可携性和责任法案》触发集体诉讼
［8］，揭示技术隐蔽性对法律效力的消解。
2.1.2 权益保障与技术创新协同度低
医疗人工智能算法技术演进与患者权利保障的冲突构成了复杂的法律议题。其一，医疗健康数据利用与患者隐私保护间的不平衡。科技自由聚焦于算法创新及数据充分利用。在疾病诊断预测领域，医疗人工算法通过对海量医疗数据的深度解析，挖掘疾病特征与诊疗模式之间的潜在关联，从而为医生提供具有重要参考价值的诊断建议和治疗策略。在科技自由的扩张性驱动下，算法设计者为追求算法性能的极致提升，普遍采用过度数据采集策略，极易引发患者隐私权的危机，使患者个人信息处于高风险暴露状态。其二，患者权利强调个体尊严、隐私保护与平等就医权。患者有权知晓病情、治疗方案及相关信息，并且需要个人信息能够得到严密保护、避免遭受滥用或泄露的合理预期。但在医疗人工智能算法实际应用中，由于算法自身具备的自我学习能力与决策能力特性，患者往往在理解和追溯算法决策过程方面遭遇重重困境，进而导致其对自身医疗决策知情权的丧失。
2.2 过程正义阶段：工具理性失范导致技术中立偏离
2.2.1 健康数据使用中的技术公平性失范
医疗人工智能算法模型的技术壁垒深刻影响着平等、透明医疗服务的实现。一方面，健康医疗数据共享利用严重阻碍算法正义的落实。医疗人工智能算法所依托的数据来源繁杂，包括电子病历、医学影像、基因序列、临床检验结果等。健康医疗数据的语义和格式形式各异，加之不同医疗机构的数据记录标准不一，形成了巨大的数据处理障碍。因此，算法模型难以有效融合这些异构数据，容易导致医疗人工智能决策关键环节产生偏差。与算法正义所追求的为每一位患者平等地提供精准治疗建议的目标背道而驰，极大地削弱了患者对智能医疗体系的信任。另一方面，医疗人工智能算法的可解释性难题对算法正义形成掣肘。深度学习算法虽在部分医疗任务中斩获成果，但其固有的黑箱特性却如同迷雾，隐匿了算法决策的依据
［9］。例如，IBM 诊疗系统对癌症患者做出错误的方案，却因算法工作机制不透明，医生难以追溯和理解其决策逻辑
［10］。因此引发了患者与医生对算法公正性的深度疑虑，破坏了医患之间基于信任的协作关系，使患者在面对算法辅助医疗决策时充满不安与质疑，难以获得应有的医疗公正待遇。
2.2.2 技术审查流程中的公平性审计瓶颈
技术审查过程中，不同审查主体接触和使用智能医疗设备、掌握数字技能等方面存在客观差异，导致其参与技术审查时和享受数字红利时陷入极度不对等状态，严重影响数字医疗时代的公平正义。其一，技术审查主体的价值观念导致医疗人工智能算法的正义性出现偏差。例如，美国的某疫苗分发系统受设计者价值观念影响造成疫苗分配不公平问题，医护人员接种率远低于预期，教员等感染风险较低群体却可以优先接种，暴露了缺乏技术公平性审查漏洞下医疗人工智能算法偏差导致的不公平
［11］。其二，医疗人工智能算法因数据采集的技术公平性偏差，使偏远贫困地区或少数族裔患者难以获得平等的医疗资源，违背公平公正原则，加剧医疗资源分配失衡，偏离算法正义要求。例如，英国国家医疗服务体系（National Health Service，NHS）应用人工智能分诊系统时，因未审查算法对不同方言的语义理解能力，自然语言处理模块的文化偏见导致非英语母语患者的急诊优先级评分系统性偏低
［12］。美国医疗保健系统曾采取商业医疗算法，这款算法将健康体检费用等支出作为健康服务需求的替代，忽略了患者经济状况与健康支出的关联性。因此该算法使得数百万人在医疗护理服务上遭受系统性歧视，未能平等地享有照护服务
［13］。
2.3 结果正义阶段：权责配置失衡阻碍健康公平实现
2.3.1 患者权利救济渠道不均衡
救济途径的缺乏阻碍正义价值彰显。首先，患者维权时，其举证能力不足以抗衡医疗人工智能算法的复杂性。对于健康数据处理过程、技术机理等核心问题，患者无法深入探究并获取有力证据，而只能提供诸如自身症状表现、诊疗过程中的基本交流等较为表面化的证据材料，将加大其败诉风险；并且患者难以证明算法错误与自身损害的因果关系，常因举证不能而败诉，难以索要赔偿。其次，现有的一般性监管规则难以精准适配医疗人工智能算法。在判断算法是否存在数据收集范围超限或数据使用不当等问题时，缺乏明确且细化的判定标准。此外，由于缺乏专门针对医疗人工智能算法准确性与合理性的衡量指标体系，在患者对算法输出的诊断结果不准确或推荐的治疗方案不合理问题进行投诉时，行政部门难以迅速且精准地判定算法是否存在缺陷以及应承担何种程度的责任，导致在纠纷处理的初始环节便陷入僵局。因此，患者权益救济渠道的受限，不仅破坏了算法应用环境的公平，还阻碍了算法正义的推进与实现。
2.3.2 责任主体范畴划分不公正
传统医疗模式下，仅涉及医疗机构、医生、患者三方关系，容易清楚地界定责任主体，而人工智能的应用使涉及的主体关系变得复杂
［14］。其一，医疗人工智能算法主体资格模糊。有学者虽主张将其视为法律客体归入医疗产品范畴并适用产品责任规则，却忽视了算法的复杂性与自主性以及其在医疗实践中强大的决策影响力。这种简单归类易导致涉及正义裁决时力有不逮。例如，当患者已尽充分认知与控制仍无法阻止无过错的医疗损害，且医疗人工智能无法律责任主体资格时，即使符合其他要件，因不具非法可能性而排除“有责性”要件而出现“责任空场”，算法正义不容易彰显
［15］。其二，医疗损害责任归责原则的不确定性阻碍正义落实。医疗人工智能算法的黑箱属性，使得其在算法正义语境下确定责任主体和归责原则困难重重。若算法设计或生产存在缺陷导致医疗损害，理论上设计者或生产者应担责，可实际中准确判断算法缺陷及其与医疗损害的直接因果关系却极为棘手。同样，若医疗机构在使用算法时有操作不当或验证不足等过错而引发医疗损害，则判断医疗机构过错也充满挑战。归责原则的不确定性，让受害者在权益受损时难以确定求偿对象，使得医疗人工智能算法正义在责任追究环节陷入困境，无法有效保障患者权益及医疗公平。
3 医疗人工智能算法正义实现的法治回应
围绕医疗人工智能算法正义三个阶段的现实困境，技术设计者、使用者、监管者等主体均应关注医疗人工智能算法三个运行阶段的正义失衡问题。根据三个阶段的现实困境，从前置保障、过程规范、责任承担三个法律维度确保医疗人工智能算法应用的全周期符合正义理念，实现医疗人工智能算法的公平性与可持续性。
3.1 建立以患者权益保护为核心的前置保障制度
3.1.1 提升患者权益与算法权力的对抗性
目前，医疗人工智能的工具属性仍未改变医疗行为的本质
［16］。平衡医疗人工智能算法权力与患者权益需多方协调共治。开发者、医疗机构与监管部门须协同推进患者知情同意权的切实落地，确保技术应用具有法律正当性基础。其一，算法开发者有义务向医疗机构公开算法决策依据，包括逻辑架构、数据采集范围、信息处理方式等要素，为医疗机构提供判断与认知基础。其二，医疗机构应通过医疗服务的前置程序充分保障患者权益。医疗机构应在诊疗前向患者提供包括医疗人工智能算法应用目标、健康数据流转路径、决策原理及潜在风险的知情同意书。其文本内容应符合公众认知水平并设置强制阅读程序，以保障患者知情权。其三，卫生行政部门应建立涵盖多渠道意见收集、专业评估体系、标准化处理流程及数据深度解析的反馈响应机制。通过专岗专员受理患者申诉，建立透明化处理框架。工作人员须具备医学伦理与算法技术双重背景知识，既能以专业视角精准识别患者诉求的本质，又能运用通俗化语言进行风险阐释，最终形成患者参与式监督与技术优化的良性互动闭环。
3.1.2 增强健康保障与技术规制的协同度
中国医疗体系根植于本土社会结构与医疗行业生态。因此，增强健康保障与技术规制协同度的措施也需立足于本国需求。首先，实行数据分级分类保护机制，制定数据在特定使用场景下的具体风险防御策略
［17］。例如，公共卫生机构在突发传染病事件中基于防控治理的客观需求，可在法定权限范围内依法调取医疗机构的诊疗资料资源，但该数据流转过程须严格遵循必要性原则以保障行为正当性
［18］。其次，医疗健康数据的分级标准应当依据信息敏感程度与临床价值进行科学界定。载有基因图谱、传染病史等高敏感隐私信息需建立更为严格的加密体系与动态监控机制，常规诊疗数据可采取标准化保护策略。监管机构应当构建多维防护架构，针对不同安全等级的信息设置对应的管理方式，通过访问权限设置防范非授权使用的风险。最后，特殊医疗信息的二次利用必须建立双重授权机制。当临床研究涉及患者既往诊疗记录时，医疗机构必须重新获取患者明确授权，数据处理环节应使用去标识及匿名化等方法，确保分析结果无法通过技术手段而关联患者个体身份，为个人信息安全构筑起立体防护屏障。
3.2 建立以数据模型规制为核心的过程规范机制
3.2.1 设置健康数据利用的技术公平标准
首先，明确医疗健康数据整合的统一标准。医疗健康数据的来源繁杂多样，不同区域之间医疗健康数据的整合标准大相径庭。一方面，医疗健康数据的收集及管理需建立跨部门的数据治理合作关系以制定统一规范，明确数据格式、具体语义与存储的要求，保证各医疗机构数据互通，为建立新模型提供可靠的数据支撑；另一方面，研发基于自然语言分析的智能数据分析系统，运用自然语言处理等方式拆解非结构化的医疗健康数据，实现数据的精准融合。其次，优化算法数据模型，政府部门需组建融合医学、计算机等多领域知识的跨学科技术团队，通过统一标准使输入的数据规范化。构建融合多种算法优势的医疗数据模型，使其能根据具体医疗场景来选择公平性指标并调整模型参数与特征选择，以减少算法偏见对决策的影响，助推算法正义目标的实现。最后，利用可视化技术与规则，将算法决策逻辑转化为医生与患者可理解的形式。面向技术人员、医生与监管者等不同受众群体，提供相应的算法逻辑解释。如为技术人员提供算法底层技术细节，为医生呈现诊断依据及分析路径，而监管者则需综合考量技术风险与社会影响，应为其提供更为详尽的算法分析报告，尽可能地减少患者对算法公平性的担忧，推动算法正义在医疗实践中的稳步落实。
3.2.2 塑造技术中立程度审查的责任规范
首先，需要塑造对技术中立程度的审查体系。算法研发者作为首要责任主体，需要严格遵循医学伦理准则与相关法律规范的要求，运用专业技术方法从数据采集整合时排除潜在歧视信息，努力形成既具有广泛代表性又能体现实质公正的数据集。相应地，应构建面向医疗人工智能算法数据的监管治理体系。一方面，需要明确界定审查的关键节点，设定周期性的审核评估机制；另一方面，从数据采用的准确性、一致性与公平性等方面确定审核标准。通过规范审核程序来保障数据处理全流程透明可追溯，并利用健康数据分析技术对数据中的歧视性倾向进行严密监测与预警
［19］。对于存在数据公平性违规行为的开发者和医疗机构，监管部门可依法采取经济罚款、责令算法整改等措施，维护不同群体在智能医疗服务中平等享有医疗资源的合法权益，促进医疗资源分配的合理化与正义化。其次，组建跨学科专家团队形成医疗人工智能算法监督体系。医学领域专家以临床诊疗规范与患者健康权益保障为出发点，分析医疗人工智能算法决策对医疗结果产生的实际影响；人工智能算法专家需审查模型架构，深入剖析算法代码逻辑与运行稳定性，排查潜在的技术漏洞；法律专家则需依据相关法律法规明确各主体的法定责任；伦理学者从社会价值层面评估算法决策与医疗伦理的契合程度。据此明确多方主体的审查责任，促进正义的实现。
3.3 创设以归责主体精准为要素的事后追究模式
3.3.1 确保患者权益救济渠道均衡
中国人工智能算法正义治理体系呈现出产业促进法与风险治理法并重的特征，其制度完善需要多元主体的共同参与
［20］。其一，立法层面。立法机关应优先制定符合智能医疗特性的个人信息保护法规，明确医疗机构获取患者信息的边界应限定在医疗需求的“必要限度”内。在医疗健康数据使用前须取得患者的明确授权，同时算法开发者与医疗机构需以可视化方式呈现数据应用场景与风险图谱。在诊疗方案解释过程中需考虑不同群体的认知水平差异，并充分利用有效沟通保障患者的知情权与选择权。其二，举证责任层面。亟须明确人工智能应用在医疗场景下的公平责任分配，当患者对算法决策提出异议时，算法开发者应承担起在合理范围内提交算法决策过程、依据等信息的义务。旨在调整“医—患—机”间的信息不对称格局，缓解患者作为信息弱势方的举证压力。其三，行政监管层面。行政监管部门应建立动态化的监督体系，实现对医疗场景下人工智能算法应用的全过程监管。一方面，要求相关职能部门制定医疗人工智能算法监管细则，全面覆盖算法的研发测试、部署应用以及数据管控等关键阶段。以此规范算法的测试验证流程，保证算法的准确性与可靠性。另一方面，宜细化医疗人工智能算法侵权责任的判定标准，针对数据泄露、诊断错误致害等不同侵害形态，构建差异化标准，推动医疗人工智能算法应用趋向公正合规，推动患者权益救济渠道的均衡化发展，切实保障患者权益和社会公共福祉。
3.3.2 促进多元主体担责比例公平
合理界定责任承担方式，使每一项医疗决策都能在法治体系下得到公正审视与裁断是实现正义目标的核心。对此，有学者主张摒弃功利和工具主义的狭隘视角，坚持“非唯人类中心”这一价值立场，借助法律拟制的方式赋予人工智能以拟制主体资格
［21］。对于高度自主且在医疗决策中起关键作用的算法，要分析其自主决策流程和对医疗效果的作用程度等技术特质。以智能诊断算法为例，其能够独立完成精准的初诊工作的能力已远超传统意义上的医疗辅助工具。所以当这一类算法决策失误导致医疗损害时，可予以其特殊的“人格”与“权利能力”，并在此基础上根据相关法律法规判断各方责任。但是，也需要明确划分医疗人工智能算法的主体资格边界，避免因为主体权利的滥用而滋生新的非正义现象。其次，明确责任认定标准与义务分担方式。其一，如上段所言，立法机构需明确医疗场景下算法致害的公平责任分配，算法决策失误致害时，算法技术提供方需遵循相关法律规定出示完善的证明材料；其二，医疗机构等临床应用主体的责任认定宜采用过错推定原则。由于医疗机构等临床主体仍是患者诊疗过程中的主导一方，需证明其在医疗人工智能算法的甄选、相关医疗数据管理及操作流程规范等方面尽到合理的义务。通过明确问责机制中的责任分配与各方义务，方能保障患者赔偿与救济的公正合理运行。
4 结语
医疗人工智能既蕴含着革新医疗服务、提升健康福祉的巨大潜力，又因治理机制缺陷、工具理性失范、权责配置失衡等因素阻碍公平价值的实现。目前中国还没有形成应对医疗人工智能算法正义问题的针对性措施。既有研究多是从医学道德规范、健康数据保护、患者隐私权保障等不同视角分别规范，尚未形成契合医疗领域特色的体系化治理体系。加上理论和实务方面均对医疗人工智能算法正义实现的现实困境缺乏整体掌控，这导致医疗人工智能算法从决策的逻辑起点、运行过程、计算结果三个阶段均存在不同的正义问题。鉴于此，应将医疗人工智能算法正义问题的治理贯穿到技术运行的全生命周期，实现科技发展和患者权益保障的平衡，促进健康公平价值的实现。
2022年度教育厅哲学社会科学研究重点项目“家庭医生签约服务中执业行为法治规制及保障研究”(2022059)
京公网安备11010202008535号
PDF
(566KB)
