医疗人工智能算法决策的伦理风险及规制策略

The ethical risks and regulatory strategies of medical artificial intelligence algorithm decision-making

摘要

算法是医疗人工智能优化患者就医的运行关键。随着医疗人工智能算法的逐步推行应用，其决策在生成样态上呈现出数据驱动、算法黑箱以及概率范式的主要特征，这些特征推动了人工诊疗向智能诊疗的转变，也同步滋生了相应的“算法”代替医生决策、“算法利维坦”消解患者基本权利以及医患信任危机等现实问题。为有效防范医疗人工智能算法决策所产生的伦理风险，应当呼唤回归主体本位，以医生为主体，以算法技术为羽翼，强化医生决策能力，尊重患者基本权利；推进算法优化，规训技术向善；锚定风险关键，加强医患信任建构。

Abstract

Algorithms are the operational key for medical artificial intelligence （AI） to optimize the patients seeking medical treatment. With the gradual implementation and application of medical AI algorithms， their decision-making presents the main characteristics of the data-driven， algorithmic black box， and probabilistic paradigms in generating patterns. These characteristics have driven the transformation from artificial diagnosis and treatment to intelligent diagnosis and treatment， but have also simultaneously spawned corresponding practical problems such as “algorithms” replacing doctor decision-making， “algorithmic Leviathan” resolving patients’ basic rights， and doctor-patient trust crisis. To effectively prevent ethical risks arising from medical AI algorithm decision-making， it is necessary to call for a return to the subject-centered approach with doctors as the main body and algorithm technology as the wings， strengthen the doctor’s decision-making ability， respect patients’ basic rights， promote algorithm optimization， train technology to improve， anchor risk keys， and strengthen doctor-patient trust construction.

关键词

医疗人工智能 / 算法 / 伦理风险 / 规制策略 / 医患关系

Key words

medical artificial intelligence / algorithm / ethical risk / regulatory strategy / doctor-patient relationship

《新一代人工智能发展规划》指出：“人工智能逐渐成为经济发展的重要引擎。”^［1］应当大力发展“智能医疗”。医疗人工智能作为“智能医疗”的基本产物，因其能够有效提升临床工作效率与服务质量，在很大程度上能够缓解不同地区医疗卫生资源分布不均的问题，意味着医疗人工智能已然成为促进医疗卫生领域智能化发展的重要驱动力。

然而，伴随着医疗人工智能的广泛应用，其“双刃剑”属性逐渐凸显。尽管人工智能已经成为医疗卫生领域的“技术红利”，但也极易滋生多方面的潜在隐患。首先，算法作为人工智能的核心要素之一，能够帮助人工智能完成求解、计算以及推演等过程。值得注意的是，在医疗人工智能应用中，算法正在逐渐削弱甚至替代医生的决策权与选择权，呈现出较为自动化的“决策”特征。这一特征与传统医疗实践的基本属性产生冲突，从而滋生伦理风险。

借此，探寻医疗人工智能算法决策伦理风险产生的逻辑理路，对其衍生的伦理风险进行全面剖析，并探讨医疗人工智能算法决策的规制策略，这对于规范医疗卫生领域智能化发展等方面具有现实意义。

1　医疗人工智能算法决策的伦理风险“何以可能”

就其概念而言，算法是在一定的预设程序主导下，由计算机自动完成特定功能、解决特定问题的计算指令，本质上是将数据输入转化为信息输出的一种方式。数字时代，算法逐渐被当作是一种智力活动的规则与法则。在人工智能的任何活动中，算法都能以一种特定的“规则”进行输出。随着人工智能技术的不断发展，算法的技术赋权逐渐得到优化，以指令代码的形态建构了一种求解的工作机制。

算法在医疗卫生领域的应用尤为广泛。医疗人工智能算法是算法技术在医疗卫生领域的拓展，它可以根据特定的医疗场景，在海量医疗数据中提取出具有共性的要素，针对特定的医疗问题进行反馈，再将所获取的医疗数据加以汇聚，为未来一些类似的医疗问题提供参考。例如，深度学习、知识图谱以及神经网络等算法不仅可以高效地完成疾病诊断、发展预测、药物研发以及治疗手术等活动，还能快速汇聚医疗大数据，进行相应的数据匹配，形成优劣排序的诊疗方案，从而提升医疗服务水平。由此可见，医疗人工智能能够发挥相应的功能，是由于内嵌的算法能够针对特定的医疗问题，按照特定的规则与流程进行筛选和分析。

作为一种数据结构，医疗人工智能采用了相应的架构规程，达到完成诊疗工作的目的，并以指令的形态构建了一种独特的“决策”机制。因此，医疗人工智能算法决策的概念随之呈现。医疗人工智能算法通过深度学习不断优化自身架构特征，提升技术特征的适配性，进而提升数据处理的科学性，以期实现针对医疗临床实践的科学决策。表面上看是医疗人工智能在工作，实际上则是医疗人工智能算法在进行决策。

然而，医疗人工智能算法决策的“算法黑箱”1

1 “算法黑箱”指由于技术本身的复杂性以及媒体机构、技术公司的排他性商业政策，算法犹如一个未知的“黑箱”——用户并不清楚算法的目标和意图，也无从获悉算法设计者、实际控制者以及机器生成内容的责任归属等信息，更谈不上对其进行评判和监督。

特征并未完全消除，其内部代码模型和“决策”机制具有不透明性，本质上的“技术理性”仍然存在。久而久之，医疗人工智能算法呈现出一种“类人性”，在一定程度上正在逐渐取代医生的决策能力，冲击疾病诊断的实际精度。“在较高算力的加持下，经由不同类型的数据运算方式，进行不同维度的逻辑决策，以实现对非线性问题的求解。”^［2］正因如此，医疗人工智能算法决策表现出一定的“自主性”，会在“技术理性”的加持下产生一种“不确定性”，从而冲击传统医疗实践，医疗人工智能算法决策的伦理风险随即呈现。

2　医疗人工智能算法决策的核心特征

2.1　数据驱动的二重性：数据依赖与结果不确定性

数据是算法的基础，人工智能算法对数据有极强的依赖性。在医疗大数据建构的数字化场景中，医疗人工智能算法按照既定的底层逻辑设置目标函数模型，对超声、心电以及放射等类型的数据组进行分析，通过自动化的模型分析其内在规律特征，进而借助算法机理进行决策，为疾病诊断治疗提供基本依据。其底层逻辑，即算法利用数据驱动探究疾病发展的过程并生成治疗策略。

医疗人工智能算法并非以人的理解能力与分析能力为支撑，而是利用算法自我训练的基本特点，实现调整参数权重的主要目标。这个过程主要分为数据标记、模型训练以及实际应用三个阶段。数据标记是整个过程中的重要基础。例如，在诊断心脏占位性病变时，医疗人工智能算法决策主要是通过在多模态影像中检索相关的数据参数与疾病信息进行全面分析，进而生成特定的诊疗方案。由此可见，这种医疗人工智能算法的决策能力实际上是以“数据”作为重要支撑的，需要借助大量的数据方可分析数据的基本规律。

然而，当医疗人工智能算法从数据中推演得到相应结论时，不可避免地会出现不确定的结果。这是因为医疗人工智能算法将所获取的数据转化为具有实践性的洞察力时，实际上是一个较为困难的过程，受到数据种类、数据质量的影响，呈现出一定程度上的不确定性。因此，医疗人工智能算法在数据处理方面仍然具有一定的局限性，需要借助一定的辅助方式方可提高医疗人工智能算法决策的准确性。

2.2　算法黑箱的困境：决策过程的不透明性与责任划分

由于“算法黑箱”的存在，在医疗人工智能算法决策的过程中，数据输入后的筛选与处理都无法从外部察觉，医生无法也无需了解算法决策的内在机理，进而形成一个难以解析的黑箱。随着大量数据的反复训练，算法学习的模型也会自动优化，其相应的代码参数也产生相应调整，尽管能够提升医疗人工智能算法的智能化水平，但是加剧了“数字鸿沟”。

尽管医疗人工智能算法的应用减少了主观错误的发生，但由于“算法黑箱”的存在，算法决策并非完全公平。在数据嵌入缺乏中立的情况下，极易导致决策结果差之毫厘，谬之千里。例如，医疗人工智能算法在推荐治疗方案时，不可避免地带有“算法歧视”，如筛选性别、年龄以及地域等因素，导致对某些患者群体的治疗建议产生偏差甚至错误。这种现象加剧了不同群体之间的医疗资源分配不均问题，使得某些患者得不到应有的治疗，医疗责任难以溯源。由此医疗人工智能的双刃剑属性逐渐凸显，既提升了临床工作效率，也可能以此诱发新的医疗问题。

现阶段的医疗人工智能算法决策是对人类认知过程的模仿，也不可避免地存在相应缺陷。尽管针对一些特定的疾病，医疗人工智能算法的诊断精准程度已经在一定程度上超越了医生。但在应用医疗人工智能算法辅助医生决策所造成的医疗事故，其责任归属问题会导致决策错误的风险无法被患者所接受。

当前，针对医疗人工智能缺乏完备的法律制度保障，医疗人工智能算法决策的风险责任无法全部归咎于设计者，也无法完全归咎于作为技术使用者的医生。正因如此，医疗人工智能算法决策所衍生的责任划分与归属问题仍然难以明晰。

2.3　范式转变：从人工诊疗到智能诊疗的变革

医疗人工智能算法决策呈现了一种“大数据、小定律”的技术特征，能够将不同的疾病分解为多个问题子集，再根据不同的情景环境将离散化医疗数据有效汇聚筛选，进而针对子集问题作出相关性反馈^［3］。其遵循的是一套标准“条件—结果”内在匹配，而这种基于数据量化分析的统计模型即“概率范式”。在这种范式下，医疗人工智能算法能够在可视化的数据分析中，精准识别病理症状，确定疾病病种以及探究治疗的最佳方案。算法设计者将具备一定“描述性”的分散数据定义为“大概率事件”，再由结论证成决策之合理性与科学性。

相比于传统的医生治疗决策，这种嵌入概率模型的智能诊疗具有明显的优势。首先，它能够在很大程度上摆脱传统人工诊疗时空条件的局限；其次在诊疗实效性方面具有较高的效度。因此，医疗人工智能算法将这种概率范式融入医疗决策过程中，并通过智能化的工具媒介，建构了“智能医疗”的数字平台，进而以最高效率提供相关依据并给出最佳诊疗方案。

例如，在目前流行的数字化医疗中，“5G医疗机器人”能够运用网络信号传输，经过精准计算后，在异地向医生发出行为指令，进而完成诊断、治疗、解剖、康复等一系列医疗活动。在应对一些临床难题的过程中，医疗人工智能算法经过高精度的概率统计能够生成解决方案，实现由传统诊疗向智能诊疗的飞跃式发展。

3　医疗人工智能算法决策的伦理风险

3.1　决策主体易位：算法决策对医生角色的重塑

随着智能医疗的不断发展，越来越多的医疗人工智能算法决策辅助甚至替代医生作出了相应的医疗决策。在预约挂号、导诊系统、疾病诊断、预后研判甚至是手术放射等方面，都存在依靠医疗人工智能算法决策的现象。在这种背景下，医疗人工智能算法决策的“自主性”不断增强，医生的主体地位随之削弱。

值得注意的是，医生始终是医疗临床实践中的主体。然而，医疗临床实践对于医疗人工智能算法的依赖加剧，极易滋生出一种“医生无用论”的观点，医生的主体作用逐渐被质疑，越来越多的患者逐渐倾向于信任“智能算法”，而非医生的主体性判断。

医疗卫生领域智能化发展的现实图景的构建，旨在将人的行为与活动以数据形式呈现并纳入医疗人工智能算法之中，并对患者进行实时的监测与反馈。当医疗人工智能的知识存储、读取能力远超于医生时，其对部分疾病的诊断效率和精确度也大幅高于医生^［4］。在一些治疗场景中，医生也逐渐成为医疗人工智能算法的“附庸”。主要表现为医生勤于输入指令与操作设备，惰于精进医术与探究病情。

正因如此，医生逐渐成为医疗人工智能算法的特定“附属者”，而非具有主观能动性的主体。这种风险的潜在结果就是造成临床实践从“医生为主体”逐渐向“以算法为主体”转变，进而建构出一种“技术理性”加持的诊疗模式。这也意味着医疗人工智能算法不再单纯只是辅助医疗的“工具”，而是走向核心的全新“主体”。

以往，医生对医疗专业知识和信息资源占有绝对优势。医患之间医生被赋予高角色期待，也形成了医生的高权威和高支配地位^［5］。其应用医疗人工智能的主要目标是提升诊疗效率、降低劳动强度以及优化诊疗科学性等。然而，随着临床实践对于医疗人工智能的依赖加剧，医生的主体地位开始式微。诸如影像整理、报告分析以及病理统计等工作，完全可以由医疗人工智能算法生成、分析与统计。医疗人工智能取代医生决策权的伦理风险逐渐凸显。

3.2　患者权利失效：“算法利维坦”对患者基本权益的侵蚀

权利问题始终是伦理风险探讨的重要范畴。患者在接受医疗服务的过程中，享有自主权、公平权、隐私权等合法权利。然而，在“算法利维坦”2

2 “算法利维坦”指算法在社会治理中的超强统治力和控制力，对个人权利和自由产生深刻影响，类似于霍布斯的《利维坦》一书中描述的国家机器对个人自由的压制。

的影响下，人们无法有效应对其衍生的“技术统治”现象，无法实现对技术的有效规制与治理，进而导致患者逐渐失去了其基本权益。医疗人工智能在使用中，可能会因为数据嵌入中的性别、年龄等因素导致不公平现象。例如，不同性别和年龄的患者在医疗服务中可能会面临算法偏见，从而无法公平地接受医疗服务。公平权利的丧失主要源于医疗人工智能将患者赋予“现实人”与“用户”的双重身份，这导致患者的基本权利因为“存在形态”的差异而发生异化，需要付出超越以往的代价加以弥合。

数字时代，医疗大数据在医疗人工智能中占据重要地位，已经逐渐成为 “智能医疗”的战略性资源^［6］，医疗人工智能算法通过“持续控制”患者的“用户”身份，掌握医疗大数据，可能导致患者信息的泄露。由于“数字鸿沟”的存在，社会中存在“数据孤岛”现象，知情同意原则尚无法有效保障患者信息数据获取的合法性。相反，一些代码化的信息更容易突破时空隔阂，在数字空间被无止境地复制传播。患者的健康状况及其附带的“科研价值”被算法计入，陷入信息脱敏处理困境。与此同时，受到“算法黑箱”的影响，患者在享有医疗资源的知情权方面也面临新的困境。这是由于医疗数据样本偏差、算法规则瑕疵以及算法设计者价值偏见等原因，有关种族、基因、地域等因素嵌入到医疗人工智能算法中，进一步加剧了知情权的缺失。在这种背景下，患者的知情权在算法复杂结构的影响下难以实现。医疗人工智能算法作为一种特定的规则，作出决策是依据统计学的相关关系，而非因果关系，其输出结果难以凭借常理推断，更难以重现。

现代医学将“循证”作为一种重要方法，重视医生的专业技能和诊断依据，临床决策也应当遵循相应的现象表征及其因果间的内在联系。然而，受到“算法利维坦”的影响，医生只能通过观察临床数据来验证医疗人工智能算法的决策结果。这显然在很大程度上超出了医生的能力范围，在“不确定”的情况下，患者无法得到确切信息，从而逐渐丧失权利。

3.3　医患信任的新挑战：表象缓解下的深层危机

构建和谐的医患关系是医疗卫生领域的重要课题，而传统医患关系危机的主要原因在于信息不对称。随着医疗人工智能的广泛应用，智能医疗提供了便捷、高效以及科学诊疗服务的同时，也拓宽了患者获取信息的渠道。然而，受到医疗人工智能算法的固定规则影响，算法决策会导致诊断结果存在不确定性，加之“技术理性”的深度嵌入以及功利主义导向裹挟，这都会对医患关系产生新的冲击。

在传统医患关系中，医生在知识储备、临床操作以及决策建议等方面占据主导地位。然而，随着医疗人工智能的应用，患者逐渐从“信任医生”向“信任智能”转变，导致医生的决策建议受到患者质疑。同时，随着医疗人工智能技术的不断完善，算法决策的精准性与科学性不断优化，使得患者更容易相信“用数据说话”的医疗人工智能而非医生。然而，医疗人工智能的决策逻辑很难体察患者微妙与无形的心理变化，被动型的诊疗过程还可能会导致医学黄金时代的消解，造成的消极影响难以预见^［7］。

在一些特定的情况下，医生或许并不需要对疾病症状与治疗方案进行阐述，而需要重点解释“为什么医生比医疗人工智能可信”。与此同时，医疗人工智能诊疗方案的应用虽然提供了便捷和科学的服务，但也在潜移默化地改变着患者的行为习惯与思想认知，带来了新的挑战。然而，由于“算法歧视”的存在，医疗人工智能在应用过程中不断重构患者所处的环境，加剧了患者的“技术主义”倾向。作为“技术主义”的代表性产物，医疗人工智能会诱导患者对医生脱离技术工具的诊断能力产生怀疑。虽然医疗人工智能算法的“投其所好”增加了患者的接受度与信任度，但同时也加剧了对医生的不信任。

目前，虽然有观点认为医疗人工智能可以成为“修复”医患关系的“工具”，但值得注意的是，医疗人工智能算法决策并不能代替“人际交往”。换言之，医生与患者之间的交流无法以“人机交互”的方式加以替代。医疗人工智能虽然提高了诊疗效率和准确性，但也可能导致医生与患者之间的沟通减少，进而影响医患关系的质量。尽管医疗人工智能拓宽了医生的诊疗工具范畴，但其应用过程中的算法偏见和技术不透明性，可能会加剧患者对医生的不信任。因此，医疗人工智能可以优化某些诊疗环节，但并不能彻底解决医患关系中的深层次矛盾。

4　医疗人工智能算法决策伦理风险的规制策略

4.1　回归医生主体，提升决策效能

从医学发展史分析，医生始终都是临床实践的主体，能够凭借自身的丰富经验与诊疗能力，完成对各种疾病风险的判断并给出治疗方案。然而，医疗人工智能的介入，在一定程度上动摇了医生的主体地位。对医疗人工智能算法治理时要明确人在算法治理中处于主体地位^［8］，始终保持医生作为决策的主体。

第一，强调医生主导，重视主体判断。医学学科的实践性特征决定了临床实践的主体是医生。尽管医疗人工智能算法能够在一定程度上“替代”医生进行决策，但其本质上是以“工具”的身份在临床加以应用，仍然无法从本质上取代医生在临床实践中的主体地位。因此，在临床实践中医生仍然要保持“亲力亲为”，全面参与到诊疗全过程中。医疗人工智能应作为辅助工具，助力优化诊疗效果，确保最终决策权由医生掌握。

第二，减少算法依赖，拓展主体实践。尽管长期使用医疗人工智能能够提升医疗服务效率，算法通过机器训练获取数据并完善结构，但这可能加剧医生对其依赖，进而削弱医生的主体性作用。医生应在临床实践中与医疗人工智能产生交互，获取支撑性的临床诊断依据和相关知识技能，与患者进行针对性交流，丰富自身的诊疗经验，而不是仅依赖医疗人工智能。

第三，保持全程参与，夯实主体责任。医疗人工智能介入临床实践为传统诊疗过程增添了新的主体。在多主体环境下，应当通过相应的干预措施，使多方主体参与到共享决策中，增加对患者的人文关怀，实现医疗人工智能算法决策的程序透明。合理预测并及时告知决策结果的可能性，引导患者在医疗人工智能参与下做出合理决策。同时，要关注患者的临床表现和反馈，建立患者在使用医疗人工智能过程中的心理疏导机制，确保医生在应用医疗人工智能过程中的责任落实。

4.2　规训技术向善，重塑患者权利

在医疗人工智能领域，患者生命健康等相关权利的实现依赖于数据汇集与代码嵌入。然而，算法技术的应用壁垒以及信息不对称的鸿沟，致使患者在医疗人工智能算法所“支配”的“算法利维坦”主导下，难以通过主观行为应对技术风险。因此，有必要从技术方面着手，推动医疗人工智能算法的优化，以应对其带来的伦理风险，保障患者的基本权益。

第一，强化算法价值导向，保障算法决策始终服务于人。面对医疗人工智能算法决策对于患者基本权利的威胁，在设计与应用过程中坚持以人为本的价值导向，完善医疗人工智能算法的“知识”“边界”以及“价值基准”等方面，并进一步界定患者的数据自主权、隐私权、知情权以及使用权等权利。通过明确患者的权利范畴，实现算法技术的“驯化”，使医疗人工智能算法具有“道德正义”。

第二，规范伦理治理，优化算法训练。随着人工智能的不断发展，“道德图灵测试”的出现提出了一种新型的人工智能伦理问题，“道德图灵测试”通过测试人工智能，试图将人工智能打造成一个“道德行为者”，具备识别道德基准的同时也能够指引决策方向，形成一种“类人”的情感关系^［9］。基于“道德图灵测试”，可以发挥医疗人工智能算法的“深度学习”特征，在临床案例与实际应用中反复训练，形成“正负向反馈机制”，即医务人员要对医疗人工智能算法决策进行伦理判断，再经医生反馈于医疗人工智能，进而通过技术训练建构新的智能伦理范式，使医疗人工智能逐渐符合医学伦理规范。

第三，加强算法科学治理，构筑算法风险防治体系。针对医疗人工智能算法决策的伦理风险，应当构筑完备的治理体系，构建多元协同的算法治理范式，建立行业化、标准化的伦理规范，促进多元主体将法治化的伦理规范应用于算法决策，保障患者的数据安全，并督促算法设计者把好医疗人工智能算法设计的“审核关”。针对医疗人工智能算法风险的监测预警与跟踪研判，形成必要的风险反馈机制，制定应急预案，重视并加强安全性审查，完善风险反馈机制与应对措施，降低技术风险带来的伦理影响，确保医疗人工智能算法的安全可靠。

4.3　倡导医学伦理理念，构建信任体系

数字时代，医疗人工智能算法决策推动了传统医患“主—从”关系逐渐向“医生—智能—患者”的新关系模式转变，减少了医患之间的交流沟通，重塑了医患之间多层面的责任义务，为医患关系带来了新的挑战。医生与医学人工智能共同参与医疗决策过程，会使相关的责任归属问题变得尤为复杂^［10］。应对医疗人工智能算法决策对医患关系的冲击，应当借鉴中华优秀传统文化中的医学伦理思想，重拾医者的仁爱之心和济世情怀，结合关键性表征审视医患关系，充分体现对患者的尊重，打破医患间的信任壁垒。

第一，树立医患共同体意识，加强思想认同。随着医疗人工智能算法的应用，患者对医生的“信任”逐渐转变为对“算法”的依赖，可能导致医患关系的疏远。因此，医生与患者都应当树立医患共同体意识。医生应强化责任意识，不断提升对医疗人工智能应用的熟练度，发挥专业特长；患者应提升对医疗人工智能的认知和信任，帮助理解算法决策的内在机理。通过数字媒体平台加强医疗人工智能应用的宣传与普及，可以增进医患之间的沟通和理解。

第二，划清责任归属，规避矛盾冲突。医疗人工智能算法决策的责任归属是医疗人工智能治理的重要问题，需完善责任意识以防范算法风险与“救济”实施。应当设立医疗人工智能算法设计的行业标准，提高医疗人工智能算法的科学性与规范性，在疾病诊断与健康干预过程中，医疗人工智能算法发挥“产品作用”，在经过相关认定后，可以视情况实行无过错责任原则，将算法责任让渡于医生责任。还应明确医疗人工智能算法责任主体，明确算法设计者的责任，无论是算法设计缺陷，或是智能技术局限，甚至是医疗人工智能算法设计者未能有效研判的风险，都要适用“严格”法律责任，视后果由算法设计者承担相应责任。

第三，完善职能部门监管，减少风险隐患。政府在医患关系改善中担任“调解者”的角色，具有重要作用。在出台相关政策法规的同时，也应对医疗人工智能算法的源头进行监管，规范算法应用。要加强对相关医疗人工智能企业及研究机构的监管，明确算法设计者及开发团队的伦理义务，避免恶意营销与违规设计，增强企业的责任意识。还要建立保护患者隐私的制度，细化数据保护范围，制定医疗隐私安全保护管理规范，构建医疗数据安全保护平台，设立专门部门与专职人员进行监督，确保数据安全。

5　结语

医疗人工智能算法的应用在提升诊疗效率和优化医疗服务方面展现了巨大潜力。然而，其在伦理风险方面也提出了新的挑战，如决策过程的不透明性、算法对医生角色的影响以及患者权利的侵蚀等。通过强化算法价值导向、规范智能伦理和加强算法治理，可以有效规避这些伦理风险。此外，借鉴中华优秀传统文化中的医学伦理思想，重拾医者仁爱之心，重构医患信任体系，将为应对医疗人工智能带来的挑战提供有力支撑。未来，随着技术的不断发展，应进一步深入研究医疗人工智能的伦理风险，并制定更为完善的法律和监管机制，确保医疗人工智能技术能够真正服务于人类健康，最大化实现其社会价值。

参考文献

[1] 新一代人工智能发展规划［M］.北京：人民出版社， 2017：3.

[2] LIBBRECHT M W， NOBLE W S.Machine learning applications ingenetics and genomics［J］.Nature Reviews Genetics，2015，16（6）：321-332.

[3] 郭哲.大数据国际追逃追赃的法治治理［J］.当代法学，2023（2）：136-147.

[4] 周罗晶，邵旸，张瑞，等.智慧医疗场景下人工智能应用伦理问题与治理路径探讨［J］.中国医院，2024，28（2）：38-41.

[5] ZHOU L J， SHAO Y， ZHANG R， et al. Ethical issues of artificial intelligence applications in smart healthcare scenarios and its governance path［J］. Chinese Hospitals， 2024，28（2）：38-41.

[6] 张荣，徐飞.智能医学算法决策的伦理困境及风险规制［J］.医学与哲学，2022，43（8）： 10-15.

[7] ZHANG R， XU F. Ethical dilemma and risk regulation of algorithmic decision-making in intelligent medicine［J］.Medicine and Philosophy，2022，43（8）：10-15.

[8] 胡瑶琳，余东雷，王健.“健康中国”背景下的健康医疗大数据发展［J］.社会科学家，2022（3）：79-87.

[9] 朱晶.复杂性哲学视角下的人工智能医学［J］.哲学分析，2018，9（5）：27-37.

[10] ZHU J. AI medicine from the perspective of complexity philosophy［J］.Philosophical Analysis， 2018， 9（5）： 27-37.

[11] 徐着雨，岳远雷.医疗人工智能算法风险防范的法治化思考［J］.医学与哲学，2023，44（11）：67-71.

[12] XU Z Y， YUE Y L ．Reflection on the rule of law for risk prevention of medical artificial intelligence algorithms［J］.Medicine and Philosophy，2023，44（11）：67-71.

[13] 黄素珍.人工智能的责任困境：以自主能动性和道德图灵测试为探讨中心［J］.山东社会科学，2020（4）：11-18.

[14] 杨军洁，周程.医学人工智能的算法黑箱问题：伦理挑战与化解进路［J］.科学通报，2023，68（13）：1604-1610.

[15] YANG J J， ZHOU C. Algorithmic black-box problem in medical artificial intelligence： ethical challenges and solution approach［J］.Chinese Science Bulletin， 2023， 68（13）： 1604-1610.

基金资助

黑龙江省高等教育教学改革项目“‘习近平新时代中国特色社会主义思想概论’课程建设及教学评价研究”(SJGSJ2022020)

黑龙江省省属高等学校基本科研业务费一般项目“中华优秀传统文化与高校思政教育融合研究”(YWF10236230120)