人工智能产业开发背景下医疗人工智能的伦理挑战及对策研究

Research on ethical challenges and countermeasures of medical artificial intelligence under the background of artificial intelligence industry development

摘要

随着人工智能技术的飞速发展，其在医疗领域的应用日益广泛，推动了医疗产业的创新与发展。然而，医疗人工智能应用逐渐普及的同时，也面临医疗机器人的权利、医疗机器人的道德责任、个人隐私与数据安全、公平性等与人类利益和价值观密切相关的伦理挑战。为解决以上问题，提出应建立法律法规、健全监管机制，加强技术研发和防范措施，多元主体参与、多学科交叉融合，“负责任创新”等伦理治理措施。希望通过这些措施，促进医疗人工智能的可持续发展，实现科技创新与社会价值的和谐统一。

Abstract

With the rapid development of artificial intelligence （AI） technology， its application in the medical field has become increasingly widespread， greatly promoting the innovation and development of the medical industry. However， as the applications of medical AI gradually become popular， they also face ethical challenges closely related to human interests and values， such as the rights and moral responsibilities of medical robots， personal privacy and data security， and fairness. To address the above issues， measures should be taken such as establishing laws and regulations and improving regulatory mechanisms， strengthening technological research and development and preventive measures， involving multiple stakeholders and cross-disciplinary integration， and implementing ethical governance of “responsible innovation”. By implementing these strategies， it can promote the sustainable development of medical AI and achieve the harmonious unity of technological innovation and social value

关键词

医疗人工智能 / 伦理挑战 / 人工智能产业

Key words

medical artificial intelligence / ethical challenge / artificial intelligence industry

《健康中国2030规划纲要》将“推动健康科技创新”上升为国家战略，《新一代人工智能发展规划》也将“智能医疗”作为重点发展领域^［1］。人工智能在医疗领域的发展有着广阔的前景和重要的意义，智慧医疗已成为科技竞争的重点领域，2021年中国医疗机器人市场的体量达到近10亿美元^［2］，上海浦东张江机器人谷年工业产值达221亿元^［3］。

人工智能技术在医疗领域的应用，可以提高医疗服务的效率和质量，为患者提供更加智能化、个性化的医疗服务，同时能促进医疗产业的升级和发展，推动医疗领域的科技创新和进步，但在医疗人工智能的应用带来巨大潜力的同时，也引发了一系列伦理问题。

1　医疗人工智能的伦理挑战

医疗机器人直接关系到患者的生命安全，其伦理风险将给社会带来极大的隐患。机器人伦理是人工智能伦理体系的重要组成部分，是伦理学研究的新方向、新领域，主要涉及关于机器人技术的使用、机器人与人类之间的伦理关系和问题，尤其是“人—机器人”交互过程中产生的各种社会伦理问题^［4］。随着人工智能技术的不断发展，机器人在医学场景中出现的频率越来越高，而与医疗机器人相关的道德伦理问题也日益凸显。因此，关于医疗机器人伦理问题的探讨和研究具有重要的现实意义和价值，其涉及的核心议题包括：医疗机器人的权利、医疗机器人的道德责任、个人隐私与数据安全、公平性问题等。这些议题与人类的利益和价值观密切相关，值得深入研究和探讨。

1.1　医疗机器人的权利问题

医疗机器人的权利问题是一个复杂且日益受到关注的议题。随着医疗机器人技术的快速发展和广泛应用，其在医疗领域扮演着越来越重要的角色，但同时也引发了一系列伦理和法律问题，其中最为核心的就是医疗机器人的权利问题。医疗机器人是否具有权利？在探讨这一问题时，首先需要明确权利的定义及其在法律中的地位。在传统的法律体系中，权利通常被赋予具有意识和自主性的生物实体，如人类。然而，医疗机器人作为一种高度智能化的机器，虽然不具备生物性和意识，但它们在医疗过程中能够自主决策和执行任务，通过“理性配置”有了理性和自由意志的萌芽，进入到与人类同等的“范畴”，能够在表征层面，自我参与、自我反思，进而浮出自身进入环境并产生扰动^［5］，因此有学者认为在强人工智能时代，医疗机器人因具备自主决策与深度学习的能力，能够通过与环境互动作出自主性判断，具有了相应的主体权利资格^［6］。也有学者认为医疗机器人只是人类通过特定的程序编辑表达的类人智慧，是对人类智慧的模仿，只能在编程的范围内活动，或者对一定的数据进行总结分析，但不能进行创新活动^［7］，因此不具有行为能力和权利能力。

然而，医疗机器人的权利问题不是简单的是非问题。一方面，赋予医疗机器人权利有助于保护其合法权益，防止其被滥用或受到不必要的损害。例如，在手术过程中，如果医疗机器人出现故障或误操作，可能会对患者造成严重伤害，此时如果机器人没有相应的权利，那么其制造商和使用者可能会逃避责任。另一方面，过度赋予医疗机器人权利也可能引发一系列问题。例如，随着医疗机器人权利的增加，机器人可能会取代更多的医疗专业人员，从而导致失业和社会不平等问题的加剧；过度依赖医疗机器人可能导致患者的自主权受到侵犯。如果机器人在没有充分告知或征得患者同意的情况下作出治疗决策，可能侵犯患者的知情同意权；医生群体被迫让渡部分自主权利，置身于“技术茧房”之中难以摆脱被技术同化的命运。

医疗机器人的权利问题还与其在医疗体系中的角色和定位密切相关。随着医疗机器人的广泛应用并逐渐承担起更多的医疗任务和责任，需要更加明确具体的法律地位和权利保障，包括医疗机器人在医疗决策中的参与程度、其对医疗结果的责任承担以及与其他医疗人员的协作关系等方面。

在解决医疗机器人的权利问题时需要综合考虑技术、法律、伦理和社会等多个方面的因素。通过制定和完善相关法律法规和政策，明确医疗机器人的法律地位和权利范围，同时加强对其技术和行为的监管和评估，才能更好地平衡医疗机器人与人类用户之间的权益关系，推动医疗机器人技术的健康发展。

1.2　医疗机器人的责任问题

医疗机器人的责任问题是一个关键且复杂的议题，涉及多个层面，包括技术、伦理和法律等。随着医疗机器人在医疗领域的广泛应用，其责任问题也日益凸显。医疗机器人是否应该承担道德责任？《新一代人工智能伦理规范》为医疗机器人的责任问题提供了指导原则，但具体责任归属和界定仍需根据实际情况进行综合分析和判断。

首先，从技术层面来看，医疗机器人作为一种高度智能化的医疗设备，其设计和制造过程中可能存在缺陷或漏洞，导致其在实际应用中出现故障或误操作。这些故障或误操作可能会对患者造成严重伤害，甚至危及生命。因此，医疗机器人的制造商和研发者需要对其产品的安全性和可靠性承担相应责任。正如Veruggio所言，机器人实际上只是人类创造的工具，它们并不知道自己所作的选择。因此，人类对其行为负有道德责任^［8］。

其次，从伦理层面来看，医疗机器人的自主性可能导致责任归属不明确。医疗机器人在医疗过程中甚至能够自主决策和执行任务，因此可能会出现机器人作出错误判断并导致不良后果的情况。同时，机器人并不具备人类的道德意识和情感，这使得其在面对复杂的医疗情况时可能无法作出恰当的决策。在这种情况下，责任应该由谁承担就成为了一个问题。因此，需要明确医疗机器人在伦理方面的责任，在人工智能载体的设计阶段，应全面考虑其作为人类事务委托者或决策代理者时应遵循的伦理准则，以确保其在使用过程中不会违反伦理原则。

最后，从法律层面来看，医疗机器人的责任问题涉及法律法规的制定和执行。目前，各国对于医疗机器人的法律地位和责任认定尚存在争议和分歧。一些国家已经开始制定相关的法律法规，明确医疗机器人的法律地位和责任范围，以确保其在使用过程中能够受到有效监管和约束。中国法律尚未对医疗机器人的主体资格作出明确规定，医疗责任的归属和认定是智能医疗机器人伦理风险防控的关键问题^［9］。

1.3　个人隐私与数据安全问题

随着医疗人工智能技术的快速发展和广泛应用，个人隐私和数据安全面临着越来越大的挑战。按照《新一代人工智能伦理规范》的要求，所有人工智能相关活动，包括医疗人工智能的应用，都必须严格遵守隐私保护原则，确保个人数据的安全性和保密性。

个人隐私是患者的第一关切。但是，数据的采集、打通、整合和连接的操作过程，必然存在隐私泄露的隐患^［10］。医疗人工智能系统的应用涉及大量的个人隐私信息，包括患者的病历、诊断结果、治疗方案等。这些信息具有极高的敏感性，如果泄露或被滥用，将对患者的个人权益造成损害。例如，美国芝加哥大学向谷歌提供的数十万条患者记录并未进行充分的去标识化处理，仍然包含了患者的个人信息、诊断详情、手术记录以及用药情况等敏感数据，导致这些数据可能被用来重新识别患者身份，从而侵犯了个人隐私权。因此，保护个人隐私是医疗人工智能应用中的首要任务。

数据安全也是医疗人工智能应用中不可忽视的问题。医疗机器人本身具有记忆、扩散和复制等功能，无形中增加了医疗数据泄露的可能性，因而患者知情权和个人隐私安全无法得到保障^［11］。医疗人工智能系统通常依赖大量的数据来进行训练和优化，这些数据可能包含患者的个人信息和医疗数据。如果这些数据被非法获取或遭到恶意攻击，将对患者的隐私和医疗安全造成严重威胁。此外，医疗人工智能系统的数据泄露还可能对医疗机构的声誉和信誉造成重大损失。目前中国的法律体系尚未明确规定患者隐私延伸出的数据权利，如何保护患者的隐私权成为医学AI领域伦理治理中亟须解决的关键问题^［12］。

1.4　公平性问题

公平性在医疗领域尤为重要，每个人都应该平等地获得必要的医疗服务，而不受种族、性别、年龄、社会地位或其他任何因素的歧视。在推动人工智能发展的过程中，公平性问题是一个不可忽视的方面，涉及算法决策对个体或群体的潜在影响，人工智能技术的应用会导致资源分配的不平等，使得某些群体无法充分享受其带来的益处。

首先，数据偏见是一个关键问题。医疗人工智能系统的训练数据通常来自过去的医疗记录，这些数据可能反映了不公平和偏见，如种族、性别或社会经济地位的不平等。如果这些数据被用来训练模型，那么模型可能会无意中放大这些偏见，导致不公平的决策和结果。在算法偏见与算法黑箱的支配下，基因、种族、性别和地域等偏见可能会被无意识地嵌入算法程序中，各种算法歧视与偏见被机器人学习和继承，且很难通过技术手段剔除，从而导致特定医患人群被标签化，引发这些群体在社会就业和职业发展中受到不公待遇，影响社会公平公正^［13］。例如在算法的渗透下，老年人群体日益被边缘化，算法决策机制在本质上就有年龄歧视的风险，因为它更倾向于将资源用于年轻人，老年人的生命价值可能被忽视或低估，导致他们在算法决策中处于不利地位^［14］。

其次，可及性也是一个重要问题。各国、各地区的贫富差距和技术差距不断加大，智能医疗资源的分配存在有失公平公正的伦理风险^［15］。事实上，尽管医疗人工智能有潜力提高医疗服务的质量和效率，但由于资源限制、技术基础设施不足或文化因素等原因，并不是每个人都能平等地获得这些技术，人们可能无法充分享受医疗人工智能带来的好处。医疗机器人的应用存在明显的技术鸿沟、信息鸿沟和服务鸿沟，资源配置的矛盾可能进一步拉大贫富差距，导致医疗服务的不平等分配，加剧现有的社会不平等现象，不利于社会的公平和稳定^［16］。

2　医疗人工智能伦理问题的对策

随着人工智能产业的迅猛发展，医疗人工智能产业在为《健康中国2030》目标提供强大支持的同时，其伦理问题也逐渐表现出来，不仅关乎个体权利，还涉及整个社会的道德和法律底线，因此必须最大限度地降低和规避这些风险。人工智能领域的政策和实践应与《新一代人工智能伦理规范》的要求保持一致，在推动人工智能项目时应确保项目符合增进人类福祉、促进公平公正等基本原则。在人工智能产品的研发、供应和使用等环节，应加强隐私保护和数据安全，确保个人信息不被非法收集和利用。

2.1　建立法律法规、健全监管机制

应对医疗人工智能带来的伦理风险，不能仅停留在理论层面的探讨上，而应当落实在法律制度、社会政策以及行为准则等具体且具备执行力的现实层面上，要让医疗人工智能的应用有法可依。

相关部门需要制定详细的法律和伦理规范，明确医疗机器人在医疗过程中的权利和责任，以及与人类医生、患者之间的关系；明确医疗人工智能应用中个人隐私和数据安全的保护标准和责任归属；加强国际合作和法律法规的制定和执行，形成统一的国际标准和规范，为医疗机器人的发展提供有力的法律保障。

同时还要建立完善的监管机制，确保医疗机器人的使用符合法律和伦理规范，保障其合法权益的同时防止其滥用权利；对医疗人工智能系统的数据进行严格的管理和监督，确保其安全性和可靠性。建立监管机制和伦理指南，确保医疗人工智能的使用符合公平性和伦理原则。

2.2　加强技术研发和防范措施

加强技术研发和防范措施，提高医疗人工智能系统的安全性和防护能力。当前医疗大数据种类繁杂且分类标准不统一，数据技术应用系统需要进一步创新优化^［17］，例如，采用先进的加密技术和数据脱敏技术，保护患者的个人信息和医疗数据不被泄漏和滥用，通过技术手段加强对数据收集、存储和使用过程的监管，确保数据的合法性和安全性。提升算法的可解释性和透明度也是方法之一。医疗人工智能算法应具备更高的可解释性，训练模型时考虑公平性和无偏见性的原则，以便医生、患者和监管机构能够理解其决策依据。通过改进算法的设计和实现方式，降低其产生的伦理风险，并增加人们对算法的信任。此外，还应通过技术手段建立完善的网络安全体系，防范恶意攻击和数据泄露等风险。

2.3　多元主体参与、多学科交叉融合

作为当前最为复杂的新兴技术，人工智能技术具有不确定性以及深度专业性，单一机构不能提供支撑决策的全部知识，需要多元主体共同参与治理^［18］，工程师、公司职员、政府官员、医生、患者、伦理学家等多方的参与，才能为医学人工智能的设计提供具有一定共识的伦理原则，才能从法律法规到社会伦理等方面提供体系支撑。

同时，医疗人工智能的伦理问题涉及医学、伦理学、法学等多个学科领域。因此，促进多学科交叉合作，共同研究和解决伦理问题是非常必要的。通过跨学科合作，可以综合不同领域的观点和方法，为医疗人工智能的伦理风险控制提供更全面和有效的解决方案。

2.4　“负责任创新”的伦理治理

负责任创新理念最初在欧美国家的科技伦理治理中被提出，着重对研究与创新可能产生的未知影响和结果进行前瞻性评估。这一理念的核心目标在于应对科技发展过程中的责任伦理挑战，确保科技创新在遵循伦理原则的同时为社会带来积极的影响。在医疗机器人的设计、研发和创新过程中，要遵循“负责任创新”的理念，对研究和创新的未知影响和结果进行预测评估，应当嵌入人类的伦理准则并遵循人类的价值规范体系，从而使智能医疗机器人可以产生符合伦理规范的判断和行为，以解决责任伦理问题^［19］。

3　结语

在人工智能产业快速发展的背景下，医疗人工智能的应用为医疗体系带来了巨大的变革和发展机遇。然而，伴随而来的伦理挑战不容忽视。为了应对这些挑战，必须要让医疗人工智能的应用有法可依，建立高效的监管机制，并通过技术手段加强防范。“负责任创新理念”强调在医疗人工智能研发和创新的整个过程中，以一种包容性的方法使多元主体共同参与、协调，建立科学和社会之间的有效合作，使医疗人工智能符合社会的价值观、需求和期望，以重点解决医疗机器人的权利、医疗机器人的道德责任、个人隐私与数据安全、公平性等问题。通过全面应对这些挑战，医疗人工智能的应用才能更好地造福人类健康。

参考文献

[1] 徐明，韦俨芸. 数字时代医疗人工智能的算法逻辑、风险及其应对［J］. 中南民族大学学报（人文社会科学版），2024，44（1）：146-154.

[2] XU M， WEI Y Y. Algorithm logic，risks，and countermeasures of medical artificial intelligence in the digital era［J］. Journal of South-Central Minzu University（Humanities and Social Sciences），2024，44（1）：146-154.

[3] GUO Y， CHEN W， ZHAO J. Medical robotics： opportunities in China ［J］. Annual Review of Control，Robotics，and Autonomous Systems，2022，5：361-383.

[4] 刘晓洁. 年工业产值221亿张江机器人谷何以成为医疗机器人高地？［N］. 第一财经日报，2023-05-09（A04）.

[5] 林津如. 机器人伦理学的研究进程：基于英语文献的分析［J］. 东南大学学报（哲学社会科学版），2021，23（1）：24-31.

[6] LIN J R. Research progress of robot ethics in English literature［J］. Journal of Southeast University（ Philosophy and Social Science），2021，23（1）：24-31.

[7] 凌晨. 有限理性存在者：智能机器人成为权利主体的理论基石［J］. 法学论坛，2024，39（1）：82-92.

[8] LING C. Bounded rational existence： the theoretical cornerstone of artificial intelligence’s capacity as legal Subject［J］. Legal Forum，2024，39（1）：82-92.

[9] 赵玲玲，郭遥. 智能医疗机器人伦理风险：类型、成因与防控策略［J］. 医学与哲学，2023，44（12）：35-39.

[10] ZHAO L L， GUO Y. Ethical risks of intelligent medical robot： types，causes，prevention and control strategies ［J］. Medicine and Philosophy，2023，44（12）：35-39.

[11] 许中缘.论智能机器人的工具性人格［J］.法学评论，2018，36（5）：153-164.

[12] XU Z Y. On the instrumental personality of intelligent robots ［J］. Law Review，2018， 36（5）：153-164.

[13] ANTONIO ESPINGARDEIRO. A roboethics framework for the development and introduction of social assistive robots in elderly care ［D］. Salford：University of Salford，2014.

[14] 翟振明，彭晓芸.“强人工智能”将如何改变世界：人工智能的技术飞跃与应用伦理前瞻［J］. 人民论坛·学术前沿，2016，95（7）：22-33.

[15] ZHAI Z M， PENG X Y. How will “strong artificial intelligence” change the world：Prospects of the technological progress and application ethics of artificial intelligence［J］. Frontiers，2016，95（7）： 22-33.

[16] 叶少芳，刘婵娟. 智能时代数字医疗的伦理进路：基于“道德物化”理论的思考［J］. 浙江社会科学，2023（9）：114-120.

[17] YE S F， LIU C J. An ethical approach to digital medicine in the era of intelligence：reflection on the theory of “moral objectification” ［J］. Zhejiang Social Sciences，2023（9）： 114-120.

[18] 陈皓，兰候翠，刘伶俐. 医用机器人的伦理问题及应对之策［J］.中国医学伦理学，2019，32（6）：724-727.

[19] CHEN H， LAN H C， LIU L L. Discussion on the ethical problems and countermeasures of medical robots ［J］. Chinese Medical Ethics，2019，32（6）：724-727.

[20] 叶卓俊，沈艳丽，江晓，等. 医学人工智能领域伦理治理重点研究［J］.中国医学伦理学，2024，37（1）：39-44.

[21] YE Z J， SHEN Y L， JIANG X，et al. Research on the focus of ethical governance in the field of artificial intelligence in medicine ［J］. Chinese Medical Ethics，2024，37（1）：39-44.

[22] 赵玲玲，郭遥. 智能医疗机器人应用的伦理风险及其治理路径：基于利益相关者视角［J］. 科技管理研究，2023，43（11）：177-184.

[23] ZHAO L L， GUO Y. Ethical risks and governance paths of the intelligent medical robotics’ application： from the perspective of stakeholders［J］. Science and Technology Management Research，2023，43（11）： 177-184.

[24] 徐洁，燕颖川. 算法年龄歧视的现实挑战与规制路径［J］. 学术交流，2023（7）：134-155.

[25] XU J， YAN Y C. Algorithmic age discrimination： its realistic challenges and regulatory approaches［J］. Academic Exchange，2023（7）：134-155.

[26] 杜严勇. 机器伦理刍议［J］. 科学技术哲学研究，2016，33（1）：96-101.

[27] DU Y Y. On machine ethics［J］. Studies in Philosophy of Science and Technology，2016，33（1）： 96-101.

[28] 李开复. AI·未来［M］. 杭州：浙江人民出版社，2018：56-62.

[29] 杨烨阳，苏果云. 数字医疗技术应用中的伦理困境及其实践边界［J］. 医学与哲学，2023，44（13）：34-39.

[30] YANG Y Y， SU G Y. Ethical dilemmas and practical boundaries in the application of digital healthcare technology［J］. Medicine and Philosophy，2023，44（13）： 34-39.

[31] 黎常，金杨华. 科技伦理视角下的人工智能研究［J］. 科研管理，2021，42（8）：9-16.

[32] LI C， JIN Y H. A research on artificial intelligence from the perspective of science and technology ethics［J］. Science Research Management，2021，42（8）：9-16.

[33] 薛桂波，闫坤如.“负责任创新”视角下技术伦理的政策转向［J］.大连理工大学学报（社会科学版），2018，39（1）：9-14.

[34] XUE G B， YAN K R. On the policy turn of technology ethics from the perspective of RRI［J］. Journal of Dalian University of Technology（Social Sciences），2018，39（1）：9-14.

基金资助

西安市科技局软科学项目“秦创原人工智能产业开发背景下的医疗人工智能伦理挑战及对策研究”(22RKYJ0043)

教育部人文社会科学研究项目“德国医学人文教育经验及启发研究”(21XJAZH002)

陕西省教育厅教育教学改革研究项目“陕西省医学教育创新发展背景医学人文英语共情教学改革研究”(21ZY010)