医疗人工智能的原则主义审思及治理探析

汪琛

中国医学伦理学 ›› 2024, Vol. 37 ›› Issue (9) : 1052 -1060.

PDF (626KB)
中国医学伦理学 ›› 2024, Vol. 37 ›› Issue (9) : 1052 -1060. DOI: 10.12026/j.issn.1001-8565.2024.09.06
医学人工智能伦理

医疗人工智能的原则主义审思及治理探析

作者信息 +

Principle-based reflection and governance exploration of medical artificial intelligence

Author information +
文章历史 +
PDF (640K)

摘要

医疗人工智能发展与应用带来的伦理挑战,已经超脱了传统生命医学伦理的原则主义框架的规制边界,但这并不意味既往的原则主义路径已经“过时”。事实上,原则主义应被视作医疗人工智能伦理治理的基础性进路,为伦理风险的治理提供一个基准性的价值标杆。通过对医疗人工智能伦理风险的原则主义进行分析,发现仅靠叠加更多的伦理原则,或只是在有限语境内的重新诠释和扩展既有原则的内涵范畴,不足以适应快速变化的技术环境和伦理风险。因而,医疗人工智能的伦理治理应当以一种动态、灵活且持续性的视角,发展一种基于优化原则主义的医疗人工智能伦理治理体系,在充分吸纳实际语境伦理诉求的基础上,建设包括学术研究、机制建设、文化培育三个路径组成的医疗人工智能伦理治理体系。

Abstract

The ethical challenges brought by the development and application of medical artificial intelligence (AI) have transcended the regulatory boundaries of the traditional principle-based framework of bio-medical ethics. However, this does not mean that the previous path of principlism has become “outdated.” In fact, principlism should be regarded as a foundational approach to the ethical governance of medical AI, providing a benchmark value standard for the governance of ethical risks. Through analysis of principlism of the ethical risks of medical AI, it was found that the shortcomings of principlism were insufficient to adapt to the rapidly changing technological environment and ethical risks by simply adding more ethical principles or just reinterpreting and expanding the connotations and scope of existing principles within a limited perspective. Therefore, the ethical governance of medical AI should develop a medical AI ethical governance system based on optimization principle from a dynamic, flexible, and continuous perspective, as well as establishing a medical AI ethical governance system consisting of three paths, including academic research, mechanism construction, and cultural cultivation, based on fully absorbing the ethical demands of the actual context.

Graphical abstract

关键词

医疗人工智能 / 人工智能伦理 / 伦理问题 / 原则主义 / 伦理治理

Key words

medical artificial intelligence / artificial intelligence ethics / ethical issue / principlism / ethical governance

引用本文

引用格式 ▾
汪琛. 医疗人工智能的原则主义审思及治理探析[J]. 中国医学伦理学, 2024, 37(9): 1052-1060 DOI:10.12026/j.issn.1001-8565.2024.09.06

登录浏览全文

4963

注册一个新账户 忘记密码

大数据、人工智能等新一代信息技术与医疗保健、公共卫生与生命科学结合的创新发展带来了医疗智能化转型,而以此为集成的医疗人工智能,正在以前所未见的形式,带来传统(医学)伦理学应对范围之外新的挑战,引发了社会层面的广泛关注。在医疗智能化转型不断加速的背景下,为了保障医疗人工智能技术能够有效服务于社会医疗福祉的实现和提升,有效的伦理风险治理就显得尤为关键。目前学界关于医疗人工智能存在的伦理问题类型和种类展开了一系列的讨论和研究,基本已经实现在现有和未来可预见的基础上,穷尽了对医疗人工智能既存和潜藏伦理问题类型的挖掘和分析,形成了一幅全景式的医疗人工智能伦理风险谱系和结构框架1。但既有研究更多是非结构化地提出医疗人工智能存在的伦理问题,而针对人工智能对医疗领域介入性赋能所产生的对既往医疗原则规约框架的影响却鲜有系统性的分类研究,提出的对策也主要是问题跟随式的线性匹配,不同对策之间缺乏相互支撑和配合,未能形成整合式的治理体系。
为此,有必要在深入研究医疗人工智能伦理治理之前,对医疗人工智能存在的各类伦理问题进行分类与整合,以洞察和知悉医疗人工智能伦理风险的全景图像,借助原则主义伦理分析方法,结合人工智能一般性伦理原则作为原则扩展,为本文医疗人工智能伦理治理体制的整体性建设,提供伦理原则层面的框架指南,并以此为据,提出基于原则主义的医疗人工智能伦理治理体系的建设策略。

1 理论视角:原则主义与人工智能

原则主义,又称基于原则的伦理,诞生自20世纪70年代公众对各种社会实践领域的道德后果深刻关切的社会历史背景下2,是指汤姆·比切姆和詹姆斯·邱卓思提出的生物医学伦理学四原则,原则主义是扎根于医疗实践价值问题的伦理决策程序3,包括四个方面的具体原则要求:尊重自主、不伤害、有利、正义。与功利主义、义务论、美德伦理为代表的传统规范伦理存在本质不同,原则主义虽然源于规范伦理思想,其独特之处旨在提供一种处理现实伦理困境的实用方法4,其原则被认为是普遍的,但不是绝对的。作为一类共同道德理论5,并没有对共同道德的具化解释6。原则主义以社会成员所共有的道德常识和共同需求来构建基本框架,从而更高效地应对现实伦理困境。原则主义作为医疗保健和生物医学科学中常用的伦理分析方法,对于当前医疗人工智能伦理治理有着重要的方法价值。

对于人工智能,其伦理原则是以伦理规范的形式,将伦理与道德融入人工智能研发与应用的全过程,目的在于约束和规制人工智能可能产生的风险后果。从技术条件看,医疗人工智能作为人工智能的技术应用分支之一,应用方向决定了医疗人工智能也是一类新兴的生命科学与医疗技术,契合原则主义理论本身于生物学、生命科学与医学伦理分析的适应性要求。因此,在人工智能与医疗保健系统结合落地之前,医疗从业者和医学专家应考虑四项医学伦理原则7。当前,医疗人工智能伦理仍处于“道德起步”阶段,在为这类非人工专业领域建立起一套适用性的伦理准则之前,最好先从公认的原则开始8。由此,本文以医疗人工智能伦理学术论文为研究对象,以原则主义作为理论基础来建构本文的分析框架,通过医疗人工智能涉及的相关伦理原则对医疗人工智能伦理研究论文存在的伦理观点和概念的描述,系统性分析和审查医疗人工智能的各类伦理风险问题。

2 医疗人工智能伦理的原则主义透视

2.1 技术权利与受众自主

自主权是患者的基本权利,是临床实践中个体的生命价值与人格尊严的体现9。在临床诊治的过程中,医疗人工智能能够依照患者自身的历史与实际情况,做出精准性、个性化的治疗方案的推荐,供患者选择。但实际上,由于知识壁垒和专业权威的存在,在缺少患者个体的价值观偏好和患者家庭的实际诉求的条件下,即使有医师参与,医疗人工智能仍存在着一种“家长式”的权力逻辑10,加剧患者在诊疗过程中的脆弱性11,这实质上是对自我偏好选择自主性的削弱12,尤其在重大疾病的“高压”语境下13,医疗人工智能以治愈或延长寿命为导向的目标排序,显然是过于简单化的14。此外,在患者自主决策缺位的情况下,自治性的算法是否有资格担任代理决策者,仍存在道德主体性意义上的巨大争议。而在隐性层面,通过流量营销,构建信息茧房,持续强化患者对部分错误医疗观念的认知,诱导患者作出特定选择,尤其老年患者在缺乏科学鉴别知识的情况,通过潜在的操控性,来引导患者选择。总体上,随着医疗人工智能自主性的不断提升,所面临的道德决策也将更加棘手。

2.2 技术实践与伤害止免

不伤害原则是涉及人的临床研究伦理审查和医疗临床试验得以展开的核心前提之一,是医疗人工智能的底线15。医疗人工智能在网络安全、医疗安全、社会安全等方面存在不少隐患和风险,这种潜在的安全问题可以分为两类:一是与技术成熟度相关,由于技术性能限制且缺乏临床试验作为检验参照,难以保证技术在实际运行过程中不会因系统故障而导致医疗事故的发生16,这种系统故障主要体现为技术算法的设计缺陷,尤其是在数据不全面和数据本身偏见的情况,都将导致算法结果偏离现实预期,部分错误和干扰数据还可能干扰算法的预测趋势,造成系统性偏差,依据多数人口数据训练的算法可能会对少数弱势群体造成歧视和偏见17,以及技术以外恶意的侵入性和犯罪性干扰;二是精神层面的技术安全问题,医疗人工智能自主性的临床应用,需要大量的临床试验来考察,医疗人工智能对受试患者的情感因素,即受试者是否会因为医疗人工智能作为非人机器,而导致对其精神的负面损害,仅终止试验是无法补偿的,尤其对于老年护理机器人的使用,是否会让被赋予歧视“标签”,间接造成老年人产生被抛弃和遗落感18,造成对其人格尊严的践踏,这些都是医疗人工智能伦理亟待关注的问题。

2.3 技术价值与利他愿景

医疗人工智能的福祉性是其技术发展的价值刚需19,要为社会医疗和保健服务提供技术赋能,提供一种非人化利好(beneficent dehumanization)20,造福和利好患者和智能健康产品消费者是医疗人工智能发展的本源初心。但应当认识到,医疗人工智能的发展也存在有与利好性原则相违背的风险存在。作为一类生命医学与人工智能交叉的创新科技,医疗保健算法通常是在竞争性风险资本主义的背景下开发的,其价值观与医疗保健的价值观不同,也可能不兼容21。患者为人,而非单纯数据化的样本、案例和研究对象。医疗健康大数据的迫切需求和算法本身的科学逻辑,可能会导致医疗文化中人本主义精神受到科技主义与数据主义的冲击、消解和替代的可能,即在医疗人工智能的设计阶段,持有一种简单性思维,忽视了数据背后的人作为整体的价值存在;在临床试验阶段,仅关注试验的输入与作用于试验对象产出的数据结果,缺乏对患者情绪、感知和诉求的存在关注,这种情况类似也存在于诊疗阶段,将患者仅作为治疗方案简单的应用对象;在产品推广阶段,没有切身考虑患者和消费者实际情况的情况,仅刻意强调医疗人工智能所代表的科学和高技术性能作为营销手段,缺乏对个体适用性的利好关注,也会背弃医疗人工智能技术以人为本的受众利好要求。

2.4 技术效益与形式公正

医疗人工智能的发展有其促进社会公益的技术使命。现阶段的医疗人工智能,短期内要让医疗人工智能产生利润营收相当困难,加之在智能化转型过程中智能医疗器械繁琐的审批要求、医疗技术和器械的折旧淘汰,都使得医疗人工智能的(临床)应用无法回避高昂的成本效益与公众普遍的可及性、可负担性和可持续性问题。而资源分配问题一直以来都是社会医疗公平的棘手难题,如若不能协调好智能医疗资源的合理分配,因为成本和稀缺问题22,只能由经济条件较好的少数群体独享,造成严重的资源分配不均,这不仅违背了医疗福祉性的社会期望,也会使医疗人工智能技术“堕落”至依照收入阶层划分的垄断困境当中,与技术公正的社会价值和公正目标截然相悖。此外,医疗人工智能的使用、操作与维护也需要高昂的人力、资金、社会和环境等条件的支持,加之落后地区的医务从业人员数量少、专业技能低,两者综合压迫下削弱了人工智能医学应用的可及,加剧了资源可及性不均衡,无法让更多人获得高质量的医疗健康服务,无法享受到人工智能的技术红利,这一点在偏远、低收入和不发达地区尤为严重,智能医疗获益的区域公平问题开始向社群公平问题转移23

2.5 技术理解与可解释性

可解释性作为人工智能黑箱问题的关键,是人工智能比之其他类型技术介入医疗领域的一个特殊的技术特征。虽然机器学习会提高医学诊断的准确性,却往往是以降低可解释性为代价的24,尤其是当算法黑箱在评估和诊断疾病时被赋予一定的权威时,这种问题可能会更加紧张,进一步加剧人工智能的责任问题25。可解释性原则的关键性地位,取决于医疗领域较之一般性人工智能的特殊性,医疗临床过程中的许多具体决策实际上是生死攸关的问题,微小的错误都可能会威胁患者的生命安全,这时缺乏可解释性就成为人工智能走向临床应用的限制性因素26,这使得可解释性在建立医疗人工智能临床信任方面具有不可替代的作用。在医疗语境下,从业者必须根据自主、有益和正义的原则向患者传达有关算法输出质量的信息的专业义务5,试想如果算法输出的结果仅有所谓“科学性”的决策指示,而无法就指示的输出给出明确的决策依据和机制说明,那么这种所谓科学的算法决策在面对敏感的医疗问题时,就难有可信任的可能。然而,将医疗人工智能的解释性从技术议题延展至伦理领域,可解释性原则是否应当与传统生命医学伦理原则一同纳作医疗人工智能的基本伦理准则,目前仍存争议。

3 医疗人工智能伦理原则主义的再优化

3.1 原则主义思路的效用困境

原则主义路径的优点是明显的,但弊端也是存在的:忽视情感与个体因素、过分简化问题和要求普遍性。由其所具化形成的伦理原则,作为一类制度性规制框架,相应的滞后性问题难以避免。在本文的分析过程中也可发现,医疗人工智能的技术伦理问题与现行的传统伦理准则之间存在的“撕裂”张力。一方面,传统伦理原则的确立与稳定,能够一定程度上作为禁令式的“规制”方式,提供明确的行为指南和规范,避免伦理困境中的盲目决策,是医疗人工智能技术创新的人本主义“底线”所在;但另一方面,一成不变的伦理原则,过于依赖固定的伦理原则也可能导致思维保守和僵化,难以及时跟进和匹配医疗人工智能技术创新迅猛的发展势头和变幻莫测的应用场景,落入伦理原则教条主义的窘境当中。尤其是当医学伦理四原则与新近形成的人工智能伦理原则叠合后,虽然从预防医疗人工智能伦理风险的角度,叠加更多的伦理细分原则似乎更具审慎意味,但也使医疗人工智能的伦理审查的流程内容更加复杂,加之伦理原则之间的矛盾可能和地方性差异,导致伦理原则成为形式主义的技术“饰品”。

3.2 摒弃“僵化”的强原则主义思维

事实上,原则主义也并非故步自封的,其理论本身就要求扎根情境化和开放性的。医疗人工智能的交叉属性,使其伦理问题受到生命医学和大数据、人工智能伦理原则的多重规制。具体来看,生命医学伦理的原则主义提供了广泛的伦理基础和价值导向,人工智能伦理原则进一步细化了这些伦理原则在人工智能领域中的再诠释和内涵拓展,例如尊重自主性在人工智能领域可能特别强调数据的知情同意和隐私保护,公正原则可能转化为对算法偏见和公平性的关注。同时,作为大数据与人工智能在医疗保健与公共卫生的衍生技术,大数据、人工智能伦理原则也理应成为医疗人工智能伦理原则体系规制的组成部分。此外,在实际的应用过程中,医疗人工智能发展所涉及的不同领域的伦理原则应当相互补充和融合,这种融合是动态的,以适应医疗人工智能技术进步和社会变化的需求。至此,原则主义也为医疗人工智能伦理治理的混合路径提供理论指导,发展基于原则主义的医疗人工智能伦理治理体系,可以实现原则主义与情境主义的互补共进,同时整合顶层设计层面的伦理原则与情境化伦理诉求,融入更多情境敏感性与包容性的价值导向,在将伦理原则融入医疗人工智能全生命周期的过程中,及时根据情境中的反馈,调整基于伦理原则的治理框架的稳健性,以适应不断变化的技术伦理问题及治理困境。

3.3 推进原则主义与医疗实践的融合互塑

为了满足技术伦理先导性的发展目标与对伦理风险的预期治理,医疗人工智能伦理治理体系的建构与发展,在其起步阶段应坚定地根植于原则主义的框架指导和理论驱动。尽管原则主义作为一种伦理决策方法在其应用过程中显露出某些局限性和不足之处,但其在提供明确且被广泛认可的伦理指导原则方面的贡献,不容忽视。原则主义提供了一套明确且广泛认可的伦理指导原则,包括尊重自主性、不造成伤害、造福以及公正。这些原则在医疗实践中历经时间考验,为处理复杂的医疗伦理问题提供了可用的参考基础。重要的是坚守原则主义作为医疗人工智能伦理治理的出发点既不是刻板式的遵循,也不是机械式的规训,更不是静态的规则堆砌。原则主义理论本身就要求“具体问题具体分析”,强调在实际应用中需要根据具体情况进行解释和权衡,赋予其在处理复杂生命医学伦理问题时必要的灵活性与情境适应性。面对医疗人工智能这一类颠覆性创新技术,可能产生的伦理风险难以准确预见,对其实施体系化的伦理治理,并不是将原则主义作为教条。相反,应将原则主义视为一个起点,基于此发展出一套更为全面、基于伦理原则的治理体系。这样的体系将传统伦理原则作为其指导和基准,基于过往伦理实践形成的共识性伦理原则,为医疗人工智能的伦理治理提供了基石性的原则目标,是医疗人工智能可持续发展不可或缺的价值性要素。

3.4 将伦理原则转化为医疗人工智能的价值主张

从技术发展的现实角度看,伦理原则也已经成为医疗人工智能发展重要的“风向标”,在塑造技术的价值、产品与社会形态过程中,发挥着至关重要的作用。因而,伦理原则自然会通过政策文件和制度规范,得到更进一步的具化和延展,如2018年美国医学会(AMA)发布政策《医疗保健中的智能增强H-480.940》,2019年英国皇家医学院学会(AMRC)发布《医疗人工智能》,2021年世界卫生组织发布《卫生领域人工智能伦理与治理指南》,同年,英国卫生和社会保健部发布《数字与数据驱动健康技术的向善实践指南》。已经形成了一系列丰富的医疗人工智能伦理原则体系,为医疗人工智能伦理治理提供了框架性的指导基准。医疗人工智能伦理治理是一项系统性工程,作为医疗人工智能社会-技术体制重要的组成部分,通过制定适应性的伦理原则,在医疗人工智能技术条件演变的现实基础上,将医疗人工智能的伦理价值制度化,一方面为医疗人工智能的设计、研发与应用提供价值导向;另一方面也可为医疗人工智能伦理治理提供框架依据。因而,伦理原则在医疗人工智能伦理治理过程中,发挥的不仅是一种规制性、限制性和监察性的依据功能,更是一种价值牵引和价值导向,引导医疗人工智能技术真正实现以人为本的向善创新。

综上可见,不论是从理论层面,还是从实践意义上,医疗人工智能伦理问题已经在事实上超脱出传统生命医学伦理原则的覆盖范畴,最具代表性的是关于可解释性作为伦理原则,是既往所不存在的伦理位面。这使得原则主义的治理思路存在乏力和失灵的可能。但这并不意味着医疗人工智能伦理风险的创新治理,要彻底摒弃原则主义的框架思路。放弃和失去原则主义的支持,医疗人工智能的伦理治理就会成为“无本之木”,沦为一种“大胆”且不负责任的试验性尝试,更是让医师、患者和智能健康产品消费者等技术受众直接暴露在伦理风险的威胁之下,背离医疗人本主义的初衷和愿景。为此应当明确:医疗人工智能伦理治理是在既往生命医学伦理治理的基础框架之上,针对颠覆性技术创新所进行的一种新型治理机制与模式的探索。因而,需要在批判对强原则主义的基础上,寻求切实符合医疗人工智能技术与受众需求与现实的伦理治理路径,进而并行推进技术创新与伦理治理的协同发展。

4 基于优化原则主义的医疗人工智能伦理治理实践

当前,医疗人工智能正在逐步从实验室的算法设计与测试,逐步走向临床实验和产业化,为了应对医疗人工智能伦理的系统性风险,一方面,出于审慎的目的,仍需要恪守传统医学伦理原则作为框架约束,并将其作为技术社会实验的始准依据;另一方面,在原则框架的指导和加持下,构建实践性治理平台与监测机制,在小规模、半封闭的语境条件下,从技术临床试验和产品实测的信息反馈,评估、补充和完善切实符合医疗人工智能伦理实际的原则框架,构建“原则-实际”双向循环、动态互补和正向反馈的治理机制。为此,本文依据理论与实际、刚性与软性协同共进的发展逻辑,提出包括学术研究、机制建设和文化培育三个分项组成的医疗人工智能伦理风险的应对策略,以此支持伦理原则与伦理诉求的交互联合,在发展中逐步健全和完善基于优化原则主义的医疗人工智能伦理治理体系。见图1

4.1 研究维度:理论与实践交互并行,夯实伦理治理的机制支撑

第一,加强医疗人工智能伦理学术研究,深化对伦理原则的内涵诠释,补强优化原则主义的理论基础。建议国家和地方公共卫生与健康部门设立医疗人工智能伦理专项研究项目和基金资助,进一步加强对医疗人工智能原则主义的基础哲学、伦理学与治理理论研究,紧跟技术发展前沿、条件及特征,均衡伦理原则的普遍适用性与特殊性之间的矛盾问题,识别哪些原则在医疗人工智能应用中具有普遍适用性,哪些原则需要根据特定情境进行调整,以及可能存在的应用空白,形成一个综合性的动态理论体系。同时,引入情境模拟方法与工具,将传统的伦理原则具体化到医疗人工智能的应用情境中,模拟医疗人工智能在具体应用中的伦理决策过程,分析伦理原则在实际操作中的可行性和效果,以实现对不同伦理原则的创新诠释。

第二,建设多学科专家评估委员会,制定医疗人工智能伦理原则指南,推进优化原则主义的理论具象化进程。挂靠国家卫生健康委员会,针对传统伦理原则的时代性和对医疗人工智能新技术的响应,建设一个由多学科专家组成的医疗人工智能伦理原则专项评估委员会,专门跟踪医疗人工智能领域的最新技术发展和应用趋势,负责定期评估医疗人工智能技术的发展及其伦理影响,旨在深化对伦理原则灵活性的理解,确保其能够与时俱进,适应技术进步和社会变迁的需求,为医疗人工智能伦理原则能够贴合技术与社会文化演变的动态适应性存在,奠定理论层面的逻辑可行性,并以此为据,制定一套医疗人工智能伦理原则的操作指南,明确各原则在不同医疗人工智能应用场景下的具体操作建议。

第三,以优化原则主义为实践基准,跨学科协作构建医疗人工智能伦理治理框架。依托国内领军型医疗研究机构、医学院、国家实验室、重点研究中心或学科平台,促成哲学、伦理学与治理理论与方法的跨学科、跨领域交叉研究,定期举办原则创新工作坊或专题会议,并在会后发布白皮书或建议书。同时,鼓励医疗人工智能相关实验室设立开放基金,专业学术期刊开设系列选题专栏,邀请伦理学家、技术专家、法律专家和医师等多方参与,发挥各学科优势和理论互补,集合不同学科的理论框架和研究方法,以更全面和充分地建构医疗人工智能伦理治理的理论框架、内涵与体系。此外,还应建设开放性的在线协作门户网站,实时交流和共享研究成果,该平台可以设立专门的讨论区,用于发布最新的研究进展、案例研究及伦理挑战。

4.2 机制维度:健全伦理风险审监执行体系,推进伦理治理建制化进程

第一,推进伦理原则/价值的法治化进程,为医疗人工智能伦理治理提供强制性制度加持。在《中华人民共和国科技进步法》《中华人民共和国基本医疗卫生与健康促进法》等法律法规框架下,将医疗人工智能伦理的规范要求、价值原则与实施标准,细化并落实为医疗人工智能领域的具体政策,以确保其转化为技术发展的制度基石,并制定专门针对医疗人工智能技术伦理相关的法律法规,建立全面的法治框架,不仅明确规定技术开发与应用的法律责任和伦理界限,还应详细阐释权利行使程序,也为医疗人工智能的伦理治理提供法理基础。同时,邀请公众代表参与,通过公开征求意见、举办论坛和研讨会等方式收集社会各界的意见与诉求,积极引入社会各界代表的视角和反馈,增强政策制定透明度的同时,还能以此为据,进行必要的制度修订、完善和补充,协助伦理原则与社会实践,以法制化为中介,形成一个良好的循环协同关系。

第二,推进医疗伦理委员会组织改革,明确新型医疗科技伦理委员会的职责权限。立足既有医学伦理委员会(MEC),在国家科技伦理委员会的组织框架下,重新构建由医学、人工智能、伦理、法律等多学科领域专家与公众代表汇集而成的新型医疗科技伦理委员会。在伦理原则的指导下,委员会的主要职能包括提供针对性的立项伦理审查、专业咨询服务及深度风险分析,并为相关机构和政策制定提供专业性建议,肩负对后续研究、研发、治疗及其技术扩散的持续性监督责任,对识别出的伦理风险和问题提出具体、权威的调整或终止建议,这种权威性不仅是基于专业知识和公众信任,也是通过明确的伦理制度支持来实现的。此外,委员会应与国际伦理标准和实践保持一致,衔接和促进全球范围内的医疗人工智能伦理原则及其实践的共识与合作。

第三,发展医疗人工智能伦理专业智库,推进优化原则主义的量化评价体系建设。建议在中国科协与民政部的统一指导下,在整合现有医学、伦理学、自然辩证法、公共管理专业二级学会或委员会的基础上,推进跨学科、综合性医疗人工智能伦理的智库建设,职能包括收集、分析国内外在医疗人工智能应用中的案例,构建一个专门的医疗人工智能伦理案例库,同时建立一个舆情监测平台,用于实时跟踪和分析公众对于医疗人工智能伦理问题的态度和反应。在此基础上,开发出一套伦理风险量化评价体系,并不断更新和完善伦理原则与风险评估体系的原则指标。该体系旨在为伦理原则的具体化和实证基础的建立提供支持,通过量化方法评估伦理风险,从而为伦理治理决策和制度设计提供科学、可靠的实证依据。

4.3 文化维度:完善伦理教育体系,强化伦理素养培育工作

第一,融入伦理议题与批判性思维,将优化原则主义嵌入医疗人工智能伦理教育。在教育部高校科技伦理教育专项专家组和秘书处的统筹设计下,在现有生命医学与人工智能伦理的教育体系中融入医疗人工智能的伦理议题,通过案例分析、模拟决策过程等教学方法,优化专业伦理教材内容,开发典型伦理问题的教学案例,定期审视和更新教学内容,引入最新的研究成果和伦理案例,引导学习者理解和掌握医疗人工智能特有的伦理分析方法与决策原则,增强专业技术人员、医护从业者对伦理原则的学习和认识。此外,应当强调批判性思维的培养,鼓励学习者不仅仅停留在理论原则的条例式、机械式和规训式学习,而是通过批判性思辨,深入探讨医疗人工智能技术的伦理影响,激发学习者主动思考如何将原则主义的伦理思维方式与具体的技术研发及应用场景相结合,切实提高其对技术伦理冲突的敏感性和处理问题的能力。

第二,将伦理教育整合融入科学普及工作,完善医疗人工智能伦理文化建设。在“科学普及与科技创新‘两翼齐飞’”的理论指导下,借力科普读物、科技观以及新媒体传播工具,将伦理融入医疗人工智能科普内容和科技传播,为医疗人工智能伦理设置专项的应急科普机制,提高社会公众的通识性伦理素养、风险意识和反思性思维,使得社会公众认识到伦理原则并非不可变通的“金科律令”。配合利用科技博览、公开讲座、线上研讨会等平台,以短视频、播客和知识问答的形式,定期发布关于医疗人工智能伦理的最新研究成果、政策动态和伦理指导原则,鼓励公众参与评论和讨论。此外,还应建立与教育机构和社区组织的合作,开发适合学校和社区的教育项目和宣讲计划,旨在提高青少年和老年的技术伦理素养,为他们提供原则主义的思想工具,使其在面对医疗人工智能伦理问题时,从文化素养层面,培育能够具体运用伦理原则分析和维护自身应有权益的能力。

第三,构建职业化医疗人工智能伦理教育的终身学习机制。发展医疗人工智能伦理的终身学习,为医疗人工智能技术人员和医师提供常态化的伦理培训。建议国家药品监督管理局高级研修学院(NMPAIED)与中国人工智能学会(CAAI)人工智能伦理与治理工作委员会、中国计算机学会(CCF)职业伦理与学术道德委员会,联合开发和举办医疗人工智能伦理周期性、实用性、职业化的继续教育项目。通过医疗与人工智能不同专业组织机构的深度合作,帮助专业人员了解并应对由于人工智能技术的快速进步所带来的伦理挑战和标准更新。培训形式上,可采用灵活性的线上课程、研讨会、工作坊等形式进行培训,使人工智能技术人员、医疗专业人员能够在紧张的工作日程中参与学习,及时跟进医疗人工智能伦理风险和原则的动态变化,推动伦理意识的持续进步和自我更新。

5 结语

传统生命医学伦理原则面对医疗人工智能伦理问题,存在适用性“溃堤”与可靠性“失灵”的可能,使得既往基于传统原则主义的伦理治理路径,难以适应医疗人工智能伦理风险的复杂语境,尤其是在人工智能快速进化的当下,医疗人工智能伦理治理亟须从既往原则主义体制下的惯性路径中“抽离”开来。然而,这并不意味着医疗人工智能伦理治理体系的建设要完全摒弃原则主义。相反的是,原则主义在面对医疗人工智能伦理问题仍有其独有的价值意义。在“伦理先行”的共识指导下,医疗人工智能伦理治理的初级阶段确实需要依托于现有的原则主义伦理传统和治理路径,作为初始阶段的指导和基础。然而,随着实践的深入和反馈的积累,医疗人工智能伦理治理应当,发展一种新型的优化原则主义治理思路,推进原则框架与语境反馈的双向互补,建构一种“自上而下”与“自下而上”整合的动态的、可持续性、自适应的医疗人工智能伦理治理框架,以此匹配医疗人工智能未来创新,同时向下兼及细分的技术场景变化。可以认为原则主义在医疗人工智能伦理治理中的作用不仅未减,反而更加凸显其重要性,在其基础上发展起来的优化原则主义思路,将继续为医疗人工智能的伦理治理发挥着理论支撑和指导效用。

参考文献

[1]

汪琛, 孙启贵, 徐飞. 医疗人工智能伦理研究的发展趋势:主题分布、知识基础与未来展望[J]. 自然辩证法通讯202345(12):18-29.

[2]

WANG CSUN Q GXU F. Development trends of ethical research onartificial intelligence in medicine: topic distribution, knowledge base andfuture prospects[J]. Journal of Dialectics of Nature202345(12):18-29.

[3]

白惠仁. 科技伦理中的原则主义[J]. 道德与文明2023(1):54-63.

[4]

BAI H R. Principlism in ethics of science and technology[J]. Morality and Civilization2023(1):54-63.

[5]

TOON P D. Medical ethics:a brief response to Seedhouse[J]. Journal of Medical Ethics199521(1):47-48.

[6]

HAIN RSAAD T. Foundations of practical ethics[J]. Medicine201644(10):578-582.

[7]

HOLM S. Handle with care: assessing performance measures of medical AI for shared clinical decision‐making[J]. Bioethics202236(2):178-186.

[8]

ZÖLZER F. Ethics of radiological protection—recent developments[J]. Journal of Public Health202042(1):183-187.

[9]

FARHUD D DZOKAEI S. Ethical issues of artificial intelligence in medicine and healthcare[J]. Iranian Journal of Public Health202150(11):i–v.

[10]

HARRELL R M. Bioethical considerations of advancing the application of marine biotechnology and aquaculture[J]. Marine Drugs201715(7):197.

[11]

刘星, 卢晓然, 吴影, . 人工智能应用于临床试验的伦理问题分析及对策[J].中国临床药理学与治疗学202227(3):322-327.

[12]

LIU XLU XWU Yet al. Ethical analysis and countermeasures of artificial intelligence application in clinical trials[J]. Chinese Journal of Clinical Pharmacology and Therapeutics202227(3):322-327.

[13]

MCDOUGALL R J. Computer knows best? The need for value-flexibility in medical AI[J]. Journal of Medical Ethics201945(3):156-160.

[14]

MCLENNAN SFISKE ATIGARD Det al. Embedded ethics: a proposal for integrating ethics into the development of medical AI[J]. BMC Medical Ethics202223:6.

[15]

TOSONI SVORUGANTI ILAJKOSZ Ket al. The use of personal health information outside the circle of care:consent preferences of patients from an academic health care institution[J]. BMC Medical Ethics202122(1):29.

[16]

BILLER-ANDORNO NFERRARIO AJOEBGES Set al. AI support for ethical decision-making around resuscitation:proceed with care[J]. Journal of Medical Ethics202248(3):175-183.

[17]

MEIER L JHEIN ADIEPOLD Ket al. Algorithms for ethical decision-making in the clinic:a proof of concept[J]. American Journal of Bioethics202222(7):4-20.

[18]

郭旭芳, 刘辉. 生物医学领域人工智能应用的伦理问题[J]. 基础医学与临床202040(2):285-288.

[19]

GUO X FLIU H. Ethical issues in artificial intelligence application in biomedicine[J]. Basic and Clinical Medicine202040(2):285-288.

[20]

候雄, 刘玉秀, 钱蕾, . 医疗人工智能发展的伦理问题及疏解[J]. 医学研究生学报201932(10):1080-1083.

[21]

HOU XLIU Y XQIAN Let al. Ethical issues in the development of medicalartificial intelligence and solutions[J]. Journal of Medical Postgraduates201932(10):1080-1083.

[22]

KOSTICK-QUENET K MCOHEN I GGERKE Set al. Mitigating racial bias in machine learning[J]. Journal of Law, Medicine and Ethics202250(1):92-100.

[23]

陈昫. 责任伦理视角下数字时代机器人养老服务治理[J]. 武汉大学学报(哲学社会科学版)202275(4):173-184.

[24]

CHEN X. Carebots’ Services governance in the digital era:a study based on the ethics of responsibility[J].Wuhan University Journal(Philosophy and Social Science)202275(4):173-184.

[25]

CAWTHORNE DWYNSBERGHE A R. An ethical framework for the design, development, implementation, and assessment of drones used in public healthcare[J]. Science and Engineering Ethics202026(5):2867-2891.

[26]

PALMER ASCHWAN D. Beneficent dehumanization:employing artificial intelligence and carebots to mitigate shame-induced barriers to medical care[J]. Bioethics202236(2):187-193.

[27]

ROGERS W ADRAPER HCARTER S M. Evaluation of artificial intelligence clinical applications:detailed case analyses show value of healthcare ethics approach in identifying patient care issues[J]. Bioethics202135(7):623-633.

[28]

PAPALEXOPOULOS T PBERTSIMAS DCOHEN I Get al. Ethics-by-design: efficient, fair and inclusive resource allocation using machine learning[J]. Journal of Law and the Biosciences20229(1):lsac012.

[29]

关健. 智慧医疗发展中的伦理问题[J]. 中国医学伦理学202235(4):357-361.

[30]

GUAN J. Ethical issues in the development of smart healthcare[J]. Chinese Medical Ethics202235(4):357-361.

[31]

GROTE TBERENS P. On the ethics of algorithmic decision-making in healthcare[J]. Journal of Medical Ethics202046(3):205-211.

[32]

DE BOER BKUDINA O. What is morally at stake when using algorithms to make medical diagnoses? expanding the discussion beyond risks and harms[J]. Theoretical Medicine and Bioethics202142(5-6):245-266.

[33]

江婧, 曹东, 鄢来均. 可解释人工智能医疗应用的伦理问题[J]. 中国医学伦理学202235(12):1322-1328.

[34]

JIANG JCAO DYAN L. Ethical issues of explainable artificial intelligence for medical applications[J]. Chinese Medical Ethics202235(12):1322-1328.

基金资助

国家社会科学基金重大项目“深入推进科技体制改革与完善国家科技治理体系研究”(21ZDA017)

国家资助博士后研究人员计划“基于社会-技术互构论的医疗大模型伦理治理研究”(GZC20231384)

国家社会科学基金青年项目“人工智能时代的人-技伦理共同体研究”(21CZX021)

AI Summary AI Mindmap
PDF (626KB)

0

访问

0

被引

详细

导航
相关文章

AI思维导图

/