关系论视角下的医疗人工智能

董鑫明

中国医学伦理学 ›› 2025, Vol. 38 ›› Issue (12) : 1538 -1545.

PDF (528KB)
中国医学伦理学 ›› 2025, Vol. 38 ›› Issue (12) : 1538 -1545. DOI: 10.12026/j.issn.1001-8565.2025.12.03
医学人工智能伦理

关系论视角下的医疗人工智能

作者信息 +

Medical artificial intelligence from the perspective of relational theory

Author information +
文章历史 +
PDF (539K)

摘要

人工智能技术正在迅速融入医疗健康领域。然而,在看到医疗人工智能的广阔前景的同时,越来越多的人意识到人工智能的应用蕴含着伦理风险,例如透明度、公平性问题。已有的伦理分析框架存在以下几方面的问题:首先,大多局限于传统的伦理分析范式,以人类中心主义为核心,从个体权利出发进行伦理分析;其次,将主要的关注点聚焦于医疗人工智能对个体的影响,没能看到人工智能蕴含的更广泛的社会影响,例如,医疗人工智能的应用可能对传统的医患关系进行重构;最后,人们往往将医疗人工智能引发的伦理问题单纯归咎为技术层面的原因,而忽略了其研发和应用过程中的具体情境,包括政治制度、社会认知、公众信任等。为解决这一问题,提出从“关系论”视角出发,重新审视医疗人工智能的伦理框架,强调技术、社会和伦理之间的动态关系。关系论视角能够揭示出医疗人工智能不仅是技术工具,而且是嵌入复杂社会网络中的智能体,推动着医疗实践和社会结构的深刻变化。呼吁各方利益相关者应共同参与,构建一个多维度的伦理与治理框架,以确保医疗人工智能的健康发展,最大化其社会价值,防止其潜在的伦理风险和负面影响。

Abstract

Artificial intelligence (AI) is rapidly integrating into the healthcare field. However, while recognizing the broad prospects of medical AI, a growing number of people have become aware that its application entails ethical risks, such as issues of transparency and fairness. Existing ethical analysis frameworks exhibit several shortcomings. Firstly, most frameworks are limited to traditional ethical paradigms, centered on anthropocentrism, and conduct ethical analysis from the standpoint of individual rights. Secondly, these frameworks primarily focus on the impact of medical AI on individuals, overlooking the broader societal implications. For example, the application of medical AI may reconstruct the traditional doctor-patient relationships. Lastly, people tend to attribute the ethical issues caused by medical AI simply to technical reasons, while ignoring the specific contexts in its development and application, including political systems, social perceptions, and public trust. To address these challenges, the paper proposed to re-examine these ethical frameworks of medical AI from the perspective of “relational theory,” emphasizing the dynamic relationships between technology, society, and ethics. The relational perspective can reveal that medical AI is not merely a technical tool, but an intelligent agent embedded in complex social networks, driving profound changes in medical practice and social structure. This paper calls for all stakeholders to participate in constructing a multi-dimensional ethical and governance framework to ensure the healthy development of medical AI, maximizing its social value while preventing potential ethical risks and negative impacts.

关键词

医疗人工智能 / 关系论 / 技术与社会 / 伦理反思

Key words

medical artificial intelligence / relational theory / technology and society / ethical reflection

引用本文

引用格式 ▾
董鑫明. 关系论视角下的医疗人工智能[J]. 中国医学伦理学, 2025, 38(12): 1538-1545 DOI:10.12026/j.issn.1001-8565.2025.12.03

登录浏览全文

4963

注册一个新账户 忘记密码

1 医疗人工智能概述

医疗人工智能出现之前,医疗数字化已经在远程医疗、移动医疗、互联网医疗等方面取得了多项进展。远程医疗(telemedicine)是医疗数字化的初始形态,它指的是利用通信技术和计算机多媒体技术远距离提供医疗服务的活动,其雏形最早可以追溯到1935年通过无线电台为远航船舶上的海员及乘客提供应急医疗咨询服务1

“互联网+医疗”(internet+medical)是医疗数字化的又一重要环节。作为远程医疗发展的新阶段,“互联网+医疗”指的是在临床实践中使用在线应用程序,从安排预约到访问数字图像,再到患者与医师在线会面2,从而使医生和患者在虚拟世界当中完成医疗实践成为可能。

医疗人工智能(medical artificial intelligence)是医疗数字化的主要节点之一。“尽管也被称作AI,AI医疗在本质上只是数字医疗技术(诸如影像学、病理学的光学模块所产生)的数据部分与20世纪80年代相继提出的深度学习、卷积神经网络等概念和方法的简单拼接。”3作为一种数字技术,医疗人工智能能够进行感知、认知和决策,从而创造出人机协同的智能生态。值得注意的是,近期兴起的以Chat GPT为代表的生成式人工智能(generative artificial intelligence,GAI)于医疗领域正逐步引发一场深远的变革。GAI的兴起得益于大语言模型(large language model,LLM)的应用,而大语言模型的流行很大程度上由Open AI发布的Chat GPT-3所推动,它曾被称为有史以来发展最快的应用程序和最具创新性的大语言模型4。大语言模型的特点在于使用基础模型来促进一系列生成任务,包括创建文本、图像、音乐和视频5。大语言模型中的“大”源自其庞大的规模——它通常拥有数十亿甚至数万亿个参数。与此同时,研究人员还会利用海量数据集对其进行训练。然而,单靠大规模的训练并不能带来智能,模型架构和训练过程也起着关键作用。生成式人工智能具有以下两方面的优势:一方面,GAI不仅能识别和分析数据模式,还能创造全新的数据实体,包括文本、图像、音乐和视频,这为个性化医疗和精准医疗提供了前所未有的可能性;另一方面,GAI能够融合和分析多种数据类型,提供更全面的预测和决策支持,进而增强模型的准确性和鲁棒性,尤其在复杂病例和多维度数据分析中展现出其独特优势。

具体而言,医疗人工智能在未来有望实现以下几个方面的应用与突破:在医学研究和药物研发中,借助大语言模型的应用,促进医学知识的获取,辅助科学家提出问题、制定研究方案,并在药物发现中探索新的治疗药物;在临床诊断和医疗管理中,通过深度学习算法提升医疗决策的精准性,优化临床诊疗流程,并加速疾病治疗进程;在患者护理中,利用其自然语言处理能力,为患者提供个性化的医疗信息交互平台,精准预测治疗方案反应,并在心理健康领域提供量身定制的6;在医学教育中,作为知识传播和技能提升的工具,为医学生和医疗专业人员提供个性化学术资源和高度仿真的虚拟患者学习环境。

2 当前医疗人工智能伦理分析框架存在的问题

尽管医疗人工智能在提升诊断准确性、优化治疗方案等方面具有显著潜力,但它的快速发展也带来了伦理上的新困境,且现有的伦理框架显然不足以应对这些复杂的问题。基于此,下文将对现有伦理分析框架的局限性进行分析。

2.1 局限于人类中心主义视角

对于医疗人工智能的伦理分析大多局限于人类中心主义视角,从个体权利出发讨论医疗人工智能所带来的伦理问题,并基于此提出一系列规范性陈述来推动医疗人工智能的良性发展。例如,有学者在对可信人工智能进行分析时指出,已有的针对可信人工智能的解释过于以人类为中心,然而,基于人与人之间信任的案例,很难推广到非人类的案例当中7。这种对于个人权利的关注背后暗含着一个假设,即技术研发人员可以设计出有道德责任感的医疗人工智能8,从而避免伦理冲突。因此,尽管有些研究开始将伦理问题扩展到群体或社会层面,但主流分析仍倾向于认为可以通过优化技术设计来化解这些伦理困境。这一视角体现了传统伦理学的研究思路,“传统伦理是以人类中心主义为核心概念的,它明确区分了人和物(这里的物包括自然物、人工自然)。”9正如拉图尔10指出的,这种二元对立的视角使得人们割裂了人与自然、人与技术之间的关系,既将技术本身排除在人类社会之外,也不能全面地、平等地看到技术发展过程中的每一个行动者。人工智能在医疗领域的发展过程中,必然会嵌入医学实践的建构以及医患关系的建构当中,并且由此产生更为广泛的影响。例如,有研究强调,随着人工智能的出现,人类面临着与自己的创造物(即人工智能)建立道德关系的挑战11

2.2 忽视了更广泛的社会影响

现有的伦理分析框架使得研究者忽视了医疗人工智能可能导致的更广泛的社会影响,以至于不能对现实情况进行更加深入的分析和讨论。它也使得人们难以厘清技术发展过程中其他的利益相关者,例如技术开发者、使用者、监管人员,在技术产生、应用和发展的具体情境中占据怎样的位置以及发挥什么样的作用。因此,也就难以通过规范相关人员来促进医疗人工智能走向更好地发展。正如前文所述,这种从个人权利出发的讨论方式,将背景和论述的空间限制得过于狭窄,更容易忽视技术对其他社会层面的影响。在医疗人工智能的发展过程中,不仅会导致一些具体的伦理问题,如公平、隐私、可解释性等,还会涉及更为广泛的社会问题,且这些问题不应该被单独考虑,因为它们往往以非常复杂的方式重叠在一起12。其背后的深刻原因在于,社会结构不仅仅作为行动的外在背景存在,其内部复杂的组织形式、权力关系和资源分配机制,构成了许多伦理问题和道德困境得以产生的深层次条件。

2.3 仅归咎于技术层面原因

从已有的研究成果来看,学者在为医疗人工智能设计伦理分析框架的过程中,往往将医疗人工智能带来的伦理问题仅仅归咎于技术层面的原因,没能够看到医疗人工智能所代表的社会技术系统。诚然,数据和算法能够在一定程度上优化医疗人工智能的使用,但除此之外,还有更多的社会性因素需要得到考量。一方面,在医疗人工智能技术的发展过程中,不仅仅受限于技术本身的发展,而是由社会各方力量所共同促成,例如公众信任、法律规制;另一方面,医疗人工智能所带来的社会影响往往比人们想象得更加深远,这种影响不仅体现在现实生活层面,更体现在社会认知层面。如果仅仅将医疗人工智能所引发的伦理问题视为技术问题,不仅看不到技术发展过程中蕴含着的多种可能性,更会忽视技术和社会之间的相互作用。“技术远不是独立于人类欲望和目的而存在的,它的产生自始至终都臣服于各种社会力量,技术并不存在自主性。”13人工智能是由人类社会创造的,其产生于特定的历史、文化背景,为了满足人类社会的实际需要而出现,并且其发展全过程都会受到政治、权力、法律等各个层面的影响。因此,也不能武断地认为技术具有“自主性”,甚至排斥技术的发展,带有极度悲观的情绪;相反,应该看到人工智能与人类社会之间存在着双向互动的复杂关系,从而对其可能造成的伦理风险进行更加全面的评估。

3 关系论的基本内涵

尽管现有的伦理分析框架提供了一些应对医疗人工智能伦理问题的初步思路,但这些框架往往过于集中于个体层面,忽略技术与社会、文化、法律等更广泛系统的交织与互动。要想更全面地理解医疗人工智能带来的伦理挑战,需要借助一种更为动态的哲学视角——“关系论”。

3.1 关系的本质:个体与事物的存在基础

20世纪的哲学逐步转向对“关系”的重视,例如,存在主义哲学家海德格尔、马丁·布伯等都强调世界并非由孤立的实体构成,而是一个充满关系的动态存在。海德格尔认为,人类的存在(此在)是被投向世界的,并非独立存在。布伯14则通过区分“我—你”关系和“我—它”关系,批判现代性对工具化关系的过度依赖,强调人与他人、人与世界之间的深层联系。“泰初即有关系。”布伯认为,关系不仅仅是外在的联系,而是主体存在的基础。具体而言,没有任何主体是独立存在的,关系先于主体而存在,主体的存在以关系为基础。与此同时,对个人存在起决定作用的,既不是自我的内在反思,也不是外在于自我的客观事物,而是自我与其他事物之间的关系模式。主客二分的实体论思维使人们将全部精力放在“我—它”关系之上,从而渐渐遗忘了更为本真性的“我—你”关系。但无论是“我—你”关系还是“我—它”关系,都是使主体成为主体的关键所在,没有关系的存在,也就没有个体和事物的存在。

3.2 关系的普遍性:贯穿个体与事物之间

关系性不仅是个体和事物的本质特征,也是世界本质的体现。世界作为所有个体和事物的统一体,正因为关系贯穿其中,才得以组织和运行。没有任何个体或事物是孤立存在的,它们相互依存、相互影响,所有事物和个体都通过关系展现出彼此之间的相关性。尽管传统上我们习惯于将世界划分为物理世界和人类社会,但这一区分并不能反映世界的真实面貌。无论是物理世界还是人类社会,它们都不是独立存在的,而是互相塑造、相互交织的。布鲁诺·拉图尔的行动者网络理论(actor network theory,ANT)便挑战了这一传统看法。他指出,所有的个体和事物,既包括人类也包括非人类元素(如技术、市场和环境),都在社会建构的过程中充当“行动者”,并通过相互关系共同塑造世界。拉图尔强调,行动者的地位是平等的,且他们之间的关系具有不确定性,这使得行动者网络充满了多样的可能性。“事实的建构就像一场橄榄球比赛一样是一个集体合作的过程。”10与此同时,拉图尔还批判了传统哲学中的主客二分,认为这种划分人为地割裂了主体与客体、自然与社会的界限。他主张,科学知识和社会现象应当被视为交织在一起的,所有的行动者——不论是人类还是非人类——都在一个复杂的、关系性的网络中共同作用,彼此塑造,不可分离。

3.3 关系的生成性:个体与事物的动态发展

个体和事物并非静态存在,而是作为关系体与其他元素不断互动,关系性构成了它们存在的根本动力,使它们始终处于生成和变化的过程中。个体和事物既是独立的关系体,又在更广阔的关系网络中占据位置,共同构成了一个更大的系统。尽管有时我们将这些关系体单独讨论,但这并不意味着它们是独立存在的。相反,正是这些关系维系了个体与事物的动态存在,并确保了整个系统的完整性和统一性。西蒙东15的个体化思想很好地体现了这一点。“个体是已经被个体化并且继续被个体化的存在,它是一个包含结果和原因的活动转导关系,正是这种活动的稳定性和一致性构成了个体。”他认为,传统哲学往往将技术与人类、机器与文化对立起来,导致人们无法正确理解技术的本质。西蒙东强调,技术的本质是一个生成过程,它既包括自然因素,也包括人为因素。在技术发展的过程中,技术逐步将周围环境、社会文化、经济状况等因素融入其中,形成一个动态的有机整体。

综上所述,关系作为个体和事物存在的根本,它超越了传统的实体观,为我们提供了一个更加复杂和动态的世界观。关系不仅塑造了事物的本质,也为其提供了发展的动力。从关系论的角度理解世界,不仅能够更深刻地洞察个体和事物的相互依存性,也能够更好地把握其在动态发展中的复杂性和多样性。

4 关系论视角下的医疗人工智能

传统的哲学往往将关系视为外部附加的因素,但关系论认为,正是这些相互联系构成了事物的本质。在医疗人工智能的背景下,关系论为人们提供了一个全新的视角,不仅可以帮助人们认识技术与社会的相互作用,还可以揭示出医疗人工智能在数字化和智能化过程中如何重新定义个体与社会、技术与伦理的关系。

4.1 数字化关系:个体与技术的新维度

在数字时代,个体和事物的本质并非由其孤立的存在所决定,而是由其在关系中的位置和互动所定义。特别是在医疗人工智能领域,关系的数字化为个体、群体与技术之间的交织提供了新的视角。医疗人工智能并非仅仅对单个个体进行数据分析,而是通过大量数据的采集与比对,探索和揭示不同个体、群体之间复杂的关系模式。正是在这些关系的数字化呈现过程中,个体的健康状况、行为特征等多维信息被重塑和重新定义。在这一背景下,医疗人工智能的核心价值不仅体现在对个体的精准诊断,更在于对健康数据之间相互关系的深度挖掘和动态演绎。在医疗人工智能的应用过程中,关系的数字化至关重要。医疗数据的价值不在于孤立地呈现个体信息,而在于这些数据之间的内在关系。例如,在基因组学研究中,科学家不仅关心某一基因的存在,更注重的是基因与疾病、遗传特征之间的复杂关系。同样,医疗人工智能在进行诊断时,通过对患者数据的分析,寻找和识别数据之间的关联,形成对病情的预测和判断。这一过程中,关系的数字化让医疗人工智能能够在复杂的健康数据中提炼出有效的诊断信息,进而对患者的治疗方案进行优化。

医疗人工智能通过对数据的全面收集、分析与运用,不仅推动了医疗诊断的精准化,也使得个体和群体在医疗系统中的角色和关系发生了根本性变化。然而,这一过程中也存在诸多伦理挑战。例如,基于偏见数据训练的算法在诊断有关案例中存在显著误判。这种偏见不仅反映了技术开发过程中的缺陷,还揭示了数据背后权力的不平衡。从关系论的视角来看,个体的医疗健康状况不仅由其自身决定,还受到其在社会关系网络中的位置影响。

更进一步而言,首先,医疗人工智能的算法可能会将社会文化中的偏见固化并放大。例如,系统可能基于经济状况或种族做出隐性判断,导致某些群体误诊或被边缘化,“数字穷人”现象正是这种边缘化的体现。其次,关系数字化依赖于数据共享,而这一过程常与隐私保护发生冲突。布伯和拉图尔的理论表明,个体的存在依赖于其与他人的关系。然而,这种关系被完全数字化后,可能导致个体隐私的弱化或消解。在医疗人工智能中,如何在保护隐私的同时实现数据共享,是亟待解决的重要伦理问题。最后,医疗人工智能的发展重新定义了患者与医疗系统的关系。随着“理想患者”等新型身份标签的出现,社会对数据共享的重视可能进一步边缘化那些不愿或无法共享数据的个体。这种技术发展的不平衡需要医疗机构、开发者和政策制定者承担相应的社会责任,确保技术进步不会导致新的不公与歧视。

4.2 智能体与伦理:人机互动的新挑战

在医疗人工智能的应用中,关系的普遍性贯穿着个体与技术之间的互动。医疗人工智能作为一种智能体,不仅与人类建立了互动关系,更在这个过程中扮演着复杂的伦理角色。随着人工智能的技术发展,它从一个被动的工具转变为一种具有某种程度拟主体性的智能体,能够在与人类的互动中展示能动性。这种转变意味着,医疗人工智能在参与医疗实践时,不仅仅是执行任务的工具,它也开始在医患关系中扮演某些伦理角色,进而带来了新的伦理隐患。例如,医生和患者之间原本的“人—人”关系,被“人—机—人”的新型互动关系取代,这可能会改变双方的信任和责任分配,从而影响医疗行为的伦理性。因此,如何理解和应对人工智能在医疗领域中所产生的伦理问题,已成为医学伦理学的一个重要议题。

医疗人工智能不仅是一项技术革新,也是在关系性框架下进行设计和应用的智能体。人工智能作为智能体具有一定能动性,表现为在与人类进行互动的过程中,能够进行自主认知和决策,这使其具有某种程度的拟主体性。然而,值得注意的是,尽管人类和人工智能都具有能动性,并不能认为这二者具有相同的主体性。相反,它们有着很大的差别。例如,与人类的能动性相比,智能体缺乏意向性,它们没有思想,并不是围绕目标和计划来完成任务的。尽管人类也会做出不加思考的行动,但意向性对于理解人类的行为来说至关重要。人与人交往的背后蕴含着人类对自身以及对其所处的社会背景的认识和理解,而对于人工智能而言,尽管它们可以识别自身和其他智能体的行为,但这是基于人类为其设定的算法规则而实现的。换言之,它们不能自主地反思其他智能体的行为,也无法自主完成除人类设定的规则以外的事情。显然,智能体在完成任务的过程中不依赖于意向性,它们只是根据算法所形成的映射关系以及收集到的数据加以分析和决策。尽管如此,这种能动性依旧使得人工智能能够参与到日常生活中,并在医疗领域发挥重要作用。

随着人工智能在医疗领域的广泛应用,特别是在诊断、手术和患者管理中的辅助作用,它不可避免地参与到医患关系的重新构建中。人们倾向于将人工智能视作一个拟人化的智能体进行互动,这种认知偏差可能影响伦理判断。例如,患者与医疗人工智能的互动中,若人工智能系统出错,患者或许会将其归咎于人工智能“故意”误导,尽管实际上人工智能仅仅是在按照设定的规则执行任务。类似地,医生与手术机器人之间的合作,虽然能大幅提升手术精确性,但也可能导致医生责任感的弱化,因为医生可能倾向于将责任转嫁给机器,难以明确划分责任界限。这种“人—机—人”的关系,不仅改变了传统的医患关系,还给医患信任、医生的职业操守带来了前所未有的挑战。

医疗人工智能的应用,揭示了关系性在数字时代的重要性及其对传统伦理结构的挑战。医生与人工智能的协同会开辟出一个新的、未知的医疗实践,其中蕴含着更为深刻的伦理风险。具体而言,首先,信任是医患关系的核心,医疗人工智能的应用对信任机制的重构提出了挑战。传统医患关系中的信任来源于医生的专业知识和人文关怀。然而,人工智能作为医疗决策的重要参与者,可能使得患者更依赖机器的客观性,转而将信任赋予人工智能。这种变化可能削弱医生在医患关系中的信任基础,影响医患关系的稳定。与此同时,医生在技术依赖中可能将部分责任转嫁给人工智能,导致个人信念感和职业责任的下降。其次,医患沟通是医疗实践的关键环节,而人工智能的介入对这一环节产生了深远影响。一方面,护理机器人和诊断系统的应用将医患沟通转化为“人—机—人”的互动模式。这一模式可能缺乏情感支持和细腻的交流,削弱医患关系中的人文关怀;另一方面,医患关系需要通过情感互动和理解来维系,然而,人工智能的应用可能导致医患间沟通的减少,使得患者难以感受到医生的关怀与同理心,削弱传统医德所强调的“推己及人”。最后,医生与患者之间的权力不对等是传统医患关系的重要特征,人工智能的介入可能对这一结构产生颠覆性影响。进一步来说,患者可能更加信赖人工智能的数据分析和诊断结果,而非医生的专业判断。这种变化可能削弱医生的权威地位,使患者更加依赖技术。除此之外,医疗人工智能的复杂性使其决策过程难以完全透明,医生和患者都难以理解其背后的逻辑。这种“黑箱”效应可能导致患者对治疗方案的信任下降,同时使医疗事故中的责任划分更加复杂。

4.3 智能体与关系网络:技术与社会的共生演化

关系具有生成性,意味着个体与事物始终处于动态的发展过程之中,不断变化和演化。在医疗人工智能的应用中,这一生成性关系尤为突出。医疗人工智能作为一个智能体,不仅在与个体的直接互动中发挥作用,更是一个嵌套在更广泛的关系网络中的一环。这意味着,医疗人工智能的影响力远超其自身的技术属性,它深刻融入并塑造了包括社会结构、文化背景、伦理价值以及政策监管等多维度的复杂系统。因此,要全面理解医疗人工智能的影响,不能仅仅关注其本身的技术细节,还应深刻分析它所处的关系网络和系统的演变过程。

医疗人工智能的发展并非孤立发生,而是不断被特定关系网络中的多方力量塑造。从历史的角度来看,医疗技术的进步往往受制于经济、政治、文化等因素的影响。例如,20世纪的阿片类药物事件便展示了医疗技术如何嵌入特定的利益网络,最终导致灾难性后果。起初,阿片类药物的发现和使用被视为一种重大医学突破,但随着时间的推移,药物滥用及其副作用逐渐显现。这背后,不仅仅是科学探索的盲目追求,还有制药企业、政府官员和医学界的深层利益联结。这一案例表明,技术的发展和应用并非简单的科学进步,而是深受社会、政治和经济结构的影响。同样,医疗人工智能作为一种技术成果,它的发展和应用也受到关系网络中各方的塑造。尽管人工智能本身不具备意向性,但其算法和数据的设计背后是人为的选择与决策。研究人员为其设计规则和算法,这些算法不仅仅是对医学数据的技术性处理,更是深受设计者文化背景、价值观和社会需求的影响。例如,医疗人工智能的学习过程依赖于大量的患者数据,这些数据反映的是特定群体的健康特征,甚至可能带有社会文化偏见。与此同时,算法的设计也不仅仅是技术性的任务,它往往与国家政策、监管体系以及行业标准密切相关。因此,医疗人工智能在技术上的进步和应用,实际上是在多方力量的交织中不断演化和塑造的。

医疗人工智能作为一个嵌入关系网络中的智能体,它不仅受外部因素的影响,同时也在不断影响着其他行动者的行为和态度。医疗技术具有深刻的社会效应,它能够塑造人们的行为模式、交往方式以及价值观。以近年来兴起的线上问诊为例,这一新型就医模式大大提高了医疗服务的效率,突破了地域限制,为患者提供了更多的便捷选择。然而,随着线上医疗平台的普及,也暴露出一些潜在的风险,尤其是在医疗质量和诊断误差等方面。此外,技术的应用还在无意识中改变了人们的思维方式。例如,传感器技术和数字化数据的应用,使人们开始通过量化的方式认识自己,从而改变了传统的自我反思模式。这种变化不仅仅局限于个人的自我认识,也影响到整个社会对健康、疾病以及治疗方式的理解。

综上所述,医疗人工智能的发展不仅仅是技术上的进步,更是处于动态的关系网络中的一项复杂变革。它既受到外部力量的影响,也在不断影响和重构人类的行为方式、社会结构以及伦理规范。从算法设计者到患者,再到监管机构和政策制定者,医疗人工智能的应用和发展将深刻影响各方的利益、价值观和行为模式。正因如此,在讨论医疗人工智能的伦理风险时,必须从多维度和多层次的关系网络出发,审视它所引发的潜在问题。这不仅仅是关于技术本身的讨论,更是关于人类与技术如何共同构建一个新的社会系统、如何在复杂的互动中平衡技术进步与伦理责任的深刻反思。

5 构建可信任的医疗人工智能

5.1 伦理先行:风险识别的动态网络建构

在大语言模型和生成式人工智能技术迅速发展的背景下,医疗人工智能正在经历从工具性存在向关系性智能体的范式转型。在此背景下,伦理风险评估作为关系网络的早期预警机制十分必要。这不仅能够填补法律空白,还可以通过动态识别技术—社会交互中涌现的伦理风险,为构建适应性治理框架提供认知基础。基于关系论的视角,需将伦理治理从静态的合规审查转变为全生命周期的关系调适。例如,在算法设计阶段,通过“参与式价值敏感设计”将医患关系的动态平衡嵌入技术架构当中。

5.2 刚柔耦合:法律-伦理的协同演化

在医疗人工智能治理中,法律规制与伦理治理的协同本质上是社会技术系统中制度刚性与关系柔性的动态耦合。通过确立行动者网络的权责框架,法律能够为技术应用划定底线,而伦理治理能够弥补法律在技术迭代中的滞后性。具体而言,一方面,法律为伦理治理提供制度锚点。通过明确医疗人工智能开发者的产品责任边界、医疗机构的数据合规义务,法律将抽象伦理原则转化为可执行的制度约束。另一方面,伦理为法律规制注入韧性。当法律难以覆盖技术—社会交互的伦理风险时,伦理机制可通过动态评估医生决策与人工智能辅助之间的平衡点,作为过渡性约束为法律修订提供实践依据。

5.3 系统重构:社会技术系统中的伦理审查

医疗人工智能的伦理审查需要转向动态关系治理。基于关系论的视角,科技伦理审查可聚焦在以下三个方面:首先,将人工智能视为社会关系网络的动态参与者,重点评估其对医患权力结构等的隐性重塑,而不仅仅局限于数据隐私等风险。其次,构建“微观—中观—宏观”的响应机制,动态捕捉技术对社会关系的冲击,并建立跨周期追踪反馈链。最后,推动伦理委员会从“监督者”转型为“关系协调者”,纳入患者、医生等多方行动者,实现技术开发与社会价值的深度耦合。这种重构能够使伦理审查成为社会技术系统的“关系调节器”,在动态平衡中守护医疗生态的结构公平性。

6 结语

随着人工智能技术深度嵌入医疗实践,医疗人工智能已经从社会技术想象演变为重构医疗生态的变革性力量。在提升诊疗精确性、优化资源配置等显性优势背后,隐藏着医疗人工智能对传统伦理秩序与社会结构的系统性挑战。然而,既有的伦理分析框架存在局限性,即将技术视为独立变量进行风险管控难以应对社会技术系统的伦理危机。因此,本文基于关系论的视角,揭示出医疗人工智能的伦理困境根植于技术实践与医疗社会网络之间的动态互构,而非技术工具论的规范性探讨。医疗人工智能的发展揭示了一个根本性矛盾:技术进步始终在与医疗实践的人文属性进行博弈。要化解这种矛盾,必须将技术置于社会技术系统之中进行考察。唯有如此,才能在效率优化与人性守护之间找到动态平衡点。医疗人工智能的终极命题不在于证明机器能否超越人类医生,而在于如何在人机共生的新时代重构医疗作为“人性化实践”的价值根基。

参考文献

[1]

曹艳林, 郑雪倩, 王将军, . 远程医疗给医疗服务方式带来变革与挑战[J]. 中华医院管理杂志201228(4): 293-295.

[2]

魏东海, STUMPF SRUBINO L. 从远程医疗到互联网+人工智能(AI)医疗看医疗数字化的演进[J]. 中国研究型医院20229(5): 64-76.

[3]

WEI D HSTUMPF SRUBINO Let al. From telemedicine to Internet + Artificial Intelligence (AI) healthcare to see the evolution of healthcare digitization[J]. Chinese Research Hospitals20229(5): 64-76.

[4]

王程韡. 人工智能医疗的三个逻辑[J]. 医学与哲学202041(5A): 5-9.

[5]

WANG C W. Three logics for artificial intelligence in medicine[J]. Medicine and Philosophy202041(5A): 5-9.

[6]

HAUPT C EMARKS M. AI-generated medical advice: GPT and beyond[J]. JAMA2023329(16): 1349-1350.

[7]

KOTHARI A N. ChatGPT, large language models, and generative AI as future augments of surgical cancer care[J]. Annals of Surgical Oncology202330(6): 3174-3176.

[8]

AYERS J WPOLIAK ADREDZE Met al. Comparing physician and artificial intelligence chatbot responses to patient questions posted to a public social media forum[J]. JAMA Internal Medicine2023183(6):589-596.

[9]

SIMION MKELP C. Trustworthy artificial intelligence[J]. Asian Journal of Philosophy20232(1): 8.

[10]

MELANIE S. Multi scale ethics: why we need to consider the ethics of AI in healthcare at different scales[J]. Science and Engineering Ethics202228: 63.

[11]

顾益. 行动者网络理论视阈下的科技伦理研究[J]. 自然辩证法研究201329(2): 83-87.

[12]

GU Y. Research on ethics of science and technology from the perspective of actor-network theory[J]. Studies in Dialectics of Nature201329(2): 83-87.

[13]

布鲁诺·拉图尔. 科学在行动:怎样在社会中跟随科学家和工程师[M]. 刘文旋,郑开,译.北京: 东方出版社, 2005: 177.

[14]

TAI M C. The impact of artificial intelligence on human society and bioethics[J]. Tzu-Chi Medical Journal202032(4), 339–343.

[15]

VELLIDO A.Societal issues concerning the application of artificial intelligence in medicine[J]. Kidney Diseases20195(1): 11-17.

[16]

希拉·贾萨诺夫. 发明的伦理: 技术与人类未来[M]. 尚智丛, 等译. 北京: 中国人民大学出版社, 2018: 14.

[17]

马丁·布伯. 我与你[M]. 陈维纲,译. 北京: 商务印书馆, 2018: 21.

[18]

SIMONDON G. Individuation in light of notions of form and information[M]. Minneapolis: University of Minnesota Press, 2020: 9.

AI Summary AI Mindmap
PDF (528KB)

0

访问

0

被引

详细

导航
相关文章

AI思维导图

/