人工智能辅助诊断应用中的伦理探讨与哲学思辨

Ethical discussions and philosophical reflections on the application of artificial intelligence-assisted diagnosis

摘要

医学诊断的思维过程需要综合判断与分析判断。然而在这两种判断过程中，人类的思维有着难以避免的局限性。而随着人工智能技术的发展，符号主义和连接主义能够在一些方面有效弥补人类思维的缺陷，作出更准确的诊断判断，但他们也有各自的局限性。可以想见，符号主义与连接主义的融合发展将助力提升医学辅助诊断能力。但是有关连接主义人工智能的运用依然存在准确度和透明性、可解释性之间的矛盾，由于其透明性和可解释性不足，产生了对人工智能的诸多担忧。通过梳理医学诊断的思维流程、整理人工智能各流派之间的差异以及人工智能背后的语义哲学和真理观念的变革，可在一定程度上纾解对人工智能运用的伦理担忧，推动人工智能在医学诊断领域的实际运用。

Abstract

The thinking process of medical diagnosis requires a comprehensive and analytical judgment. However， in both judgment processes， human thinking has inevitable limitations. With the development of artificial intelligence （AI） technology， symbolism and connectionism can effectively compensate for the deficiencies of human thinking in some respects， making more accurate diagnostic judgments， but they also have their limitations. It is conceivable that the integration and development of symbolism and connectionism will assist in enhancing the capabilities of medical-assisted diagnosis. However， there is still a tension between accuracy， transparency， and interpretability regarding the application of connectionism in AI， and many concerns about AI have arisen due to its lack of transparency and interpretability. By sorting out the thought process of medical diagnosis， organizing the differences among various AI paradigms and the changes in semantic philosophy and truth concepts behind AI， ethical concerns about the application of AI can be alleviated to a certain extent， and the practical application of AI in the field of medical diagnosis can be promoted.

Graphical abstract

关键词

人工智能 / 医学诊断 / 哲学分析 / 医学伦理

Key words

artificial intelligence / medical diagnosis / philosophical analysis / medical ethics

0　引言

近几年，人工智能在数据量、算力、算法与法律规制上都取得了显著的进展。以ChatGPT为代表的大型语言模型一经推出便惊艳各界。在医学中，诊断作为确定患者健康问题的性质、原因和疾病步骤在医疗行为中至关重要。治疗、预后、预防等一系列医疗行为都围绕着诊断展开。因此，人工智能与医学诊断结合有着巨大的潜在应用价值，例如，有研究使用深度学习人工智能模型全自动分割主动脉夹层的CTA影像效果出色^［1］，还有研究构建出乳腺密度自动分类评估的深度学习语言模型，可显著提高乳腺癌病理诊断的准确性^［2］。尽管这些研究充满希望，但人工智能在医学诊断中的应用并没有如科学家与工程师们最初预测的那样迅速广泛普及。

这一现象的背后有多重原因。其中就包括，透明性与可解释性的伦理担忧。政策制定者面对主体责任不清和不可控的输出无的放矢，患者对于人工智能在医学诊断中的决策过程的不透明性感到不安，而医生和决策者则面临着如何信任并有效地使用这些技术的挑战。另一方面，面对“黑盒系统”，我们的认识论思考似乎还不足够充分。这些系统的内部工作方式对于大多数使用者而言难以理解，但输出的结果可以影响人对病情的认知与判断。在医疗行为中，每一次判断都是性命攸关的，人们不得不对其是否胜任辅助诊断这一任务产生怀疑。

本研究旨在从哲学的角度对医学诊断与人工智能在这一领域的应用进行深入分析，以期缓解伦理担忧并探讨人工智能在医学诊断中的潜力。

1　判断的医学之舞：解析现代医学诊断的复杂性

1.1　诊断是一种科学判断

由美国国立医学图书馆（National Library of Medicine， NLM）编制并维护的医学主题词表（Medical Subject Headings， MeSH）将“诊断”解释为“判定一种疾病或病症的性质，或者将某种疾病或病症与另一种进行区分。评估可能通过体格检查、实验室检查等方式进行。可以设计计算机程序以增强决策流程。”在《现代汉语词典》中，诊断的第一项释义为“诊视病人而判断其病症”。《中医诊断学》教材中，传统医学将诊断描述为：“通过对患者的询问、检查，以掌握病情资料，进而对患者的健康状态和病变本质进行辨识，并做出概括性判断。”可以看出，古今中外，都将诊断这一行为归纳为一种以“判断”为核心步骤的过程。由于健康与疾病这一对范畴的定义本身就带有价值判断，在医学人文层面不可否认这样的判断也包含价值判断因素，但从科学角度来看，这样的判断主要是依据患者的症状与医学知识而进行的事实判断。

整体而言诊断是医疗流程的中心环节（图1），而诊断这个过程是以判断为界限的。界限之前是包括经验在内的医学知识、收集到的各种检查信息，后面则是实践：无病则预防，有病则治疗。抽象而言，现代语境中的“诊断”可以被理解为在医学领域中一种基于经验的科学判断。这里的经验不仅仅包含来自直接的患者接触和治疗的感性经验，还包括对医学文献、研究成果和不断更新的医学知识等原理的整体把握。

1.2　印象诊断与确诊

从认识论角度，知识由判断组成。判断可以根据思维过程的不同分为两大类：分析判断与综合判断。分析着眼于认识对象，将认识对象分解为各个要素，各个要素不能超越认识对象的本身，谓词并没有为主词增添新的东西。而综合则将各个要素有机地组织起来，将经验获取来的谓词加到主词上去，形成一个统一的整体。医学诊断相较于生活中的一般判断更为精密与复杂，而综合与分析是诊断这一个思维过程的两个方面。在诊断的初步阶段，医生会与患者交流现病史。结合主诉、可见的症状和体格检查与其他经验寻找诊断的线索，进行初步的猜测，形成总体的印象诊断。这是一个启发式的阶段，目标一是尽可能地覆盖可能的病种，二是尽量缩小可能的诊断范围，得出的结论是“人可能有某病”。

产生了印象诊断后，医生会进行更深入的分析，以验证或进一步地细化确诊。这一阶段依赖实验室检查、影像检查等辅助检查手段来丰富临床证据，也依赖于主诊医生个人对医学概念记忆的精准性，依靠“某病有某些特征”来对印象诊断进行严谨的推理验证。目标是力求准确。这两个阶段起到支配性作用的判断形式分别是综合判断与分析判断。

1.3　临床诊断思维中人的局限性

在《诊断学》教材中，“临床诊断思维”被认为是与各种操作技能同等重要的一种思维技能。临床诊断思维对医生提出了很高的要求：医生通过科学的逻辑思维，结合掌握的疾病知识，对所获取的各种资料进行分析、评价、整理，以达到提出诊断的目的。任何医生的临床诊断思维，都需要在终身学习和临床实践中积累经验、不断提高。人类思维在诊断中至少有两种局限性：知识容量有限与信息过载、注意力偏向与情感偏见。除此之外，在临床实践中面对大量患者的医生还要额外承担有限问诊时间带来的压力，有可能会降低判断的准确性。这些局限性作用于整个思维过程中，造成的结果可能是误诊或者漏诊。这些人类医生思维过程中的局限性亟须人工智能的协助。

1.3.1　知识容量有限

作为一名临床医生，接受了系统的医学教育和专业培训后，专业知识虽然要超过一般人，但与医学共同体相比，知识容量终究有限，认识不到事物的全部要素，不一定能得出科学的综合结果。对知识的不完全理解可能会将检查引导向一个错误的方向，从而造成误诊；而对非高频知识的遗漏则可能会导致医生没有意识到某种疾病的可能性，造成漏诊。

在临床工作中，医生需要处理多种模态的信息，包括丰富的病历资料、各种医学检查结果、患者描述的症状等。这些信息往往多模态且大量存在的。医生需要从中筛选出关键信息进行分析和评估。然而，这种大量、多模态信息的处理可能导致医生无法抓住其中的重点，面临信息过载的挑战。处理信息的负担可能导致医生思维中的信息不完整，难以全面地分析和综合所有的信息，增加了误诊或漏诊的风险。

1.3.2　注意力偏向与情感偏见

在医疗专业化和分科化的发展背景下，医生可能更倾向于专注于自己擅长或熟悉的领域，而对其他领域的信息不够敏感，容易忽略掉一些重要线索。这种偏向可能导致在跨学科或跨领域的诊断中存在一定错漏。医生还可能基于自身过往的成功经验或对某些病症的熟悉程度，而过度依赖这些经验，将其套用到新的病例中，忽视了新情况的特殊性。这种错误的经验套用可能会导致对病情的错误理解和诊断，增加误诊或漏诊的风险。

1.3.3　时间压力

由于优质医疗资源的集中，大型医院的运行一直以来都是超负荷的。医生分配给每一名患者的面诊时间都十分有限。即便是最基本的数学计算，在极度紧张的情况下，也可能出错。在医学诊断中，医生需要进行更为复杂的推理和判断。时间限制可能会对医生的推理能力产生负面影响。时间紧迫可能使医生急于作出决策，导致推理过程过于匆忙，不够深入和细致。这可能导致对患者病情的不完全理解或遗漏重要线索。时间压力还可能使医生在诊断过程中难以充分利用所有可用信息，而只能专注于一些显著的或直观的症状或检查结果，进而忽略了其他可能关键的信息。医生在极为有限的时间内很难对所有可能的诊断方案进行全面地思考和评估。这可能会限制医生对病情的全面认识，增加误诊或漏诊的风险。

2　不同流派人工智能在诊断中的应用及评价

符号主义（symbolism）、连接主义（connectionism）、行为主义（behaviorism）是目前人工智能领域的三种主要流派^［3］。这三种流派对于如何实现人工智能各自有其不同的理解：符号主义是人工智能的早期主流，其核心理念是通过使用符号和规则来表示知识，从而进行智能推理，提供相对较高的数学可解释性；连接主义则是通过研究神经网络间的连接机制与学习算法实现智能，更注重灵活的知识表示和学习能力；行为主义则强调对可观察行为进行信息感知，其认为智能行为是从与环境交互的过程中对感知结果作出相应行为，即智能取决于对外界环境的自适应能力。在不同时期和应用背景下，人工智能的研究和发展一直在不断演变，而在医学诊断领域也逐渐凸显出相应的优势和局限。其中行为主义自1948年提出以来，其发展速度和重视程度远不如符号主义和连接主义。以下将围绕符号主义和连接主义这两种具有代表性的思想流派在医学辅助诊断中的应用及其相对优势进行探讨：

2.1　符号主义人工智能在医学诊断领域的实践

符号主义强调逻辑推理和知识表示，因此符号主义人工智能进行医学诊断的原理属于分析判断。专家系统是符号主义的代表算法之一，它的开发为人工智能应用于医学诊断领域奠定了重要基础，彼时在某些细分领域。专家系统在医学辅助诊断中的贡献在于其对复杂医学知识的形式化表示和系统化推理，使得复杂的医学知识更具结构化和标准化，独立的知识库和规则集使得专家系统在通过模拟专业医生的诊断决策过程中，能为医生提供更为客观的、标准化的辅助诊断结果。相较于临床医生，专家系统不受感情、疲劳或主观人为偏见的影响，能够在短时间内处理大量的信息，提高了医学诊断的效率。

在医疗领域，MYCIN是早期比较具有代表性的专家系统。这个系统判断是否有需要治疗的感染情况存在，为医生提供关于可能感染的细菌和药物的建议，将其诊断结果与人类专家的诊断结果进行比较，结果显示MYCIN的准确性相当接近斯坦福大学感染性疾病专家的准确性^［4］。 MYCIN的出现为其他用于临床辅助诊断的专家系统的研发提供了框架基础和重要经验，如用于解释肺功能测试数据以支持肺部疾病诊断的专家系统PUFF、用于皮肤癌辅助诊断的专家系统等^［5］。

互联网时代，随着信息量急剧增加，知识的形式化表示变得越来越重要。知识图谱的出现能够提供更强的对复杂知识的理解和推理能力，通过图形结构对实体和关系进行符号化表示，在医学领域，知识图谱极大地发挥了对多模态医学知识的整合和表示作用，能更清晰地揭示疾病、药物、表型等之间的联系，结合患者的临床信息和病史，通过图谱内容进行临床病例推理，这种推理过程有助于医生更全面、系统地诊断疾病，甚至有助于医务人员发现和理解疾病之间的潜在关联，从而在一定程度上避免了从医人员的注意力偏向和经验依赖等不足，为临床科学发现提供新可能。

然而，尽管符号主义人工智能在医学诊断的一些应用中取得了成功，但在面对复杂、动态和真实世界的医学问题时，符号主义仍存在一些不足，如在面对处理大规模的复杂、模糊或难以形式化的医学知识时，通过定义符号和规则表示医学知识的方法需要耗费更多人力去编码规则和输入大量的先验医学知识；此外，由于符号主义往往不具备从经验中学习的能力，导致其在面对真实世界出现的具有不确定性的新问题时，输出的结果可能不尽如人意。

2.2　连接主义人工智能在医学诊断领域的实践

随着时间的推移，连接主义人工智能的兴起逐渐弥补了符号主义在处理大规模数据和学习复杂模式上的不足，使得人工智能研究更加全面多样。

连接主义的人工智能相比于符号主义更擅长综合判断。连接主义模拟了神经网络，机器学习作为连接主义的代表算法，其早期在医学辅助诊断中主要被应用于处理生物信号，如心电图、脑电图等，使用传统机器学习算法根据心电图数据实现心脏病分类、自动检测异常等，能提供临床医生对心脏病、脑疾病等的诊断支持。

由于计算能力的显著提高和大数据的普及，连接主义对神经网络理论的研究更进一步。以深度学习为代表的人工智能具有更为高效的对大规模医学数据的自主学习与处理能力，能够通过大量医学数据的训练和模型优化，迅速学习新的医学知识和模式，以获得对新型临床问题的准确识别能力，如对疾病异常病变的识别或发病风险的推断等，例如有研究应用卷积神经网络算法，开发出一种能够自动检测视网膜眼底病变的系统，它能够从视网膜图像大数据中自动学习提取隐含的疾病诊断特征，自动检测视网膜眼底照片中糖尿病视网膜病变和糖尿病性黄斑水肿，评估检测结果显示，该系统在识别糖尿病性视网膜病变等眼疾方面表现出色^［6］；有研究开发了一种名为PANDA的人工智能用于胰腺癌检测的深度学习方法，通过非增强CT即可高精度地检测和分类胰腺病变，并且在真实世界的多场景病变检测验证中显示出高达92.9%的灵敏度和99.9%的特异度，该结果使得PANDA系统有望成为临床大规模胰腺癌筛查的新工具^［7］。由此可见，现阶段的连接主义人工智能为医生的决策提供了充足的医学知识支撑、灵敏准确的影像识别等方面的辅助，在一定程度上提高了临床诊断的效率和准确度，减轻了医生的工作负担，甚至有助于减少临床疾病的误诊与漏诊率。

基于神经网络的大语言模型等新兴连接主义人工智能的崛起再一次为医学诊断领域提供了新的机遇，但与此同时，新技术的产生必然在客观上带来新的问题，例如大语言模型会产生“幻觉”，即其生成的内容可能并非基于现实，而是创造了一个看似可信但完全不正确的虚假信息^［8］。此外，连接主义人工智能还存在其他局限，特别是其决策过程的不透明性和解释困难问题，以及面临大规模数据训练模型的挑战和对模型泛化能力的考虑等问题，仍有待进一步深入思考和解决。

2.3　结合连接主义与符号主义人工智能的尝试

符号主义和连接主义作为人工智能的两大主要流派，两者在不同问题和应用场景中发挥着各自的独特优势。符号主义对规则和符号的表示使得知识的推理过程更为透明，在临床应用中，医生可以更容易理解模型的决策过程，从而提高信任度；而连接主义在处理大规模、复杂的医学问题上的优势使其迅速成为当前医学图像诊断等领域的研究和应用热点。如果符号主义和连接主义之间可以结合，那么我们可以展望，将连接主义与符号主义结合起来可能是一种更为合理的策略。有学者认为两者间的融合具有哲学基底，并提出可能的范式^［9］。在通用领域，已经有一些理论方法在某种程度上达成了两种范式的结合。如采用基于专家知识的方法，利用规则或基于符号的人工智能系统融合深度学习模型和专家知识，以达到对深度学习模型进行解释的目的^［10］，另一项研究则是将连接主义人工智能融入符号主义人工智能的构建流程：知识图谱的构建依赖于文本关系的抽取，李敬灿等^［11］的研究提出使用大型语言模型来完成这个过程。

在医学领域，诊断的综合判断阶段，连接主义人工智能可以充分发挥优势，结合多模态信息，对患者的病情进行快速综合性评估和初步诊断，而后在分析判断的阶段运用符号主义人工智能验证连接主义综合判断的结果，筛选掉尽量多的“幻觉”并表示出推理过程，让临床辅助决策的过程透明、结果可信赖。这种结合可以提高诊断的准确性和可信度，有助于高效完成初步诊断。如起初基于符号主义的IBM认知计算平台“沃森”，历经几十年迭代更新，在结合了连接主义的深度卷积神经网络后获得了更强的数据分析与挖掘能力，在某些细分疾病领域上已经可与顶尖医生媲美^［12］。

3　医学人工智能的伦理担忧及其背后的哲学思维变革

3.1　透明性与可解释性成为人工智能治理的热点

《新一代人工智能伦理规范》由国家新一代人工智能治理专业委员会于2021年颁布。此规范将提升透明性、可解释性、可理解性等原则作为人工智能研发的规范；其后于2023年由国家人工智能标准化总体组、全国信标委人工智能分委会颁布的《人工智能伦理治理标准化指南》更是进一步细化提出数据可解释性、特征可解释性、模型可解释性和逻辑可解释性的要求。

透明性的基本组成要素包含“信息的可获取” 。人工智能的透明性问题包含算法的不透明、数据集的不透明以及训练策略的不透明。算法透明化问题也会给模型的可理解或可解释性带来挑战。人工智能的可解释性或解释性一般被分为Interpretability和Explainability两种不同的概念。在发表的中文文章中，两种可解释常被混用。可解释性（interpretability）通常着眼于AI模型的内部工作原理。指的是人工智能模型或系统的内部结构、操作方式以及输出结果在本身的框架内是可理解和可解释的程度。这种解释性不一定需要能够被外部解释或说明，其关注的是AI系统内部的逻辑和运作是否可被理解。而可解释性（explainability）则更加关注人类能够理解和解释的方面。它指的是人工智能系统的决策过程、输出结果以及模型的预测能够被解释和说明给非技术人员，即使这些人员没有深入的技术专业知识，也能理解模型做出某种预测或决策的原因。

3.2　透明性与可解释性问题的成因

包含深度神经网络的连接主义人工智能模型结构有高度非线性的特点，其透明性与可解释性问题在某种程度上是数据的高维度、复杂的代码和可变决策逻辑的产物。模型中抽象出的向量既无法用人类语言阅读，也无法与现实中的事物一一对应。

人工智能模型的透明性与可解释性问题还有一部分来自商业竞争、国家安全或隐私保护。算法和数据集的相关信息由于这些原因通常难以获得。如OpenAI并未公布ChatGPT的核心算法和训练人工智能所使用的数据库，一些研究者已经对此表示担忧或质疑，如担心算法和数据中存在的偏倚。另外，有一些已经在运营中的人工智能应用产品，在设计之初并没有充分考虑透明性与可解释性问题。在系统开发之后的运维阶段添加这些特性是十分困难的。

3.3　透明性与可解释性的技术解决方法及其局限性

面对人工智能的透明性与可解释性问题，一些研究从工程技术角度提出了一些解决方法。陈冲等^［13］将这些方法总结为围绕模型内在的可解释性、基于归因的解释和非归因的解释三个方面。例如回归模型、决策树、K临近等简单机器学习模型，具有可被人类观察算法运行能力的可解释性。基于归因的可解释方法根据输入特征对输出结果的重要性对其赋予“归因值”。实现方法包括基于反向传播、基于扰动和基于沙普利值等。而基于非归因的方法有概念激活向量、基于实例和基于注意力等。

然而这些方法并不能从根本上解决人们对模型透明性与可解释性的担忧。对于内在可解释性的方法，使用上述的简单机器学习模型构建内在可解释模型时，一旦数据维度、规则集的规模等超过了一定限制，则无法提供可被人类理解的可解释性。目前较为流行的归因解释方法则会累积自上层神经元传递的错误，后果是解释结果的不尽如人意。基于非归因的解释方法分别被用于不同的待解释模型。如概念激活向量主要适用于使用卷积神经网络等深度学习模型进行图像分类等任务的场景，其作用在于揭示对结果产生重要作用的某些概念。概念的定义可能是主观的，并且可能因人而异。不同的领域专家或研究者可能会给出不同的概念定义，这可能会影响到概念激活向量方法的解释结果的一致性和可靠性。且这种方法主要用于解释模型在某个概念上的决策，但它无法提供关于模型整体行为的全面解释。模型的决策可以受到多种因素的影响，而概念激活向量只能解释其中的一部分；基于实例的解释是一种类比方法，不能捕捉模型整体的决策逻辑和对抽象概念的理解；基于注意力机制的解释可能不总是完全反映模型的决策逻辑，特别是对于复杂模型和任务而言。

除了这些方法本身，使可解释技术方法效果受到制约的还有一些社会因素。如目前的可解释性评价指标缺乏，且并没有一个被广泛使用的指标来评价人工智能模型的透明性与可解释性^［14］。此外，可解释人工智能生成的解释会揭示出底层模型和参与模型构建的数据，其中可能包含参与模型训练的用户信息。

3.4　透明性与可解释性风险的表现与哲学实质

深度学习的兴起，让特征提取不再受限于领域专家的人力劳动。相比分治策略，端到端学习方式更容易获得全局最优解。基于神经网络的人工智能模型面对复杂任务的性能突飞猛进，可以拥有很高的预测性能。但是端到端的模型难以用人类可理解的方式解释从输入到输出之间像一个黑盒，只能看到其输出结果，对其过程却无法认知。决策者往往不愿意根据没有解释的决策而采取行动。对黑盒输出的风险担忧集中表现为其结果不容易获得其意在辅助的决策者的理解，更难得到决策者信任。

从哲学角度而言，透明性与可解释性问题体现出人们对不能完全控制人工智能技术的焦虑，本质上是对人的主体地位的担忧。哲学家邓晓芒说：“人们发现人工智能的发展开始有超越人类、控制人类和伤害人类的危险趋势，长此以往，我们生活的这个地球上将没有人类生存的空间，而只有‘机器人’。从发展前景来看，它们必将取代人类、奴役人类，甚至消灭人类。^［15］”这种担忧确有其合理性。人工智能的发展确实带来一些风险，比如解放人的脑力的同时，也使人脑越来越“迟钝”。但人工智能的发展是第三次科技革命的结果，是人的能力的延伸，是作为主体的人在认识客观规律的基础上，发挥主观能动性的产物。因此从本质上来说，人工智能永远不具有主体性。在医疗诊断实践中，一些基于数据驱动的、透明性与可解释性不强的人工智能临床运用只是辅助诊断，不仅不会排除医疗诊断这一行为的主体的伦理责任，还能解放诊断主体的脑力，做出更有效率、更准确的诊断及其他医疗决策。

当然，技术的进步确有一些负外部性因素。马克思认为：“在我们这个时代，每一种事物好像都包含有自己的反面……我们的一切发明和进步，似乎结果是使物质力量成为有智慧的生命，而人的生命则化为愚钝的物质力量。”^［16］

但是，马克思认为这不是技术本身的问题，而是生产力与生产关系的矛盾导致的。马克思讽刺那些倒退论者，认为他们是“可怜的”。因此只要建立完善的社会公共制度，合理分配现实的利益关系，就能充分发挥人工智能的解放力量。

3.5　人工智能造成主体性危机的认识论分析

人是主体，人工智能是工具，人在实践中对工具的运用，往往促进人对自身的认识。对于透明性与可解释性的要求，一定程度上促进了人对自身认识规律的理解。

人工智能的黑箱运作方式背后折射出的是人的认识规律。人工智能不能理解符号的意义，正如在塞尔的著名思想实验中文屋中所说，屋子里的纯句法塞尔在理解屋外传递来的中文时，只能根据规则来进行映射。博登^［17］也认为“从原理上讲，同一个形式体系可以映射到几个不同的领域中去，所以（人们）就可以用它回答有关其中任一领域的问题。然而就其本身而言，它可能是无意义的，就像从屋中的塞尔的观点来看，中文符号是无意义的一样。”屋内的塞尔并不理解屋外传递进来的中文的含义，不理解中文的含义，这就是说计算机系统是纯句法的，不能理解符号的含义，“塞尔看来，任何电子计算机都不可能真的处理符号，也不可能真的指称或解释任何东西”^［17］，主要是不能理解人类理智中的因果联系，据此，塞尔认为只有人类的生物大脑才能产生出智能，计算机不可能有智能。他说“大脑显然具有这种因果能力，而计算机不具有。”由于可以在计算机中模拟大脑的组织形式，所以更确切地说，是神经蛋白具有这种能力，而金属和硅不具有：“大脑物质的生物化学特性成为关键所在。”^［17］

若依照这种观点，计算机发展出更接近人的智能是不可能的，这似乎无法解释正在蓬勃发展的人工智能技术。

这种解释的困境背后其实是由哲学思维的不同所导致的。传统认识论基本上是真理的符合论，认为人的认识与外界对象相符合则为真，不符合则为假。在符号学中，假定符号和符号所指称的对象一致。如果从这种观点来看，人工智能确实不能有人的智能。在维特根斯坦后期的《哲学研究》中，只要符号在整个符号体系中保持一定的位置，人与人之间的“语言游戏”就能进行，正如维特根斯坦^［18］的“甲虫之喻”：“假定每个人都有一个装着某种东西的盒子：我们把这种东西称之为‘甲虫’。谁也不能窥视其他任何一个人的盒子，而且每个人都说他只是通过看到他的甲虫才知道甲虫是什么——此时完全可能每个人盒子里都装着一些不同的东西。甚至还可以想象装着不断变化着的东西——但是假定‘甲虫’这个词在这些人的语言中有一种用法呢？如果有的话，它不会用作一件东西的名称。盒子里的东西在该语言游戏中根本没有位置；甚至作为某种东西也不行，因为盒子甚至可能是空的。不，盒子里的东西可以被完全‘约简’；它被消去了，无论它是什么。”

最后，维特根斯坦得出结论：“如果我们以‘对象和名称’的模式来解释感觉表达式的语法，那么，对象就会由于不相干而不被考虑。”^［18］在感觉中的表达式可以消去感觉的对象，那么在任何符号中也可以消除符号的对象，这就是人类语言的运作方式，当然也可以成为人工智能的运作方式。

另一方面，休谟^［19］已经说明，因果关系的概念是值得怀疑的。归纳是通过已知推出未知，归纳方法既是推出科学结论的方法，也是证实真理的手段，没有归纳，人类将不能获得有新内容的真知识。然而不同于演绎的逻辑，在演绎中只要前提是正确的，遵循正确的推导方法，那么结论就一定是正确的。在归纳中，即使假定前提是正确的，也根据正确的归纳推理去推导结论，推出来的结论也可能是错误的。休谟针对归纳的特点，直接对归纳的合理性发出诘难：归纳推理不能被演绎证明，因为归纳是可错的，并且归纳推理同样不能被归纳所证明，因为这是一个循环论证。休谟甚至认为归纳就是一种人的心理习惯：“习惯是人类生活中的伟大指南。只有这个原则才能使我们的经验对我们有用，使我们能期待将来出现一连串事件，与过去出现的事件相似。”

运用习惯来说明人的认识的真理性，显然不利于解释科学的真理性何以可能。其实在人工智能辅助诊断中，患者往往不要求诊断主体进行完全的解释，只要诊断过程是最低限度的可理解的，就能满足要求。而关于第一种可解释性，问题的根源也许出于目前对人类思维规律认识的不足。而就目前人工智能的实践来说，在医学诊断方面，人工智能往往能够在总结大量经验，从而得出的综合判断的方面表现比人类更好，这在其判断正确的概率越来越高方面可以得到体现。例如，有研究^［20］证明大语言模型ChatGPT在没有任何专业培训情况下，在美国执业医师资格考试中取得了合格或接近合格的成绩，这将是人工智能在临床医学领域走向成熟的一个显著里程碑。

我们不能知道归纳的基础，甚至人类都不能保证因果关系的根据，那么也就不能要求人工智能理解这种因果性。而所谓归纳真理也不过是概率真理。正如卡尔纳普^［21］所说：“这就是一种当假定前提为真而其结论并非逻辑必然地导出的推理，这样的推理必须用我们所称谓的‘逻辑概率’或‘归纳概率’的一定的度数来表达。”

这就是逻辑经验主义者所提出的，与以往的真理观不同的概率真理观。这种概率并不是统计学上的概率：“我想概率可以被看作是一种部分的蕴涵。如果证据是如此强，以至于假说逻辑地由它导出——逻辑地被它蕴涵——则有一极端的情况，在那里概率是1（概率为1也在其他场合中发生。不过这是那里发生的一个特殊场合）。类似地，如果证据逻辑地蕴涵一个假说的否定，则这个假说的逻辑概率为0。”^［21］

概率逻辑是一种科学的思维方法，也是一种验证归纳的方法，以往的真理符合论不过是其中的一个特例，因果在其中不是一种必然联系，也是一种概率。人工智能模型并不一定要可解释才有用。目前的人工智能能力直接去“学习”人的逻辑难度很大，因此当前更多是尝试如何在建模型过程中融入人工经验，从而使得模型的产出与专家判断更吻合，比如对模型决策提供端到端的解释。一项随机对照试验^［22］表明，真正更能影响医生决策的是辅助诊断人工智能的准确率，而非可解释性。至少目前的这些可解释性方法并不能减轻错误输出带来的危害。

4　结语

人工智能的发展还有很大空间，在医学诊断领域的未来发展中，需要尽可能达到一种准确性与透明性、可解释性的平衡。关于人工智能本身的伦理和哲学担忧还有很多，但纵观历史，新事物（新工具）的产生总是会影响人们已有的世界观，甚至颠覆人们过去习以为常的思维方式，但是随着对事物的不断研究讨论，人们思维方式也会发生相应的变革。人工智能是人的本性的外化，理论的发展有时是滞后的，需要在深入研究中突破，但是技术的力量是客观的、现实的。上述对人的思维的哲学思考，是对有关人工智能在应用方面其中一些担忧的纾解。

从医学诊断实践来看，现实往往比理论更需要新的工具、新的方法，通常可以采取一定的权宜之计。人类对因果关系的讨论还在发展中，对人工智能可解释性的理解还有长足的进步空间，但是每一个实践中的个案都是有限的，可以说，科学共同体的知识是无限的，但具体的医生的知识储备是有限的。庄子说：“吾生也有涯，而知也无涯，以有涯随无涯。”^［23］在具体的医疗实践中，面对患者复杂的症状，有限的知识储备不仅可能“殆己”，甚至可“殆病人”。这时，为了实用的目的，就不得不依赖更高概率的算法。

参考文献

[1] CAO L， SHI R， GE Y， et al. Fully automatic segmentation of type B aortic dissection from CTA images enabled by deep learning ［J］. European Journal of Radiology， 2019， 121： 108713.

[2] LOPEZ-ALMAZAN H， JAVIER PéREZ-BENITO F， LARROZA A， et al. A deep learning framework to classify breast density with noisy labels regularization ［J］. Computer Methods and Programs in Biomedicine， 2022， 221： 106885.

[3] 蔡恒进. 行为主义、联结主义和符号主义的贯通 ［J］. 上海师范大学学报（哲学社会科学版）， 2020， 49（4）： 87-96.

[4] CAI H J. Consistence of behaviorism，connectionism and symbolism ［J］. Journal of Shanghai Normal University（Philosophy and Social Sciences Edition）， 2020， 49（4）： 87-96.

[5] YU V L， BUCHANAN B G， SHORTLIFFE E H， et al. Evaluating the performance of a computer-based consultant ［J］. Comput Programs Biomed， 1979， 9（1）： 95-102.

[6] AIKINS J S， KUNZ J C， SHORTLIFFE E H， et al. PUFF： an expert system for interpretation of pulmonary function data ［J］. Computers and biomedical research， an international journal， 1983， 16（3）： 199-208.

[7] GULSHAN V， PENG L， CORAM M， et al. Development and validation of a deep learning algorithm for detection of diabetic retinopathy in retinal fundus photographs ［J］. Jama， 2016， 316（22）： 2402-2410.

[8] CAO K， XIA Y， YAO J， et al. Large-scale pancreatic cancer detection via non-contrast CT and deep learning ［J］. Nature medicine， 2023， 29（12）： 3033-3043.

[9] SHEN Y， HEACOCK L， ELIAS J， et al. ChatGPT and other large language models are double-edged swords ［J］. Radiology， 2023， 307（2）： e230163.

[10] 殷杰， 董佳蓉. 人工智能的语境论范式探析 ［J］. 自然辩证法通讯， 2011， 33（4）： 16-23.

[11] YIN J， DONG J R. The contextualist paradigm of artificial intelligence ［J］. Journal of Dialectics of Nature， 2011， 33（4）： 16-23.

[12] ZHO P. Interpretability of machine intelligence in medical lmage computing and multimodal learning for clinical decision support ［M］. New York： Springer， 2019.

[13] 李敬灿， 肖萃林， 覃晓婷， 等. 基于大语言模型与语义增强的文本关系抽取算法 ［J］. 计算机工程， 2024， 50（4）： 87-94.

[14] LI J C， XIAO C L， QIN X T， et al. Text-relation-extraction algorithm based on large-language model and semantic enhancement ［J］. Computer Engineering， 2024， 50（4）： 87-94.

[15] 顾险峰. 人工智能的历史回顾和发展现状 ［J］. 自然杂志， 2016， 38（3）： 157-166.

[16] GU X F. Historical review and current development of artificial intelligence ［J］. Chinese Journal of Nature， 2016， 38（3）： 157-166.

[17] 陈冲， 陈杰， 张慧， 等. 深度学习可解释性综述 ［J］. 计算机科学， 2023， 50（5）： 52-63.

[18] CHEN C， CHEN J， ZHANG H， et al. Review on Interpretability of Deep Learning ［J］. Computer Science， 2023， 50（5）： 52-63.

[19] 邢颖. 基于可解释性人工智能的软件工程技术方法综述 ［J］. 计算机科学， 2023， 50（5）： 3-11.

[20] XING Y. Review of software engineering techniques and methods based on explainable artificial intelligence ［J］. Computer Science， 2023， 50（5）： 3-11.

[21] 邓晓芒. 人工智能的本质 ［J］. 山东社会科学， 2022（12）： 39-46.

[22] DENG X M. The Essence of Artificial Intelligence ［J］. Shandong Social Sciences， 2022（12）： 39-46.

[23] 卡尔·马克思. 在《人民报》创刊纪念会上的演说（1856年4月14日） ［M］// 马克思恩格斯选集. 北京：人民出版社，2012： 776.

[24] M·A·博登. 人工智能哲学 ［M］.上海： 上海译文出版社， 2006.

[25] 维特根斯坦. 哲学研究 ［M］.北京： 商务印书馆， 1996.

[26] 休谟. 人类理智研究 ［M］. 北京： 商务印书馆， 1999.

[27] KUNG T H， CHEATHAM M， MEDENILLA A， et al. Performance of ChatGPT on USMLE： potential for AI-assisted medical education using large language models ［J］. PLoS Digit Health， 2023， 2（2）： e0000198.

[28] 卡尔纳普. 科学哲学导论 ［M］. 北京： 中国人民大学出版社， 2007.

[29] JABBOUR S， FOUHEY D， SHEPARD S， et al. Measuring the impact of AI in the diagnosis of hospitalized patients： a randomized clinical vignette survey study ［J］. JAMA， 2023， 330（23）： 2275-2284.

[30] 庄子今注今 译 ［M］.陈鼓应，注译. 北京：商务印书馆， 2007.

基金资助

中国医学科学院医学与健康科技创新工程“临床医学数据整合与分析平台”(2021-I2M-1-001)