人工智能技术的快速发展，对传统的医疗诊治过程带来了重大的发展机遇与伦理挑战。就前者而言，诸多人工智能新技术的介入，在一定程度上提高了诊治效率和准确率。在一些依赖医疗影像来进行诊治的临床医学分支学科，比如眼科、皮肤科以及肿瘤科，人工智能技术展现出惊人的发展潜力
［1］。就后者而言，人工智能重塑了医疗决策过程中对归责问题的理解，以往适用于传统医疗诊治过程的部分概念难以被合理地继续使用。本文聚焦于对模糊认知地图这一医疗人工智能的可能路径，简要分析了医疗人工智能归责难题存在的主要难点，具体介绍了模糊认知地图的基本理论建构，并在最后对这一应对方式可能存在的问题进行了讨论。
1 模糊认知地图的确责进路
人工智能医疗辅助决策系统在增进诊治效率、提高医疗质量方面展现出惊人的发展潜力，与之相应的医疗损害责任归属问题也引起了人们的关注。值得注意的是，传统个体主义性质的归责方案难以适用于有人工智能系统参与的责任归属问题。对于传统的医疗诊治问题而言，医疗决策过程中产生的医疗损害责任主要由更具专业技术能力、更加占据主导地位的医生来承担。这种带有极强个人主义色彩的确责方案可以较好地适用于传统的诊疗过程，但很难适用于有人工智能系统参与的医疗诊治过程。对于传统医疗归责过程而言，人工智能的介入至少会产生两个重要问题：一是复杂的医疗决策行为难以被还原为确定的单一个体行为，此时并不存在与之匹配的可归责实体；二是因果性、可控制、可预见构成了传统医疗决策必要的归责条件，而人工智能辅助下的医疗决策行为并不适用于此类归责条件
［2］。一方面，人工智能的决策过程对于人类而言是未知的，因此可能存在“黑箱操作”的问题。“由于算法决策过程的中间环节过多，就现有技术水平而言，确定某一具体操作失误究竟是编程错误、系统故障或是偏见影响往往非常困难。这意味着确认算法活动的影响或者溯因变得困难，因而准确定位导致行为后果的直接责任主体更是难上加难。”
［3］另一方面，人工智能的决策过程呈现弱主体性的特征，包括人工智能的设计者、制造者、生产商、拥有者以及使用者在内的道德主体均可以对决策结果产生影响，这进一步加剧了人工智能归责问题的复杂性。
模糊认知地图可以很好地模拟人类决策的动态过程。作为一种较为成熟的人工智能技术，认知地图技术已经被应用于诸多需要生成统一决策的问题领域，如在软件工程管理领域中对不同专家意见的整合
［4］，以及临床治疗过程中对患者具体给药情况的综合分析
［5］。迈耶（Lukas J. Meier）等
［6］通过将模糊值引入原有的认知地图技术，提出了一种机器学习方法——模糊认知地图（fuzzy cognitive maps）。模糊认知地图以现有的认知地图技术为基础，通过模糊值的设定模拟了在医疗决策过程中不同道德因素可能造成的影响，从而在一定程度上实现了人工智能的自主道德决策能力。借助模糊认知地图技术，迈耶等认为人工智能可以在医疗诊治问题上取得令人满意的道德决策结果。
模糊认知地图通过将道德决策过程映射为相应的因果图来实现决策目标。这一因果图是由不同节点通过因果关系进行连接的，不同节点所代表的是道德决策过程中可能使用的概念或因素，比如医疗过程中关于患者的各项具体身体参数，同时也可以是人们所借助的种种道德概念或者道德原则，比如正义、公正或者自主权利的被尊重。不同节点之间的关系可以是积极的、中性的以及消极的，可以用1、0、-1的不同数字分别表征道德决策过程中不同节点之间的可能联系。例如，患者同意治疗与“尊重患者自主权”的道德原则是正相关的，此时可以用数字“1”表征两个道德因素之间的因果联系。不同节点之间的因果联系可以通过赋予一定的加权值表示强调或弱化，以此来表征不同概念或者因素之间不同强度的因果联系。基于具体道德情形中相关因素的输入以及系统内部不同节点的赋值联系，模糊认知地图可以较好地模拟道德决策过程中，不同概念或不同因素之间的相互因果作用。模糊认知地图并没有将每一个个体的生存概率用数字化形式进行表征，而是通过模糊值的引入，将道德决策过程相关个体的道德主张合理地纳入最终决策结果，以一种较为透明的、可以理解的方式将人们关切的道德原则或者规范性认识整合到人工智能的道德决策过程中。具体见
图1。
相较于目的论、契约论、道义论以及德性论在道德决策问题上的规范性解释，模糊认知地图并没有将某个单一道德原则作为人工智能必须遵守的规范性原则。迈耶等选择原则主义作为人工智能道德决策的伦理基础，原则主义以其能够较为满意地实现医生以及患者的个人道德关切而备受学界关注。具体而言，模糊认知地图是以比彻姆（Tom Beauchamp）和邱卓斯（James Childress）提出的原则主义为伦理基础，以此构建了一种能够回应患者以及医生道德责任关切的人工智能医疗辅助咨询系统。在比彻姆等合著的《生物医学伦理学原理》一书中，原则主义被首次提出，他们所概括的四项基本原则包括：慈善、非恶意、尊重患者的自主权和正义
［7］。在比彻姆等看来，原则主义的这四项基本原则源于人们的日常道德信念，可以为医疗案例的结构化分析提供伦理基础。四项生命伦理原则彼此之间并不存在等级顺序上的差异，没有任何一项原则应该得到优先考虑，原则主义是将其作为处理医疗道德决策问题的一般框架来进行的。
模糊认知地图使用了两种人工智能的范式研究方法：深度神经网络（deep neural networks）和符号方法（symbolic methods）。深度神经网络是机器学习模型的一个子类，它们由数千甚至数百万个人工神经元和突触组成，这些神经元和突触排列在多层结构中，因此被称为“深度”。深度神经网络方法因其在部分应用领域所取得的惊人成就而备受关注，比如图像分类或游戏设计开发中的Gameplay部分。值得注意的是，深度神经网络和模糊认知地图均是通过加权连接来处理输入的数据信息。不同的是，模糊认知地图所用的基础认知单元通常要小得多，如迈耶等所构建的案例只有21个节点和54个连接，尽管如此，它却也足以应用于训练数据相对较少的领域。由于收集与伦理相关的医疗案例是一项需要分类和专家数据标记的劳动密集型手动任务，因此，迈耶等强调他们以模糊认知地图为基础所构造的算法具有一定的自主学习能力，即它能够从相对较少的数据集中学习从而不断完善自己的应答能力。
与深度神经网络的范式方法不同，符号方法所模拟的是人类在道德决策过程中，在给定高级知识条件下的逻辑推理判断过程。在医疗决策过程中，模糊认知地图通过将自然语言表述的道德规范性原则转译为人工智能可以理解并使用的符号语言，从而实现人们对特定道德因素或者指定道德原则的合理关切。比如人工智能的算法设计可以制定这样一个规则：如果患者具有完全的道德自主能力并且已经达到成年年龄，那么医生应该坚持他们的治疗偏好。问题在于，当这些伦理规则可以用自然语言表达时，人工智能道德决策过程于人们而言当然是透明的。因为人们可以使用预设算法运算规则的方式，将自然语言能够表达的伦理原则赋予人工智能系统。但是当数据之间的逻辑关系较为模糊，或者多种道德因素以复杂的、令人费解的方式在临床治疗过程中互相作用时，不确定问题会随之出现。
为了消除人工智能道德决策过程中的不确定性，一定的监督学习步骤是必须的。算法必须经过训练才能正常运行。监督学习是机器学习中最常见的形式，同时也是模糊认知地图所必需的构建步骤。所谓监督学习，即通过构建一系列具有输入端和相应预解决方案的模型，然后借此对算法进行训练，以使人工智能学习并掌握相应的因果映射关系，从而使人工智能可以将输入数据与给定答案最吻合地匹配起来。预解决方案被称为标签，是因为其规定了人们对于给定数据的规范性理解。例如，在使用人工智能来检测从活体组织检查中提取的染色组织切片图像中的肿瘤时，病理学家会标记输入算法的训练数据集的每张图像，以确定它是否包含健康或异常组织
［8］。对于医疗人工智能的归责问题而言，模糊认知地图所使用的也是同样的监督学习方法。即通过为道德决策过程的相关道德因素设置相应的标签，从而令人工智能更好地模拟道德决策过程中各种道德因素的具体影响。
作为一种可能的医疗人工智能，模糊认知地图模拟了临床治疗过程中可能面临的道德决策困境，为整合医疗过程的相关道德因素提供了一种可能路径。以认知地图技术为基础，模糊值表征了人们在道德决策过程中不同概念或不同因素之间的因果联系。值得注意的是，以模糊认知地图技术为基础搭建的道德咨询系统很可能只是用来支持人类的判断，而不是代替人类的判断。例如，其可以用于教育目的，如培训医科学生和伦理学家，或者可以利用它为患者和家属提供非正式的伦理指导。在这个意义上，模糊认知地图应该被理解为一种弱人工智能，而非一种等同于或者超越人类的强人工智能。模糊认知地图提供了一个框架，系统地将医学伦理案例分解为一组可量化的参数，并提供了一种新的方法，使一种以人工智能技术为基础的医疗咨询系统成为可能。更重要的是，模糊认知地图提供了一条实现患者以及医生道德关切的可能路径，包括道德主体的责任伦理要求以一种恰当的方式实现到了人工智能系统设计中。
2 模糊认知地图存在的问题
作为人工智能确责问题的应对策略，模糊认知地图对已有难点的解决能否令人满意？有必要对传统诊治过程中医疗决策的具体环节进行分析，并进一步考察人工智能技术介入后对归责问题可能产生的影响。在传统医疗诊治过程中，医生会在检查患者的具体病灶或者在进行过针对性检查之后，得到一系列有关患者的具体症状。这些症候之中有一些能够指向患者的症结所在，但有一些并不是与其直接相关的。这时医生需要运用自身的专业能力去进行推理判断，通过已经得到的症候信息为患者进行诊断并给出针对性的策略。这一过程所遵循的是贝叶斯定理，即支持最终诊断结果的先验事件越多，那么诊断为真的概率就越大。这一过程既是有关命题知识的，即医生需要知道明确为真的病症是什么样的。同时，这一过程也是与实践知识密切相关的，医生同样需要知道诊断过程是怎样进行展开的。诊治过程是命题知识与实践知识的结合，一个完整且准确的诊治过程需要同时包含对两种知识的认识、理解与掌握。例如，一位优秀的主任医师与一位新手医生的区别在于，前者能够依据已有的命题知识准确将症候与病症联系起来，而后者不能很好地辨别患者身上出现的症候应该归属于何种病症。人工智能道德决策系统所要做的，正是通过大量的临床数据训练，不断优化人工智能进行识别以及决策的算法设计，最终使得人工智能可以根据给定的信息准确地判断出相应的病症并给出相应的治疗方案。
首先，人工智能在医疗诊治过程中有着不同的知识范畴。在传统诊治过程中，医生对于医学影像的识别需要借助清晰的自然语言以及明确的范畴分类标准，这是他们之所以能够从目标影像中获得针对性信息的重要原因。然而对于人工智能而言，其对相应病症的感知能力取决于统计和其本身所具有的计算能力。一项研究发现：“我们注意到标准的性能评估指标可能无法区分这些解决问题的行为。”
［9］具体而言，尽管机器人作出了符合人们要求或期待的“正确”选择，但却有可能是建立于虚假的因果联系之上。心理学上将这种现象称作“聪明的汉斯”，汉斯是20世纪初德国一匹被认为具有惊人算术能力的马，它能够通过马蹄点地的数量来准确地回答人们所给出的算术问题。即便人们把它和它的主人分开，由完全的陌生人来进行提问，它仍然能够正确回答出给定的算术问题。这不由得让人们惊叹，难道一匹马也具有惊人的基本算术能力吗？然而事实上，汉斯之所以能够作出准确回答，并不是因为它理解了题目当中的数学知识，而仅仅是它能够根据对提问者的身体语言和面部表情的观察就得到正确的点蹄数目。显然，提问者的肢体语言和面部表情与算术问题并不具有必然联系，但聪明的汉斯却可以通过前者准确地关联到后者。人们所担心的是，人工智能在进行道德决策时，可能同样产生一种类似“聪明的汉斯”的表面智能行为。就人工智能所使用的知识特征而言，人工智能的困难在于，包括人类感觉经验在内的种种知识难以被人工智能所使用的机器语言所表征。尽管人工智能系统能够作出符合人们期待的道德决策，但人们仍然无法断定它进行道德决策的依据是合理的，这正是医生与人工智能的区别所在。尽管使用深度神经网络为基础的模糊认知地图技术能够较好地模拟人类的道德决策过程，但其并无法确保最终决策结果的道德合理性。
其次，模糊认知地图所使用的机器学习方法有可能存在非主观的欺骗倾向。这是因为机器学习方法的目标是从给定数据当中挖掘出不同对象之间的因果联系，而人工智能为了完成预设的学习任务，可能借助虚假的因果联系以快速完成既定目标，这一作弊做法显然并不可取。以使用Fisher Vector算法设计的机器学习方法为例，这是一种借用高斯分布函数，从指定图像或者语音中提取信息的方法。在具体演算过程中，它是利用图像中特殊的像素点来进行范畴分类。这就有可能导致它尽管能够从图像中得到较为准确的信息，但它事实上无法从具体世界中将对象识别出来，人工智能事实上并没有建立起人类期待中的因果联系，像素点的特殊排列并不等于真正的事物。具体而言，人工智能可能掌握了关于医疗道德决策过程的命题知识，但并没有真正理解并掌握相应的实践知识。因而，人工智能不仅需要令人满意地完成人们设定的任务目标，同时人工智能有必要为它的决策过程提供完满的、易于理解的解释与证明。
最后，给定数据集中存在的伦理偏见可能会以人们未曾察觉的方式，隐蔽地继承到模糊认知地图的最终决策结果中。一方面，就模糊认知地图所使用的规范性伦理基础而言，原则主义所提出的四项生命伦理原则并不能很好地解决人们有关不同直觉判断之间的矛盾。慈善、非恶意、自主性、公正四项生命伦理原则彼此可能的矛盾冲突并没有被充分考虑。慈善原则延续的是人们对社会善的追求，与后果主义的理论追求相一致。非恶意原则强调决策的制定者本身的品格或者德性，彰显了德性论对道德主体的要求。自主性原则强调的是道德主体的自由意志应该被尊重，秉承了康德式道义论的核心原则。公正原则力图实现决策过程的公开透明，以及决策问题相关利益方的彼此一致意见，其所追求的普遍共识正是契约论的道德基础。可以看到，原则主义的主张中交织了主要的几种规范性伦理主张，原则主义同样也没有主张何一种原则应该享有道德优先性。在大部分决策情形中原则主体的问题并不凸显，然而一旦人们面临四种生命伦理原则的冲突，原则主义原先所忽视的内部矛盾问题就成为横亘在它面前的重要障碍。如李亚明
［10］所言：“虽然原则主义已经在高科技伦理问题的研究中得到非常广泛的应用，但原则主义不是从单一的、体系完备的道德理论出发而得出的自成体系的规则，因此其原则明显缺乏一致性，无法为解决道德争端提供一个清晰、连贯、周延、明确的指导方针。”作为原则主义来源的诸多伦理原则在决策问题上的主张存在矛盾与对立，原则主义对这一点的忽视可能导致它整个解释力走向崩塌。因此在以原则主义为伦理基础时，模糊认知地图需要对不同道德规范性原则之间的因果联系进行必要检验，以确保最终决策结果的有效性。另一方面，模糊认知地图所依据的神经网络深度学习方法可能加剧医疗决策过程中存在的偏见与歧视。采用神经网络深度机器学习技术的人工智能行动者在进行道德决策时，会参考最普遍大众的道德意见来进行道德决策。由此产生的问题是，存在大众认知当中有关身份地位、社会关系等方面的偏见可能会以某种方式继承到人工智能算法设计的道德决策中。更为重要的是，人工智能使用的模型方法是不断进化的，当新的数据或者新的反馈产生时，其机器学习的系统就会发生相应的变化。人工智能的道德决策结果对于它的数据来源以及程序设计者而言，都是不透明的。由此所产生的问题是，一开始给定的数据集的好坏决定了最终结果的质量，其中存在的道德或者伦理偏见可能会以某种方式继承到最终决策结果中。
3 归责问题的回应
对于模糊认知地图而言，医疗决策人工智能归责问题的主要难点并未得到很好地解决。大语言模型能够提供几乎无限制的对话范围以及高质量的对话内容，在文本生成、实时对话等一般性语言任务上具有远超以往的良好表现。ChatGPT能够以超过90%的正确率通过美国职业医师资格考试（United States Medical Licensing Examination，USMLE），并提供相当于人类医生的准确医疗诊断
［11］。似乎由人工智能来代替人类进行医疗决策在不远的将来就可以实现；然而，这并不意味着以大语言模型为代表的人工智能完满地解决了医疗决策归责问题中的种种困难。
首先，缩小人工智能的认知目标，将其作为医疗道德决策的信息提供者，而非作为医疗决策过程的决策者。当前医疗决策人工智能仍未脱离传统经验论贝叶斯定理的窠臼。如赵汀阳
［12］所言，大语言模型所采用的“后继标识预测”（next token prediction）算法是现代数学家的创造，其核心仍然是传统经验论基本精神的贝叶斯定理。尽管大语言模型引起了国内外学界的极大关注，但其遵循的根本逻辑仍然没有脱离作为经验论核心的贝叶斯定理。休谟对事实与价值二者关系的追问仍然适用于当下，即人工智能如何能够通过已有的经验知识获得确定性的因果联系？模糊认知地图以及大语言模型采用的标签只是对已有医疗数据关联性的挖掘，其采用的机器学习方法并没有形成一个经得起验证的、正确的道德决策。对其而言，所谓正确的决策需要在充足的数据支持下慢慢生成出来，这仍然是一种不断采用新知识去替换旧知识的、贝叶斯性质的迭代过程。与传统医疗决策过程相比，采用贝叶斯定理的大语言模型既无法给出一个确定为真的先验回答，也无法提供关于这一回答的推理验证过程。
以搜索引擎为例证，可以缩小人工智能在道德决策过程中的认知目标。搜索引擎深刻改变了医疗决策过程，大约三分之二的患者会在就诊前使用搜索引擎确定自己的症状，同时大多数医生也会使用搜索引擎进行相关操作
［13］。确定搜索引擎在医疗决策中的具体责任是十分困难的，人工智能凭借其强大的数据计算能力引发了人们同样的担忧。人工智能的道德决策是一个包括设计、制作、监管、使用多方共同参与的复杂问题，各个环节均可以对最终的决策结果施加一定影响。
其次，建立健全预立医疗指示体系，保障患者的自主权利能够在医疗决策过程中得到充分尊重。预立医疗指示体系的建立，可以有效避免外部因素对患者自主决定权的过度干预或影响。道德决策问题的难点在于不同道德因素之间可能存在的矛盾对立，原则主义正是试图通过整合四项基本原则，最终为人们提供符合道德直觉的统一道德规范性判断。问题在于，依靠数字整合的后果主义策略无法很好地适用于医疗决策这类特殊的道德决策情形。即便对于一个相同的决策行为，不同个体可能对此持有完全相反的道德主张。在行动者处于第一人称视角时，他会更加关注自身的幸福和利益，而不是某个陌生人可能的得失。
预立医疗指示代表了在特殊情形下患者道德主张的倾向，可以为不同道德因素之间的对立冲突提供必要参考。医疗人工智能在决策过程中的一大难点在于难以准确把握患者的真实需求，从而产生一些错误回答。在大语言模型展现出高质量的对话内容时，人们会倾向于将意向性等人类意识主体的独特属性赋予它。然而，大语言模型在机器学习过程并未真正理解了人类的思维，对自然语言的较好处理并不等同于对人类思想的良好模仿。幻觉问题正是大语言模型普遍存在的一个突出问题。具体而言，大语言模型会生成一些乍看合理，但实则偏离用户意图、偏离对话内容或者偏离既定事实的回答。预立医疗指示的建立有助于人工智能明确患者对特定道德因素的偏好，从而减少人工智能幻觉问题的出现。
最后，有必要对人工智能使用的范畴知识进行先验性检验，以明确医生介入的具体边界。人工智能可能使用未知的、无法验证的知识范畴，可能存在非主观的欺骗倾向，同时可能将存在于大众认知中的偏见与歧视不加甄别地继承到最终决策结果中。人工智能无法被视为完全意义上的道德行动者，其对道德决策中的种种规范性概念缺乏必要理解。人工智能接受了互联网上公开信息的机器学习训练，因而能够较为准确地回答来自执业医师资格考试的有关试题，但却并没有掌握作为医生应该具有的道德规范性知识。
因此，有必要对模糊认知地图在内的机器学习方法进行可证伪性质的监督学习。学界认为，波普尔提出的可证伪性概念要比可证实性更为可靠。更重要的是，可证伪性同时为人们提供一种检验知识范畴的明确标准，人工智能所使用的因果联系可以置于可证伪性下进行科学检验，增量（incremental）学习方法可以有效提高人工智能技术的可证伪性。通过对人工智能系统所使用的知识系统添加适当的先验条件限制，从而令人工智能系统最终的决策结果更贴合人们的日常道德直觉。
4 结语
人工智能技术为传统医疗决策过程带来了重大的伦理挑战。确定人工智能在道德决策过程的具体责任，不仅是制约着人工智能发展的重要问题，同时也是当前人工智能伦理研究密切关注的热点问题。人工智能技术的介入，重塑了道德决策过程中归责问题有关道德行动者以及道德责任的理解，适用于传统医疗诊治过程的相关概念难以被继续使用。临床医生的判断力是决定人工智能算法能否为人所接受的重要标准，但无法作为人工智能医疗责任的判别标准。多个道德主体的共同参与，构成了人工智能辅助医疗决策系统与传统诊治过程的重要区别。
本文聚焦于对模糊认知地图这一医疗人工智能可能路径的分析与讨论。通过模糊值的引入，模糊认知地图可以更好地模拟了人工智能医疗决策过程中种种道德因素的影响。以原则主义为伦理框架，借助深度神经网络和符号方法，模糊认知地图提供了一条实现患者以及医生道德关切的可能路径，包括道德主体的责任伦理要求可以借此实现到了人工智能系统设计中。世界卫生组织《医疗卫生中人工智能的伦理治理》明确，人工智能技术对于人类的透明性、可解释性以及可理解性，是人工智能全环节过程必须遵循的伦理原则。
需要明确的是，包括模糊认知地图在内的医疗人工智能在医疗归责问题上，仍然存在诸多难点有待解决。临床医生与人工智能有着不同的感知方式，因此在给定目标后，医疗人工智能有可能在自主学习过程中使用未知的、人类无法理解的范畴分类方法。包括模糊认知地图在内，医疗人工智能不仅需要令人满意地满足人们设定的任务目标，同时有必要为它的决策过程提供完满的、易于理解的解释与证明，以保证人工智能的决策过程对人类而言是透明的、可理解的。为此，一定形式的监督学习以及可证伪性验证是十分必要的，这有助于进一步明确医疗人工智能的具体边界所在。这不仅可以避免人工智能使用不被认可的因果范畴以完成学习目标，同时也可以避免人工智能产生潜在的伦理歧视。
国家社科基金一般项目“当代西方正义理论的新发展动态与批判研究”(22BZX014)
京公网安备11010202008535号
PDF
(599KB)
