2024年3月，“人工智能+”作为新质生产力首次被写入政府工作报告，并被赋予了与“各行各业”“各种应用场景”相结合的重要使命。智能算法与医学人工智能技术的有效结合，极大延伸了医学智能的研究领域，在影像筛查、辅助诊治、健康管理等方面发挥了重要作用。但鉴于智能算法自身在程序设计、数据分析、算力运行、结果输出等方面存有的弊端，其带来的科技正义、数据安全、主体追责等伦理问题也备受关注。如何弥合智能算法带来的医学科技伦理鸿沟成为不可回避的焦点议题。
1 智能算法应用于医学人工智能技术领域的新特点表征
2017年7月，《新一代人工智能发展规划》指明要“推广应用人工智能治疗新模式新手段”
［1］，这是中国第一个国家层级AI发展的中长期规划，也是中国面向2030年新一代AI发展的重要指导图。经过多年技术发展，加之智能算法在医学领域的广泛应用参与，极大促进了人工智能医学的快速发展，但也带来了诸多新特点表征。
1.1 学科交叉融合的复杂性
智能算法与医学人工智能技术本身隶属于工程学和医学两个不同的研究领域，其融合一方面孕育出了集医学、信号学、伦理学等多学科于一体的医学智能体、医学智能算法程序等新生产物，改变了医学领域原有的信息分发模式和技术范式，同时也超越了医学技术价值中立的立场与理论，带来了技术革新和技术福利；另一方面这也使得智能算法所在的工程学领域与医学领域产生交叉融合，学科逻辑思维、价值观念、运行方式等相互干扰的问题便难以避免。如，智能算法注重局部最优值，这与医学诊治强调的全局最优值存在差异，同样，智能算法更强调以算法程序甚至遗传算法为主的工具理性，这也与医学追求的“善”本位的价值理性理念有所区别。可见，学科的交叉融合带来的复杂性不容忽视。
1.2 科技伦理碰撞的冲突性
“智能算法”是指在工程实践中，经常会接触到一些比较“新颖”的算法或理论，要解决的一般是最优化问题，即在一个空间中寻找问题最优解，有着强烈的科技主义思维。“智能算法”运用于医学人工智能领域的主要目的在于引导医学智能体仪器自身强大的机器学习能力，通过算法程序的设定、数据输入与输出、结果分析推送等模式更好地模仿医者头脑与行为，以使机器具备分析识别、总结推理等高层次功能
［2］，以此发挥其重要的科学性和技术性功能。但智能算法下的医学智能技术也存在一系列伦理问题，如在实施过程中可能会出现一种技术由协助工具变为决策主导工具的现象，易在医学诊疗、救治、效果评估及人工智能辅助医疗等过程中存在机器编程合规性伦理、医患伦理、监管督责等问题，同时这又对诊疗中医患关系的界定和政策监管形成了严峻挑战。加之在医学人工智能的智能算法开发过程中，通常需要由来自生物医学、心理学、伦理学、经济学、法律政策等诸多领域的专家学者进行研究商榷，也极易引发关于“机器是否会独立思考？”“机器算法的出现是否一定会遵从科技伦理？”等问题的思考。
1.3 风险收益并存的双重性
智能算法与医学人工智能的合体体现了新兴技术的医学应用，这一新兴产品的研发与成果的广泛使用涉及生命生存、人类健康、科技进步和社会发展等多维度，具有风险受益的双重性和善恶用途的两面性。其“诞生⁃研发⁃使用”的过程离不开多领域的支撑，同样也面临来自多领域的风险。从诞生条件看，智能算法得以应用于医学人工智能技术需要得到大量的经济财力支持，尤其在前期设计研发中所需投入的成本较高；从研发过程看，该技术的开发离不开科研机构、科研人员的智慧付出，由于其蕴含的巨大科学和商业价值，极易出现技术治理“无人区”、科技伦理异化、普遍逐利性等难题，过分追求将成果转化为利益的价值引领往往会引发医学智能体在程序设置中的隐蔽性强、透明度低、不易预测监测及技术垄断性等技术或伦理风险。从使用的结果看，技术本身的复杂性使得技术作用的受众与受众对技术的认知水平存在明显不对称性，也极易引发健康医疗大数据泄露、医患关系紧张、责任归属认定不清等风险。
1.4 算法黑箱推算的隐蔽性
随着智能算法在医学人工智能领域的普遍应用，算法的“黑箱”问题成为绕不开的技术话题。“算法”（algorithm）是对任何程序化运算或自动运算方法的统称，其核心是一套能够保证机器按照设定程序运行以期获得理想结果的指令
［3］。“黑箱”则是指“为人不知的、那些既不能打开，又不能从外部直接观察其内部状态的系统”
［4］。算法黑箱可理解为用户在对算法程序存在认知差的前提下，无法正确掌握算法内容及其操控者的意图信息等，其本质是人类对人机关系的失控，具有不透明性、不安全性、不可解释性等特征。智能算法在医学人工智能领域的应用实质是医学智能体通过机器学习系统在一条条指令和代码的推算设定下独立自主地模仿人类进行医学实操的过程，而这种模式在透明度、数据安全及社会可解释性等层面均存在弊端。首先，由于算法程序设计中对知识专利权和技术隐私权的保护，算法本身就存在不透明性和难公开性，使得受众对象（医学患者）对医学新技术运行的诸多程序流程知之甚少，由此被蒙上了一层技术模糊的面纱；其次，借助精心推算的智能算法高度依赖于海量数据的堆积与高质量数据分析，故程序制定者的数据选取至关重要，但由于隐蔽性等特征存在，所选数据是否能达到“保护数据隐私－实现数据互通－提升数据质量”的要求就难以保证，数据安全问题存在潜在风险；最后，智能算法下的医学人工智能技术的作用对象一般为普通公众，公众由于自身技术素养局限对算法技术存在认知差，加之不透明性等因素易造成社会信息茧房、算法歧视问题。当出现责任追责情况时易出现不信任、不可控的局面，而该技术的不可解释性的算法模型又加大了问题解决的难度。
2 智能算法下医学人工智能技术的现实伦理挑战
《新一代人工智能发展规划》提出要建立快速精准的智能医疗体系，实现智能影像识别、病理分型和智能多学科会诊
［1］。这意味着人工智能在医学领域的探索已实现了从理论到实际诊断应用的新的科技革命。近几年，随着智能算法与医学人工智能技术融合程度的加深，也在一定程度上出现了算法偏见、数据安全、资源分配正义、责任归责认定等伦理挑战，对整个医学领域的发展产生了深远影响。
2.1 算法偏见下的科技正义问题
算法偏见是指人工智能系统在“算法黑箱”遮掩下可能出现的数据处理和决策不公平不公正等现象。人工智能由“分析式AI”发展为“生成式AI”，实现了数据分析处理能力的转型，即摆脱了之前单一的对数据本身的分析处理方式，进而生成了以“数字内容孪生能力、数字编辑能力、数字创作能力”
［5］为依托的三大创新能力。这不仅意味着新的人工智能体拥有了越来越像人类的可视化模型和人工神经网络技术，其深度学习速度、处理大数据的速度和能力获得了质的飞跃，同样也具备了“能思维”的智能特性，其自主创造力和决策裁断力变强的同时，也易在算法推算与决策中出现歧视与偏见。在医疗领域，这种算法偏见可能表现为医学智能体算法决策的歧视性、患者群体医疗资源分配的不正义、科林格里奇困境等科技伦理问题。其一，算法决策的歧视性。一般而言，智能算法应用于医学人工智能技术领域所发挥效力的大小取决于数据、算力、算法这三大人工智能核心要素，缺一不可。其中，算力是人工智能的“思维能力”，是计算机数据储存、显示、交换、访问和进行快速、精准、复杂运算的能力。算力直接决定了机器的学习能力和模型训练的效率。算法则是人工智能的核心，可简单理解为将数值输入转化为数值输出的一系列计算步骤，具体表现为在形式化的可计算性和可计算的递归函数
［6］。一旦算法模型在设定之初便在带有偏见的数据上训练，那么这些偏见会影响模型的决策结果。如在患者本就存在差异的性别、种族、年龄、家庭背景、职业等数据信息基础上进行训练处理，可能会直接导致算法输出上的差异与偏见，难以达到真正的正义。其二，医疗资源分配的不正义。算法偏见或歧视的存在易使某些患者群体受到不公正的待遇，医疗资源分配算法的设定能否兼顾偏远地区医疗机构或基层诊所？能否保证大多数普通老百姓受益？这是值得深思的问题。正如人工智能自动驾驶技术的算法设计一般，当事故发生时，应当遵循功利主义还是实用主义的价值观？应该首先保护驾驶员还是无辜的路人？应当遵循利益最大化还是幸福最大化原则？这些道德伦理问题实质也是算法程序制定时不可回避的伦理难点。其三，科林格里奇困境。这一概念是指英国技术哲学家大卫·科林格里奇在《技术的社会控制》（1980年）中提到的技术控制的两难困境
［7］，即一项技术过早或过晚实施控制，都可能面临结果难爆发或失控的难题，其后果是增加解决问题的成本或难以改变预期结果。当前智能算法医学人工智能技术日益成熟，但其带来的制度伦理、技术伦理、责任伦理等技术不可控风险同样与日俱增，这种不可控的根源在于智能算法程序、运算逻辑及进化过程中的公正性设定。换言之，只有解决了算法偏见问题，才能处理好所产生的伦理风险问题，才能解决好技术失控的科林格里奇困境。
2.2 算法算力下的数据安全问题
算法算力的水平以数据为核心基础，数据的收集、分析、处理、运输、存储及输出能力直接关乎智能算法在医学人工智能领域的应用效果。医学智能体在医疗诊治等辅助治疗过程中需依据智能算法模型指令的精准度，而这种精准度的模型依托算力在高质量数据库中对不同质量、数量、类型、性能的数据所进行的多重训练与优化，这也对数据的收集者和分析者提出了更高的要求。而对数据的高度依赖，在一定程度上易出现数据非正义的安全隐患。一方面，数据隐私泄露。医学智能算法模型的建立首先来自大量患者用户个人隐私信息的收集，患者的基本医疗信息等都会被有意无意地获取并保存，而部分数据的收集是在患者不知情的情况下获取的，从原则主义角度讲破坏了尊重自主的原则，也违背了患者的知情同意权。这些具有较高价值的数据一旦被不良企业或机构贩卖，大量的个人隐私信息将全部面临泄露的风险，个人对自身数据的控制权与自主权将不复存在。另一方面，数据独裁垄断。应智能数据采集的需要，能否对患者健康相关数据进行无限次采集？患者是否享有拒绝或同意的自主权？数据在采集后是否能够保证数据使用的正义性？数据会不会参与到竞争与交易的垄断活动中？这些发问都从侧面印证着算法公司或设计者对数据垄断的一面。此外，还可能出现因为数据垄断而导致的操纵舆论、制造假新闻等风险。
2.3 算法过错下的责任归责问题
当前智能算法广泛应用于智能临床辅助诊疗应用、医用机器人、智能公共卫生服务应用
［8］等多个方面，极大提升了医师的诊疗质量和工作效率，但也带来了责任归属认定难等一系列伦理问题。一方面，主体责任认定难。当前智能算法的诊疗使得医疗“去人化”现象明显，部分医师对智能算法人工智能的医疗辅助诊治依赖性较强，在智能算法的诊疗过程中一旦出现因算法过错而导致的医疗事故，其主体责任的认定问题较为复杂。如责任的承担者究竟应由谁负责？从法律主体上看，智能医学体本身作为一种人工智能辅助医学工具，不具有法律主体地位，而机器的拟人化同样不完全等同于人性化或人格化，因此责任的认定最终可能还是在机器之外的主体中进行选择。另一方面，主要责任归属难。当前中国人工智能问责机制不健全，加之智能算法的广泛应用改变了原有的“医-患”二元诊疗模式，使得在出现的“医-机-患”的“新三元”诊疗模式下的主要责任承担者的界定更具复杂性。在医疗事故担责过程中谁应承担主要责任？是算法程序设计者、AI辅助机器厂商、主治医师还是智能医学体实际操作者？这一难题易导致部分主体“责任空场”的出现。
3 智能算法下医学人工智能技术伦理问题的破解进路
在算法时代背景下，如何平衡智能算法技术与医学伦理责任，确保医学人工智能技术在切实维护患者权益和社会公正的伦理前提下推动医学智能化发展，是必须面对的重要课题。故亟须弥合智能算法在医学应用中的短板，从积极建立智能医学算法微观伦理制度体系出发，不断寻求智能算法在医学数据安全与保护、算法运行与监管、强化主体伦理责任等方面的破解进路。
3.1 建立智能医学算法微观伦理制度体系
当前，中国针对人工智能技术的相关制度立法逐步出台并开始同医学领域紧密结合。2017年出台的《新一代人工智能发展规划》作为中国第一个国家层级
AI发展的中长期规划，指出要在医疗领域“推广应用人工智能治疗新模式新手段”
［1］，从整体上部署了中国
AI的未来发展蓝图。2019年10月，党的十九届四中全会提出“健全科技伦理治理体制”的决定并写入国家治理的重要部分。2022年3月20日，《关于加强科技伦理治理的意见》发布。2023年10月18日，习近平总书记在第三届“一带一路”国际合作高峰论坛开幕式上明确提出“全球人工智能治理倡议”。可见，在“人工智能+医学”的发展趋势下，国家宏观层面已出台了相关法规意见以指导人工智能技术之下医学实践活动的有效实施。但上述具体文件仅为基础原则性条款，缺乏更为具体细致的制度指引。因此，国家积极推进完善智能医学算法领域的微观伦理制度体系刻不容缓。一要加快“智能算法+医学伦理”的专项立法。建立针对“智能算法”与医学技术伦理相结合的专项法律法规，尤其对“智能算法”的使用、输出、运行及影响等进行医学技术伦理层面的立法或制度界定，依托专项立法的硬约束强化其应用的技术标准、操作指引及价值引擎，以此最大化地彰显智能医学算法的科技向善本质。二要补充医学技术伦理现存微观制度。积极促进“智能算法”与已有医学微观伦理制度有效融合，重点可在医学技术伦理审查监管制度、风险评估制度、责任归属制度、组织保障制度等方面进行补充完善。如在智能医学算法的组织保障层面，可设立专门的算法伦理委员会以补充现有的医学伦理委员会，同时建立临床
AI伦理应急小组以及时应对因智能算法引发的医学伦理事故。三要保证医学技术伦理微观制度体系运转的协同一致性。建立基于医学智能算法的跨机构伦理审查互认机制，以此在技术监管、伦理风险监测、追溯问责、补偿救济等方面有规可循，实现伦理制度运转的标准统一性。
3.2 确立智能医学算法运行监管伦理监督机制
智能算法在医学人工智能中的良好运用得益于精准科学的算法运行。为保证算法真正遵循“科技向善”的指令要求需对智能医学算法的生成与运行进行全程监管伦理监督，而首要核心问题在于解决“算法黑箱”问题。首先，提升算法透明度与可解释性。算法程序设计者应提高科技伦理素养，积极落实世界卫生组织在《卫生健康领域人工智能伦理与治理》中提出的确保透明化、可解释性和可理解性的伦理原则
［9］，为不同知识背景的用户提供简单清晰的理解方式，促进用户理解算法决策内在的因果关系；其次，形成算法审计监督机制，确保算法决策程序的公正、透明使之符合伦理标准。在算法代码设计中处理好算法与医疗大数据之间的复杂性，减少算法歧视和个人主观价值观的融入，从源头生成医学智能体获取的“健康”语料；再次，加强算法技术伦理专业化监管。智能医学算法的实践应用需重视技术风险监测，可从创新算法技术风险监测机制的维度出发建立起集“卫健+网信+药监”为一体的三重技术监管机构，以专业医学算法技术人才为依托进行突击性“算法飞检”，并在医疗
AI伦理运行领域全方位部署监测探针，确保算法技术风险监测有迹可查；最后，强化算法运行的内外部监督。可通过建立“吹哨人”保护制度，从内部监督的层面完善医护人员针对智能医学算法伦理违规与否的匿名举报奖励监督制度，同时借助可视化工具和可解释性模型，帮助医学智能体使用者或患者提高对算法源代码与数据流的理解程度，从而确保使用者在更充分理解算法的内部逻辑的基础上实现医学伦理的外部监督。
3.3 健全智能医学算法数据安全保护伦理规范
从数据隐私泄露、数据垄断竞争到数据霸权主义，从数据过度收集、虚假信息泛滥到对算法数据环境的潜在操控，这些数据安全问题不仅对患者权益构成了挑战，更对整个医学界乃至整个社会稳定与安全带来了不可忽视的影响。因此，需从强化算法数据的源头防护、隐私保护和监测追踪等维度加以改善。一是强化医学算法数据生产端的“采集－传输－存储”数据源头安全伦理规范。从医学算法数据诞生的源头入手，提高数据生产者的医学伦理素养，明确算法数据采集、传播、存储、共享、销毁等各环节的伦理规范性，在源头防护上落实好数据加密等工作。二是构建全面的数据隐私保护伦理框架。智能算法之下的医学人工智能发展必须以数据隐私保护为首要前提，可借鉴“数据信托”保护模式，由第三方专业机构代理患者管理数据权益，构建一个包含但不限于数据最小化、去标识化处理以及严格的数据访问控制等原则在内的全面数据伦理框架。同时，通过算法隐私保护立法等方式确立数据泄露时的责任归属和救济途径，以增强对患者隐私权的法律保护。三是建立算法数据监测模式以促进数据正义。提高用户患者的数据主体自主权，保证数据使用的真实性、准确性和公开性，借助数据收集与使用的正义性来消除算法偏见。通过建立智能算法医疗数据“负面清单”，完善算法数据监测机制，不定时地评估医学人工智能系统在实际应用中的公平性表现，从而实现公平的数据共享，抵制竞争性风险的侵袭，确保数据存储安全、数据使用合规、数据流向透明，实现智能医学算法数据驱动下的医疗决策的社会公正性。
3.4 强化智能医学算法主体责任认定伦理标准
基于当前智能算法在医学人工智能领域的广泛实践以及医疗人员对医学人工智能技术过度依赖的现实情况，智能算法失误导致的责任追责问题成为伦理难点，需加以解决。一方面，改善新型人机的“价值对齐”关系，增强医患互认。在新型“医-机-患”的“新三元”诊疗模式下，由于智能医学体自身无法产生价值观，这便需要算法设计者在程序编写时能够最大化地保证医学智能体的价值观设定与人类价值观的匹配度，确保AI技术能以对人类和社会有益的方式行事，不对患者的生命价值和权利造成干扰和伤害。这便是人机的“价值对齐”，即人与医学AI机器的救人动机、“生命至上”的价值观等实现双向协同。也只有实现了人机的“价值对齐”才能真正增强患者对医疗救治的信任度，减少智能医疗事故过度追责的概率。另一方面，制定较为全面的智能医学算法主体责任认定伦理标准最为关键。鉴于当前智能算法主体责任认定制度缺失的现状，相关立法机关和科技伦理委员会可结合智能医学体的特征，借鉴产品责任适用过错责任、过错推定、二元归责等原则，对行为主体的责任大小与分类等进行责任追责认定，制定起相对公正合理的责任认定标准。
4 结语
智能算法应用于医学人工智能技术领域的技术机遇与伦理挑战并存，两者理论与实践相结合在一定程度上提高了医疗效率和诊疗准确度，但同样衍生出了学科交叉复杂、科技伦理交融冲突、技术伦理风险两重性、算法黑箱设计障翳等新特征。基于智能医学算法在医学实践操作中的伦理挑战，必须从智能医学算法微观伦理制度体系、算法运行监管伦理监督机制、算法数据安全保护伦理规范、算法主体责任认定伦理标准等维度加以完善，以此应对因算法偏见导致的科技正义伦理挑战、因算法算力运行过程而导致的数据安全挑战、因算法过错而导致的责任追责挑战等伦理难题，从而充分保证智能算法作用于医学人工智能技术的效能最优化，真正实现新型人机的“价值对齐”。
山东省本科教学改革研究项目“科技伦理治理背景下医学院校科技伦理教育体系构建与实践”(M2023230)
山东第二医科大学教学成果奖源头培育项目“‘双线联动·五维融合’：医学伦理学课程思政与思政课程协同育人模式构建与实践”(2023JXCGPY008)
山东第二医科大学2024年校级教育教学改革与研究课题“‘智能算法’背景下大学生网络主流意识形态教育提升研究”(2024SZZX010)
京公网安备11010202008535号
PDF
(493KB)
