科技伦理治理是医疗人工智能伦理能力和水平的重要体现，也是促进医疗人工智能事业健康发展的重要保障
［1］。当前在医疗卫生技术研发与应用实践过程中，新兴的人工智能技术带来了诸多便利，提升了人们的幸福感。然而，随之在客观上也带来了医疗伦理风险与难题，如隐私偏见、医疗伦理和道德考量、知情同意和医患纠纷等，有的甚至危及公众的健康和生命
［2］。因此，需要关注新兴医疗人工智能技术可能引发的对社会乃至对全人类的风险和挑战。本文应用CiteSpace软件了解国内外医疗人工智能伦理研究现状及趋势，分析国内外医疗人工智能伦理研究热点及前沿领域，为促进中国开展医疗人工智能伦理研究提供不同的视角，以期为推动中国医疗人工智能伦理治理体系建设提供参考，最终推进人工智能在医疗领域稳健发展。
1 资料和方法
1.1 文献数据库来源及筛选
研究选择Web of Science Core Collection（WOSCC）和中国知网（CNKI）两个数据库为数据来源进行医疗人工智能伦理相关文献的检索，英文检索式为“［AB=（ethic*）OR TI=（ethic*）OR AB=（moral*）OR TI=（moral*）］AND ［TS=（medic* OR biomedic* OR clinic*）］AND［TS=（“Artificial Intelligence” OR AI OR chatgpt OR “deep learning” OR “machine learning”）］”；中文检索式为“SU%=（‘人工智能’+‘AI’+‘chatgpt’+‘机器学习’+‘深度学习’） AND SU%=（‘医学’+‘医疗’+‘生命’+‘生物’+‘临床’）AND SU%=‘伦理’”。本文限定时间范围为“2000年1月1日到2024年7月11日”。在此时间限制内，筛选了与医疗人工智能伦理研究主题紧密相关的文献，去除与研究主题关联性较弱的文献，同时排除会议论文、信件、报纸等非学术研究文献以及重复发表的文献。
1.2 分析方法
本文基于文献计量学，通过CiteSpace 6.3.R1 Basic软件进行可视化分析，并生成关键词共现图谱、关键词聚类图谱和时间线图等图表，同时对国内外医疗人工智能伦理文献的发文量、作者机构关系、热点关键词演进趋势进行统计分析和可视化呈现，从而展示全球医疗人工智能伦理研究的知识全景。本文在评估网络图谱的绘制效果时，通过模块值（Q值）和平均轮廓值（S值）来进行，若Q值超过0.3，则表明所划分的社区结构具有较高的显著性；若S值达到0.7，则表示聚类结果令人信服，而S值在0.5以上，聚类结果通常被认为是合理的
［3］。
2 研究结果
2.1 文献计量学分析结果
2.1.1 发文量统计分析
基于WOSCC和CNKI两大数据库检索结果，经数据清洗后，研究者通过筛选文献题目、摘要或正文，排除与主题不符的部分文献，最终纳入1 940篇英文文献和453篇中文文献，发文情况详见
表1、
表2。在一定程度上，文献的发表时间和年度发文量分布，能够较为直观地体现该研究领域的研究热度和发展速度
［4］。由统计结果可见，国内外医疗人工智能伦理研究的发文量呈递增趋势（文献检索截止时间限定为2024年7月11日，故2024年发文量呈轻度下降趋势），2019年之后增幅更加明显，说明医疗人工智能的快速发展引起全球伦理学界的探讨。两者在2020—2023年呈持续上升趋势，国际发文量增速更快，与其相对应的国内发文量差距逐渐加大。
2.1.2 作者合作网络分析
对所查阅文献进行作者合作分析，具体见
图1、
图2。结果可见，国际作者合作网络图谱共有节点（N）214个，网络线（E）301条，网络密度（Density）为0.013 2。国内作者合作网络图谱共有节点192个，网络线101条，网络密度为0.0055。国内网络密度较国际偏低，表明国内作者之间的合作关系相对来说较松散。从作者个人参与频次来看，国际以Elmar Kotter、An Tang和Jacob L Jaremko三位学者发文量占国际总数量前三，且构成合作网络。在国内徐飞、关健发表中文文章数量占中文总数量前两位，而从作者合作网络看，国内医疗人工智能相关伦理问题研究分别形成了以黄鑫、李苏宁、袁天蔚、尹军祥、桑晓冬、阮梅花和卢珊等为中心的科研团队，形成一定的团队规模。总体上看，国内的其他研究团队相较于国际研究团队的发文量均较少以及作者之间关系较为稀疏。
2.1.3 机构合作网络分析
研究机构合作网络视图可以直观展示该领域科研力量的分布情况
［5］。国际上发文量排名前三的机构是哈佛大学（106篇）、伦敦大学（88篇）以及加利福尼亚大学体系（82篇）。此外，中心性最高的是加利福尼亚大学（0.16），其次为牛津大学（0.14）。国际机构合作网络图谱中共有201个节点，有763条连线，网络密度为0.038。国内发文量位列前三的机构分别是华中科技大学（7篇）、中国科学技术大学（6篇）以及中国生物技术发展中心（4篇），然而，这些机构的中心性均较低，提示它们在当前的研究合作网络中较为独立，尚未成为连接不同研究群体的重要枢纽。国内图谱中共有178个节点，有91条连线，国内与国际节点大多为科研机构、高等院校，国内网络密度为0.005 8，较国际网络密度偏低，这表明国内研究机构之间合作较松散。该领域研究机构多为高校，其次为研究所。国际机构合作多集中在高校间，形成以加利福尼亚大学和牛津大学等高校为核心较为复杂的合作网络。国内机构合作则主要在研究所之间展开，围绕中国社会科学院哲学所与中国社会科学院文学研究所形成合作网络，但整体合作仍显分散。机构合作分布详见
图3和
图4。
2.2 医疗人工智能伦理领域关键词分析
2.2.1 关键词共现网络分析
关键词作为文章内容的精炼和概括，能够映射出文献的核心议题。本文通过提取每个时间切片（1年）中的关键词，构建共现图谱。此图谱中，关系线随时间进展呈现颜色渐变，节点大小则与关键词频次成正比。因此，关键词共现网络有助于揭示不同主题信息之间的相互关联，进而辅助研究者深入理解该领域结构与特征。关键词共现网络结果详见
图5、
图6。关键词共现网络，高频关键词及其中心性结果见
表3、
表4。研究发现，国际中人工智能、机器学习、深度学习和大数据，以及国内的人工智能、伦理问题、伦理和医学伦理等构成了医疗人工智能伦理框架，关联性较强。
2.2.2 关键词聚类分析
关键词聚类图谱揭示了该领域多样化的研究焦点，将具有相似主题或语义含义的关键词归类，有助于深入理解和掌握相关主题与概念。通过对数似然率（LLR）算法对所纳入文献关键词进行聚类分析，最终得到国际与国内关键词聚类图谱。国际Q=0.862 1，国内Q=0.838 5，均超过0.3，表明所划分的结构具有较高的显著性；同时，国际S=0.930 7，国内S=0.967 3，均超过0.7，由此表明聚类的结果是可信的。分析详见
图7、
图8。图中包含10个源于关键词代表聚类的标签，聚类序号为#0至#9，序号数字越小，表明该聚类中包含的关键词越多。图谱内的连线大多数存于聚类内部，但也存在一些跨聚类的连线。
2.2.3 时间线图分析
在关键词聚类基础上，绘制关键词时间线图，观察聚类关键词的时间动态变化
［6］。分析结果详见
图9、
图10。国际上，2017—2024年相继出现了如大数据、深度学习、公共卫生和致死性疾病等较多热点关键词；国内在2016年—2021年也先后出现了医疗伦理、智慧医疗、医患关系、大数据、伦理治理和科技伦理等热点关键词。至今国内外出现大量热点关键词的时间连线，包括聚类内部和跨聚类的连线，呈现出该领域研究爆发性的态势。
2.2.4 关键词突现分析
对关键词进行突现分析，可根据关键词阶段性地衰落或兴起，预测该领域的发展趋势及前沿热点。国内外医疗人工智能伦理研究领域关键词突现统计结果见
图11、
图12。整体来看，大数据、医学伦理、智慧医疗等是国内外共同的研究热点，除此之外，二者也各具特色，计算机辅助诊断/检测、卷积神经网络、医疗器械、知情同意等是国际较多关注的热点词，而国内学者对科技伦理、责任伦理、伦理价值等更加关注，由此可见，国际更加关注公共卫生领域的人群健康和卫生保健的伦理问题，国内学者更加倾向于理论探讨和伦理原则制定。
3 讨论
3.1 国内外医疗人工智能伦理研究热点演变分析
医学及生命科学技术的迅猛发展，给人们带来健康福祉的同时，也带来诸多伦理、法律等社会问题，从发文量来看，国内外近几年该领域发文量激增，国际发文显著高于国内，因此，中国学者应更加重视医疗人工智能伦理问题的研究。根据关键词突现结果看，国际上“大数据”是2017—2020年研究强度最高的关键词（8.37）。2019—2022年，学者对“治疗”“认知行为疗法”“计算机辅助诊断”“初级保健”和“医疗器械”等研究增多。2020年12月，DeepMind 公司宣布其 AlphaFold 系统能够可靠地预测蛋白质的三维形状问题；南非的研究人员将机器学习模型用于管理数据和预测信息。由此可见，国外医疗机构对医疗器械与系统进行深入研究并取得相应成果
［7］。而2022年至今则陆续出现了“联邦学习”“障碍”“计算机辅助检测”和“知情同意”等关键词，由于医疗人工智能技术本身的复杂性和不确定性，如算法“黑箱”、算法的不准确性和误差问题，患者需要知晓这种可能存在的不准确性，以便他们能够权衡接受人工智能辅助医疗服务的风险和收益。
从国内来看，2020年至今突现强度最大的关键词是智能医疗（2.4），其次是科技伦理（2.14）。2018—2021年，“大数据”“医患关系”“伦理道德”“医疗健康”等成为研究热点。“大数据”作为国内外均出现过的医疗人工智能伦理关键词，因为“许多机器学习方法都是由数据驱动的”，而“大数据”作为医疗人工智能的基础处理方法，成为了国内外共有的关键词
［7］。2018年中国出台的《关于促进“互联网+医疗健康”发展的意见》提出，促进人工智能与医疗健康融合发展的一系列政策措施。有学者提出人工智能用于医学领域，在促进服务效率提升和服务质量改进的同时，伴随而来的伦理问题也不容忽视
［8］。2021年以来，科技伦理、责任伦理、伦理价值和道德增强等是研究热点词汇。2021年习近平总书记主持召开中央全面深化改革委员会第二十三次会议强调，科技伦理是科技活动必须遵守的价值准则，要健全多方参与、协调共治的治理体制机制，塑造科技向善的文化理念和保障机制。2022年，中共中央办公厅、国务院办公厅发布《关于加强科技伦理治理的意见》，明确具体的治理要求和科技伦理原则，健全了科技伦理治理体制。由此可见，该领域的研究热点在一定程度上受到国家政策驱动。另外，医疗人工智能的广泛应用以及其使用责任是由多方主体共同承担，致使在复杂的系统中明确责任归因尤为重要，因此，责任伦理、道德增强等成为国内研究热点。
综合上述分析，国内外医疗人工智能伦理关键词的差异反映了不同国家和地区以及医疗机构在医疗人工智能技术应用和发展方面的侧重点和关注点有所不同。由于国家的政策扶持、技术水平、人工智能开发方向、患者等情况不同，学术研究的关键词也有所差异。
3.2 国内外医疗人工智能伦理研究热点分析
3.2.1 医疗人工智能伦理的理论研究
人工智能发展冲击了伦理学领域，使得其开始发生方向性转变，伦理学理论研究对医疗人工智能伦理问题给予了广泛关注和讨论。关键词爆发强度在国际排首位的是大数据，其从2017年突现。医疗大数据具有增强患者预后和降低医疗保健成本的潜力，为癌症护理带来质的变化
［9］，但也有学者提出了伦理风险，如Lepri等
［10］认为在大数据人工智能推广和临床决策过程中，使用人工智能通常需要在数据集上训练机器学习算法，从而推断出从未披露的患者个人信息，这些数据集可能包含敏感信息，由此加重了人们对于隐私相关问题的担忧，而部分担忧可能会影响健康数据在人工智能研究和药物研发中的有效使用。除了隐私问题，在人工智能系统的研发和统筹安排的进程中，大数据还会产生与人工智能偏见相关的严重问题。还有学者认为，如果人工智能训练的数据包含任何程度的偏差，将会导致广泛的系统分析错误。例如，由于数据访问、计算能力等关键资源在地理、种族和财政方面并不均衡分布，从而有可能产生人工智能偏见问题
［11-12］。
国内已有研究表明，近几年机器学习算法构建的人工智能系统在医疗领域的创伤救治中取得了较好成绩，人工智能也能以机器学习和数据开发的形式推断患者未来病情的变化趋势
［13］。李希等
［14］医学人工智能构建需使用大量个人敏感信息，并且系统难以彻底清除个人信息痕迹，隐私泄露风险持续存在，科技创新带来的新型数据安全挑战将制约和限制医疗人工智能的发展。刘英杰等
［15］提出在智慧医疗领域，人工智能即使可以提高医生的诊断效率，为患者提供个性化的医疗建议，但仍会受到数据质量与数据保护的制约，二者的不确定性潜藏患者隐私安全风险，致使患者面临“个人大数据”泄露风险。数据科学及其在机器学习和更广泛的人工智能领域的发展必将推动医学发生重大的变革，但同时也可能带来一定的风险，对其隐私、公平、安全等的担忧仍然存在。
3.2.2 新兴医疗人工智能技术及其伦理风险
从关键词聚类和突现结果来看，二十多年来涌现出人工智能、医学伦理和道德、大数据、知情同意、机器人和深度学习等新兴领域。国际上，计算机辅助诊断/检测、医疗器械、深度学习等从2020年至今为持续研究热点，其引发的伦理问题始终被学者关注。有学者开发概念化的应用程序以期解决上述难题，如Meier等
［16］展示了如何使用基于Beauchamp和Childress初步原则的算法来为医疗机构中发生的一系列道德困境提供建议，从而展现出如何选择模糊认知图来建立咨询系统和机器学习训练。已有研究表明，通过将偏好预测人工智能视为具有独特生命周期的社会支持系统，旨在讨论如何完美地塑造算法的使用、评估和持续改进，以协助临床实践中道德挑战性的决策和首选支持证据
［17］。
从国内来看，道德增强从2021年开始突现，伦理困境和伦理价值从2022年开始突现，成为医疗人工智能领域备受关注的话题。目前，在引入使用先进数据科学支持临床实践伦理决策的系统时，可以观察到关于伦理支持、临床决策支持系统和人工道德主体的三种不同论述的融合。王圆明等
［18］认为人工智能在医疗决策中的伦理风险主要涵盖隐私泄露、责任归属认定、资源分配等，而上述伦理风险的产生可归属于技术缺陷、算法歧视性以及相关法律法规不健全。也有研究者创新性提出“数据—算法—应用—法律”四位一体的治理框架，强调通过构建“政产学研医”的协同生态系统，深入识别医疗领域大模型面临的伦理风险，实现AI技术创新与伦理约束的良性互动，为医疗行业的智能化转型提供坚实的伦理基础，以预防和减少可能引发的社会和道德风险
［19］。朱雪波等
［20］技术理性的扩张正引发医学伦理的深层危机：算法“黑箱”侵蚀着医患信任的透明度，而数据至上的诊疗逻辑则压缩了人文关怀的温度。在这一背景下，如何在技术应用的效率与人文关怀的价值之间找到恰当的平衡点，已成为现代医疗实践必须直面的核心议题。
3.2.3 医疗人工智能伦理治理及规制
伦理治理即以伦理原则和规范作为约束人类活动的手段和政策工具，要求人类活动的基本导向以造福人类为目的。在医疗人工智能的伦理治理中，应确保数据的客观无偏见，提升算法的公平性及应用结果的可解释性，同时需关注临床应用中因算法偏差导致的不公问题，切实维护患者的健康权益公平
［21］。一是对于人工智能个性化诊断工具而言，确保透明算法、数据安全和隐私、持续的多学科合作和患者参与的需求至关重要
［22］。在隐私性问题上，可通过差分隐私技术、同态加密技术等密码学技术
［23］或合成数据保护隐私，但也应该注意这些技术对准确性的潜在影响。在预测和塑造技术救治心脏衰竭等特定领域应用人工智能时，应采取严格的科学验证和伦理监督来提高人工智能应用的可靠性
［24］。二是在医疗人工智能应用过程中，负责任、公平、有效尤为重要
［25］。在公平性问题上，应在全民科学、开源软件和提高多样性方面采取行动
［7］，为确保人工智能教育资源的公平获取，必须解决使用障碍问题并关注数字鸿沟，特别是为服务不足的社区提供技术和互联网连接，且人工智能系统应适应不同学习方式和认知能力，以增强障碍人士的可访问性，从而让更广泛的患者群体受益于技术进步
［26］。此外，Haltaufderheide等
［2］强调了解技术特点对于伦理治理的重要性。在了解各领域技术特点的基础上，Li等
［27］建议开发专门为各领域量身定制的统一伦理框架，即质量控制和监督机制、数据和隐私保护、可解释性和透明度、公平和平等对待、学术诚信和道德规范、问责制和可追溯性、保护和尊重知识产权以及促进教育研究和创新。
2021年，世界卫生组织发布《关于健康人工智能的道德和治理指南》，概述了六项共识原则，以促使人工智能造福人类。2023年发布的《人工智能促进健康的监管考虑》，探讨了人工智能在医疗保健和治疗开发中的开发和使用的监管和健康技术评估概念以及良好实践。2024年发布的《医疗人工智能伦理和治理指南》，聚焦于多模态大模型，总结了其在公共卫生和医疗领域的广泛应用，以及对各国政府和技术公司的建议。2018年，中国出台了《全国医院信息化建设标准与规范（试行）》，对医院开展疾病风险预测、医学影像辅助诊断、临床辅助诊疗、智能健康管理、医院智能管理、虚拟助理等人工智能应用提出具体要求，进一步细化了医院信息化建设中人工智能应用的标准。2023年科技部等十部委联合印发《科技伦理审查办法（试行）》，将伦理审查制度应用于人工智能领域。由上可见，世界范围内均重视医疗人工智能伦理治理问题，相关组织和国家制定和执行监管标准，确保人工智能技术在卫生健康领域的安全性和有效性，要求透明度和前瞻性测试，并激励开发者解决安全问题，同时进行强有力的上市监测
［7］。
3.3 国内外医疗人工智能研究前沿及发展趋势分析
从时间线图分析及关键词突现来看，目前医疗人工智能伦理持续受到关注的热点话题主要是机器学习、大数据、计算机信息技术等新兴领域，而关注的主要内容是道德、伦理问题、伦理责任等方面。中国重点关注构建伦理机制和原则。例如人工智能引发的责任伦理、公平问题和伦理困境等得到伦理界的广泛关注。国际上研究重点侧重于生命科学技术和医疗保健领域，例如认知行为疗法、计算机辅助诊断/检测和知情同意。国内外研究热点存在差异的可能原因：一是中国人工智能技术在医疗领域的应用虽然晚于国外，但发展速度迅猛，由此带来的责任伦理、公平问题和伦理困境等日益凸显；二是中国传统文化对于公平正义有着独特的理解和追求。在医疗人工智能的应用中，更关注患者公平地享受到技术带来的益处，避免因技术应用导致的医疗资源分配不均等问题。
另外值得注意的是，国际上在医学与健康领域还更多地对公共卫生、健康政策和疾病防控方面进行研究，而国内较少关注公共卫生和卫生制度的伦理学。近20年的研究前沿不仅关注科技的基础理论探索，也对传统医疗卫生、健康政策以及新兴科技的伦理风险识别与治理等领域给予了高度关注
［28］。未来AI医疗的演进路径涵盖构建高效数据共享体系、健全监管规范与标准、推进普惠医疗与个性化精准医疗等维度，亟需医学、计算机科学、哲学、管理学等多学科的协同共建
［29］。总之，医疗人工智能的伦理治理是全世界面临的共同挑战，不是短时间的治理就能实现的，要达到和实现医疗人工智能伦理治理目的，还需要继续加深医疗人工智能伦理治理差异性与共识性的研究。
4 结语
新兴医疗人工智能的创新发展将引发新的伦理考量，而医疗人工智能伦理是医疗人工智能领域需要遵循的价值理念和行为规范，引导医疗人工智能技术向善。本文利用CiteSpace可视化分析工具，对国内外医疗人工智能伦理问题从发文量、作者合作网络和国家及机构合作网络三方面分析该领域研究的演进情况，并通过关键词聚类、时间线以及突现图探讨国内外医疗人工智能伦理研究热点，主要是医疗人工智能伦理的理论研究、新兴医疗人工智能及其伦理风险和医疗人工智能伦理治理及规制三个部分。另外，本文根据关键词突现图对未来研究热点趋势进行了推测，希望有助于有关方面对医疗人工智能伦理风险进行前瞻性预判，以推进中国医疗人工智能伦理治理能力快速提升，促进中国医疗人工智能事业健康有序地发展。
2023年国家级大学生创新性实验计划项目“互联网医院公众使用意愿及优化路径研究”(USIP2023051)
2023年河北医科大学人文社科创新人才支持计划项目“新时代中国特色医学伦理原则及演进研究”(ydskrcjhzp202301)
京公网安备11010202008535号
PDF
(2338KB)
