医疗领域大型多模态模型伦理治理的困境与策略

Dilemmas and countermeasures for ethical governance of large multimodal models in the medical field

摘要

大型多模态模型在医疗领域的应用显著提升了效率，但也伴随伦理和安全风险。在医疗质量保障方面，大型多模态模型存在数据质量差、过度依赖和技能退化的风险；在患者安全方面，存在信息误解和隐私侵犯的风险；在责任与问责方面，存在临床责任界限模糊和法律框架不完善的风险；在医学可持续发展方面，存在治理评价制度缺位，环境影响与气候变化监测不足的风险。为应对这些困境，提出了一系列伦理治理策略：在医疗质量保障方面，需要提升训练数据质量、优化数据保护策略、加强跨部门协作和监管、提升数据标注专业性，并建立伦理审核机制；在患者安全保障方面，需要提升公众数字素养、建立透明的数据处理机制、推动公众参与伦理治理、加强输出结果的透明度和解释性，并鼓励学界开展实证研究；在责任与问责方面，需要建立明确的责任分配框架、加强临床责任与AI责任的区分、强化法律法规和政策支持，并建立使用者资质认证制度；在医学可持续发展方面，需要建立系统化的治理评价制度、推动社会实验和第三方监测、预测医学发展的人力需求、监测和预警气候变化对健康的影响，并增强利益相关方的合作与沟通。总之，大型多模态模型在医疗领域的应用需要综合考虑伦理、安全、责任和可持续发展等因素，通过多方共治和系统化治理，确保在技术进步的同时保障医疗质量和患者权益。

Abstract

The application of large multimodal models （LMMs） in the medical field has significantly enhanced efficiency， yet it is also accompanied by ethical and safety risks. In terms of medical quality assurance， LMMs face risks such as poor data quality， over-reliance， and skill degradation. Regarding patient safety， there are risks of information misunderstanding and privacy infringement. With respect to responsibility and accountability， there are risks of vague clinical responsibility boundaries and incomplete legal frameworks. As for sustainable medical development， there is a lack of governance and evaluation systems and insufficient monitoring of environmental impacts and climate change. To address these challenges， this paper proposed a series of ethical governance countermeasures. In terms of medical quality assurance， it was necessary to improve the quality of training data， optimize data protection strategies， strengthen cross-departmental collaboration and supervision， enhance the professionalism of data annotation， and establish ethical review mechanisms. Regarding patient safety， it was crucial to improve public digital literacy， establish transparent data processing mechanisms， promote public participation in ethical governance， increase the transparency and interpretability of output results， and encourage empirical research in the academic community. With respect to responsibility and accountability， it was essential to establish a clear framework for responsibility allocation， strengthen the distinction between clinical and AI responsibilities， reinforce legal regulations and policy support， and develop a qualification certification system for users. As for sustainable medical development， it was essential to establish a systematic governance evaluation system， promote social experiments and third-party monitoring， predict the human resource needs of medical development， monitor and warn about the impacts of climate change on health， and enhance cooperation and communication among stakeholders. In summary， the application of LMMs in the medical field requires comprehensive consideration of factors such as ethics， safety， responsibility， and sustainable development. Through multi-party co-governance and systematic governance， it ensures that medical quality and patients’ rights and interests are safeguarded while advancing technology.

关键词

大型多模态模型 / 伦理治理 / 患者安全 / 问责框架 / 可持续发展

Key words

large multimodal models / ethical governance / patient safety / accountability framework / sustainable development

大型多模态模型（large multimodal models，LMMs）是生成式人工智能中的一种类型，因该模型不仅可模仿人类交流，同时其查询或咨询的结果输出类似人类思考且看似权威，而被用户快速采用和接受^［1］。在医疗领域，LMMs的应用场景包括临床辅助诊断、临床辅助护理、患者的虚拟医疗助理、医疗文书与医务行政工作、临床与护理教育、医学研究与药物开发等^［2-6］。LMMs作为一种全新的技术接入卫生系统，给医学教育、医学研究带来工作效率提升^［7］，但也带来了新的潜在风险^［8］。

1　LMMs伦理治理的必要性

从医疗质量视角看，若部署的LMMs的训练数据质量不合格，可能会导致在临床诊断中出现不准确、不完整或错误，或呈现伦理偏见的回答。如果医护人员贪图工作便利，工作过程中过度依赖LMMs决策，不仅可能带来医护人员技能退化的潜在风险，也有可能会因为偏信LMMs回答的输出而带来医疗质量问题的潜在风险。在LMMs使用中，虚假应答（俗称“幻觉”）和自动化偏见是最显著的风险，这两类风险最大的伤害是影响医疗决策准确性^［9］。尤其在越来越多的责任转移给LMMs后，长期以来医疗专业人士的能力会下降，能力丧失可能会导致医生无法自信地推翻或质疑算法的决定，或者在网络故障或安全漏洞的情况下，医生将无法完成某些医疗任务^［10］。更甚者，如果LMMs和其他形式人工智能被纳入常规医疗实践，患者或医护人员即便不满或不愿完全或部分依赖人工智能技术，也可能无法撤回使用该技术的同意，使得临床责任移交计算机，医生不使用AI就无法提供医疗服务。

从患者安全视角看，患者使用LMMs虽然可以提高对医疗状况的理解以及帮助管理健康状态，然而在医疗系统外提供医疗服务的潜在风险会因患者医疗认知不同、患者辨别不准确、不完整或虚假陈述能力不同而被放大，致使不安全医疗事件的发生，甚至操纵患者作出不法行为。在以患者为中心的LMMs相关应用中，也可能产生对患者的操纵和缺乏隐私保护等风险。这两类的风险可能会严重损害患者的健康利益。LMMs驱动的聊天机器人可根据对话者情况调整对话模式，这种方式可能变得更有说服力和更容易上瘾，从而说服对话者采取违背自身利益或福祉的行动，如比利时一名焦虑患者在与聊天机器人进行6周的深入对话后自杀身亡。此外，心智尚未成熟、价值观塑造中的儿童心理或身体健康与LMMs交互更需引起关注^{［7-8，11］}。

从医学长远发展看，使用LMMs加快了医学研究速度，缩短了药物开发研究周期，然而LMMs无法让算法对内容负责，捏造或生成不存在的信息和/或参考文献，将会带来科研造假扩大化的潜在风险，破坏科学研究的关键原则。这些虚假信息作为训练数据进一步被LMMs模型吸收，将会进一步破坏模型训练数据的质量，质量不合格或存在偏见与偏差的训练数据又将进一步扩大模型输出不准确、不完整或错误回答以及偏见回答的风险，伪造数据将对医学长远发展带来严重的阻碍。在LMMs使用过程中，LMMs尽管提供的是似是而非的回应，但逐渐被视为知识来源，这最终可能会削弱人类知识的权威，取代人类对知识生产的控制，而且可能削弱人类在医疗、医药和其他领域安全使用知识的能力^［12-13］。尤其是在没有专业医疗人员或医疗服务提供者对LMMs生成的错误或不准确回应进行标注或纠正的情况下，错误医疗健康信息的传播会造成极大的危害。事实上，LMMs并不产生知识，然而其向公众领域和知识库释放越来越多的不完善信息和虚假信息，在污染公共信息来源的同时，也可能会作为“有毒语料”导致“模型坍塌”^［9］。

由此可见，开展医疗领域人工智能安全治理与伦理风险防范对保障医疗卫生工作质量至关重要，该议题引起了全球的关注。2024年1月世界卫生组织发布的《医疗领域人工智能伦理与治理：大型多模态模型指南》对医疗领域AI应用具有重要的指导作用。

2　LMMs伦理治理的困境

医疗质量保障层面，如何避免 LMMs 训练数据不合格造成对医疗质量的不利影响存在现实困境。对于开发者而言，LMMs构建受到算力影响外。其数据集的数据质量和数据规模也会密切影响LMMs的训练质量，治理LMMs训练数据质量问题的现实困境之一是数据规模与数据保护之间冲突^［14］。由于医疗领域的LMMs所使用数据源于医疗业务场景，涵盖更多的个人敏感数据，《中华人民共和国数据安全法》和《中华人民共和国个人信息保护法》对数据使用以及数据授权做了非常严格的规定，在遵守法律规定的重要前提下，开发者在训练医疗LMMs时，可能不得不依赖于较小的数据集进行模型训练，以达到数据合规使用的要求，但难以保证数据质量和数据规模。对于部署者和政府监管而言，随着LMMs的大量部署，部署者监管LMMs模型自动生成训练数据质量存在现实困境。不少开发者会通过LMMs模型自动生成训练数据反哺模型训练的数据规模需求。因此，LMMs模型训练数据的元数据源于哪些机构、数据集是否由具备医疗专业学科背景的人员标注、数据集有多大程度源于AI技术标注、数据集有多大程度使用了其他LMMs自动生成等关于训练数据的构成情况并不透明。

患者安全保障层面，如何快速提升公众参与LMMs安全治理素养存在数字鸿沟的现实困境。随着LMMs技术发展带来一系列数据泄露和隐私侵犯事件的发生，民众对技术开发者和提供者能否妥善处理和保护他们的个人信息持怀疑态度，这种信任危机促使用户在使用新技术时更加谨慎。然而大部分人对于如何保护个人隐私、数据是如何被处理和储存的、如何识别和防范潜在风险等方面的知识较为有限，知识差距影响他们采取有效的措施来保护自己。同时，由于LMMs使用的接受度在不断增加，公众往往愿意牺牲部分隐私保护以获得效率上的便利。此外，数字鸿沟可能会让公众对于LMMs输出的真实性判断产生极大的分歧，这时公众参与LMMs伦理治理时可能会成为风险中的一部分。目前国内学界少有研究实证探讨公众对医疗AI的认知与态度，研究对象主要聚焦于医疗从业者，而来自不同背景、拥有不同知识和经验的人提出的观点和担忧，有助于揭示那些可能在专业领域内部被低估或漏掉的伦理挑战^［15-16］。

责任与问责层面，如何清晰界定LMMs事故责任与问责存在现实困境。随着AI技术在医疗领域的日益普及，现有的法律框架尤其是针对AI的法律规定尚未完善，关于医疗事故责任、产品责任等涉及AI的技术造成患者或部署者（如医疗机构）损害时，如何进行责任认定尚未有更新^［15］。尤其是嵌入式人工智能的医疗服务提供过程中涉及各类产品，如智能便携设备、远程医疗系统、远程健康监测系统、健康云平台等参与其中，涉及法律主体包括设备开发商、软件开发商、网络运营商、服务提供商等，若在服务过程中发生意外事件，其责任界限模糊造成事故责任认定困难^［17］。在仍以医生为医疗决策重要主体的现阶段，即便由于AI系统缺陷或AI应用场景不当造成不良事件时，往往都把临床责任归结于医生。若产生患者隐私和数据保护问题时，往往又把责任归结于医疗机构。这种现状虽然会促进医生和医疗机构重视LMMs的安全治理和伦理风险防范问题，但清楚LMMs本体潜在风险的开发者往往因为可能逃避相关责任而忽视安全治理与伦理风险防范，尤其是因为训练数据质量或模型可解释性欠佳等情况造成的事故将可能发生责任推诿的状况。为此，谁对人工智能的开发合规性负责？谁对人工智能使用的条件的适当性负责？谁对人工智能使用者资质合规性负责？谁对受到人工智能决策不利影响的个人和群体给予及时的慰问与补助^［18］？以上的问题在现阶段的法律体系中尚未有明确的答案。此外，LMMs在未征得个人同意情况下从互联网收集和使用个人数据、未曾告知公众正在使用其数据，且不能给予用户纠正、删除、拒绝使用这些数据的权利，没有适当的“年龄门槛”、没有获得相应的培训资质、不能防止个人信息泄露、涉及敏感数据界面不够完全透明等等是当前LMMs部署中常见的问题，常常导致隐私权和其他保护措施受到侵蚀^［19-22］。

医学可持续发展层面，如何落实以《医疗领域人工智能伦理与治理：大型多模态模型指南》为代表的“软法”性规则的治理评价制度缺位。虽然世界卫生组织对政府、开发者和部署者在医疗领域使用大型多模态模型（LMMs）的安全治理与伦理风险防范提出了一系列的要求与建议^［9］，这仅仅是为治理评价方向提供了参考，至于由哪些机构执行具体行动，经过怎样的组织过程，何时进行评价，如何采集相关评价数据，如何反馈与应用治理评价结果，如何进行评价管理等相关的评价制度、评价标准和评价工具都尚未在现实中落实。当缺乏相关的制度构建时，往往由于治理中可能会涉及各利益相关方的经济利益损害，各方将有可能处于停滞不前的观望状态。即便有研究者或第三方机构提出通过社会实验等方式监测和评估LMMs可能存在的潜在伦理风险时，也难以得到利益相关方的支持配合以及相关经费的支持。尤其是随着LMMs在医疗卫生系统覆盖范围的扩大，LMMs市场同时也带来对当前和未来医护人员数量的影响，同时也会对未来医护人员的工作内容变化产生影响，如何通过治理评价预测医学发展的人力需求？此外，LMMs规模的不断扩大需要消耗大量的能量^［23］，这些电力消耗和水量消耗对环境气候变化也产生重大影响，环境气候变化也将对全球健康带来挑战，如何监测和预警这些气候变化对全人类健康状态带来的影响以及未来医学服务需求？

3　LMMs伦理治理策略

秉承《医疗领域人工智能的伦理与治理》《医疗领域人工智能伦理与治理：大型多模态模型指南》等综合指南的六项原则^［9］，保护人类掌握医疗系统和医疗决策的自主权以促进人类福祉、人类安全和公共利益的前提下，解决LMMs伦理治理在医疗质量保障层面、患者安全保障层面、责任与问题层面以及学科持续发展层面所呈现的现实困境是一项长期的系统性治理工程。伦理治理过程涉及LMMs全生命周期，伦理治理的责任主体不仅仅针对LMMs的开发者，向医疗卫生机构或患者群体提供LMMs服务的供给者以及部署了LMMs的医疗卫生机构作为部署者都有责任为LMMs的健康危害风险做好预警，政府在LMMs伦理治理中更是创造良好治理生态的责任主导者。以下将围绕LMMs开发、提供及部署的过程中开发者、提供者、部署者及政府如何解决LMMs伦理治理的现实之困展开策略分析。

医疗质量保障层面，治理策略重点在于高质量训练数据保障。可以采取以下策略进行提升：第一，增强数据质量管理和透明度。开发者在开发LMMs时，必须严格控制和管理数据质量。在数据收集阶段，应优先选择具备高可信度和高质量的数据源，确保数据的准确性和完整性。同时，开发者应详细记录数据的来源、采集过程和标注方法，并向政府监管机构提供透明的数据管理报告。通过建立健全的数据质量管理体系^［24］，开发者可以有效减少不合格数据对模型训练的负面影响，提高LMMs的输出质量。第二，优化数据保护和使用策略。为了解决数据规模与数据保护之间的冲突，开发者可以探索和应用数据匿名化和去识别化技术，确保在使用大量数据进行模型训练时，仍能保护个人隐私和数据安全^［25］。开发者还可以与医疗机构合作，获得合法授权的数据集，确保数据使用的合规性。此外，采用联邦学习等分布式机器学习技术，可以在不直接共享数据的前提下，充分利用不同机构的数据资源，提高模型训练的数据规模和多样性。第三，加强跨部门协作和监管。政府监管机构应与医疗机构、数据提供者和技术开发者建立紧密的协作关系，共同制定并实施LMMs数据治理的标准和规范。通过设立专门的伦理委员会，监督和审查LMMs的开发和部署过程，确保符合伦理和法律要求。政府可以推动数据共享平台的建设，促进不同医疗机构之间的数据交流和共享，同时加强对数据共享过程中的安全监管，防止数据泄露和滥用。第四，提升数据标注的专业性和自动化水平。为了提高训练数据的质量，开发者应优先使用具备医疗专业知识的人员进行数据标注，确保数据标注的准确性和专业性。同时，可以研发和应用AI辅助标注工具，提高标注效率和一致性。在确保数据质量的前提下，适当引入自动生成的数据作为补充，但需严格审查其来源和质量，避免依赖低质量或未经验证的数据源。第五，建立健全LMMs伦理审核机制。部署者和开发者在部署LMMs模型时，应建立严格的伦理审核机制，对模型的训练数据和输出结果进行全面评估。对于可能存在的伦理风险和数据质量问题，应及时采取措施加以修正和优化。政府监管机构应制定相应的法律法规，明确LMMs模型开发和部署的伦理要求，并定期对其进行审查和评估，确保模型的使用符合公共利益和伦理标准。

患者安全保障层面，治理策略重点在于提升公众数字素养与推进技术共享共治。第一，提升公众数字素养和隐私保护意识。为了弥合数字鸿沟，政府和医疗机构应当开展广泛的公众教育活动，利用线上和线下的多种渠道，向公众普及LMMs相关知识，尤其是数据处理、储存和隐私保护方面的知识。这些教育活动应当通俗易懂，结合实际案例，帮助公众理解如何识别和防范潜在风险，提高他们在使用LMMs技术时的安全意识和自我保护能力。同时，政府相关机构可以开发专门的培训课程和资源平台，方便公众随时学习和咨询相关知识。第二，建立透明的LMMs数据处理机制。为了增强公众的信任感，开发者和提供者应当建立透明的数据处理机制，详细说明数据是如何收集、处理和储存的。应当制定并公开LMMs的数据隐私政策，确保用户可以清楚地了解到自己的数据将被如何使用，并有权利对数据的使用进行监督和控制。此外，开发者应当定期发布数据使用报告，向公众展示数据处理的透明度和安全性，增强公众的信任感。第三，推动公众参与LMMs伦理治理。相关机构应当建立公众参与机制，邀请来自不同背景和经验的公众代表参与LMMs伦理治理的讨论和决策。通过举办公众咨询会、研讨会和问卷调查等形式，收集公众对LMMs应用的意见和建议，了解他们的需求和担忧。同时政府相关机构应设立投诉和监督渠道，方便公众对LMMs的使用进行监督和反馈，及时发现和解决问题。这种参与机制不仅可以提高公众对LMMs技术的认知和理解，增强公众对LMMs技术的信任，也可以帮助开发者和提供者在开发和部署过程中考虑更多元化的观点，避免忽视潜在的伦理挑战。第四，加强LMMs输出结果的透明度和解释性。开发者应当致力于提高LMMs输出结果的透明度和解释性，使公众能够更容易理解和判断模型的决策过程和结果。这包括提供详细的模型说明和使用指南，确保公众在使用LMMs技术时能够清楚地了解模型的功能和局限性。同时，开发者应当研发具有良好解释性的模型，使公众能够追踪和理解模型的决策逻辑，减少因信息不对称带来的误解和风险。第五，鼓励学界开展实证研究。国内学界应当重视公众对医疗AI的认知与态度研究，通过实证研究揭示不同背景和经验的公众在LMMs应用中的观点和担忧。这些研究可以为政策制定和技术开发提供科学依据，帮助识别和解决公众参与LMMs伦理治理过程中的潜在问题。学术界应当加强与政府、医疗机构和技术开发者的合作，共同推动LMMs伦理治理的研究和实践，确保技术发展与社会需求和伦理标准相一致。

责任与问责层面，治理策略重点在于建立清晰的责任分配框架和事故处理机制。第一，建立明确的责任分配框架。政府相关机构应尽快制定和完善涉及LMMs的法律法规，明确各参与方的责任界限。具体而言，应制定法律框架，明确设备开发商、软件开发商、网络运营商、服务提供商等不同角色在事故发生时的责任分配。这包括对产品质量、数据保护和隐私安全等方面的详细规定。通过法律手段，确保每一方都能清楚了解其在LMMs部署和使用过程中的法律责任，避免责任推诿和模糊不清的情况发生。第二，加强临床责任与AI责任的区分。现阶段将所有责任归结于医生或医疗机构的做法并不公平。应建立独立的责任评估机制，当AI系统缺陷或应用不当造成不良事件时，能够科学、客观地评估AI系统本身和使用场景的责任。这需要引入第三方评估机构，对事故进行详细调查，明确AI技术和应用场景的责任界限，保障医生和医疗机构的合法权益，同时促使开发者和提供者更加重视AI系统的安全性和可靠性。第三，强化法律法规和政策支持。政府相关机构应当制定和完善有关LMMs数据保护和隐私安全的法律法规，为LMMs的开发、提供和部署提供明确的法律框架和监管标准。通过加强对数据泄露和隐私侵犯行为的惩罚力度，建立有效的投诉和救济机制，保障公众的合法权益。此外，政府可以设立专门的监督机构，负责监督和评估LMMs技术在医疗领域的应用，确保其符合伦理和法律要求。第四，建立LMMs使用者资质认证制度。为了确保LMMs在医疗领域的安全使用，应建立LMMs使用者资质认证制度。政府相关机构应制定相应的培训和认证标准，确保医疗从业者在使用LMMs时具备必要的技术知识和操作技能。通过定期培训和考核，确保使用者能够正确理解和操作LMMs，减少因操作不当导致的事故风险。认证制度还应涵盖设备开发商和服务提供商，确保他们在开发和提供LMMs服务时具备相应的资质和能力。第五，设立人工智能事故应急处理和补偿机制。为了及时应对LMMs在医疗领域应用过程中可能出现的事故，应设立专门的应急处理和补偿机制。当患者因LMMs导致的不利决策受到影响时，应有明确的应急预案和补偿措施，确保受影响的个人和群体能够得到及时的慰问和补偿。政府相关机构可以设立专项基金，用于应急处理和补偿，确保事故处理的快速和高效，维护患者的合法权益。

医学可持续发展层面，治理策略重点在于多方共治的系统化治理评价制度的建立。第一，建立系统化的治理评价制度。政府应牵头制定《医疗领域人工智能伦理与治理：大型多模态模型指南》的具体实施细则，明确执行机构和职责分工^［26］。可以设立一个专门的跨部门委员会，负责监督和协调LMMs的治理评价工作。该委员会应包括政府代表、医疗专家、伦理学家、法律专家、技术开发者以及患者代表，确保多方利益的平衡和综合考虑。委员会应制定统一的评价标准和评价工具，并定期组织评价活动，对LMMs在医疗领域的应用进行全面评估^［27］。第二，推动社会实验和第三方监测。为了有效评估LMMs的潜在伦理风险和治理效果，应鼓励和支持研究机构和第三方组织开展社会实验和监测活动。政府相关机构可以通过设立专项资金，资助这些实验和监测项目，确保其顺利实施。此外，应建立一套完善的数据采集和反馈机制，确保监测数据的及时性和准确性，并通过公开透明的方式向社会发布评价结果，供各方参考和改进。第三，预测医学发展的人力需求。LMMs的广泛应用将对医护人员的数量和工作内容产生深远影响。为了确保医学发展的可持续性，相关机构应联合开展相关研究，预测未来医学发展的人力需求。这包括对当前医护人员结构的分析、LMMs对工作流程的改变，以及未来所需技能和培训需求的评估。通过科学预测和规划，确保医学教育和培训体系能够及时调整，满足未来医疗服务的需求。第四，监测和预警气候变化对健康的影响。LMMs的规模扩大带来了能源消耗和环境影响的问题。为此，应建立专门的监测和预警系统，评估LMMs对环境气候变化的影响，以及气候变化对全球健康的潜在威胁。可以利用LMMs技术进行数据分析和模型预测，提供科学依据，帮助政府和相关机构制定应对措施，减少气候变化对健康的负面影响。同时，应鼓励绿色能源的使用，减少LMMs的碳足迹，推动环保和可持续发展。第五，增强利益相关方的合作与沟通。治理评价制度的有效实施需要各利益相关方的共同参与和支持。政府相关机构应搭建合作平台，促进开发者、提供者、部署者和研究机构之间的沟通与合作。通过定期举办研讨会、座谈会等形式，听取各方意见，协调利益冲突，达成共识。同时，应加强公众教育和宣传，提高社会各界对LMMs治理评价重要性的认识，争取更多的支持和配合。

4　结语

为了确保LMMs在医疗领域的安全、合规、有效和可持续发展，在医疗质量保障层面，开发者需要进行数据评估，收集和更新高质量训练数据，确保数据的透明性。模型设计应综合考虑不同利益相关方的意见，注重准确性和可解释性。通过标准测试和真实场景应用，评估模型的性能和道德规范遵从情况。在患者安全保障层面，提升公众数字素养和隐私保护意识至关重要。广泛的公众教育活动和透明的数据处理机制是必不可少的。评估隐私保护措施的有效性，包括数据匿名化、去识别化和用户数据控制权。部署者需通过明确的风险传达机制和应急预案，确保及时应对潜在风险，并提供有效的用户反馈机制。在责任与问责层面，建立明确的责任分配框架，制定相关法律法规，确保各方责任界限清晰。通过第三方机构的独立评估和审计，检查LMMs的责任落实和伦理风险管理情况。开发者需对产品安全性负责，医疗机构和医护人员需在技术选择和使用中履行相应责任。在医学可持续发展层面，系统化的治理评价制度和预测医学发展的人力需求至关重要。政府应设立专门的跨部门委员会，推动社会实验和第三方监测，确保LMMs治理的全面性和有效性。开发者需测量和减少能源消耗，推动绿色技术应用，并遵守环境保护标准。此外，治理效果的评估可从多个方面进行详细考量，如通过数据质量和透明度评估、模型设计和功能评估、安全性和隐私保护评估、责任分配和合规性评估、环境影响和可持续性评估、社会和公众参与评估等多维度的评估措施，全面了解LMMs的治理效果，确保其在医疗领域的应用既能提升医疗服务质量，又能保护患者隐私和数据安全，促进医学的可持续发展。

参考文献

[1] HU K. Chat GPT sets record for fastest growing user-base-analyst note ［EB/OL］.（2023-02-01）［2024-02-04］.

[2] SINGHAL K， AZIZI S， TU T， et al. Large language models encode clinical knowledge［J］. Nature， 2023，620： 172-180 .

[3] KULKARNI P A， SINGH H. Artificial intelligence in clinical diagnosis： opportunities， challenges， and hype［J］.JAMA， 2023，330（4）：317-318.

[4] ROOSE K. A conversation with bing’s chatbot left me deeply unsettled［EB/OL］.（2023-02-16）［2024-02-04］.

[5] AYERS J W， POLIAK A， DREDZE M， et al. Comparing physician and artificial intelligence chatbot responses to patient questions posted to a public social media forum［J］.JAMA Internal Medicine， 2023，183（6）：589-596.

[6] YANG X， CHEN A， POURNEJATIAN N，et al. A large language model for electronic health records［J］. NPJ Digital Medicine， 2022，5：194.

[7] The potential of large language models in healthcare： improving quality of care and patient outcomes.［EB/OL］.［2024-02-04］.

[8] LEE P， BUBECK S， PETRO J. Benefits， limits， and risks of GPT-4 as an AI chatbot for medicine［J］. New England Journal of Medicine， 2023，388（13）：1233-1239.

[9] World Health Organization. Ethics and governance of artificial intelligence for health［EB/OL］.［2024-01-28］.

[10] Regulatory considerations on artificial intelligence for health［EB/OL］.［2024-02-04］.

[11] MURALIDHARAN V， BURGART A， DANESHJOU D， et al. Recommendations for the use of pediatric data in artificial intelligence and machine learning ACCEPT-A［J］.NPJ Digital Medicine，2023，6：166.

[12] HARRER S. Attention is not all you need： the complicated case of ethically using large language models in healthcare and medicine［J］. eBioMedicine， 2023，90：194512.

[13] AHN S. The impending impacts of large language models on medical education［J］.Korean Journal of Medical Education， 2023，35（1）：103-107.

[14] 李安然.面向特定任务的大规模数据集质量高效评估［D］.沈阳：中国科学技术大学，2021.

[15] LI A R. Efficient quality evaluation of large-scale datasets for specific tasks ［D］. Shenyang： University of Science and Technology of China， 2021.

[16] 叶卓俊，沈艳丽，江晓，等.医学人工智能领域伦理治理重点研究［J］.中国医学伦理学，2024，37（1）：39-44.

[17] YE Z J， SHEN Y L， JIANG X，et al. Research on the focus of ethical governance in the field of artificial intelligencein medicine［J］.Chinese Medical Ethics，2024，37（1）：39-44.

[18] DUFFOURC M N， GERKE S. The proposed EU directives for AI liability leave worrying gaps likely to impact medical AI［J］. NPJ Digital Medicine， 2023，6（1）：77.

[19] MÖKANDER J， FLORIDI L.Ethics-based auditing to develop trustworthy AI［J］. Minds and Machines， 2021，31（2）：323-327.

[20] ROTTINGEN J A， REGMI S， EIDE M，et al. Mapping of available health research and development data：what’s there， what’s missing， and what role is there for a global observatory？［J］.Lancet， 2013，382（9900）：1286-1307.

[21] HEIKKILA M. OpenAI’s hunger for data is coming back to bite it［EB/OL］.（2023-04-19）［2024-02-04］.

[22] LOMAS N. Italy orders ChatGPT blocked citing data protection concerns［EB/OL］.（2023-03-31）［2024-02-04］.

[23] ChatGPT：Italian SA to lift temporary limitation if OpenAI implements measures［EB/OL］.［2024-02-04］.

[24] KANTER G P， PACKEL E A. Health care privacy risks of ai chatbots［J］.JAMA， 2023，330（4）：311-312.

[25] LI P， YANG J， ISLAM M A， et al. Making AI less “thirsty”： uncovering and addressing the secret water footprint of AI models［J］. Communications of the Acm，2025，68（7）：54-61.

[26] 王志勇， 吴骋， 王立鹏， 等. 医疗大数据背景下的数据治理与质量监管［J］. 中国数字医学， 2021， 16（4）： 92-96.

[27] WANG Z Y， WU C， WANG L P， et al. Data governance and quality supervision under the background of medical big data［J］. China Digital Medicine， 2021， 16（4）： 92-96.

[28] 唐明坤， 吴思竹， 周佳茵， 等. 医学数据共享隐私保护中基于聚类的匿名化算法关键技术研究［J］. 医学信息学杂志， 2023， 44（6）： 65-71.

[29] TANG M K， WU S Z， ZHOU J Y， et al. Research on key technologies of clustering-based anonymization algorithms for privacy protection in medical data sharing［J］. Journal of Medical Informatics， 2023， 44（6）： 65-71.

[30] 王玥， 宋雅鑫， 王艺霏， 等. 卫生领域人工智能的伦理与治理： 多模态大模型指南［J］. 中国医学伦理学， 2024， 37（9）： 1001-1022.

[31] WANG Y， SONG Y X， WANG Y F， et al. Ethics and governance of artificial intelligence in the health sector： guidelines for multimodal large models［J］. Chinese Medical Ethics， 2024， 37（9）： 1001-1022

[32] 张艾一， 余中光. 基于国内外政策分析的医疗人工智能伦理风险治理研究［J］. 中国医学伦理学， 2024， 37（9）： 1061-1067.

[33] ZHANG A Y， YU Z G. Research on ethical risk governance of medical artificial intelligence based on policy analysis at home and abroad［J］. Chinese Medical Ethics， 2024， 37（9）： 1061-1067

基金资助

2022年深圳市科技计划基础研究专项“人工智能影响医疗服务模式社会实验”(RKX20220705152810024)