1 简介
2024年1月，世界卫生组织发布了《卫生领域人工智能的伦理与治理：多模态大模型指南》（以下称“本指南”）涉及多模态大模型在卫生领域相关应用中的新兴用途。它包括在卫生保健与药品领域使用多模态大模型的潜在益处和风险，以及最能确保遵守伦理、人权和安全准则和义务的多模态大模型治理方法。本指南以世界卫生组织2021年6月发布的指南《卫生领域人工智能的伦理与治理》（Ethics and governance of artificial intelligence for health）（以下称“2021版指南”）为基础。“
人工智能指的是集成到系统和工具中的算法从数据中学习以执行自动任务的能力，每个步骤都无须人工明确编程。生成式人工智能是一种人工智能技术，其中机器学习模型用于在数据集上训练算法以生成新的输出，如文本、图像、视频和音乐。生成式人工智能模型在训练数据的过程中学习模式和结构，从而根据所学模式预测并生成新数据。生成式人工智能模型可以通过人类的反馈进行强化学习，实现改进，即训练人员对生成式人工智能模型提供的回应进行排序，以训练算法给出人类认为价值最大的回应。生成式人工智能可应用于设计、内容生成、模拟和科学发现等各个领域。
大语言模型（large language model）是一种特殊的生成式人工智能，它接收文本类型的输入并提供同样类型的文本的回应，因此备受关注。大语言模型是大型单模态模型的典范，也是集成这些模型的聊天机器人早期版本的运行基础。虽然大语言模型参与了对话，但模型本身并不清楚自己在生成什么。它们只是根据前面的单词、学习到的模式或单词组合从而对下一个单词进行预测。
本指南探讨了多模态大模型（包括大语言模型）日益广泛的用途，这些模型在卫生保健与药品领域的应用是通过高度多样化的数据集进行训练的，这些数据集不仅包括文本，还包括生物传感器、基因组、表观基因组、蛋白质组、成像、临床、社会和环境数据。因此，多模态大模型可以接受多种类型的输入，并产生不局限于输入数据类型的输出。多模态大模型可广泛应用于医疗保健和药物开发领域。
多模态大模型与以往的人工智能和机器学习不同。虽然人工智能已被广泛集成到许多消费者应用中，但大多数算法的输出既不要求也不邀请客户或用户参与，除了集成到社交媒体平台中的人工智能初级形态，这些平台通过策划用户生成的内容来吸引眼球。多模态大模型在不同的数据集上经过训练，可用于多种任务，包括一些没有经过明确训练的任务。
多模态大模型通常有一个便于人机交互的界面和格式，可以模仿人与人之间的交流，从而引导用户给算法注入类似人类的品质。因此，多模态大模型的使用方式及其生成和提供的回应内容看似“与人类一样”，这也是多模态大模型被公众空前采用的原因之一。此外，由于它们提供的回应似乎具有权威性，即使多模态大模型无法保证回应的正确性，无法将伦理规范或道德推理融入其生成的回应中，许多用户也仍然不加批判地将其视为正确的。多模态大模型已被用于教育、金融、通信和计算机科学等众多领域。多模态大模型可被视为一个或多个行为者在编程和产品开发方面的一系列（或一连串）决策的产物。在人工智能价值链的每个阶段作出的决策，都可能对下游参与多模态大模型开发、部署和使用产生直接或间接的影响。这些决策可能受到在国家、地区和全球范围内颁布和执行法律政策的政府的影响和监管。
人工智能价值链通常始于开发模型的大型科技企业。开发者也可以是高校、较小的科技企业、国家卫生系统、公－私联合体或其他拥有资源和能力使用若干投入的实体。这些投入组成了“人工智能基础设施”，如用来开发通用基础模型的数据、算力和人工智能专业技能。这些模型可直接用于执行各种通常意想不到的任务，包括与医疗保健相关的任务。有几种通用基础模型是专门为卫生保健与药品领域的使用而训练的。
第三方（“提供者”）可以通过主动编程接口，将通用型基础模型用于特定目的或用途。这包括：①对新的多模态大模型进行微调，这可能需要对基础模型进行额外的训练；②将多模态大模型集成到应用程序或更大的软件系统中，为用户提供服务；③集成被称为“插件”的组件，以正规或规范格式引导、过滤和组织多模态大模型，生成“可消化”的结果。
此后，提供者可向客户（或“部署者”）出售基于多模态大模型的产品或服务，如卫生部门、医疗卫生系统、医院、制药企业甚至个人，如医疗服务提供者。购买或获得许可使用产品或应用程序的客户可以直接将其用于患者、医疗服务提供者、卫生系统的其他实体、非专业人士或自身业务。价值链可以是“纵向一体化”的，因此，收集数据并训练通用基础模型的企业或其他实体（如国家卫生系统），可以针对特定用途修改多模态大模型，并直接向用户提供应用程序。
世界卫生组织认识到，人工智能可为医疗卫生系统带来巨大惠益，包括改善公共卫生和实现全民健康覆盖。然而，正如世界卫生组织“2021版指南”所述，人工智能会带来重大风险，既可能损害公共卫生，也可能危及个人尊严、隐私和人权。尽管多模态大模型相对较新，但其被接受和传播速度已促使世界卫生组织提供“2021版指南”，以确保它们有可能在全球范围内获得成功和可持续地使用。世界卫生组织认识到，在发布“2021版指南”时，人们对人工智能的潜在益处和风险、设计和使用人工智能应适用的伦理原则以及治理和监管的方法存在许多相互较量的观点。由于“2021版指南”是在多模态大模型首次应用于卫生领域后不久、在更强大的模型陆续发布之前发布的，世界卫生组织将更新“2021版指南”，以适应技术的快速发展、社会对其使用的处理方式以及在卫生保健与药品领域之外使用多模态大模型对医疗健康造成的影响。
1.1 通用基础模型（多模态大模型）的重要性
虽然多模态大模型相对较新且未经测试，但已在包括医疗和药品在内的各个领域对社会产生了巨大影响。ChatGPT是一种大语言模型，由一家美国科技企业连续发布了多个版本。据估计，在2023年1月，即推出仅2个月后，该模型的月活跃用户数就达到1亿人。这使其一时之间成为历史上增长最快的消费者应用程序。
目前，许多企业都在开发多模态大模型或将多模态大模型集成到消费者应用中，如互联网搜索引擎。尽管根据人类反馈进行了强化学习，但多模态大模型生成的内容依然不总是具有可预测性和可控性，可能会在参与“对话”时生成让用户感到不舒服，或者生成错误但极易令人信服的内容。即便如此，对多模态大模型的支持大多不仅仅是对其功能的热衷，还包括在未经同行评议的出版物中对多模态大模型性能的无条件的、不加批判的主张。
用于训练多模态大模型的数据集尚未公开，但多模态大模型已被迅速采用，因此很难或不可能知道这些数据是否有偏见，是否合法获取并符合数据保护规则和原则，以及能够进行任务或查询的执行是否反映了它已就相同或类似的问题接受过训练、已获得解决问题的能力。其他有关用于训练多模态大模型数据的问题，如是否符合数据保护法，将在下文讨论。
个人和政府都没有为发布多模态大模型做好准备。个人没有接受过有效使用多模态大模型的培训就可能不会明白，即使多模态大模型聊天机器人给人留下了准确可靠的印象，其回应也并不总是准确或可靠的。一项研究发现，大语言模型GPT-3虽然“与人类相比……能生成更容易理解的准确信息”，但也能生成“更有说服力的虚假信息”，而且人类无法区分出多模态大模型生成的内容和人类生成的内容。
各国政府也基本上没有做好准备。为治理人工智能的使用而制定的法律法规可能无法应对与多模态大模型相关的挑战或机遇。欧盟已就颁布一项全欧盟范围适用的《人工智能法案》达成协议，但考虑到多模态大模型，不得不在起草的最后阶段修改其立法框架。其他国家的政府也在迅速制定新的法律或法规，或颁布临时禁令（其中一些已被撤销）。预计未来几个月内，各企业将陆续推出功能和性能更强大的多模态大模型，这可能会带来新的益处，但也会带来新的监管挑战。在这种动态环境中，本指南以包括伦理指南在内的以往指南为基础，为在卫生保健与药品领域使用多模态大模型提出了意见和建议。
1.2 世界卫生组织关于卫生领域人工智能的伦理与治理的指南
世界卫生组织关于卫生领域人工智能的伦理和治理的第1版指南审查了机器学习的各种方法和卫生领域人工智能的各种应用，但没有具体审查生成式人工智能或多模态大模型。在制定2021版指南期间以及在2021年发布时，没有证据表明生成式人工智能和多模态大模型将很快得到广泛应用，并应用于临床护理、医疗研究和公共卫生领域。
然而，2021版指南提出的基本伦理挑战、核心伦理原则和建议，包括保护人类的自主性，增进人类福祉、安全和公共利益，确保透明、可以解释和可以理解，培养责任感和实行问责制，确保包容性和公平，推广反应迅速且可持续的人工智能。对于评估和有效、安全地使用多模态大模型仍然具有现实意义，尽管在这一新技术方面已经出现并将继续出现更多的治理空白和挑战。这些挑战、原则和建议也是本指南中专家组对多模态大模型采取方法的基础。
2 卫生领域通用基础模型（多模态大模型）的应用和挑战
卫生领域人工智能的应用包括诊断、临床护理、研究、药物开发、医疗管理、公共卫生和监测。多模态大模型的许多应用并不是人工智能的新用途；然而，临床医生、患者、非专业人士以及医疗保健专业人员接入和使用多模态大模型的方式各不相同。本章将讨论多模态大模型在卫生领域的潜在应用以及与使用多模态大模型相关的实际和预期挑战与风险。许多应用和用途仍未得到证实，最终可能无法带来如同宣传效果的益处。
2.1 诊断和临床保健
人工智能已被用于诊断和临床保健，如在放射学和医学成像、结核病和肿瘤学等领域的辅助诊断。人们希望临床医生能在会诊期间利用人工智能整合患者记录、识别高危患者、帮助作出高难度的治疗诊断，并发现临床错误。多模态大模型可以将基于人工智能的系统扩展到整个诊断和临床保健过程中，包括线上会诊和面对面会诊，个别专家预计多模态大模型“对医生的重要性将超过以前的听诊器”。
诊断被认为是一个特别有前景的领域，因为多模态大模型可用于识别复杂病例中的罕见诊断或“异常表现”。医生已经在使用互联网搜索引擎、在线资源和鉴别诊断生成器。多模态大模型将成为又一诊断工具。多模态大模型还可用于常规诊断，为医生提供额外的意见，以确保不忽视明显的诊断。所有这些都可以快速完成，因为多模态大模型可以比医生更快地扫描患者的全部病历。
不过，目前在试点项目中用于支持临床医生的几种流行的多模态大模型并没有接受过电子病历或医疗及其他相关健康数据方面的专门训练，尽管它们的数据集确实包括这些信息。在回答在线论坛上提出的问题时，由ChatGPT驱动的聊天机器人比合格的医生表现得更好。在所选的195个问题中，近80%的情况下，独立评估人员更喜欢聊天机器人的回答，而不是医生的回答。聊天机器人还可以帮助回答标准化的“非正式医疗咨询”问题，并在患者初次就诊时提供信息和回应，或总结实验室检验结果。
企业和高校也在开发使用医疗和健康数据或电子病历训练的多模态大模型，其中包括基于小型数据集的多模态大模型。例如，有一个多模态大模型是在大约3万份病例报告的数据集上进行训练的，目的是学习医疗状况和症状之间的关系，以辅助诊断。另一个多模态大模型是在一个包含10万多张胸部X光片的数据集上进行训练的，目的是识别异常情况，并最终提供见解或识别病情。一些已经公开评估过的多模态大模型是在数百万份电子病历和其他来源的专业和一般医学知识基础上用算法训练出来的。这种方法提高了算法处理不同形式的书面医疗信息并给出回应（“医疗问题解答”）的能力。
几家大型科技企业正在将其通用多模态大模型调整为可辅助临床诊断和护理的多模态大模型。其中一家科技企业正在开发Med-PaLM2，该系统旨在从医学文本中回答问题和总结见解，目前，它正在往合成图像（如X光片和乳房X光片）、撰写报告并回答后续问题的方向不断发展，以方便临床医生进行更多查询，这一功能可减轻医疗保健专业人员与计算机之间的“同行分歧”。
人类的长期愿景是开发“通用医学人工智能”，使医疗保健专业人员能够与多模态大模型灵活对话，根据定制的、临床医生驱动的查询生成回应。因此，用户可以用日常语言描述所需的内容，让通用医学人工智能模型适应新任务，而无需重新训练多模态大模型或训练多模态大模型接受不同类型的非结构化数据来生成回应。
多模态大模型在临床治疗中大有可为的同时，也存在着重大的风险，其中一些风险早在多模态大模型出现之前就已存在。在诊断和临床保健中使用多模态大模型有以下五大风险：
①不准确、不完整、有偏见或错误的回应：关于多模态大模型的一个担忧是，聊天机器人容易根据多模态大模型“发明”的数据或信息（如参考文献）作出不正确或完全错误的回答，以及因重复训练数据中编码的缺陷而作出有偏见的回答。多模态大模型还可能造成场景偏差（contextual bias），在偏差出现的情况下，对人工智能使用场景的预设会导致其给出针对其他场景的建议。
虚假反应，俗称“幻觉”，与多模态大模型生成的事实准确反应无法区分，因为即使是通过人类反馈进行强化学习的多模态大模型，其训练目的也不是生成事实，而是产生看似事实的信息。一项研究发现，大语言模型在根据一组简单的事实进行总结时，有3%到27%的情况下会产生幻觉。目前，多模态大模型还依赖于与其有效沟通的人类“提示工程”。因此，即使多模态大模型经过专门的医疗数据和健康信息训练，也不一定能作出正确的反应。对于某些基于多模态大模型的诊断，可能没有确证测试或其他方法来验证其准确性。
②数据质量和数据偏见：目前可供公众使用的许多多模态大模型都是在互联网等大型数据集上训练出来的，这些数据集可能充斥着错误信息和偏见。大多数医疗和健康数据也存在偏见，无论是种族、民族、血统、性别、性别认同还是年龄。由于大多数数据都是从高收入地区收集的，因此根据健康数据训练的多模态大模型通常会对这些偏见进行编码。
③自动化偏见：在自动化偏见中，临床医生可能会忽略本可以由人工发现的错误。还有人担心，医生和医疗保健专业人员可能会利用多模态大模型做出与伦理或道德考虑相悖的决定。在医生无法做出困难的判断或决定的时候，使用多模态大模型进行道德判断可能会导致“道德失能”。
④技能退化：临床医生作为医疗专业人士的能力会下降或削弱，因为他们越来越多地将日常责任和职责转移给计算机。能力的丧失可能导致医生无法自信地推翻或质疑算法的决定，或者在网络故障或安全漏洞的情况下，医生将无法完成某些医疗任务和程序。
⑤知情同意：如果多模态大模型和其他形式的人工智能被纳入常规医疗实践，患者或其护理人员即使不满或不愿意完全或部分地依赖人工智能技术，也可能无法撤回使用该技术的同意，尤其是在其他选择（非基于人工智能的选择）不容易获得的情况下，或在将责任移交给计算机的临床医生不使用AI就无法提供医疗服务的情况下。
2.2 以患者为中心的应用
人工智能正开始改变患者管理自身病情的方式。患者已经在很大程度上承担起了自我护理的责任，包括服药、改善营养和饮食、参加体育锻炼、护理伤口或注射。据预测，人工智能工具将通过使用聊天机器人、健康监测和风险预测工具以及专为残障人士设计的系统等方式，提高自我护理水平。
多模态大模型可能会加快患者和非专业人士将人工智能用于医疗目的的趋势。二十年来，人们一直使用互联网搜索来获取医疗信息。因此，在向患者和非专业人士提供信息方面，大语言模型可以发挥核心作用，包括将其整合到互联网搜索中。由大语言模型驱动的聊天机器人可以在搜索信息方面取代搜索引擎，包括有关自我诊断和就医之前的搜索。
以患者为中心的多模态大模型的第三种应用是识别临床试验或此类试验的招募信息。基于人工智能的程序已经可以帮助患者匹配临床试验研究人员，多模态大模型则可以根据患者的相关医疗数据以同样的方式进行匹配。使用人工智能既能降低招募成本，又能提高速度和效率，同时还能让个人有更多机会寻求难以通过其他渠道识别和获取的试验和治疗。
关于儿童使用多模态大模型的伦理考虑，虽然最近发布了在人工智能和机器学习中安全、合乎伦理地使用儿科数据的广泛指南，但必须特别考虑到儿童使用多模态大模型的潜在影响。
开放式多模态大模型的广泛使用为不同年龄段的用户提供了机会。然而，关于儿童接触或使用多模态大模型的信息却很有限。虽然在更广泛的教育背景下，人们讨论了使用多模态大模型的潜在机会和弊端，但目前还不清楚使用多模态大模型会如何影响儿童的心理或身体健康。必须对儿童使用多模态大模型的情况进行长期监测，以了解其益处和潜在危害。
各国关于儿科同意、允准和对父母合法参与的规定的法律和政策各不相同。因此，缺乏连贯、统一、全球性和对儿童的专门监管和监督，可能会造成不明的、无人监控的伤害，尤其是使用多模态大模型造成的伤害。
具体来说，目前还不清楚多模态大模型能够多么准确地概括儿科健康状况。研究表明，成人数据集对儿科人群的通用性可能有限。因此，儿科数据应在测试和训练数据集中独立出来。
开发者应在训练数据中提供包括年龄在内的人口统计信息，必须鼓励开发者提供目标人群的明确描述，如年龄范围，以便与多模态大模型进行适当、安全的接触。在法律允许的情况下，应通过纳入年轻用户的适当参与和反馈来改进多模态大模型。
个人随意使用多模态大模型可能意味着巨大的风险，如下文所列：
①不准确、不完整或虚假陈述：与临床医生和医护专业人员使用多模态大模型的情况一样，患者和非专业人士在使用多模态大模型时也有可能出现虚假、有偏见、不完整或不准确的陈述，包括声称提供医疗信息的人工智能程序的陈述。
②操纵：机器人可以提供对问题的解答或参与对话，以说服个人采取违背自身利益或福祉的行动。一些专家呼吁采取紧急行动，控制聊天机器人可能带来的负面影响，并指出聊天机器人可能进行“情感操纵”。
③隐私：多模态大模型与多模态大模型的其他用户共享信息是一个与此相关的问题，无论是因为其他用户明确要求多模态大模型披露此类信息还是多模态大模型错误地披露了其他人的聊天记录（即使不是聊天内容）。因此，如果一个人的可识别医疗信息被输入多模态大模型，就有可能被披露给第三方。
④减少临床医生、非专业人员和患者之间的互动：患者或其护理人员使用多模态大模型可能会从根本上改变医患关系。患者或护理人员可能会决定完全依赖多模态大模型进行病情预测和治疗，从而减少或消除对专业医疗判断和支持的恰当依赖。一般来说，人们担心人工智能会使临床护理“去人性化”。
⑤认知上的不公正：用多模态大模型的判断取代医疗服务提供者的判断的另一个潜在后果是给患者带来认知上的不公正。“认知上的不公正”是指“针对一些人作为知识主体的能力状况作出错误对待”。认知上的不公正的一种形式是解释学不正义，它发生在共同理解和知识存在差距的情况下，这种差距使一些人在生活经验、社会经验、卫生领域以及他们对自己身体或精神状况的理解方面处于不利地位。对于数据集中已经被忽视和代表性不足的弱势群体，如残障人士，这种情况更加可能发生。
⑥在卫生系统之外提供医疗服务：因为卫生领域人工智能可以很容易地被非卫生系统实体接入和使用，或者仅仅由企业引进，例如那些提供供公众使用的多模态大模型的企业。这就提出了这样的问题：此类技术是应该作为需要更严格的监管审查的临床应用来进行监管，还是作为需要较少的监管审查的“健康应用”来予以监管。
如果患者在没有监管保障的情况下使用“轻度”监管的多模态大模型，包括使用多模态大模型提供医疗建议或进行自我诊断，可能会带来风险。令人担忧的是，患者可能会收到虚假或误导性建议，如果个人未与医疗服务机构取得联系，患者安全可能会受到影响，如缺乏对有自杀倾向的个人使用人工智能聊天机器人的支持性护理，即使聊天机器人不具有“操纵性”。即使信息是正确的，没有受过医疗培训的人在使用这些信息进行自我诊断时也可能会误读或误用。由于包括多模态大模型在内的此类应用正在继续扩散，而应用未必会标明是医疗卫生应用，因此医疗卫生的整体质量可能会受到影响。这可能会进一步加剧获得优质医疗服务的不平等，尤其是缺乏其他选择的人可能会求助于此类应用程序。
2.3 文书和行政任务
多模态大模型开始用于协助医疗保健专业人员处理行医过程中的文书、行政和财务工作。多模态大模型被认为是将最宝贵的时间返还给医疗保健专业人员的一种手段，既可以减少职业倦怠，也可以分配更多时间为每位患者提供护理服务，或照顾更多的患者。一位使用多模态大模型编码软件记录患者就诊情况的医生表示，“人工智能让我作为一名医生能够100%地为患者服务”，而且该软件每天可节省多达2小时的时间。
多模态大模型目前和预期的用途包括：通过简化医学术语和使沟通更加“对患者友好”，以帮助翻译或改善临床医生与患者的沟通；填补电子病历中缺失的信息；利用其他形式的人工智能，在每次患者就诊（线上或亲自就诊）后起草临床记录；多模态大模型的使用还将包括预先自动撰写处方、预约、账单代码、安排检查时间、保险企业预授权、手术笔记和出院小结。随着更复杂的多模态大模型的开发，它们还可用于更复杂的文书记录，例如放射科医生“自动起草放射报告，既描述异常情况，又描述相关的正常结果，同时考虑到患者的病史……这些模型可以通过将文本报告与交互式可视化相结合的方式，如突显每个阶段所描述的区域，为临床医生提供进一步的帮助”。
与其他使用多模态大模型的情况一样，不准确、错误（如转录、翻译或提炼）或“幻觉”可能会导致严重的错误。因此，大多数文书和行政职能不能完全自动化。即使监督和审核需要花费医疗保健专业人员的时间，多模态大模型仍可能减轻现有的负担。另一个问题是多模态大模型可能不一致；对提示或问题稍作改动，就会生成完全不同的电子病历，但随着时间的推移，不一致的情况预计会减少。
2.4 医疗和护理教育
预计多模态大模型还将在医疗和护理教育中发挥作用。它们可用于创建“动态课本”，与一般课本相比，动态课本可根据学生的具体需求和问题量身进行定制。集成到聊天机器人中的多模态大模型可提供模拟对话，以改善临床医生与患者之间的沟通并解决问题，包括练习医学问诊、诊断推理和解释治疗方案。聊天机器人还可以量身定制，为学生创造残障患者或罕见病症患者等各种虚拟患者。多模态大模型还可以为医学生提供指导，它通过包括生理和生物过程在内的“思维链”进行推理，从而回答学生提出的问题。
虽然使用人工智能可以改善或提高医疗保健专业人员的培训和技能，但它也可能带来风险，即专业人员放弃自己（或人类同行）的判断，转而听从计算机的判断。如果多模态大模型提供不正确的信息或回应（或编造回应），可能会影响医学教育的质量。
另一个令人担忧的问题是，将多模态大模型用于教育或简化行政和文书职能，可能会给尚未掌握数字知识的医疗保健专业人员带来额外的负担，他们必须在日常工作中学习使用人工智能辅助技术的新能力。预计多模态大模型的新功能需要医疗保健专业人员不断进行再培训和调整。开发者最终可能会推出有自然语言或视觉效果的人工智能辅助技术，让外行人也能轻松地使用交流界面。
2.5 科学、医学研究及药物开发
人工智能已被用于科学、临床研究与药物开发。利用人工智能，可以对电子病历进行分析，以确定临床实践模式并开发新的临床实践模型。机器学习还可用于基因组医学，例如提高对疾病的认识和确定新的生物标志物。
多模态大模型扩展了人工智能支持科学、医学研究与药物开发的方式。多模态大模型可用于科学研究的各个方面。它们可以生成科研论文中的文本，用于提交稿件或撰写同行评议。它们可用于总结学术论文摘要之类的文本或生成摘要。多模态大模型还可用于分析和总结数据，以便在临床和科学研究中获得新的见解。它们还可用于编辑文本，提高论文和基金申请书等书面文件的语法准确性、可读性和简洁性。此外，多模态大模型还可用于从其所训练的数据中获得洞见。有一种多模态大模型是通过学习数百万篇学术文章中训练出来的，据称可以通过对科学研究进行分析，从而回答问题、提取信息或生成相关文本。多模态大模型也用于药物研发，特别是用于新药设计，以开发具有特定性质的新化合物。
领先的医学和科学期刊已经对多模态大模型的出现、潜力及其对科学研究的影响作出了回应。例如，一家学术出版企业制定了两条规则：①不接受多模态大模型作为研究论文的署名作者；②使用多模态大模型的研究人员应在方法部分和致谢中记录其使用情况。世界医学编辑学会将作者限定为人类。
在科学研究中使用多模态大模型的普遍担忧包括：
①缺乏问责制：科学或医学研究论文的作者需要承担责任，而人工智能工具无法承担这种责任，缺乏问责制是一家主流学术出版商和世界医学编辑学会决定不接受多模态大模型作为可署名作者的依据。
②高收入国家偏见：用于训练多模态大模型的科学和医学研究大多在高收入国家进行。因此，任何多模态大模型的回应都可能偏向于高收入国家的观点。这可能会加强或加剧对于来自低收入和中等收入国家研究成果的忽视和不引用的趋势，尤其在出版物由非拉丁文字撰写的情况下。
③幻觉和/或错误信息：多模态大模型可能会总结或引用不存在的学术文章或其他信息而产生“幻觉”。
④破坏信任：使用多模态大模型开展诸如同行评议等活动可能会破坏对这一过程的信任。
⑤多模态大模型和多模态大模型产生的知识的可及性：与科学和医学研究中使用的其他工具、技术和信息一样，多模态大模型也将“被置于付费专区”，从而加剧数字和知识鸿沟，并影响到那些寻求参与科学和医学研究但缺乏支持和资金的科学家。
虽然人工智能有利于药物开发，但在这一领域使用人工智能也令人担忧，一份即将出版的世界卫生组织出版物将对此进行研究。
3 通用基础模型（多模态大模型）对卫生系统与社会和伦理问题的风险
虽然与多模态大模型相关的许多风险和问题会影响个人用户（如医疗保健专业人员、患者、研究人员或护理人员），但它们也可能构成系统性风险。与卫生领域多模态大模型和其他基于人工智能的技术相关的新出现或预期风险包括：可能影响国家卫生系统的风险、监管和治理风险、国际社会关切。
3.1 卫生系统
医疗卫生系统以六个部分为基础：提供医疗服务、医疗人力资源、医疗信息系统、获得基本药物、财务以及领导与治理。这六大基石都可能受到多模态大模型直接或间接的影响。与使用可能影响医疗卫生系统的多模态大模型相关的风险描述如下：
3.1.1 高估多模态大模型的效益而低估风险
有些人倾向于夸大和高估人工智能的作用，这可能会导致尚未经过严格的安全性和有效性评估的产品和服务被采用。这在很大程度上是由于“技术解决主义”的持久吸引力，即在人工智能和多模态大模型等技术被证明有用、安全和有效之前，这些技术就被当成是消除更深层次的社会、结构、经济和体制障碍的“灵丹妙药”。
多模态大模型是新颖却未经测试的。消费者、政界和公众都对多模态大模型颇感兴趣，但这可能会导致政策制定者、医疗服务提供者和患者高估其益处，忽视了多模态大模型可能带来的挑战和问题。对于政策制定者来说，在多模态大模型尚未开发和使用之前，可能无法获得确定多模态大模型使用范围的必要证据。使用多模态大模型的选择不应优先于已经在使用的基于人工智能的技术，也不应优先于可能资金不足和使用不足但已被证明具有治疗或公共卫生益处的非人工智能或非数字的解决方案。不平衡的医疗保健政策和误导性投资，可能会转移对已被证明有效的干预措施的注意力和资源，并加剧卫生部门对于压缩公共医疗支出的压力，尤其不利于资源有限的低收入和中等收入国家。
3.1.2 可及性和可负担性
很多因素都会影响为医疗服务提供者和患者带来益处的多模态大模型的公平接入。其中之一就是数字鸿沟，它限制了某些国家、地区或部分人口使用数字工具。数字鸿沟还导致了其他差异，其中许多因素都会影响人工智能的使用，而人工智能本身也会强化和加剧差距。另一个可能影响人们使用多模态大模型的因素是，不同于互联网，许多多模态大模型只有在付费或订阅后才能使用，因为开发和运营多模态大模型可能很昂贵。据估计，ChatGPT每天的运营成本为70万美元。相反，所有国家的穷人都只能使用“具有成本效益的解决方案”的多模态大模型，而只有较富裕的人才能获得“真正的”医疗保健专业人员的服务。第三个因素是，目前大多数多模态大模型只使用英语。因此，虽然它们可以接收输入并以其他语言提供输出，但它们更有可能产生虚假信息或错误信息。
3.1.3 全系统偏见
一般来说，人工智能偏向于数据最多的人群，因此，在不平等的社会中，人工智能可能会使少数群体处于不利地位。多模态大模型的一个特殊问题在于，偏见可能会随着模型规模的扩大而增加，即使正在开发所谓的较小多模态大模型，但是用于训练连续模型的数据不断增加就会导致偏见的增加。
3.1.4 对劳动力和就业的影响
据一家投资银行估计，多模态大模型最终将导致至少3亿个工作岗位丧失（或“退化”）。被验证为安全有效的多模态大模型可用于缩小提供医疗服务所需的劳动力与现有劳动力之间的差距。
另一个值得关注的问题是，多模态大模型投入市场对于当前和未来医疗保健专业人员数量的影响。一家大型科技企业估计，多达80%的工作将受到人工智能到来的影响。咨询企业埃森哲预计，人类40%的工作时间可能会受到多模态大模型的影响，并乐观地指出，“对人类创造力和生产力的积极影响将是巨大的”。然而，如上所述，引入多模态大模型可能会给许多医疗保健专业人员带来重大挑战，他们需要接受培训并适应多模态大模型。卫生系统必须考虑到它给医疗服务提供者带来的挑战以及给患者和护理人员带来的风险。
第三个令人担忧的问题是，负责审查内容、标注训练数据以及从数据集中删除包含辱骂、暴力或精神困扰类内容的人员所付出的精神和心理代价。负责过滤此类内容的人员通常在中低收入国家工作，工资很低，可能会因审查此类内容而遭受心理困扰，却无法获得咨询或其他形式的医疗服务。
3.1.5 医疗卫生系统对不适配多模态大模型的依赖
虽然多模态大模型可以解决医疗保健专业人员持续短缺的问题、扩大医疗卫生系统的覆盖范围，但也可能导致这些系统可能会过分依赖多模态大模型，特别是依赖工业界开发的多模态大模型技术。因此，如果医疗和公共卫生领域的多模态大模型得不到维护、被减少或仅在高收入环境中使用而设计和更新，那么依赖这些多模态大模型的医疗卫生系统将不得不进行调整，并有可能需要在没有多模态大模型的情况下提供医疗卫生服务。此时，若医疗保健专业人员已经“去技能化”，将某些职责外包给人工智能，或者患者期望使用人工智能，这可能会使得情况十分艰难。相关的风险在于，如果多模态大模型不能保护患者的隐私和保密性，过度依赖多模态大模型可能会破坏个人和社会对卫生保健系统的信任，因为人们将不再有信心在不危及隐私的情况下获得医疗卫生服务。
3.1.6 网络安全风险
随着卫生保健系统越来越依赖人工智能，这些技术可能成为恶意攻击和黑客行为的目标，某些系统可能会被关闭，训练数据可能会被操纵以改变其性能和回应，数据也可能会被“绑架”以索取赎金。如上所述，一个独特的危及安全的风险是，敏感数据被输入到不受披露、授权使用等方法保护的多模态大模型中。
3.2 法律与监管合规
虽然可以颁布新的法律来规范人工智能的使用，但某些现行法律法规，特别是数据保护方面的法律和国际人权义务也适用于多模态大模型的开发、提供和部署。目前已开发并供公众使用的某些多模态大模型可能会违反若干主要的数据保护法律，如欧盟的《通用数据保护条例》。该条例涵盖了各种权利，如免受自动决策影响的权利。这些权利、保护和要求必须指导人工智能的发展。
在欧盟成员国和加拿大等地区，一些此类违规行为引发了对多模态大模型的调查。违规行为包括：①多模态大模型在未征得个人同意的情况下（也没有收集这些数据的“合法权益”）从互联网上收集和使用个人数据；②未曾告知公众正在使用他们的数据，且不能给予用户纠正错误、删除数据（“被遗忘权”）或拒绝使用这些数据的权利的多模态大模型；③在使用用户提供给聊天机器人或其他消费者界面的敏感数据时，不够完全透明的多模态大模型（尽管法律规定用户必须能够删除聊天记录数据）；④没有适当的“年龄门槛”系统来过滤13岁以下用户和未获得父母同意的13至18岁用户的多模态大模型；⑤不能防止个人信息泄露的多模态大模型；⑥部分由于“幻觉”而发布不准确个人信息的多模态大模型。如上所述，尽管一些企业正在研究满足“可解释性”要求的方法，但目前还无法解释多模态大模型是如何作出决定的。
多模态大模型有可能永远无法遵守《通用数据保护条例》或其他数据保护法律。2023年，一份向某欧盟成员国数据保护机构提交的投诉称，一家企业的大语言模型及其开发和现在的运行方式系统性地违反了《通用数据保护条例》。
许多违反数据保护法的行为也可能违反消费者保护法。更广泛地说，如果这些问题不能得到解决，它们也直接违反了世界卫生组织关于卫生领域人工智能的指导原则，包括保护人类的自主性的原则以及确保透明、可以解释和可以理解的原则。
企业无法遵守现行法律可能是导致一些企业对即将出台的人工智能法规热烈关切的原因。针对欧盟计划出台的《人工智能法案》，一家大企业的负责人表示，该企业可能无法在欧洲提供其主要的多模态大模型产品，因为它可能无法遵守相关法规。这一最后通牒可能会导致隐私权和其他保护措施受到侵蚀，也可能导致医疗服务的提供取决于国家是否愿意放弃某些人权。
3.3 社会的关切与风险
多模态大模型可能会加强一小部分在多模态大模型商业化方面处于领先地位的科技企业（及其高管）的权力和权威。多模态大模型还可能对环境和气候产生负面影响，因为在训练和使用多模态大模型的过程中会消耗碳和水。人们还严重担心多模态大模型可能会增强由技术推动的性别暴力，包括网络欺凌、仇恨言论和未经同意使用图像和视频，如“深度伪造”。后一种风险在本指南中没有涉及，但值得世界卫生组织更广泛地关注，因为它对人工智能使用所针对的人群，尤其是未成年与成年女性的健康和福祉具有严重的负面影响。
3.3.1 与大型科技企业有关的挑战
随着多模态大模型参数和规模的扩大，多模态大模型的出现加强了开发和部署人工智能的少数大型科技企业的主导地位和中心地位。很少有企业和政府拥有足够的人力和财力、专业知识、数据和算力来开发日益复杂的多模态大模型。多模态大模型的算力和投资都在增加，而且随着对人工智能需求的增长，招聘“人工智能人才”的费用也十分昂贵。拥有功能最强大微芯片的多模态大模型需要多台计算机连续工作数周甚至数月且数千个芯片协同工作，才能完成训练。
随着多模态大模型的训练、部署和维护成本不断上升，少数企业有可能会“产业俘获”许多产品和服务（包括卫生领域）的潜在组成部分，从而排挤高校（学术界）、初创企业甚至政府。在人工智能研究方面，已经有令人信服的证据表明，最大的企业正在排挤高校和政府。
大型科技企业的主导地位不仅决定了人工智能的应用和用途，也越来越多地决定了早期研究的优先事项。在缺乏替代品和监管的情况下（即使2023年颁布法律，也可能需要数年时间才能全面实施），大型科技企业如何作出内部决策以及如何与社会和政府建立联系变得越来越重要。企业可能会通过例如前沿模型论坛或与高收入国家政府合作以解决各种问题，包括与美国政府作出的几项自愿承诺和即将与欧盟作出的承诺。
另一个令人担忧的问题是，企业可能不会坚持伦理方面的社会责任。例如，一些大型科技企业成立伦理团队的目的是确保人工智能模型的设计和开发遵守内部伦理原则，通过引入“摩擦”从而要求企业放缓或停止某些开发活动，但大型科技企业往往将伦理团队搁置或裁撤。裁撤负责人工智能伦理相关问题的整个团队，意味着伦理原则没有“与产品设计紧密联系在一起”，而是被搁置了。
一些大型科技企业通过前沿模型论坛，承诺确保“负责任和安全地开发前沿人工智能模型”，包括多模态大模型，“确定负责任地开发和部署前沿模型的最佳实践”，并“与政策制定者、学术界、民间团体和企业合作，分享有关信任和安全风险的知识”。在与美国政府的自愿承诺中，科技企业保证避免有害的偏见和歧视，并保护隐私。不过，自愿承诺或合作伙伴关系是否足以取代对伦理规范的有力承诺，目前还不清楚。
大型科技企业既没有开发医疗产品和服务的历史，也不够专业。因此，它们可能对医疗卫生保健系统、医疗服务提供者和患者的需求不敏感，可能无法解决隐私或质量保证等传统医疗卫生企业和公共医疗机构所熟悉的问题。随着时间的推移，它们的敏感性可能会提高，正如其他提供了几十年医疗产品和服务的企业一样。
许多正在开发多模态大模型的企业对政府、监管机构或可能使用其模型的企业都不公开透明，这些企业可能需要证据、数据、性能和其他信息，以评估多模态大模型的风险和受益；需要模型中的参数数量，以衡量模型有多强大的指标。使用此类模型开发产品和服务的企业也不披露他们评估伦理挑战和风险的方法、所采取的保障措施、多模态大模型对这些保障措施的反应以及应限制或停止使用技术的情况。研究者根据100项指标对10家领先的大语言模型开发者的基础模型透明度指数进行了评估，发现“没有一家主要的基础模型开发者提供接近于充分的透明度，这表明人工智能行业从根本上缺乏透明度”。美国联邦政府与几家大型科技企业达成的自愿协议包括两项透明度承诺。这些企业承诺：与行业、政府、民间团体和学术界共享风险管理信息；公开报告其人工智能系统的能力、局限性以及适配与不适配的领域。虽然这些承诺可能比现状有所改进，但它们都是自愿且可以自由解释的，如果没有具体的监管要求，可能无法实现充分披露。
由于内部商业压力或外部竞争，企业在充分了解多模态大模型的功能之前，就急于将新的多模态大模型尽快推向市场，而无论适当的测试、保障措施以及伦理风险和关切是否已经确定和解决。一位企业高管说，“在这个时候担心那些以后可以解决的问题，绝对是一个致命的错误”。在没有充分识别、验证、说明和降低风险的情况下发布多模态大模型的企业会积累“道德债务”，其最终后果不是由企业承担，而是由那些最容易受到此类技术负面影响的人承担。前沿模型论坛的成员致力于“推进人工智能安全研究”和“确定最佳实践”，且其对美国政府的自愿承诺包括在人工智能系统发布前对其进行内部和外部测试。
商业压力不仅可能导致企业急于将多模态大模型尽快推向市场，还可能导致企业为了优先考虑可以创收的服务，而取消或放弃对公众健康有重大益处的产品和服务。2023年，一家大型科技企业“砍掉”了开发ESMFold的团队，ESMFold是一种蛋白质语言模型，可以从单个序列预测完整的原子级蛋白质结构，还生成了一个包含6亿多个蛋白质结构的数据库。人们担心该企业可能不愿意“承担维持数据库运行的成本，以及允许科学家在新蛋白质序列上运行ESM算法的另一项服务”。
3.3.2 多模态大模型碳足迹和水足迹
多模态大模型规模不断扩大的另一个后果是其对环境的影响。多模态大模型需要大量数据，而训练数据需要消耗大量能源。在一家大型企业，训练一个新的多模态大模型需要耗费大约3.4千兆瓦时（2个月），相当于300个美国家庭的年能耗。虽然有些多模态大模型是在使用可再生能源或无碳能源的数据中心训练的，但大多数人工智能模型是在使用化石燃料供电的电网中进行训练的。随着越来越多的企业引入多模态大模型，电力消耗将继续增加，最终可能对气候变化产生重大影响。
世界卫生组织认为，气候变化是一项紧迫的全球健康挑战，现在和未来几十年都需要优先采取行动。在2030年至2050年期间，气候变化预计将导致因营养不良、疟疾、腹泻和热应激死亡的人数每年增加约25万。到2030年，直接损害健康的成本估计为每年20亿至40亿美元。在医疗基础设施薄弱的地区，主要是低收入和中等收入国家，如果没有做好准备和应对援助，其应对能力将最差。
多模态大模型对水的使用也有很大影响。一家大型科技企业的早期多模态大模型训练消耗了70万升淡水，而其他数据中心的用水量可能更大。尽管许多开发者越来越意识到他们的碳足迹，但许多人并没有意识到他们的水足迹。一个多模态大模型的简短对话（20~50个问题和回答）所需的水量约为500毫升。
3.3.3 取代人类认识权威的“危险”算法
与多模态大模型的出现相关的一个更普遍的社会风险是，多模态大模型尽管提供的是似是而非的回应却逐渐被视为知识来源，这最终可能会削弱人类知识的权威，包括在医疗保健、科学和医学研究。事实上，多模态大模型并不产生知识，也不理解自己在“说什么”，在回答问题时也没有任何道德或场景推理。
即使科技企业一再警告多模态大模型的危险，它们仍继续在没有保障或监管的情况下直接向社会发布多模态大模型，其方式不仅可能取代人类对知识生产的控制，而且可能削弱人类在医疗、医药和其他领域安全使用知识的能力，而这些领域正是社会所依赖的系统。然而，这些群体可能会听从人工智能系统的建议，尤其是在没有专业医疗人员或医疗服务提供者对多模态大模型生成的错误或不准确的回应进行背景分析或纠正的情况下。
多模态大模型向公共领域和知识库释放越来越多的不完善信息或虚假信息，最终可能导致“模型崩塌”，即根据不准确或虚假信息训练的多模态大模型也会污染互联网等公共信息来源。为了避免出现这种情况，同时最大限度地发挥多模态大模型在医疗和其他重要社会领域的作用，政府、民间团体和私营部门必须引导这些技术为共同利益服务。
4 通用基础模型（多模态大模型）的设计与开发
通用基础模型通常需要在大量数据基础上进行训练，需要巨大的算力。多模态大模型的开发还需要专门的具有科学和工程专业知识的人力资源。世界卫生组织2021版指南建议，医学人工智能的开发者“应投资于改善其产品的设计、监督、可靠性和自我监管的措施”。
虽然下文的大多数研究结果和建议可适用于所有通用基础模型，但本指南的目的是针对可能或正在用于卫生保健与药品领域（由用户直接使用或通过应用程序或服务使用）的此类模型。以下建议也旨在指导设计和使用经过专门训练的多模态大模型，这些多模态大模型可直接由用户使用，也可通过应用或服务使用。
4.1 通用基础模型（多模态大模型）开发过程中需要应对的风险
通用基础模型的设计和开发可能会带来严重的风险，如果不加以纠正，可能会对社会产生广泛的影响，或对多模态大模型的用户造成特殊的负面后果。消除或降低这些风险是开发者的责任，因为只有开发者才能够（或可以）在设计和开发过程中作出某些决定，而这些决定是可能会使用算法的提供者和部署者无法控制的（而且提供者、部署者或用户也无法通过正确使用技术来降低这些风险）。通用基础模型的开发者至少应通过政府法律法规等途径应对八种风险：偏见（与设计和训练数据有关），隐私（训练数据和其他输入数据），劳工问题（外包数据过滤，删除攻击性内容），碳足迹和水足迹，虚假信息、仇恨言论或错误信息，安全性与网络安全，维护人类的认识权威，对多模态大模型的独家控制。
4.2 开发者可以采取的应对通用基础模型（多模态大模型）风险的措施
开发者可以采取许多措施或做法来应对这些风险，无论是作为对伦理原则或政策的承诺，还是为了满足政府的要求。
①人工智能专业技能（科学和工程人员）：开发者可以确保其科学和编程人员能够识别和规避风险。世界卫生组织的伦理指南就科学和工程人员的培训以及设计过程的包容性提出了若干建议。特别是世界卫生组织专家组建议开发者考虑“对‘高风险’人工智能（包括医学人工智能）开发者的许可或认证要求”。
开发出应用于或可用于医疗、科学研究或药品领域的多模态大模型的企业和其他实体，应考虑进行认证或培训，使其符合医疗行业的要求，并提高其产品和服务的可信度。任何由开发者或专业学会引入和执行的标准，都应与政府监管机构合作或由政府监管机构制定，并应符合世界卫生组织增进人类福祉、安全和公共利益的伦理原则。
②数据：尽管人力资源和算力对开发多模态大模型至关重要，数据可能才是最关键的基础设施要求。用于训练多模态大模型的数据质量和类型决定其是否符合核心伦理原则和法律要求虽然人工智能开发者在定性调查中一致认为数据质量“很重要”，需要投入大量时间，但与数据相关的工作往往价值不高，这可能对医疗和药品等“高风险”领域的人工智能产生重大负面影响。
由于将数据用于医疗保健可能需要严格遵守知情同意的法律规定，因此开发者在训练医疗多模态大模型时，可能不得不依赖较小的数据集。较小的数据集可能对于确保数据的质量而言是可取的，其多样化的数据可以避免偏差，也可以反映多模态大模型服务对象的构成和实际情况。然而，较小的数据集可能会增加重新识别个人身份的风险，从而使他们现在或将来受到伤害。
评估范围不局限于隐私风险的范畴，可包括数据质量，如数据是否公正准确。检查或审核此类数据集的人工智能研究人员指出，虽然为人工智能创建数据集很简单，但审核却很困难、耗时且昂贵。一位研究人员指出“做脏活累活工作要难得多”。
开发者可以采取其他措施来提高数据质量并遵守数据保护法。与早期多模态大模型的开发方式不同，无论模型大小如何，开发者都应根据按照数据保护规则的最佳实践收集数据进而对多模态大模型进行训练。因此，开发者应避免使用数据经纪人等第三方来源的数据，因为他们的数据可能是旧的、有偏见的、组合不正确的，或有其他可能尚未纠正的缺陷。谨慎收集数据还能确保多模态大模型不违反版权法或数据保护法，因为这些行为可能会带来法律后果，某些多模态大模型可能会因此被贴上非法标签。
如果使用第三方数据提供者的数据，可以对其进行认证，以建立信任并确保其专业性和合法性。开发者用于训练多模态大模型的所有数据，无论是直接收集的还是从第三方收集的，都必须保持更新。如上所述，一些领先的人工智能模型并未使用最新数据进行训练，这可能会影响模型在卫生保健与药品领域的表现，因为新的证据和信息会对决策产生有意义的影响。数据集应不断更新且准确无误，这样多模态大模型才能适配于应用场景。
确保数据足够透明可能十分困难。推出新多模态大模型的企业的训练数据越来越不透明。开发者应该对用于训练模型的数据保持透明，以便下游用户，包括对多模态大模型进行微调的用户、使用多模态大模型开发医疗应用的用户以及直接使用多模态大模型的用户，了解训练数据集的不足或不完整之处。
③伦理设计和价值设计：将伦理和人权标准纳入人工智能技术开发的一种方法是“价值设计”，这是一种将人类尊严、自由、平等和团结等价值作为设计基础，并将其视为非功能性要求的范例。世界卫生组织最初的人工智能技术设计专家指南中的几项建议，包括“价值设计”，值得在此重申。
2021版指南建议，人工智能技术的设计和开发不应仅由科学家和工程师完成，在基础模型的开发过程中，可能使用模型或从模型中受益的人可以参与初始开发。其中一项建议是引入所谓的“人类监督协会”，这将有助于让患者代表参与旨在直接或通过医疗提供者间接使患者或护理者受益的多模态大模型开发过程。医疗保健专业人员、研究科学家、患者、非专业人员和弱势群体也可参与多模态大模型的设计、数据标注和测试。
2021版指南还建议：“设计者和其他利益相关者应确保人工智能系统在设计上能够以必要的准确性和可靠性执行定义明确的任务，以提高医疗卫生系统的能力并促进患者的利益。设计者和其他利益相关者还应能够预测和理解潜在的次生结果”，甚至在开始开发多模态大模型之前，开发者就可以进行所谓的“事前剖析（pre-mortem）”。
2021版指南还建议，“设计者用于‘价值设计’的程序应参考并更新共识原则、最佳实践（如保护隐私的技术和技巧）、设计伦理标准以及不断发展的专业规范”。
④尊重环境因素的设计：如上所述，多模态大模型的一个主要问题是其碳足迹和水足迹。开发者应采取一切可能的措施减少能源消耗，如提高模型的能效，一些大型科技企业正在尝试这种方法。
提高能效的另一种方法是开发较小的多模态大模型，这些多模态大模型在较小的数据集上进行训练，因此在训练或运行时不需要那么多能源。较小的多模态大模型不仅可以减少能源消耗，还可以为较小的企业或实体开发多模态大模型提供机会，并提高输出结果的准确性。小型多模态大模型对于开发“专用多模态大模型”可能特别有用，例如专门用于医疗、科学研究和医学研究的多模态大模型。一些大型科技企业已经推出了几种这样的多模态大模型。
4.3 政府法律、政策和公共部门投资
可以执行或制定一些现有的或潜在的法律或政策，以减少或避免通用基础模型设计和开发过程中的风险。此外，政府可以进行公共部门投资，促进或支持通用基础模型的伦理设计与开发。
世界卫生组织支持应用和执行包括数据保护规则在内的标准，这些标准对如何使用和将如何使用数据来训练多模态大模型作出了规定。数据保护法通常以基于权利的方法为基础，包括数据处理监管标准，既保护个人权利，又规定公共和私人数据控制者和处理者的义务，还包括对侵害法定权利行为的制裁和补救措施。数据保护法已在150多个国家通过，这为包括多模态大模型在内的所有人工智能技术的发展奠定了坚实的基础。
一项应当执行的数据保护要求是，数据的收集和处理必须合法，尤其是用于训练多模态大模型的医疗数据。这通常需要数据主体提供有效的知情同意，同意将其数据用于所述目的。任何后续处理都应有法律依据，因为不能假定后续处理与最初的目的相一致。世界卫生组织专家组建议各国政府“为使用健康数据和保护个人权利制定明确的数据保护法律法规，包括获得有意义的知情同意的权利”。
政府监督和规范用于训练多模态大模型的数据收集和使用的其他措施包括中国政府颁布的、于2023年8月生效的生成式人工智能法规。中国国家互联网信息办公室规定了几项义务，包括提供者应采取有效措施，避免在选择训练数据时出现歧视和偏见；提供者应使用清晰的标签，并评估数据标签的质量；开发者应采取“有效措施”，实现数据的真实性、准确性、客观性和多样性目标。这些要求预计不会严格适用于只需要采取有效措施确保适当的数据质量的企业。这些措施只适用于向中国公众提供服务的企业。
与数据有关的立法规定可包括以下要求：描述用于训练基础模型的数据来源，以及使用受数据治理约束的数据，以确保这些数据具有适用性和偏见纠正的措施。
政府在设计和开发过程中可以采取的其他措施如下：
①目标产品简介：各国政府和国际机构可发布目标产品简介，说明拟用于卫生保健与药品领域的多模态大模型的偏好和特点，特别是如果政府打算购买此类技术用于政府管理的卫生系统。
②设计和开发标准与要求：政府可要求开发者确保通用基础模型的设计和开发在其整个生命周期内实现某些成果。其中可包括对模型的可预测性、可解释性、可追溯性、安全性和网络安全的要求。
③预认证程序：监管机构可引入法律义务并制定激励措施，要求并鼓励开发者通过包括预认证程序在内的措施，识别并避免伦理风险，如偏见或损害自主权。2021版指南提出建议，“政府监管机构应激励开发者在产品设计和开发过程中识别、监测和解决相关的安全和人权问题，并应将相关准则纳入预认证计划”。
④审计：政府可以对基础模型的初始发展阶段进行审计。一项建议提出了三类审计：对多模态大模型提供者的“治理审计”，对多模态大模型的审计，以及对建立在多模态大模型基础上的下游产品和服务的“应用审计”。其中，应用审计不适用于多模态大模型的开发阶段。可将审计纳入对卫生保健与药品领域多模态大模型的审评要求中（见下文）。为使审计有效，应对审计质量进行评估，以确保审计达到预期目的。
⑤环境足迹：政府可要求通用基础模型的开发者解决其碳足迹和水足迹问题。例如，政府可以要求开发者测量其能源消耗，减少训练过程中的能源消耗，并达到一定的环境标准。
⑥对多模态大模型生成内容为“机器生成”予以明确告知：政府可要求开发者确保在部署通用基础模型时，向终端用户发出通知和提醒，说明内容是由机器而非人类生成的。政府还可以考虑要求或鼓励开发者在早期阶段对用于卫生保健与药品领域的人工智能算法或系统予以注册。早期注册可以鼓励发表负面结果，防止发表偏见或对结果过于乐观地解释，并促进有利于患者的知识整合。
⑦为公众利益开发多模态大模型的公共基础设施：公共、私营和非营利部门的开发者都可以利用这种基础设施，可以要求用户在获得使用权后遵守道德原则和符合价值观。它还有助于避免开发者对多模态大模型的独家控制，并在无法使用此类基础设施和资源的最大企业与开发者之间“公平竞争”。
受独立监督的政府可以建设基础设施，然后由开发者用来开发医疗多模态大模型。努力创造公平的竞争环境也适用于学术界及其资源劣势。加拿大政府的国家高级研究计算平台（Advanced Research Computing Platform）服务于该国的学术部门；中国政府批准了一个国家计算能力网络系统，使学者和其他人能够访问数据和算力；美国国家人工智能研究资源（National AI Research Resource）工作组“提议创建公共研究云和公共数据集”，欧洲民间团体也呼吁政府在建立所谓的“欧洲大型生成式模型”方面发挥更坚实的作用，政府将为此提供特定的人工智能计算、数据基础设施、科学和研究支持。
4.4 开源通用基础模型（多模态大模型）
开源多模态大模型在整合伦理原则和应对已知风险方面的作用尚不确定。一般来说，通过使用开源软件设计人工智能技术或公开软件源代码，可以提高透明度和参与度。
但是，如果以前提供模型的大型科技企业选择不再继续提供模型，那么开源多模态大模型可能无法持续下去。大多数开源多模态大模型的开发都是基于Meta（前身为Facebook）有限发布的多模态大模型。自多模态大模型及其权重被泄露以来，该企业已表明其对开源方法的承诺，并指出开放性“会带来更好的产品、更快的创新和繁荣的市场，使Meta受益，也使许多其他……最终，开放是消除关于人工智能的恐惧的最佳良药”。然而，独立观察人士注意到，虽然Meta企业以非商业方式提供其多模态大模型，但其使用条款存在限制条件，因此其提供多模态大模型的方式并不符合开源原则。
开发者很难满足使用开源模型监测其性能和结果的额外要求；然而，这些模型的益处并不能取代监管、避免危害，例如与使用开源模型相关的安全问题。开源模型容易被滥用，其漏洞也可能被网络攻击。一组研究人员最近发现，在开源人工智能系统上测试的方法规避了人工智能安全措施和保障措施，也可以绕过所谓封闭系统的保障措施。归根结底，开源模型是基于与其他多模态大模型相同的黑箱技术。
鼓励开源多模态大模型的一种方法是，政府要求利用政府资金或知识产权建立的基础模型能够被广泛接入，与政府要求开放政府资助的研究成果一样。政府还可以鼓励在公共设施中进行开源研发，包括在有公共监督的受控条件下进行下一代模型的研发。公共监督和参与可能比Meta泄露的允许任何人“下载并在MacBook M2上运行”的模型的新现实更好。
建议设计应当或可以用于医疗、科学研究或医药领域的多模态大模型的开发者应考虑对程序员进行伦理认证或培训。这将使人工智能开发者符合医疗行业的要求，并增加对其产品和服务的信任。
针对开发者的建议：
开发者在处理这些数据之前都应进行“数据保护影响评估”，这将要求开发者评估数据处理操作侵害个人权利和自由的风险，以及对个人数据保护的影响。
开发者应根据数据保护规则的最佳实践，对收集的数据进行多模态大模型训练。
用于训练多模态大模型的所有数据集，无论是开发者直接收集的还是通过第三方收集的，都应保持更新并适合系统的使用环境。
开发者应对用于训练模型的数据保持透明，以便对多模态大模型进行微调，以便使用多模态大模型开发医疗应用或直接使用多模态大模型的用户了解训练数据集的任何不足或不完整之处。
开发者应向数据工作者支付维持生计的工资，并为他们提供心理健康服务和其他形式的咨询。开发者还应采取保障措施，保护工人免受任何困扰。各国政府应更新劳动标准，将这些福利扩展到所有数据工人，促进各企业之间的“公平竞争环境”，并确保这些劳动标准随着时间的推移得到维护和改进。
开发者应确保多模态大模型不仅由科学家和工程师设计，潜在用户以及所有直接和间接的利益相关者，包括医疗提供者、科学研究人员、医疗保健专业人员和患者，应从人工智能开发的早期阶段就参与到结构化、包容性和透明的设计中来，并应有机会提出伦理问题、表达担忧和为可能采用的人工智能应用提供意见。这种意见可通过“人类监督协会”提供。
开发者应确保多模态大模型的设计能以必要的准确性和可靠性执行明确界定的任务，以提高卫生系统的能力，促进患者的利益。开发者还应能够预测和了解潜在的次生结果。满足这些要求的技术包括“事前剖析”和“红队”。
开发者用于“价值设计”的程序应参考并更新共识、最佳实践（如保护隐私的技术和技巧）、设计伦理标准和不断发展的专业规范，如披露多模态大模型生成的内容是由人工智能系统生成的。
开发者应采取一切可能的措施减少能源消耗（如提高模型的能效）。
针对政府的建议：
各国政府应为医疗数据的使用制定适用于多模态大模型开发的强有力的、强制执行的数据保护法律法规。这些法律法规必须能够有效保护个人的权利，并为个人提供保护自身权利所需的工具，包括获得有意义的知情同意的权利。对于为医疗多模态大模型而收集和处理的数据，可能还需要更多的工具。
各国政府和世界卫生组织等国际机构应发布“目标产品简介”，对医疗多模态大模型的偏好和特点进行界定，特别是如果政府预计最终会购买此类工具用于政府运营的卫生系统。
各国政府应要求开发者确保通用基础模型的设计和开发能在产品生命周期内取得某些成果。其中可包括对模型的可预测性、可解释性、可追溯性、安全性和网络安全性的要求。
监管机构应引入法律义务并建立激励机制，如预认证程序，要求并鼓励开发者识别并避免伦理风险，包括偏见或破坏自主性。
各国政府应对基础模型开发的初始阶段进行审计。
各国政府应要求通用基础模型的开发者解决通用基础模型的碳足迹和水足迹问题。
各国政府应要求开发者确保在使用通用基础模型时，通知并提醒用户内容是由机器而非人类生成的。
各国政府应考虑要求或制定激励措施，鼓励开发者在早期阶段对用于卫生保健与药品领域的人工智能算法或系统予以注册。早期注册可鼓励发表负面结果，防止发表偏见或对结果的过度乐观解释，并可促进纳入对患者有益的知识。
各国政府应投资或提供非营利或公共基础设施，包括算力和公共数据集，供公共、私营和非营利部门的开发者使用，要求用户遵守伦理原则和价值观，以换取访问的权利。
各国政府应鼓励开发开源多模态大模型，要求利用政府资金或知识产权建立的基础模型能够被广泛访问，就像各国政府要求对政府资助的研究开放访问一样。各国政府应支持在公共设施中进行开源研发，包括在公共监督的受控条件下进行下一代模型的研发。
5 通用基础模型（多模态大模型）的提供
通用基础模型的用途取决于是用户提示多模态大模型生成与医疗保健相关的输出，还是开发者允许提供者将多模态大模型集成到与医疗保健相关的应用软件、产品或服务中。这两种情况都会带来新的风险，都必须由开发者、提供者或者两方一起共同解决。政府有责任在部署此类技术之前评估和规范其使用。
5.1 使用通用基础模型（多模态大模型）提供医疗服务或应用程序时应注意的风险
对于通用基础模型和应用程序在用于医疗目的的产品中或由用户直接使用时是否都应该得到评估和批准，可能存在分歧。几家大型科技企业一直在游说政府或组织（例如欧盟）放弃多模态大模型的评估框架，转而将监督重点放在那些可能被政府认为“有风险”的应用上。这既涉及开发和销售包含基础模型的医疗应用程序的提供者，也涉及选择直接或间接通过人工智能系统使用多模态大模型的用户，如提供者或患者。这些企业认为，针对多模态大模型本身的监管会将责任“完全转嫁”给开发者，然而价值链中的其他企业也应承担责任。
让通用基础模型的开发者为多模态大模型的所有使用负责可能不合适，但让提供者、部署者或用户独自承担也不合适，因为他们没有参与模型的开发，可能不了解相关的限制和风险。这将造成多模态大模型的开发者逃避责任，尽管他们拥有巨大的权力、资源、监督和对多模态大模型的理解，而且将在治理人工智能技术用于健康的尝试中打开一个“巨大的漏洞”。
开发人员可能会试图避免将多模态大模型用于医疗目的（或其他用途）。如果开发者不希望将多模态大模型用于医疗（特别是临床医药）目的，它可以通过阻止开发医学应用程序的实体在应用程序编程接口上使用（许可）多模态大模型来阻拦应用；当多模态大模型直接被使用者用于医疗的目的时，可以通过阻止查询或对包含健康或医疗信息的任何响应附加明确警告来阻止应用，并将用户引导至可以提供适当帮助的信息或服务。
如果不采取这些措施，或者如果开发者打算由用户直接或通过提供者间接将其多模态大模型应用于医疗保健，开发者将承担只有它才能履行的具体责任。此外，开发者和提供者都有进一步地解决卫生领域多模态大模型风险的义务。
下文所述的责任在政府授权的法律、政策和法规中得到界定，因为政府必须最终决定是否允许基于人工智能的系统用于卫生领域。如果多模态大模型要用于卫生领域，开发者和提供者也必须履行共同责任。如果没有制定或更新法律来解释这些责任，这些责任可以由政府界定，也可以由双方通过合同约定。
部署前必须解决的主要风险包括全系统偏见、医疗用途的虚假信息或“幻觉”、输入多模态大模型数据的隐私、操纵和自动化偏见。
5.2 政府可采取的应对此类风险的措施和应坚持的伦理原则
多模态大模型和包含多模态大模型的应用的发展速度要求各国政府迅速制定法规和具体标准，以便将这些人工智能算法用于卫生保健系统、其他科学和医学研究。该方法应涵盖由一个监管机构（如医疗器械或药品监管机构）对拟用于医疗或药品领域的人工智能技术进行评估和审批，当然政府也可为此目的设立一个新的机构。低收入和中等收入国家面临的一个挑战是，它们的监管机构已经资源不足，而且被药品监管压得喘不过气来。
已经有至少一个高收入国家的政府与某个大型科技企业达成一致，将对其基础模型进行自愿公开评估，并披露评估结果，以便向公众和研究人员提供有关模型的信息，并鼓励企业纠正任何错误；然而，自愿的方式可能既不充分，也不持久。
对多模态大模型和应用的评估不应只针对卫生系统中使用的人工智能系统或算法，因为在临床和“健康”应用之间的灰色地带中使用多模态大模型和应用也存在重大风险。鉴于此类技术的迅速扩散，政府至少应在初期识别此类应用，制定共同的标准和法规，并禁止向公众部署不符合标准和法规的应用。
在需要时，开发者和提供者应承担举证责任，证明打算投入使用的卫生领域人工智能符合法律或政策规定的最低要求。鉴于与多模态大模型相关的已知风险和挑战，不应假定具有多模态大模型的人工智能算法和应用是安全有效的，或它们优于已经广泛使用的人工智能或非人工智能方法。
下文介绍可能适用于在卫生保健与药品领域多模态大模型的若干法律、政策和整合的要求。
①披露（透明度）要求：适当的监管不仅要求政府有能力和自由裁量权来决定他们可以评估和批准使用什么，还要求有足够的信息来进行这样的评估。披露对于充分监管人工智能技术和确保人工智能价值链中的其他参与者能够安全使用该技术都是必要的。
公开和透明是世界卫生组织的指导原则，也是提高基于人工智能的系统的“可解释性”和可理解性的措施，在评估通用基础模型或应用时应要求公开和透明。世界卫生组织先前的指南建议：“政府监管机构应要求人工智能技术某些方面的透明度，同时考虑到专有权，以改善对安全性和有效性的监督和评估。这可能包括人工智能技术的源代码、数据输入和分析方法”。与多模态大模型相关的新披露形式可能包括其内部测试表现及其碳足迹、水足迹。此外，可能还需要制定“开放权重”标准，让监管者、其他开发者、民间团体和提供者了解算法的训练结果，或多模态大模型在训练过程中获得的知识。
②数据保护法：多模态大模型的开发以及开发者管理训练多模态大模型所需的数据的方式可能会违反数据保护法。另一个问题是，可能包括敏感个人信息的、为产生特定输出而被输入多模态大模型或应用程序的数据，会因为意外或被诱导泄露。许多大企业，包括正在开发多模态大模型并将其商业化的科技企业，禁止自己的员工使用此类算法，原因就在于潜在的信息泄露风险。
披露数据违反了开发者保护人类的自主性的义务。如果敏感数据的保存时间超过数据最小化要求所允许的时间，开发者还可能违反数据保护法，有开发者允许用户选择删除他们为改进聊天机器人性能而提供的任何内容。允许使用多模态大模型的政府应确保制定、扩展和执行数据保护规则，以涵盖输入多模态大模型的数据。中国政府对多模态大模型的规定中包含了这样的要求，尽管这种保护只适用于中国的用户。
③评估卫生领域通用基础模型和/或应用：人权法与基于风险的对比框架：目前正在制定若干立法框架，以评估和规范人工智能技术。与这些框架有关的一个问题是，人工智能技术是否必须满足人权义务（欧盟认为是“基本权利”），或者是否应采用不同的方法，如在基于风险的框架内评估人工智能技术。欧盟《人工智能法案》采用了基于风险的框架。
所有卫生领域人工智能系统或工具都应尊重影响个人尊严、自主权或隐私等方面的伦理义务和人权标准。这包括通用基础模型。人权和伦理原则是不容讨价还价的，无论人工智能技术带来的风险或受益如何，都必须坚持。
2021版指南建议，“各国政府应颁布法律和政策，要求政府机构和企业对人工智能技术进行影响评估，评估应涉及伦理、人权、安全和数据保护，并贯穿人工智能系统的整个生命周期”。2021版指南还指出，“在引入人工智能技术前后，应由独立的第三方对影响评估进行审核，并予以公布”。
例如，影响评估可以揭示人工智能技术是否会带来全系统范围的偏见，是否会危及共享个人数据的用户的隐私，或是否会导致用户被操纵。应通过提供者和开发者之间的合作来解决隐私风险问题，开发能保护个人隐私的多模态大模型。美国的一家企业和一家医院系统正在开发这种多模态大模型，但由于数据无法完全去标识化，该项目被认为不太可能成功。影响评估还可以确保通用基础模型或应用程序的使用保持人类在体系中，以避免用户在自动决策过程中，收到虚假信息或错误信息，或医疗服务提供者或患者不加批判地依赖多模态大模型的输出，以至于产生自动化偏见。
相反，政府可能会选择对卫生保健与药品领域多模态大模型采用基于风险的框架。对于那些被认为风险较高的功能，如为严重抑郁症患者提供处方或心理健康建议，或为弱势或边缘人群使用人工智能技术，举证责任会更重。有人担心，如果政府选择基于风险的方法，它将被认为是充分的，或被用来替代基于人权的方法。基于风险的框架可能会将某些看似低风险但最终可能导致伤害的多模态大模型或应用排除在评估之外。
本指南不包括关于是否所有基础模型都应接受基于风险和/或基于权利的评估的建议，无论其如何使用。本指南也没有给出对通用基础模型的人工智能监管评估是否应仅适用于最大的（系统性）多模态大模型的建议。
提供者也应接受人工智能监管评估，因为他们对多模态大模型的使用可能会改变其目的和功能，使之与由开发者确定但由提供者控制的目的和功能不同。因此，如果一个通用基础模型经提供者调整后用于医疗或药品领域，且开发者也同意，那么开发者和提供者都应遵守在卫生保健与药品领域使用多模态大模型的要求。如果医疗服务提供者使用的产品或应用程序与基础模型有重大差异，或以超出开发者控制范围的方式改变了基础模型，则医疗服务提供者的监管负担应更重。
④医疗器械监管：政府可认定通用基础模型或应用程序符合医疗器械的条件。虽然关于哪些多模态大模型符合医疗器械的标准几乎没有指导，但一家监管机构表示，“仅面向一般用途的多模态大模型，如果开发者没有声称其软件可用于医疗目的，则不太可能符合医疗器械的标准”。然而，监管机构也指出：为特定医疗目的而开发或改编、修改或定向的多模态大模型有可能被认定为医疗器械。
根据欧盟和美国现行监管标准，基于多模态大模型的聊天机器人提供医疗建议很可能被定性为医疗器械。2021版指南建议“政府监管机构应要求对人工智能系统的性能进行测试，并从随机试验的前瞻性测试中获得可靠证据，而不仅仅是将该系统与实验室中的现有数据集进行比较”。
如果多模态大模型或其应用要被作为医疗器械进行监管，开发者和/或提供者应承担举证责任，提供证据证明该器械具有上市需要的性能，并符合现行或修订后国家法律的要求。要求可能包括遵守与偏见和隐私相关的道德义务。欧盟和美国新提出的医疗器械人工智能技术法规可能会纳入与卫生领域人工智能应用相关的伦理原则，包括“可解释性”、控制偏见和透明度。目前包含多模态大模型的聊天机器人不太可能达到这些标准。
⑤消费者保护法：各国政府应制定和使用消费者保护法，以确保多模态大模型和应用程序的任何负面影响不会波及用户和患者。可以利用消费者保护法或其他法规，要求限制多模态大模型和应用程序使用可能误导最终用户或使其误认为多模态大模型具有类似人类品质的语言。因此，此类法律可以限制或防止多模态大模型或其应用程序使用“我认为”“我想”或“我建议”等词语。
建议：
各国政府应在资源允许的情况下，指定一个现有的或新的监管机构来评估和批准拟用于医疗或药品领域的多模态大模型及其应用软件。
各国政府应考虑的披露形式包括多模态大模型或应用在内部测试中的表现及其碳足迹和水足迹。多模态大模型及其应用软件的某些方面应该透明，以便监管机构对其安全性和有效性进行监督和评估。这可能包括源代码、数据输入、模型权重和分析方法。
各国政府应确保数据保护规则适用于用户输入多模态大模型或应用软件的数据。
各国政府的法律、政策和法规应确保卫生领域多模态大模型和应用软件，无论人工智能技术带来的风险或受益如何，都符合可能影响个人尊严、自主权或隐私等方面的道德义务和人权标准。
各国政府应颁布法律和政策，要求提供者和开发者在人工智能系统的整个生命周期内对多模态大模型和应用程序进行影响评估，其中应涉及伦理、人权、安全和数据保护。影响评估应在引入人工智能技术之前和之后由独立的第三方进行审计，并向公众公开。
各国政府应确保，对于作为医疗器械进行监管的多模态大模型或应用软件，开发者和/或提供者应负举证责任，证明器械的性能符合上市要求，并符合国家法律或经修订的法律的要求。
各国政府应确保尚未获准使用的多模态大模型或支持临床决策的应用软件不得在授权临床试验环境之外的实验基础上使用。各国政府可通过监管沙盒促进多模态大模型的受控实验使用。沙盒允许在实际临床环境中的实时环境内进行测试，并提供保障和监督，以保护卫生系统免受风险或意外后果的影响。
各国政府应利用消费者保护法，确保使用多模态大模型和应用软件的任何负面后果不会影响包括患者在内的用户。例如，可以利用消费者保护法来防止类似于操纵的行为，或者解决多模态大模型或应用软件造成其他负面后果的原因，以保护患者及其家人免受当前或未来的任何伤害。
6 通用基础模型（多模态大模型）的部署
即使多模态大模型或具有多模态大模型的应用的设计符合伦理规范并经过了适当的监管审查，它在商业化时仍然可能存在风险。卫生领域人工智能应用或工具的部署者可以是多模态大模型或应用的开发者或提供者，也可以是卫生部门、医院、医疗保健企业或制药企业。
6.1 部署通用基础模型（多模态大模型）医疗服务或应用时应注意的风险
部署期间的风险可能源于多模态大模型及其提供回答的不可预测性、以开发者和提供者无法预料到的方式使用通用基础模型的可能性，以及多模态大模型生成的回答可能会随着时间的推移而变化。
部署多模态大模型时必须解决的主要风险有：不准确或错误的回答，偏见，多模态大模型输入和输出数据的隐私，多模态大模型的可访问性和可负担性，对劳动力和就业的影响，自动化偏见和技能退化，医疗服务提供者与患者之间的互动质量。
本章介绍包括用户在内的人工智能价值链中的行为者如何减轻或预防风险，以及在人工智能工具部署后的使用过程中政府监管所能发挥的作用，同时对医疗工作者和卫生系统中的其他行为者进行装备和培训，以最大限度地适当使用多模态大模型。
6.2 开发者和提供者在部署阶段中的持续责任
即使在多模态大模型或应用程序获准使用后，开发者和提供者仍有责任和义务，这是因为开发者或提供者部署了多模态大模型，或是因为某些风险只能由开发者或提供者在部署后解决。这种义务可能必须由法规或法律来规定，以保证开发者和提供者分配足够的资源和注意力。
第一，当大规模部署多模态大模型时，政府应引入发布后强制性审计和影响评估，包括由独立的第三方进行数据保护和人权评估。发布后的审计和影响评估应予以公布，并应按用户类型（如年龄、种族或残障）分列结果和影响。
第二，如果多模态大模型在发布后出现不准确、虚假或有害内容，而提供者和开发者均未采取措施进行纠正或避免，政府可追究提供者或开发者的责任。例如，中国政府关于生成式人工智能的法规规定，生成式人工智能不得产生“虚假和有害”的信息，政府可能会强制执行。在欧盟，在产品或服务中纳入多模态大模型可能会给多模态大模型的开发者和提供者带来额外的责任。例如，如果将多模态大模型集成到属于《欧盟数字服务法》等数字服务监管范围的服务中，多模态大模型将间接受到监管审查，由于多模态大模型容易产生幻觉，因此可能需要监管监督。
第三，可能要求开发者和提供者持续提供操作披露，以便政府和用户安全使用多模态大模型。这可能包括充分的技术文档。
6.3 部署者的职责
部署者还负责避免或减轻与使用多模态大模型或其应用程序相关的风险。
第一，部署者应该使用开发者或提供者提供的信息，如训练数据的偏见、使多模态大模型不适合该环境的场景偏移、其他可避免的错误或部署者已知的潜在风险，来作出禁止在不适当的环境中使用多模态大模型或应用程序的决定。
第二，部署者应该告知他们理应知道的使用多模态大模型可能导致的一切风险，以及对用户可能造成损害的一切错误或失误。这些警告不应采用过小的字体，也不应是容易忽视的内容。
第三，部署者可以采取措施提高多模态大模型的可负担性和可接入性。部署者可以确保使用多模态大模型的定价或订阅费符合政府或其他用户的支付能力，并应保证多模态大模型经过了被忽视或被排除在技术利益之外的人使用的语言文字的训练。部署者还应要求提供者和开发者确保当前和未来的多模态大模型有多种语言版本。
6.4 政府计划和做法
将多模态大模型引入卫生保健系统并用于其他与医疗有关的用途，需要医疗保健专业人员作出重大调整。无论是开发者还是提供者，都没有兴趣、资源或专业知识来确保医疗保健专业人员恰当使用多模态大模型，或将其用于其他涉及受过专门培训和/或具有专门知识的个人用途。
与设计通用基础模型一样（见上文），政府可以让医疗保健专业人员和患者共同参与“人类监督协会”，以确保新的多模态大模型和用于临床决策的应用程序得到适当使用，并且不会损害患者的权利。
政府、高校（健康研究机构）或医院等医疗提供者也可确保医疗工作者有效地使用多模态大模型提供临床护理，并适当接受其他用途的培训。医护专业人员和临床医生应接受以下方面的培训：①了解多模态大模型如何作出决定以及作出此类决定的局限性，②对恰当使用担忧进行识别，③掌握避免自动化偏见的方法，④接触可能或正在考虑使用多模态大模型的患者并对其进行教育，⑤使用多模态大模型的相关网络安全风险。
在医务工作者进行培训和继续教育中，特别重要的是对于患者、非专业人员和其他第三方何时由多模态大模型提供建议或多模态大模型提供的信息已被提供者用于作出医疗决定或其他医疗功能的告知。在此类告知中，应向患者或非专业人员充分告知使用多模态大模型的相关风险，以维护其知情同意权。
对于医疗工作者的培训也至关重要，以确保当他们使用多模态大模型时，不会在不知不觉中违反法律，尤其是那些与保护健康数据和信息相关的法律。例如，将“受保护的健康信息”引入多模态大模型聊天机器人的医疗服务提供者可能会违反美国的《健康保险携带和责任法案》等法律。
卫生系统中的其他利益攸关方应接受教育，了解多模态大模型在医疗保健中的益处、风险、用途和挑战，以及多模态大模型与其他生成信息或建议的技术有何不同，以及在医疗保健中又是如何用于其他目的的。应提高公众对医疗和其他领域多模态大模型的使用的认识。
向卫生系统提供多模态大模型或应用软件的政府可利用其采购权，在开发者、提供者和部署者之间促进某些做法。如果人工智能技术不会取代其他可能更有效、更公平和更负担得起的医疗投资，那么采购关键的多模态大模型或应用软件用于医疗保健系统将消除接入和可负担性的障碍。公共采购可以在数据训练、质量保证、风险评估、缓解和外部审计方面制定透明度要求。如果一个国家既没有相关立法，也没有具备有效监管多模态大模型资源的监管机构，这些要求可能至关重要。
建议：
针对政府：
各国政府在大规模部署多模态大模型时，应引入独立第三方进行发布后强制性审计和影响评估，包括数据保护和人权评估。审计和影响评估应予以公布，并应包括按用户类型分类的结果和影响，例如按年龄、种族或残障分类的结果和影响。
各国政府可要求提供者或开发者对多模态大模型发布后未纠正或避免发布不准确、虚假或有毒的内容负责。
各国政府应要求开发者和提供者不断披露操作信息，以确保多模态大模型和应用程序的安全使用。其中可包括充分的技术文件。
各国政府应通过卫生系统提供多模态大模型或应用程序，确保其采购部门促进开发者、提供者和部署者采取某些做法，包括透明度。
各国政府应为医护专业人员和患者参与“人类监督协会”提供便利，以确保新的多模态大模型和用于临床决策的应用程序得到适当使用，并且不会损害患者的权利。
针对卫生部门和高校：
卫生部门和高校（健康研究机构）应培训医疗保健专业人员和临床医生：①了解多模态大模型如何作出决定（以及了解这些决定是如何作出的局限性），②识别和了解对合理使用的担忧，③掌握避免自动化偏见的方法，④与可能使用多模态大模型的患者接触并对其进行教育，⑤与使用多模态大模型相关的网络安全风险。
针对部署者：
部署者根据从开发者或提供者处获得的信息，不应在以下情况下使用多模态大模型或应用程序，由于训练数据的偏见、使多模态大模型不适合特定环境的场景偏差，或部署者已知并可避免的其他潜在错误或风险，如多模态大模型发布的不准确、虚假或有害内容。
部署者应告知他们应合理知道的使用多模态大模型可能导致的任何风险，以及已对用户造成的伤害的错误；此类警告不应以过小（或容易遗漏）的字体出现。在某些情况下，即使法律法规没有要求，部署者也可能有责任暂停使用或从市场上撤下多模态大模型或应用程序，以避免未来的危害。
部署者应确保使用多模态大模型的定价或订阅费符合政府或其他用户的支付能力，并应保证多模态大模型经过了被忽视或被排除在技术利益之外的人使用的语言文字的训练。部署者应要求提供者和开发者确保目前和未来的多模态大模型都是用多种语言开发的。
针对公众：
政府、医疗服务提供者、医疗研究人员和资助者应让公众参与进来，使他们了解不同形式的数据共享和使用，就社会和文化是否以及如何接受多模态大模型发表意见，并充分表达他们的关切和期望。此外，应提高公众对人工智能技术的认识，使他们能够识别可接受的多模态大模型用途和类型。
7 通用基础模型（多模态大模型）的责任
随着多模态大模型在卫生保健与药品领域得到更广泛地应用，错误、滥用和最终对个人的伤害是不可避免的。必须使用问责制来补偿个人的此类伤害，并在当前方法不充分或过时的情况下建立新的补救机制。
人工智能技术的设计、开发、质保和部署涉及不同的实体，每个实体都扮演着不同的角色。这可能会使责任分配复杂化。开发者可能会要求包括提供者和部署者在内的下游实体对使用多模态大模型造成的一切伤害负责，而下游实体可能会声称先前的行为，如用于训练算法的数据的选择，是损害出现的原因。开发者和提供者也可能声称，一旦医学人工智能技术被监管机构批准使用，他们就不应该再对损害承担责任（预防性监管）。沿着价值链建立责任是立法者和决策者面临的挑战。
民事责任规则的一个关键功能是确保损害受害者可以要求赔偿和补救，无论在参与人工智能技术开发和部署的实体之间分配职责和责任有多么困难。如果受害者发现获得赔偿太难，就毫无正义可言，人工智能价值链中的各方也没有动力在未来避免类似的伤害了。规则还应该确保赔偿足以弥补所遭受的伤害。
欧盟在其拟议的《人工智能责任指令》（AI Liability Directive）中引入了“因果关系推定”，从而简化了受害者的举证责任。因此，如果受害者能够证明一个或多个实体没有遵守与损害相关的义务，并且很可能与人工智能的表现有因果关系，法院可以推定不遵守该义务是损害发生的原因。因此，责任方有责任反驳这一推定，例如指出另一方是损害的原因。立法的范围不仅限于人工智能系统的原始制造商，还包括人工智能价值链的任何行为者。当人工智能价值链中的所有行为者都承担连带责任时，他们可以证明他们在评估和减轻风险以减少责任方面的有效性。
由于多模态大模型的高度投机性、人们对其知之甚少且被匆忙推向市场，政府可能希望将用于医疗保健的多模态大模型视为开发者、提供者和部署者要求遵守严格责任标准的产品。让这些行为者对所有错误负责的做法，可能可以确保患者在错误影响到他们时得到赔偿，尽管这取决于患者是否知道使用了多模态大模型。
然而，人工智能的问责制可能不足以分配过错，因为算法正在以开发者、提供者和部署者都无法完全控制的方式发展。此外，可能仍然存在受害者无法追偿的情况和司法管辖范围。在医疗保健的其他领域，有时会在不确定过错或责任的情况下提供赔偿，例如疫苗不良影响造成的医疗伤害。2021版指南建议确定“无过错、无责任赔偿基金，是否是向因使用人工智能技术而遭受医疗伤害的个人提供赔偿的适当机制，包括如何盘活资源来支付任何索赔”。
建议：各国政府应沿着多模态大模型和应用程序的开发、供应和部署的价值链确立责任，以确保损害受害者能够要求赔偿，而不管追究责任的困难以及参与技术开发和部署的不同实体的责任。
8 通用基础模型（多模态大模型）的国际治理
各国政府应支持集体制定国际规则，以治理卫生领域多模态大模型和其他形式的人工智能，因为此类用途的人工智能正在全球范围内激增。世界卫生组织的《2020年—2025年的数字健康全球战略》是一个例子。这一过程应包括加强联合国系统内合作与协作，以应对在卫生领域中部署人工智能及其在社会和经济领域更广泛应用中所带来的机遇和挑战。除非各国政府共同努力制定适当的、可执行的标准，否则不符合适当的法律、伦理和安全标准的多模态大模型和其他形式的人工智能的数量将会增加，如果不出台法规和其他类型的保护措施，或由于自愿或资源不足而没有得到完全的执行，就有可能造成危害。世界卫生组织最近与世界各地的监管机构协商发布了一份新出版物，概述了政府和监管机构在制定新的人工智能指南或调整现有指南时可以遵循的关键原则。
国际治理可以避免寻求先发优势而忽视安全和效率标准的企业之间的“逐底竞争”，以及避免为争夺技术霸主地位而在地缘政治竞赛中寻求优势的政府之间的“逐底竞争”。因此，国际治理可以确保所有企业都符合安全和效率的最低标准，也可以避免出台为企业或政府提供竞争优势或劣势的法规。
无论采取何种形式的国际治理，重要的是不能完全由高收入国家，或者说主要与或仅与世界上大型科技企业合作的高收入国家来制定。由高收入国家和科技企业主导并为其制定的标准，无论是针对人工智能的普遍应用，还是针对多模态大模型在卫生保健与药品领域中的具体使用，都将使低收入和中等收入国家的大多数人在制定标准方面没有任何作用或发言权。这将使未来的人工智能技术在可能最终获益最多的国家变得危机四伏或无效。
正如联合国秘书长在2019年所提议的，人工智能的国际治理可能需要所有利益攸关方通过网络化多边主义进行合作，这将使联合国大家庭、国际金融机构、区域组织、贸易集团和包括民间团体、城市、企业、地方当局和青年在内的其他方面，更加密切、有效和包容地合作。将伦理和人权置于多模态大模型开发和部署的核心位置可以为实现全民健康覆盖作出重大贡献。
注：本文为完整译文的摘录，限于版面，省略参考文献部分，完整内容请参阅中国知网发布的网络增强文件。
京公网安备11010202008535号
PDF
(778KB)
