0 引言
医疗决策是一个复杂的过程，对患者的生命和健康具有重大影响，受到质量、效果、安全、成本、公平等多准则的影响与约束，需要高度可靠和准确的决策支持。传统上，医疗决策主要依赖医生的经验和专业知识。近年来，从基于机器学习的医学影像分析到自然语言处理的医学文本挖掘，各种人工智能技术正在改变医疗实践和决策的方式，成为推动医学发展和解决日益增长的老龄化人口医疗需求的关键资产
［1］。
2022年11月，OpenAI公司开发的ChatGPT正式上线，在人工智能辅助决策支持领域迅速获得认可。作为一种交互式的大型语言模型，ChatGPT以其强大的自然语言处理和语义理解能力为医疗决策提供了新的可能性，包括智能问诊、诊断辅助和个性化治疗建议等方面。然而，ChatGPT并非独立的诊断设备，而是医生的辅助工具，其目的是为医疗专业人员提供支持和参考。
随着ChatGPT在医疗决策中的应用日益普及，也引发了一系列伦理问题。首先，医疗决策需要高度可靠和准确的支持，因此需要对ChatGPT决策结果的准确性和可信度进行评估和验证；其次，医疗决策涉及伦理、法律和安全等重要问题，如何保护患者隐私和数据安全，如何确保决策的可解释性和透明性，并维护患者的知情权和自主权，需要进一步分析ChatGPT的应用风险，并提出有针对性的规制建议；最后，医疗决策是一个涉及多方参与和协作的过程，如何有效结合ChatGPT和医疗专业人士的专业能力并实现协同决策，也是面向未来的健康诊疗应当研究和解决的问题。因此，本文将重点探讨以ChatGPT驱动的医疗智能决策所引发的伦理问题，并提出相应的规制策略，以确保其在医疗实践中的安全性、可靠性和伦理性。
1 ChatGPT在医疗决策中的应用与发展
ChatGPT是一种使用Transformer架构的生成式预训练模型。它通过大规模的文本数据集进行预训练，学习语言的潜在结构和规律，核心思想是通过将上下文输入模型并生成连贯、合理的回复，以模拟人类对话的方式进行交互。ChatGPT可以理解自然语言输入并生成相应的输出回应，实现与用户的智能对话，处理各种类型的问题，并提供个性化的回答和建议，使其在医疗决策中具备潜在的应用价值。医疗领域的专业术语和复杂概念需要准确理解和表达，而ChatGPT的语言生成能力可以为医生和患者提供准确、清晰的信息。
1.1 ChatGPT在医疗决策中的应用潜力
在医疗决策中，ChatGPT可以与医生和患者进行实时对话，就病情、诊断和治疗方案进行探讨。这种交互式的对话模式有助于患者更好地理解和参与医疗决策过程，同时为医生提供交流和决策支持的平台，应用于以下几个具体领域：
首先，ChatGPT可用于智能问诊系统。通过与患者进行对话交流，ChatGPT可以收集患者的病情信息，并提供初步的诊断建议。患者可以通过与ChatGPT的交互快速获取医疗信息和建议，询问疾病和症状、治疗选项及预后等问题，增加就医体验感并提升决策自我效能，使其能够更好地在诊疗和决策过程中结合个人意愿与价值偏好，帮助临床实现最佳的决策
［2］。智能问诊系统的引入不仅节省了患者的时间和精力，还可以提供即时的医疗咨询和指导，特别是在急诊情况下，能够及时评估病情和采取紧急措施。
其次，ChatGPT在诊断辅助方面发挥着重要作用。医学影像和病历数据等大量信息可以输入ChatGPT中，它能够分析和解读这些数据，辅助医生进行疾病诊断和制定治疗方案
［3］。与ChatGPT的合作可以为医生提供更全面和准确的诊断结果，改善医疗决策的质量和效果。通过结合医学专业知识和ChatGPT的智能分析能力，医生可以更快速地获取诊断结果，并且在复杂病例的处理上获得更多的支持和建议。
最后，ChatGPT还可以为个性化治疗提供支持。根据患者的个人信息、病史和基因组数据等，ChatGPT可以生成针对个体的治疗建议
［4］。个性化的治疗方案能够更好地满足患者的需求，并提高治疗的效果和可持续性。通过分析大量的医学数据和研究成果，ChatGPT能够为医生和患者提供个性化的治疗方案选择，考虑到患者的特定情况和需求，以达到最佳的治疗效果。
1.2 ChatGPT在医疗决策中的应用效果
目前，ChatGPT还没有在实际诊疗中大规模应用，但已经有众多科研团队对其应用效果进行了试验评估。对于广义的临床决策，Liu等
［5］的一项实验评估了ChatGPT是否能为改进临床决策支持（clinical decision support， CDS）逻辑提供有用建议，将临床决策支持逻辑的摘要提供给ChatGPT并要求其生成建议，由临床医生对ChatGPT生成和人类生成的建议进行评估。研究结果显示，在调查中得分最高的20个建议中，有9个是由ChatGPT生成的，不仅提供了独特的观点，且具有高度可理解性和相关性，具有中等的有用性，低的可接受性、偏见、倒置和冗余。研究结论表明，ChatGPT生成的建议可以作为优化临床决策支持的重要补充部分，可以发现潜在的改进逻辑的方法并支持其实施，甚至可以帮助专家制定自己的临床决策支持改进建议。
在专业领域，Harskamp等
［6］的一项实验评估了ChatGPT对常见心脏症状或疾病相关医学问题建议的准确性，测试结果显示，ChatGPT在知识问答中正确回答了74%的问题，在冠心病（80%）、肺动脉和静脉血栓栓塞（80%）、房颤（70%）、心力衰竭（80%）和心血管风险管理（60%）等领域的准确性存在轻微差异；在临床案例概要中，ChatGPT的回答与实际建议相符的案例达到了90%。在更复杂的情况下，当医生（全科医生）向其他医生（心脏病专家）寻求协助或决策支持时，ChatGPT在50%的案例中是正确的，但与专家咨询相比，它经常提供不完整或不合适的建议。研究结论表明，ChatGPT作为医学领域的人工智能辅助决策支持工具具有潜力，特别是对于简单、低复杂度的医学问题。
此外，对于ChatGPT与医学教育结合的效果，Kung等
［7］通过实验评估了ChatGPT在美国医学许可考试（United States Medical Licensing Examination，USMLE）上的表现，在没有任何专门训练或强化的情况下，ChatGPT在其中包含的三个标准化知识考试中的表现接近或达到及格线，并在解释方面表现出高度的一致性和洞察力。研究结果表明，ChatGPT等大型语言模型有可能在医学教育环境中辅助人类学习者，作为未来整合到临床决策的前奏。Huang等
［8］则重点评估了最新的ChatGPT-4在医学教育和决策制定中的潜力，发现ChatGPT-4在放射肿瘤学领域表现良好，能够高度准确和全面地提供个性化的治疗建议；在统计学、中枢神经系统和眼科、儿科、生物学和物理学等方面展示了较好的知识水平，但在骨骼和软组织、妇科以及临床试验等领域存在一定的局限性。
1.3 ChatGPT在医疗决策中的定位：可参考的辅助工具
尽管ChatGPT具有强大的语言生成和智能对话功能，但在医疗决策过程中，它应该被视为医生和患者的合作伙伴，而不是取代医疗专业人员的决策能力。
ChatGPT的优势在于其快速的信息获取和处理能力，以及对广泛领域知识的涵盖。它可以提供大量的医学知识和研究成果，帮助医生和患者了解特定疾病、治疗方法及健康管理方案。ChatGPT还可以辅助医生分析和解释患者的病历数据，提供可能的诊断和治疗方案，促进决策过程的科学性和全面性。此外，ChatGPT还可以作为教育工具，为医学生、住院医师和其他初级医务人员提供指导和培训，回答其问题、解释医学概念和原理，并为其提供实践建议和学习资源。这有助于提高医学知识的传授效率和质量，为新一代医务人员的培养提供支持。
ChatGPT在医疗决策中也存在一些局限性。首先，它依赖于已有的数据和知识，因此对于新兴的、尚未广泛研究的领域可能不具备足够的信息。由于其依赖于大规模的训练数据，可能存在潜在的偏差和错误。这可能导致提供不完全准确或有偏见的建议，特别是在少数群体或特定疾病领域。其次，ChatGPT缺乏临床经验和人类直觉的判断能力。在复杂和高风险的医疗情况下，医生的专业知识、经验和判断能力仍然不可或缺。ChatGPT可能无法提供准确和可靠的建议，因为它缺乏对个体患者的详细了解和对不同治疗选项的综合评估。
因此，在使用ChatGPT时，医务人员应该将其作为辅助工具，对其输出进行审查和验证，并将其作为决策支持的参考，而不是替代人类专业知识和经验的工具
［9］。随着ChatGPT的应用范围扩大，必须进一步审视与其使用相关的伦理和法律风险，确保其应用不仅具备高效性和准确性，还需保障患者的健康和福祉。
2 ChatGPT驱动的医疗智能决策中的伦理考量
ChatGPT在医疗健康领域的应用无可避免也存在“阳光下的暗礁”。其首要的困境就来自对传统伦理秩序的冲击，治疗机器人与医生之间的联合令人产生主体资格的困惑，而智能医疗决策系统使患者的隐私无处遁形的同时，患者的自主权能也逐渐下降甚至丧失。
2.1 ChatGPT与医生的伦理角色界定
在医疗实践中，医生通常被视为决策的主体，他们不仅提供专业的医疗知识和技术，还在整个治疗过程中给予患者人文关怀和情感支持。然而，随着ChatGPT等智能工具的引入，首先要考虑的伦理问题是，应当如何准确定义和划分医生与ChatGPT的角色边界？ChatGPT作为一种智能工具，其决策是基于算法和预训练模型的，本身并没有医学背景和专业资格，那么它应当在多大程度上承担医生的职责？
正如前文所强调的，ChatGPT等智能工具在医疗决策中应被视为辅助而非替代。医生的决策不仅基于客观数据，还包括其个人的临床经验、专业判断和对患者具体情况的全面了解。ChatGPT虽然可以提供大量的数据分析和初步诊断建议，但这些建议必须经过医生的审查和验证，才能用于实际的临床决策。医生的专业知识和经验对于理解和评估ChatGPT提供的信息至关重要，他们能够辨别出智能工具可能出现的错误或偏差，从而确保最终决策的准确性和安全性。
实际上，医生的角色不仅限于提供医学知识，他们还在治疗过程中与患者建立信任关系，提供心理和情感支持，而这些人文关怀和情感支持是ChatGPT无法提供的。患者在面对疾病时，需要医生的关怀和鼓励，以此来缓解他们的焦虑和不安，增强他们战胜疾病的信心。ChatGPT虽然能够模拟人类对话，但缺乏情感理解和共情能力，无法替代医生在心理和情感支持方面的作用。
医生能够根据患者的个体差异和具体需求，提供个性化的治疗方案。每个患者的病情、生活方式和心理状态都有所不同，医生可以综合考虑这些因素，制定最适合患者的治疗计划。而ChatGPT的决策基于已有的数据和模式，虽然能够提供参考建议，但可能无法全面考虑患者的个体差异和特殊需求，导致治疗过程缺乏个性化和针对性，影响治疗效果和患者满意度。
因此，从伦理和法律角度看，医生应对患者的最终治疗结果负责。尽管ChatGPT可以提供有价值的建议，但它不能承担法律和道德上的责任。在应用ChatGPT辅助医疗决策时，医生必须充分考虑患者的隐私和知情权，坚持自主、公平和保密原则，确保其应用过程中的伦理合规性，维护患者的权益。
2.2 患者隐私与数据安全
在明确了医生与ChatGPT在医疗决策中的角色界定后，需要综合考量患者在接受治疗中的合法和合理权益。康德（Immanuel Kant）的道德哲学强调尊重每一个人的内在价值和尊严。具体到处理患者数据时，必须高度重视和保护其隐私权。在利用智能工具辅助医疗决策时，如何保护患者的个人信息不被泄露或滥用，是医疗行业面临的巨大挑战。患者隐私与数据安全不仅涉及法律问题，更关乎患者的基本权益和信任。
首先是数据泄露和未经授权访问问题。由于ChatGPT需要访问和处理大量的患者医疗数据，如个人病历、诊断结果和治疗记录，如果这些医疗数据没有得到充分地保护，那么就可能存在数据泄露的风险，进而可能导致患者的个人隐私受到侵犯。不仅会对患者造成直接的伤害，还可能导致他们对医疗系统和智能工具的信任度下降。此外，未经授权的访问也可能使数据被滥用或用于其他不道德的目的，对患者造成伤害。
其次，聚合数据风险也需要考虑。为了提供更准确的医疗决策，ChatGPT可能需要访问和分析大量的医疗数据，包括来自不同患者的数据，而聚合数据的使用可能导致信息的暴露和再识别风险。即使患者的个人身份被去标识化，通过对多个数据源的交叉分析，仍有可能重新识别出个人身份，从而威胁到患者的隐私和数据安全。
因此，患者隐私和数据安全应当始终被视为医疗智能决策中的核心考量。在伦理观念上，医疗机构和技术提供商必须将患者的权益放在首位，确保所有涉及患者数据的操作都以保护患者隐私为前提。在医疗智能决策中，保护患者的隐私和数据安全，不仅是为了符合法律要求，更是为了尊重患者的基本权利和维护其对医疗系统的信任。
2.3 患者自主权与知情同意
医学具有高度专业性的特点，医患之间存在明显信息不对等，患者处于知识的“盲区”，传统医患关系中医务人员占主导地位
［10］。然而，引入ChatGPT等技术改变了这种主导地位，虽然这些技术作为医生的辅助工具，不会直接介入医患关系，但显著增加了医患之间的信任风险。尤其是在医生依赖ChatGPT进行决策时，如果未能充分告知患者在决策过程中使用了ChatGPT，或者未能清晰解释ChatGPT建议的来源和局限性，患者的自主权和知情同意权可能会受到侵害。
进步主义生物伦理学家鲁斯·麦克林（Ruth Macklin）曾在2003年的社论《尊严是个没有用途的概念》中指出，生物伦理学的基本原则应是尊重个人的自主性。每个人都有权在充分知情的基础上作出自己的医疗决策，而任何剥夺或忽视这一权利的行为都是不道德的。麦克林强烈批评了那些通过所谓的“尊严”概念来掩盖侵犯自主性的行为，认为真正的伦理实践应聚焦于确保患者的知情同意和自主决策权。在复杂的医学伦理问题中，自主性原则始终应该是价值判断中的首要考量。
患者的知情同意不仅仅是法律程序，更是伦理承诺。托马斯·斯坎伦（Thomas M. Scanlon）的非自利契约论强调，道德要求的规范性（normativity）源自人们之间的契约、协议或共识。而伦理决策也应基于一个合理的契约，即所有相关方在知情的情况下同意的原则。它要求医疗提供者在与患者沟通时，必须以清晰、易懂的方式提供全面的信息，确保患者能够充分理解相关内容。然而，ChatGPT驱动下的智能决策具有显著的信息不透明性，破坏了知情同意的信任基础，因为患者往往难以理解算法逻辑和数据处理方法。
ChatGPT的决策过程依赖于训练数据和算法模型，这些技术细节对患者来说往往是“黑箱操作”。如果医生未能有效地解释这些技术背景或忽略了对患者的详细告知，患者的知情同意权将因此受损，进一步限制他们对医疗决策过程的参与和理解。即使医生对相关情况进行告知，患者也无法充分了解ChatGPT所使用的数据来源、数据处理方式以及模型训练的具体细节，导致其在作出知情同意决策时，很有可能为了快速获得医治而直接选择同意，无法充分考虑ChatGPT的局限性和潜在风险。此外，ChatGPT作为一个通用的语言模型，缺乏个性化和情境感知能力。它无法根据患者的个人特征、价值观和特定情境提供有效的个性化响应，可能导致决策结果与患者的健康需求、期望和价值取向不符合，从而降低患者对决策的信任和满意度，削弱患者的自主权。更深层次来看，这是一种对患者个体尊严和独特性的潜在忽视，违反了医疗伦理中的个体化原则。另一方面，患者可能过度依赖医生使用智能决策的结果，特别是对于ChatGPT这样的实时反馈工具。尽管ChatGPT可以大幅提高患者获取医疗决策的便利性，但患者过度依赖这些技术工具可能削弱他们自身的自主权，减少对决策结果的审慎思考和独立判断能力。这种情况尤其可能在医疗决策的复杂性和紧迫性较高的场景中发生。实际上，这是对患者自主性的进一步侵蚀，削弱了其在医疗决策中的主动性和参与感。
因此，透明、尊重和支持始终是医疗决策的基础价值理念，ChatGPT的应用不应以牺牲患者自主权和知情同意为代价。医疗机构和医生必须确保患者在作出医疗决策时拥有充分的信息和理解，尊重患者的自主选择，并在整个医疗决策过程中提供必要的解释和指导。
2.4 决策公正性与公平性
保证医疗决策的公平性，意味着每位患者无论其社会经济地位、种族、性别或其他背景有何种区别，都应获得同等的医疗服务和关注。然而，ChatGPT等智能工具的应用可能在无意中引入或加剧诊断和治疗决策的不公平现象。
公平与公正原则在伦理学中有着深远的历史和理论基础。罗尔斯（John Rawls）的正义理论强调“正义即公平”，主张在资源分配中应优先考虑最不利群体的利益，以实现社会的公平正义。应用到医疗智能决策中，意味着应特别关注那些在传统医疗体系中可能被忽视或歧视的群体，确保他们在使用ChatGPT时不会再次遭受不公。
然而，ChatGPT的训练数据集可能包含系统性偏见，例如纳入某些种族、性别或社会经济地位的群体的数据不足或不准确，可能会导致ChatGPT在进行医疗决策时产生偏差，影响诊断和治疗建议的准确性和公正性。由于城乡差异、地区发展不均衡以及不同社会群体之间的健康差距，ChatGPT在实际医疗场景中的应用可能产生更多结果偏差。例如，在偏远或经济欠发达地区，医疗资源相对匮乏，患者的健康数据往往没有充分的医疗记录，而此类地区的患者可能因环境、营养和生活方式差异，表现出与城市居民不同的疾病模式。如果ChatGPT的训练数据主要来源于经济发达地区的患者，它在面对偏远或经济欠发达地区患者时，可能无法准确识别其特殊的健康需求。
从伦理角度看，数据偏见带来的决策偏差不仅是技术问题，更是严重的伦理问题。功利主义理论强调，通过最大化整体幸福来判断行为的道德价值。如果ChatGPT的应用导致某些群体在医疗决策中处于劣势，整体社会幸福并没有得到最大化，那么这种应用显然是有问题的。ChatGPT的医疗决策应当致力于促进健康公平（health equity），确保所有人都应有机会获得其健康潜能，且没有因社会地位或其他社会决定因素而受到的不公待遇。
因此，ChatGPT在医疗决策中的应用必须慎重考虑公平性和公正性问题。医疗机构和技术开发者需要采取积极措施，例如增加对弱势群体数据的收集和分析，确保不同社会经济地位、性别、种族和地区的患者都能公平地受益于智能医疗工具。通过实现健康公平，消除数据偏见和决策偏差，才能真正实现智能医疗技术的伦理目标，建立和维护患者和公众对智能医疗工具的信任。
3 ChatGPT驱动的医疗智能决策的法律挑战
与伦理困境更广泛的道德考量相比，涉及医疗智能决策的法律问题更加迫切。明晰ChatGPT驱动的医疗智能决策的法律风险、主体义务和责任承担，在应用和实践中具有直接的指导和约束作用。关键在于将ChatGPT明确界定为医生的辅助工具，而非独立诊断器械，这一定位将直接影响法律责任的分配。
3.1 医疗智能决策的法律风险
医疗智能决策涉及诸多法律风险。医疗疏忽可能导致医生在决策过程中出现错误和疏漏，进而对患者的健康产生不良影响，并引发法律纠纷。隐私侵犯的风险涉及患者个人信息的保护与泄露，可能导致法律后果和隐私侵权的法律责任。患者权益保护的风险涉及患者知情权、自主决策权和权益的损害，需要法律的保护和追诉机制的支持。
其一是医疗疏忽的法律风险。由于ChatGPT的算法和数据训练的限制，其提供的决策结果可能存在错误、不完整或不准确的情况，导致医生在依赖ChatGPT进行决策时可能接受不准确或不合理的建议，可能延误疾病的诊断、引发不必要的治疗或产生其他不良后果，引发患者投诉或提起侵权诉讼。此外，医生在使用ChatGPT进行医疗决策时，应当确保正确理解、解释和应用ChatGPT的决策结果，并采取适当的辅助措施进行核实和验证。如果医生未能履行这些职责，导致患者受到损害，医生可能需要承担法律责任，包括赔偿患者的损失或面临其他法律制裁。
其二是隐私侵犯的法律风险。医疗智能决策需要访问和处理患者的敏感个人信息，包括病历、诊断结果和其他健康数据。如果ChatGPT的开发者未能采取适当的安全措施保护这些数据，或由于医生使用ChatGPT处理患者数据导致患者的个人信息泄露，患者有权要求赔偿因个人信息泄露而造成的损失，并对医疗机构和相关责任方提起法律诉讼。此外，根据《中华人民共和国个人信息保护法》，个人信息的收集、使用和披露必须符合法律规定的目的和条件，并需获得患者的明确同意。如果ChatGPT在处理患者数据时未能遵守相关的隐私保护法律要求，患者可能有权要求隐私侵权行为的赔偿，并追究相关责任方的法律责任。
其三是患者权益保护的法律风险。患者知情权与自主决策权是各国医事立法所保护的基本权益，亦是医疗实践中的核心价值。患者有权获得与其健康状况相关的信息，并有权根据自己的意愿和价值观作出医疗决策。如果ChatGPT的决策结果未能提供准确、清晰的信息，或者医生未能充分尊重患者的知情权和自主决策权，可能会侵犯患者的权益，引发法律纠纷。
3.2 医疗智能决策的法律义务
为了防范化解医疗智能决策过程中的法律风险，需要医生、医疗机构和ChatGPT的开发者分别承担其相应的法律义务。医生需要履行职业责任，妥善使用ChatGPT作为辅助工具，确保其在医疗决策中的正确应用；医疗机构应提供必要的支持和监督，建立安全质量管理体系， 制定医生诊断过程中使用ChatGPT的规则，确保合规性和监督追责机制；开发者需确保技术准确性和可靠性，特别关注医疗场景的应用需求，保护隐私和遵守法律规范。各方应共同努力，确保医疗智能决策的合法性、安全性和伦理性
［11］。
医生作为医疗决策的主要执行者，承担着最主要的法律义务。首先，医生的专业义务和职业责任要求其在医疗决策过程中遵守相关的法律法规和伦理准则。医生需要保持专业素养，确保决策的准确性、安全性和符合患者的具体情况，以提供最佳的医疗服务。其次，医生应对ChatGPT生成的决策结果进行评估和审查，确保其符合专业标准和患者的需求。ChatGPT作为辅助工具，其生成的建议需要经过医生的专业判断和核实，而不能直接作为独立的诊断结果使用。医生需要对这些建议进行全面分析，结合自身的专业知识和对患者具体情况的了解，决定是否采纳这些建议。医生的职责在于确保每一个决策都是基于充分的专业判断，而非单纯依赖于智能工具的输出。再次，医生在与ChatGPT的协作中也需要清晰划分责任，确保医疗决策的责任明确且可追溯。医生必须明确，ChatGPT的作用仅限于提供辅助建议，最终的决策责任仍然在于医生自身。无论ChatGPT提供的信息有多么详尽和准确，医生都需要对其进行独立评估，并根据需要进行调整或修正。最后，医生还应对ChatGPT的使用进行持续监控，保持高度的专业警觉，及时发现和纠正可能存在的错误或偏差，确保其在医疗决策中的合法性和有效性。
作为提供医疗服务的实体，医疗机构承担着监督管理医生使用ChatGPT的义务。首先，医疗机构有职责建立ChatGPT使用的安全质量管理体系，以确保医疗决策过程的规范性和有效性。医疗机构应制定相关的政策和流程，规定在该机构内应用ChatGPT辅助医疗决策的限度，确保其符合法律法规和伦理要求。其次，医疗机构需要关注与ChatGPT具体使用中的合规性问题，确保ChatGPT的技术合法性和隐私保护的合规性，制定明确的使用标准、操作流程和安全措施，以保护患者的权益和数据隐私。最后，医疗机构还应设立相应的监督与追责机制，确保医疗决策的合法性和安全性。为此，医疗机构应建立有效的内部监管体系，全面监督医生在使用ChatGPT过程中的行为，包括对ChatGPT输出结果的监控、对医生使用该工具的方式和频率的评估，确保其操作符合最佳实践和法律规定。
ChatGPT的开发者在医疗决策中的应用场景中也承担相应的前端法律义务。首先，开发者需要研发专业的医疗智能决策模型，并限制该模型的使用者只能是经过授权和认证的专业医生，以提供可信赖的医疗决策支持。开发者应对ChatGPT的训练数据、算法和模型进行严格的测试和验证，确保其生成的决策结果具有高准确性和可靠性，尤其是在诊断、治疗建议等关键医疗决策中，必须保证其输出的科学性和有效性。其次，隐私保护和数据安全也是开发者应承担的法律责任。开发者需要制定和实施严格的隐私保护措施，确保患者数据的安全和隐私不受侵犯，包括合理限制数据的收集、使用和存储，并采取措施防止未经授权的数据访问和泄露。最后，开发者还需要遵守相关的合规性要求和法律规范。他们应了解并遵守适用的法律法规，包括但不限于医疗法律、隐私法律和知识产权法律，以确保ChatGPT在辅助医疗决策中的应用符合法律规定，并避免侵权行为和违法行为的发生。
3.3 医疗智能决策的法律责任
《中华人民共和国侵权责任法》将医疗责任划分为医疗技术损害责任、医疗伦理损害责任和医疗产品责任三种基本类型。其中，前两种责任主要适用过错责任的归责原则，即行为人在实施侵害行为时主观上的“明知”或“应知”注意义务，却未尽到特定标准的注意义务，从而导致他人受到损害；而医疗产品责任适用严格责任的归责原则，受害人不需要证明生产者或销售者有过错，只需要证明产品存在缺陷，并且该缺陷导致了损害。然而，对于ChatGPT驱动的医疗智能决策而言，可能存在多种复杂因素导致的损害，如医生的失误决策、医疗机构的不当管理以及ChatGPT系统自身的设计缺陷等。因此，智能决策中的医疗责任可能涉及以上三种类型中的一种或多种，具体取决于问题的性质和原因。
首先，医疗技术损害责任是指由于医疗技术应用中的过失或失误，导致患者身体或健康受到损害而产生的责任。如果医生在使用ChatGPT时，未能正确应用其提供的辅助决策建议，或者未对其建议进行必要的验证和评估，导致误诊或治疗错误，属于医疗技术损害责任。在这种情况下，医生未能履行应有的专业职责，显然具有过错。作为直接的侵权责任人，医生需要对因其失误决策或专业疏忽导致的损害承担主要法律责任。如果有证据证明医生已经尽到了专业义务，则责任应转移到医疗机构或开发者。如果医生在医疗机构的指导下操作，且有证据证明医生遵循了机构对ChatGPT应用的规范和流程，但仍发生损害，医疗机构需要承担相应的监督管理责任。患者可以首先向医疗机构求偿，医疗机构在赔偿患者后，可以根据具体情况向医生追责。
其次，医疗伦理损害责任是指由于医疗行为违反了医疗伦理准则或道德规范，导致患者的权利受到侵害而产生的责任。如果在使用ChatGPT的过程中，侵犯了患者的知情权、自主决策权或隐私权，导致患者的伦理权利受到损害，则属于医疗伦理损害责任。例如，如果医生未能充分告知患者ChatGPT的使用情况或未获得患者同意，即利用其建议进行医疗决策；或在使用ChatGPT时，未能妥善保护患者的个人隐私信息，导致其信息泄露或被不当使用，这些行为均构成过错，需要由医生承担主要责任。如果医疗机构未能对医生提供充分的伦理培训和监督，或者ChatGPT的使用章程具有伦理缺陷，因而导致患者权益受损，医疗机构也需承担相应的补充责任。患者在遭受伦理损害时，也可以先向医疗机构求偿，医疗机构在赔偿患者后，根据具体情况向医生追责，以追求内部责任的合理分配和落实。
最后，医疗产品责任是指由于医疗产品自身的缺陷或质量问题，导致患者身体或健康受到损害而产生的责任。如果ChatGPT作为医疗产品本身存在设计缺陷、算法错误或其他技术问题，导致其提供的医疗决策建议有误，进而对患者造成损害，则属于医疗产品责任。在这种情况下，开发者或生产者需对产品缺陷承担相应的法律责任。然而在实践中，此类损害很难确定因果关系。因果关系的认定是一项法律推理活动，用于分析损害原因与损害结果之间是否存在关联。一方面，受害人难以根据有关法律规定的“产品存在不合理的危险，危及人身或财产安全”或“产品不符合国家或行业的人体健康和安全标准”证明ChatGPT驱动的医疗智能决策系统具有以上缺陷。此外，目前尚未制定医疗人工智能技术在保障人体健康和安全方面的国家或行业标准，这使受害人无法援引相关标准证明人工智能产品存在缺陷。另一方面，现代医疗智能决策系统的核心技术是深度学习和超级算法。深度学习具有广泛快速学习的特点，但也存在不受限制的智慧，使得生产者和设计者难以预见和控制错误
［12］。算法本身是技术黑箱，解释对研发人员和法律工作者都相当困难，更进一步增加了因果关系认定的难度。更复杂的是，在这种情况下，根据《产品质量法》的严格责任归责原则，可能需要追究医疗智能决策系统的设计者、开发者或生产者在产品制造过程中存在的技术缺陷所导致的损失。然而这些损失也可能是由系统基于大数据转化和超级算法分析后独立思考所作出的决策引起的，目前现实中对于该事实的认定并无法形成有效的判断。
4 良术善治：医疗智能决策的规制策略
当前，尚未有明确的准则来规范ChatGPT在医疗决策中的使用，可能导致不同医疗机构或医生在ChatGPT使用方面存在差异，难以评估和控制ChatGPT在决策中的准确性和可靠性，同时也给医生和患者带来了不确定性。正如贝卡利亚（Cesare Beccaria）所认为的，社会的法律和道德规范应当致力于最大化每个人的安全和自由。因此，要给ChatGPT一颗“良芯（良心）”“行有德之事，做有德之机”，使患者利益最大化
［13］。
4.1 建立伦理准则与指南
4.1.1 制定医疗智能决策的伦理准则与伦理委员会的角色
首先需要制定明确的医疗智能决策的伦理准则，明确规定ChatGPT驱动的医疗智能决策伦理要求和限制，确保决策符合道德和法律的要求。准则应涵盖医疗智能决策的各个方面，包括数据隐私保护、决策过程的透明性、公正性原则等。此外，还应明确规定医疗智能决策涉及的伦理问题，如隐私权、公平分配等，以确保决策过程的合法性和合理性。同时，应设立专门的伦理委员会来监督和评估ChatGPT驱动的医疗智能决策的伦理问题。伦理委员会应由专业人士组成，包括医生、法律专家、伦理学家、生成式人工智能开发人员等，负责审查和评估决策的伦理合理性。伦理委员会的职能有制定伦理准则、提供伦理咨询和指导，以及监督决策的合规性。
4.1.2 确立患者知情权与自主决策权的保障机制
建立伦理准则与指南时，应重视患者知情权和自主决策权的保障机制。ChatGPT驱动的医疗智能决策应提供明确、透明的信息，使患者能够了解决策的依据、推理过程和可能的结果，以便作出决策。同时，要确保患者自主决策权的实现，使其能够在医疗智能决策中表达个人偏好、价值观和意愿。
为了保障患者知情权和自主决策权，可以建立相关的机制和流程，包括提供信息透明的决策过程、明确患者的参与权和决策权、支持患者的决策。首先，伦理准则和指南应明确要求提供ChatGPT驱动的决策过程中所使用算法的解释和解释的可理解性，患者应获得关于决策的适当解释，包括决策依据、风险和利益评估，以便他们能够理解和评估决策的基础。此外，透明度还包括向患者提供有关决策的可能局限性和不确定性的信息。其次，患者的参与权和决策权应得到充分尊重和支持。ChatGPT驱动的医疗智能决策应将患者置于决策的中心，允许他们参与到决策的制定过程中，通过共享决策模型、提供选项和解释决策结果的方式实现。患者应有权选择是否接受决策结果，并在必要时提供他们自己的意见。最后，ChatGPT驱动的医疗智能决策应提供患者所需的信息和资源，包括相关文档、解释医学术语、提供支持性的决策工具或咨询服务等，以便他们能够做出明智的决策。医疗专业人员应与患者建立有效的沟通和合作关系，以确保他们能够充分了解患者的需求和价值观，并尊重其决策。
通过建立这样的机制和流程，可以确保医疗智能决策过程中的患者知情权和自主决策权得到保障，有助于建立公正、尊重和人性化的医疗智能决策环境，促进医患双方的合作与信任。同时也可以减少患者在决策过程中的不确定性和焦虑感，提高他们对决策结果的满意度和依从性。
4.1.3 强调医疗智能决策的公正性和公平性原则
医疗智能决策的公正性和公平性是确保医疗系统的正义和平等的重要原则。在制定伦理准则与指南时，应特别强调ChatGPT驱动的医疗智能决策需符合公正性和公平性原则，以避免任何形式的偏见和不平等对决策结果的影响。公正性原则要求ChatGPT驱动的医疗智能决策在对待患者时要平等和无歧视，决策应基于患者的具体情况和临床需求，而不受种族、性别、社会经济地位或其他因素的影响。准则应规定禁止任何形式的偏见和歧视，确保决策过程和结果对所有患者公正公平。同时，医疗智能决策在资源分配和治疗选择上要公平合理，决策结果应考虑患者的需求、利益和权益，避免资源的不当分配和负面影响。准则可以明确规定医疗智能决策应遵循公平原则，确保决策的公正性和公平性，同时可以建立评估机制和指标，监测医疗智能决策的公正性和公平性。
4.2 制定医疗决策智能化的法律框架
4.2.1 综合运用医疗法律责任归责模式
当前，ChatGPT尚未具备独立自主自由意志的智能程度，ChatGPT驱动的医疗智能决策系统属于人类研发生产的产品。若医疗机构或医务人员在使用人工智能过程中由于操作或管理不当导致患者受损害，应由医疗机构承担过错责任。如果损害是由医疗智能自身程序瑕疵或设计缺陷引起的，根据产品质量法的规定，设计者和生产者应承担无过错的产品瑕疵责任。在司法实践中，可以倾向于责任的证明分配，将缺陷的存在、缺陷与损害之间的因果关系的证明责任分配给设计者、生产者或医疗机构。
随着生成式人工智能的高度发展，可能会出现基于超级算法和深度学习技术的深度应用、具有独立自主意识能力的医疗智能决策系统。然而，这种情况是技术市场化应用的结果，要求医疗智能的生产者、制造者和使用者在享受利益的同时具备风险承担能力。由于风险的不可预测性，高危责任的适用符合《中华人民共和国民法典》“侵权责任编”中对社会发展和科技进步所作的立法选择。
4.2.2 设定智能医疗强制保险
ChatGPT驱动的医疗智能决策引发的医疗法律责任存在责任主体界定困难、过错责任原则不适用、因果关系难以查清等现实问题，不仅导致受损害患者无法公平获得赔偿，也抑制了开发者和医疗机构进一步研发和使用先进人工智能技术的积极性。为解决这些问题，可以借鉴美国、英国、德国、日本等有关强制医疗保险制度的经验，建立智能医疗强制保险制度，确立医疗机构和医生的强制投保义务，以分散医疗损害赔偿的风险，并及时补偿受害人的损失。开发者、制造商、所有者（医疗机构）等通过多种方式支付费用，确保医疗智能决策法律责任的支付来源。这样既能有效保障患者权益，又能使相关主体在承担风险责任的同时不丧失技术研发和使用的积极性。
设定智能医疗强制保险制度通过确保赔偿责任的支付来源来解决医疗智能决策领域中因非人为因素导致的损害负担问题，为救济受害人、分散医疗风险和维护社会稳定提供了合适的制度保障。当ChatGPT驱动的治疗机器人投入医学使用时，生产商可以购买保险，无需纠结于侵权责任的归属认定，保险公司将填补受害人的损害。
4.2.3 构建多元化智能医疗纠纷解决机制
在涉及ChatGPT驱动的智能医疗决策纠纷解决过程中，传统的司法途径可能无法满足效率和专业性的要求。基于此，首先，可以建立专门的智能医疗纠纷解决机构或仲裁机构。这些机构可以由专业的法官、医疗专家和技术专家组成，具备丰富的智能医疗知识和纠纷解决经验。通过专业的调解、仲裁或调查程序，可以高效、公正地解决智能医疗纠纷，确保受害人得到合理的赔偿和救济。其次，可以利用信息技术手段构建在线纠纷解决平台，提供便捷的纠纷提交和处理流程，通过在线调解、调查或仲裁等方式解决纠纷。同时，该平台可以整合医疗记录、智能医疗算法和相关证据，为纠纷解决提供客观、准确的依据，提高解决效率和专业性。最后，应鼓励建立智能医疗纠纷调解机构，通过调解的方式解决纠纷。调解是一种自愿参与的协商方式，可以在保护当事人权益的基础上，快速解决争议，减少司法程序的成本和时间。智能医疗纠纷调解机构可以由具备医疗和技术背景的专业调解员组成，能够促成双方达成公平合理的协议。
通过构建多元化智能医疗纠纷解决机制，可以更好地应对医疗智能决策领域的法律责任问题。这样的机制不仅能够提供高效、专业和公正的纠纷解决服务，保护受害人的权益，促进医疗人工智能技术的发展和应用，还有助于提升医疗机构和开发者的信心，鼓励他们进一步投入研发和使用ChatGPT驱动的医疗智能决策系统。
4.3 加强监管机制与数据监督
为了加强对ChatGPT驱动的医疗智能决策的监管和审查，可以考虑设立专门的机构或部门来负责监督和管理医疗智能决策的实施。该机构应具备专业知识和技术能力，能够评估和审查医疗智能决策系统的准确性、可靠性和安全性。该机构的职责包括制定监管政策和规范，审核和批准医疗智能决策系统的使用，监督医疗机构和开发者的合规性，以及处理投诉和纠纷等事务。监管机构还应积极与科研机构、医疗机构和行业协会等建立合作关系，共同推动医疗智能决策的安全和可靠性。监管机构可以采取定期检查、抽样调查、风险评估等手段，对智能医疗产品和服务进行监督。同时，建立举报渠道和投诉处理机制，鼓励公众和患者积极参与监督，及时发现和纠正违规行为。
由于ChatGPT驱动的医疗智能决策所依赖的数据涉及患者的敏感信息，因此必须加强对医疗数据的安全监督。监管机构应制定明确的规范和标准，要求医疗智能决策系统和相关机构采取必要的技术和组织措施，保护患者数据的机密性、完整性和可用性。监管机构还应定期进行数据安全和隐私保护的审查和评估，确保医疗智能决策系统的数据处理和存储符合相关的法律法规和行业标准。
4.4 提升决策智能化的实践能力
为了确保医生能够有效应用ChatGPT驱动的医疗智能决策技术，应制定相关的培训要求，重点在于提高医生对医疗智能决策的理解和应用能力。培训课程和培训资源涵盖医疗智能决策的基本原理、方法、实际应用场景，同时着重于伦理相关的知识，确保医生在使用过程中能够协调好技术优势与伦理责任。课程应注重实践性，通过真实案例研究和模拟场景，帮助医生在面对实际医疗决策时能够将智能工具与临床判断有效结合。
医疗智能决策还需要医生和技术人员的紧密合作与有效沟通。为此，应加强医生与技术人员的跨领域合作与沟通能力的培养。在对医生进行技术培训的基础上，技术人员也应了解医学领域的专业术语和临床实践，以便更好地理解医生的需求和决策背景。此外，还可以组织定期的交流，促进医生和技术人员之间的交流和互动，帮助研发更加符合患者需求、安全、可持续的医疗智能决策系统，也为医生的智能决策实践提供深入的技术理解。
5 结语
ChatGPT作为一种大语言模型，以智能化的语言呈现辅助医疗决策，解决了长期以来由于医患认知不对称所导致的患者决策参与困境。通过海量数据分析和处理，为患者定制个性化决策支持，基于患者不同特征和决策效能，为其提供符合认知水平的可理解性决策支持，可在一定程度上确保医患决策的一致性。然而，由于算法的原生技术缺陷，ChatGPT的应用面临伦理困境和法律风险，一方面需要建立伦理准则和指南，以明确ChatGPT在医疗决策中的伦理原则和限制条件；另一方面需要建立专门机构进行监管与审查，加强对医疗智能决策数据安全与隐私保护的监督，最大限度地减少潜在的法律风险和滥用行为。此外，还需要制定医生与技术人员的培训要求与认证标准，并推动医疗智能决策技术的评估与认证体系，确保医生和技术人员具备必要的知识和技能，能够安全、高效地使用ChatGPT驱动的医疗智能决策技术。
2022年西安市科技局软科学项目“双碳政策下秦创原平台产业生态体系绿色发展协同立法研究”(2RKYJ0020)
京公网安备11010202008535号
PDF
(600KB)
