0 引言
随着人工智能在医疗领域应用的不断扩大，世界卫生组织（WHO）于2021年发布了第一版关于卫生领域人工智能应用的伦理和治理指南，从保护人类的自主性、增加人类福祉、确保透明、培养责任感和实行问责制、确保包容和公平、推广反应迅速且可持续的人工智能等六个角度概述了全世界应当坚持的伦理原则。
2019年中国发布的《中国人工智能医疗白皮书》中指出，数据伦理争议是人工智能医疗行业面临的挑战之一，其包含个人信息泄露导致医疗事故、医疗机器人拥有自主意识脱离人类控制、人工智能医疗普及导致传统医护工作人员失业等方面
［1］。2022年，中共中央办公厅、国务院办公厅印发的《关于加强科技伦理治理的意见》中明确要求“制定生命科学、医学、人工智能等重点领域的科技伦理规范、指南等，完善科技伦理相关标准，明确科技伦理要求，引导科技机构和科技人员合规开展科技活动”。科技伦理治理的一系列举措彰显了中国政府对医学领域人工智能应用伦理治理的高度重视与决心。
世界卫生组织提出的健康领域人工智能伦理六大核心原则，为各国构建AI健康伦理体系提供了重要参照。中国积极响应WHO指南，在宏观层面制定政策文件将WHO原则本土化。但是在微观操作层面，尤其是孕产妇作为特殊群体，如何在日常AI交互中实现对自身健康数据的有效控制，仍缺乏具体、可操作的制度设计与行为指引。
策略制定需要凸显以最普遍的患者为中心的准则。但截至目前，关于人工智能在医疗场景中的应用，以及以患者为中心的人工智能信息控制伦理问题的讨论仍不够充分。特别是当人工智能给患者提出的治疗意见被患者否定时，是否需要继续干预，这一问题成为AI引入临床领域的关键考量。本文旨在从患者视角出发，构建以孕产妇为中心的人工智能医疗自主权保障讨论框架。需要指出的是，在人工智能深度介入的医疗环境中，“自主权”的内涵正经历从“消极拒绝”向“积极参与”的演进。传统的自主权强调患者有权拒绝治疗，而在AI语境下，自主权更应体现患者对数据生命周期的积极掌控。尤其对于承担双重责任的孕产妇而言，其自主决策不仅关乎自身，还涉及胎儿，这使得其在面对算法建议时，面临更复杂的伦理张力。本研究将自主权界定为一种交互的权利，它要求技术系统必须提供充分的机会，使孕产妇能够理解、质疑并共同塑造与其健康有关的AI决策过程。
1 孕产妇生物信息分析与患者自主权挑战：行为研究的观点
1.1 孕产妇生物信息分析与人工智能
不同于传统的问答、检查检验和自填报告等信息使用形式，人工智能在利用患者生物信息时，通常涵盖采集、存储、处理、分析及展示等一系列环节。医疗人工智能使用孕产妇生物信息也主要从智能设备收集信息和算法分析信息两个方面开展。
为了实现健康管理和治疗疾病的目标，笔者从生物信息学的角度出发，认识到这两个目标都与患者生命周期中的生物数据紧密相关。生物统计学和数据科学的应用，如数据建模和个性化治疗方案的制定，正在改变我们理解和管理健康的方式。在媒介学用户行为研究视角下，为分析孕产妇的移动媒介使用特征，也会依靠智能手机或智能手环采集居家环境中的孕产妇步行数据，并通过数据挖掘技术，揭示其活动模式与媒介使用状况的关联。本研究认为媒介用户行为分析视角有助于深入理解和预测孕产妇在使用医疗人工智能中将会遇到的自主权挑战。
首先是智能手机收集患者信息的行为区分。一是手机设备自带的患者位置、步数等被动收集行为。二是手机第三方软件或小程序采集的患者主动使用行为。患者本人除了主动录入院内的检查检验数据外，还会主动提供人口统计学数据，乃至咖啡摄入量等日常生活行为数据，这些数据均可被用于预测怀孕结果
［2］。三是患者主动生成的社交软件内容，这些数据对于分析孕产妇心理状态变化而言，具有重要的价值。
其次是基于可穿戴设备的孕产妇信息收集与分析。设备形式包括手环、贴片、腰带等在内的十多种，然而，大多数设备仅限于采集身体特定部位的状态，对于多传感器的整合分析，仍有待进一步深入探索。将孕产妇生物信息通过物联网纳入社区健康管理系统，管理部门可以为孕妇出行提供专属出租车服务
［3］。
1.2 人工智能分析孕产妇生物信息与患者自主权
运用人工智能开展孕产妇生物信息的分析和治理工作，对围产期健康管理和母婴健康具有重大意义，尤其需要遵循以人为本的原则。由于在这一领域中，行为人具有脆弱性的特点，孕产妇医疗与健康管理领域涉及的伦理原则——尊重、不伤害、有利、公正，这些原则同样应在人工智能分析生物信息的领域中得到广泛应用
［4］。人工智能基于算法和程序分析患者生物信息，向人类展示或建议结果，这可能会对患者的自主性产生一定影响。基于大数据和算法判断的患者生物信息，其不透明的自动过程剥夺了患者问答和了解详细信息的权利，让人处于一种被动接收的境地。Okolo等
［5］的研究提出了确认患者同意使用AI的笼统性操作程序，然而，快速获取患者签字同意与在充分信息共享基础上做出的自愿选择之间，存在显著的个体差异，这体现在用户的行为和认知上，我们更需要以患者为中心进一步思考操作原则，在充分保障患者自主权后制定统一征求程序。
在健康管理和医疗实践中，患者自主权讨论通常包含三个基本条件，即意愿性、目的性和坚定性
［6］。意愿性是指行为人主观产生的想法，患者对自己有关的健康实践行为有一定的目标和计划。
“目的性”作为患者自主权的第二个条件，关乎临床结果的差异性，进而影响诊疗决策的选择过程。一般来说孕产妇人群需要同时考虑本人和胎儿的结果承担，这在孕产整个周期中都能发现其影响力。在怀孕第一周，如果基于可穿戴设备的生物信息分析结果建议孕妇“减少运动保护胎儿”，那么可能会出现选择误导，这可能会危害孕妇的健康。在中国胎儿医学领域，胎儿通常被定义为妊娠8周以后的胎体。胎儿的健康和发育是通过医疗团队的讨论和评估来确定的。然而，随着技术的发展，可穿戴智能设备也开始提供健康建议，这些建议基于特定算法的数据识别结果，并且符合医学标准，旨在提供有意义的信息。这里的所谓“健康指导信息”并不区分孕妇健康和胎儿健康，更不会定义健康对象“是胚胎，还是胎儿”。
行为人选择承担健康建议的结果，前提条件是理解健康信息。但是人工智能分析患者生物信息后提出的健康建议，是基于数据采集和算法生成的。算法本身并不在最终结果显示中体现，如聚类分析等计算学习算法。患者类型化分析的结果受数据维度的影响，且分类过程难以被直观知晓
［7］。这种不透明导致无法复制医生向患者解释的情景，从而使得患者难以获取可理解的过程性信息，进而削弱了孕产妇选择行为的目的性基础。
患者自主权成立的第三个条件是“坚定性”原则。坚定性指的是行为人的自主选择不受内外部因素的干扰。内因是患者本人的精神状态，外因则是其他人的诱导、要求或命令。例如来自保守家庭成员的诱导性俗谈，这种建议可能会长期伤害患者健康，但是孕产妇会因明确感知到的周围世俗压力，在信息不全面的情境下，被迫劝导自己接受“民间偏方”，这就极大动摇了患者自主性的基础。
人工智能分析孕妇生物信息是个案，但是算法训练中的数据集，以及健康建议的依据基础都是大样本采集的。人工智能医疗系统提供的信息是非常真实且是“大多数人的结果”。这些信息同样会被孕产妇认为是一种社会压力，在追求孕产妇和胎儿健康的情境下，孕妇自主选择行为的信息源基础是“外部样本科学实验”的结果。
医疗人工智能产生健康建议时，分析的患者生物信息是个人的，但是判定依据是诊断指南或者健康卫生大数据的形式，这种“智能+数字”的分析形式会产生权威压迫或全面回避等患者伦理问题，这在人机深度协作的医疗环境中，可能不会出现严重的选择后果。但是当孕产妇没有其他更多选择时，如果仅依赖人工智能的分析结果作为唯一信息来源，就可能陷入信任或怀疑的极端情绪中。两难的选择境地对孕产妇来说是困难的。这种两难困境同样体现在患者自主权的意愿与目的性之中。
2 孕产妇健康管理中的医疗人工智能自主权保障
在孕产妇健康管理情境中，人工智能分析患者生物信息时面临新的自主权威胁，主要矛盾发生在持续的人机交互与预设算法间的结果期待不匹配，本研究认为解决方向是在现有的患者自主权政策脉络上，补充提出可操作的患者权利保障细节。这个问题之所以会发生，与孕产妇健康管理意图和行为的复杂性有关。为阐明人工智能与孕产妇在信息使用行为上的不一致，本文引入了“媒介行为”这一概念进行阐释。本文的媒介行为主要指的是“信息接近和使用”，既包括人类行为者的信息使用，也包括非人类行为者的信息使用。评估孕产妇与人工智能系统互动时，保障自主权考量的核心在于技术利用要与个体需求相契合。完整的信息使用行为通常包含自主意识、动机、理性、喜好等因素，很显然非人类行为者缺乏这些要素。为了统一人与非人的信息行为，本研究从“交互行为”角度出发，还原人与非人的信息行为，不讨论动机和情感，而是从提供、删除、分析、触发、展示、修正、响应等基本动作出发，将技术行为视作一种工具性交流。交互行为是本研究使用的分析单元，指孕产妇与AI系统在健康数据管理中实施的七类行为，行为不预设意图或情感，仅关注对数据做了什么，目的是将“自主权”概念转化为可观测的制度安排。在保障个体信息交互自主性的脉络中，思考医疗人工智能环境下的孕产妇自主权等伦理问题。
2.1 尊重孕产妇知情权
为了实现患者自主权的意愿性、目的性和坚定性这三个核心要素，确保知情权成为不可或缺的前提。人机交互中的患者知情权保障，指的是在“信息提供与采集”“信息分析与判断”“信息展示与接纳”“信息反馈与修正”等交互环节中，患者能够充分参与和知晓。
首先，患者应当是健康管理过程中的知情决策者，且这一过程应确保无利益输送
［8-9］。他们应当清楚向谁提供了哪些信息，这些信息以何种形式保存，以及未来会被哪些行为者所使用。孕产妇的意愿需要被尊重，涉及家人、丈夫和未来孩子的生物信息及分析结果，孕产人群应被赋予知晓、中止和删除的权利，并且在操作技术上不被设置限制条件
［10］。
其次，院内外孕产妇应当知晓哪个时间和情景中存在人工智能介入，以及介入的具体方式和目的，以及与医生相比的不同点。在可穿戴设备中，AI技术的应用已经深入到多个领域，包括健康监测、运动健身、智能助手和辅助生活功能等。例如，智能手环和智能手表通过内置传感器实时监测用户的生理数据，如心率、血压、体温等，并结合算法分析这些数据，为用户提供健康指导和建议。在孕产妇健康管理方面，AI介入的设备在被采纳后，可以在多种情景中采集包括心率、睡眠质量、活动水平等在内的多维度数据。通过深度分析这些数据，算法能够识别潜在的健康风险，并提供个性化的健康管理建议，从而在孕产妇健康管理中发挥重要作用。作为接受健康干预的患者，他们有权了解设计算法的机构及个人是否与医疗机构间存在潜在的利益关联。
再次，常规医患关系下，由医生向患者提供所需信息，以此类推，医疗人工智能也必须遵守此原则，主动向患者提供能作出判断的信息。在向孕妇展示信息时，需要确保满足他们的感官体验，诸如字号大小、色彩对比度以及图表展示等细节，均应贴合孕妇的阅读习惯。信息显示特征应便于患者访问，并允许他们依据个人的视听偏好进行灵活调整。
最后，在反馈与修正行为中，医疗AI在采集、分析和展示等定量环节应提供明确的反馈途径，在结果或建议提供等定性环节应提供补充性背景信息。甚至，孕产妇使用信息时的情绪反应也应被纳入考量。例如，AI准确判断病情与准确判断患者情绪，两种情况下对“准确”的定义是不同的。本土文化背景下的情绪意义需要在孕产妇健康管理中被严肃考虑。
理论上，医生和人工智能应向患者主动公开所有疾病信息。但是，在高语境文化中，面对可能致命的疾病信息，人工智能是否应该在第一时间无差别地向患者和家属全部陈述？如果人工智能在医生的授意下，对疾病信息有所隐瞒，反而稳定了患者和家属情绪，获得了积极的依从性，改善了治疗结果，这是否侵犯了患者的知情权？
2.2 禁止伤害孕产妇
实现孕产妇自主权的关键之二在于禁止伤害。在任何医疗实践中，确保患者安全始终占据首要地位
［11］。这一原则明确要求医护人员不得对患者造成伤害，更不允许采取任何可能恶化病情的行动。为了落实禁止伤害原则，必须规范人机交互行为，通过提供切实可行的技术性措施，为其奠定坚实的基础。
首先假定两种人机协作时的极端伤害情况。一是医生没有按照人工智能给出的诊断而造成了死亡，患者家属迁怒于医生没有按照人工智能所提示的“更优方案”；二是医生按照人工智能的建议，增加了患者痛苦，甚至造成了死亡，家属依然会认为医生没有自己的判断，盲从了机器的决定。现有的解决方向是提高诊断和治疗水平、充分的危险告知。
人工智能和机器学习方法现已被用于产前保健期的妊娠结果预测、产妇心理健康管理、新生婴儿体重预测等多个方面
［12］。在孕产领域，为提高医疗水平，医疗人工智能应被授权采集足够多的孕产患者信息，并从家庭关系、社会支持、生物检验指标、体态监测、食品药品不良反应、情绪反馈等多个维度判断患者的健康状态，并将潜在风险告知患者。当医疗AI被判定提供了错误信息时，医生和患者都应有权反馈，甚至删除结果及错误算法。同时，在将准确度更高的新算法植入医疗AI时，应确保医生和患者的共同参与及测试验证。
另一种没有医生指导的特殊情况是，随着某些地区限制堕胎愈加严格，可能会有更多孕妇在缺乏专业医疗环境的情况下自行堕胎，进而对女性的生殖健康乃至生命安全造成严重伤害。
2.3 尊重孕产患者意见
实现孕产妇自主权的第三个条件是尊重患者意见。人机交互中，尊重患者意见除了前文提到的赋予用户对生物信息交换的控制权，还应包括孕产妇对生物信息使用和展示的选择权。
按照人机交互中的信息使用情景区分法，孕产妇在以下场景中存在意见表达的需求。一是孕产妇人群向AI提供生物信息；二是医疗AI向孕产妇提供分析结果；三是孕产妇使用分析结果向家属和社群表达自身需求；四是孕产妇与自己的交流。
例如，在患癌孕妇的治疗场景中，一些人因化疗带来的痛苦、生命质量的下降，以及治疗费用所带来的经济压力，可能会主动选择放弃治疗。然而一旦拒绝治疗，则意味着死亡。这类问题屡见不鲜，是人类医生和医疗人工智能都需要面对的挑战。中国传统社会秉持一种观念，即不干预患者及家属主动放弃治疗的决定，但会在此之前详尽阐述治疗细节，确保患者充分知情。但是，医疗人工智能依然可以为孕产妇创造尊重的机会。医疗大模型可以为患者提供足够多的预测结果，包括更多的方案选择、治疗效果可能性，以及治疗的费用支出信息；并且告诉患者和家属各种治疗方案的难易度、效果间的差异，以及费用对于收入中位数人群的负担程度，乃至提供来自官方机构的大病救助信息、特殊药品补助信息等。
本研究认为尊重患者意见应区分积极和消极。如果说消极尊重是仅在患者提出明确要求时才提供必要信息，那么积极尊重是主动提供全面信息和多方案选择。复杂情景下的积极尊重应以患者需求为中心，在医疗和健康管理的各个阶段均提供开放的角色设定功能。
孕产妇作为需要被关照的人群，个人需求是在群体的角色定位中被规定的，治疗、期待、社交和话语需求来自孕产妇角色。当她需说服丈夫、与家属沟通，乃至与内心对话时，首要任务是洞悉交流对象的信息现状与预期，方能精准表达自身需求与抉择。例如，与其被AI告知“您应如何选择与丈夫的交流方式”，不如让她成为“丈夫”，体验丈夫的角色。在虚拟情境中，孕产妇扮演“丈夫”角色，进而更精确地表达自身需求，这无疑是对患者自主权的一种深化与扩展。
2.4 医疗资源公平分配原则
前三点是假定个体治疗情景中的患者自主权强化思考，第四点从促进医疗人工智能的公平环境着手，论述积极实践患者的自主权。
为了给予患者应得的分配，首先需对患者需求作出充分、科学判断。与医疗人工智能有关的偏见现象，一般分为3种，分别是人工智能医生给出的不公正建议、人类医生只采纳了有偏见的建议、患者错过了有益建议
［13］。造成人工智能医疗偏见的原因，一般认为与数据的获取和标注、算法的设计、医生和患者的智能素养有关。从患者视角来看，罕见病及弱势人群数量偏少，未被纳入初始数据，这种情况在孕产妇健康管理中表现尤为明显，以及不熟悉人工智能导致的信任不足影响了意见采纳。
理想状态下，充分纳入患者个体和群体特征后，只要是符合普遍道德水准的人类医生和人工智能医生，都能给出适当、可行的医嘱，并且没有利益牵连，就可以认为这是最低水平的分配公平。在医疗资源充裕时，全面考量患者的生理指标、生活特征、家庭背景、信仰与民族、社会阶层与社区环境、性格特点及社交关系，能够提出以往被忽视的健康建议。在医疗保险覆盖范围之外，如果存在个人支付更好的医疗条件，人工智能医生可以告知需要的人。面对稀缺的医疗资源，如器官移植、高价特效药、高级生命支持等，未来在人类医生的决策基础上，纳入人工智能医生的建议将变得至关重要。这不仅能够提高医疗服务的效率和质量，还能通过大数据分析和智能预测，优化资源分配，确保资源得到公平利用，避免利益输送导致的医疗不公。
3 结语
本研究超越传统医患二元关系，将医疗人工智能伦理讨论重点放在“患者是否充分掌握系统”。解构孕产妇使用AI的七类基本交互行为，讨论当前人工智能在孕产健康管理中对数据自主权的结构性挑战。充分的自主权保障应贯穿数据采集、分析、反馈与修正的全周期，孕产妇能够理解算法逻辑、质疑输出结果，并在必要时有效干预决策过程。在实践中，遵循自主权保障原则可以通过确认患者需求、降低技术使用门槛、开放角色设定以及整合多元数据等策略来实现。
2025年同济大学艺术与传媒学院部校共建暨院媒合作团队与项目（第六期）项目“健康信息设计背景下的育龄人群媒介使用与生育支持提升通路研究”(BXGJ-2025-B4)
京公网安备11010202008535号
PDF
(529KB)
