0 引言
失能老人是指由于年龄、慢性疾病或伤害等原因，部分或完全丧失生活自理能力的特殊老年群体。联合国社会发展司数据显示，全球60岁及以上人群中，约46%存在某种形式的残疾或功能受限。中国是世界上失能老年人数量最多的国家之一。与此同时，长期护理保险试点稳步推进，根据《2024年度国家老龄事业发展公报》显示，截至2024年末，49个长期护理保险试点城市参保人数已达18 786万人，享受待遇人数超过146万人，为失能等级评估与照护全过程积累了可观的数据基础。目前，已有多项机器学习、深度学习工作使用失能或残障老年人的纵向数据开发针对性预测模型，例如老年人跌倒预测模型、失能老年人抑郁风险预测、老年人未来失能风险预测等
［1-2］。
人工智能辅助决策，指利用人工智能算法综合医学知识与个体数据，生成面向具体个体的评估、提示或建议，以支持（而非替代）医务人员（及/或照护者、患者）作出诊疗与照护决策；其依据可被独立审查，且最终裁量权由人类承担。
在失能老人照护决策中，人工智能（AI）技术按功能可分为健康监测及诊断类、预测及分层照护类、系统支持和交互陪伴类
［3］。预测类AI侧重健康风险的预警（如预测跌倒或病情恶化并提醒医护）；监测类人工智能技术负责老年人状态监测，利用传感器或视觉技术识别老年人状况（如AI跌倒检测自动报警），用于居家监护等。系统支持类AI分析医疗数据以辅助临床决策（如AI诊断与治疗推荐系统）；交互陪伴类AI通过对话与陪伴为老人提供支持（如护理机器人“Dori”辅助日常生活并提供情感慰藉，基于大语言模型GPT的问答系统陪老人对话、解答健康疑问，提供认知干预和心理支持。上述人工智能技术已逐步应用于临床诊疗、居家监护、认知干预、康复辅助等场景，明确了人工智能技术介入失能老人照护决策的方式与边界，为后续伦理分析奠定基础。
1 失能老人医疗及照护决策的困境与人工智能介入的挑战
在辅助医疗决策场景下，人工智能技术日益应用于协助失能老人的辅助诊疗过程，包括临床辅助诊断、用药方案推荐、健康风险预测和远程健康监测等。例如，基于机器学习的人工智能算法可以对老年患者的海量健康数据进行实时分析，从中识别异常指标并预测潜在的健康风险；又如，人工智能驱动的决策支持系统可根据电子病历自动核查药物剂量和禁忌，并通过智能药盒提醒患者按时服药
［4］。这些人工智能工具在提高诊断准确性、优化治疗方案和监控慢性病方面发挥着重要作用，为医护人员提供了有力的决策支持。
在辅助照护决策场景下，人工智能技术则致力于提升失能老人的生活质量和护理效率，应用形式包括智能护理机器人、认知功能干预系统以及日常生活支持技术等。目前已有用于老年人照护的机器人设备，如协助失能老人进食的喂饭机器人、帮助卧床老人洗浴的洗澡机器人、辅助康复行走的助行机器人，以及提供情感陪伴与认知刺激的陪伴机器人等。这些智能照护手段不仅能够实时监测老人的健康状况、预防意外风险（例如跌倒监测报警），还可以在精神层面给予慰藉和认知训练，具有部分替代或扩展人力护理的作用
［5］。总体而言，人工智能赋能的照护技术有望减轻照护人员的负担、提升照料效率，同时为失能老人提供更加全面的身心支持。然而，由于失能老人常伴有认知衰退、表达障碍、情感依赖和数据脆弱性等特殊状况，人工智能介入上述场景时可能引发一系列伦理难题。
首先，认知与沟通能力的下降会导致知情同意程序面临障碍
［6］；其次，人工智能的标准化决策可能在一定程度上忽视个体差异，造成服务“去个性化”，甚至使老人的选择权被技术代理剥夺；再次，照护过程的机械化倾向可能削弱人际关怀，使失能老人尊严受损
［7］；最后，当人工智能判断失误导致医疗或照护事故时，责任归属不明。鉴于目前针对人工智能介入失能老人医疗与照护的伦理框架仍然较为薄弱，本文旨在提出一种适用于该情境的伦理对策，为“应当如何做”以及“为什么这样做”提供较为系统的解答，尝试探讨当AI广泛应用于失能老人医疗和日常照护的情景下，如何确保伦理原则得到遵循、老年人的尊严与自主权益受到保障，并为相关政策制定和实践提供一定程度的价值指引。
2 保障失能老人群体的尊严与权益
脆弱性伦理强调，当服务对象具有更高的受伤害风险或更弱的自主能力时，道德上应给予特别的关注和保护。失能老人正是这样一个脆弱性较高的群体：他们的身体机能和认知能力衰退，使其在决策中处于不利地位，极易受到环境和他人影响，甚至无法维护自身尊严。应正视这种脆弱状态背后的不公正因素（如社会歧视、医护偏见），并采取措施加以弥补。在人工智能介入老年医疗和照护决策的情境中，这意味着决策技术的设计与使用必须内嵌对弱势群体的体恤和支持。
2.1 底线保障——失能老人的尊严与基本权利
首先，保障失能老人的基本人权和尊严是不可逾越的底线。人工智能系统绝不能被用于利用老年人的弱点或操纵其行为，否则将对其自由意志和人格尊严造成严重侵害。中国先后出台《互联网信息服务深度合成管理规定》与《生成式人工智能服务管理暂行办法》。前者确立显著标识、来源可追溯、算法安全与投诉处置等义务，后者要求提供者落实数据/模型安全评估、内容治理、用户权利救济与责任追究，共同为养老照护中的人工智能应用划定合规边界。此外，《（欧盟）2024/1689号条例》第5条明确禁止利用自然人或特定群体因年龄、残障或特定社会经济处境所具有的脆弱性，通过人工智能系统对其行为造成实质性扭曲，并导致或可能导致显著伤害的做法。这一规定体现了社会对脆弱群体进行底线保护的共识。相应地，应在技术应用中切实落实“不伤害”和“尊重人格”的伦理要求，确保人工智能决策行为不侵犯老年人的尊严和自主。如养老陪护机器人不得通过隐蔽手段左右老人的决定，避免以“关怀”之名行操控之实。
2.2 过程保护——强化针对失能老人的特殊保护义务
脆弱性伦理强调对弱势个体承担特殊的保护义务。在面对失能老人这样自我保护能力降低的服务对象时，社会和照护者负有更高程度的照料责任，须主动预防技术可能带来的伤害。欧盟于2019年4月8日公开发布了《可信赖人工智能伦理准则》（
Ethics Guidelines for Trustworthy AI）也强调应重点关注和保护弱势群体的利益，包括老年人与残障人士等
［8］。
在部署人工智能辅助决策前，应当充分评估该技术对老年人尊严和权益的潜在影响，针对发现的风险点设置必要的防护机制（例如权限限制、人工监督、应急预案等）。对于涉及老年群体的AI真实场景测试，更应有额外的保护措施——例如确保参与测试的老年人及其家属知情同意，全程提供人性化的监护与支持，在出现意外情况时及时介入。总之，技术应用的全过程都应体现出对老年脆弱性的敏感和防护，把脆弱群体可能遭受的额外风险降到最低。
2.3 能力赋权——针对失能老人群体的赋能与包容度
在保障安全的同时，应尽力赋予失能老人参与决策、表达偏好的机会，从而增强其主体性，减轻其弱势处境。具体而言，在设计人工智能决策支持工具时，应当遵循适老化设计的理念，确保界面简洁友好、交互清晰，使认知障碍老人也能在其能力范围内使用系统，参与关于自身事务的决策或提供反馈意见。同时，在照护机器人的算法模型中，应当纳入失能老人和残障群体的相关数据和偏好参数，使人工智能辅助决策更贴合失能老人的实际需要，避免因算法偏见而对他们造成排斥或不公。正如有研究指出的，只有在技术开发的各阶段都让老年群体作为“相关社会群体”参与进来，才能保障人工智能产品和服务的公平与包容
［9］。
让弱势群体的声音融入技术设计与决策过程，才能真正实现“技术向善”。此外，也要意识到脆弱性并非少数人的特殊属性，在一定程度上是人类生存境况的组成部分。正如有学者指出：“我们每个人其实都存在潜在的脆弱性，任何个体的自主都建立在与他人的关系和支持之上”
［10］。因此，一个健全的伦理范式必须承认人类相互依存、共同脆弱的事实。在医疗与照护决策中，应为最脆弱的群体预留周全保护和有效赋权的空间，让AI技术的发展真正服务于增进人的福祉。
3 多方参与的协商共决
失能老人照护决策涉及失能老人本人、家属照护者、医护团队与技术开发者等多元主体，照护目标与知识结构各异，难以由任何单一方（包括医生或人工智能）独断。为兼顾专业合理性与个体福祉，引入交互伦理（interactive ethics）作为程序框架：在人机协同前提下，通过参与—协商—共建组织相关方共同决策，确立可解释、可质询与可追溯的规则，并将老人的意愿与最大利益置于核心
［11］。
3.1 特殊的信息不对称与其应对
相较一般医患、护患关系，失能老人情境下的信息不对称更为复杂和严峻。一方面，老人由于认知或沟通能力下降，无法像普通患者那样参与讨论，导致其医疗偏好和价值观容易被忽视；另一方面，人工智能技术的引入可能加剧决策“不透明”现象：如果人工智能给出建议但缺乏解释，家属和老人代理人难以及时理解其依据。此外，医生和人工智能系统之间也存在信息差距——医生对模型的局限与算法偏见了解不全面，而家属和照护则更是对人工智能决策逻辑知之甚少。针对这一现象，应当正视并缩小这些信息不对称及技术鸿沟，通过提高决策过程的透明度和沟通，让各方在尽可能对称的信息基础上协商
［12］。具体而言，当人工智能参与决策时，各相关者有权知晓人工智能介入的程度、其参考的数据因素，以及人类决策者可以如何介入调整人工智能的建议。这种透明度有助于在出现分歧时进行理性讨论：当人工智能给出的方案与家属的直观判断不一致时，各方可以依据共同了解的信息来讨论其合理性，而非各执己见。
3.2 实现多方协商共决的具体对策
为了将交互伦理落地到失能老人的人工智能辅助决策中，需要从制度和实践上采取一定的措施，以确保每一方的声音都被听见、每一项决策都兼顾专业判断与老人的个人福祉。
纳入老人意愿，赋能代理参与。即使失能老人难以直接表达意愿，也应通过预先立下的意愿书、护理日记和生前预嘱等途径，将老人的价值观和偏好记录在案，作为决策核心依据。家属或法定代理人应被视为决策团队的重要成员，充分参与讨论并表达对老人生理状况、人格偏好的了解。决策过程中，始终以老人的最大福祉为出发点，尊重其先前意愿，避免由于老人无法发声而使其利益被边缘化。
建立人机协同的决策流程。完善“人机协同”的决策模式，当人工智能给出诊疗或照护建议后，医生需与家属共同评估其合理性。医生提供专业判断，解释人工智能建议的医学背景；家属代表老人阐明生活质量诉求和个体偏好；必要时护理人员补充日常照护观察。人工智能在此过程中仅充当信息提供者和方案建议的“参与者”，而非独断的决策者。通过多方交流，结合人工智能的数据分析与人类对老人病情和人格的深度理解，最终共同商定最优方案。这确保人工智能始终发挥的功能辅助医生，而人类保有对决策的主导权和最终责任。
强化人工智能决策的可解释性与过程透明。信息透明是消弭误解和不信任的关键。应当要求人工智能辅助决策系统具有高可解释性，能够向医生和家属清晰地说明其建议依据哪些患者数据、医疗指标和伦理方面的考量。在决策会议上，医生应充当“翻译”，将人工智能得出的技术语言转化为各方都能理解的内容，确保家属知情其背后的理由。当各方对相同的信息有了解后，如果出现AI建议与家属意见不一致的情况，双方才能基于事实进行理性讨论，而不是因认知不对等而各执己见。这种开放的信息共享机制同时有助于家属逐步熟悉和信任AI工具，减少因陌生感带来的抵触情绪。
引入冲突调解和独立监督机制。鉴于多方参与决策可能仍会遇到利益冲突或道德两难，需要建立常规化的伦理讨论和监督机制作为保障。医疗机构可以定期召开由医生、护理人员、家属代表、伦理学者组成的多方座谈会，评估人工智能在失能老人照护过程中应用所引发的伦理问题，及时调整策略。对于个案中出现的重大分歧（例如AI建议的方案与家属意愿严重冲突），可启动医院伦理委员会或第三方顾问介入调解，提供独立的评估意见，确保决策以老人权益为依归。当有外部监督介入时，各方更容易冷静地权衡利弊，在尊重老人最大福祉的前提下达成一致。此外，监管机构也应制定明确政策框架，要求AI医疗决策过程具有可追溯性和问责机制，以防止任何一方滥用其影响力。
推动技术设计与政策制定的多方共建。交互伦理的理念不仅应体现在具体决策环节，也应前移至AI产品的开发设计和制度政策层面。在开发养老照护AI系统时，应邀请老人及家属代表、一线照护人员、医疗专家和人工智能工程师开展跨学科对话，共同参与需求分析、方案设计和风险评估。研究已指出，只有让终端用户从规划阶段就深度介入，才能确保所开发的技术真正贴合老人的现实需要和价值偏好。欧洲的“COMFORTage”等养老科技项目已实践了这种多方共创的方法：例如，在COMFORTage针对阿尔茨海默病和衰弱的社会机器人试点中，项目团队通过焦点小组和访谈方式，让高龄患者、家庭照护者以及健康照护专业人员共同参与测试与反馈，在开发过程中融入他们的反应和意见。这种多利益相关方的协作不仅有助于及早发现价值冲突并加以权衡，还使得技术方案在落地之前就经过人文关怀的校准，从而在实现效率提升的同时更好地维护老人的尊严和情感需求。
总之，交互伦理为人工智能赋能失能老人医疗决策提供了一种注重过程正义的解决思路——通过开放沟通、民主协商和协作共建，将患者、家属、医护、技术方纳入同一个道德抉择体系。这样形成的决策更有可能被各方接受，其伦理正当性也更强，最终实现专业合理性与个体意愿的平衡，在保障老年人福祉的同时增强决策过程的公信力和道德可靠性。
4 重视关系自主与人性化照护
关怀伦理（ethics of care）强调共情、同情与责任，主张在具体情境和关系中考量道德。这意味着我们必须将技术应用置于有人情温度的框架内，防止决策陷入工具理性，忽视老人的情感和人格需求
［13］。将失能老人视为有情感、有尊严的完整人格，而非单纯的病例数据。照护决策时应充分体恤他们的感受和偏好。例如，针对人工智能监护技术可能带来的隐私侵犯和被物化感，应优先考虑老人的舒适度，采取人性化的设计来缓解不适。实践中，有养老院采用低分辨率热阵列、毫米波雷达（60 GHz等）、被动红外（passive infrared detector，PIR）、床垫压力/门磁传感器等，从而替代可识别面部的摄像头，对跌倒、离床、久卧不动、卫生间异常久留、夜间出走等风险事件进行探测与告警，这一改变一定程度上做到了“隐私友好型监护”。在决定是否使用某种监控设备时，不仅要看技术效果，还要评估老人心理上能否接受，并通过尊称、礼貌沟通等方式减少他们被监视的不安。
4.1 赋予技术关怀品格，避免情感剥夺
照护机器人及其人工智能系统应尽量体现出礼貌与关怀的举止，而非仅机械地完成任务。这要求在算法和交互界面中嵌入关怀伦理价值，例如新一代陪伴机器人已尝试提供记忆训练、情感支持等功能，充当老人的“社交陪伴”和心理安慰者。然而，研究表明目前的护理机器人仍缺乏人类意义上的情感理解与共情能力，因此我们必须明确人机照护的边界，让人工智能作为辅助工具而非情感替代者
［14］。技术可以减轻照护者的体力负担，让他们有更多时间投入与老人的情感互动，但不能让冰冷的机器完全取代人的陪伴，否则老人将陷入“情感剥夺”的困境。换言之，人工智能可以模拟关怀的行为，却无法取代人类真挚的情感交流，应始终鼓励家人和护理人员给予老人真实的关爱。
4.2 融入家庭与照护关系的决策机制
关怀伦理强调长期关系中的信任与默契，这在医疗决策中是宝贵的资源。为此，人工智能介入的照护决策应尊重并倾听老人家属和一线照护者的声音。家庭成员一般最了解老人的人生故事、价值观和性格偏好；富有同理心的照护者、护工在长期照料中积累了对老人需求的直觉判断。这些人际关系所孕育的知识应当纳入人工智能决策考量。具体而言，当人工智能基于大数据给出某方案时，需要结合照护者的经验判断进行审慎权衡。如果算法推荐的“最佳选择”在情感上不符合老人一贯的意愿或个性，则应由医疗团队在与家属/（法定）代理人充分协商后，对方案做出相应调整，以体现对老人及其重要关系网络与人格尊严的尊重；人工智能仅作为信息支持者。良善的照护决策离不开人与人互动的现实，人工智能应作为信息支持者而非独断者。重要决定始终需由人类最终确认，把握住技术辅助与人文关怀的平衡［15］。
4.3 关怀照护者的需求与角色价值
在照护关系中，家庭照护者和护理人员同样值得被关怀。长期繁重的护理工作使他们身心俱疲，他们需要支持和理解。如果人工智能系统的引入让照护者感觉自己的角色被削弱甚至取代，或增加了新的心理负担（如学习新技术的压力、担心出错等），那么技术就没有真正促进关爱关系的良性发展。为避免这种现象，应让一定程度上照护者参与到人工智能技术工具的设计和实施过程中，提供充分的培训和技术支持，使其掌握使用方法、消除疑虑，从而把人工智能视为助手而非威胁。同时，在护理团队中营造协作氛围：将重复性、沉重的体力劳动交给智能设备，让人力更多用于高质量的陪伴和沟通。只有当照护者感受到自己被尊重和需要，他们才能更有动力、更充沛地去关爱老人，从而形成关怀关系的良性循环。
上述脆弱性伦理、交互伦理和关怀伦理的分析，三者各有侧重又相互补充，脆弱性伦理突出保护与赋权，交互伦理强调参与与协商，关怀伦理注重关系与同情。为了指导人工智能赋能失能老人决策的实践，有必要将这三种伦理视角加以融合，建构出较为系统的伦理对策。该范式以保障失能老人核心权益为出发点，围绕自主、尊严、正义、关怀等核心价值，明确决策中各方“应当如何做”以及“为什么这样做”。具体而言，可归纳出如下几个相互关联的要点：
尊重自主与支持决策：即充分尊重失能老人剩余的自主意愿，并提供必要支持以帮助其参与决策。这包括倾听老人的偏好（无论通过直接表达还是代理转述），尊重其人生价值观；在其认知有限时，以通俗方式解释情况、提供选择，使其尽可能参与。当老人完全无决策能力时，则尊重其生前预嘱或最佳推测意愿，人工智能任何自动决策不得剥夺本可由老人（或代理人）做出的选择权，重要决策始终需要人类的最终确认。这体现了对自主性的敬重，以及在脆弱情境中对自主的辅助实现
［10］。
脆弱者优先与尊严保护：在决策中给予失能老人特殊优先考虑，确保其生命尊严不受侵犯。具体包括：不利用其脆弱处境进行任何形式的操控或商业牟利；在医疗资源分配时优先满足其基本照护需求，避免因经济或认知劣势而被边缘化；在人工智能系统设计时以弱势群体需求为导向，如提供适老界面、避免复杂操作，以照顾其能力局限。同时，切实维护老人的人格尊严，比如使用尊称和礼貌语音交互，不做出有损人格的行为。尊严保护还意味着遇到重大医学决定（如是否插管维生）时，要以老人利益为本，防止因为其表达困难就被草率放弃治疗或忽视疼痛管理
［11］。该要点奠基于对人性尊严的不可侵犯信念，以及对脆弱生命的道德承诺。
公正无偏与包容普惠：确保人工智能在介入照护决策的全过程中对所有老年人一视同仁、公平对待，不因残障、性别、经济地位等产生偏见。算法训练应采用多元数据，涵盖失能老人等弱势群体，以免模型算法的偏颇。当该技术广泛应用于照护领域时，一定程度上针对失能老人的设备补贴、数字教育应纳入政策，使技术的益处普惠到不同阶层的失能老人。
协商共决与透明问责：强调决策过程的民主参与和清晰责任。凡涉及重大医疗照护决定，患者（或代理）、家属、医护人员应共同商讨确定方案，人工智能提供信息支持而非擅自行事。并且，人工智能系统须提供可解释的理由，医疗团队须向家属说明决策考量，使各方在充分知情基础上协商。
同时明确各角色的责任归属，例如医生对最终医疗结果负责，人工智能开发者对算法准确性与偏差风险负责，护理机构对照护执行负责等，一旦出现差错可迅速追溯和问责。建立伦理委员会或第三方机构参与监督，当利益冲突无法自行化解时介入调停，确保决策始终以患者最大利益为依归。通过共决和问责机制，保障决策过程既合乎伦理又有章可循，防范出现无人负责的情况。
关怀优先与人文陪伴：无论技术先进程度，都须坚持以关怀老人为出发点，维护人际关爱的价值。照护决策不能片面追求医疗指标而忽略老人生活质量和情感需求。人工智能应用应服务于提升老人的幸福感：如利用机器人陪伴纾解孤独时，也要确保老人明白这只是辅助，而鼓励家人给予真实情感关怀。关怀伦理还要求照护团队保持同理心，把老人视作家庭和社会的一员，而非负担或任务。通过技术将琐碎劳动自动化，从而解放人力用于高质量的陪伴。总之，此要点确保技术发展始终围绕人的幸福展开，让AI真正促进老年关怀事业的文明进步。
5 结语
未来，若人工智能深度介入失能老人的照护决策，不仅意味着技术革新，更伴随着一场深刻的道德考验。为此，必须坚守照护自主权，让老人保有对自身生活的决策尊严；践行知情协商，在医护、家属与技术方之间建立透明对话；推动技术适老化，使数字技术充分考虑老年群体的特殊需求与能力局限；将伦理规范制度嵌入照护体系，以政策和监管保障上述原则的落实；确保责任清晰，为人机协同划定明确的责任边界，从而平衡技术进步与人文关怀，让算法植根于人文土壤。在此基础上，人工智能在介入失能老人照护决策的过程中才能真正起到增进老年人福祉、提高生活质量的助推作用，而非割裂亲情与尊严的利刃；唯有如此，人机协作的未来才能在关怀与责任的引领下，驶向老龄照护文明进步的彼岸。
国家自然科学基金面上项目“内在能力—虚弱双轨迹监测下的老年健康风险评估及梯次应对研究”(72474141)
京公网安备11010202008535号
PDF
(569KB)
