《2024年度国家老龄事业发展公报》显示，截至2024年末，全国60周岁及以上老年人口31 031万人，占总人口的22.0%。伴随老年人口的不断增加，还有老年护工短缺的问题。目前，中国失能老年人口超4 000万，按国际标准失能老人与护工3∶1的配置标准推算，至少需要1 300万护工
［1］。中国未来老龄人口与护工数量的失衡是亟待重视的社会问题。人工智能交互技术的发展为老年护理提供了新的模式，老年护理机器人是基于这一技术开发的服务型机器人，适用对象为需要看护和陪伴的老年人群体
［2］。然而，老年人在接受机器人照护便利的同时，自决权与尊严权也可能受到侵犯。在权利侵犯程度和可能性分析中，须明确“达成照护目标并不足以验证照护手段的合理性”。因此，对服务行为的评估应当建立在合法性与道德性考量的基础之上，进行综合审视与判断。目前，老年护理机器人在国内虽未大量投入使用，受众人数较少，但未来极有可能被视为解决养老问题的重要方法；对其应用中可能对老年人权利产生的影响，目前的立法规范和政策内容尚不够完善，必须及早进行分析预设，并作出权利保障法规建设和法治实现路径探析。
1 人工智能老年护理场景下的产品功能和应用
随着智能硬件的功能被不断开发，多项基于生物医学工程技术参数产生的硬件芯片不断出现。结合深度学习、机器学习、自然语言处理、图像识别等软件算法技术的更新，人工智能在老年护理领域的应用正不断拓展和深化。“老年护理机器人”是这一类人工智能在技术界的通称。护理机器人完全贴合老年人护理需求设计，其功能主要包括三大方面：首先是医疗健康服务，如实时监测老年人的健康指标，并给予医师和家属反馈；其次是看护服务，如餐饮、药品的递送，防跌倒，简易通话报警系统，大小便智能护理服务等；最后是社交娱乐服务，如AI互动聊天，视频通话和益智游戏等。
老年护理机器人的应用场景主要包括：①安全防护。机器人设有全方位摄像头，可以监测老年人周围环境，检测潜在危险，并及时采取措施来防范危险。②照护服务。机器人可以协助甚至替代家属处理日常任务，以减轻他们的负担。③健康服务。机器人可以实时监测老人的健康情况，并反馈给负责医师和家属，紧急情况时向其发送警报。在远程医疗场景下，能够为医师提供远程辅助，配合医师完成诊疗及康复方案。④情感关怀。机器人将通过自然语言处理、计算机视觉和情感识别等技术实现自然的交流，最终通过陪伴和社交互动，减轻老年人的孤独感。
2 老年护理应用场景下的基本权利挑战
2.1 基本权利受到侵犯的原因
目前关于人工智能法律地位学界通说为“法律客体说”或者为“否定说”。认为人工智能没有法律主体地位，只是法律关系中的客体；对应到民法中常见的客体即为物。人工智能从被研发到应用的设计中，始终被人类定义为服务者或工具的角色。老年护理机器人则是一类提供健康照护、情感关怀等养老服务的人工智能，在行为模式上须遵循预置的服务规范，基于算法深度学习与照护策略应用完成照护任务。故实质上，可以说护理机器人无自主决策意识。人工智能是建立在深度学习基础技术之上，弱人工智能背景下，深度学习技术并没有革命性的突破，深度学习是一个能利用海量数据在单一领域中学会做超高精确度的预测或决策的技术，机器人所作出的任何行为均是基于统计大数据模型的预测和判断，本身并没有类似于人类的推理能力，无法代入亲属和护工视角完全理解老年人的意思行为。即在弱人工智能时代下，老年护理机器人不够“通人性”。
技术界对底层设计的争议问题主要集中在训练样本方面。鉴于样本数据在全面覆盖地域差异性、生活习惯多样性、高龄状态特殊性以及残障人士需求复杂性等方面的局限性，这可能诱发机器人执行决策时违背伦理规范的行为模式。例如：机器人可能以地板湿滑为由，限制高龄老人或残障老人下床活动。在目前老年护理机器人的应用中，机器人准确评估老年人行为安全性的能力成为一个技术难点，服务内容可能背离“以人为本”的价值目标。
此外，从老年护理机器人的形态看，尽管照护机器人不一定具备与人类相近的形态；但在执行护理任务时，其具有的言语和行为反馈表现出的人文关怀机制，却接近人类护工。这一现象可能导致如阿尔茨海默病患者等辨识能力弱化的老年群体，无法区分是否正在与人类进行交互。这种现象可能引发老年人对机器人身份与功能的认知混淆，形成过度依赖的心理状态。具体表现为：老年人可能将机器人视为情感上的亲属，无条件地信任并依赖其提供的服务，甚至在机器人暂时离开或终止服务时，产生类似于失去亲人的悲伤情绪。这种情感依赖与身份认知的模糊，会产生一些法律伦理问题。
2.2 自决权面临的挑战
2.2.1 自决权的宪法内涵
自决权，全称为自我决定权，即个人对自身相关事务能够自由决定并作出处理的权利
［3］。首先，自决权拥有人身自由权和人格尊严的双重属性，属于人性尊严权的公民基本权利范畴，国家有义务尊重并保护公民的自决权。《中华人民共和国宪法》第三十七条规定，中华人民共和国公民的人身自由不受侵犯。第三十八条规定，中华人民共和国公民的人格尊严不受侵犯。根据全国人大常委会法工委《关于宪法第三十八条的解释性说明》，人格尊严权包含自主决定个人事务的权能，这为自决权提供了宪法解释学基础。自决权的保护首先要求人本身不得被视为一种工具或手段，人本身是自由的
［4］。其次，自决权要求人对自身事务得以自治自决，但前提为不损害第三人、社会、国家的利益。国家应当尊重公民合法的自决权，公民若失去自觉自治的权利会丧失人身自由和人格尊严。
在机器人护理场景下，老年人自决权是指在护理活动中，老年人根据个人意愿，对于护理措施采取自行决定，且这种决定不受护理机器人或第三方机构干扰。老年人的自决权也体现了现代法律和养老伦理之尊重自主的原则。在人工智能护理模式下，应承认老年人拥有自决权。
2.2.2 老年护理机器人对自决权的影响
首先是算法处理侵犯个人信息自决。被护理的老年人个人信息是护理机器人完成照护任务的基础，又是人工智能算法技术处理的对象。为更有针对性地为老年人提供科学良好的护理方案并向护理医师反馈。因此，人工智能需要通过不断收集老人个人信息，建立个性信息库，并对比大数据库中的老年人服务相关指标数据，完成智能护理养老服务。区别于传统通过用户填写问卷调查的形式收集信息，人工智能在照护过程中，老年人的信息几乎时刻处于被披露、利用的状态，而对此大多数老年人并不知情授权。虽然，老年人在享受护理机器人带来养老服务的同时也必须付出个人信息权自我抑制的代价，将个人信息使用权在一定程度上让渡给智能器械开发商或医疗机构。但是，人工智能监测收集的信息往往并不全部与完成护理任务相关，这其中还包含了大量非必要数据，与老年人健康体征和护理任务无关；如老年人亲属的信息、生活信息、通话记录等个人信息。在人工智能算法收集老年人信息时，若未履行知情同意程序，收集了非必要的数据，则侵犯了老年用户的个人信息自决权。
其次是安全防护侵犯人身自由自决。老年人安全保障是护理机器人设计中的重要考量因素。老年人骨质密度低，摔倒后导致骨折的情况非常常见，在中国，每年有4 000万老年人因跌倒发生损害，跌倒后70%会引致伤害需要医疗处理，常见的髋关节骨折致死率非常高
［5］。护理机器人装载有全角度摄像头，能实时监测老人周围环境和老人体征情况，做到多重安全防护措施，确保老年人在使用过程中的安全。在老年人遇到突发情况时，机器人能够迅速启动紧急救援程序，联系家人或医疗机构，从而做到提前预防风险或事发求援。护理机器人的智能防护算法服务经临床测试虽能有效避免大多数意外情况；然而，随着数字时代的到来，公众对于机器人服务失范的忧虑却从未停止。大部分人担心在某些情境下，护理机器人可能无法合理准确回应老年人需求，甚至可能与之背离。例如：机器人可能以地板湿滑为由，限制高龄老人或残障老年人下床活动。机器人在暴雨等恶劣天气限制老年人出行。在人工智能根据算法模型识别风险环境后，可能会过度地对老人作出限制，抑或排除了老年人承担风险的自由，侵犯老年人的人身自由自决权。
2.3 尊严权面临的挑战
2.3.1 尊严权的宪法内涵
尊严权是人之为人一种独特价值反映，是人在任何时候不受剥夺，必须受到尊敬不被物化的天然性权利
［6］。广义上的尊严权包括“人的尊严”“人性尊严”与“人格尊严”，是一种一般人格权
［7］。包含公民的名誉权、荣誉权、姓名权、肖像权、隐私权等一切人格权实现的集合。尊严权不是一项独立的权利，有赖于其他宪法基本权利的保障实现
［8］。其中自然包括公民自决权的实现。狭义上的尊严权则更侧重于人格尊重层面的保护。本节所讨论之尊严权，为《宪法》内涵中所确定之狭义人格尊严权。《宪法》第三十八条对此表述为：中华人民共和国公民的人格尊严不受侵犯。禁止用任何方法对公民进行侮辱、诽谤和诬告陷害。从马克思哲学理论对人尊严的释义，可以概括出人格尊严权宪法内涵主要有两层含义：一是人的主体性，人的主体尊严实现要求肯定人作为人的主体地位，是法律主体而不是法律客体，非物和工具。二是人的社会性，人的社会尊严实现要求通过人的对象化活动来体现和塑造，人的社会尊严不能仅依据自己的认同来获得，而要通过他人和社会的评价来反映并确认
［9］。即人需要参与社会联系和劳动体现出“为他价值”，蕴含为受社会群体其他人尊重的需要。
2.3.2 老年护理机器人对尊严权的影响
首先是对主体尊严权的影响。主体尊严权的实现来源于老年人对个人价值的肯定，体现为老年人的主体性、自主性；排除客体化、对象化的对待
［10］。在当前弱人工智能阶段被设计生产的护理机器人，并无与人类类似的情感理解和推理能力，完成程序设定的任务是所有人工智能的目标。即使部分人工智能通过机器学习算法具有不断对输入数据集进行优化算法模型，从而提升逻辑判断的准确性的学习能力，那也很难说人工智能存在自主性。面对人工智能的“理解”问题，可以将“理解”看成一个三元关系，即可以看作“计算机”对于“指令和语句”的“信息赋值”。简单来说，就是给“语形符号”赋予“语义”。但根据塔斯基的算术真概念不可定义性定理，当语言丰富到极小算术时，“真”概念不是算术可定义的，这说明，在简单的形式语言中，人工智能可以“理解”语义“真”，但拓展到足够丰富的算术语言时，人工智能将无法理解最基本的语义“真”，更谈不上真正“理解”其输入输出的指令和语句
［11］。换句话说，无论是人类将大量知识和信息“注入”计算机，还是人工智能通过机器学习算法获取数据样本，计算机仍然只是在执行模型算法设定的目标，仍然很难理解社会语境下的基本含义。其并不存在自主性。只是一种“虚假的自主性”。
因此在护理机器人模式下，被护理的老年人会变成完成目标的手段与作用物，这一变化体现了工具性与目的性的倒置。而在传统的护工关系中人是主导关系，机器人只是客体，协助人类完成特定的护理任务。护理机器人长期的被动信息传送使得老人的自主性进一步下降，思考能力也会减弱。老年人自我决策与主动干预环境的能力受到护理机器人的影响，他们与周围环境的互动以及社会交往的媒介渠道，也在很大程度上被机器人所中介和调控。老年人作为法律主体人的主体性尊严会受到影响。
其次是对社会尊严权的影响。社会尊严权的实现来源于老年人对“为他价值”的确认，体现为对社会参与联系的程度。为保障老年人的安全和健康，大多数护理机器人会安装有全面的监测系统，保证能够时刻监控老年人的行为动作、活动区域和体征指标，在存在风险时向老年人发出警告，并及时向家属和医师反馈。另外，护理机器人还担任着“陪伴者”的角色，在老年人长时间无交互反应时，会主动和老年人交流并询问是否需要提供娱乐游戏服务。然而，过度的全方位监测一定程度上会降低老年人活动的意愿，因为保持不动会减少触发机器人提醒和警告的频率。此外，机器人对老年人社交生活的融入和替代也会一定程度上会影响老年人的社会参与度。在护理机器人照护下，老年人的情感表达对象逐步转向机器人，而机器人接受的情感反馈能力有限，无法进行情感推理，或者预测和理解人类的情感；故呈现出一种“虚假的关怀”，缺乏人类具有的互惠，共情的关怀价值，这将对老年人的身心健康造成影响。有产品调查表明，在监控功能和远程任务控制技术的支持下，家属通过远程访问老人的渠道会使得线下看望次数减少；进一步的，老年人与护理机器人的频繁互动会导致与社会接触减少
［12］。由于“机器人陪伴者”在老年人生活中的“形影不离”，会在很大程度上降低老年人参与社会交流的兴趣，对老年人的社会尊严产生影响。
3 老年护理应用场景下基本权利保障立法内容完善
3.1 完善老年人权利保障立法的必要
老年护理机器人作为未来智慧养老产业中应用最为广泛的产品技术之一，其权利保障内容应当在智慧养老规范体系之中。立法需进一步完善老年人基本权利保障内容。
一方面，《中华人民共和国老年人权益保障法》已无法满足智能护理时代下老年人新的权利保障需要。关于老年人权利保障的专门立法规定，主要规定在《老年人权益保障法》之中。该部法律第一次颁布年份为1996年，后虽历经2008年、2012年、2015年、2018年四次修订，但规范总体无大调整，现施行的是2018年版本。《老年人权益保障法》尚未将人工智能、智慧养老等新技术领域带来的法律难题衔接至老年人权利保障当中。另外由于该部法律的实施时间已久，立法的时代背景正在发生变化；权利保障内容未充分考虑到老年人这一“数字弱势群体”，甚至在某些权利的保障上有立法缺位。因此，中国有必要对老年人权利保障立法进一步完善。
另一方面，当前老年护理机器人应用的权利保障内容，主要是以智慧养老政策来得以体现，规制保障力度较弱。2012年被称为中国“智慧养老元年”，随之人工智能伦理学界、法学界也开始了对“智能化养老模式”规范之探索
［13］。之后历年，国务院及相关部委相继出台政策对智慧养老产业进行支持和监管（详见
表1）。除国家政策外，各地根据地方情况也出台了相关政策，智能器械企业根据公司情况制定各自的内部规章和产品服务标准。其余政策体系相当繁杂，本文不一一列出。其中大部分为决议、意见、方案、通知、规划等形式的政策文件，对老年护理机器人应用场景规制力度相当有限，内容多发挥为倡导性、建议性的“软规范”；在具体适用中，并无明确解决老年人权益保障问题。
针对上述智能护理时代下老年人权利保障规范现状，中国老年人在护理机器人具体场景下权利保障出现了长期无法可依的情况。从法政策学视角看，法律与政策紧密关联、互为补充，二者在社会治理中各有千秋。但从长远来看，在智慧养老领域，政策为主、立法为辅的做法必将严重影响权益保障机制建构
［14］。老年人权利保障体系，亟待做好法律顶层设计，将政策主导尽快转向法律主导，建立一套统筹的法律规范体系。体现为老年护理应用场景下，当务之急应制定有关老年人数据隐私保护，人身安全保护方面的法律，实现老年人权利的法律保障。
3.2 立法内容定位
目前，关于老年人权利保障内容规范可以体现在多部法律之中，包括中国的宪法、部门法、专门法和其他法律文件中。但在护理机器人应用场景下，其权利保障目标的实现，应当属于人工智能法范畴。2023年4月28日，习近平总书记在主持召开中共中央政治局会议时指出：“要重视通用人工智能发展，营造创新生态，重视防范风险。”
［15］由此可以看出，人工智能产品应用下的权利保障内容，应包含于人工智能法的调整范围。所以护理机器人应用场景下的老年人权利保障内容应当重点在人工智能专门法中予以体现。而将大量规范继续补充于《老年人权益保障法》《中华人民共和国民法典》等法律之中，在立法规范建构中难以较好实现其法律适用效果，同样也可能破坏其完整体系性。
2024年3月，随着《人工智能法（学者建议稿）》《人工智能示范法2.0（专家建议稿）》的陆续发布，中国未来对人工智能启动专门立法似乎已成定局，在学界获得了很大讨论和响应。2024年5月21日，欧盟理事会正式批准欧盟《人工智能法案》，并于7月12日公布，8月1日正式生效，标志着全球首部用于人工智能领域监管的法案已经上升到专门法规层面
［16］。中国可借鉴欧盟《人工智能法案》已经取得的经验，结合中国具体国情，对人工智能不同应用场景下进行专章专节的规定，有利于更好地规范引导人工智能开发和使用行为。目前，《人工智能法（学者建议稿）》已将人工智能典型应用场景进行专章归纳，包括行政人工智能、司法人工智能、新闻人工智能、医疗人工智能等9个应用场景。
随着中国老龄化趋势的加剧和人工智能技术的快速发展，未来人工智能老年护理场景的应用将会更加普及和深化。因此有必要在未来启动专项立法之前，将老年护理场景增设为立法预案内容。老年护理机器人虽然和医疗人工智能场景较为贴合和类似，但二者在核心价值需求上有明显的不同：医疗场景的核心价值为疾病诊疗，而老年护理的核心价值在于生活照护和尊严维护，故会表现出一些特殊性风险和权利保障需求
［17］。一方面，老年护理场景的环境安全风险更为复杂，远超医疗场景的单一环境，如居家照护、送餐喂食、体征监测、防撞跌倒、行走辅助等环境，其风险更具有隐匿性，在设置规范时需要更为综合全面；另一方面，老年护理场景的权利保障需求更为特殊，面临的基本人权侵犯更为频繁，尤其是对自决权和尊严权的保障显得尤为重要，此类软性权利需要进一步作出法律保障。
3.3 立法需遵循的原则
3.3.1 以人权保障为核心目的
服务型人工智能的宗旨应始终坚持人本理念，在安全同发展的兼顾中应将安全价值放在首位。人权保障、人类利益原则被《阿西洛马人工智能原则》和《人工智能伦理原则》列为AI研究的首要目标
［18］。老年护理机器人规制的制度设计，要注重对老年人人权的保障，主要体现为自决权和尊严权的保护。如此对老年机器人服务进行“人本”的“向善”引导，以技术与老年人的自主友好交互为着力点，最终满足老年人养老需求和提升老年人的生活质量。
3.3.2 法律规范与伦理规范结合
法律规范在一定时期内能明确实效地解决老年护理机器人应用中某些权利受到侵犯的问题，但法律具有滞后于技术变化、滞后于社会关系变化等局限性。因此，在当前人工智能交互技术日新月异发展的背景下，老年护理机器人场景中的伦理价值不可忽视，应当建立法律与伦理共治的制度原则。根据《人工智能伦理与数据保护宣言》，人工智能伦理原则包括公平、责任、透明度、伦理设计、公众参与以及非歧视等六项
［19］。体现在老年护理机器人场景中，可归纳为自决控制、人格尊严和安全责任。
3.3.3 数字弱势群体的倾斜保护
“数字弱势群体”（digital vulnerable groups）是人工智能数字化时代出现的概念名词，是指对人工智能设备占有及使用处于弱势地位的人群
［20］。老年护理机器人属于基于人工智能交互技术生产的智能设备，老年人群体因智力与体力衰减、受教育程度较低等因素，在数字化场景使用中存在数字鸿沟和信息茧房等较大障碍，属于典型弱势群体，其权益容易受到侵犯。数字鸿沟表征着不同地域、群体在数字技术接入与使用能力上的结构性差异
［21］。这一技术赋权的不均衡性，不仅导致社会资源获取路径分化，更催生出新的社会不平等形态。老年人对数字技术的了解与运用能力较为薄弱，数字素养不足。在智能设备操作与互联网应用场景中，老年群体常因缺乏必要的数字技能储备，陷入技术使用的认知盲区与操作困境。这种数字能力的代际落差，不仅限制了老年群体对数字时代公共服务与生活便利的可及性，还使其在数字生态中面临权利侵害的高风险。故在该场景下，对老年人权利进行倾斜保护是宪法要求平等权和自由权的应有之义。为实现实质上的数字权利平等，这里的“倾斜”是指相对于其他数字强势主体和数字一般主体的“倾斜”。在维持同其他主体非歧视的形式数字权利保护的基础上，需要对老年人权益进行合理的差别照顾。自由的保护，非其他数字主体自由实现之不干涉、不强制即可实现；老年人群体的数字自由实现有赖于国家和社会承担一定积极义务，不可仅停留在“消极”的保护。对老年人数字群体进行倾斜保护，是在人工智能应用场景中具体实现社会公平正义价值理念不可或缺的法治原则。
4 老年护理应用场景下基本权利保障的实现路径
4.1 设立人工智能老年服务领域伦理审查委员会
2023年9月，中国科技部等十部门发布《科技伦理审查办法（试行）》，明确要求“从事生命科学、医学、人工智能等科技活动的单位，研究内容涉及科技伦理敏感领域的，应设立科技伦理（审查）委员会”
［22］。为实现老年护理机器人健康发展，防范因伦理问题引起的法律纠纷，应当设立专门的老年服务领域的伦理审查委员会，促进智慧养老科技“向人向善”发展。该委员会职能应当贯彻老年护理机器人技术全过程审查监管。
首先，在技术研发前端就应当进行伦理审查和风险评估，坚持伦理先行。伦理审查委员会应采用动态分级审查机制：一级审查（形式审查）针对常规护理行为算法，重点审查数据采集范围是否符合最小必要原则；二级审查（实质审查）涉及限制人身自由的防护算法，需通过模拟测试验证干预措施的合比例性，如防跌倒系统的物理约束措施持续时间不得超过医学建议的合理时长；三级审查（听证审查）针对情感交互算法更新，应举行由心理学家参与的听证会，评估拟人化程度是否可能诱发认知混淆。并对老年人照护过程中自决、尊严伦理风险进行评估，调整技术设计和发展方向。
其次，在技术使用中端进行伦理安全监管。建立老年护理机器人全面监管机制，建立“算法黑匣子”定期抽检制度，参照FDA医疗器械监管模式，要求企业每季度提交算法决策日志的随机样本。促进机器人设计者、提供者、使用者等各方主体对老年人自决权与尊严权侵犯技术原因与责任落实监管措施。
最后，将伦理理念融入法律解释指引，成为技术侵权后端的法律支持。在面对智慧养老侵权新型场景变革时，既要考虑法律规范基本含义，又要面向中国未来养老新情况、新背景进行思考和调适。将伦理审查委员会对老年人自决与尊严伦理定义融合，调整老年人权利范围，并引导法律解释合理化。
4.2 老年人数据权利优化
4.2.1 创新知情同意权
护理机器人目前在中国尚处于市场初探阶段，未来智慧养老模式的构建主要依靠这一智能技术的发展。护理机器人的模型智能优化需要在服务中收集大量的老年人生活健康数据。人工智能在收集老年人各项数据信息时，从个人隐私最大保护的价值考虑，应当取得老人的知情同意。但严格的知情同意同时会阻碍人工智能算法模型的优化；况且在面对繁杂的数据权利时，老年人也无从理解协议和授权。
因此，在考量老年人群体数据收集的特殊性和伦理要求下，创新知情同意的解释框架成为兼顾人工智能安全与发展之必需。根据《中华人民共和国数据安全法》的数据分类保护机制，学界对知情同意权的解释模式分为：泛化知情同意、附排除条款的同意、动态同意以及分类、分层与分阶段同意等
［23］。根据不同的数据安全等级，立法可以设定不同的知情同意程序复杂性，对一般通用的服务型条款进行泛化同意，仅对涉及老年人重要人身财产的隐私信息进行说明提示，取得实质同意授权，尽可能减小对人工智能技术发展的阻碍；同时划定数据信息收集的必要范围，使老年人不必受杂乱无序的用户协议之困。
4.2.2 自动决策授权
老年护理机器人算法自动决策是一种基于大数据概率相关性“数据输入—结果输出”的决策，某些情况下缺乏对老年人照护需求的正确考量。在护理场景中，如：人工智能因监测到老年人的血脂高于正常水平，而不提供或限制老年人食用含糖油食物。又如，人工智能根据老年人的娱乐媒体偏好，固定推荐相关内容，使得落入“信息茧房”陷阱，进一步弱化对社会真实信息感知和社会参与度
［24］。人工智能代替老年人作决策，一方面，会面临决策是否符合人类伦理道德标准的难题；另一方面，会不断削弱老年人的主体性，使其遭受“物化”对待。
为保障老年人权益不被算法自动决策所侵害，笔者认为：一要赋予老年人对自动决策事项的授权，二要建立问责机制。首先，老年人是算法服务过程的中心，基于最大化地保障老年人自决权实现和尊严的维护，应当赋予老年人有权拒绝自动决策的服务事项。其次，即使老年人授予自动决策，责任主体仍须明晰。因不当算法决策致使老年人权利受损，属于算法程序设计和算法数据集问题原因的，应当视为产品缺陷问题导致侵权，相关责任主体应承担无过错责任。若老年人未对自动决策事项作出授权，则按照一般侵权规则处理。
4.2.3 对监测系统进行照护目的限制
护理机器人被安装有全方位24小时的监测系统，来对老人的衣食住行进行全方位监测，老年人需要在接受人工智能的监测下进行大部分活动。如此设计虽是为了老年人的照护安全的需要，但过度的监控是对老年人个人信息的冒犯，会降低其参与社会活动的意愿，最终影响社会尊严权的实现。老年人享受人工智能护理服务，不应遭受人格尊严之减损。
笔者认为，护理机器人对老年人实施监测，须为照护合理目的之限制。关于数据收集目的的要求，欧盟《通用数据保护条例》第五条限定为“特定”（specified）、“明确”（explicit）和“合法”（legitimate）；《中华人民共和国个人信息保护法》第六条将其总结为“明确合理”以及“直接相关”。可以在人工智能应用场景专章中规定：“装配有监测功能的养老人工智能监测时间和范围以完成照护任务为限，法律另有规定或权利人明确授权除外。”具体而言，监测的照护目的应当包含如下几方面内容：第一，监测目的明确。护理机器人系统云端不能预先收集老人的所有生活信息，以防在必要时使用。必须在产品说明和用户协议中写明监测的特定用途和场景，并对此向老人和家属尽说明解释义务。禁止使用“为完成护理/照护任务”等宽泛表述，模糊不清的表述则视为没有目的。上述情况可对特定老人有个性化设计。第二，监测目的合理。合理性的法律判断应以正当性原则和必要原则为价值指引
［25］。护理机器人为老年人安全防护、生活质量等利益考量设计的监测，则具有合理性。第三，监测目的与照护直接相关。此项是对监测行为与照护目的相关性的关联性考察，亦是《个人信息保护法》第六条的要求。“直接”一词的表述，意味着强关联。监测目的必须紧密限缩为完成照护任务之必需；在非照护场景下，老年人个人生活出行、消费记录不受监测。若超出此范围的监测，需特别提示老人，重新进行知情同意程序。护理机器人产品开发设计方应当遵守上述目的限制，减少对老年人日常生活的干扰，保障老年人正常参与社会活动。
5 结语
随着中国老龄化程度逐渐加剧，传统养老的护工模式已经无法满足养老现状，而人工智能在养老护理领域的拓展和深化将具有较大的市场潜力。人工智能技术在老年护理应用场景下对老年人自决权和尊严权的侵犯，是未来智慧养老法律规制过程中首先要考虑的问题。目前，护理机器人场景下，老年人权利保障方面的立法不够完善，以政策为主导的治理模式无法适应时代要求成为常态化；护理机器人的应用亟待中国治理模式由政策主导向法律主导转变。由于养老护理产品市场规模扩大，权利保障问题突出，在未来法律体系建设中，该场景下的权利保障内容应主要定位于人工智能法应用场景下的专章规定。立法需要遵循人权保障、法律伦理共治和“数字弱势群体”倾斜保护的原则。在具体实施路径上，老年护理机器人以照护服务为中心，不免涉及伦理问题，为此应当设立专门的人工智能老年服务伦理审查委员会负责相关技术的全过程伦理审查监管。同时，对于老年人这一数字弱势群体的数字权利进行创新优化，使其在实践中更容易落实。为保障老年人尊严，保障其社会参与意愿不在人工智能监测下被抑制，护理机器人的监测系统须紧紧围绕照护服务这一目的。
2024年延安大学研究生教育创新计划项目“人工智能侵权责任医疗应用场景分析”的阶段性研究成果(YCX2024120)
京公网安备11010202008535号
PDF
(614KB)
