人工智能（artificial intelligence，AI）是一项正在深刻改变世界的颠覆性技术，也是当下最受关注的新兴产业。中国已将人工智能上升为国家战略。在中国全面推进“健康中国”建设的进程中，人工智能技术因能有效提升医疗服务效率和质量，在医学领域的应用研究得到快速发展，也为改善医疗供给带来新的契机
［1］。
随着人们生活方式的改变以及日益加剧的人口老龄化趋势，失能或半失能老年群体、伤残群体、慢性病者、亚健康人群等对康复服务的需求呈现爆发式增长。越来越多的康复医疗机构开始引入人工智能技术，促进康复医疗服务更加精准化、个性化、智能化，改善患者体验，提高康复治疗结果，从而更好地满足人们对高质量康复医疗服务的需求
［2］。但人工智能的发展带有不确定性和风险，这些研究和应用的风险“无论怎么强调都不过分”
［3］，因此，需要高度重视人工智能在康复领域应用研究带来的伦理风险，并制定相应对策进行有效防范。
1 人工智能伦理发展概述
1956年在美国达特茅斯会议上，科学家麦卡锡首次提出“人工智能”的概念，此后，人工智能的概念和技术受到了广泛关注，但人工智能的伦理问题并没有像人工智能技术一样受到重视。直到2004年第一届机器人伦理学国际研讨会上才首次提出了“机器人伦理学”的概念，一些学者才开始比较系统地研究“机器伦理”“机器人伦理”，直到目前的“人工智能伦理”等，逐渐受到全球专家、学者以及政府和企业的关注。2017年9月，联合国教科文组织联合世界科学知识与技术伦理委员会发布了《机器人伦理报告》，讨论了人工智能带来的社会与伦理道德问题，建议制定国家和国际层面的伦理准则。2021年6月，世界卫生组织正式发布了《卫生健康领域人工智能伦理与治理指南》，这份报告为不同的国家最大化人工智能的益处和最小化其风险并避免危害提供了一份有价值的指南
［4］。2024年1月19日，欧盟委员会、欧洲议会和欧盟理事会共同完成了《人工智能法》的定稿，对全球范围内人工智能乃至整个数字经济的发展来说，这一立法具有非同寻常的重要性。
中国一直重视人工智能的伦理治理。2019年，国家人工智能标准化总体组发布了《人工智能伦理风险分析报告》，2021年，国家新一代人工智能治理专业委员会出台《新一代人工智能伦理规范》，提出要将伦理道德理念融入人工智能全生命周期。2022年3月，中共中央办公厅、国务院办公厅印发《关于加强科技伦理治理的意见》，提出要进一步完善科技伦理体系，提升科技伦理治理能力，有效防控科技伦理风险，不断推动科技向善、造福人类。2024年2月，中国科学技术部在其官方网站发布《脑机接口研究伦理指引》，供相关科研机构和科研人员参考使用。
综上所述，经过二十余年的发展，人工智能伦理已经成为人工智能领域应用研究的重要组成部分。人工智能伦理是人工智能技术发展的思想和理念基础，对人工智能健康发展具有指导性和保障性作用。
2 人工智能在康复领域的应用研究
国家卫生健康委数据显示，2021年中国约有1.9亿老年人患慢性病，4500万老年人处于失能、半失能和失智状态，亟须康复治疗。另据民政部和中国残联的数据显示，当前中国有8500多万残疾人，60%左右的残疾人有康复需求。此外，中国每年有上亿人次伤病患者，创伤、工伤、运动损伤后都有大量康复需求。近几年来，为了提高康复治疗效果，缓解康复治疗师数量不足的矛盾，越来越多的康复医疗机构开始引入人工智能技术，建设智能化康复医疗体系。我们在科幻电影中曾经看到过这样的场景：失语者可以“开口说话”，肢体残疾人士可以用机械臂自如地弹唱，失聪者听到美妙的声音，人们通过“意念”指挥庞大的机器。实际上，其中很多场景已经成为现实。例如，2024年1月30日，清华新闻网发布了一则新闻，宣布清华大学和宣武医院团队成功进行了首例无线微创植入脑机接口的临床试验，通过把两枚硬币大小的脑机接口处理器植入高位截瘫患者颅骨中，使脊髓损伤患者实现自主脑控喝水。再以脑卒中患者康复为例，通过非植入式的脑机接口，结合VR/AR 等新技术，将传统康复的被动疗法转为主动治疗，帮助中风患者重新恢复独立生活的能力。目前，在康复领域应用研究较深入的人工智能技术和产品主要包括外骨骼机器人、脑机接口与交互系统、智能康复综合评估与训练系统等。
外骨骼康复机器人是一种可穿戴康复机器人，患者穿戴后可以与外骨骼形成紧密的物理耦合，并刺激患者大脑向肢体发送信号，连续激发最终会在患者大脑中建立新的神经突触连接，从而促使患者瘫痪部位经过规律的训练或辅助运动，进而促进伤残部位功能的恢复，达到康复的目的。外骨骼康复机器人主要应用于运动障碍需要康复的患者，尤其是脑卒中引起的偏瘫和脊髓损伤引起的截瘫
［5］。
脑机接口（brain computer interface，BCI）与人机交互技术，是通过将人脑与机器人对接，由脑机接口的输出取代因损伤或疾病而丧失的大脑自然输出来帮助患者进行康复训练。脑机接口与功能性电刺激（functional electric stimulation，FES）的结合可以通过大脑的电信号控制外部装置以实现实质性功能。BCI-FES的使用可以将重复的体能训练与意图驱动的神经调节相结合，通过促进活动依赖性和神经可塑性来促进康复
［6］。目前康复领域研究比较多的是基于运动想象（MI-EEG）的脑机接口康复系统技术，可被应用于对中枢神经系统损伤患者（脑卒中、脊髓损伤等患者）的肢体功能、言语功能、认知功能和日常生活活动能力的康复训练。通过训练，脊髓损伤患者在皮质脊髓束重组过程中，轴索切断的皮质脊髓束纤维形成侧枝并与中间神经元形成突触，以构建绕过病变的代偿性神经通路
［7］，可以在一定程度上恢复结构连接和运动功能，从而达到康复的目的。
大多数神经功能障碍患者，比如常见的脑卒中、脑损伤和由各种中枢神经疾病或损伤引起的肢体功能障碍患者等都需要长期的康复治疗。目前临床康复的主要方法如运动疗法、作业疗法、言语疗法等对康复治疗师及康复器械的依赖性较大，而且康复诊疗的效果评估方法大多是主观的，主要取决于康复医生和康复治疗师的专业知识和经验，缺乏标准化和准确性。智能康复综合评估与训练系统融合了传感器、人工智能、物联网、机器人等多种尖端技术，通过数据实时采集、实时分析对比，将运动评测训练的效率最大化
［2］，不仅能为患者提供客观、准确的功能评估，促进临床治疗的调整，而且还可以在康复治疗过程中从视觉、听觉和触觉等方面优化人机交互，从而最大限度地改善康复体验，提高康复诊疗效果
［8］。
此外，人工智能在孤独症谱系障碍康复和认知障碍康复训练中的应用研究也取得了一定的进展
［9］。多篇Meta分析及系统性综述也证实了人工智能辅助步态训练康复机器人能有效提高脑卒中患者独立步行能力及下肢运动功能
［10-11］。从而实现标准化生理步态的反复行走刺激，重新建立趋于正常的行走运动模式
［12］，同时也减轻了患者对康复治疗师体力和经验的依赖。目前，国外已经推出了一系列较为成熟的人工智能康复训练产品，这些产品能在患者训练过程中，非常精确地观测每一块肌肉的肌力变化，并据此实时调整康复训练姿势及力量，从而完成精准的康复训练。与发达国家相比，中国康复领域的人工智能研究起步晚，大多处于研发或临床验证阶段，已经上市的人工智能类康复医疗器械相对较少而且大多属于弱人工智能产品。
3 人工智能在康复领域应用研究的伦理问题与思考
人工智能技术在康复领域应用研究的快速发展，为康复患者提供了更加个性化、高效灵活的康复方案，同时改善了因人才、设备缺乏导致的康复医疗供给失衡的状况。但是，针对人工智能带来的风险和不确定性，人工智能在康复领域还有诸多亟待解决和突破的伦理问题。比如，近几年侵入式脑机接口技术关注度颇高，但因其安全性问题引发的伦理风险也不容忽视。如何确保人工智能向善、造福人类，需要采取客观谨慎的态度对待康复人工智能应用的伦理风险，并制定相应对策进行规制。2021年，联合国教科文组织在法国巴黎发布了《人工智能伦理建议书》（以下简称《建议书》），这是全球首个针对人工智能伦理制定的规范框架，《建议书》明确规定了人工智能技术的10大原则，比如相称性和不损害、公平和非歧视、隐私权和数据保护、透明度和可解释性、责任和问责等有助于在推动人工智能造福人类社会的同时，控制其不确定性和风险。康复领域人工智能的应用研究同样遵循这些原则，并根据康复领域的特殊性进行扩展和细化。
3.1 尊重患者自主权，关注知情同意问题
知情同意是尊重人的自主性的具体表现。在人工智能辅助康复的过程中，尊重患者的自主权是一个核心伦理原则，这意味着患者应该充分了解人工智能如何被用于他们的康复过程，包括潜在的风险和好处，并基于这些信息作出同意的决定，确保患者有能力、有机会自主作出接受或拒绝的决定，这对于维护人的尊严和权利至关重要。
正如前面提到的外骨骼康复机器人，其带来的风险和获益是否能被研究者清晰阐释并被患者充分理解？从而实现充分沟通？比如，患者是伴有智力残疾的脑瘫患者时，使用康复机器人是否征得亲属的同意就足够了？在患者是不能交流的闭锁综合征的情况下，应由谁来代替其进行知情同意？对于有认知障碍，不能完全理解使用人工智能所带来的风险与利益的患者，能征得他们的同意吗？由于人工智能的不确定性，研究者对人工智能潜在的风险也经常没有足够的把控力，例如，用于脑损伤患者康复训练的下肢康复机器人，它通过与患者的下肢进行互动，提供有针对性的康复训练，帮助恢复患者的运动功能、提高肌肉力量和协调性，促进患者的康复。但是，长时间的训练有可能会使患者出现关节炎、滑囊炎，而神经受损致使患者并不能第一时间感知这些并发症，直到外观红肿才被发现，此时必须制动数月来缓解关节水肿，从而错失患者的黄金康复期。这就容易使原来对康复机器人寄予厚望的患者产生“拒而远之”的态度。
另外，让接受康复的患者“同意”参加研究也面临挑战，比如，如何确定研究者和医生在多大程度上正确理解了患者的同意、需求或其他信息请求？仅仅出于对医生的信任而表达的同意是不是真正的知情同意？患者及其家属有没有产生康复治疗误解？即他们没有认识到研究和临床诊疗之间的关键差异，他们可能错误地认为参与的研究是为了获得个体化的治疗，并能从研究者提供的干预中获益。尤其是对于缺乏有效治疗方法的脑瘫或者孤独症谱系障碍患者及其家属，在人工智能应用研究过程中很容易产生康复治疗误解。因此，在使用康复类人工智能技术应用研究时，如何判定医生或研究者做了有效的“知情”，如何使人工智能的效益和风险被全面而透彻地“知情”，都是当前所面临的难题。
为了更加有效地知情同意，降低康复治疗误解的影响，需要伦理委员会、研究者及公众共同努力，尤其在进行知情同意过程时要加强对研究者的监督，避免提供不正当的诱导或欺骗的信息，研究者要具备良好的伦理素养，伦理委员会要提升其审查监管的职能，只有多方协同，才能解决或降低康复治疗误解，更好地保护患者和研究参与者的安全和权益。
3.2 加强监管，保护隐私和数据安全
在大数据和人工智能时代，个人隐私受到侵袭的可能性大大增加了。人工智能在康复领域的应用研究要基于储存了患者大量信息的康复医疗大数据，包括患者的疾病史、康复治疗过程和效果以及生活习惯等重要信息，这些都是患者的隐私。为了使患者得到更精准及个性化的康复服务，患者的这些康复信息需要储存在智能医疗信息系统中进行共享，因此，医疗大数据的收集和使用必然会涉及众多康复患者的隐私，这就极大地增加了患者隐私泄露的风险。如何保证这些数据的安全，避免数据泄露或滥用，是一个重要的伦理问题。斯皮内洛
［13］认为“信息时代出现的最具爆炸性的问题之一便是个人隐私权的保护”。在没有得到信息被采集者的知情同意之前，不能将所采集的信息用于其他目的，否则就是侵犯了被采集者的隐私。同时，人工智能技术如果被有意地用来窃取他人的隐私信息，无疑也是对技术的一种不正当的使用抑或就是恶用，违背了技术的善用原则。
人工智能在康复领域的应用研究过程中，在获取患者的康复信息等医疗数据时，必须履行医学伦理学的尊重原则，尊重患者个人意愿，遵循知情同意原则。在开始收集和使用患者数据之前，需要先向患者详细告知他们将收集哪些数据，收集的数据有什么用途，会不会被二次使用等，然后在征得个人知情同意之后，方可开展数据采集工作。若没有经过患者授权，任何组织或个人不得将患者数据挪做他用，更不得利用患者数据牟取个人私利，这是对患者隐私数据保护最基本的道德和法律要求。只有在充分保护个人隐私及信息安全的基础上，通过对大数据和人工智能的有效合规管理，相关研究才可能在保护患者权益基础上获得伦理辩护。
2018年，欧盟《一般数据保护条例》（General Data Protection Rule，GDPR）生效，规定了数据主体的被遗忘权和删除权等等重要内容，以及更严厉的处罚措施。2021年，中国发布《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律保护个人信息安全。康复医疗的服务对象主要是残疾者、慢性病患者和老年病患者，服务对象的特点决定了他们的隐私保护意识薄弱，因此，当用人工智能技术辅助儿童、老年人、残障人士或患者等弱势者或处境脆弱的群体时，“人绝不应被物化，其尊严不应以其他任何方式受到损害，人权和基本自由也不应受到侵犯或践踏”
［14］。因此，康复医疗机构应当制定相应的规范或制度切实保护患者隐私安全，信息主管部门要参与其中，对人工智能研发者、使用者收集、使用、传递和存储患者的数据必须制定专门的制度进行规范并做好培训，另外要加强伦理委员会实地访查的监管力度、研究团队中增加受过专业培训的数据保护专员等措施。
3.3 加强医学伦理宣教，重视患者身心康复
康复是一个系统工程，是包含了运动疗法、作业疗法、言语疗法、理疗、中医、心理治疗、康复工程及康复护理等多种学科的干预，康复使用的方法是多学科、多层面的。康复医疗的服务对象主要是残疾者、慢性病者和老年病且有功能障碍者，他们往往有较强的焦虑、抑郁、孤独、愤怒等负面情绪。例如，卒中后偏瘫的患者，他们大多会因为无法像以前一样自由行动、参与社会活动而感到沮丧、失落和无助，这些负面情绪的积累很容易导致他们患上焦虑、抑郁等心理疾病。康复治疗师在康复的同时会运用心理学知识帮助患者消除不良心理影响，患者在精神上也会极其依赖康复治疗师。
人工智能康复训练系统虽然对患者身体功能恢复方面有很大帮助，也能帮助患者家属适当减轻负担，但是缺乏传统康复模式中康复医师一对一进行康复训练所提供的精神和心理安慰，例如眼神交流及身体互动等，所以容易导致某些患者的精神健康出现问题。同时，某些患者长时间使用智能康复系统进行康复训练有可能产生情感依赖，例如可能对智能康复训练系统上瘾，就像很多人对上网刷短视频上瘾一样，当智能康复训练系统出现突然死机或黑屏等器械缺陷问题时，可能会触发训练对象的暴躁、焦虑等负面情绪。虽然智能康复训练系统表面上具有同理心，但它无法真正与康复对象建立联系或分享经历，实际上是“伪共情”。因此，如果康复医疗机构过多地使用智能类康复训练系统，是否会导致对训练对象缺乏人文关怀？他们会不会对此形成心理依赖？再者，如果康复医师过多地依赖人工智能康复训练系统提供的影像识别、大数据处理等能力，是否会降低康复医生自身对康复医学理论和新的康复问题的研究及学习兴趣？
针对上述问题，康复从业人员要特别重视学习医学伦理知识和相关法律。在使用人工智能系统对患者进行康复训练时，康复医师要掌握沟通技巧，坚持“以患者为中心”，恪守职业道德，加强伦理意识，将医学伦理学作为职业必修课，养成践行医学伦理原则的自觉性，规范康复临床诊疗行为，避免和减少人工智能研究应用过程中发生的伦理风险，保障康复对象的权益，减轻康复对象身心两方面的痛苦，提高他们的生存质量。
3.4 加强合规监管，健全问责机制
任何事物都有两面性，人工智能在康复领域的应用给患者带来帮助的同时，也带来一定的风险。为了对人工智能应用研究相关的伦理问题加强监管，2023年2月，国家卫生健康委等四个部门发布了《涉及人的生命科学和医学研究伦理审查办法》，2023年10月，科技部等十部门联合印发《科技伦理审查办法（试行）》，其目的是规范科学技术研究、开发等科技活动的伦理审查工作，促进负责任的研究创新，并且强化科技伦理的风险防控。开展康复医疗人工智能应用研究必须符合中国相关法律法规规定，遵循国际公认的伦理准则、专业共识和技术规范，接受伦理审查，进行安全性和有效性的充分验证。
以前面所述清华大学和宣武医院团队开展的首例脑机接口临床试验，使脊髓损伤患者实现自主脑控喝水为例，假如因为机器故障导致患者发生呛咳窒息或出现植入物排斥等严重并发症甚至死亡，责任方应该如何判定？是设计者、生产者还是使用者？按照权责一致的原则，当人工智能应用过程中造成损害时，人工智能行为者应根据其在人工智能系统生命周期中的作用来承担其伦理责任和义务，人工智能的技术和设计都要确保人工智能系统的可审计和可追溯，相关的数据、算法和运行的详细记录，都需要完整保留，以便利于追溯，查明原因，明确责任归属。人工智能技术的开发和应用都需要建立明确的责任体系，遵循权责一致的原则。当人工智能应用结果导致伦理或法律的问题时，要能够从设计层面或技术层面对相关人员问责，并在人工智能应用层面建立合理的责任和赔偿体系，保障人工智能应用的公平合理
［15］。
企业、研发机构、康复医疗机构进行人工智能的研发和应用时，可参照伦理委员会的运行模式，成立专门的人工智能伦理审查委员会，由人工智能专家、信息专家、康复医学专家、伦理专家等共同参与监管审查。依据主体责任的理念，对相关责任人进行责、权、利的划分，明确责任。委员会还应制定康复医疗人工智能风险评估办法，包括评估研究应用的人员构成、设计流程、风险识别、方法程序、风险处理等方面，对人工智能的研究应用进行有效监管和评估。另外，要构建可追溯机制，以便能够对人工智能的研究活动和决策全程展开全面监管，给出必要的调整和修正
［16］。
3.5 加强对特定群体的保护，促进公平性可及性
人工智能康复技术和手段能够缩短康复治疗时间，提升工作效率、节约人力成本等。然而，人工智能康复训练系统往往集中在经济发达的国家或地区。由于成本高，加上耗材及维护保养费用，导致人工智能康复系统比传统康复的费用高出不少，使得患者与康复医疗机构的负担增加，康复治疗对象的经济状况往往不好，甚至有些患者无力承担。因此，社会各界应努力使得人工智能技术的惠益人人可得可及，让所有的患者都能够享受人工智能创造的福祉。同时还要考虑到不同年龄组、文化体系、不同语言群体、残障人士、女童和妇女以及处境不利、边缘化和弱势群体或处境脆弱群体的具体需求
［12］。在人工智能日益普及的社会中，这些人群有时被称为“隐形用户”，暗指他们在技术设计过程中被排除在外，使他们的兴趣和价值观不可见。在由年轻人主导的技术设计或产品开发活动中，他们的观点可能不会或者不准确地被考虑在内，继而导致了人-系统契合度的错位，降低了患者的康复体验，造成了不同人群之间的歧视性。因此在国家层面，无论种族、肤色、血统、年龄、性别、语言、政治见解、宗教、族裔、民族、社会出身、与生俱来的经济或社会条件、残障情况或其他状况如何
［14］，政府应该促进所有人之间的公平，保障康复医疗人工智能惠及所有人。在国际层面，技术先进的国家有责任支持落后的国家，确保共享人工智能技术的惠益。为了实现公平性，各国政府在法律、资金、技术的投入和协作方面，还有很长的路要走，任重而道远。因此，在积极发展各种高新技术产业的同时，将更多的社会卫生资源投入康复领域，发展康复人工智能，同时要加大康复人才培养，探索医工、康工结合模式，达到事半功倍的康复效果，更符合医学发展的本质规律和终极目的。
4 结语
康复医疗领域人工智能的研究和应用改善了患者的康复效果，提升了患者的生活质量。同时，人工智能的快速发展，以及康复医疗服务对象群体的特殊性，也带来了一系列的医学伦理问题和复杂的伦理挑战。面对这些问题和挑战，需要跨学科的合作，包括技术开发者、康复专家、法律专家和伦理专家，共同制定和细化相应的伦理准则和法律法规，以确保人工智能技术健康发展，造福人类。联合国教科文组织发布了《人工智能伦理问题建议书》，各国政府也在制定相关法律，加大监管力度。相关从业者要在法律制度的框架下积极促进人工智能在康复领域的应用，同时采取有效措施，解决好相关伦理问题，持续推进康复智能化发展，不断满足人们对美好、健康生活的期望，推动新时代康复事业的高质量发展。
2022年科技部国家重点研发计划“运动负荷精确测量关键技术研究和相关系统研发”(2022YFC3600305)
2022年中国康复研究中心局级基金项目“构建伦理委员会质量评估体系研究”(2022ZX-24)
2023年中国残联省部级基金项目“新阶段残疾人参与康复临床研究的权益保障研究”(23&ZC033)
京公网安备11010202008535号
PDF
(573KB)
