随着人口老龄化程度的加剧，患者需求的不断增多，社交机器人被应用于医疗陪护领域，其具有老年护理、慢性病管理、健康管理、患者互动与支持、康复和治疗辅助等功能。研究表明，社交机器人应用的主要研究领域属于医疗保健领域
［1］，它们能够通过陪伴患病老人改善用户的社交关系，在儿童医疗保健场景中可以用作孤独症谱系障碍（autistic spectrum disorders）儿童结构化行为的积极强化剂
［2］。此外，社交机器人还可以有效协助医护人员开展工作。
即使社交机器人逐步应用于医疗领域，但设计社交机器人时，需仔细考虑它们所引发的伦理挑战。从已有文献来看，目前社交机器人在医疗和陪护领域所面临的伦理问题主要分为三类：社交机器人使用中患者的自主权问题
［3］、安全问题及出现医疗故障时的责任归属问题
［4］、患者的数据和隐私权侵犯问题
［5］。当前关于社交机器人在医疗领域欺骗问题的伦理思考较少。可以设想，如果社交机器人通过模拟情感、提供建议等方式，可能会引发患者对其能力和真实性的误解。这种误解极易影响患者的决策，甚至危及其健康和安全。因此，探讨社交机器人在医疗陪护中的欺骗风险及其伦理规制，显得尤为重要。
本文旨在讨论能够承担亲密角色的社交机器人在医疗陪护中存在的不道德欺骗风险，并试图从医疗社交机器人开发者的角度对社交机器人进行伦理规制，防范社交机器人产生伤害患者及监护者的欺骗行为，以最终达到满足其对人类友善的需求的目的。
1 医疗领域的社交机器人及其欺骗行为
1.1 医疗领域社交机器人的定义
马尔科·内斯科乌（Marco Nørskov）指出，社交机器人的远期目标是创造“能够以近似人类的方式”与人类交往的人造自主体
［6］。在医疗陪护领域，社交机器人以其复杂程度的差异呈现出不同形态。从简单的“社交唤起”机器人，再到能够接受人类社交线索的“社交接受”机器人，最终演化为“在社交和认知方面模拟人，以便与人互动”的“社交”机器人
［7］。因此，当讨论社交机器人时，实际上是在讨论不同形态的社交机器人，而非特定形态的社交机器人。
本文所要讨论的社交机器人是指在医疗领域运用的人形社交机器人（下文以“社交机器人”指代以医疗陪护为导向的社交机器人）。人形社交机器人是一种人造技术，可以采用物理或数字形式，在一定程度上模拟人的形式或行为，并且旨在与人互动
［8］。换言之，社交机器人与其他机器人所不同之处在于——患者不再是单纯地施加命令或是分配任务的主体，而是一种希望通过自身提供反馈、互惠或关怀的存在。然而，社交机器人高度拟人化的外观和其显著的社交特质，虽然增强了人机交互的自然性，却也可能被用来实施欺骗，这对患者、医生和监护人而言可能构成潜在风险。
1.2 医疗领域社交机器人的欺骗行为
1.2.1 欺骗行为的定义和分类
约翰·达纳赫（John Danaher）将社交机器人的欺骗行为分为三类：外部状态欺骗、表面状态欺骗和隐藏状态欺骗
［9］。外部状态欺骗（external state deception）指的是机器人向使用者提供一些虚假的外界信息，例如，机器人在知道你的心率过快情况下，撒谎说身体状况良好。表面状态欺骗（surperficial state deception）指的是机器人展现出与人类相似无异的生活形式和外观特征，让人误以为他们是人类。例如，当你伤心时，机器人会展现和人一样的沮丧情绪以表达共情，让人误以为它是富有同情心的。隐藏状态欺骗（hidden state deception）指的是机器人掩饰自己实际具有的功能，从内部机制中混淆用户。
这些例子表明，从社交机器人的外观到行为方式都有可能对人产生欺骗。无论其是否有意，社交机器人传递虚假信息，掩盖真相，误导与其互动的人类用户，都构成了欺骗。然而，并非所有的欺骗都被认为是不道德的欺骗，在医疗陪护等领域，社交机器人的欺骗也可被用于正当目的。因此要区分两类欺骗，特别要探讨在什么情况下欺骗是错误的。
1.2.2 道德的欺骗
有些欺骗行为可以被用于治疗或娱乐。在医疗陪护领域，社交机器人所拥有的拟人化外表与出色的交互能力能够给予患者情感支持已被广泛接受。社交机器人可以通过讲笑话、变魔术、展示温柔可接纳的表情来陪伴患者。在这种场景下，尽管社交机器人亲切的外表让陪伴者误以为其是自己的同伴、无伤大雅的笑话在传递内容时与外界事实相悖，但他们对于患者的治疗有积极的促进作用。
道德的欺骗是指在某些特殊情境下，尽管欺骗违反了诚实的道德规范，但它引起了更大的善或减少了痛苦。让我们来思考以下医疗情境：社交机器人在患癌老人的陪护过程中，两者产生了深厚的感情。例如：某老人得知自己病情加重几日后会离世，便询问社交机器人自己如果离世是否会难过。社交机器人为了不让老人因自己难过的情绪变得更加伤心，那么社交机器人会选择欺骗老人，患病老人由此不再焦虑或痛苦。
更进一步地说，社交机器人在进行医疗陪护中所传递的外部信息是否必须真实，其内部功能、运行机理是否需向用户披露等欺骗问题的道德判定标准设定，涉及背后的伦理讨论。
1.2.3 不道德的欺骗
欺骗问题的道德评判标准是伦理学研究的一个棘手问题，本文将从义务论和功利主义角度探讨欺骗，因为这两种主要的伦理理论为理解和评估欺骗提供了不同的视角。
义务论的核心思想是行为本身的道德性质，而非结果。根据义务论，所有的欺骗都被认为是不道德的，因其违反了人们对他人应有的道德义务——诚实的义务。如前所述，义务论对欺骗采用的绝对主义立场并不能适应复杂的境况。心理学家与进化生物学家的发现也驳斥了这一观点，他们的研究表明欺骗和隐瞒是社会智力的核心，在进化中承担着重要的角色
［10］。在现实生活中，人们对欺骗是否道德的评估通常基于具体情境，而非完全依赖于诚实这一绝对准则。
与义务论相比，功利主义更加灵活，它评估欺骗的道德性取决于其带来的后果是否最大化整体幸福或效用。在某些场合，尤其是当后果的影响至关重要时，人们更倾向于采用功利主义来评估欺骗是否道德。譬如，医生为了减轻患者的焦虑而隐瞒病情的这种欺骗行为会被功利主义认为是道德的。
立足功利主义的观点，本文认为判定欺骗是否符合道德的标准在于对其可能引发的后果的评估。因此，不道德的欺骗则是指在任何情境下，欺骗行为导致了他人利益的损害或对社会的伤害，从而被认为在道德上是不可接受的。基于这样的标准，下文所讨论的并非社交机器人所有的欺骗类型，而是不道德的欺骗。
2 社交机器人在医疗陪护应用中的欺骗意图与风险
我们可能常常为自己是聪明、理性和成熟的物种而感到自豪，然而我们比我们愿意承认的更容易被欺骗
［11］。有关欺骗问题的讨论，不仅关乎社交机器人的整体设计，还关乎社交机器人在何种伦理要求下能够真正友善地运用在医疗陪护领域。
2.1 社交机器人的欺骗意图
在讨论社交机器人的欺骗问题时，首先要解决的一个问题是社交机器人是否有能力或者有意图欺骗医疗陪护中的人类。社交机器人欺骗的发生责任并不在于机器人本身而在于设计者
［12］，设计者的主观意图为社交机器人植入欺骗程序带来可能性，进而使社交机器人愈发能够对人类进行主动欺骗。
社交机器人有能力运用类人化的表征和心智误导老年患者和儿童，使得这些患者误以为他们是真的，进而欺骗人类。安德瑞·马修（Andreas Matthias）记录了这样一个实验，一位老太太在与机器宠物的相处中产生了情感，她与机器人娃娃的相处就好像和真的娃娃一样。马修评论道：“高度拟人化或拟动物化的机器界面明确邀请用户对机器的能力做出夸张的假设。这不仅可能是一个真实性问题，而且也是实际误解和由此产生的危险的根源。”
［13］伴随着社交机器人逐渐拥有人类的眼睛、表情和虚假的情感等形式存在，社交机器人将有可能被设计成欺骗人类或者说是有能力欺骗人类。这就意味着，社交机器人不仅能够知晓人类行为或语言指向，而且能够有意图地对人类进行欺骗，当社交机器人对人类进行不道德的欺骗，会产生诸多风险。
2.2 社交机器人的欺骗风险
2.2.1 主体情感与依恋障碍问题
社交机器人引发人类产生依恋情感，是人类不希望被其欺骗的重要原因。社交机器人在陪护患者时，随着社交机器人外表的不断完善，情感结构模型日益精细，能够模拟人类的情感表达和语气，人们也倾向于在社交机器人身上投射情感和意义，这使得人们对社交机器人能够产生情感依恋。依恋意味着，社交机器人不仅仅是工具，而是作为陪伴者存在。
当人机交互中所逐渐建立的依恋感情被欺骗所代替时，将会产生巨大的负面效果，譬如依恋障碍。可以设想，当作为儿童伴侣机器人的社交机器人进入儿童的生活后，儿童将会与这些社交机器人建立起友谊甚至亲情。在相互接触、交往的过程中，儿童会逐渐发展自己同理心的能力。那么，如果儿童感受到了社交机器人对他们的欺骗，他们可能会丧失对彼此的信任，减少参与社会交往的意愿，甚至产生依恋障碍。人们希望能够从社交机器人那里获得真实的情感连接和互动。然而，随着交互的深入，人们逐渐意识到这些机器人只是通过复杂的算法在模仿情感和行为。这种发现往往会让人们感到深深的失望和被欺骗的痛苦，可能导致心理创伤、焦虑甚至抑郁。
2.2.2 社交机器人欺骗中的隐私泄露问题
用于医疗陪护的社交机器人虽然能够满足患者需求，但社交机器人也可能侵犯用户隐私。一般而言，社交机器人对于用户的隐私侵犯会表现在以下几个方面：首先，社交机器人可能会收集和存储用户的个人私密信息，如果这些数据没有得到妥善保护或被未经授权的人访问，可能会导致个人隐私泄露的风险；其次，作为一种智能设备，社交机器人可能存在某些安全漏洞，黑客可能通过这些漏洞获取用户的个人信息；最后，开发者可能会在社交机器人中嵌入程序，并将所存储的关于用户的所有信息用于商业目的。例如，社交机器人作为信息的提供者，他们能够通过欺骗、隐瞒商品的真实信息，利用其与人类之间的亲密关系实施诱导与欺骗，让人购买其所宣传的商品。
由于人类对同类个体外形所具有的敏感性，仅仅是在环境内布置拟人化机器都可以被视为是一种诱导注意力的手段，进而可能造成某种程度上的“欺骗”
［14］。那么，社交机器人作为强人工智能的体现，其将会出现对人类的欺骗。他们侵犯隐私的行为可能会对患者的社交和心理健康产生负面影响。
2.2.3 患者的健康风险问题
在医疗陪护领域，错误的信息会对患者的后续治疗和健康状况产生巨大的影响。在数据训练不足、定制化局限性和商业利益驱动等情况下，如果社交机器人提供虚假的或不准确的健康信息用于欺骗消费者，用户可能会基于这些信息作出错误的健康决策。例如，如果机器人提供了错误的药物建议或诊疗方案，可能导致患者病情恶化，甚至威胁生命。同时，社交机器人在与患者建立充分感情后，还有可能导致患者对机器过于依赖，从而忽视医生的建议或延迟就医，导致病情进展。
社交机器人在医疗领域的欺骗还可能引发医患关系紧张、信任的侵蚀、过度依赖机器使得患者丧失自主性等诸多问题。因此，当确认了社交机器人欺骗的可预见性及破坏性之后，应该将目光投向如何对社交机器人的欺骗进行伦理规制。
3 关系论视角下的社交机器人伦理规制
3.1 社交机器人欺骗问题的伦理规制原则
在研究不道德的社交机器人欺骗时可以发现，机器人作为一种强人工智能，之所以会通过欺骗损害被欺骗者和社会的利益，背后有其深层次的动机和原因。传统上，人们往往将欺骗视为一种单一的道德或伦理问题，关注的是行为本身的对错。然而，社交机器人在互动中所涉及的欺骗现象，不仅影响患者个体，还与背后的开发者以及所处的社会关系和信任体系具有紧密的联系。因为欺骗行为不仅仅是机器人与个体之间的孤立互动，它还牵涉开发者与使用者、道德主体与机器人之间复杂的社会关系网络。这表明在设计社交机器人伦理规制时，可以采用关系论作为理论基础。
3.1.1 相互依存的伦理原则
马克·科克尔伯格（Mark Coeckelbergh）主张采用一种“关系论”的方法来探究机器人伦理及道德地位问题。“关系论”方法认为机器人的道德地位通过实体之间相互关系呈现，这意味着机器人的品质不应该脱离它们所处的社会背景来考虑
［15］。
在使用场景中，社交机器人的利益相关者不仅针对患者群体，还包括开发者、医护人员、家属等群体。同时，社交机器人等人工智能不再单纯地被视作工具性的技术产品，而是被视作对象性的知觉主体
［16］。这就要求不仅要重视社交机器人对患者的欺骗影响，还应充分考虑医护人员、患者和家属对社交机器人欺骗问题的理解。这种特定的联系意味着，在不同的陪护场景中，社交机器人的欺骗行为需要得到细致地分析，才能制定出针对不同场景的道德规范。例如，在陪护阿尔茨海默病患者时，可能存在善意的欺骗，以减少患者的焦虑和痛苦。
3.1.2 开发者视角下的伦理原则
社交机器人欺骗行为的道德性涉及多个道德实体，开发者的旨趣和伦理倾向成为构建道德框架的关键。作为社交机器人的第一责任实体，开发者的动机至关重要：他们的行为是出于纯粹的商业目的，还是为了减轻患者的痛苦？这不仅关乎“道德立场”的选择，更涉及如何与老人、儿童等陪护对象及其监护人建立特定的信任关系。
从开发者视角看，社交机器人作为一种应用于医疗领域的机器人，其“善”性应由人类负责。洛霍斯特（Gert-Jan Lokhors）等指出如果伦理规制仅从机器人本身出发，即将相关后果和责任推卸或转移到机器人系统上，这实际是一种道德败坏的行为，即否认了人类的选择、自由和责任
［17］。社交机器人作为在人类意图下制造出来的人工智能，必然会有创造者，如开发者的伦理道德取向。因此，下文以开发者为主体展开伦理规制的讨论。
3.2 社交机器人欺骗问题的伦理治理
3.2.1 对社交机器人进行科学的道德编程
道德编程即通过编程让机器人“学习”正确的道德真理，使机器人能够进行道德推理
［18］。社交机器人同其他机器人一样，源于人类意识的客观化反映，无法脱离开发者或其他人的道德偏好。作为开发者，科技的最终目的必然是向善的，即社交机器人的最终价值是利于患者和监护者的。社交机器人的本质功能决定了它与医疗场景中的陪护对象会形成紧密的联系与深刻的关系，这要求开发者要设计出“有德性的机器人”
［19］，社交机器人的行为必须符合一些特定原则。
首先，对社交机器人植入善意谎言限制性程序。社交机器人应该在设计上具备判断善意谎言所可能引发后果的能力，同时这种策略应被列为例外而非常规化手段。例如，善意的谎言可用于缓解患者的焦虑或情绪痛苦，目的是患者的心理健康，而非为了规避责任或便于管理。社交机器人在实行“善意谎言”行为之前必须极度谨慎，先进行自我评估，分析哪些欺骗行为将会对人类产生伤害及其程度，在实施后应及时向患者的监护者告知这一信息，并给予他们具体的理由，始终以患者的长期福祉作为最终目的。
其次，为社交机器人植入知情同意原则的编码设计。社交机器人不应在不经患者同意的情况下故意隐瞒或误导重要的治疗信息，针对未成年人、认知障碍或神经退行性疾病、终末期疾病等情况，社交机器人的各项陪护信息应取得主要监护人的知情同意。譬如，在需要患者或主要监护人对治疗方案作出选择时，社交机器人不能隐藏负面信息或过分美化治疗效果。
最后，将治疗信息的真实性和准确性作为社交机器人的首要任务之一进行编码。开发者应对社交机器人进行道德限定：除非有明确的、更高的健康理由去欺骗患者，否则社交机器人必须传递真实、准确的信息。譬如，社交机器人在与患者讨论病情时应有一个明确的“知情检测模块”，判断哪些信息是必须告知的，哪些信息需要依赖专业医护人员解释。因为信任是医疗陪护中的关键要素，传递真实、准确的信息对于维护医疗系统的公信力至关重要。如果患者及其监护者发现社交机器人提供的不准确信息延误患者的病情、产生医疗错误，患者轻者延误病情，重者可能会失去对整个医疗系统的信任。
3.2.2 对社交机器人欺骗行为进行管控
开发者应该对社交机器人欺骗行为进行严格地管控。罗伯特·H·沃瑟姆（Robert H.Wortham）认为用户要能够访问机器人的内部状态和决策过程
［20］。这意味着，开发者不能仅仅从社交机器人的外在表现来判断社交机器人的欺骗行为，而是要通过它的人工智能算法，展现系统决策的可解释性。开发者必须在创造、开发社交机器人时将监管理念贯穿开发全过程，并做出充足的准备来预防社交机器人在医疗陪护领域可能引发的欺骗风险。
一方面，开发者要担负社交机器人在医疗陪护领域欺骗问题的全过程监管责任。在产品的设计、开发阶段，开发者要清晰定义社交机器人在医疗陪护领域的欺骗标准，确保其符合医疗领域的伦理规制。在产品的使用阶段，开发者需要对系统实施持续监控，确保社交机器人不会随着时间的推移出现不道德的欺骗。从前瞻性思维出发，开发者还需要预防社交机器人强大的自我思考能力或许会突破既定的道德限定程序，以确保社交机器人不会在医疗陪护中进行不道德的欺骗，对患者的健康和安全造成影响。
另一方面，开发者可以通过加强社交机器人之间的互相监控，来预防不道德欺骗的发生。在医疗陪护机器人领域，不同类别抑或不同功能的医疗陪护机器人之间的监督则会促使医疗陪护过程更加安全及高效。例如，当某个社交机器人已经突破欺骗底线时，其他的社交机器人观察到其举动后，可以实时、快速地向开发者反馈，甚至通知医疗人员介入，阻止社交机器人的不道德欺骗给患者造成破坏性的后果，必要情况下，开发者可以将原有社交机器人的这些数据植入新的机器人，由新的社交机器人代替被替换的机器人继续陪护患者。譬如，在为老人提供康复辅助时，社交机器人采取了不适宜老人的过度康复活动，却欺骗老人这些活动符合其身体状况。此时，对于社交机器人的这种越界行为，其他社交机器人可以适时发出警报。这样，在社交机器人做出越界行为时，人们可以立即对该行为作出反应，这有助于提防并制定反制措施。
医疗陪护涉及患者的健康和心理状态，任何形式的欺骗都可能对患者造成严重影响。因此，对于社交机器人的欺骗伦理规制必须贯穿社交机器人在医疗陪护的整个过程，从最初的设计阶段到实际应用中的持续监控和反馈机制，确保社交机器人始终以患者的福祉为中心。通过这种全面的伦理规制，能够有效保护患者的利益，提升医疗陪护的安全性和可靠性。
4 结语
当社交机器人被用于医疗领域时，尤其是在社交机器人照料老人、孩子或治疗孩童孤独症等场景中，人类有可能会对社交机器人产生依恋情感。由于依恋情感的存在，当社交机器人对人类进行不道德的欺骗时，人类可能会受到巨大的伤害。面对这种情况，本文界定了医疗社交机器人欺骗问题的道德标准，提出了针对社交机器人欺骗问题的伦理规制途径，包括对社交机器人进行道德编程、监管社交机器人等具体措施。然而，我们也必须认识到，目前针对社交机器人欺骗问题所制定的算法编码往往融合了连接主义的深度学习模型和符号主义的规则推理，虽然提升了机器人应对复杂“欺骗”情境的能力，却也面临着“黑箱”难题、解释困境等技术挑战
［21］，本文所提出的社交机器人欺骗伦理规制并不能完美解决社交机器人在医疗陪护领域出现的欺骗问题。随着技术的不断发展，社交机器人将出现更多创新的应用方式以改善患者的医疗体验和健康状况。因此，作为社交机器人的开发者，必须实时跟进社交机器人的状况，并在其出现伦理问题的时候勇于停下来，检查问题并及时解决。只有这样，才能够限制社交机器人的无序进化，最终在医疗陪护领域实现其对人类友善的目的。
上海市哲学社会科学规划课题青年项目“救援机器人伦理研究”(2023EZX002)
中国化马克思主义与传统文化研究中心资助项目“科技文化指引数字经济伦理有效治理体系研究”(ZMCY202301)
京公网安备11010202008535号
PDF
(519KB)
