0 引言
当死亡发生时，丧亲者能否接受逝者离去，能否自我照护哀伤情绪，会不会发生极端行为，均是丧亲者面临的常见问题。借助于近年来的科技和人工智能技术的发展，实现逝者“复活”并不再是难题，这里的“复活”是一个理想化的说法，目前的技术手段本质上是通过现代医疗技术手段使丧亲者可以看到逝者动态的“音容笑貌”，甚至可以在虚拟空间中进行互动。近年来，生成式人工智能（AI Generated Content， AIGC）“复活”技术不断成熟，从最初将逝者的文字描述、图片、视频和声音资料输入AI算法模型，模拟生成出逝者的数字形象，到如今存在多种产品，如通过对逝者生前音像资料的加工，创作出一段祝福视频；开发一款可对话的虚拟数字人，这款虚拟数字人是一种数字智能体，它既具备逝者的各种特征（如声音、外貌、表情等），还可以模拟用户亲人的性格和记忆，与用户进行跨时空对话，为用户提供虚拟陪伴体验。
2024年9月，由中国互联网协会主办的首届中国数字人大会在北京召开，开幕大会上正式发布《中国数字人发展报告（2024）》《中国数字人应用场景荟萃（2024）》及《中国数字人产业生态图谱（2024）》，并展示了24类数字人的100个不同的应用场景。大会报告指出，截至2024年，中国与数字人相关的企业数量已达114.4万家，仅2024年前五个月就新增注册企业17.4万余家，显示出虚拟数字人产业的市场潜力与活力。根据《2024年中国虚拟数字人产业发展白皮书》数据显示，2023年中国虚拟人带动产业市场规模为3 334.7亿元，预计在2025年，将达到6 402.7亿元。可见近年来AIGC虚拟数字人领域由制作到销售，日趋产业化、规模化，发展势头强劲。科技的进步，尤其是新型人工智能产品的应用往往有着双刃效应，要充分关注其对伦理发起的挑战以及相关治理策略的研究。
1 科技向善：AIGC助力“复活”技术的积极影响
在现代社会中，每个人都有被治愈的需求，尤其是在亲友离世时，想与逝者再次进行交流的意愿较强，因此促进了AIGC“复活”技术的产生和运用，满足用户的交流沟通需求。AIGC实现人类“复活”对人类生活带来了多重影响，具体分析如下。
1.1 满足使用者心理需求，帮助其走出悲痛与阴影
受中国传统文化和家庭环境的熏陶，亲友离世会对人的生活和心理产生重大影响，例如，生者会因为在逝者生前没有多多陪伴而内疚自责，会因为在离别时没有来得及告别而遗憾，会因在今后某个节日纪念日时再也不能团聚而悲伤。如某艺人用AIGC“复活”女儿的新闻曾引发了公众广泛关注，视频里的“女儿”不仅可以对话，还能唱生日歌。该艺人接受记者专访时表示“每个人在她这个年纪，都有挥霍自己青春岁月的权利，但我的女儿却没有。我这个做爸爸的，有责任继续她的数字生活。”2021年年底，该艺人的女儿去世，自那时起，他就很难走出失去女儿的阴影，“能不能把思念的模式，换一种工具去表达。”该艺人下定决心，要重建女儿的声音和样貌。直到2023年2月，随着AIGC的兴起，许多大企业开始分享大模型引擎，该艺人才看到了希望。他最终凭借三句英文对话，成功重建了女儿两小时的声纹，并慢慢生成了女儿的声音与影像。
由此可见，AIGC技术成熟与虚拟数字人的问世，一定程度上为使用者对逝者的情感抒发提供了手段和对象，利于满足使用者和逝者进行沟通的需求，即便逝者已逝，但虚拟数字人仍可供生者进行对话沟通。值得注意的是，将AI技术、3D技术、人脑数字、神经网络渲染、VR技术、自然语言处理等进行有机结合后，虚拟数字人可具有感知表达且无需人工干预的自动交互能力
［1］。此时“面对面”的对话，与社交媒体中的视频聊天功能并无太多差异，使用者可以随时随地进行“通话”，“再见一面”不再只是想象，AI有利于帮助使用者走出丧亲后的悲痛与阴影。
1.2 推动AIGC技术进一步发展，提升科技水平
在2019年年初，某科技有限公司正式进入了“AI复活”赛道，但当时的技术只能根据逝者生前的音像资料进行模仿，并不具备语言处理与自动交互能力。截至2024年10月，在数字永生领域，他们已经服务了7万多人。借助于技术进步，该公司从“AI复活”转向“AIGC复活”，其快速克隆的业务已经可以做到“立等可取”，客户只需要提供3~5分钟的视频，就能完成一个虚拟数字人的制作。而从宣传到制作再到销售，“AIGC”复活技术已成产业链，目前在有关电商平台即可查询到相关业务。
虚拟数字人从最初的“惨不忍睹”到如今的“栩栩如生”，用了3~5年的时间，基于 AIGC技术，虚拟数字人生成模式实现了飞跃：从照片自动生成形象到视频自动生成形象再到GLB模型自动生成形象。而AIGC复活技术目前并不完善，仍有诸多障碍，例如生成的虚拟数字人不能完全还原人物的音色、说话习惯，动作表情不够形象具体，易有网络卡顿等。这也是诸多公司所反映的难题：“各地方言不同，而方言本身就难以完全准确地模仿”“目前没有全面的语料库可供支撑”“客户提供的音像资料模糊或时长过短”。但庞大的市场规模和客户的精准需求一定程度上会促进相关科技公司加大研发力度，倒逼企业技术改革，为相关技术难题的攻克提供动力支撑，从而推动AIGC技术的再进步。
1.3 利于促进社会秩序和谐稳定
基于中国传统家庭伦理和社会伦理，至亲挚友离世所带来的创伤及心理阴影通常是巨大、可持续、难愈的，尤其是因意外事件离世时，虽然目前AI技术已可对人的寿命进行预测，但仍无法避免离世带来的影响。若丧亲者悲痛万分，长时间难以走出悲伤，就很有可能会“过渡”到抑郁。这里应注意，悲伤和抑郁有一些相似，比如都会情绪低落、反应迟钝、意志消沉。但二者并不相同，悲伤一般有具体的、可描述的外在事件，而抑郁在很多时候是难以形容和解释的。
长期的抑郁不仅会使个人生活状态低迷，严重者会失去自控能力，出现自伤或伤人事件。当自伤事件发生时，则会使另一部分人陷入哀伤中。据研究
［2］，就丧亲者而言，相比于其他死亡方式，自杀所带来的丧亲之痛更为沉重，并伴有被抛弃感和羞愧感，此时丧亲者陷入抑郁的风险提升，易重蹈自杀者的覆辙。而当发生恶性伤人案及故意伤害案时，被害者及家属更容易发生泄愤或过激行为，如报复社会、无差别伤人等，这是由于多数情况下被害者及家属本就无辜。
可见，若无法处理好至亲挚友离世所带来的创伤与心理阴影，后果及严重性难以预测。这是因为丧亲之痛是一种难以快速消解的情绪，丧亲者之所以万分痛苦，是因为活在“他们还在”的过去。而AIGC“复活”逝者技术为丧亲者提供了特殊的交流方式，仿佛逝者仍在生活中，仍可以与丧亲者进行“交流”，这里的“交流”并非丧亲者单方面的输出，而是二者的互相交流，丧亲者自身情绪的有效表达本身就是一种疗愈。与逝者的“再相逢”一定程度上可以帮助丧亲者避免过度悲伤或抑郁，从而利于丧亲者的疗愈。
2 伦理乌云：AIGC实现逝者“复活”伴随的伦理困境
当科技被赋予了温度，AIGC“复活”逝者技术便有了一条独特的热门赛道，以及全新的蓝海空间。然而，当“AI复活”触手可及，数字疗愈和陪伴的背后，“科技+温度”的安全边界又是否黑白分明、清晰可辨？虚拟世界容易使人产生身份错觉，造成虚拟数字人使用中出现伦理秩序“灰色地带”，引发“换脸”风险、“道德”风险、“永生”风险等，对伦理秩序发起更高的挑战
［3］。
2.1 易涉嫌构成侵犯肖像行为
虽然逝者不具备隐私权，但逝者的近亲属仍需保护逝者的隐私权益和肖像权益。《中华人民共和国个人信息保护法》第四章第四十九条指出：自然人死亡的，其近亲属为了自身的合法、正当利益，可以对死者的相关个人信息行使本章规定的权利；死者生前另有安排的除外。故就一般情况而言，当AIGC“复活”技术为逝者的亲人与家属使用时，属于家庭和个体范围内的行为，近亲属有权处理逝者的相关信息，且仅用于慰藉相思之苦，一般不存在伦理争议或涉嫌违法。若跨过个人与家庭范围，便可能会产生问题，这是由于AIGC“复活”逝者技术目前并无明确的制作准入门槛，更无需事先征求相关的知情同意，仅凭一段音像资料即可完成制作。毕竟，AIGC“复活”逝者可以看作是“普通人定制数字人”的子集，而后者却不仅局限于逝者，可以是任何主体。这种未经允许的复刻无异于是对他人人格的侵犯。更何况，当某一人的形象和声音被无限复制、传播时，又应如何保证这种形象不被滥用，不会成为某种商业或政治的工具？而且被侵权者可能更难找到数据泄露的原始根源并要求其删除信息。
2023年8月，国家网信办联合其他七部门正式实施了《生成式人工智能服务管理暂行办法》，其中第6条至第9条、第11条等内容中具体规定了个人信息收集和处理的一般准则和条款，并指出“知情——同意”为信息使用的基础性保障措施。在AI“复活”领域，基于对逝者的尊重和避免侵犯肖像权，应在逝者生前告知相关技术和使用信息的目的，并征求其同意，这也是推动生成式人工智能技术良性发展和保护逝者信息安全的一项有力举措。
2.2 存在数据安全和信息侵权滥用风险
通过AIGC“复活”逝者技术所构建出的虚拟数字人之所以能够生动形象地运行，依赖于用户所提供的大量数据，包括日常生活习惯、性格、处事方式、亲友关系等。这些数据不仅是虚拟数字人不断形象逼真的基础，也是在未来得以持续优化并赢得更广阔市场的重要资源。然而这也意味着用户的隐私和个人信息易泄露甚至被滥用。一般情况下，用户购买相关服务时正处于逝者离世的悲伤中，与逝者沟通的欲望较强，相对欠缺理性思考，极易导致用户敏感信息的泄露。如果这些信息被他方窥探并获取，极易对用户的个人数据与信息构成安全风险。不良企图者可以通过大数据推送技术将用户的行为数据和交流内容用于营利性活动中，导致用户信息的再泄露，而用户此时可能并未认识到个人信息已泄露。同时，如果安全防护措施不完善，信息存储和处理系统的安全系数较低，加之无高效有力的应对措施，可能会被黑客或病毒入侵，也会导致用户个人数据和信息的泄露。
虚拟数字人具备形、声、行、神四类模因，一些不良企图者可能会利用这些特性，通过虚拟数字人进行非法活动。例如，他们可能会通过AIGC“复活”技术收集的用户数据，在社交平台进行人脸识别或实名认证，实现身份盗窃或金融诈骗；也可通过操控虚拟数字人，向亲友询问隐私信息并实施诈骗，甚至引导使用者自杀、犯罪等。虚拟数字人的模仿对象可以是任何人，并不局限于逝者的范围，故不良企图者可以通过该技术，佯装成受骗者的好友，不良企图者也可以将一些知名人物作为模仿对象，建构出虚拟数字人发布虚假新闻、误导性广告等，对公众造成误导，甚至给社会的和谐稳定构成潜在威胁。
虽然相关法律的出台促进了全方位的个人信息保护手段和违法惩戒机制的建立，但在生成式人工智能服务与应用端仍存在着解释和适用上的难题。
2.3 使用者易沉浸于数字世界中进而影响个人生活
使用AIGC技术“复活”已故亲人，可以抚慰人心，填补或缓释很多遗憾，而且被“复活”的他（她）健康幸福，不会遭受病痛折磨，这可能导致人们更倾向于与虚拟数字体进行交流，但如果使用者长期沉浸在与逝者共享的数字世界里，这种持续联结会影响逝者从哀伤中平复，出现言行异常、精神恍惚、神经错乱的病象，进而容易产生精神分裂等心理疾病。2024年10月24日，首例AI机器人致死案震惊全球，使用者与Character.AI程序中的虚拟人物产生了情感依恋，且部分聊天内容十分暧昧，使用者沉迷AI机器人数月后变得与世隔绝，最终自杀。使用者生前曾在日记中写道“我喜欢和她待在一起，和她的联系更紧密，更爱她，更快乐”。可以看出，AI陪伴不仅会让使用者忽视真实的人际关系，也会影响社会交往的质量。同时，长期沉浸于与虚拟数字人沟通的世界里，势必会对使用者真实的生活造成巨大影响，导致人的行为与认知同现实生活相背离，带来价值迷失的潜在风险，若长期无法在悲伤中抽离，个人的工作和生活均会受到一定的影响。且逝者已逝，使用AIGC“复活”技术所构建出的虚拟数字人不具备感情，只能起到安慰作用和一定程度的陪伴，对于失去亲人的人来说，最重要的是学会面对和处理自己的情感，以及寻找其他方式来填补失去的空缺。这需要生者从哀伤中适当抽离，逐渐恢复日常活动，重新找到个人认同感，灵活地在保持联结和面向新生之间摆荡。
另外，早在1970年，日本机器人专家森政弘就曾提出著名的恐怖谷效应，认为机器人外观形象的拟人化程度越高，受众对于机器人越容易产生积极的情感反应，但当机器人与真人的相似程度到达某一峰值后，受众反而会觉得不适与反感，形成所谓的“恐怖谷”
［4］。
2.4 “异化”人的本质，冲击社会伦理
借助于虚拟现实技术的成熟和人工智能技术的广泛应用，人们不仅存在于现实生活中，也可以借助虚拟化身存在于元宇宙中，即通过构建虚拟数字人实现自己的“分身”，并利用虚拟数字人在元宇宙中体验世界，即便在现实世界中自然死亡，其虚拟化身可能会继续存在于元宇宙之中。但通过AIGC技术所构建出的虚拟数字人没有情绪，存在数据来源不确定、输出内容缺乏可解释性、易被数据公司所掌控等缺陷。马克思指出，“劳动生产了智慧，但是给工人生产了愚钝和痴呆。”
［5］但在这里，马克思强调的是人的异化既是资本主义制度下的社会劳动造成的，也是人们盲目崇拜物质所产生的，结果就是人的生命在物质力量面前显得愚钝。技术对于人的影响也是如此，各类技术集成（如数据技术、网络技术、人工智能技术等）的发展使得人们主体意识和人本位思想一定程度上被淡化，由人们改造自然、改造客观世界转为技术定义人、技术改造人，这一定程度会使人的本质被“异化”。马克思、恩格斯指出，“在社会历史领域内进行活动，是具有意识的、经过思虑或凭激情行动的、追求某种目的的人；任何事情的发生都不是没有自觉的意图，没有预期目的的。”
［6］在这里马克思、恩格斯强调了在个体的主体意识发挥以及社会历史发展中，情感因素起着关键性作用，虚拟数字人虽然永远不会具备情感，但具备读懂情感的技术，从而可以满足人类的情感需求，故从该角度来看，AIGC技术将对社会的伦理秩序带来颠覆性冲击。
3 未来进路：积极应对“复活”技术伦理困境的现实策略
通过AIGC“复活”技术所构建虚拟数字人实现的“陪伴”究竟是抚慰伤痛的一剂良药，还是隔绝世界的自缚蚕茧，尚有待商榷。但历史上科学技术的每一次巨大进步和革新，总会对社会规则、道德、法律、伦理等多方面发起新挑战。一旦最新的技术被不良企图者所利用，就可能成为滋生诈骗、邪恶、丑陋的温床。
3.1 法律监管与技术监管双措并举
相较于当前科技发展的速度，法律与伦理规范的完善速度较慢，具有一定滞后性。这是由于科学技术的不断突破，对于法律和伦理道德不断提出新问题，而公民个人的相关权利（如名誉权、隐私权、肖像权等）的规制、处理、划分均有重新审视的必要性。
在法律监管角度，国家应加强立法工作，一方面是关于AIGC技术的规范研发和合法运营，确保技术在研发和运营中有法限制、有法参照、有法可依，目前国家已出台《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》等，但仍有必要针对AIGC技术的特点进行针对性完善；另一方面是关于用户个人数据安全，自数据前期采集至中期处理加工再至后期储存保管均应有明确的政策和法律以规范研发者行为，确保不存在数据泄露和用于非法用途，目前国家已出台《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《生成式人工智能服务管理暂行办法》等。此外，国家还应就AIGC技术垄断、信息侵权、算法解释机制失效、算法黑箱等不良现象完善相关法律政策，以避免不正当的竞争扰乱市场秩序。
在技术监管角度，一是应构建多元、公开透明的监管体系，由各地区、相关行业、相关行政部门组成专门机构对AIGC技术进行监管，同时该机构还应具备行政处罚权限，以实现相关技术的使用不违反公序良俗；二是规范监管政策，对AIGC技术的研发、使用、运营的全过程进行监管，不定期开展审查，开展持续跟踪审查，同时明确监管和审查的范围、职责、权限，在法律范围内开展监管与审查。建立责任追究机制，明晰当出现违规操作或构成安全风险时追究的具体措施。
3.2 将伦理准则嵌入技术研发中
通过AIGC技术所构建出的虚拟数字人虽然不具备情感，但具有读懂情感的功能，因此可以在技术研发过程中嵌入伦理准则（如积极向上、乐观生活、勤劳勇敢等）。虚拟数字人的构建依靠于一系列算法集成、模型架构和数据处理，在研发过程中便将相关伦理准则与相关技术相结合，一方面可以进一步提升用户的使用感和满足感，极大程度发挥虚拟数字人的安慰作用，杜绝其他负面情绪的传递，从而减少造成的不良影响；另一方面可以提升虚拟数字人的社会接纳程度与支持度，真正发挥科技的人文价值，使科技服务于人类福祉与社会和谐发展。
将伦理准则嵌入技术研发中同时也对研发者提出更高的要求，要求研发者树立责任意识与人文关怀精神，一是要对用户提供的信息和数据进行针对性处理，杜绝一刀切的处理方式，为用户提供个性化服务方案；二是要让多领域的专业人士参与到研发当中，尤其是在伦理道德方面，设计多套解决方案，保障虚拟数字人在服务过程中出现问题时有法可用；三是应设立专门的人员或实时监测报警系统，既是防止病毒或黑客入侵系统窃取用户私人信息，也是对虚拟数字人进行实时监控和行为分析，从而防止危机的发生和扩大。
3.3 提升市场准入门槛，推动产业严格规范化
目前“照片AI复活亲人”服务活跃在有关平台，相关服务仅需10元钱，据平台数据显示，有商家已经售出了多单，而且不同的价格可以提供不同的服务。由此可见，市场准入门槛较低，市场秩序较混乱，多数商家的法律意识和风险意识淡薄，未意识到为用户提供服务会导致违法犯罪。
故在AIGC“复活”逝者行业应提高市场准入门槛，制定统一的技术标准，设立专业技能测试，加强对相关商家和研发者的培训和教育，树立法律意识与伦理责任意识。相关商家和研发者应在提供服务前要求用户声明与逝者的关系，并提供逝者死亡证明，以确保生成产品不被不良企图者用于其他非法用途。商家和研发者也应与用户签署三方合同，注明订单要求、产品用途、商家与研发者间委托关系、数据加工处理模式、数据保护方法、数据保存事宜、违约后果等条款，从而实现三方的共同约束和互相监督，以规范市场秩序，保障各方权益，推动产业向着规范化发展。
3.4 加强宣传教育，增强公众风险意识
人工智能技术发展节奏较快，公众知识更新速度较慢，对新技术的了解相对欠缺，安全防范意识较低，尤其是弱势群体与边缘群体。而AIGC技术生成的虚拟数字人往往难以一眼辨出真假，加之部分研发者未标注“该形象由AI生成”的字样，导致公众受骗风险较高。
为提升公众对虚拟数字人的认知程度，辩证看待其产生的积极作用和潜在风险，树立安全意识和风险意识，各级政府、公益组织、各大平台等均应加强有关的知识普及和宣传教育，可以通过发放宣传手册、开设社区讲座、播放公益广告等途径开展。同时建立信息反馈渠道和举报监督机制，让广大公众参与到风险防控中，由“旁观者”转向“参与者”，凝聚起社会力量。而对于丧亲者，应以引导为主，建议其选择正规合法机构和商户，树立数据安全意识、个人隐私保护意识、依法维权意识，但也要防止使用者出现长期沉浸或过度依靠虚拟数字人的现象。
4 结语
备受关注的AIGC“复活”逝者技术，一定程度上可以弥补没能“好好和亲人告个别”的遗憾。但如何在使用过程中避免误导和滥用，如何保障技术的准确性和可靠性，如何确保科技的发展符合伦理和法律，其可能带来哪些道德和法律风险等均是需深入探讨的问题。但也应深入思考AIGC“复活”逝者技术背后的社会和文化意义，探索如何更好地满足人们的情感需求和精神追求。既要以开放和理性的态度来面对这一技术，看到它可能带来的积极作用，也要充分考虑到其潜在的负面影响。同时，也需要加强科技伦理教育和管理，确保技术的健康发展。在这个过程中，不仅要关注技术的进步，更要关注它对人生活、情感和社会的影响，以实现科技与人文的和谐共生。只有不越过科技伦理的边界，才能确保科技进步真正为增进人类福祉服务。
2024年度山西省研究生教育创新计划科研课题：“‘不如见一面’——AIGC实现逝者‘复活’的伦理风险及规避进路”(2024KY412)
2023年度山西省科技战略研究专项“研究者发起的临床研究伦理问题及伦理治理”(202304031401099)
京公网安备11010202008535号
PDF
(537KB)
