曾经人们认为视频即“实锤”,眼见一定为实;而现在,这把“实锤”可以通过深度伪造技术凭空制作出来,让眼见未必为实。中国互联网数据资讯网发布的报告显示,2020年深度伪造(deepfake)全球增长率超330%,美国、英国成为重灾区。深度伪造内容生成技术脱胎于深度学习,真正意义上实现了以假乱真。自2017年进入大众视野以来,深度伪造技术正以前所未有的速度发展,逐渐渗透至政治、媒体等多个领域,并借助互联网产生巨大威胁
[1]。
深度伪造技术初露雏形时,国内外相关国家安全部门、著名智库、研究机构已经敏锐察觉到该技术存在威胁国家安全的巨大隐患,因而自深度伪造概念出现以来就开始在政策层面、法律层面和技术层面加大限制力度,以防止该技术被恶意利用
[2]。但社会心理与伦理层面的研究尚未同步深入,对该技术影响下的社会氛围和人类心理的深层变化、降低负面影响所需的媒介素养教育关注不多,这一点在国内研究中更加明显。对深度伪造技术影响的认识,不能仅仅停留在简单批判和从强硬管制出发的一般性应对策略上。在后真相时代,客观事实在塑造公共舆论方面远不如诉诸个人情感与信念有影响力
[3],当前缺乏对发掘柔性手段以克服深度伪造欺骗性并充分发挥其积极价值的有效探索。在此叠加背景下,深度伪造技术的快速发展带来了许多新的社会与心理问题,如深度伪造会带来哪些深刻的社会影响?面对越来越逼真的深度虚假信息与愈演愈烈的信任危机,作为普通受众,应采取何种态度和手段降低其负面影响?
基于此,本文以关键词“深度伪造”和“deepfake”分别在中国知网(CNKI)和社会科学引文索引(SSCI)数据库进行检索,对近几年的相关文献进行梳理和分析,发现相关研究整体上呈现多学科交叉特点,以计算机科学与法学研究居多。其中,计算机学科领域在深度伪造视频、音频的生成原理和检测技术开发上已经做了大量工作;社会科学领域以法学研究为主,主要就其技术特征引发的法律风险、信息安全问题与其他社会危害进行权责界定讨论与治理路径探查,研究深度伪造的法律规制、技术治理与风险规避。通过对新闻传播学科视角下的20篇文献进行梳理发现,现有研究大多从技术逻辑切入,围绕深度欺骗与难以反向破解的颠覆性异化技术特征,阐述深度伪造的应用风险,如传播网络虚假消息、消解社会信任、危害网络信息安全等。按研究内容侧重划分,当前新闻传播领域对深度伪造的研究大体分为围绕技术特性分析其传播虚假信息的风险和针对负面社会影响探索应对策略两类。
一 深度伪造的内涵与技术特性
(一) 基本性质:颠覆性技术异化的典型代表
深度伪造(deepfake)一词,是deep learning(深度学习)和fake(伪造)结合而成的新单词,包含“机器深度学习”和“伪造”两层含义,是一种基于人工智能深度学习技术“生成性对抗网络”(generative adversarial networks,GANs)而产生的新型智能视频伪造技术。深度伪造融合了自动化图像识别、机器深度学习、生成对抗学习和神经网络技术等颠覆性技术,能够将个人的声音、面部表情及身体动作叠加到源图片或视频上,拼接合成虚假内容
[4]。
深度伪造技术本质上是对人工智能算法与个人生物识别信息的滥用
[5],其最典型的应用表现为实时伪造他人的面部表情和声音,合成逼真的“换脸视频”以迷惑受众
[6],具有高度真实性、泛在普适性和快速演化性等特征,集中表现为深度欺骗性,特别适合在社交媒体上传播虚假信息,已经能够达到以假乱真的效果
[7]。调查研究发现,大多数人没有意识到深度伪造技术的潜在应用和威胁,同时超过一半的受访用户表示,视频网站YouTube的深度伪造视频看起来是真的
[8]。
学界普遍认为,深度伪造是“深度合成媒体”颠覆性技术异化的变体
[9],并将其视作当前颠覆性技术异化的典型代表
[3]。合成媒体指的是所有自动和人为生成或操纵的媒体,包括合成音频、虚拟现实和高级数字图像创建等
[10],深度伪造已成为人工智能驱动的合成媒体中引发最大关注和争议的分支之一
[11],其存在的操作不当和技术本身潜在自主决定的风险,令这种技术的人为应用充满了恶意使用的可能
[12],如敲诈、恐吓、破坏、骚扰、诽谤、报复、色情、身份盗窃和欺凌
[13]。当前大多数研究认为,深度伪造是数字化时代的威胁和人类社会可持续发展的重要挑战
[14]。
但是,深度伪造也有正向用途。当人们对技术保持敬畏时,这种技术应用创造的积极效用远超预期
[11]。如消除跨文化传播与政治传播中的语言障碍、降低电影特效制作成本、更新消费场景、促进深度个性化媒体创作等。但是,当前研究对如何发挥其积极意义的关注和讨论较少,多数研究持审慎怀疑态度,仍以批判导向为主。
(二) 技术特性:“深度欺骗”且反制难度大
深度伪造技术的主要应用场景是“视频换脸”,与传统技术相比,“视频换脸”的破坏力不仅在于“伪造”,更在于“深度”。互联网时代,自媒体的发展打破了中心化的信息传播模式,既增加了信息传播效率,也削弱了对虚假信息的控制。深度伪造技术传播虚假信息的风险在互联网传播的特性之下被进一步放大,进而可能造成不可控的局面
[15]。因此,深度伪造技术加剧虚假信息传播、促进假新闻泛滥的应用风险成为国内外传播学界研究的热点问题。
作为一种饱含自我否定的辩证学习过程的智能技术,深度伪造不断升级进化的欺骗能力是当前研究共同关注的热点问题。现有研究表明,深度伪造规避鉴证监测能力强、辨伪难度大且价廉易操作,在技术上存在严峻的深度反制困境。
国内外研究团队致力于研发识别欺骗行为的检测防御算法
[5]。如清华大学RealAI公司发布了深度伪造视频检测工具“DeepReal”,北京大学与微软亚洲研究院联合推出识别工具“FaceX-Ray”;国外相关研究成果包括美国Adobe公司推出的“反向PS”工具、滑铁卢大学开发的“DarwinAI”技术等
[16],但计算机领域的学者对此并不持乐观态度。根据古德费罗所使用的生成性对抗网络的本质,构建深度伪造的欺骗算法比侦查算法更容易
11 GOODFELLOW I.Nips 2016 tutorial generative adversarial networks[EB/OL].(2016-12-31)[2024-02-01].https://speech.ee.ntu.edu.tw/~tlkagk/courses/MLDS_2017/Lecture/GAN%20(v11).pdf.
,在“技术军备竞赛”中更具有早期优势
[17],检测工具可能陷入一种被不断识破与反侦查的“猫鼠游戏”循环之中。研究者还发现,在这个过程中,深度伪造能够利用检测算法的“反教学”,不受监督地套用丰富的互联网信息作为机器训练材料,不断进行自主学习与升级进化,使生成的虚假信息越来越逼真,在网络流通中越来越隐蔽,欺骗也越来越深度
[18]。
综合来看,有关深度伪造的研究大多建立在其颠覆性的“深度欺骗”特质的技术基础上,从多学科视角展开分析,集中探讨其恶意用途、未来可能产生的滥用风险及监管反制策略等。计算机学科在深度伪造的自动生成和检测方面已经做了大量工作,法学学界就深度伪造的后果进行了法理探讨与监管路径探查。但迄今为止,只有少数社会科学研究者从社会心理角度出发研究深度伪造技术的社会影响
[19]。这一领域目前依然存在许多心理、社会和伦理问题,其中,由深度伪造生成的深度虚假信息引起的一系列问题尤为紧要,需要进一步对深度伪造的技术影响进行细致的实证分析。
二 深度伪造技术的应用风险
(一) “深度欺骗”特性增强虚假信息的传播效果
社交媒体和智能技术的发展共同重塑了传播格局,深度伪造技术的介入使得信息冗余的社交媒体内容更加鱼龙混杂
[20],社交媒体上利用真实信息拼接出来的深度虚假信息引发学界和业界对媒体信任的担忧,其中对深度伪造视频的担忧最为显著。综合现有文献,本文提炼出以下关于深度伪造在传播虚假信息时放大其欺骗效果的原因。
一是“视觉说服”性更强。深度伪造视频利用视觉虚假信息说服中的“现实主义启发”
[21],以高度逼真的视频内容迎合了社交媒体用户认为图像、视频对现实的描述更加可靠的心理
[22]11。人类更多依赖视觉信息而不是其他形式的感官信息,这种现象被称为Colavita视觉支配效应
[23]。与虚假的文本信息相比,虚假视觉信息(如假视频)不仅能够描述现实,还能够证明事件的存在,往往更加生动可信,许多研究都证明了这一点
[24]。在探讨媒介素养教育能否降低虚假信息影响的研究中,控制实验发现含有深度伪造视频的虚假信息可以增强生动性、说服力和可信度
[25]。因此,散布谣言或恶意攻击的深度伪造视频,对个人、组织乃至国家的整体形象诋毁得更加深刻、彻底。但也有研究提出不同观点,认为深度伪造视频可能扭曲公众对公共事件的记忆,只是它们不一定比简单的误导性文字更有效
[26]。以上研究在深度伪造技术篡改的视觉现实更加令人信服方面达成了共识,都肯定其具有放大虚假信息影响效果的作用。
二是为“说谎者”提供了狡辩的正当理由。深度伪造技术在公众心中铺设了一道无法建立真相基础的假设,以此消弭事实的真实性,即造成“假作真时真亦假”的迷局
[27]。有研究发现,深度伪造不仅能在社交媒体中散播虚假信息,还可能掩盖事实信息,在公众中造成信息的不确定性
[28],导致公众对媒体的普遍不信任感加重。尤其在错综复杂的政治舆论环境下,当政治家回应对其正面形象不利的信息时,可以轻松“合理”地否认事实证据的真实性,以达到开脱责任的目的
[29]。
(二) 加重社会信任危机与信息安全问题
后真相时代,网络信息环境与人们的认知偏见相互作用,思想上不断遭受真相的衰败
[29],公众对媒体已经产生了信任危机。学界普遍担忧的问题是,深度伪造技术的出现会加剧这一现象,甚至导致潜在的舆论治理、经济、社会、政治、军事风险乃至国际关系风险。
在深度伪造技术的起源地美国,该技术最初用以制作各类色情换脸视频,如将明星的脸替换到其他色情视频中。随着该技术的普及,“换脸”对象也由明星、政客向一般公众扩展。可见,由于深度伪造技术的高度真实性、泛在普适性和快速演化性等基本特征,其生产的视频不但能够以假乱真,而且越发以低成本的方式普及,对于被“换脸”的受害者而言,其名誉权、肖像权等权利不可避免地受到侵犯,而且面临被敲诈、羞辱、骚扰和勒索的危险
[30]。
在此基础上,深度伪造视频把假新闻提升到一个全新水平。多项国内外实证研究运用定性分析、调查、实验和政策分析等方法,针对深度伪造对媒体信任的破坏展开研究,探讨该技术生成的虚假信息是如何加重媒体信任危机的。首先,由政府和寡头垄断的传统信息分发模式与规范已经被新兴媒介颠覆,使得具有高度公众信任的传统新闻来源模式受到冲击
[31],而深度伪造技术的出现直接降低了假视频制作的时间成本与门槛,从而加速了这一趋势。其次,深度伪造技术解构现实认知,使真相与现实脱节,颠覆了公众对现实的理解,导致其陷入深度骗局,无法识别深度伪造的真实性,从而加重用户对媒体的怀疑,削弱公众对网络平台的信任度
[32]。
另有研究表明,深度伪造技术极有可能被用来制造虚假爆点新闻,在社会集中关注的问题上制造矛盾,引发系统性的信任赤字
[9]。2018年5月,有团队伪造了特朗普批评比利时环保政策的视频,尽管细节上存在瑕疵,但不影响部分比利时民众信以为真并激烈回应,使得制作团队不得不一一回应该视频系深度伪造的产物
[33]。因此,当使用深度伪造过的假新闻诽谤政客时,会令公众对媒体呈现的社会事实陷入认知混乱,在真假信息面前不知何去何从,导致整个社会的信任被消解,政府怀疑主义丛生,社会凝聚力被冲散,进而破坏社会稳定、国家安全和国际秩序
[34],甚至引发战争。
深度伪造技术在信息安全方面的威胁主要体现在两个方面。首先,流通在网络环境中的个人隐私数据容易被用作深度伪造机器学习的素材,从而导致个人信息泄露,使得人脸支付等技术的安全性遭到威胁
[35]。其次,难以辨伪的深度伪造视频或生成的其他形式的深度虚假信息容易被不法团体利用,作为诋毁政党,煽动恐怖、暴力活动,挑拨社会内部矛盾的工具,达到欺诈公众,甚至颠覆政权的目的
[2]。一些涉及民族宗教、种族对立的深度伪造视频容易激化内部矛盾和外部摩擦,挑起国与国之间的不信任,引发边界冲突和社会的恐慌动乱,进而危害国家安全。
对于此类以违法犯罪为目的指向的恶意应用,可以寄希望于检测技术突破与法制监管震慑等强硬手段加以限制
[36],对于那些不涉及违法犯罪但却游离在侵蚀社会信任边缘的技术用途,或许可以从人本身的心理特性出发,探索从根本上降低深度伪造负面影响的柔性手段。
三 深度伪造技术应用的反制路径
(一) 治理负面影响的路径探索面临双重困境
深度伪造技术的恶意使用问题日益严重,解决深度伪造生成的虚假信息问题有多种策略,包括法律手段、技术手段和媒介素养干预手段
[37],针对前两种手段,法学与计算机学科在各自领域已经做了非常出色的研究,但媒介素养干预手段目前还未得到传播学科的充分重视,相关研究的数量和深度都十分有限。
通过文献梳理发现,当前应对深度伪造技术应用风险的治理路径探索面临双重困境:一是深度伪造技术具备超强的自我学习与更新能力,难以从技术上有效反制
[1];二是法律监管存在滞后性,在对深度伪造视频制作者的行为规束、对媒介平台的规则制定方面难以发挥及时有效的作用。虽然哔哩哔哩平台已经开始着力审核“疑似使用智能合成技术的视频”,并在部分视频下方注明“请谨慎识别”的提醒字样,但受限于审核的技术水平与成本,依然有大量逼真的深度伪造视频在平台中自由流通。
在技术、法律规制陷入困境的情况下,社会科学与计算机科学领域的学者展开交叉合作,对现有技术反制与法律规制无法有效降低深度伪造负面影响的原因进行分析,并尝试提出相应的治理路径。如王禄生
[38]针对当下反制技术的缺陷与法律监管的事后性局限,提出了“平台—制作者—受众”三位一体的新规制体系,在受众层面着重阐述了“信息素养”对克服深度伪造负面影响的重要性,将媒介素养教育这一应对策略摆到学界面前。
(二) 治理对策的突破性尝试:媒介素养教育手段
20世纪30年代,以英国学者利维斯为代表的一些学者发起媒介素养教育之初,更多是把大众媒体及其生产的大众文化作为一种危险的力量,而媒介素养教育的主要目的在于教育公众“甄别与抵制”大众传媒的错误影响和腐蚀
[39]。这种治理思维当时被视作“免疫接种”理论的应用。但是,随着实践的深入,学者们意识到媒介的影响强大且无处不在,一味否定、简单抵制无济于事。莱恩·马斯特曼也指出,媒介教育最主要的目的不在于评价好坏,而在于增加人们对媒介的理解并接受与媒介共存的事实,将受众视为积极的媒介使用主体,通过媒介素养教育帮助他们认识媒介运作机制,提高利用媒介的能力,充分理解媒介素养研究与教育的发展过程以及逐步升华的媒介素养理念。
目前,具有特定指向性的媒介素养教育成为新的研究热点与趋势。随着推荐算法等智能技术介入媒体环境,“算法素养”这一概念作为对传统媒介素养的重要补充被学界正式提出。彭兰
[40]认为,算法素养需要走出“保护”思维,赋权用户,让用户在与各种类型的算法共存过程中逐渐学会驾驭算法,如建设算法思维与普及风险教育,学会在算法社会保持人的尊严与价值。而深度伪造作为人工智能算法演化未来技术的一种,其抵御虚假信息的媒介素养教育在指向性上与“算法素养”的培养诉求殊途同归。但是,更加深入可行的培养方案目前尚未提出。
不同领域的学者从媒介素养教育角度提出了初步的可行性治理策略,重新布局构建新的技术伦理体系和技术文化氛围,特别是针对深度伪造技术开发者的技术理性重塑与科技伦理教育;对于广大使用者,则建议营造技术向善的应用文化氛围
[41],通过知识科普与风险教育的方式培养媒介批判精神与辨识能力。
现有的实证研究数量虽然不多,但研究方法的选取和控制实验的设计思路都十分严谨细致。通过创建关系模型,设置因变量(如社交媒体怀疑精神、虚假内容辨识能力)和不同维度下的自变量(如认知能力、对深度伪造的接触与担忧、无意中分享的深度伪造内容),并从人口因素出发设置年龄、性别、地区、职业等控制变量,进一步考察因素间的相关性,在实验设计方面为之后的研究做铺垫。
四 深度伪造技术应用影响下的媒介素养教育
深度伪造作为一种媒介信息造假手段,其本身也是一项具有颠覆性科技意义的智能科学技术。当前,新闻传播领域对这项技术的认识才刚刚起步,对其应用风险与负面影响的关注度远远超过对其积极用途与正面效能的挖掘,也因此并未充分考虑深度伪造影响下媒介素养教育的重要作用。
(一) 媒介素养教育的保护作用:增强信息批判意识与辨识能力
媒介素养被定义为以各种形式获取、分析、评估和传达信息的能力
[42]6-7。由于深度伪造的负面影响主要源于技术的欺骗性特质,受此影响,抵御其风险所需的媒介素养一般与批判和辨识虚假信息密切相关,如社交媒体怀疑精神与虚假内容辨识能力。目前有几项研究尝试性地探讨了公众对深度伪造的认知与态度如何影响他们的媒介信息素养,以此发展相应的媒介素养教育手段,从而灵活对抗深度伪造的负面影响。
这些研究首先肯定了提升媒介素养对降低深度伪造负面影响的必要性和有用性。Colliander等
[43-44]指出,媒介素养教育能够增强对媒体负面影响的认识和批判性思维,有助于避免被虚假信息误导;Iacobucci
[45]认为从媒介素养教育的角度制定策略来对抗深度伪造的欺骗性,可能会有很好的效果,但这可能只适用于那些对明显误导性主张有较低敏感性的人。
在关于媒介素养和虚假信息接触后果研究的基础上
[46],有学者基于外部有效性较强的成人调查对象样本,利用控制实验的方法,率先证实了媒介素养教育可以通过重新降低虚假信息的负面影响而产生保护作用
[25]。另一项旨在检验深度伪造内容的简单诱导是否能显著提高用户对虚假信息识别能力的研究也发现,辨别虚假信息能力的提升可以有效降低用户的分享意愿,能够从根本上限制深度伪造信息的病毒式传播
[45]。另有研究发现,普通的媒介素养教育和针对深度伪造技术的媒介素养教育一样奏效,某些情况下效果甚至更好,由此发现态度防御是媒体素养的一个重要方面
[47],启示未来应加强态度防御方面的媒介素养教育。
已有关于媒介素养的许多研究通常通过比较媒介素养缺失与否的条件来检验媒介素养教育的效果,未来研究可以通过比较基于内容本身和媒介技术形态的媒介素养教育效果,进一步探讨不同类型的媒介素养教育是否可以提高受众对深度伪造视频的辨识能力和批判精神,继而专注于探究内容或媒介的素养教育,并且可以尝试组合不同类型的媒介素养教育并检验其效果。
(二) 媒介素养教育的“副”作用:催生高度媒体怀疑精神与犬儒主义
媒体怀疑精神被定义为对主流新闻媒体的疏离感和不信任感,指的是公民对记者和新闻工作者提供的信息的怀疑和不信任程度
[48],被认为是通过辨别不可信的新闻内容来促进独立思考,对不确定的信息保持审慎态度,避免自身受到虚假信息的误导
[49]。从这个角度看,深度伪造生成的深度虚假信息有成为扮演反向培养媒体怀疑精神有益角色的可能。
但学界对此观点的态度并不一致,有研究指出,针对深度伪造的媒介素养教育或许存在一定的“副”作用。一项在线调查研究评估了人们对深度伪造的态度和行为如何影响对社交媒体新闻的怀疑精神,指出高度的媒体怀疑精神有转变为媒体犬儒主义的危险
[50]。实证研究表明,较低的媒体信任水平与频繁接触假新闻有关
[51],直接接触深度伪造视频会加深社交媒体用户对媒体信息的不确定性
[22],从而降低他们对社交媒体新闻的整体信任,继而导致高度的媒体怀疑精神,以至发展为媒体犬儒主义。同时,由于认知能力与社交媒体怀疑精神呈正相关,长远来看,对深度伪造的直接接触会伤害认知能力低的民众,潜在的媒体犬儒主义可能会导致他们在信息上脱离社会
[52],进一步加剧民主社会中网络公民文化面临的挑战。
综上,未来研究应以实证方法探讨高度的媒体怀疑精神是如何发展成为犬儒主义的。另外,研究表明,识别虚假信息的游戏可以显著提高用户识别虚假信息的能力
[53],因此,未来研究应关注以社会干预实验探索对抗深度伪造负面影响的方法,为技术平台升级防伪功能和政府政策制定提供参考。
(三) 当前研究存在的问题
从学术产出的总量来看,立足媒介素养教育视角探讨治理对策的研究较多,但仅将其作为一项治理路径展开讨论,尚未提出具体可行的干预手段,在与深度伪造技术相关的媒介素养教育的方法与效果研究上浅尝辄止,仅停留于对现象的描述和概括。与此同时,关于深度伪造的知识科普也还未得到学界应有的关注。从研究方法上看,在深度伪造与媒介素养教育方面,无论是从视角还是方法上看,国内相关研究进展都十分有限,面对海量的深度伪造应用行为数据与复杂的受众认知与态度,运用科学方法展开的实证研究几乎没有。从理论框架来看,国际学术范畴仍局限于传播学的传统媒介素养教育理论,着眼于深度伪造颠覆性科技异化特性而诞生或得到发展的理论并不多见。
综合以往研究成果不难发现,深度伪造技术与媒介素养教育的结合产物(如深度伪造的技术知识科普与风险教育)存在培养公众媒介怀疑精神与辨识能力,进而提升公众媒介信息素养的可能性,但其有效性与可行性策略仍有待进一步证实和挖掘,而这也是当下亟待丰富的研究领域。未来研究应着重考察以深度伪造技术知识科普、风险教育为主题的媒介素养教育如何影响公众对媒体内容的质疑精神、批判意识及甄别虚假信息的能力,并进一步考察影响教育效果的因素,从而验证此种建立在颠覆性异化媒介技术基础之上的知识科普是否在其他同类技术应用场景下同样奏效。
五 结 语
深度伪造生成的深度虚假内容混淆客观现实,侵蚀原生音像世界,污染媒介信任生态。但是,从其技术本质与创建功能角度考量,深度伪造也有转化呈现多元媒体样态、丰富新闻真实内涵,乃至促进媒介批判精神重构、提高公众媒介素养的潜力和其他更多正面用途可待发掘。
当前关于深度伪造的研究也存在一些问题。首先,研究视角存在刻板化现象。现有研究尤其是国内研究多集中在对技术走向的追问和对其社会负面影响的批判,未来应给予深度伪造的积极用途更多关注,以启发人们更好地利用该技术改善人类生活。对此,麻省理工学院媒体实验室的研究人员正在开发的“个性化角色模型”
[54]提供了一个良好的示范,研究利用深度伪造技术改变实时视频流,使演讲者能够以自信的方式看到自己在演讲任务中表现出色的版本,从而改善其情绪并激发创造力,展现了深度伪造对人类发展的积极一面。其次,关于媒介素养教育层面的实证研究匮乏,学科交叉并不充分,跨学科综合考量技术逻辑、法律监管与媒介素养教育三种手段间可能存在的相互作用关系,并深入探索可以有效降低深度伪造危害的方案尚未有研究涉足。
不断升级改进的深度伪造技术越来越挑战人们对真实与否问题的理解,迫使人们停止相信在社交媒体上看到和听到的一切,重新批判性地思考对现实的看法,质疑摆在面前的“证据”。但是,人们不懈摸索与之和谐共生的策略,尤其是深层次的媒介素养提升,有助于打破治理困局,应用深度伪造技术推动媒介生态发展,改善日常交流,赋予深度伪造更加通用而积极的价值意义。
国家自然科学基金项目(82273744)