算法风险的失范现象与应对之道

何奥

中国医学教育技术 ›› 2024, Vol. 38 ›› Issue (6) : 709 -715.

PDF (600KB)
中国医学教育技术 ›› 2024, Vol. 38 ›› Issue (6) : 709 -715. DOI: 10.13566/j.cnki.cmet.cn61-1317/g4.202406003
理论探索与实践

算法风险的失范现象与应对之道

作者信息 +

Phenomenon of anomie of algorithm risks and its countermeasures

Author information +
文章历史 +
PDF (614K)

摘要

在智能传播浪潮的推动下,算法推荐技术正以前所未有的速度重塑网络信息内容的传播生态。作为网络信息分发的主要方式,算法推荐已深入网络受众的日常生活,对其认知与行为模式产生了深远的影响,甚至介入并塑造了受众的价值观。然而,在资本逻辑的主导下,算法推荐技术的某些负面效应也逐渐显现,如操纵舆论、制造“信息茧房”以及滥用数据等问题,这些乱象不仅损害了受众的权益,也威胁到网络空间的健康发展。面对这些挑战,应积极拓宽算法推荐的内容选择范围,打破信息孤岛,使受众能够接触到更为多元、全面的信息。此外,注重算法推荐的标签设置,确保其精准、合理,避免误导受众或滥用数据。通过这些措施的实施,使其更好地发挥价值传播载体的作用,为网络受众提供更为优质、个性化的信息服务,同时促进网络空间的健康、有序发展。

Abstract

Driven by the wave of intelligent communication, algorithm recommendation technology is reshaping the dissemination ecosystem of online information content at an unprecedented speed. As the primary means of distributing network information, algorithm recommendation has deeply penetrated into the daily lives of internet users, profoundly influencing their cognitive and behavioral patterns, and even intervening in and shaping their values. However, under the dominance of capital logic, some negative effects of algorithm recommendation technology have gradually emerged, such as manipulating public opinion, creating “information cocoons”, and misusing data. These irregularities not only harm the rights and interests of users but also pose a threat to the healthy development of cyberspace. Facing these challenges, we should actively broaden the content selection range of algorithm recommendation, break the information silos, and enable users to access more diverse and comprehensive information. In addition, we should pay attention to the label settings of algorithm recommendation, ensuring their accuracy and rationality, and avoiding misleading users or misusing data. Through the implementation of these measures, we can make algorithm recommendation technology better serve as a carrier of value dissemination, providing internet users with better quality and more personalized information services, while promoting the healthy and orderly development of cyberspace.

关键词

算法风险 / 失范现象 / 应对之道

Key words

algorithm risks / phenomenon of anomie / countermeasure

引用本文

引用格式 ▾
何奥. 算法风险的失范现象与应对之道[J]. 中国医学教育技术, 2024, 38(6): 709-715 DOI:10.13566/j.cnki.cmet.cn61-1317/g4.202406003

登录浏览全文

4963

注册一个新账户 忘记密码

习近平总书记提出“用主流价值导向驾驭‘算法’,全面提高舆论引导能力”[1]。大数据时代,信息呈现爆炸式增长态势,无形中增加了人们在海量信息中寻找有效信息的难度。作为一种新兴技术,算法推荐具有精准分发、精准预测、精准反馈等优势,实现了海量信息与人的需求之间的有效匹配,极大地提高了信息的传播效率,提高了网络受众的黏性,因而被广泛应用于资讯类平台、短视频类平台、社交类平台等新媒介领域。事实上,算法推荐独特的信息传播模式重塑了社会信息传播的媒介环境,也影响着网络空间社会主义核心价值观的传播。但从技术发展的历史来看,算法推荐技术仍处于初级阶段,算法推荐本身无法对所推送的信息进行辨别,往往不会考虑为用户推送的信息是否与社会主流价值观相匹配[2]。可以说,这种影响既带来了便利,也带来了潜在的风险和挑战,即算法风险的失范现象。因此,要深入探究算法风险的失范现象,并寻求有效的治理之道,从而确保算法推荐技术的健康发展,维护网络空间的健康秩序。

1 算法风险下的信息失范与社会价值重构

在智媒时代,信息技术日新月异,传播技术极大发展。不可否认的是,数字化时代极大地缩短了传播速度,拓宽了传播范围,提高了新闻的时效性,增强了用户之间的互动性,为网民的生活提供了便利。然而,与此同时,智能算法在新闻传播领域的广泛应用也暴露出了一系列不容忽视的问题。虚假信息的泛滥如同暗流涌动,污染了信息的纯净度;后真相时代的反转剧情频发,让信任机制摇摇欲坠;社会公共价值的弱化,更是让社会主流价值观的基石受到冲击。这些问题如同阴影般笼罩在网络空间,导致部分网络受众在海量信息中逐渐迷失方向,对多元信息的敏锐性逐渐降低,甚至缺乏主动筛选与社会主义核心价值观相关信息的自主性。这种趋势无疑对网络受众主流价值认同的建构产生了严重的干扰与阻碍。

1.1 虚假信息泛滥,新闻可信度被打折

智能媒体信息传播主要依赖于智能算法技术。且智能算法已嵌入了新闻生产的流程,从新闻内容选择到新闻内容发布。智能算法程序的逻辑标准就是依据网络受众在互联网上所接触的信息内容,以大量数据为依据进行信息处理与制作,自动判断出网络受众的偏好,并推送出不同目标群体所感兴趣的消息与信息。而在新闻生产中,智能算法因技术限制无法识别数据真实性并进行自动评判,这就可能会出现偏差与局限。那么,当缺少人工审核时,虚拟环境中智能算法形塑的消息是否能确保真实客观?其实,以ChatGPT为代表的智能算法在新闻制作过程中,经常会出现新闻不准确的情况,这不仅造成了不准确新闻信息的传播,也严重损害了算法推送新闻内容的真实性。

造成这一状况的主要原因在于,算法新闻存在着技术缺陷。从智能算法层面来看,众多平台采用的推荐算法并没有对新闻真实性进行评判的能力,换言之,现有人工智能技术能力不足以使算法对新闻“真实性”进行评判。以ChatGPT为例,其作为一种大型语言模型,通过算法算力将大量语言数据以及文本数据训练并融合先前信息来产生新文本,本质上就是对现有的一串词语经过加工从而实现句子的输出。简而言之,ChatGPT可以适用于需要逻辑、专业知识或者搜集最新资料的工作。但新闻信息有三个显著特点:第一,新闻是一种事实,具有真实性;第二,新闻应该是最近的;第三,只有报道了事实,才能成为新闻[3]。显然,ChatGPT整合的数据无法完全满足这些必要的条件,因此利用ChatGPT生成或撰写的消息不可避免地存在成为误导性信息的风险。

近年来,人工智能的迅猛发展将深度造假技术推向了公众视野的前沿,而智能算法的进步更是加剧了信息真伪辨识的复杂性。对于不熟悉特定信息领域的网络用户而言,ChatGPT等人工智能工具生成的内容往往因其高度的真实感而难以被辨识为虚假。在2023年1月的一项实验中,新闻可信度评估组织News Guard的分析师要求ChatGPT对虚假信息进行回应。令人惊讶的是,ChatGPT为其中的80%虚假信息制作了详尽的新闻报道、文章和电视脚本,进一步模糊了真实与虚假的界限。美国新闻卫士联合执行官格洛维茨对此发出警示,指出“ChatGPT可能成为互联网有史以来最强大的传播虚假信息的工具。”[4] 例如:在2023年2月16日晚,杭州某社区的一名业主尝试利用ChatGPT撰写了一则关于杭州交通限制情况解除的新闻报道。该业主在群聊中直播了创作过程,并将文章分享至群中。然而,由于部分业主不了解真实情况,便误将这篇由ChatGPT生成的新闻视为真实信息,并将其截图转发,导致了错误信息的广泛传播。类似的情况也发生在国外。澳大利亚某市市长胡邦就因ChatGPT在回答问题时错误地将自己指认为贿赂丑闻的有罪方而提出控告,并考虑起诉ChatGPT背后的公司。这些案例凸显了智能算法在新闻传播中可能带来的风险,尤其是在缺乏有效监管和验证机制的情况下,虚假信息的传播可能对个人和社会造成严重影响。

总之,智能算法在逻辑上对事实核查能力的天然欠缺使得它成了假新闻产生的天然土壤。而这一威胁在目前社交媒体环境下已经得到放大。如果不加以控制和制约,任其自由发展,将会造成严重的危害。

1.2 后真相的不断翻转影响信任机制的建立

在智能传播中,虚假新闻的传播速度往往远超真实新闻。这主要归因于“后真相”时代的到来,其中一些虚假信息尽管荒谬不经,却以极具“吸引力”的方式呈现,常常借助情绪化和耸人听闻的言辞来吸引眼球。这些特点使得即便是原本持怀疑态度的公众,也可能在好奇心的驱使下,不经意间分享这些虚假信息,从而加剧了其传播的广度与速度。

“后真相”就是人把感情与利益当作评判信息真伪的准则,“感情是第一位的,道理是第二位的;认知是第一位的,真相是第二位的;成见是第一位的,客观是第二位的。”[5]在这种网络环境下有些算法平台从自身利益出发,为了吸引网络受众的注意力,用断言和猜测的表达方式,来生产并传播迎合网络受众注意力而背离真相的信息。他们在寻求“吸睛效果”时,崇尚“诱导性”的问题与碎片化信息,由此导致认识事件的过程成为“讨论—反转—再讨论—再反转”的循环多线程的复杂进路,形成价值判断先于事实判断的“后真相”环境。在传统新闻媒体上,编辑为了确保内容的真实性与客观性,就会反复验证与测试文章内容,但是算法新闻机制只扮演着编辑的一部分角色,它的主要任务就是捕捉内容信息,并且在捕捉过程中筛选出具体关键词,旨在把现有的新闻搜刮至自己的平台上,并通过算法精准分发实现盈利。在这一过程中算法推荐新闻仅仅是一种盈利手段而已,这样就大大降低了算法对于内容真实性的评判。

智能算法科技的发展进一步加剧了新闻真实性与及时性之间的冲突,使得“后真相”愈演愈烈,不断冲击着信任机制。在后真相语境下,通过智能算法技术赋能,使得个体获取知识的渠道更加多元,表达个人观点的渠道更加畅通,人与人之间的信息认知更短、更浅薄,事实往往会迅速笼罩在接下来的舆论热点之中。但主流信息与个体信息的错位、渠道与内容的传播裂变,使得网络受众在自我认知视角下解构了原有事实框架,并且在了解事件时,部分网络受众极易代入其感受与立场,造成舆论频繁逆转、社会共识难以达成的困境。此外,部分“有心人”利用互联网中人们的朴素情感赚钱,明目张胆地以“自媒体”为幌子,打着正义的旗号,在算法加持下,追求现实之流。针对大众朴素情感不加控制地使用,以此来获取关注并最终达到流量目的。标题言过其实,言语危言耸听。信息发布者基于自身兴趣对客观事件报道框架进行消解、遮蔽和重构,有选择地放大真实事件,引起观众关注,让内容变得真真假假,扰乱观众判断,从而导致舆论逆转等问题频发,甚至智能算法本身受到利益驱动,也会借助网民的情感来不断引流。因此,在智能媒体环境下,网民可以借助智能算法不需要投入更多精力来获取信息,但同时也会因为后真相的存在经历信任瓦解以及重建的过程。

1.3 算法的强势推荐导致社会公共价值的弱化

在算法推荐大规模应用的网络环境下,“受众本位”的技术原理使得个体价值不断彰显,导致社会主流价值凝聚力不断削弱。智能算法推荐实际上是网络信息分发的一种机制,首要目的是应对一些传统信息分发方式无法解决的问题,提高信息分发的效率,缓解信息过量与人的有限精力之间的矛盾,这就需要精准分析用户的信息需求。通过对用户数据的分析,算法勾勒出用户画像与信息特征,实现用户与信息之间的精准配对,使新闻信息呈现出“唯受众”的分发方式。而新闻媒体事业本质上应当是公共性和社会价值优先的,其在传播社会主流价值内容方面应该发挥出主渠道的作用,媒体平台应当将社会公共利益纳入自身运行的考虑范围,不断将社会主义核心价值观贯穿于网络信息分发的全过程,形成主流价值观教育良好的网络阵地。基于此,中国新闻职业道德准则便要求新闻媒体工作者的首要任务是坚持正确的舆论导向和全心全意为人民服务,即坚持以“人民为中心”的价值理念,而不是仅仅为了实现信息的分发[6]

然而,与传统新闻媒体服务于人民群众的价值理念不同,算法推荐的“受众本位”原理则是从工具理性的角度出发,内容分发更偏向服务于个别受众,更多从网络受众自身兴趣角度而非从社会公共价值角度出发来实现信息的价值。算法推荐以网络受众的个人兴趣为分发依据,决定着何种内容信息会展现在网络受众眼前。在此情形下,算法推荐将信息分发权力从人工主导转移到了机械主导层面,使信息的传播不再以“一对多”的多维发散,而是出现“一对一”的精准匹配,将信息分发和把关的权利交由数据决定,呈现出“去中心化”的特点。这种“受众本位”理念看似实现了网络受众对信息需要的主体地位,实则导致用户沉浸在订制的私人信息环境下失去了接受更多信息的权利,无形中被剥夺了自主获取多样化信息的主体地位,架空了网络受众的主体意识,使内容信息的公共性和社会价值遭到严重削弱。简言之,网络算法推荐信息分发模式下的用户所接收到的信息变得更加私人化,虽然满足了网络受众的个人需求,但是却使得体现社会主流价值的内容信息更加边缘化。

2 算法风险下的用户权益危机

智能算法在信息传播中扮演了至关重要的角色,然而,其应用也引发了一系列复杂且严重的问题。这些问题并非孤立存在,而是根植于算法平台作为市场主体所追求的利益之中。当深入剖析这些现象时,不难发现其背后隐藏着对用户授权权力的严重侵犯。在当今这个以商业利益为导向的算法环境中,智能算法往往过度追求短期收益,而忽视了对于大众利益的长期考量。这种倾向不仅导致了算法在内容推荐、信息过滤等方面的偏见和扭曲,更在一定程度上造成了网络受众的权益危机。

2.1 算法歧视侵犯用户平等权

所谓歧视,就是区别对待,也就是不平等和非正义。这是智能算法中不可避免的主要问题之一,因为算法操作的重要逻辑之一就是“贴标签”与“数据分类”,它是算法运行以后量化分析与运算的重要基础,而个性化推荐就是将信息细分,并将其与目标个体区分开来,个性化推荐过程便是一个将目标个体归类并加以区别的过程。“贴标签”“数据分类”在一定程度上也意味着“数据化”,会加深刻板印象与社会偏见,易对“分类”中独立个体产生错误判断与损害,以及认知偏见带来行动歧视等。简言之,算法歧视是指由数据驱动提出的算法模式可能造成歧视性实践及其结果;也就是说,智能算法能够再现既有社会歧视模式、传承先前决策者偏见,进而深化普遍不公平。

就算法歧视而言,算法设计者态度上的主观偏向、原始数据收集的偏向、数据解释上的偏向,均可能造成对最终执行结果上的歧视。首先,由于预先偏见而导致的算法上的歧视。这类偏见一般会出现于算法系统建立前,算法仅仅是把它回馈和变成了一种行为——歧视。也就是说,预先偏见会通过个体或者组织自觉或者不自觉地输入到算法系统:算法设计者与参与者可通过设计的方式,在算法中植入个人的偏见。其次,即便算法设计者并不植入个人的偏见,推荐算法所得到的数据也并非客观而没有偏见。算法来自真实的世界,所以不可避免地带有一种预先存在着的社会形态、文化与价值偏见,致使算法结果中还体现乃至放大不合理歧视现象,甚至算法开发者也抑制了对输入数据敏感的性质,一般包括有关种族、政治派别的问题、宗教信仰等数据。然而,尽管经过训练的机器学习算法能够在海量的数据集群中识别出显著相关的数据模式,但由于数据集的庞大性和复杂性,要全面识别和剔除所有潜在的“敏感数据”特征,几乎是一项不可能完成的任务。因此,就需要关注在利用智能算法进行决策时可能产生的算法歧视问题。有学者也对智能算法系统中的算法进行了分类,并分析了优先选择、关联选择与过滤排除等机制,这些机制若使用不当,将被视为直接的歧视行为,与造成不公平的差别待遇存在直接关联[7]。另外,该算法系统还为网络受众提供了一个全新的虚拟身份。与真正的身份不同,虚拟身份通过算法从数据主体足迹中推断出来进行划分,它会自动识别个人身份特征,比如性别、阶层、种族等。算法歧视增加了区域内信息资源的开发程度,提高了收入水平、性别、种族等差异在人群中分布的不均等,这样的歧视与偏见,经过智能算法后,又重新为人所固化,偏见的固化进一步拉大了“数字鸿沟”的范围。再次,智能算法中对每一类数据所设置的权重不一样,同样会造成间接歧视。除信息资源分配不公外,算法歧视也表现为“价格歧视”现象,比如,各种消费平台“大数据杀熟”。简单地说,偏见广泛存在于各种文化之中,以及智能算法为人造物品,这些偏见的蔓延是必然的,并且让它变得更隐蔽。在智能算法迅猛发展的当下,算法歧视所引发的风险日益凸显,其不确定性和难以预测性也随之加剧。

2.2 算法霸权侵犯用户自主权

自主就是自我管理,指能够构建自己的目标和价值的行为,并决定和采取行动来实现其目标的能力。然而,算法系统正越来越多地代替网络受众做出决定。接受智能算法,意味着在一定程度上放弃个体对信息获取与加工的自主与自决权,代表着接受算法为个人决定“见与不见”“多读什么,少读什么”。在这一过程中,算法自主性和主体自主性处于一种截然相反的局面。即算法的自主性增强后,人类这个主体的自主性就会下降,就连主体都会变得不显眼。到底是网络受众自主选择的信息还是算法主导了网络受众对信息的选择?这个问题有很大的争议[8]。在实践中,尽管根据网络受众喜好进行信息推送会通过算法自动实现,但不管是算法模型,还是个性化推荐系统,都是人主观创造的结果,算法运行的代码和程序都是由技术人员编写的,算法设计过程的各个环节不可避免地会受到人的主观因素的影响。因此,从表面上看,智能算法属于客观、中立的信息推送方式,满足了网络受众自主挑选资料的需求,而实际上算法筛选信息的背后隐藏着深层次的价值偏向,使得网络受众在信息选择上仍然会受到算法的影响。

在某种程度上,人们总是习惯使用符合既有兴趣和爱好的媒体,而忽略掉其他大部分媒体。算法推荐引起的信息闭合“过滤泡”会导致网络受众处于被孤立和隔绝的环境下,并且这种孤立很多时候是不被察觉的,更多时候是强制形成的。但是,当众多处于 “过滤泡”中的个体在某一范围中产生共鸣时,就会产生充分的信任感,聚集成为虚拟团体,这一团体在内部会增加共同信息之间的相互印证,形成圈子的价值认同并加剧用户固有的价值观偏执,并且外部很难渗透进去加以干预或引导。可见,算法推荐犹如一台巨大的过滤器,其催化形成的社群价值气泡正在改变社会价值共识凝聚的网络信息场域,阻隔了不同群体之间观点的交流,导致圈层群体之间的价值分化愈发突出,圈层群体的内部价值认同度愈发高涨,加剧了价值分化和群体极化现象,进而影响网络受众的价值选择,不利于培育网络受众对主流价值观的认同。

2.3 算法控制侵犯用户知情权

知情权是一种理解与信息获取自由的权利,包括对于所搜集到的个人信息,以及根据这些信息所加工出来的信用产品所享有的知情权。智媒时代,以算法为基础的信息推荐机制通常能够筛选出许多网络受众也许并不喜欢但是非常有价值的内容。另外,使用者还存在着一种选择性接触心理,偏向原本就与自身偏好相符的信息。所以,基于内容的推荐算法很好地利用了网络受众这一心理,按照网络受众偏好,持续推送相关资讯,让网络受众通过算法诱导,持续地信任推荐,貌似是根据内心意愿挑选信息。但智能算法实质上是一种基于个人兴趣偏好的内容信息推荐与分配机制,它导致网络受众所接收到的内容信息逐渐趋于同质化,这种现象可能限制了受众信息获取的多样性和丰富性。尽管智能算法技术能够给网络受众带来个性化信息要求,却又部分妨碍多元化信息偶遇机会。然后,当算法自动推荐时,网络受众个人信息视野渐窄,仅仅得到了同质化的信息。从这一观点来看,网络受众获得了数量众多的同质化信息,极易陷入“信息茧房”。

“信息茧房”是哈佛大学桑斯坦教授提出来的,即公众在信息传播中只关注自己选择的或能使自己愉悦的信息,长此以往则会将自己束缚在如蚕织就的信息“茧房”中[9]。“信息茧房”一旦形成,最严重的结果是减少公众接受信息的机会,把公众的眼光限制在信息的有限范围内,使网络受众失去认识外界的能力,对网络受众知情权造成困扰。公众有权获知与其利益紧密相关的信息,但是却被“信息茧房”所束缚,让网络受众仅仅专注于他们所关心的某一类资讯,造成对于社会的其他方面认识不足,因而屏蔽和剥夺了网络受众接受社会信息的机会和权利。智能算法会向每一位网络受众推送自定义信息,也就是网络受众所喜爱、所关心、所认可的资讯,并没有顾及到资讯自身的品质以及对于使用者所带来的价值。当网络受众花费较多时间与这些消息进行交互时,智能算法的精度就会越来越高,理想状态是根据网络受众的需求推送信息。在现实中,它反而会扰乱网络受众对于异质信息知情权的行使。知情权是选择权得以充分行使的必由之路,干预使用者的知情权,其实就是在无形之中剥夺了使用者的选择权利[10]。受制于信息服务平台,网络受众通常会被锁在同质化的算法推送信息之中。信息的同质化趋势导致网络受众形成了固定的信息获取习惯,这进一步促使信息平台强化了对相关信息的推送机制,从而向网络受众提供更为精准、更受欢迎的内容,但海量同质化的信息,无法为网络受众创造更大价值。相反,它凝固了网络受众的思维,形成较为单一的认知结构等,使得网络受众很难接受那些与其认知不符的意见。长此以往,使用者将渐渐拒绝其他信息,并趋向于接受与其意见类似的材料,这样就形成了某种“网络团体”。这类人群有着各自的视角与认知结构,并且有着属于它的标签,而且这些标签通常不符合其他人群的特点。当“网络团体”间存在观点分歧时,常常无法诉诸和平手段(如谈判)而倾向于采取诸如“对骂”等对抗性方式,这不仅不利于理性思维的培育,还可能诱发严重的社会问题。

3 以主流价值观导向应对算法风险引发的价值冲击

算法推荐从设计到使用都体现着人为价值观的嵌入。算法推荐最理想的使用状态是在尊重个性化需求下,提高获取信息的效率以开阔人们的视野。然而,由于权力干扰与资本入场,加之算法推荐本身的“黑箱”属性、过于依赖标签化等特征,违背正义和公平的价值观显然不利于网络受众的健康成长,其造成了主流价值观内容的失衡,深刻影响网络受众的价值观取向。因此,需要将主流价值观嵌入到涉及和影响网络受众价值观教育的算法推荐中。针对算法推荐在自主运作的信息分发中造成的价值偏差,通过将主流价值观纳入技术开发、数据内容选取、标签划分等阶段,可以纠正这一问题。因此,应当加强算法推荐的价值赋予,在算法推荐技术的研发与使用中以主流价值观为引领,为算法推荐的应用和优化指明方向,将主流价值观作为首要格律内嵌至算法推荐全过程,用主流价值导向引领算法推荐环境下网络受众的价值判断和价值选择,提高算法推荐时代主流价值观内容的传播。

3.1 确立算法推荐“向上向善”的价值原则

在算法推荐的设计之初,就应当确立其“向上向善”的原则,避免其沦为资本逐利的工具。资本逻辑的原始力量决定了智能算法推荐的开发和设计将不可避免地带有强烈的追逐商业利润的色彩。这就要求在主流价值观的强力干预下,使智能算法推荐的技术市场更加规范,遵循正确的方向,避免因资本的营利性而导致的忽视社会主流价值观的不利行为,确保算法推荐的使用不会对主流价值观造成负面影响,在保证其获取商业利润的同时,充分发挥其作为大众媒体的社会效益。在这一理念推动下,有关部门应当开创并完善算法推荐研发和治理的技术布局,围绕国家网络安全领域组建算法推荐技术重点实验室,形成以主流价值观引领算法推荐运行的科研力量。此外,还应当加强对算法推荐工程师、研发人员的教育和引导,使其充分认识到算法推荐技术的研发不单纯是一种技术操作,同时也是一场持续的社会活动,使其明确自身价值观念对算法推荐运作的影响,甚至在一定意义上影响着无数人的价值理念,进而塑造社会的主流价值基础。如果在研发过程中注入有悖于主流价值观的动机,将会造成严重的负面影响。因此,必须确保研发过程中能够有效地进行价值纠偏,以确保算法输出的结果符合社会的伦理和道德标准。这就要求算法推荐研发者在算法设计和预发布过程中,按要求做到严格规范算法推荐的输出输入逻辑和运行结果,不得设置诱导沉迷、过分推荐等违反主流价值观的算法模型。注重对“老人”教育的同时还应当接续“新人”的培育,要不断加强算法推荐研发人才队伍的建设,鼓励相关高校开设并加强算法推荐研发的相关专业学科建设,加大对算法推荐研发基础人才的培养力度,提高主流价值观注入算法推荐研发领域的成果激励。通过政策导向和市场吸引,发展高质量的算法推荐研发人员团队。

3.2 拓宽算法推荐的内容选取

为了更好地纠正算法推荐带来的狭隘认知和价值差异,在设计算法推荐操作模型时,有必要拓宽数据选取和信息选择的范围,提高技术对信息内容导向的分辨能力,扩展高质量内容的传播渠道,并努力在满足网络受众个性化信息摄取的同时增加信息推送内容的多样性,使其能够接触到更多有益的社会信息。这包括加强对网络媒体平台的合规监管,以深化社会管理,减少错误思想的传播。针对网络空间存在的虚假或不良内容等问题,有必要充分利用技术手段,推广新功能,以提高数字空间净化工作的效果。此外,为规范和监管数字算法平台内容,也可利用先进的数据大规模处理和智能技术,如文本和图像识别等信息化手段,来完善智能算法产品的自动筛查机制。运用先进的算法信息识别技术,对网络受众在平台上发布和分享的内容进行精准筛选、过滤净化,及时清除那些偏离主流价值观的信息,从而确保网络平台信息的高质量和安全性。

算法推荐池中的内容质量与配比决定了网络受众接收到的内容信息的质量和价值。现有的几类算法推荐机制都需要通过对内容信息进行标记分类,再把系统判定为“有用”的信息收纳到“内容推荐库”,然后根据网络受众的需求从中选择内容进行推送。一旦“内容推荐库”中充斥着娱乐化、低俗化,甚至虚假有害的内容,算法推荐便只能将这类内容推送给用户。由此可知,“内容推荐库”是作为内容分发的重要来源,确保推荐库中正向内容的有效占比是极为重要的。目前,算法推荐技术仅基于用户的信息偏好,导致“内容推荐库”里往往只是“流量至上”逻辑下的具有诱导盈利性质的信息,以及网络受众下意识中的个人喜好内容,缺乏符合个人成长发展所需的主流价值观内容。因此,有必要优化“内容推荐库”的内容配比,将适量的体现主流价值观的信息整合到“推荐库”中,协调信息比例,加大有利于对网络受众自由全面发展和凝聚社会价值共识有益的内容比重。这就要求各算法推荐平台除了以网络受众个人直接感兴趣的信息为中心进行推送外,还要将体现主流价值观的内容信息作为固定比例推送到网络受众有效接受的内容中,同时要以实际激励引导平台创造更多的包含主流价值观的正确导向内容,以确保网络受众主流价值观教育开展的广泛性和有效性。此外,还要适当利用“反向推荐”以扩大网络受众的信息接触面。既然算法推荐能够通过对现有的用户数据运算,猜测出网络受众的个人信息需求指向,反过来也能够分析出哪类信息不被网络受众所关注。在算法推荐的技术逻辑中既要增加对同类型信息推送频度的限制,又要辅以“反向推送”技术,在准确绘制网络受众喜好画像的条件下,进行反向定制化操作,尝试向用户推送一些他们可能不感兴趣但需要了解的内容,从而破除信息窄化和封闭的困境。

3.3 注重算法推荐的标签管理

为了有效地防范和打击错误社会思潮的传播,我们需要建立健全相关的法律规章,并严惩失范行为。同时,国家还应进一步加强对平台制度的完善和优化,以促进媒体行业的健康发展和其社会责任意识的提升。智能算法在信息传播中扮演着重要角色,因此通过引入更严格的规章制度,我们可以确保算法平台内容的质量和可信度。此外,各级网络信息办公室应当致力于推动制度规范的完善,强化组织协调工作,并设立健全责任追究机制。对于未能迅速应对不良信息的行为,应予以严厉惩处。通过构建有效的制度,可以从根本上确保网络环境的信息质量,保护社会权益和公众利益。

尤其在算法推荐根据网络受众数据分析勾勒“用户画像”时,应当注意对标签划分的合理安排。一方面,减少有害标签。根据《互联网信息服务算法推荐管理规定》要求,算法推荐服务提供者不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并加以推送信息[11]。如果将错误的价值导向作为推送系统的一个标签,不仅会造成网络受众在既有的错误观点的“回音室”里不断激荡强化,冲击主流价值观认同,而且还会引起不良信息的扩散传播,导致更多人误入歧途,引发社会动荡。另一方面,增加有益标签。通常在网上冲浪的网络受众普遍关注的是较为轻松娱乐的信息,一旦被打上“爱好八卦、综艺”等标签,同类的信息将在算法推荐的技术逻辑中被重复推荐,而体现主流价值观的高质量、优秀的内容就会被算法推荐所淡化。因此,算法推荐服务提供者应加强对网络受众的数据标签管理,适当扩充和完善用户模型中记录的兴趣点,如将社会主义核心价值观确立为独立标签,为体现正能量的内容提供流量加持,从而帮助网络受众提供接触主流价值观内容的概率。

总之,在算法推荐主导的信息分发时代,技术的研发者和应用平台应当坚持正确的价值取向,在技术设计和平台使用中增加更多的主流价值权重,在实现“个性化”信息推荐的同时,逐步融入“人性化”推荐。此外,网络受众是网络行为的主体,要超越算法阈限,提高对信息价值取向的辨识能力。因此,要培养网络受众的理性认知和系统思考能力,让其对信息内容保持警惕性和敏感性,让其逐渐养成动态思考、深入思考、全面思考的习惯,提升自己的理解和思考能力,进而形成正确的价值观和对社会主义核心价值观的认同。

参考文献

[1]

习近平. 加快推动媒体融合发展构建全媒体传播格局[J]. 求是, 2019(6): 4-8

[2]

何奥. 算法推荐视域下大学生价值观教育的特点、 机遇及优化策略[J]. 中国德育,2024, 19(9): 42-48.

[3]

谢金文. 移动传播中的新闻: 概念、 特点和真实问题[J]. 青年记者, 2020(10): 39-42.

[4]

SEBASTIAN G. Do ChatGPT and Other AI Chatbots Pose a Cybersecurity Risk?An Exploratory Study[J]. International Journal of Security and Privacy in Pervasive Computing, 2023, 15(1): 1-11.

[5]

魏俊斌. 治理算法: 思想政治教育网络智能环境治理的政策与趋势论析[J]. 思想教育研究, 2022(4): 50-56.

[6]

郭赫男, 何倩. 算法推荐视域下我国新闻价值观的解构与重构[J]. 西南民族大学学报(人文社科版), 2020, 41(6): 150-156.

[7]

刘培, 池忠军. 算法的伦理问题及其解决进路[J]. 东北大学学报(社会科学版), 2019, 21(2): 118-125.

[8]

张志安, 周嘉琳. 基于算法正当性的话语建构与传播权力重构研究[J]. 现代传播(中国传媒大学学报), 2019, 41(1): 30-36.

[9]

桑斯坦. 信息乌托邦[M]. 毕竞悦, 译. 北京: 法律出版社, 2008.

[10]

匡文波. 对个性化智能算法技术的伦理反思[J]. 上海师范大学学报(哲学社会科学版), 2021, 50(5): 14-23.

[11]

互联网信息服务算法推荐管理规定[J]. 中华人民共和国国务院公报, 2022(9): 71-75.

基金资助

2022年度湖北省教育厅哲学社会科学青年项目“新时代中国特色全过程人民民主研究”(22Q213)

2024年荆楚理工学院科研基金项目“网络智能算法环境下大学生价值观引导研究”(QN202402)

AI Summary AI Mindmap
PDF (600KB)

0

访问

0

被引

详细

导航
相关文章

AI思维导图

/