数智技术的渗透正在重塑包容性治理的实践形态,但其影响呈现显著的“双刃剑”效应。一方面,技术通过普惠性基础设施建设大幅缩小服务鸿沟。工业和信息化部(以下简称“工信部”)推行的“互联网适老化及无障碍改造专项行动”,使微信、支付宝等应用程序的老年月度活跃用户数增长25%,医疗线上挂号成功率提升至75%
[1]。另一方面,技术应用中的排斥性问题日益凸显。有研究发现,算法偏见导致美国某招聘平台对女性求职者的评分系统性偏低
[2]。中国农村60~65岁年龄段的老年人智能手机使用率仅16.5%,难以享受线上公共服务
1。这种矛盾暴露了传统“技术—治理”二元框架的局限性,仅将技术视为效能载体“工具”或规制靶标“对象”,无法解释其对治理主体关系、规则体系与价值导向的系统性重塑
[3]。
现有研究还存在三个方面的理论缺口。其一,工具论视角过度聚焦技术效能,如Zuboff
[4]强调社会资本中的技术工具价值,却忽视技术中心主义可能导致的数字霸权,即强势群体通过技术垄断话语权。其二,对象论视角侧重风险规制,如Barocas等
[5]聚焦算法歧视的事后审查,但未能前置干预技术生成逻辑,导致监管始终滞后于技术迭代。其三,生态论视角虽关注技术系统互动(如Ostrom
[6]的自主治理理论涉及技术与主体的耦合),却未将包容性作为生态建构的核心价值,导致技术创新生态研究与弱势群体权益保障脱节。
基于此,本研究的核心问题包括:技术三重角色(工具、对象与生态建构体)的内涵边界、理论内核与逻辑关联是什么?生态建构体角色如何通过环境赋能、规则重塑与主体协同推动包容性治理目标实现?如何通过理论重构与制度设计规避三重角色的异化风险?
一 包容性治理与技术角色演进
(一) 包容性治理
包容性思想的核心是秉持以人为本的价值内核与权力分享的运作逻辑,将治理焦点置于政治与社会过程的公平性与开放性之上。它并非单纯的政策工具,而是关乎治理合法性、有效性与可持续性的基础性理念,旨在打破排斥性治理的局限,构建多元主体共生的治理生态。
1 包容性治理的重要性:多维价值的体现
包容性治理的积极影响具有系统性与多维度特征,深刻作用于政治、社会与发展等关键领域。其一,提升治理效能与合法性是包容性治理最直接的价值。当公民感知自身诉求被倾听且能影响决策时,对政府的信任感会显著增强。这种程序正义感知能强化对治理权威的认可。Tyler
[8]的研究表明,即使决策结果对自身不利,若人们认定过程公平,仍更愿意接受结果并遵守相关规则。这种基于参与和同意的合法性,远比单纯依靠强制力更为稳固持久,既能提升政策执行效率,又能夯实政府公信力
[9]。其二,包容性治理是维护社会公平与稳定的基石。它强调治理主体、机制和成果的平等性,重点关注弱势群体,以实现发展机会均等与发展成果共享
[10]。通过制度化渠道化解不平等与排斥问题,可有效疏解社会怨气,避免矛盾积累和激化。Sen
[11]指出,贫困本质是可行能力的被剥夺,而非仅收入低下。包容性治理正是通过保障公民的政治参与权、教育权等扩展其可行能力,从根源上缓解因能力剥夺而引发的社会冲突,维系社会和谐稳定。其三,包容性治理是推动创新与可持续发展的动力。作为柔性且可持续的治理模式,包容性治理以善治为目标
[12],依托多元主体参与汇聚差异化知识、经验和视角,这正是创新解决方案的核心来源。其四,包容性治理是实现联合国可持续发展目标(SDGs)的核心支柱。联合国可持续发展目标16(SDG16)明确提出“创建和平包容社会,建立有效、负责且包容的机构”。世界银行也指出,包容性制度是落实所有SDGs的基石,若无广泛参与和问责,消除贫困(SDG1)、提供优质教育(SDG4)等目标易因执行不力或资源错配而落空
2。
2 包容性治理的核心理念:权利、程序与结果的统一
包容性治理的三大核心理念是权利平等、程序正义和结果公平,三者相互关联构成完整的价值体系。第一,权利平等是从形式赋权到实质保障的伦理基础,作为包容性治理的逻辑起点,它不仅是法律文本中的抽象原则,更需要贯穿治理全过程。权利平等的理论源头可追溯至社会契约论,自然权利学说强调生命、自由与财产权是公民让渡权力给政府的前提,基于身份差异的权利剥夺违背契约本质
[13]。卢梭
[14]进一步以公意理论深化这一观点,指出唯有通过平等权利的制度确认,公民才能从自然自由走向政治自由。在现代治理语境中,权利平等已从形式平等转向实质平等。能力平等理论指出,单纯法律的赋权不足以实现真正平等,需关注不同群体实现可行能力的差异
[15]。这要求治理体系提供补偿性保障,确保权利从纸面落到实践。第二,程序正义是以制度设计守护参与公平的核心机制,它是连接权利平等与治理实效的关键纽带,其核心是通过可预期、无偏私的制度安排,保障所有参与者平等影响决策的机会。Rawls
[16]提出纯粹程序正义概念,以无知之幕为思想实验,论证了人们在不知自身社会地位、财富及能力前提下设计的程序,必然具备普遍性与公正性。Habermas
[17]的沟通理性理论进一步为程序正义提供了操作路径,强调程序的核心是“无强制的对话”,需构建多元主体平等沟通的平台,避免行政权力或资本力量主导话语权。第三,结果公平是矫正结构性不平等的实践导向,它并非追求平均主义,而是通过政策干预缩小历史与结构性因素导致的差距,实现实质性正义。高传胜
[10]指出,市场机制天然存在马太效应,贫困群体易因教育、医疗等资源匮乏陷入代际贫困,需通过矫正正义原则将公共资源适度向弱势群体倾斜。多元正义理论进一步指出,结果公平需兼顾经济、文化与政治维度。经济上需通过税收再分配保障基本生活,文化上需消除对弱势群体的歧视,政治上需为边缘群体预留参与名额
[7]。
包容性思想是一个内涵丰富的理论体系与实践目标,通过强调权利、程序与结果的统一,致力于构建一个更具合法性、公平性和韧性的社会。然而,克服形式主义、权力壁垒、资源不平等及数字鸿沟等挑战,需要持续的制度创新、资源倾斜和坚定的政治意志。在数智时代,如何将传统智慧与新技术结合,构建更具包容性的治理新模式是亟待研究的课题。
(二) 技术角色演进的历史逻辑
技术在治理中的角色随生产力变革与社会需求动态演进,呈现“工具主导—对象规制—生态建构”的清晰脉络。这一迭代本质是“技术能力—社会需求—治理范式”耦合的结果,而包容性维度从遮蔽到凸显,折射出治理价值从效率优先向公平优先的深层转型。
1 传统工业时代:工具角色的绝对主导与包容性的遮蔽(18世纪末至20世纪中期)
工业革命推动的蒸汽机、电力等技术将工具角色推向极致,通过机械替代与流程标准化提升生产效率,这种逻辑延伸至公共治理领域。Hounshell
[18]指出,福特汽车的流水线技术不仅将汽车生产时间从12小时缩短至1.5小时,其标准化管理更重塑了公共服务模式。政府借鉴工业流水线理念推行科层制治理,如标准化福利审批(1948年英国国民保险制度
[19])、规模化教育供给(美国20世纪初公立教育的工厂化模式
[20]),效率成为技术应用的唯一标尺。该时期的技术工具角色具有单向度性,被视为中立的效率载体,服务于“生产最大化”目标,弱势群体需求被系统性忽视。马克思批判的“机器异化”在治理领域显现。英国19世纪的济贫院采用机械考勤系统强制贫困人口按工厂作息劳动,技术成为压制工具
[21]。美国1935年出台的《社会保障法》初期依赖纸质档案管理,因农村地区邮寄效率低下,部分农民未能及时领取养老金,技术“标准化”反而成为包容性的障碍
[22]。
传统工业阶段的技术认知深受马克斯·韦伯工具理性支配,技术被简化为手段,目的正义被悬置。工具实在论
[23]在此阶段得到充分印证,技术作为人类能力的延伸,完全服从于效率逻辑,与社会的互动呈现“人类主导技术”的单向关系,包容性因缺乏价值支撑而被遮蔽。
2 数字时代初期:风险凸显与对象角色的兴起(20世纪末至21世纪初)
互联网与数据库技术的普及,使技术从物理工具升级为数字系统,其赋能效能倍增的同时,风险也从局部影响演变为系统性威胁,推动技术角色向“治理对象”转型。1995年欧盟发布的《数据保护指令》具有标志性意义,首次将个人数据视为需被规制的技术对象,要求企业收集数据必须获得用户明确同意,通过制度约束划定技术应用的边界
[24]。这一时期的技术风险集中于数据滥用与数字鸿沟。2000年美国Choice Point数据泄露事件导致数十万用户信息被倒卖,引发技术失控恐慌
[25]。而城乡数字鸿沟使技术赋能呈现马太效应,弱势群体被进一步边缘化。这些问题迫使治理者将技术视为“需驯服的对象”,规制重心从“促进应用”转向“防范风险”。
在数字时代初期,技术不再是单纯的工具,而是嵌入权力结构的“异化物”。Zuboff
[4]提出的监控资本主义理论揭示,互联网平台通过数据采集控制用户行为,技术的权力属性使其必须成为治理对象。但此时的规制仍停留在被动应对层面,如欧盟2001年发布的《电子隐私指令》仅针对已出现的Cookie追踪问题,对算法偏见等新兴风险缺乏预见,为生态建构体角色的崛起埋下伏笔
[24]。
3 数智时代:生态建构体角色的崛起与系统性包容的转型(21世纪10年代至今)
人工智能(AI)、大数据、物联网(IoT)的深度融合,使技术从独立系统演变为渗透式生态,与治理的关系从外部互动转向内在耦合,推动“生态建构体”角色成为主导。解胜利等
[3]的研究指出,数智技术突破工具功能性与对象被动性,通过“数据—算法—场景”的全链条嵌入,重塑治理主体关系、规则体系与资源分配模式,形成“技术即治理生态”新范式。这一转型的核心是技术推动系统性包容。在整合20个部门数据资源的基础上,中国构建起“识别—帮扶—退出”的全流程生态,使9 899万贫困人口获得“一户一策”的精准帮扶
3。欧盟2024年出台的《人工智能法案》不仅规制技术风险,更要求高风险AI系统必须纳入包容性设计条款,体现了技术生态对价值的主动嵌入
4。非洲也通过多语言交互、低带宽适配,耦合技术工具、本土知识与社区网络等构建“本土化AI生态”,使农村群体的技术使用率提升。
这一阶段印证了技术生态系统理论的要素耦合逻辑,技术不再是孤立的工具或对象,而是通过与政府、市场及社会的互动形成有机整体,其包容性价值通过“环境赋能—规则重塑—主体协同”的系统作用实现。共生论在此阶段得到充分体现,技术与社会相互塑造,包容性成为维系共生关系的核心纽带。
二 数智时代包容性治理的技术三重角色
(一) 工具角色:效能赋能的逻辑与局限
技术作为工具的核心价值在于通过功能性应用延伸治理能力,其内在逻辑植根于效能提升与权利拓展的双重追求。这一角色与Ihde
[23]的“技术关系论”中的“工具实在论”保持呼应,即技术是人类能力的延伸,通过“具身关系”强化人与治理环境的互动效能。在包容性治理语境中,这种赋能具体表现为接入赋能与表达赋能的协同作用。
1 核心机制:从“能力延伸”到“权利实现”
接入赋能的本质是通过数字基础设施消除地理与生理壁垒,为弱势群体提供“工具性自由”。森
[15]在“可行能力理论”中强调,个体实质自由的实现需以信息获取、服务可及等工具性自由为基础,而技术工具正是这类自由的重要载体。当前,中国行政村宽带已完成全覆盖,第四代移动通信网络(4G)也成为标配
5,这为偏远地区居民移动办理社会保险、医疗保险等提供了便利。而针对残障群体的“信息无障碍改造”更凸显技术的具身性延伸,如北京地铁的盲用导航系统,通过触觉反馈与语音提示大幅降低复杂环境中的迷茫出错率,通过技术弥补了生理能力短板
[26]。印度Aadhaar系统则通过生物识别技术提高该国成年人银行账户拥有率,减少了农村就业保障计划的资金流失
[27],体现技术作为接入赋能工具对再分配正义的支撑作用。
表达赋能则聚焦通过参与式工具降低弱势群体的发声成本,体现为平等参与权。传统治理中,边缘群体常因时间、交通或语言等成本被排斥在公共决策之外,而技术工具通过“去时空化”特性重构参与路径。如浙江温岭的“互联网+民主恳谈”智慧治理模式实现直播云议政、专家云顾问、投票云决策,推动协商从线下转向线上,依托直播平台与方言语音交互功能,解决老年群体参与障碍,有效提升了60岁以上群体的发言频次,相关意见被采纳比例也获得显著提升6。自2021年起,华为携手联合国教科文组织、肯尼亚教育部、肯尼亚通信与数字经济部、肯尼亚通信机构ICT Authority等共同发起DigiSchool项目,为当地30所学校接入光纤网络,其中包括4所女校和6所聋哑学校,使12 000名偏远地区师生从中受益7。这些实践体现出技术作为“表达工具”实现“代表权正义”的初级形态,让弱势群体的声音进入治理议程。
2 理论困境:工具理性的悖论与价值中立的幻象
技术工具的赋能逻辑始终面临“工具理性悖论”的挑战。韦伯提出的“工具理性”强调效率最大化,但当这种逻辑主导治理时,反而可能加剧排斥。目前,36.6%的老年人会使用智能手机
[28],但其中约3/4却因“操作复杂”而放弃使用线上政务服务
[29],这折射出技术“效率优先”原则带来的负面效应。更隐蔽的矛盾在于,技术工具的普适性设计常隐含着“标准用户”假设,如默认应用程序的使用者具备识字能力与数字技能,系统性排斥了不识字群体和视障群体。可见,工具理性主导的技术设计会固化“人类适应技术”而非“技术适配人类”的异化关系。
“价值中立幻象”则暴露了技术工具的权力嵌入性。Noble
[2]研究发现,一些招聘算法对女性求职者的评分系统性偏低,根源是训练数据中男性主导的职业样本被视为“标准”,导致技术工具成为固化性别不平等的载体。类似地,默认使用英语界面的扶贫应用程序可能导致非英语使用者无法获取帮扶信息。以上均说明技术工具绝非“中立载体”,其设计逻辑必然反映开发者的价值偏向与权力结构,体现出“承认正义缺失”,即技术工具通过隐性排斥否定弱势群体的文化与身份价值
[7]。
(二) 对象角色:风险规制的逻辑与困境
当技术工具的风险出现,特别是超越效能时,其自然就兼有了治理对象的角色,即需要通过制度约束来规范技术应用。“技术关系论”中的“批判理论”认为,技术并非单纯的工具,而是深度嵌入社会权力结构的“异化物”,需通过规制平衡其与人类的关系
[23]。在包容性治理中,这种规制表现为过程规制与结果规制的双重维度。
1 核心机制:从风险防控到责任锚定
过程规制聚焦算法全生命周期的伦理审查与动态监测,通过“透明性要求”破解技术“黑箱”。欧盟《人工智能法案》将AI系统分为低风险和高风险两类,要求医疗及教育等高风险领域的算法必须公开训练数据来源、决策逻辑与偏差测试报告,其中针对移民群体的福利分配算法还需额外接受第三方伦理审查8。这种规制与程序伦理中的“可解释性”原则高度一致,要求技术决策的逻辑必须为受影响群体所理解。挪威在医疗AI政策中强调“预防伤害”和“实施评估”阶段的伦理审查。以Helse Bergen医院开发用于预测患者再入院风险的AI系统为例,其开发阶段的伦理审查重点关注数据隐私保护与算法偏见预防,具体措施包括数据安全处理、审查训练数据代表性以涵盖少数族裔和低收入群体,并引入外部伦理专家评估算法逻辑及调整特征权重(如老年患者),以提升公平性9。过程规制通过“权力介入”打破技术主导的单向决策,使弱势群体参与技术规则的制定。
结果规制则侧重于对技术应用后果的责任追溯,通过“可问责性”原则保障受损权益的救济。美国《算法公平法案》规定,若AI系统在住房或就业领域造成歧视性结果,即使开发者无主观恶意,仍需承担整改责任并赔偿损失10。贵州建设“四库一平台”药品精准追溯体系,通过药品追溯码实现全流程无感采集,并建立了“智能发现—实时预警—快速查证”的管理闭环,为识别不同群体报销比例差异提供了技术基础11。这种规制体现出“责任伦理”的要求,即技术应用的后果无论是否出于故意,都需有明确的责任主体承担。
2 理论困境:规制失灵与创新抑制的双重悖论
技术迭代速度与监管能力之间的结构性错配是技术作为治理对象的主要困境,也被称为“规则失灵”。生成式AI的爆发式增长使传统“事后审查”模式失效。从欧盟数据保护委员会的AI审计项目可知,现有工具在评估生成式AI时,仅能检测训练数据中显式标注的偏见(如性别、种族),对多语言语境下的文化刻板印象(如方言歧视、地域偏见)缺乏有效识别手段
[30]。更根本的矛盾在于技术黑箱的“不可解释性”。如深度神经网络的决策过程,监管机构即使发现歧视结果也难以追溯具体成因
[5]。这种困境也被认为是“象征性仪式”,此时,技术复杂度已经超越了人类认知能力
[23]。
“创新抑制”则是另一重风险。过度严苛的规制可能扼杀惠及弱势群体的技术创新。在某些地区,针对医疗AI的前置审批流程极其复杂且周期漫长,这使得一些专注于慢性病管理、旨在降低低收入群体医疗负担的轻型数字化工具,因初创公司无法承受漫长的审批时间和高昂的合规成本而无法落地。这种“规制优先于包容”的逻辑与“承认正义”的初衷相悖,因为规制的目的是保障平等,而非因存有风险而剥夺弱势群体的技术红利。更隐蔽的问题在于规制标准的“精英化”倾向。欧美主导的“算法透明度”和“可解释性”伦理框架多以西方语境为基准,与特定地区的实际技术需求和应用场景并不适配。如坦桑尼亚基于TensorFlow的AI应用Nuru,可以快速诊断木薯病害,从而提升农作物产量12。但如果强制此类应用全面公开其训练的模型和完整源代码,对当地小型农技公司而言,将带来难以承受的损失与风险。
(三) 生态建构体角色:系统包容的逻辑与优势
技术的生态建构体角色超越工具的功能性与对象的被动性,通过“技术—主体—资源”的要素耦合塑造包容性治理生态。这一角色也是“共生论”的体现,技术与社会形成相互塑造的有机系统,而非单向作用的工具或对象
[23]。同时,该角色通过“要素耦合与动态平衡”,实现“代表权正义”,构建让弱势群体平等参与治理生态的结构性路径
[7]。
1 核心机制:从“系统搭建”到“价值嵌入”
环境赋能是生态建构的基础,通过搭建“技术—主体—资源”协同的基础设施,为包容性治理提供硬件支撑。浙江“浙里办”政务服务平台通过统一移动端和数据共享技术,整合各级政务资源,打造了“一网通办”的服务生态。它超越信息查询工具角色,以适老化改造、无障碍访问及方言识别等功能,主动构建包容性治理环境,确保老年人、残障人士等群体能够平等便捷地获取公共服务
13。这一生态的关键在于“数据要素的包容性耦合”,不仅整合政府数据,还纳入电商消费记录、手机信令等反映弱势群体真实生活状态的数据,避免传统统计中的“精英偏差”现象。类似地,非洲Farmerline平台构建的“卫星遥感+本地农师+AI聊天机器人”技术生态,通过卫星数据监测作物生长,农业技师提供本土化指导及机器人多语种信息推送,帮助农民提升作物产量
[31]。这种生态突破了单一工具的局限,通过多要素协同实现“环境赋能”。
作为生态建构的核心,规则重塑推动治理规则从“人工主导”向“数字协同”转型。智能合约技术在公共服务中的应用很好地体现了这一点。新疆的“区块链+医保”项目系统通过区块链智能合约自动执行报销规定,取代传统的人工审核与部门盖章,实现了医疗保险缴费权益业务的“秒办”
14。规则重塑的本质是“用技术编码替代行政裁量”,减少人为因素导致的排斥。关于海洋生态治理的研究发现,在政府、企业及渔民多方通过数字平台共享数据并以智能合约约定权责后,违规捕捞举报率显著提升
[32],也证明了技术生态对规则公平性的强化作用。
主体协同是生态建构的保障,通过多元主体的网络式互动破解科层制的碎片化局限。“技术治理联盟”模式就是一种良好的协同机制,政府负责制定标准,企业提供技术支持,社区组织培训老年群体使用智能设备,社会组织则监督算法公平性,这种“四方协同”使浙江“未来社区”适老化改造的居民满意度获得提升
[3]。主体协同让弱势群体代表进入生态治理网络,避免技术生态沦为精英主导的封闭系统。
2 理论优势:突破二元框架的系统性包容
首先,生态建构体角色的优势是突破工具角色的局部性赋能,实现系统性支撑。工具角色的赋能往往局限于单一领域,如某类应用程序的适老化,而生态建构体则通过多要素耦合形成“全链条包容”。2020年,工信部启动“互联网应用适老化及无障碍改造专项行动”,以“技术适老+制度创新”双轮驱动,聚焦老年人、残障人士的高频使用场景,通过技术创新、标准引领、评测认证、法治保障等举措,推动互联网应用改造,提升数字包容度15。从技术生态系统理论看,这是“要素耦合”产生的“1+1>2”效应,数据、技术与主体的互动创造了单一工具无法实现的包容价值。
其次,生态建构体角色实现“事前嵌入”,化解了对象角色的被动性规制。对象角色的规制多为事后补救,而生态建构体通过将包容性指标纳入技术生态的评估体系,从源头上避免排斥。谷歌的Euphonia项目通过包容性设计增强语音识别技术对语言障碍人士的适应性。该项目向公众开放征集数据,要求每位参与者录制300条语音样本,用以训练大语言模型识别多样化的发音模式和节奏。这种方法将包容性测试前置到技术开发初期,通过纳入广泛的非标准语音数据,力求使技术适配不同使用者的需求。项目最初聚焦英语数据,随后启动了法语、印地语、日语和西班牙语等多语种试点,以扩展其技术的包容性
16。巴西美妆公司Grupo Boticário在其技术和产品开发初期便植入了包容性审查机制,利用Amazon Bedrock和Anthropic Claude 3 Sonnet模型,为电商平台图片自动生成描述文本,并引入人工审查环节优化准确性,确保信息对视障用户友好。同时,其推出的智能唇膏、适应性化妆刷等产品,在开发中充分考虑了残障人士需求,并进行了针对性的包容性测试,以确保功能的实用性与普适性
17。从“代表权正义”视角看,这种生态设计让弱势群体的需求成为技术发展的“元规则”,而非事后弥补的对象
[7]。
三 三重角色的互动机制与异化风险
技术在包容性治理中的三重角色并非孤立存在,而是通过动态互动形成“功能互补—风险制衡—生态共生”的有机整体。这种互动既可能呈现推动包容性提升的正向循环,也可能因角色偏离陷入“排斥—僵化—失衡”的异化陷阱。对其互动逻辑与风险根源的理解是构建技术良性治理生态的前提。
(一) 正向互动:从“线性作用”到“生态循环”
技术三重角色的正向互动是动态过程,生态建构体搭建包容性基础,工具角色释放效能红利,对象角色防控潜在风险,三者形成“支撑—反馈—约束”的循环,推动治理从局部包容走向系统包容。
首先,生态建构体为工具角色提供适配性环境。工具效能的发挥依赖技术基础设施与用户能力的匹配,而生态建构体通过“硬环境建设+软能力培育”破解这一难题。以中国“适老化改造专项行动”为例,生态建构体的作用体现在两个方面。硬件上,推出“千元适老手机”,通过“政府补贴+企业让利”模式,将价格控制在发达国家同类产品的1/3;软件上,针对中国特殊需求开发的技术方案,如采用“汉字大键盘”解决非拼音文字输入难题,“亲属代操作”模式满足儒家文化圈家庭养老需求等18。罗马Parioli是一个拥有112个国家移民的社区,被称为“小联合国”,其依托市政厅开发的“数字邻居”应用程序支持12种语言的实时翻译,居民可在线参与社区预算分配、文化节策划等事务,议事参与度不断提升19。此时,环境要素与工具要素产生耦合效应,生态为工具扫清落地障碍,工具则通过用户反馈优化生态设计。
其次,工具角色为对象角色提供精准规制的数据支撑。对象角色的风险规制需以“可测量的偏差”为前提,而工具角色产生的参与数据恰好为算法审计提供了“校准基准”。欧盟长期以来都积极主动地拓展监管科技的使用范围。例如,Atlas系统就是一个综合区块链、AI等技术的全新决策过程解决方案,能够辅助监管部门进行会议决策、书面程序和授权批准的准备和后续工作。Agora平台则通过综合大数据、光学字符识别和AI等技术,整合与监管相关的信息资料,为监管机构提供一站式的审慎数据分析服务
20。在国内,美团通过技术手段平衡各方利益对算法进行治理,其推出“骑手防疲劳机制”,当识别到骑手跑单超过8小时,骑手应用程序会弹出提醒,跑单12小时将强制下线
21。同时,通过“等灯等灯奖”计划正向激励骑手培养安全习惯。针对配送难点,平台结合骑手反馈与算法监测数据,综合考量距离、出餐速度等因素合理设定配送时间,以数据支撑实现对算法运行的精准规制。这种“数据反馈”机制使对象规制从经验判断转向精准施策,一种“基于证据的平等保障”要求
[7]得以达成。
最后,对象角色为生态建构体划定可持续边界。生态建构体的扩张若缺乏约束,可能异化为“技术霸权”,而对象角色通过制度规则设定“不可逾越的红线”。《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》均有关于数据处理活动的总体原则及对个人信息的处理、保护等的详细规定,可以有效避免“数据被企业滥用”的问题。2018年5月生效的欧盟《通用数据保护条例》将被遗忘权和删除权视作同一民事权利,规定在同一法律规范中。其第17条规定了删除权,即数据主体在6种情形下有权要求数据控制者删除其个人信息。其中,第6种情形明确规定监护人在特定情况下可以对儿童个人数据进行处置
22。而被遗忘权是合法发布或正当处理的数据,脱离数据主体控制时权利人可以主张删除的权利
[33]。以上权利保护机制可有效防止技术生态过度和不当使用个人信息,包括老年人及残障人士等群体的敏感信息,保障了生态建构的伦理底线。
(二) 异化风险:角色偏离与传导效应
当三重角色的互动失衡时,将产生“单一角色异化—风险传导—系统失灵”的连锁反应。这种异化是技术逻辑对治理价值的背离,工具角色异化为“效率至上”的霸权,对象角色异化为“规避风险”的枷锁,生态角色异化为“垄断控制”的工具,最终共同侵蚀包容性治理的根基。
1 工具异化:从“赋能”到“数字霸权”
工具角色的效能逻辑若失去价值约束,可能演变为排斥性统治。Zuboff
[4]揭示的“监控资本主义”现象即是例证。由资本控制的社交媒体平台通过算法左右流量分配,挤压真正值得关注的社会议题空间,使舆论场受算法黑箱操控并产生严重的“信息茧房”效应。2025年国庆中秋假期,“鸡排哥”刷屏网络,短视频平台用流量算法打造现象级“素人网红”,导致诸如景德镇酒店供需失衡背后的城市服务短板等更值得关注的公共问题被淹没
23。更隐蔽的霸权体现在“标准制定权”上。“盲人办卡要求睁眼认证”“病重老人被要求亲自去银行取钱”等负面案例都表明,公共服务中的技术设计逻辑应充分考虑到弱势群体的特殊需求
24。2025年6月,《人脸识别技术应用安全管理办法》正式实施。其中,第十条明确规定,实现相同目的或者达到同等业务要求,存在其他非人脸识别技术方式的,不得将人脸识别技术作为唯一验证方式;第五条规定,处理残疾人、老年人人脸信息时,必须符合无障碍环境建设相关规定,并遵循最小必要原则。技术应该为人们生活带来便利而非障碍,其标准制定应该满足包容性设计原则。
2 对象异化:从“规制”到“技术锁死”
对象角色的风险防控若走向极端,将形成“为安全而牺牲包容”的悖论。欧盟《人工智能法案》采用风险分级制度对AI技术的研发和部署施加严格限制,如要求高风险AI系统使用“合法获取”的训练数据。但欧盟自身对版权例外的解释却存在争议,且不同成员国之间的法律规定存在差异,这使得企业在合规过程中面临诸多困难。以一家中型AI公司开发医疗诊断系统为例,其不仅需要承担数据集清洗、第三方评估及人工监督等合规成本,还会导致产品上市周期延长,在一定程度上牺牲了技术创新的包容性。2023—2025年,芬兰持续强化其与俄罗斯东部边境的管控以应对“混合移民威胁”,不仅部署了热成像仪、无人机等综合技术监控体系,还通过专门立法允许在特定区域“拒绝接受庇护申请”。这些措施虽然减少了非法越境人数,但也引发了包容性危机,导致地处边境的拉普兰地区旅游业收入下滑,并打断了当地萨米族的传统驯鹿放牧活动25。此案例表明,当技术纯粹服务于排他性安全目标时,可能会动摇包容性治理的基础。
3 生态异化:从“共生”到“生态霸权”
生态建构体若被单一主体控制,将形成“技术生态垄断”,从而排斥多元参与。在亚马逊HQ2项目选址过程中,其获取了参与竞标的238个城市的大量数据,并要求20个最终入围城市签署保密协议,向公众和官员隐瞒有关投标的信息。该案例一方面体现了亚马逊在数据获取和使用上的不透明性,另一方面也会对城市规划和社区发展产生影响26。西班牙在线旅行社平台缤客(Booking.com)凭借其市场支配地位,通过平台规则人为操纵酒店排序,优先推送支付更高佣金或提供折扣房的酒店信息以提升其排名。该平台还根据酒店为其带来的盈利水平决定其能否参与“优选”等计划,此举导致酒店倾向于集中在该平台销售,进而损害了其他竞争旅行社的利益,并降低了非付费酒店的曝光率27。技术生态系统理论指出,健康的生态需保持“要素多样性”,而生态异化恰恰通过垄断破坏了这种平衡。
(三) 风险根源:技术—价值—制度的错配
三重角色异化的深层次影响因素在于技术设计的包容性缺失、治理价值的效率优先与制度安排的权责失衡三者的叠加效应,这种错配使技术与包容性治理的目标从协同走向对抗。
1 技术层面:设计中的包容性盲区
技术工具与生态的设计若缺乏对弱势群体的情境化考量,则会产生排斥。Noble
[2]发现,主流搜索引擎的算法对“black girls”的关联推荐中包含大量的色情内容,且与“white girls”的搜索结果形成鲜明对比。这一结果的根源在于训练数据天然含有偏见基因,嵌入了社会对黑色人种女性种族与性别的双重刻板印象,而搜索引擎的利益至上与垄断地位进一步放大了这种偏见。在政务热线等场景中,35%的用户会使用方言进行咨询
28,但很多政务应用程序并未考虑该因素,导致使用方言的用户被排斥。以上案例显示出技术系统的“用户画像偏差”问题,作为技术开发者的城市精英和作为现实用户的农村老人、残障人士等存在对“需求”认知的系统性差异,导致技术设计仅为单一的“精英视角的投射”
[34]。
2 价值层面:技术中心主义的霸权
技术中心主义将效率与创新置于公平之上,使包容性沦为“技术发展的副产品”。当前自动驾驶的行人检测系统因训练数据偏差,对儿童和深肤色人群的识别准确率较低,这暴露了技术设计阶段对人群多样性的忽视。更有甚者,部分系统在路径规划中竟会基于赔偿成本进行决策,主动规避豪华车辆29,这种“算法达尔文主义”将商业利益凌驾于生命平等之上。以上案例共同揭示了技术非中立性的危害,无论是数据偏差,还是利益排序,都源于设计初衷对包容性价值的系统性忽视,最终导致技术成果并非普惠共享,反而可能加剧社会不公30。
3 制度层面:治理主体的权责失衡
当技术生态的主导权掌握在企业手中,且公共责任约束缺失时,异化风险便难以避免。如中国85%的网约车平台由企业自主制定派单算法,政府仅进行事后监管,导致平台可随意降低司机抽成透明度,最终损害弱势群体权益
[35]。iBorderCtrl是一个使用AI进行面部“测谎”以加快移民检查的欧盟项目。但对其伦理评估却通过企业自审的方式进行,在缺乏外部有效监督的情况下,系统会出现误判,导致“形式合规”问题的出现
31。这种“企业主导—政府缺位—社会失语”的权责结构,使技术生态的包容性缺乏制度保障。
四 包容性治理的优化路径:三重角色的协同规范
(一) 工具角色优化:从“效能优先”到“价值嵌入”
工具角色的异化源于“技术中立性”幻觉下的价值缺位,其优化可以采取“设计嵌入包容”与“能力弥合鸿沟”双轨并行机制,使技术工具不仅是效率载体,还是公平媒介。
技术设计的包容性需要用法律法规予以强制性规范。《美国残疾人法案》要求所有商业实体的网站和数字服务必须对残障人群友好,确保残障人群能够平等地获取信息和使用服务。《康复法案》第508条对美国联邦政府使用的信息与通信技术(ICT)产品和服务设定了无障碍标准,要求这些产品和服务在设计、开发、采购和维护过程中,必须考虑到残障人群的需求以满足他们的无障碍使用。欧盟《欧洲无障碍行动》要求欧盟成员国确保公共部门的网站和移动应用程序满足基于EN 301549的无障碍标准。中国2012年8月正式实施的《无障碍环境建设条例》规定了无障碍设施的建设标准,对公共服务机构提出了明确的无障碍服务要求,并强调信息无障碍的重要性,要求政府及公共服务网站必须达到一定的无障碍信息交流标准。包容性融入技术设计符合“具身关系”理论中技术需主动适配人类差异,而非要求人类妥协于技术标准的要求。
数字素养培育的生态化建构则解决“能力排斥”问题。《“十四五”数字经济发展规划》提出“提升全民数字素养和技能”,具体措施包括为老年人开设特色课程、面向西部地区打造数字素养提升教育平台、在农村地区开展技能培训等32。2020年,西班牙政府推出了“西班牙数字2025计划”,宣布投入1 400亿欧元用于全面数字化转型。该计划涵盖10个主要改革目标,其中就包括加强劳动者数字技能培训,使80%的民众掌握基本的数字技能等33。
(二) 对象角色优化:从“事后规制”到“全周期治理”
对象角色的僵化根源在于“风险应对”的被动性,对其优化可以通过构建“研发—应用—迭代”全链条规制体系来实现“风险预防”与“创新包容”的平衡。
前置干预机制是一种有效的对象角色优化路径,它将伦理审查嵌入技术生成环节。法国国家人权咨询委员会发布了《关于人工智能对基本权利影响的意见(A-2022-6)》,建议对AI系统的用户施加要求,以确保尊重基本权利,包括进行影响研究、咨询利益相关者以及在系统的整个生命周期内进行监督等
[36]。此外,荷兰代尔夫特理工大学强调AI系统开发中的以人为本理念,采用将工程和伦理相结合的设计方法,确保系统能够体现公平、安全与隐私等价值观念,从而平衡算法使用过程中复杂的准确性与公平性,并在算法使用的每个阶段积极预防偏差
34。
动态监管的“算法沙盒”机制则为创新试错提供安全空间。英国金融行为监管局的“AI沙盒”允许企业在可控环境中测试普惠金融工具,从而降低可能阻碍金融科技创新的准入门槛,同时为监管机构提供认知新兴技术的机会35。沙盒的关键价值在于“差异化监管”,不仅降低服务弱势群体的技术准入门槛,也强化过程监测。
(三) 生态建构体角色优化:从“技术主导”到“多元共治”
生态建构体的异化源于“单一主体垄断”,其优化需要通过“治理结构重组”与“价值指标锚定”构建真正的包容性技术生态。
多元协同的治理架构需赋予弱势群体“生态话语权”。欧盟人工智能高级别专家组的成员结构具有广泛代表性,汇聚了来自学术界、产业界、民间社会组织和公共部门的专家。该专家组制定了《值得信赖的人工智能伦理准则》,强调AI系统必须尊重人类尊严、保障公平性,并避免歧视。该准则推动相关方在开发AI应用时,更加关注数据多样性和算法公平性,通过纳入弱势群体数据优化模型,提升对其服务的精准度,在AI生态中保障弱势群体的权益和话语权
[37]。国内也有典型案例,上海市松江区渔洋浜居民区的智慧门禁改造就充分体现了多元参与和对弱势群体的关怀。新系统提供IC卡、面部识别、手机识别等多种开门方式,并设有“30秒保安联动开门”和“亲情号码远程授权”等功能。为确保系统长效运行,社区与电信公司组建专业维护团队,志愿者组成“技术帮帮队”上门协助居民使用,并为行动不便者提供开通服务
36。“多元共治”说明生态健康需要依赖“要素多样性”与“权力均衡性”。
包容性指标的硬约束则使生态建构有章可循。基于ROAM原则,即人权(R-Human rights)、开放(O-Open)、可及性(A-Accessible to all)和多利益相关方参与(M-Multistakeholder participation)的联合国教科文组织互联网普遍性指标具有良好的包容性,其结合了跨领域指标,如性别、儿童权利和需求、可持续发展、环境影响、信任和安全以及先进数字技术等
[38]。而中国数字乡村指数则由北京大学新农村发展研究院与阿里研究院联合编制,采用乡村数字基础设施、乡村经济数字化、乡村治理数字化、乡村生活数字化等5个一级指标和39个二级指标对数字乡村指数进行测度
37。以上包容性指标的建设对技术生态的建构具有良好的指导性。
(四) 协同保障机制
三重角色的优化还需要依托法律、技术及文化的系统支撑,形成“制度约束—技术监测—价值引领”的闭环保障。
作为顶层设计的法律保障需要明确权责边界。2014年,巴西《互联网民法框架》颁布。它是巴西数字权利与包容性治理的顶层设计文件,包含数字权利保障、权责划分、包容性接入等核心内容,具体规定了数据保护、自由表达、网络中立等原则,通过实行“普遍服务基金”提升农村网络接入率38。而《中华人民共和国数字经济促进法(专家建议稿)》也在第二章“数字基础设施”、第五章“数字治理”中明确要求数字基础设施要“服务便捷”并“保障数据安全与个人信息”39。
技术支撑的包容性实时风险预警系统做到了防患于未然。湖北省于2024年初由省安全生产委员会办公室牵头,建立了省、市、县三级风险隐患监测预警平台。该平台集成卫星遥感、物联网传感器等11种监测手段,并运用90亿参数大模型进行实时数据分析,一旦发现异常,系统可自动生成红、橙、黄、蓝四级预警,并直接推送至相关企业和监管人员。自2024年8月上线以来,平台已成功处置6 000余项隐患,使企业事故率下降6.6%,处置时长缩短50%40。菲律宾Alerto PH社区级应急预警平台则突破传统“政府主导”预警模式,将烟雾报警器、水位传感器等接入家庭端应用程序,适配农村、偏远社区等基层场景,实现“家庭—村级—地方政府”多层级预警联动,普通居民可通过手机接收实时提醒41。
文化培育的价值重塑还需渗透至技术研发全流程。2018年,腾讯启动“科技向善”项目,将“未成年人保护”纳入游戏研发全流程。研发初期设立专项小组,要求游戏需求文档明确“防沉迷设计模块”;开发阶段强制接入保护系统,按年龄段设计时长限制、消费限额等功能;测试与迭代阶段引入家长、学者等组成的外部评审团,专项测试保护功能42。2019年,谷歌成立高级技术外部咨询委员会,将“算法公平性、群体包容”嵌入AI研发决策。立项阶段要求AI项目提交伦理影响评估报告,未通过则暂停;开发过程中委员会定期审查,要求优化搜索算法数据训练集以改善少数族裔内容推荐;上线后建立公平性监测指标,要求优化方言搜索模型,使阿拉伯语等用户满意度获得提升43。文化培育将“承认正义”转化为技术共同体的行为准则,即承认弱势群体的差异价值,并将其嵌入技术创新的基因。
五 结语与展望
本文通过系统解构数智时代技术在包容性治理中的角色谱系,揭示工具、对象及生态建构体三重角色的动态互动逻辑。这一谱系并非线性替代关系,而是功能互补的有机整体。工具角色作为治理效能的基础载体,通过接入赋能与表达赋能拓展弱势群体的可行能力。对象角色作为风险防控的制度保障,通过过程规制与结果规制保障技术应用的承认正义。而生态建构体角色则是实现系统性包容的核心动力,其通过环境赋能、规则重塑与主体协同,破解传统治理中工具效能碎片化、对象规制被动化等局限。贵州精准扶贫大数据支撑平台打通公安、教育等17个部门和单位的相关数据,形成精准识别生态,欧盟《人工智能法案》要求技术生态嵌入包容性指标等实践,均证实生态建构体对“技术—主体—资源”耦合的关键作用,契合技术生态系统理论强调的“要素动态平衡”。三重角色的正向互动依赖协同机制。技术设计层面需要嵌入包容性价值,制度规制层面需要适配创新需求,社会参与层面则需要弥补数字鸿沟。而角色异化是追求效率优先及垄断倾向的技术逻辑与崇尚权利平等及多元参与的包容价值的深层错配,工具理性霸权、技术锁死、生态垄断等风险,均源于这种错配未得到制度性矫正。包容性治理的实现需要超越“技术决定论”与“技术怀疑论”的二元对立,构建“技术—价值—制度”三位一体的理论框架。其中,技术是载体、价值是灵魂、制度是保障。三者协同方能确保技术角色始终服务于“减少排斥、扩大参与”的治理目标。
理论建构虽然覆盖技术角色的宏观互动逻辑,但仍存在两重局限。其一,对不同治理场景的角色适配差异关注不足。城市与农村的技术基础、群体需求存在显著分野,这种差异导致工具角色的赋能路径与对象角色的规制重点必然不同,但本研究未深入探讨场景化适配机制。类似地,发达国家与发展中国家的技术生态成熟度差异,也未在理论框架中得到充分体现。其二,对新兴技术的颠覆性影响缺乏前瞻性分析。生成式AI的“内容自主生成”能力正在重塑工具角色的赋能逻辑;量子计算的“算力跃迁”将打破现有加密体系,使对象角色的风险规制面临“算法不可追溯”的新挑战。这些技术变革对三重角色框架的冲击,本研究尚未形成系统性回应。基于上述局限,未来研究可从三方面拓展。其一,场景化延伸研究。在基层治理场景中,可探索“社区微生态”中三重角色的适配机制。在全球治理场景中,可分析跨国技术生态如何通过角色协同保障发展中国家中小商户的权益。其二,技术前沿的理论回应。针对生成式AI,需关注其“内容生产自主性”对生态建构体角色的重塑。针对量子计算,需探索“算力民主化”路径,避免生态建构体被少数技术巨头垄断。其三,跨文化比较研究。通过对比中国“政府主导型”与北欧“社会参与型”技术治理模式中三重角色的差异,可揭示不同治理传统下角色协同的文化适配性,为全球包容性治理提供多元参考。
在数智时代包容性治理视域中,技术还可从信息流动、需求响应、主体互动与权益保障等治理关键环节切入,扮演更具“微观适配性”与“价值导向性”的角色。这些角色不同于三重角色的宏观定位,聚焦弱势群体的具体需求,推动治理过程的公平性落地。其一,技术作为“信息中介”,通过信息整合、通俗转化及精准触达消除弱势群体在政策、服务与资源等领域的信息壁垒,让信息全民可及。它不仅提供信息获取工具,更主动适配弱势群体的信息接收能力。其二,技术作为“需求感知者”,通过多源数据的动态分析,主动识别弱势群体未被明确表达的隐性需求。它聚焦微观个体的差异化需求,填补传统治理中弱势群体话语权弱及需求传递难的缺口。其三,技术作为“对话枢纽”,搭建政府、企业、社会组织与弱势群体之间的平等对话平台,通过去层级化与去话语权垄断设计,让弱势群体的声音能直接进入治理决策环节。它不仅提供参与渠道,更通过机制设计保障弱势群体的“话语权重”。其四,技术作为“权益保障者”,通过不可篡改记录、实时监测及自动预警等功能,对公共资源分配、政策执行过程进行全周期追踪,防止弱势群体权益被侵占,并在受损时提供可追溯的证据支持。它更侧重于“事前预防+事中监测+事后追责”的全链条保障,而非仅对技术本身进行规制。这些角色并非孤立存在,“信息中介”提供的普惠信息为“需求感知者”提供数据基础;“需求感知者”识别隐性需求通过“对话枢纽”转化为议事议题;“对话枢纽”形成的决策依托“权益保障者”确保落地公平,最终与原有的“工具—对象—生态建构体”形成“微观适配—中观规制—宏观建构”的完整技术角色体系。
国家社会科学基金后期资助项目(24FXWB025)