2022年11月，OpenAI公司推出的预训练生成式人工智能应用ChatGPT如日方升，仅2个月用户数量达到1亿，创造了新的历史纪录。全世界的科技公司纷纷加入生成式人工智能大模型的研发浪潮，随着Midjourney、Stable Diffusion、文心一言等生成式人工智能系统相继推出，全球人工智能的发展进入崭新阶段。
在生成式人工智能出现之前，专用模型作为传统人工智能的底层架构常见于某一特定的子领域，类似系统可以解决垂直领域的问题，但无法推广至其他领域或用于解决综合性复杂问题。例如，计算机程序“深蓝”和AlphaGo就是典型的专用人工智能模型，其功能和应用范围仅限于棋类游戏的计算和决策。再如，IBM公司开发的人工智能系统“Watson for Oncology”专用于分析癌症患者的临床数据，以辅助医生制定治疗方案。与传统专用人工智能模型不同，生成式人工智能不仅能够基于海量数据输出反馈，还可以通过与人类标注员、用户等进行多任务、多场景的强化学习，形成复杂语义的推理能力，进而更好地理解人类行为，完成可用于多领域的类人化活动。虽然生成式人工智能目前还未达到通用人工智能的理想状态，即“拥有与人类相当或超越人类的智慧，能够将知识广泛应用到不同领域，进行自我反思，并创造出根本性的创新和见解”
［1］37，但其具备的多领域应用能力已经展现出巨大的潜力，成为迈向通用人工智能的技术起点。
生成式人工智能已经在教育、医疗、科研、艺术等领域展示了强大的能力，但也带来主体责任认定、信息失序等一系列损害个人权利甚至威胁国家安全的风险和挑战。由此，世界各国进一步思考生成式人工智能的治理，全球人工智能的竞争正在从技术层面向治理监管层面拓展
11 ADAM X. US-China competition in tech expands to AI regulations[EB/OL]. （2023-04-21）[2024-01-13]. https://www.voanews.com/a/us-china-competition-in-tech-expands-to-ai-regulations/7061219.html.
。中国敏捷响应了对生成式人工智能的治理，2023年7月，国家互联网信息办公室等七部门联合发布《生成式人工智能服务管理暂行办法》（以下简称《暂行办法》），成为全球首部对生成式人工智能进行规范的单行法规。
本文在考察生成式人工智能原理和特征的基础上，对人工智能带来的威胁和挑战进行再识别，并结合中国和海外近年来针对新一代人工智能技术治理的政策法规，探讨如何构建兼顾安全与创新的中国治理方案。
一 生成式人工智能的风险再识别
（一） 产业新生态下主体责任认定之困
大语言模型是大规模预训练模型在自然语言处理领域的应用，也是生成式人工智能背后的关键技术。通过在大规模未标记数据上的无监督预训练，大语言模型能够捕获数据集的底层模式和结构，从而获得良好的泛化能力和学习迁移能力。有研究表明，以GPT-3、GPT-NeoX-20B、Megatron-11B、MT-NLG、Gopher等为代表的大语言模型预训练数据来源广泛，包括开源代码、维基百科、Reddit链接、Common Crawl网页数据集，以及书籍、论文数据库等网络数据
22 THOMPSON A D. What’s in my AI?[EB/OL].（2022-03）[2024-01-18]. https://lifearchitect.ai/whats-in-my-ai/.
。
在大语言模型的基础上，文本生成式人工智能采用了“预训练+精调”的开发范式
［2］，可以根据具体的应用场景和用户反馈对输出结果进行精调，生成原数据主题或领域之外的内容，适应跨越医疗、新闻传播、法律、教育等行业的多任务场景。例如，2023年3月完成产品内测的国内知识增强大语言模型文心一言，通过每日1万亿次的深度语义推理与匹配可以完成商业策划、长文摘要理解、心理咨询、数理逻辑推算、多模态内容创作等任务。大语言模型具备的底层通用能力带来了“大模型+应用”的产业新生态，以ChatGPT、文心一言为代表的一系列大模型正在成为人工智能时代的新型基础设施，并通过迭代升级巩固其作为“新基建”“加速器”“孵化器”的巨大潜力
［3］。
在“大模型+应用”构建的多样化生态系统下，2023年上游大模型和中下游企业之间复杂、流变的依存关系主要呈现出两种模式。第一种是“模型即服务”的直接依存关系模式。在直接依存关系模式中，服务提供商通过开放的应用程序接口（API）或衍生插件接入基础大模型，进而直接调用大模型的资源和架构为用户提供生成式人工智能服务。作为全球首个一站式的企业级大模型生产平台，百度智能云千帆大模型平台在2023年下半年实现2.0全面升级后，纳管了包括LLama 2全系列、RWKV、ChatGLM2、Dolly在内的55个国内外主流大模型，企业客户通过快速调用模型库中这些预置模型的API，就可以获取文心一言官方模型以及其他第三方开源大模型的强大功能
33 百度智能云千帆社区. 模型库[EB/OL]. [2024-01-13]. https://cloud.baidu.com/qianfandev/models.
。通过接入平台，第三方开源模型也可以获得在性能、安全、中文能力和上下文关联能力等方面的二次增强，如LLama 2在接入千帆大模型平台后推理能力提升了两倍
44 TechWeb.百度智能云千帆大模型平台率先适配Falcon-180B！[EB/OL]. （2023-09-11）[2024-01-13]. https://www.techweb.com.cn/news/2023-09-11/2933468.shtml.
。与之相近，开源人工智能运动的早期倡导者之一Hugging Face公司将这种“模型即服务”的观念推广到1万多名客户中，通过将基础大模型转换为开源的API，帮助各类企业跨越数据收集、模型训练等阶段，直接完成对模型的部署和调用
55 腾讯研究院.走向平衡：生成式AI的开源与专有模型之争[EB/OL]. （2023-10-10）[2024-01-13]. https://36kr.com/p/2468419532675207.
。
第二种是“模型+服务”的间接依存关系模式。在这种关系模式下，中下游企业既没有直接接入现有的通用大模型，也没有完全基于特定领域的数据源建立小型专用模型，而是采取了一种混合的方式，对开源的预训练模型进行扩展和改进，以更好满足不同专业领域的需要。目前全球最大的、由财经资讯公司彭博（Bloomberg）发布的金融大语言模型BloombergGPT就是在自回归语言模型BLOOM的基础上进行调整和改进的。为了适应金融科技领域的专业术语和复杂任务，BloombergGPT除了使用The Pile、C4、Wikipedia三个常见的公开数据集（占训练语料库的48.73%），还创建了一个由一系列英文金融文件构建的综合数据集“FINPILE”（占训练语料库的51.27%），包括新闻、文件、出版物、网络抓取的金融文件和从彭博档案中提取的社交媒体资料
［4］。在模型评估中，研究人员发现，BloombergGPT不仅在金融领域任务上优势明显，在通用任务上也不输参数规模接近的其他模型，这意味着垂直领域数据与通用数据的结合未必会显著牺牲生成式人工智能的通用能力。此外，要实现模型领域能力的提升，除了在通用预训练数据集的基础上增加专业领域数据集，对模型继续进行生成式预训练，还可以引入特定专业任务下的标注数据对基础大模型进行指令微调。在医学领域，有研究团队发现，将经过标注的中文问诊对话数据作为指令微调样本引入ChatGLM-6B等通用大模型，能以不到100美元的成本在13小时内实现对底座大模型的微调，得到一个具备医疗保健知识的中文大模型
［5］。
未来，基础大模型很可能像互联网时代的软件基础设施一样，为各个行业和应用领域提供底层算法模型。这一方面意味着，无论以何种模式与大模型共存，身处中下游的企业和平台都有机会表现出远超一般专用模型的学习和迁移能力。而另一方面意味着，生成式人工智能的通用能力是“隐式归纳而非显式构造”的
［6］，它也可能模仿人类的习惯和偏好生成不实甚至违法的信息。
在以上两种大模型应用模式中，技术支持者、模型部署者、服务提供者和用户都是生成式人工智能价值链上彼此依存的责任主体。这些主体身份在不同的应用场景中可能存在重叠或者分离。具体来说，进行模型开发和部署的研发主体虽然是大模型产业链中主要的技术支持者，但未必与下游应用层用户产生直接互动；而作为服务提供者的中层平台与用户有着紧密联系，却往往不具有调整或控制底层模型的能力；用户在向大模型提问的过程中获得了定制化的服务，用户行为在某种程度上也成为大模型的一部分，因此在责任认定环节，用户不再是完全被动的主体。类似情况在自动驾驶中已经出现，模型研发方、车辆制造商和驾驶者在具体的事故中承担哪些责任，并不是一个简单的法律问题。2018年，Uber公司的自动驾驶测试车辆在行驶过程中因未能成功识别一名推着自行车横穿多条车道的行人，导致全球首例自动驾驶车辆致死事故。尽管一年后美国亚利桑那州检察官办公室免除了Uber公司的刑事责任，但对于该事故的责任认定一直存在争议，直到2023年7月肇事车辆的随车安全员主动认罪后才得以判决。生成式大模型的应用很可能会进一步加大自动驾驶事故的预测难度，引发“幻影制动”（phantom braking）、重要决策失误等一系列问题。据此，人工智能大模型的应用风险不仅内嵌于技术研发质量，更在于产业链和价值链各主体的复杂互动关系，使得责任归属和行为规范需要考虑具体应用场景。因此，2023年中国人工智能治理的一个重要议题就是如何合理配置责任主体义务，完善对生成式人工智能的责任认定。
（二） 从机器智能过渡到人类智能的信息失序风险
信息内容风险是生成式人工智能治理的第二个重要议题。目前，学界主要根据生成的具体内容和模型应用全过程对大语言模型在数据获取、训练、存储、生成阶段可能引发的各类风险进行归纳和分析，其中常见的、最可能影响信息秩序的类型有伪造信息、有害信息、隐私信息、敏感信息和不实信息。用克莱尔·沃德尔和侯赛因·德拉哈斯汗的话来说，这些都是“信息失序”（information disorder）的表现，可以从“虚假性”（falseness）和“伤害意图”（harm）两个维度将它们进一步概括为三个类别：错误信息（mis-information），非主观意图导致的信息错误；虚假信息（dis-information），有意分享假信息以造成伤害；恶意信息（mal-information），有意分享真信息以造成伤害
［7］。信息失序并非生成式人工智能独有的问题，但却因技术的发展加速和放大了影响的范围和深度，信息失序风险在机器智能与人类智能的碰撞中正在发生“化学反应”。
1 错误信息
从机器智能的角度来看，目前生成式人工智能存在的“无差别学习”“幻觉”等技术缺陷是错误信息产生的重要原因。无差别学习主要体现在大语言模型对来自网络的大量低质量数据也进行了吸收和学习，不能选择性地与人类价值观和喜好对齐，需要借助人类标注员模拟用户与智能代理的对话，通过内置奖励反馈模型对输出结果不断精调。因此，大语言模型在面对新问题或处理新任务时，容易因为训练数据集代表性不足，产生“自信满满言之凿凿”的“幻觉”
［8］。根据输出内容与源内容之间的关系，有学者将自然语言处理中存在的幻觉现象概括为与源内容相矛盾的“内在幻觉”（intrinsic hallucinations）和无法从源内容中得到验证的“外在幻觉”（extrinsic hallucinations）
［9］。目前，文心一言、Bert、ChatGPT等大模型均采用以自注意力机制为核心的模型架构，通过学习给定数据中单词间的共生关系挖掘共生概率，最终实现自然语言合成。然而，这种“共生即关联”
［10］190的机器逻辑不能等同于理解语言实际意义的人类逻辑，基于词语间的共生概率可以生成语法正确、流畅自然的文本，但无法避免自相矛盾的内在幻觉和无中生有的外在幻觉。最终，那些以假乱真的错误信息在机器智能的粉饰下，以极其隐蔽的方式对人类的认知结构产生干扰和影响
［11］。
2 虚假信息
虚假信息是使用者利用生成式人工智能故意制造的假新闻或不实信息，以达到骗取流量、实施欺诈、操控舆论的目的。2023年4月25日，21个百度账号为了规避百度旗下平台“百家号”的查重功能，通过ChatGPT将搜索到的近几年社会热点要素进行了修改和编辑，在同一时间散布题为“今晨甘肃一火车撞上修路工人致9人死亡”的虚假信息，短时间内就获得了1.5万余次的点击量，成为全国首例利用生成式人工智能技术炮制虚假信息的案件
66 甘肃公安. 挖呀挖，甘肃公安侦破首例利用AI人工智能技术炮制虚假信息案！[EB/OL].（2023-05-07）[2024-01-13].https://mp.weixin.qq.com/s/_Wfe-EV13O6uBM65jZDzdg?poc_token=HM4QomWjX60PnCkV_1gECmoMkxikrO7ilNYe3ynS.
。2023年7月4日，浙江绍兴警方侦破浙江首例利用ChatGPT制作假视频案，其幕后团伙成员甚至连电脑都不能熟练操作……这些利用生成式人工智能骗取流量非法获利的案件表明，生成式人工智能技术的滥用会大大降低违法犯罪行为的门槛和成本。
值得警惕的是，目前GPT-4等主流大模型的训练数据集中，中文资料占比过低，产生全新的算法霸权风险，甚至可能在全球范围输出关于中国的不准确信息。为此，中国信息通信研究院在2023年3月28日启动了大模型技术及应用基准工作，联合业界主流创新主体优先发展以中文为主体，适应中国关键行业应用选型需求的大模型技术
77 北京商报. 中国信通院启动大模型技术及应用基准工作[EB/OL].（2023-03-28）[2024-01-13]. https://baijiahao.baidu.com/s?id=1761601917876252249&wfr=spider&for=pc.
。
3 恶意信息
恶意信息是包含主观意图的、会造成伤害的真实信息，但往往隐匿在“无意造成伤害的真实信息”之中。一个常见的例子是大语言模型可以在用户的诱导性提问下，抓取其他用户与之对话时输入的隐私、敏感信息或商业机密。2023年3月30日，韩国媒体曝出三星电子在使用ChatGPT不到20天内就发生了3起信息泄露事件，导致“半导体设备测量数据和产品良率被完好无损地传输给了美国公司”
88 이코노미스트. 우려가 현실로…삼성전자，챗GPT 빗장 풀자마자‘오남용’속출[EB/OL].（2023-03-30）[2024-01-13]. https://economist.co.kr/article/view/ecn202303300057.
。为了减少类似事件的发生，加拿大黑莓公司（BlackBerry）呼吁在工作场所谨慎使用生成式人工智能工具，并指出全球75%的企业正在禁止或考虑禁止在工作场所使用ChatGPT和其他生成式人工智能应用
99 BlackBerry. 75% of organizations worldwide set to ban ChatGPT and Generative AI Apps on work devices[EB/OL].（2023-08-08）[2024-01-13].https://www.blackberry.com/us/en/company/newsroom/press-releases/2023/75-percent-of-organizations-worldwide-set-to-ban-chatgpt-and-generative-ai-apps-on-work-devices.
。针对生成式人工智能暴露出的跨境数据泄露风险，中国正在积极探索制定与各行业特色相适应的自律规范。以支付行业为例，中国支付清算协会于2023年4月10日发布了《关于支付行业从业人员谨慎使用ChatGPT等工具的倡议》，倡导支付行业从业人员要依法依规使用ChatGPT等工具，不上传敏感信息，提升风险防范和数据保护意识。
二 中国生成式人工智能治理实践
（一） 多方主体共同承担治理责任
根据治理方式的收紧程度（封闭控制法或刺激法）以及国家干预的强度大小（强国家干预和弱国家干预），德国学者分析对比了截至2020年底欧盟和22个国家发布的1 829份人工智能治理政策，归纳出四类典型的治理体制：创业型（强国家干预+刺激法）；市场导向型（弱国家干预+刺激法）；监管型（强国家干预+封闭控制法）；自律型（弱国家干预+封闭控制法）
［12］。研究显示，在全球22个国家中，中国政府的活跃度最高，发布了219项治理政策，属于创业和监管并重的强国家干预类型。2023年中国依然保持人工智能治理的高活跃度，兼具创业型国家和监管型国家的治理特征，在坚持“发展和安全并重”“创新和依法治理相结合”的基础上，进一步明确了不同主体的角色定位和他们在信息失序等风险事件中的责任界定。
1 政府的促进和监督责任
首先是作为技术推动者的政府。中国政府十分重视人工智能的发展，2017年国务院印发《新一代人工智能发展规划》，将人工智能行业发展上升到国家战略层面。在科研方面，科学技术部把人工智能作为战略性新兴产业和新增长引擎，联合自然科学基金委员会启动“人工智能驱动的科学研究”（AI for Science）专项部署工作，目标是建设面向重大学科问题的人工智能模型，以解决药物研发、生物育种、材料研究等重点领域中的实际问题
1010 新华网.科技部启动“人工智能驱动的科学研究”专项部署工作[EB/OL].（2023-03-27）[2024-01-13]. http://www.news.cn/politics/2023-03/27/c_1129468666.htm.
。在算力方面，工业和信息化部联合有关部门印发了《算力基础设施高质量发展行动计划》，承诺通过统筹联动、金融支持、交流合作、平台支撑四项保障措施，实现到2025年算力规模超过300EFLOPS，存储总量超过1 800EB的总目标。在教育方面，教育部办公厅印发了《基础教育课程教学改革深化行动方案》，要求在国家中小学智慧教育平台持续开展人工智能等科技前沿领域的科普教育，遴选一批富有特色的人工智能教育中小学基地。此外，针对生成式人工智能，《暂行办法》第五条和第六条在平台建设、数据和算力资源共享、国际交流合作等方面明确了政府支持生成式人工智能技术在各行业领域的创新应用。
在一系列激励政策下，2023年中国人工智能行业发展势头强劲。据不完全统计，截至2023年5月，中国研发的大模型数量排名全球第二，仅次于美国，其中已经发布的、参数在10亿规模以上的大模型有79个
1111 央视网. 2023年世界互联网大会乌镇峰会·中国人工智能产业发展强劲 10 亿参数规模以上大模型已发布近80个[EB/OL].（2023-11-09）[2024-01-13]. https://tv.cctv.com/2023/11/09/VIDEgq196LtO50GtFynZ4Za6231109.shtml.
；截至2023年7月，中国人工智能核心产业规模达5 000亿元，企业数量超4 300家，5G基站超280万个，算力规模位居全球第二
1212 新华社.我国人工智能蓬勃发展 核心产业规模达5 000亿元[EB/OL]. （2023-07-07）[2024-01-13]. https://www.gov.cn/govweb/yaowen/liebiao/202307/content_6890391.htm.
。《2023—2024年中国人工智能计算力发展评估报告》预计，中国人工智能服务器市场规模将从2023年的91亿美元增长到2027年的134亿美元，五年年复合增长率达21.8%，高于全球水平（17.3%）
1313 中国新闻网.报告：预计2023年中国人工智能服务器市场规模将达到91亿美元[EB/OL]. （2023-11-30）[2024-01-13]. https://www.chinanews.com.cn/cj/2023/11-30/10120377.shtml.
。
其次是作为行政监管机关的政府。考虑到人工智能引发的风险可能会涉及各个领域，中国对人工智能的监督检查主要依托国家互联网信息办公室、公安部、科学技术部、国家发展和改革委员会等部门进行。以深度合成服务为例，《互联网信息服务深度合成管理规定》（以下简称《管理规定》）第三条明确指出，电信主管部门和公安部门负责深度合成服务的监督管理工作，网信部门负责统筹协调深度合成服务的治理和相关监督管理工作。为了更好地发挥各部门、单位在人工智能安全治理方面的专业性，中国网络空间安全协会于2023年10月12日成立人工智能安全治理专业委员会，首批成员涵盖人工智能领域的知名高校、研究院所、企业等58家单位，主要职能包括支持中国网络空间安全协会的高效监管和安全保障能力建设，推动宣传贯彻落实《暂行办法》等政策法规，建设大模型评测平台，开展系统安全、数据安全、算法安全、伦理与合规、隐私保护、知识产权保护等与人工智能安全相关的研究和综合治理
1414 中国网络空间安全协会.中国网络空间安全协会人工智能安全治理专业委员会[EB/OL]. [2024-01-13]. https://www.cybersac.cn/detail/1715185351980580866.
。
值得注意的是，《暂行办法》在规定了主管部门对生成式人工智能服务监管责任的同时，也对参与安全评估和监督检查的机构和人员行为进行了规范。具体来说，《暂行办法》在《生成式人工智能服务管理办法（征求意见稿）》（以下简称《征求意见稿》）的基础上，增加了任何机构和人员不得泄露或非法向他人提供在履行监管职责中知悉的国家秘密、商业机密、个人信息或隐私的规定，平衡了创业治理与监管治理间的张力。然而，《暂行办法》大量使用“有关主管部门”“有关机构”这类模糊表述，不易分辨不同情况下对应的责任主体，这在未来需要进一步明确。
2 服务提供者的内容提升责任
2023年6月和8月，国家互联网信息办公室先后发布了两批深度合成服务算法备案清单。在清单列出的151项算法中，有99项算法承担服务提供者的角色（如夸克智能小蜜客服机器人主要应用于智能客服场景，能根据用户输入的咨询内容，结合知识库生成答案），剩下52项则作为技术支持者服务于企业端客户（如华为云MetaStudio数字人照片建模算法主要应用于虚拟形象生成场景，能够为企业客户端提供由人像图片生成3D数字人模型服务）。然而，如前文所述，技术支持者和服务提供者的身份在不同的应用场景中可能存在重叠或分离，不能进行简单区分。因此，《暂行办法》在《管理规定》的基础上对服务提供者和服务技术支持者的含义进行了合并，指出服务提供者不仅指利用生成式人工智能技术提供生成式人工智能服务的组织和个人，同时包括通过API等方式提供服务的组织和个人。
通过梳理《网络信息内容生态治理规定》《新一代人工智能伦理规范》《互联网信息服务算法推荐管理规定》等近年来颁布的人工智能治理政策规范，可以发现中国人工智能治理的主要监管对象始终是信息内容，形成了“以‘三法一规’为中心的数据与算法安全治理制度顶层设计”
［13］。2023年，中国继续围绕“三法一规”，结合生成式人工智能的技术原理和风险特征，逐步完善适应人工智能最新发展的信息治理规章。为了防范错误信息、虚假信息这类与事实情况不符的信息失序风险，《征求意见稿》对服务提供者提出了生成内容“应当真实准确”的要求，但鉴于大模型现存的“无差别学习”“幻觉”等技术问题仅依靠人工标注和精调无法彻底解决，《暂行办法》第四条将服务者的责任调整为采取有效措施，以提升服务透明度、内容准确性和内容可靠性。这种鼓励式、提倡式的规范方式
［14］使得这一条款可操作性更强，更具现实意义。作为《暂行办法》的支撑性文件，全国信息安全标准化技术委员会发布《生成式人工智能服务基本安全要求（征求意见稿）》，从语料安全、模型安全、安全措施、安全评估等角度提出了服务提供者需遵循的基本安全要求，其中“模型安全要求”这一部分对《暂行办法》第四条中的“有效措施”作了进一步细化，明确了服务提供者在提升模型安全、服务透明度、生成内容准确性和可靠性方面可以采取的具体措施。
3 服务使用者的规范使用责任
尽管《暂行办法》也涉及对使用者的行为约束（如该办法第四条规定了提供者和使用者都应当遵守法律、行政法规，尊重社会公德和伦理道德），其主要规制对象还是服务提供者。根据《暂行办法》，服务提供者应当依法承担网络信息内容生产者责任，这一规定初步确立了“将服务提供者视为内容生产者并承担内容生产责任”的基本规则。同时意味着，使用生成式人工智能生成内容的服务使用者即使在人机交互中发挥了关键作用，甚至可能对内容生成结果产生了重要影响，也不需要对其侵权或违法行为承担相应责任。按照这种思路，在著作权等领域，只要发生损害结果，服务提供者就需要承担无过错责任
［15］。
显然，不适当加重服务提供者的责任会损害他们的积极性，也不符合《暂行办法》中“发展和安全并重”“创新和依法治理相结合”的原则。学界和产业界在两个方面建议优化规范方式。一方面，除了模型的开发和部署环节，使用环节的不当行为（如使用者的恶意诱导）也会导致信息失序等风险。在责任承担主体不明确的情况下，应当适用过错责任原则
［16］，需要同时考虑整个生成过程中使用者的责任和过错，并通过设定具体的权利和义务明确使用者的规范使用责任。例如，针对服务使用者恶意诱导生成的虚假信息或恶意信息，服务提供者若能够证明其在接到权利人通知后已经依法依约采取删除、屏蔽、拦截等必要措施，则无需承担侵权责任
［2］。另一方面，应当对存在主观过错的恶意信息与不存在主观过错的错误、虚假信息加以区分。对于不存在主观恶意，而是由于“幻觉”等不可避免的技术问题造成的一般侵权事件，若服务提供者已全面履行过程义务，可以参照“通知—删除”机制
［17］，采用“避风港”原则，以激励生成式人工智能产业的发展。
（二） “技术研发—行业采纳—公众服务”分层治理格局
在“模型即服务”与“模型+服务”的技术业态下，服务提供者与服务使用者作为核心责任主体，贯穿于生成式人工智能的全产业链。然而，这并不意味着他们在产业链的不同业态层次承担着完全相同的风险防范义务和法律责任
［18］。首先，生成式人工智能技术目前仍处于起步阶段，从实验室走向实际应用的过程中存在诸多不确定性。即便是已经大规模落地的基础模型，其功能也不仅限于与普通用户进行交互，提供文本、音频、视频等内容的生成服务，还可根据各行业需求为企业内部或特定垂直领域提供不直接面向公众的服务。因此，仅从内容生产或类GPT生成式人工智能的角度出发对整个行业作出统一要求，无法与技术研发和行业垂直应用的多样性相匹配。其次，新技术的早期发展往往受益于一定程度的责任豁免，对生成式人工智能的规制也应适当留出试错空间，以避免过度干预技术的自我迭代进程，影响其创新潜力的发挥。基于上述考量，2023年中国对生成式人工智能的治理从技术研发、行业采纳和公众服务三个层面出发，构建了以技术伦理、行业规范和行动准则为导向的综合治理框架。这一框架重新审视了不同业态层次下的主体角色和责任，以促进生成式人工智能的健康、可持续发展。
1 技术研发层次：指导性的伦理道德倡议
如果将技术视为支撑人工智能产业创新发展的基石，那么开发上游基础大语言模型无疑是实现生成式人工智能技术突破的关键环节。由于大语言模型的技术壁垒较高，投入大且风险高，需要庞大的数据、算力和人力资源，能够参与这类研发活动的仅是少数全球知名企业或科技巨头。中国头部企业前期侧重应用端的研发布局，因此短期内要在大语言模型技术研发层面实现突破仍面临诸多困难
［19］。当然这些困难并不是完全难以克服的，2023年，中国已经加大了对开源框架、算法模型等基础技术的研发投入，给予了中文大语言模型研发更大的施展空间。
在人工智能治理实践中，共性价值是整个治理框架的根基，起着统领性作用，需以道德理性为价值导向
［20］。个体是道德理性的承载体，但只有当个体的道德理性上升为集体的道德理性，即成为道德原则时，才具有普遍的约束力
［21］。当然，集体的道德准则不能停留于对典范性价值理念的空洞表达，需要借助建议、宣言、倡议等政策指引工具，构建技术研发的伦理规范。
中国在建设人工智能技术伦理规范体系方面已经具备了相对成熟的经验。国家新一代人工智能治理专业委员会于2019年6月发布《新一代人工智能治理原则》，突出了发展负责任的人工智能这一主题，提出将和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理八条原则作为人工智能治理的框架和行动指南。2021年9月推出的《新一代人工智能伦理规范》进一步细化落实治理原则，将伦理道德融入人工智能全生命周期，强调人工智能各类活动应遵循增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养六项伦理规范。2023年10月，习近平主席在第三届“一带一路”国际合作高峰论坛上提出的《全球人工智能治理倡议》，成为中方积极践行人类命运共同体理念，在全球范围内落实发展、安全和文明倡议的具体行动
1515 外交部.外交部发言人就《全球人工智能治理倡议》答记者问[EB/OL].（2023-10-18）[2024-01-13]. https://www.gov.cn/govweb/lianbo/fabu/202310/content_6910006.htm.
。
就目前而言，生成式人工智能仍缺乏针对性的伦理道德过滤机制
［22］。对于拥有模仿和创作能力的生成式人工智能，伦理指引既需要注意引导“使之与人类价值观和利益保持一致”
［23］530，也要警惕其习得人类社会固有的道德偏见。与此同时，生成式人工智能带来的主体责任认定之困、信息失序等风险都可能导致新的人类尊严危机，以人为本、增进人类共同福祉，始终是生成式人工智能技术研发、伦理准则设计、法律政策制定的价值依归
［24］。
2 行业采纳层次：约束性的行业法律法规
生成式人工智能大模型的服务群体既包括终端用户，也包括各垂直细分领域的下游企业。下游企业在上游预训练基础大模型的支持下进行个性化定制，形成更能适应不同行业需求的专业模型，以赋能不同行业应用场景。鉴于各行业的价值规范和秩序要求不尽相同，“将规则或风险级别分配给整个行业或技术”是不合理的
1616 A pro-innovation approach to AI regulation[EB/OL].（2023-08-03）[2024-01-13]. https://www.gov.uk/government/publications/ai-regulation-a-pro-innovation-approach/white-paper.
，对行业采纳层次的监管不应忽视其应用的场景性。换言之，对行业应用的规制需摒弃问题与方法的预设，坚持从具体的行业行为活动中发现问题、分析问题和解决问题，从而形成针对不同行业场景的行业性法律法规、政策条例或自律规范，实现对各垂直细分场景的约束性治理
［20］。
近年来，中国针对金融、医疗、人脸识别、自动驾驶等多个行业领域的专用人工智能技术，先后出台了《人工智能算法金融应用评价规范》《智能网联汽车道路测试与示范应用管理规范》《人工智能医疗器械注册审查指导原则》《人脸识别支付场景个人信息保护安全要求》等行业法律法规。随着生成式人工智能的广泛应用，人们的工作效率得到了显著提升，各行业在生产和管理方面的成本也得到了有效降低。这一趋势不断催生出新技术、新产品和新产业，并对传统行业提出了新的挑战。例如，在生成式人工智能参与创作的版权归属问题上，一直存在较大争议。Nature曾发表声明，明确禁止生成式人工智能创建的内容，以确保学术研究的诚信度和可靠性。为引导科研单位开展负责任的科学研究，中国科技部监督司于2023年12月组织编写了《负责任研究行为规范指引》，提出科学研究实践中应普遍遵循的科学道德准则和学术研究规范，其中就包括“不得使用生成式人工智能直接生成申报材料”“不得直接使用未经核实的由生成式人工智能生成的参考文献”“生成式人工智能不得列为成果共同完成人”等依规合理使用生成式人工智能的操作规范。
此外，中国音像与数字出版协会发布了《出版业生成式人工智能技术应用指南》，并宣布自2024年1月20日起开始实施。该指南规定了出版业应用生成式人工智能技术的基本原则、主要应用场景及相应保障措施，以确保利用人工智能技术生成的音像和数字内容导向正确、数据来源合法，从而促进技术应用向上向善。在未来的监管中，各行业对生成式人工智能技术的采纳应遵循相关行业法律法规的具体要求。同时，各主管部门也可对相关行业进行专业指导
［18］，以确保生成式人工智能技术合理地被行业采纳与发展。
3 公众服务层次：规范性的社会行动准则
风险导向的场景治理是人工智能风险规制的经典路径，在世界范围内，针对人工智能的风险等级治理已经引起了广泛关注。在众多治理文本中，高风险等级的应用场景通常与公共服务密切相关。这类场景涉及庞大的用户基数，可能导致风险的快速扩散和积聚，极易对公共安全和民众日常生活产生重大影响。
以欧盟2021年4月推出的《人工智能法案》为例，该法案作为全球首个以风险等级为导向的治理框架，对人工智能的风险等级进行了明确划分，包括“不可接受的风险”“高风险”“有限风险”和“最低风险”四个等级。其中，“高风险”应用场景被视为该法案规制的核心对象，涉及交通、教育、产品安全、司法民主等多个与公众利益密切相关的领域。
在此基础上，有学者结合中国的法律文本表达，进一步将生成式人工智能的高风险场景概括为“在对个人权益或社会公共利益有重大影响时使用生成式人工智能系统的场景”以及“重要互联网平台服务、用户数量巨大、业务类型复杂的服务提供者提供或使用生成式人工智能系统的场景”
［17］。对于这类存在于公众服务层次的高风险场景，仅依赖技术伦理和行业规范难以确保生成式人工智能的正确发展方向。因此，构建一套全社会成员共同参与的行动准则显得尤为重要。
《暂行办法》正是中国近期制定的、面向全社会的生成式人工智能治理行动准则。首先，作为本法的法眼，《暂行办法》第二条规定，“未向境内公众提供生成式人工智能服务的，不适用本办法的规定”，明确将其适用范围限定在公共服务层面，意味着生成式人工智能服务只有在“面向境内公众”时，才会受到该办法条款的约束。其次，《暂行办法》将规制重点从《征求意见稿》中的“研发和提供服务”限缩为“提供服务”，从而区分了公共服务业态层次与技术研发业态层次。具体来说，《暂行办法》一方面沿用了《互联网信息服务算法推荐管理规定》《管理规定》等以“服务”为基础的规制方式，以支持生成式人工智能技术的创新研发；另一方面通过强调“服务”而非“技术”的规制，跳脱出技术中立论和建构论的理论纷争，透过系统论的视角，“将人工智能所栖身的演化体系、组织形态、应用场景一并纳入规制，实现场景化和整体性兼备的治理”
1717 许可.专家解读｜制度与技术同频共振：生成式人工智能治理的中国方案[EB/OL].（2023-07-13）[2024-01-13]. http://www.cac.gov.cn/2023-07/13/c_1690898364234016.htm.
。
三 生成式人工智能治理的发展趋向：从事前预防到动态监管
中国数字技术风险治理通常采用基于风险预防的事前规制模式，强调监管主体在预见损害可能发生但实际还未发生的情况下，应当采取针对性的、预防性的有效措施防止损害发生。2023年，中国发布的《管理规定》《暂行办法》《全球人工智能治理倡议》等人工智能治理政策和伦理指引基本上遵循了预防性监管这一路径，旨在通过算法备案、风险定级等制度设计提升人工智能的可解释性，将以生成式人工智能为代表的人工智能新技术带来的一系列安全隐患予以提前防范。
算法备案是中国创设的一项针对算法治理的事前审查制度。《管理规定》《暂行办法》对其均有涉及，规定当服务具有舆论属性或者社会动员能力时，应当在开展安全评估后，按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。一般认为，在生成式人工智能治理中融入算法备案制度，能够促进服务提供者和使用者之间的沟通，有助于提升人工智能的可解释性和可问责性，而“明确的审查范围”是产生这些积极影响不可忽视的前提，因为范围过大会在一定程度上增加企业合规成本，范围过小又会增大服务安全风险
［14］。综合考虑可操作性、时效性和成本效益等因素，对于运行机制复杂、风险样态多变、潜在影响未知的生成式人工智能技术而言，能够形成与之完全适配的“明确的审查范围”的可能性和必要性都较低，算法备案制度难以起到在传统算法治理中的理想防范效果。
风险评估、风险定级等事前预防治理策略也许可以对成熟的人工智能产业形态产生显著效果，却不一定适用于生成式人工智能的治理，因为生成式人工智能因其强大的涌现能力需要一种更加灵活、更具包容性的治理思路。事实上，在2023年中国人工智能治理文本中，已经可以找到这种从静态事前预防到动态风险监管的治理转向。《暂行办法》在第一章《总则》中就提出了对生成式人工智能实行包容审慎和分类分级监管，明确将“包容性法律治理”作为生成式人工智能治理的中国方案。《全球人工智能治理倡议》则提出在推动建立风险等级测试评估体系的基础上，采用能够快速有效响应情境变化的敏捷治理范式。未来，中国人工智能治理要进一步探索如何克服传统治理中事前规制模式的局限性，怎样运用灵活、全面的治理工具克服“科林格里奇困境”，以实现生成式人工智能的包容性发展。
在“大模型+应用”的产业新生态下，以大语言模型为代表的生成式人工智能技术改变了人工智能治理的底层逻辑。一方面，大语言模型展现出远超传统专用模型的通用性和学习迁移能力，使得技术支持者、模型部署者、服务提供者和用户成为生成式人工智能价值链上彼此依存的责任主体，人工智能的应用风险与各主体的复杂互动关系变得密不可分；另一方面，生成式人工智能作为机器智能向人类智能的过渡，往往在机器智能的粉饰下，以人类不易察觉的方式存储、生产、传播错误信息、虚假信息和恶意信息，最终对人类的认知结构和社会的信息秩序产生干扰和影响。针对以上两方面治理难题，2023年中国颁布了《暂行办法》，学界和产业界围绕《暂行办法》形成了一系列配套的政策规范，明确了政府、服务提供者和服务使用者三大主体共同承担生成式人工智能治理的责任和义务，包括政府的促进和监督责任、服务提供者的内容提升责任、服务使用者的规范使用责任。此外，考虑到行业垂直应用的多样性，且生成式人工智能技术目前仍处于起步阶段，中国在具体的治理实践中区分了责任主体在不同业态层次的风险防范义务和法律责任，构建了“技术研发—行业采纳—公众服务”的分层治理格局。综合来看，2023年，中国基本延续了传统算法治理中采用的事前规制模式，涵盖事前、事中、事后的动态监管模式是未来的重点方向，而面对技术的迅速迭代和大规模应用，各利益主体综合探索更为敏捷的动态管理模式已提上日程。
国家社会科学基金重大项目(21&ZD318)
京公网安备11010202008535号
PDF
(980KB)
