生成式人工智能的数据风险及其法律规制

摘要

生成式人工智能在引领技术变革的同时也引发了诸多法律风险。根据生成式人工智能的运行机理，可以发现其中存在四大类数据安全风险，其主要原因在于算法高度信任对法益保护的冲击、技术演变中科技伦理规范的缺失以及用户数据主体权利保障不足等。针对生成式人工智能在数据输入阶段的数据源合规风险，研发企业内部应制定具有可操作性的数据合规计划，并在合规计划中制定详细具体的风险规制措施，强化企业合规经营；与此同时，通过多种措施积极响应用户对于数据主体权利的请求，确保模型训练数据来源合法合规。针对生成式人工智能在模型处理阶段的算法黑箱与算法偏见风险，应加大监管力度，重点关注算法的安全性与公平性，积极推进并完善相关立法，细化算法备案和算法解释义务，提高算法技术透明度，落实算法主体责任。针对生成式人工智能在内容输出阶段的数据滥用风险，应优化监管机制，实现全链条合法性监管，完善科研伦理规范并予以实质审查，引领技术向善，实现科技向善治理。针对生成式人工智能在数据存储阶段的数据泄漏风险，应通过技术与管理制度相结合的方式进行全方位规制，严格控制数据共享范围并贯彻数据分级分类保护，及时有效地防范数据泄露风险。

关键词

智能算法 / 生成式人工智能 / 数据风险 / 法律规制