基于深度合成技术的文化科技伦理风险识别与善治机制

摘要

生成式人工智能技术的应用使人工智能直接参与数字文化的生产环节，既成为新质生产力，也增加了文化科技伦理风险。生成式人工智能在内容生成上导致的“幻觉”叠加深度合成在内容传播过程中的虚假效应，进一步扩展了人工智能在数字文化领域的潜在风险；即在核心内容生产层面涉及新型文化意识形态安全风险、文化内容安全风险、文化版权安全风险，在外围传播层面涉及文化数据安全风险和新型文化信息安全风险。生成式人工智能带来的文化科技伦理风险根源于智能时代文化资本的数字化、人机关系倒置化和认知方式的变化。文化科技伦理风险的善治机制亟须在全球治理体系框架下，整合核心技术研发、预见性制度规范与多元主体协同联动，形成政府、企业、公共三方的“组合拳”效应，以人机协同、善治向上的治理机制回应生成式人工智能时代数字文化新质生产力变革。

关键词

生成式人工智能 / 深度合成 / 伦理风险 / 善治机制