基于监督对比正则化项的信息蒸馏生成对抗网络

陈亚瑞; 王晓捷; 李晴; 刘浩天; 史艳翠; 赵婷婷

doi:10.13364/j.issn.1672-6510.20240023

天津科技大学学报 ›› 2025, Vol. 40 ›› Issue (02) : 61 -70. DOI: 10.13364/j.issn.1672-6510.20240023

基于监督对比正则化项的信息蒸馏生成对抗网络

陈亚瑞, 王晓捷, 李晴, 刘浩天, 史艳翠, 赵婷婷

作者信息 +

Author information +

文章历史 +

PDF (2573K)

摘要

传统生成对抗网络主要通过最大化解耦表示和生成数据之间的互信息来学习解耦表示，较少分析解耦表示各维度之间的独立性。本文提出一种基于监督对比正则化项的信息蒸馏生成对抗网络(informationdistillationgenerative adversarial net based on supervised contrastive regularization,IDGAN-SC)。首先，IDGAN-SC模型利用β-VAE模型学习解耦表示空间，约束解耦表示空间和生成模型之间具有强相关性；然后，通过最大化解耦隐向量和生成数据之间的互信息对模型进行解耦表示学习，进一步利用监督对比正则化项的对比分类信息增强解耦隐变量各维度之间的独立性。在d Sprites、MNIST、CelebA数据集上，分别从定性和定量的角度设计了对比实验，实验结果表明相比已有的生成对抗网络的解耦性能，IDGAN-SC模型具有较强的解耦能力并具有明显的解耦效果。