面向信号调制解调深度分类模型的数据与模型联合剪枝方法

摘要

当前，深层卷积神经网络已在多个领域取得突破性进展，其优异表现源于其深层、广泛、密集的网络结构，尤其在通信领域的信号分析、频谱感知等领域获得广泛应用.现有工作表明信号调制解调分类任务中采用深度分类模型已经取得较好分类性能.然而，大规模卷积神经网络在实际应用中所面临的大量运算和存储问题，使得其在实际应用中面临着严峻的挑战.大多数现有的模型压缩方法对软硬件库依赖性高、剪枝规则需要手工设计，实现过程复杂，而且无法高效地部署.为了解决上述问题，本文提出了一种数据-模型架构的联合剪枝方法.首先，在模型端，针对批归一化层进行了稀疏化训练，通过引入缩放因子精细调整各通道权重，并以此剔除冗余通道；其次，在数据端，结合训练过程中的数据反馈，利用统计方法识别出频繁被遗忘的样本构建一个遗忘子集；最后，利用这个子集对模型进行微调从而提升模型的性能并加速其推理速度.实验在CIFAR-10、CIFAR-100图像数据集和RML2016.10a信号数据集上针对VGGNet和ResNet模型进行验证，与现有的压缩算法相比，本文提出算法在保证较高精度的前提下也能够提高模型的压缩效率.

关键词

信号调制解调 / 卷积神经网络 / 模型剪枝 / 模型压缩 / 数据压缩

基金资助

浙江省自然科学基金项目(LDQ32F020001)资助; 国家自然科学基金项目(62072406)资助