面向VVC的QP自适应环路滤波器

摘要

现有的基于卷积神经网络(convolutional neural network, CNN)的环路滤波器倾向于将多个网络应用于不同的量化参数(quantization parameter, QP),消耗训练模型中的大量资源，并增加内存负担。针对这一问题，提出一种基于CNN的QP自适应环路滤波器。首先，设计一个轻量级分类网络，按照滤波难易程度将编码树单元(coding tree unit, CTU)划分为难、中、易3类；然后，构建3个融合了特征信息增强融合模块的基于CNN的滤波网络，以满足不同QP下的3类CTU滤波需求。将所提出的环路滤波器集成到多功能视频编码(versatile video coding, VVC)标准H.266/VVC的测试软件VTM 6.0中，替换原有的去块效应滤波器(deblocking filter, DBF)、样本自适应偏移(sample adaptive offset, SAO)滤波器和自适应环路滤波器。实验结果表明，该方法平均降低了3.14%的比特率差值(Bj?ntegaard delta bit rate, BD-BR),与其他基于CNN的环路滤波器相比，显著提高了压缩效率，并减少了压缩伪影。

关键词

视频编码 / 多功能视频编码(versatile video coding, VVC)标准 / 环路滤波 / 卷积神经网络(convolutional neural network, CNN) / 深度学习 / 图像去噪