基于退化分布感知的迭代式水下图像增强网络

周圆 ,  朱浩岳 ,  李硕士

湖南大学学报(自然科学版) ›› 2025, Vol. 52 ›› Issue (8) : 44 -54.

PDF (6089KB)
湖南大学学报(自然科学版) ›› 2025, Vol. 52 ›› Issue (8) : 44 -54. DOI: 10.16339/j.cnki.hdxbzkb.2025282
计算机科学

基于退化分布感知的迭代式水下图像增强网络

作者信息 +

Iterative Underwater Image Enhancement Network Based on Degradation Distribution Perception

Author information +
文章历史 +
PDF (6234K)

摘要

由于水对光的吸收作用和悬浮颗粒散射效应等因素的影响,不同场景的水下图像往往呈现出复杂且非均匀的退化特征.即使在同一张水下图像中,不同区域的退化程度也因为场景深度的不同而有所不同.现有的大多数水下图像增强模型未能针对退化图像非均匀退化的特点进行专门设计,导致增强效果不佳.为了解决这一问题,本文提出了一种基于退化分布感知的迭代式水下图像增强网络.该网络由预增强模块、退化分布估计模块和图像精细化模块三部分组成.其中,预增强模块初步估计图像的增强结果;退化分布估计模块和图像精细化模块采用迭代合作的方式对增强结果进行优化.实验结果表明,本文提出的方法在UIEB、EUVP、LSUI三个基准数据集上的视觉质量和定量指标方面均优于所比较的方法.

Abstract

Underwater images from different scenes often exhibit complex and non-uniform degradation due to factors such as light absorption by water and the scattering effects of suspended particles. Even within the same image, the degradation degree varies across regions due to differences in scene depth. The most existing underwater image enhancement methods fail to specifically address the non-uniform degradation, leading to poor enhancement results. To solve this issue, this paper proposes an iterative underwater image enhancement network (IUIENet) based on degration distribution perception. IUIENet consists of three modules: a pre-enhancement module, a degradation distribution estimation module and an image refinement module. The pre-enhancement module initially estimates the enhancement result, while the degradation distribution estimation module and the image refinement module optimize the enhancement results using iterative cooperation. Experimental results demonstrate that IUIENet outperforms the compared methods in both visual quality and quantitative metrics on the UIEB, EUVP, and LSUI benchmark datasets.

Graphical abstract

关键词

水下图像增强 / 深度学习 / 退化分布感知 / 迭代优化 / 门控机制

Key words

underwater image enhancement / deep learning / degradation distribution perception / iterative optimization / gating mechanism

引用本文

引用格式 ▾
周圆,朱浩岳,李硕士. 基于退化分布感知的迭代式水下图像增强网络[J]. 湖南大学学报(自然科学版), 2025, 52(8): 44-54 DOI:10.16339/j.cnki.hdxbzkb.2025282

登录浏览全文

4963

注册一个新账户 忘记密码

水下图像作为重要的信息载体在水下视觉任务中发挥着重要的作用.但是,拍摄的水下图像往往质量比较低,存在细节模糊、色偏、低亮度等缺陷.两个主要的原因导致了水下图像的退化.首先,水对不同波长的光吸收特性不同,光的波长越长,水对光的吸收作用越强.因此,获得的水下图像通常呈现明显的蓝色或绿色色调.其次,悬浮颗粒的散射效应会导致水下图像对比度低、场景模糊等问题.根据水下成像模型1,传感器接收的光强可以表示为:
Ic(x)=Jc(x)tc(x)+Bc(1-tc(x))
式中:Icx是观测到的退化图像;Jcx表示清晰的水下图像;Bc是背景光;tcx是图像的透射率,其取值范围为[0,1],表示光在传播过程中的衰减程度;c表示红(R)、绿(G)、蓝(B)三个通道.透射率tcx可表示为一个和波长相关的指数衰减函数:
tc(x)=e-βd(x)
式中: β表示水的衰减系数;dx表示场景与相机之间的距离.该公式揭示了两个关键的物理约束: 1) 透射率同时受波长λ和深度dx影响,导致不同颜色通道、不同区域的衰减呈现显著差异;2) 退化程度与场景深度呈指数关系,使得相同水体环境中近景与远景区域的退化程度截然不同.
为了提高水下退化图像的视觉质量,研究人员提出了多种水下图像增强(UIE)方法.早期,UIE任务主要采用传统方法.这些传统方法根据是否使用物理模型可以分成无模型的方法和基于模型的方法.无模型的方法2-4尝试使用简单的图像处理技术变换图像的像素值.此类方法基于自然图像先验知识改变图像的像素强度,无法适应水下图像的复杂退化.考虑到水下成像的物理机理,研究人员开发了基于模型的方法,手动设计各种物理先验5-8估计水下成像模型中的未知参数,进而增强退化的水下图像.然而,这类基于模型的方法依赖先验知识以估计模型中的未知参数,由于水下环境复杂多变,先验或假设可能会失效.因此这些基于模型的方法在真实的水下场景中表现出较差的泛化性能,达不到理想的效果.
近年来,基于深度学习的图像增强和恢复方法在各个领域都表现出了卓越的性能,包括图像超分辨率9-13、图像去雾14-18和低光图像增强19-21等.这些进步也被扩展到UIE的任务中22-24.一些方法25-26将深度学习与物理模型相结合,利用卷积神经网络(CNN)强大的特征提取能力来估计水下成像模型中的未知参数并反演获得增强的图像.例如,Mu等人26提出了一种基于透射图和颜色引导的水下图像增强网络.该方法将物理先验估计的透射率输入模型中,为增强过程提供额外的先验知识,进而提升了模型增强的效果.Wu等人27设计了一种基于结构分解和水下成像特征的两级水下增强网络,利用神经网络特征的拟合能力估计成像模型中的未知参数,将估计的参数代入成像模型中获得增强结果.该方法进一步考虑到水下环境的复杂性,以两阶段的形式逐步增强图像的视觉质量.Cong等人28设计了一种基于物理模型引导的水下图像增强网络.该方法设计了一种退化参数估计模块,通过引入物理模型以约束水下图像增强的过程.最终增强结果具有良好的场景适应性.总体而言,这类方法能够在一定程度上通过估计未知参数来区别不同区域的退化程度,但它们的前提是假设水下成像模型在所有水下场景中都能保持准确性.然而,真实的水下环境复杂多变,影响光传播的因素(如水质、场景深度、光照条件等)使得水下成像模型并不总是适用,从而导致这类方法在实际应用中的增强效果不理想.另一些方法23-24不引入物理模型,直接学习从退化到增强图像端到端的映射.例如,Li等人29提出了一种介质传输引导的多色空间嵌入网络,充分利用不同颜色空间的信息互补性,以提升水下图像增强效果.Peng等人30提出了一种U形水下图像增强网络,通过精心设计专门的模块来提取水下退化图像的特征,并设计了一种多色空间损失函数来矫正颜色和提升对比度.Sharma等人31提出了一种基于波长分布的水下图像增强网络,针对不同颜色通道设计了不同的感受野特征提取操作,并结合空间和通道注意力机制进一步融合来自不同颜色通道的特征.该方法有效矫正了水下图像的色偏问题.总的来说,这类方法的优化目标是全局的,缺乏对水下图像非均匀退化特征的显式建模.模型无法充分捕捉水下图像中的非均匀退化特征,导致在复杂水下场景中的增强效果有限.
为了解决上述提到的问题,本文创新性地提出了一种新的水下图像增强框架,命名为:基于退化分布感知的迭代式水下图像增强网络(IUIENet).该网络由预增强模块、退化分布估计模块和图像精细化模块协同作用,进行迭代优化,逐步提升水下图像的质量.预增强模块对输入的退化图像进行粗增强,输出初始的增强图像.为了进一步提升增强效果,网络设计了迭代优化阶段.在每次迭代中,退化分布估计模块会基于当前增强结果和原始退化图像,估计图像的退化分布图;图像精细化模块随后根据该分布图对增强结果进行进一步优化,逐步改善增强结果.经过若干次迭代后,IUIENet最终输出高质量的增强图像.本文的贡献总结如下:
1)提出了一种新的水下图像增强网络,名为IUIENet.该网络将退化分布感知和水下图像增强任务融合到一个整体的框架中.该网络包含预增强模块、退化分布估计模块和图像精细化模块三个部分,退化分布估计模块和图像精细化模块通过迭代合作的方式逐步获得高质量的增强结果.
2)为了有效捕捉水下退化场景中不同尺寸物体的特征,提出了一种动态感受野特征提取模块.该模块能够自适应地根据输入特征,使用两种不同的处理方式捕获不同感受野的特征,同时从局部和全局的角度对不同感受野的特征进行交互.
3)在UIEB、EUVP和LSUI三个基准数据集上进行的广泛实验表明,本文提出的IUIENet在视觉质量和定量指标方面都达到了卓越的性能.此外,一系列的消融实验验证了所提出的IUIENet中各个组件的有效性.

1 网络构建

1.1 网络整体架构

图1所示,IUIENet包括了预增强模块、退化分布估计模块和图像精细化模块三个部分.

给定一张退化图像I,预增强模块Npre估计得到初始的增强结果J0,该过程可以表示为

J0=Npre(I)

然后,退化分布估计模块Ndeg与图像精细化模块Nrefine()以合作迭代的方式工作.在每一次迭代中,Ndeg基于现有增强结果和输入的退化图像,对输入图像的退化分布进行估计,该过程可以表示:

Hn=NdegI,Jn

式中:n=0,1,,T-1T是迭代次数;Jn表示第n次迭代过程中得到的增强图像;Hn是基于Jn所估计的退化分布图.在得到Hn后,Nrefine基于HnJn进行优化,得到Jn+1,该过程可以表示为:

Jn+1=Nrefine(I,Hn,Jn)

其中,n=0,1,,T-1,T是迭代次数.经过T次迭代优化后,模型最终预测得到增强图像JT.下面将分别对预增强模块、图像精细化模块与退化分布估计模块进行详细介绍.

1.2 预增强模块

图2所示,预增强模块首先从退化图像中提取多尺度特征,然后根据多尺度特征预测初始增强图像.具体步骤如下.

1)多尺度特征提取:如图2所示,给定一张退化的水下图像,预增强模块使用编码器提取多尺度特征.为了有效提取退化特征,采用图像分类网络EfficientNet-B0的前五个阶段作为特征提取的编码器.随后,本文使用3×3卷积和动态感受野特征提取模块进一步从编码器输出的多尺度特征中提取特征.其中3×3卷积用于调整特征的维度,动态感受野特征提取模块用于进一步提取特征.

2)多尺度特征融合:通过特征融合块集成多尺度特征,其中包括逐点卷积和上采样组件.逐点卷积旨在将多尺度特征的通道数标准化为统一的32,而上采样旨在将三个不同特征上采样为一致的维度,维度为输入图像大小的四分之一.这些多尺度特征通过逐元素相加进行集成,产生融合特征.

3)初始增强图像预测:使用三个空间自适应特征提取块和一个上采样模块输出初始增强特征F0,最后采用两个3×3卷积用于特征映射模块,将F0映射到初始增强图像J0.

1.3 动态感受野特征提取模块

水下退化场景多样,包含了不同大小的对象,增强不同的对象类型所需的感受野应该不同.因此,本文提出了一种新的动态感受野特征提取模块,如图2所示,该模块包含三个步骤:特征分组、特征提取和特征细化.

1)特征分组:首先将输入特征(表示为X)进行归一化,然后沿通道进行分割操作.该过程将输入X分成了两个不同的分量,分别表示为X1X2.

2)特征提取:对于X1X2,本文采用两种不同的处理方式捕获不同感受野的特征.对于X1,应用5×5卷积和通道注意力模块提取局部特征,记作X1'.对于X2,应用卷积核大小为7×7、膨胀率为2的扩张卷积拓宽感受野,经过通道注意力模块获得的特征记作X2'.随后将X1'X2'沿通道维度串联起来获得组合特征.接下来引入通道自注意力机制用于对不同通道的特征进行全局交互,并同时从局部和全局的角度实现信息交互.

3)特征细化:在最后阶段,利用层归一化和3×3的卷积层进一步细化特征,并将细化的特征与输入特征X进行残差连接,从而获得模块最终的输出.

1.4 退化分布估计模块

从人类视觉的角度出发,考虑到水下图像的退化原因来自光吸收和悬浮颗粒的散射作用,这会导致图像的整体对比度降低、细节模糊和亮度变化.本文对退化图像与其对应的参考图像的亮度通道进行了比较.结果如图3所示.

图3中,第一行表示输入的退化图像在YCbCr颜色空间的亮度图,第二行表示对应参考图像在YCbCr颜色空间的亮度图.从图中可以清晰地观察到,参考图像的Y通道细节清晰,图像的对比度高,图像的边缘信息丰富.相比之下退化图像的Y通道表现出低对比度且有颜色失真.

为了量化退化的分布情况,可以通过计算参考图像与退化图像在亮度通道上的逐像素差值来表示不同区域的退化程度.给定退化图像I与其对应的增强图像G,退化分布图H可以表示为:

H=fY(I)-fY(G)1

式中:fY()是亮度图计算函数,用于将RGB空间的图像映射为YCbCr颜色空间的亮度图.fY(I)具体可以表示为:

fY(I)=0.299IR+0.587IG+0.114IB

式中:IRIGIB分别表示图像I的R、G、B三个颜色通道.

1.5 图像精细化模块

整体结构:在估计的水下退化分布的引导下,图像精细化模块对增强图像进行进一步优化.如图1所示,图像精细化模块由门控融合模块、残差密集块、特征增强模块、自适应U-net以及两个卷积层组成.首先,使用门控融合模块将上一次迭代过程中生成的增强图像的特征与退化图像的特征进行门控融合,并使用两个残差密集块对融合后的特征进行特征提取;然后,特征增强模块在退化分布图Hn的引导下对所提取的特征进行增强;最后,使用自适应U-net与两个卷积层,从增强后的特征中估计出增强图像Jn+1.

门控融合模块:如图1所示,首先,使用一个卷积层与两个残差密集块从退化图像中提取特征;然后,使用两个卷积层与一个Sigmoid层,将上一次迭代得到的增强图像映射为权重图,从而对上一次迭代生成的特征进行加权;最后,将加权后的特征与退化图像特征逐像素位置相加,得到门控融合模块的输出.

特征增强模块:如图4所示,特征增强模块主要包含特征加权、特征聚合与特征增强三个步骤.

步骤1:特征加权.以退化分布图H作为引导信息求取输入特征Fin的权重图,从而突出退化严重区域的特征,加权后的特征可以表示为:

FW=FinfW(H)

式中:fW()为权重图映射函数,由两个卷积核大小为3、输出通道为16的卷积与一个卷积核大小为3、输出通道为1的卷积级联组成.

步骤2:特征聚合.将FinFW以加权求和的方式进行自适应聚合.聚合后的特征Ff可以表示为:

Ff=αFin+(1-α)FW

式中:权重αFinFW映射而来.该映射过程可以表示为:

α=Sigmoid(fc2(fc1(GA([Fin,FW]))))

式中:表示沿通道维度进行特征堆叠;GA()表示全局平均池化;fc1fc2均为全连接层;Sigmoid表示Sigmoid激活函数.

步骤3:特征增强.使用两个卷积核大小为3的卷积层,对Ff进一步特征提取,得到增强Fin所需的残差特征Fres.然后,将FresFin相加,得到增强后的特征.

自适应U-net:将特征Fout输入一个简单的U-net网络中以进一步细化增强特征.本文使用的U-net编码器由三个残差密集块与两个下采样层组成,三个残差密集块的输出通道数分别为16、32和64.解码器的结构与编码器相对应,由三个残差密集块与两个上采样层组成,编解码器之间使用上文提到的特征增强模块自适应融合编码器和解码器的特征.

1.6 损失函数

本文对预增强模块及迭代优化过程中生成的各个增强结果和退化分布图同时进行了监督.模型的最终损失可以表示为:

Lfinal=LRT+0.5(Lpre+i=1T-1LRi)

式中:T表示迭代次数,设置为2;Lpre表示预增强模块的损失函数;LRi表示第i次迭代过程中所得的增强结果的损失.对于前T-1次迭代输出的增强结果、退化分布图以及预增强模块所估计的增强结果,使用L1损失来衡量增强结果与真实值之间的差异.

LRT=L1+0.5LSSIM
LSSIM=1-SSIM(X,Y)

对于最终的增强结果,如式(12)所示,本文使用L1损失和SSIM损失联合监督,其中L1损失的权重设为1,SSIM损失的权重设为0.5.

2 实验结果分析

2.1 实验设置及数据集

训练细节:本文算法基于开源框架PyTorch实现,运行环境为Ubuntu 20.04,训练设备为单张Nvidia GeForce GTX 3090 GPU.所有数据集均采用Adam优化器进行训练,其中,Adam32优化器中的超参数β1β2分别设置为默认值0.9与0.999.模型的初始学习率设为0.000 1,并采用poly策略进行调整,学习率衰减系数为0.9.模型训练周期(epoch)设置为200个epoch.图像块大小为256×256,批尺寸为8.为了将多样性引入训练数据集并增强模型的稳健性,本文结合了90°、180°、270°的随机旋转,以及垂直和水平翻转的数据增强方式扩展原始数据集.

实验数据集:本文在三个公共的水下图像数据集上训练并测试所提出的模型,包括UIEB33、EUVP34和LSUI30.下面对各个数据集稍作介绍.

UIEB数据集:UIEB数据集包含多种不同退化场景的水下图像,参考图像是由12种水下图像增强算法生成的、经过志愿者投票的方式选出的视觉质量最佳的图像.整个数据集包含890张原始水下图像及其相应的高质量参考图像,我们随机选择800 张图像子集作为训练集,其余90张成对的水下图像和60张不成对的水下图像用于测试,表示为T90和C60.

EUVP数据集:EUVP数据集中的参考图像是由预训练的CycleGAN从退化图像映射获得,本文使用水下场景子集中的 2 185 张成对的水下图像用于训练和测试模型,这些图像被随机分成包含1 985 张图像的训练集和包含200张图像的测试集.

LSUI数据集:LSUI数据集与UIEB数据集的构建方式一样,相比之下,LSUI数据集包含了更多的水下退化场景.具体而言,[LSUI]数据集包含了4 279张成对的水下图像,我们从中随机划分出3 479张图像用于模型训练,500对图像用于测试.

对比方法与评价指标:本文将提出的IUIENet与几种最先进的方法进行比较,其中包括 UDCP35(13’ICCVW)、FunIE-Net34(20’LRA)、Ucolor29(21’TIP)、PUIE-Net36(22’ECCV)、NU2Net37(23’AAAI)、U-shape30(23’TIP)、Spectroformer38(24’WACV)和PixMamba39 (24’ACCV).与此同时,本文使用了多种广泛认可的指标来评估水下图像质量.其中,全参考质量评价指标包括PSNR和SSIM.对于不成对的水下图像,本文使用无参考质量评价指标以评估增强结果的质量.具体而言,本文使用了UIQM和UCIQE指标,其中,UIQM指标从颜色平衡、清晰度和对比度三个角度评估图像的质量,得分越高图像质量越高.UCIQE 指标根据色彩密度、饱和度和对比度三个方面量化水下图像的质量,得分越高表示人类视觉感知越好.

2.2 定性实验

图5展示了本文算法与不同对比方法在UIEB数据集上测试的部分结果.可以观察到UDCP算法能够改善退化图像中的模糊问题,但是图像整体偏暗,不能有效恢复图像的颜色.FunIE-Net算法能够在一定程度上改善退化图像的颜色,但是不够彻底,增强图像依旧存在一定的色偏(如图中第三幅图像整体的颜色偏红).Ucolor算法整体增强效果较好,但是在图像细节恢复方面表现一般,部分图像存在伪影.PUIE-Net、NU2Net和U-shape三个算法增强的图像在一些区域无法有效恢复图像的颜色.Spectroformer算法虽然能够出色地恢复图像的颜色,但是不能有效增强图像的边缘细节.PixMamba算法能够有效增强图像的细节,但是在图像场景较深的区域增强效果不佳.总体而言,本文提出的算法在逆转退化图像的色偏的同时出色地增强了图像的边缘细节,与参考图像最接近.

图6展示了本文算法与其他算法在EUVP数据集上测试的部分结果.可以观察到UDCP算法增强的图像亮度低,无法有效恢复图像的颜色.FunIE-Net算法增强效果较好,但是图像中引入了一定的伪影.Ucolor、PUIE-Net、NU2Net和Spectroformer算法增强的图像偏白,出现了过度增强的问题.U-shape算法颜色恢复不彻底,增强的图像存在一定的色偏问题.PixMamba算法相比前几种算法,在图像颜色风格的改善上有一定优势,但是对比度提升效果有限,增强效果仍然存在模糊的问题.总体来说,本文提出的算法有效恢复了图像的颜色,增强的图像最接近参考图像.

图7展示了本文算法与其他算法在LSUI数据集上测试的部分结果.由图7可看出:UDCP、FunIE-Net、U-shape算法增强的图像无法有效矫正退化图像的颜色.Ucolor、PUIE-Net、NU2Net算法的增强结果仍然保留了退化图像的颜色风格.除此之外,由于在设计网络的过程中没有考虑到图像细节信息的保留,因此增强的图像细节信息丢失严重.Spectroformer算法增强的图像出现了严重的过度增强问题,增强的结果不自然.PixMamba算法在颜色恢复和对比度提升方面表现较为均衡,能够有效缓解部分退化区域的颜色偏差.然而,从图7中可以观察到,其在复杂场景的水下图像中无法有效增强图像的边缘细节.

除了在成对的数据集上进行实验以外,本文还在不成对的数据集C60上进行测试,图8展示了本文方法与不同对比方法在C60数据集上的部分测试结果.从图8中可以观察到,UDCP、FunIE-Net、U-shape算法不能有效恢复图像的颜色,图像整体偏暗.而Ucolor、PUIE-Net、NU2Net、Spectroformer和PixMamba算法由于缺少对图像不同区域退化分布的建模,在场景深度较大的严重退化区域不能有效增强.相比之下,本文提出的方法通过有效建模图像的退化分布,增强的图像表现出自然且逼真的效果.

2.3 定量实验

本文将对比的水下图像增强方法在 UIEB、EUVP和LSUI三个基准数据集上进行了定量结果的对比,其中UIEB数据集包含成对的数据(T90)和非成对的数据(C60).如表1表2所示,本文使用的评价指标有SSIM↑、PSNR↑、UIQM↑、UCIQE↑,其中↑值越大意味着结果越好.可以观察到本文算法在T90、EUVP和LSUI三个成对数据集中都表现优秀.特别是在LSUI数据集中,本文算法在PSNR指标上相比于次优的PixMamba算法提升了近2 dB.同时本文在不成对数据集C60上进行测试,结果表明:本文算法在UIQM和UCIQE两个无参考质量评价指标中表现出最优的结果.如表3所示,本文算法相较于其他对比方法在参数量和运行速度方面展现出较为平衡的优势.尤其在运行速度上,几乎接近最优的NU2Net.在模型参数量方面,本文算法获得了次优的结果.这表明本文算法具备高效的处理能力的同时,能够适应实际应用中对计算资源要求较高的场景.

2.4 消融实验

为了验证IUIENet各模块的有效性以及超参数的合理性,设计了一系列消融实验,所有的消融实验都是在UIEB数据集上进行的.

迭代次数对结果的影响:为验证迭代次数对结果的影响,将IUIENet的迭代次数分别设置为0、1、2、3,具有不同迭代次数的模型分别记作IUIENet-0、IUIENet-1、IUIENet-2和IUIENet-3.当迭代次数为0时,表示仅使用预增强模块对结果进行估计.使用与IUIENet相同的损失函数与训练方式在UIEB数据集对两个变体进行训练,各个模型的性能如表4所示.可以看到,随着迭代次数的增加,模型的性能不断提升,但是提升的幅度在逐渐减小.其中,IUIENet-1的PSNR指标比IUIENet-0高出1.5 dB 以上,这充分说明了引入迭代机制的有效性.为了避免过多的训练成本,减少模型的推理时间,本文将迭代次数设置为2.

图像精细化模块各组件的有效性:本部分对图像精细化模块中的门控融合模块的有效性进行了验证.为此,考虑IUIENet的以下变体:a)移除退化分布估计模块与图像细化模块中的特征增强模块,从而验证引入退化分布估计给模型带来的增益,此变体记作IUIENet-D;b)移除门控融合中的门控机制,将上一次迭代所得特征与本次迭代中的特征以相加的方式直接融合,此变体记作IUIENet-GF.所有的变体采用与IUIENet相同的方式进行训练,各模型在UIEB数据集上的性能如表5所示.无论移除退化分布估计模块还是门控融合模块,均会使模型出现一定程度的性能下降,这充分说明了这两个模块的有效性.

动态感受野特征提取模块的有效性:为验证所提出的动态感受野特征提取模块的有效性,本文将提出的特征提取模块与现有的常见特征提取块进行了比较,所比较的特征提取块如下.

a)残差块:由两个卷积层和一个残差操作组成.

b)残差密集块:利用残差连接和密集连接操作,RDB的卷积数量设为4,增长率为16.

c)特征注意力模块:残差块的变体,在残差块的基础上增加了通道注意力和空间注意力机制.

使用上述模块替换预增强模块中的动态感受野特征提取模块,由此得到的模型分别命名为IUIENet-RB、IUIENet-RDB和IUIENet-FAB.使用与IUIENet相同的方式对各个模型进行训练,各模型在UIEB数据集上的客观评价指标如表6所示.由表6可知,使用本文提出的动态感受野特征提取模块有着最佳的PSNR和SSIM指标.这些结果说明了动态感受野特征提取模块的有效性.

3 结 论

受到水体深度、光吸收和颗粒散射等因素影响,水下图像的退化具有非均匀特性.然而,现有水下图像增强方法缺少对处理非均匀退化的针对性设计,从而限制了其增强效果.针对这一问题,本文提出了基于退化分布感知的迭代式水下图像增强网络(IUIENet).IUIENet将退化分布估计和图像精细化模块构建于一个统一的框架中,采用迭代优化的方式逐步感知图像的退化分布情况,并基于图像退化的分布情况恢复出高质量清晰图像.在UIEB、EUVP和LSUI三个水下图像数据集上的实验结果表明,IUIENet在视觉质量和定量指标上均显著优于所对比的方法,所提出的迭代优化机制可以显著提升模型处理非均匀退化的能力.

参考文献

[1]

NARASIMHAN SNAYAR S. Vision and the atmosphere[J]. International Journal of Computer Vision200248: 233-254.

[2]

HUMMEL R A. Histogram modification techniques[J]. Computer Graphics and Image Processing19754(3): 209-224.

[3]

PIZER S MAMBURN E PAUSTIN J Det al. Adaptive histogram equalization and its variations[J]. Computer Vision,Graphics,and Image Processing198739(3): 355-368.

[4]

REZA A M. Realization of the contrast limited adaptive histogram equalization (CLAHE) for real-time image enhancement[J]. Journal of VLSI Signal Processing Systems for Signal,Image and Video Technology, 200438(1): 35-44.

[5]

LIANG ZDING X YWANG Y Fet al .GUDCP:generalization of underwater dark channel prior for underwater image restoration[J]. IEEE Transactions on Circuits and Systems for Video Technology202232(7):4879-4884.

[6]

LI C YGUO J CCONG R Met al .Underwater image enhancement by dehazing with minimum information loss and histogram distribution prior[J].IEEE Transactions on Image Processing201625(12):5664-5677.

[7]

ZHUANG P XWU J MPORIKLI Fet al .Underwater image enhancement with hyper-Laplacian reflectance priors[J].IEEE Transactions on Image Processing202231:5442-5455.

[8]

WU J JLIU X LLU Q Het al .FW-GAN:Underwater image enhancement using generative adversarial network with multi-scale fusion[J].Signal Processing:Image Communication2022109:116855.

[9]

SU J NGAN MCHEN G Yet al .Global learnable attention for single image super-resolution[J].IEEE Transactions on Pattern Analysis and Machine Intelligence202345(7):8453-8465.

[10]

ZHANG K KZHAO T SCHEN W Let al .Perception-driven similarity-clarity tradeoff for image super-resolution quality assessment[J].IEEE Transactions on Circuits and Systems for Video Technology202434(7): 5897-5907.

[11]

CHEN W LCAI B QZHENG S Met al .Perception-and-cognition-inspired quality assessment for sonar image super-resolution[J].IEEE Transactions on Multimedia202426:6398-6410.

[12]

CHEN G YWENG W DSU J Net al .Dynamic degradation intensity estimation for adaptive blind super-resolution:a novel approach and benchmark dataset[J]. IEEE Transactions on Circuits and Systems for Video Technology202434(6):4762-4772.

[13]

SU J NGAN MCHEN G Yet al. High-similarity-pass attention for single image super-resolution[J]. IEEE Transactions on Image Processing202433: 610-624.

[14]

杨燕, 陈阳. 基于双支特征联合映射的端到端图像去雾算法[J].湖南大学学报(自然科学版)202451(6): 10-19.

[15]

YANG YCHEN Y. End-to-end image dehazing algorithm based on joint mapping of two-branch features[J]. Journal of Hunan University (Natural Sciences)202451(6):10-19.(in Chinese)

[16]

邬开俊, 丁元 .宽型自注意力融合密集型残差网络的图像去雾[J].湖南大学学报(自然科学版)202350(8): 13-22.

[17]

WU K JDING Y .Wide self-attention mechanism fusion dense residual network image dehazing[J].Journal of Hunan University (Natural Sciences)202350(8): 13-22.(in Chinese)

[18]

杨燕, 武旭栋, 杜康 .基于小波变换及注意力机制的T型图像去雾网络[J].湖南大学学报(自然科学版)202249(10):61-68.

[19]

YANG YWU X DDU K .T-shaped image dehazing network based on wavelet transform and attention mechanism[J].Journal of Hunan University (Natural Sciences)202249(10):61-68.(in Chinese)

[20]

LI S SZHOU YREN W Qet al .PFONet:a progressive feedback optimization network for lightweight single image dehazing[J].IEEE Transactions on Image Processing202332:6558-6569.

[21]

ZHU X SLI S SGAN Y Det al .Multi-stream fusion network with generalized smooth L1 loss for single image dehazing[J].IEEE Transactions on Image Processing202130:7620-7635.

[22]

ZHU Z JYANG X GLU R Tet al .Ghost imaging in the dark:a multi-illumination estimation network for low-light image enhancement[J].IEEE Transactions on Circuits and Systems for Video Technology202535(2): 1576-1590.

[23]

SHE C YHAN F JWANG L Det al .MPC-net:multi-prior collaborative network for low-light image enhancement[J].IEEE Transactions on Circuits and Systems for Video Technology202434(10): 10385-10398.

[24]

王文韫,舒晨洋,朱龙涛, .基于Retinex和Gamma变换的低照度图像增强方法[J].湖南大学学报(自然科学版)202451(10):136-144.

[25]

WANG W YSHU C YZHU L Tet al .Low-illumination image enhancement method based on Retinex and Gamma transformation[J].Journal of Hunan University (Natural Sciences)202451(10):136-144.(in Chinese)

[26]

ZHOU YYAN K MLI X F .Underwater image enhancement via physical-feedback adversarial transfer learning[J]. IEEE Journal of Oceanic Engineering202247(1): 76-87.

[27]

HUANG S RWANG K YLIU Het al .Contrastive semi-supervised learning for underwater image restoration via reliable bank[C]//2023 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR). Vancouver,BC,Canada. IEEE,2023:18145-18155.

[28]

ZHOU J CLI B SZHANG D Het al .UGIF-net:an efficient fully guided information flow network for underwater image enhancement[J].IEEE Transactions on Geoscience and Remote Sensing202361:4206117.

[29]

YAN KLIANG L YZHENG Z Qet al .Medium transmission map matters for learning to restore real-world underwater images[J].Applied Sciences202212(11): 5420.

[30]

MU PFANG JQIAN H Tet al .Transmission and color-guided network for underwater image enhancement[C]//2023 IEEE International Conference on Multimedia and Expo (ICME). Brisbane,Australia. IEEE,2023:1337-1342.

[31]

WU S CLUO TJIANG G Yet al .A two-stage underwater enhancement network based on structure decomposition and characteristics of underwater imaging[J]. IEEE Journal of Oceanic Engineering202146(4): 1213-1227.

[32]

CONG R MYANG W YZHANG Wet al .PUGAN:physical model-guided underwater image enhancement using GAN with dual-discriminators[J]. IEEE Transactions on Image Processing202332: 4472-4485.

[33]

LI C YANWAR SHOU J Het al. Underwater image enhancement via medium transmission-guided multi-color space embedding[J]. IEEE Transactions on Image Processing202130:4985-5000.

[34]

PENG L TZHU C LBIAN L H .U-shape transformer for underwater image enhancement[C]//Computer Vision-ECCV 2022 Workshops. Cham:Springer Nature Switzerland,2023:290-307.

[35]

SHARMA PBISHT I,SUR A .Wavelength-based attributed deep neural network for underwater image restoration[J].ACM Transactions on Multimedia Computing,Communications,and Applications,202319(1):1-23.

[36]

KINGMA D PBA JHAMMAD M M .Adam:a method for stochastic optimization[EB/OL].

[37]

LI C YGUO C LREN W Qet al .An underwater image enhancement benchmark dataset and beyond[J]. IEEE Transactions on Image Processing201929: 4376-4389.

[38]

ISLAM M JXIA Y YSATTAR J .Fast underwater image enhancement for improved visual perception[J].IEEE Robotics and Automation Letters20205(2): 3227-3234.

[39]

DREWS Jr PNASCIMENTO E DOMORAES Fet al .Transmission estimation in underwater single images[C]//2013 IEEE International Conference on Computer Vision Workshops. Sydney,NSW,Australia. IEEE, 2013: 825-830.

[40]

FU Z QWANG WHUANG Yet al .Uncertainty inspired underwater image enhancement[M]//Computer vision-ECCV 2022. Cham: Springer Nature Switzerland,2022:465-482.

[41]

GUO C LWU R QJIN Xet al. Underwater ranker:learn which is better and how to be better[J]. Proceedings of the AAAI Conference on Artificial Intelligence202337(1):702-709.

[42]

KHAN M RMISHRA PMEHTA Net al .Spectroformer:multi-domain query cascaded transformer network for underwater image enhancement[C]//2024 IEEE/CVF Winter Conference on Applications of Computer Vision (WACV). Waikoloa,HI,USA. IEEE,2024:1443-1452.

[43]

LIN W TLIN Y XCHEN J Wet al. PixMamba: leveraging state space models in a dual-level architecture for underwater image enhancement[C]//Proceedings of the Asian Conference on Computer Vision. 2024: 3622-3637.

基金资助

国家自然科学基金资助项目(62171320)

National Natural Science

AI Summary AI Mindmap
PDF (6089KB)

435

访问

0

被引

详细

导航
相关文章

AI思维导图

/