基于注意力机制和小波变换的图像隐写方法

李佩佩 ,  陈燕 ,  王康谊 ,  张权

中北大学学报(自然科学版) ›› 2024, Vol. 45 ›› Issue (06) : 737 -743.

PDF (1569KB)
中北大学学报(自然科学版) ›› 2024, Vol. 45 ›› Issue (06) : 737 -743. DOI: 10.3969/j.issn.1673-3193.2024.06.002
智能视觉与图像处理前沿应用专栏

基于注意力机制和小波变换的图像隐写方法

作者信息 +

Image Steganography Method Based on Attention Mechanism and Wavelet Transform

Author information +
文章历史 +
PDF (1606K)

摘要

为了更好地平衡隐写容量和不可感知性之间的关系, 本文提出了一种基于SteganoGAN的优化方案。首先, 将SteganoGAN隐写网络和提取网络进行加深, 以增强模型的复杂度和学习能力; 其次, 为了实现更为隐蔽的信息嵌入, 在隐写网络部分引入离散小波变换(Discrete Wavelet Transformation, DWT)和逆离散小波变换(Inverse Discrete Wavelet Transform, IDWT)模块, 这使得秘密信息能够被有效地嵌入到图像的小波域中; 最后, 在隐写网络、 提取网络中融入了一种改进的通道-空间注意力模块(Improved Channel and Spatial Attention Module, ICAM-SAM), 促使模型能够聚焦于图像中的高隐蔽性区域, 实现更为精准的信息隐藏。实验结果表明: 改进后的模型在提取准确率上提高了0.84百分点, 表明其隐写和提取过程更加精确。此外, 每像素嵌入率(Reed-Solomon Bits-Per-Pixel, RS-BPP)提高了1.71%, 这表明改进后的模型在相同大小的图像中可以隐藏更多的信息。同时, 峰值信噪比(Peak Signal to Noise Ratio, PSNR)提高了12.53%、 结构相似性(Structural Similarity Index, SSIM)提高了5.14%, 这表明嵌入的信息对原始图像的影响更小, 改进后的模型具有更高的图像质量。综合结果表明, 改进后的模型具有更好的不可感知性和较大的隐写容量。

Abstract

In order to better balance the relationship between steganographic capacity and imperceptibility, this paper proposed an optimization scheme based on SteganoGAN. Firstly, the steganography network and extraction network of SteganoGAN were deepen to enhance the complexity and learning capability of the model; Secondly, in order to achieve more covert information embedding, discrete wavelet transform (DWT) and inverse discrete wavelet transform (IDWT) modules were introduced in the steganography network, which enabled secret information to be effectively embedded in the wavelet domain of the image; Finally, an improved channel and spatial attention module (ICAM-SAM) was incorporated into the steganography and extraction networks, enabling the model to focus on highly covert areas in the image and achieve more accurate information hiding. Experimental results show that the accuracy of the improved model is increased by 0.84 percentage point, indicating that its steganography and extraction processes are more accurate. In addition, the reed-solomon bits per pixel (RS-BPP) is increased by 1.71%, indicating that the improved model can hide more information in images of the same size. Meanwhile, the peak signal to noise ratio (PSNR) is increased by 12.53% and the structural similarity index (SSIM) is increased by 5.14%, indicating that the embedded information has a smaller impact on the original image and the improved model has higher image quality. In summary, these results indicate that the improved model has better imperceptibility and larger steganography capacity.

Graphical abstract

关键词

图像隐写 / 生成对抗网络 / 离散小波变换 / 逆离散小波变换 / 改进的通道-空间注意力模块

Key words

image steganography / generating adversarial networks / discrete wavelet transform / inverse discrete wavelet transform / improved channel and spatial attention module

引用本文

引用格式 ▾
李佩佩,陈燕,王康谊,张权. 基于注意力机制和小波变换的图像隐写方法[J]. 中北大学学报(自然科学版), 2024, 45(06): 737-743 DOI:10.3969/j.issn.1673-3193.2024.06.002

登录浏览全文

4963

注册一个新账户 忘记密码

0 引 言

隐写术1是一种在图像中嵌入秘密信息的技术, 其目的是将秘密信息以一种难以察觉的方式隐藏到载体图像中, 它不仅保证了秘密信息本身的安全, 还提升了信息传输过程的安全性。与密码学相比, 它更加注重隐藏通信过程本身, 隐写术可以保证网络通信过程中数据的安全性, 因此成为近年来信息安全领域的热门研究方向之一2

随着人工智能和深度学习的发展, 各种深度学习模型已被广泛应用于图像隐写, 分析现有文献, 大多数学者的方法涉及生成对抗网络(Generative Adversarial Network, GAN)、 小波变换和注意力机制等。GAN是Goodfellow等3在2014年引入的一种深度卷积神经网络。毕新亮等4使用Star GAN的判别器作为特征提取器, 将提取的特征映射为秘密消息, 直接构造了图像和秘密消息的映射关系。Martín等5使用GAN来增强空间域隐写方法的性能, 通过最小化图像修改来嵌入秘密信息, 成功规避了许多先进深度学习隐写分析架构的检测。Zhang等6提出了一种新的模型ISGAN, 通过将秘密图像仅隐藏在载体图像的Y通道中来提高不可见性。Zhu等7提出了一个名为HiDDeN的新模型, 该模型引入了噪声层的概念, 它可以提高模型的鲁棒性。这些研究方法虽然在一定程度上实现了图像隐写, 但是在更高容量和更强不可见性方面仍面临着新的挑战。

在像素域隐藏图像容易导致纹理复制伪影和颜色失真。与像素域相比, 频域尤其是高频域更适合于图像的隐藏。Jing等8使用小波变换(DWT)9将图像分成低频和高频小波子带, 然后再进入可逆网络, 使网络能够更好地将秘密信息融合到载体图像中。Guan等10也采用了将秘密信息隐藏在高频域的方式, 与文献[8]不同的是, Guan等10提出的网络大大提高了隐写容量, 它可以在一张彩色图像中同时隐藏两张与载体图像大小相同的图片。

计算机视觉中常用的注意机制主要有两种:通道注意机制和空间注意机制。它们聚集所有位置的相关特征, 并通过使用不同的聚集策略、 转换和强化函数来强化原始特征。近年来, 越来越多的注意力机制被提出, 如SE11、 ECA-Net12、 CBAM13等。Tan等14设计了一个特定的通道注意力模块, 利用通道之间的相互依赖动态地调整图像的深度表征, 有利于提高隐写图像的质量和消息提取的准确性。Peng等15提出了一种基于双重注意机制的文本隐写分析方法, 可以动态地融合语义和统计特征, 在3种不同的文本隐写分析场景中超越了当前较先进的技术。受此启发, 本文将双通道注意力机制引入隐写网络和提取网络中, 用来提高本文模型的隐写效果。

综上, 本文在SteganoGAN16的基础上提出了一个改进的图像隐写方法, 主要贡献为:

1) 将隐写网络和提取网络分别由3层加深到5层, 具体分别增加了式(10)中的步骤e、 f和式(2)中的步骤d、 e。

2) 在隐写网络中引入DWT和IDWT, 实现了将秘密信息隐藏在小波域, 提高了隐写容量。

3) 在隐写网络和提取网络中分别引入ICAM-SAM, 将嵌入修改集中在纹理复杂的区域, 以改善生成式隐写算法安全性较低的问题。

1 本文方法

1.1 整体网络结构

SteganoGAN模型包括隐写网络、 提取网络和评估网络三部分, 改进后的模型结构如图 1 所示。

1.1.1 隐写网络

隐写网络E的输入是3×W×H的载体图像和秘密信息(M∈{0, 1} Depth×W×H ), 输出为隐写图像。其中, M是一个形状为Depth×W×H的二进制数据张量, Depth是试图在载体图像的每个像素中隐藏的位数, W×H表示载体图像的大小。隐写网络采用了密集连接网络的结构, 后面每一层的输入为前面所有层的输出的通道拼接, 这样可以将早期模块生成的特征映射连接到后面模块生成的特征映射。隐写网络由6个卷积层构成, 每个卷积核的尺寸为3×3, 每一层的激活函数为LeakyReLU, 最后一层不含激活函数和BN。整个过程如式(1)所示, 其中, Conv包括卷积、 LeakyReLU和BN, Cat为通道拼接。

a=Conv332(C),
b=Conv32+Depth32(Cat(a,M)),
c=Conv64+Depth32(Cat(a,b,M)),
d=Conv96+Depth32(Cat(a,b,c,M)),
e=Conv128+Depth32(Cat(a,b,c,d,M)),
f=Conv160+Depth3(Cat(a,b,c,d,e,M)),
EC,M=C+f

1.1.2 提取网络

提取网络D的输入为隐写图像S, 输出为重建的秘密信息M', 它的结构与隐写网络相似, 提取网络整个过程可以表示如下

a=Conv332(S),
b=Conv3232(a),
c=Conv6432(Cat(a,b)),
d=Conv9632(Cat(a,b,c)),
e=Conv12832(Cat(a,b,c,d)),
D(S)=Conv160Depth(Cat(a,b,c,d,e))

1.1.3 评估网络

为了对隐写网络的性能提供反馈并生成更逼真的隐写图像, 引入了评估网络F, 它可以用来区分载体图像C和隐写图像S, 评估网络整个过程可以表示为

a=Conv3232Conv3232(Conv332(S)),
CS=Mean(Conv321(a))

1.2 离散小波变换(DWT)和逆离散小波变换(IDWT)

DWT可将图像转换为频域表示, 使得嵌入操作在频域中进行, 增加了嵌入容量。本文的改进之一是将DWT和IDWT引入到隐写网络中。首先将载体图像经过DWT, 分解出A、 H、 V、 D(见式(5)) 4个子带图像, 接下来将分量A、 H、 V、 D进行通道拼接, 输入隐写网络, 然后再对输出进行IDWT, 得到隐写网络的输出, 此过程见式(4)。其中, InputsOutputs分别表示输入和输出, DWT(·)表示离散小波变换, IDWT(·)表示逆离散小波变换, Cat(·)表示通道拼接, E(·)表示隐写网络。由于Haar小波具有简单有效、 双向对称的特点, 其应用不会影响网络的端到端训练。

A,H,V,D=DWTInputs,
Outputs =IDWT(ECatA,H,V,D)

具体地, 通过使用4个卷积滤波器来实现二维的DWT, 将输入图像I分解为4个子带图像, 即ILL(平均分量A)、 IHL(水平分量H)、 ILH(垂直分量V)和IHH(对角分量D), 使用的滤波器包括 kLL=[1 1; 1 1]TkHH=[1 -1; -1 1]TkHL=[-1 1; -1 1]TkLH=[-1 -1; 1 1]T

ILLi,j=I2i-1,2j-1+I2i-1,2j+I2i,2j-1+I2i,2j,
IHLi,j=-I2i-1,2j-1+I2i-1,2j-I2i,2j-1+I2i,2j,
ILHi,j=-I2i-1,2j-1-I2i-1,2j+I2i,2j-1+I2i,2j,
IHHi,j=I2i-1,2j-1-I2i-1,2j-I2i,2j-1+I2i,2j

与像素域相比, 频域尤其是高频域更适合信息的隐藏。DWT可以将图像从像素域转到频域, 然后再输入隐写网络, 从而使网络能够更好地将秘密信息融合到载体图像中。

1.3 改进的通道⁃空间注意力模块(ICAM⁃SAM)

Li等17在网络的不同层引入了注意力机制, 提高了隐写图像的质量和模型对隐写变化的敏感性。在此基础上, 本文尝试在隐写网络和提取网络每一层卷积后加入ICAM-SAM, 注意力机制可以使模型将嵌入的重点集中在图像中相对不容易引起怀疑的区域。将改进的通道注意力模块(Improved Channel Attention Module, ICAM)和改进的空间注意力模块(Improved Spatial Attention Module, ISAM)结合使用, 共同提升隐写模型的性能, ICAM、 ISAM的具体结构如图 2图 3 所示, 整个ICAM-SAM的结构如图 4 所示。

式(6)中, Input1和Input2分别表示图 2图 3的输入, Output1和Output2分别表示图 2图 3 的输出, Outputs为ICAM-SAM的输出(见图 4), a1a2分别为图 2 中左侧和右侧的中间变量, σ(·)表示Sigmoid激活函数, f1×1(·)表示1×1的卷积, Global AvgPool(·)表示全局平均池化, Global MaxPool(·)表示全局最大池化, PW(·)表示逐点卷积(Pointwise Conv), DW(·)表示深度卷积(Depthwise Conv), BN(·)表示批处理归一化。

a1=f1×1f1×1Global MaxPoolInput1,
a2=f1×1f1×1Global AvgPoolInput1,
Output1= σ(a1+a2),
Output2=σPWDWGlobal AvgPoolInput2,
Input2=BNInput1Output1,
Outputs=BNInput2Output2

2 实验结果及分析

2.1 实验设置

实验环境为Intel(R) Xeon(R) CPU E5-2680 v4 @ 2.40 GHz, GPU为NVIDIA GeForce GTX 1660, 内存32 GB, 采用Python3.8和Pytorch1.13.0。实验中, 共使用了两个数据集, 在实验2.3.1和2.3.2中使用的是Div2k18数据集, 在实验2.3.3中使用的是COCO19数据集。在每次迭代中, 将每张载体图像与随机生成的序列Depth×W×H组成的数据张量 M 进行匹配, 该序列从伯努利分布 M~Ber(0.5)中采样。此外, 在预处理中使用标准的数据增强过程, 包括水平翻转、 随机裁剪等等。使用学习率为1×10-4的Adam优化器, 将梯度范数归一化为0.25, 训练总次数epoch为 32。

2.2 评价指标

采用准确率(ACC)RACC、 每像素嵌入率(RS-BPP)RRSBPP13、 峰值信噪比(PSNR)RPSN、 结构相似性(SSIM)RSSIM来客观评价算法效果。

准确率是衡量隐写算法的重要准则之一, 较高的准确率意味着预测的信息 M'更接近原始信息 M。对于模型容量, 使用RS-BPP表示图像中可靠传输的平均比特数

RRSBPP(k,p)=k×(2p-1),

式中: k表示消息长度; p表示给定模型能够正确解码嵌入消息的一位的概率。

PSNR则用来衡量载体图像与隐写图像之间的峰值误差。

EPSNR=10lgPmax2EMS,

式中: EMS为均方误差(Mean Square Error, MSE); Pmax为载体图像或隐写图像的最大像素值。

SSIM表示图像间的结构相似性。

RSSIM(X,Y)=2μXμY+c12σXY+c2μX2+μY2+c1σX2+σY2+c2

2.3 实验结果

2.3.1 本文模型与SteganoGAN模型的对比实验

实验中, 使用Div2k数据集训练网络模型。Depth是试图在载体图像的每个像素中隐藏的位数, 实验使用3个不同的数据深度1, 2, 3来训练本文的模型, 实验结果如表 1 所示。

表 1 可知, 在同一个Depth中, 与SteganoGAN模型相比, 本文模型几乎在所有指标上都有较好的表现。随着Depth的增加, 两个模型的提取准确率、 PSNR和SSIM都呈现下降的趋势, 而嵌入容量呈现上升的趋势。对实验结果进行分析, 可以发现本文模型的4个评价指标在数值上都有所提高, 但在准确性方面的改善并不明显。

为了更好地验证本文模型隐写图像的质量, 对载体图像和隐写图像的直方图进行了分析比较。本文模型的载体图像、 隐写图像和直方图如图 5 所示。

经过对比分析, 发现载体图像与隐写图像的直方图非常相似, 只有一些微小的差异, 这说明本文模型能够在不显著影响载体图像质量的情况下进行信息隐藏。

2.3.2 消融实验

为了研究DWT、 IDWT和ICAM-SAM的有效性, 设计了一系列消融实验, 使用Div2k数据集, 数据深度Depth=1时训练各个模型, 使用ACC、 RS-BPP、 PSNR和SSIM作为评价指标, 实验结果如表 2 所示。

表 2 可知, 在隐写网络前后分别引入DWT和IDWT后, 模型的ACC、 RS-BPP、 PSNR和SSIM分别提升了0.75百分点, 1.52%, 9.47%和4.05%; 在隐写网络和提取网络中引入ICAM-SAM后, 模型的4个评价指标分别提升了0.79百分点, 1.50%, 11.27%和3.92%; 将DWT、 IDWT和ICAM-SAM同时引入模型后, 模型整体的评价指标分别提高了0.84百分点, 1.71%, 12.53%和5.14%。分析实验结果可以发现, DWT、 IDWT和ICAM-SAM的引入对模型的性能提升具有显著影响。具体而言, DWT和IDWT的使用有助于提高嵌入容量和图像质量, 而ICAM-SAM的引入则有助于提高准确率和不可感知性。这些结果证明了DWT、 IDWT和ICAM-SAM的有效性。

为了进一步验证隐写图像的隐藏效果和不可感知性, 对载体图像和隐写图像的残差图像进行了分析, 并对残差图像进行了放大处理, 结果如图 6 所示。其中, 第一行是SteganoGAN模型的载体图像、 隐写图像和残差图像, 第二行是本文模型的载体图像、 隐写图像和残差图像。由图 6 可知: SteganoGAN模型得到的隐写图像虽然不存在明显的颜色失真, 但是当残差图像放大到10倍、 20倍时, 可以隐约地发现载体图像的轮廓; 本文模型的残差图像放大20倍后, 几乎无法发现载体图像的轮廓, 故本文模型在隐写任务中表现出了良好的隐藏性能。

2.3.3 不同模型的对比实验

使用COCO数据集, 数据深度Depth=1时训练了各模型。在COCO数据集中选取10 000张作为训练集, 从剩余的图像中选取1 000张作为测试集, 实验结果如表 3 所示。

表 3 可知: 对于ACC指标, HiDDeN模型的准确率较低, 而RoSteALS、 FNNS和本文模型的准确率都超过99%, 说明这3个模型能够成功地从隐写图像中学习到隐藏信息的特征, 并将其提取出来; 对于RS-BPP指标, HiDDeN和RoSteALS模型的值较低, 而FNNS和本文模型的值接近1, 说明这两个模型在保持图像结构的同时能够嵌入更多的隐写信息; 对于PSNR指标, 本文模型的结果41.977 7 dB远高于其他模型, 说明本文模型在嵌入隐写信息的同时, 能够保持图像的高质量; 对于SSIM指标, 本文模型的结果为0.980 0, 说明本文模型在保持图像的结构相似性方面表现出色。分析实验结果可以发现, 虽然本文模型的提取准确率不是最高的, 但是本文模型的嵌入容量和不可感知性达到了较高的数值, 本文模型的有效性得到了进一步验证。

3 结 论

为了同时提高图像隐写算法的不可感知性和容量, 本文提出了一种基于SteganoGAN改进的模型。本文在隐写网络前后分别引入DWT和IDWT, 尝试将秘密信息隐藏在小波域, 而不是像素域; 在隐写网络和提取网络中引入了ICAM-SAM, 以动态地优化有效负载分布。实验结果表明, 本文算法可以有效地提高隐写算法的不可感知性和容量。在今后的工作中, 将考虑使用隐写分析器替代评估器, 可能会进一步增强模型的鲁棒性。

参考文献

[1]

SUBRAMANIAN NELHARROUSS OAL-MAADEED Set al. Image steganography: A review of the recent advances[J]. IEEE Access20219: 23409-23423.

[2]

陈君夫, 付章杰, 张卫明, .基于深度学习的图像隐写分析综述[J]. 软件学报202132(2): 551-578.

[3]

CHEN JunfuFU ZhangjieZHANG Weiminget al. Review of image steganalysis based on deep learning [J]. Journal of Software202132(2): 551-578. (in Chinese)

[4]

GOODFELLOW I JPOUGET-ABADIE JMIRZA Met al. Generative adversarial networks[J]. Advances in Neural Information Processing Systems201427: 2672-2680.

[5]

毕新亮, 杨晓元, 刘文超, .载体选择型图像隐写算法研究[J]. 计算机应用研究202138(8): 2465-2468.

[6]

BI XinliangYANG XiaoyuanLIU Wenchaoet al. Research on cover selection image steganography algorithm[J]. Application Research of Computers202138(8): 2465-2468. (in Chinese)

[7]

MARTÍN AHERNÁNDEZ AALAZAB Met al. Evolving generative adversarial networks to improve image steganography[J]. Expert Systems with Applications2023222: 119841-119855.

[8]

ZHANG RDONG SLIU J. Invisible steganography via generative adversarial networks[J]. Multimedia Tools and Applications201978(7): 8559-8575.

[9]

ZHU JKAPLAN RJOHNSON Jet al. Hidden: hiding data with deep networks [C]//Proceedings of the European Conference on Computer Vision (ECCV), 2018: 657-672.

[10]

JING JDENG XXU Met al. HiNet: deep image hiding by invertible network [C]//Proceedings of the IEEE/CVF International Conference on Computer Vision, 2021: 4733-4742.

[11]

WU P CCHEN L G. An efficient architecture for two-dimensional discrete wavelet transform[J]. IEEE Transactions on Circuits and Systems for Video Technology200111(4): 536-545.

[12]

GUAN ZJING JDENG Xet al. DeepMIH: Deep invertible network for multiple image hiding[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence202245(1): 372-390.

[13]

HU JSHEN LSUN G. Squeeze-and-excitation networks[C]//Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, 2018: 7132-7141.

[14]

WANG QWU BZHU Pet al. ECA-Net: Efficient channel attention for deep convolutional neural networks[C]//Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition, 2020: 11534-11542.

[15]

WOO S, PARK JLEE J Yet al. Cbam: Convolutional block attention module[C]//Proceedings of the European Conference on Computer Vision (ECCV), 2018: 3-19.

[16]

TAN JLIAO XLIU Jet al. Channel attention image steganography with generative adversarial networks[J]. IEEE Transactions on Network Science and Engineering20219(2): 888-903.

[17]

PENG WLI SQIAN Zet al. Text steganalysis based on hierarchical supervised learning and dual attention mechanism[J]. IEEE/ACM Transactions on Audio, Speech, and Language Processing202331: 3513-3526.

[18]

ZHANG K ACUESTA-INFANTE AXU Let al. SteganoGAN: high capacity image steganography with GANs[DB/OL].(2019-01-30)[2024-03-27].

[19]

LI SWANG JLIU Pet al. Detection of multiple steganography methods in compressed speech based on code element embedding, Bi-LSTM and CNN with attention mechanisms[J]. IEEE/ACM Transactions on Audio, Speech, and Language Processing202129: 1556-1569.

[20]

AGUSTSSON ETIMOFTE R. Ntire 2017 challenge on single image super-resolution: dataset and study [C]// Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition Workshops, 2017: 126-135.

[21]

LIN T YMAIRE MBELONGIE Set al. Microsoft COCO: common objects in context[C]//Computer Vision-ECCV 2014. Cham: Springer International Publishing, 2014: 740-755.

基金资助

山西省基础研究计划项目(202103021224204)

AI Summary AI Mindmap
PDF (1569KB)

661

访问

0

被引

详细

导航
相关文章

AI思维导图

/