不同空间频率Perlin噪声防御对抗攻击研究

摘要

对抗攻击(Adversarial Attacks)通过向深度神经网络模型输入中添加精心设计、难以察觉的攻击数据来干扰模型运行，使其产生错误输出.对抗攻击可能会带来非常严重的问题，对其进行有效防御意义重大.本文将具有不同空间频率特性的Perlin噪声加入模型输入，通过具有空间特性的噪声掩盖攻击数据并研究其对三种具有代表性的对抗攻击方法：快速梯度方法(Fast Gradient Signed Method, FGSM)、投影梯度下降方法(Projected Gradient Descent, PGD)和稀疏L1下降法(Sparse L1 Descent, SLD)的防御效果.结果显示：1)Perlin噪声提升了模型的准确性和鲁棒性；2)不同空间频率Perlin噪声的防御效果存在差异；3)在面对SLD攻击时，Perlin噪声的防御效果优于使用无空间结构噪声的防御效果.上述结果表明，Perlin噪声提升了模型的准确性和鲁棒性，在面对SLD攻击时有良好的防御效果.

关键词

对抗攻击 / 对抗攻击防御 / 噪声融合 / Perlin噪声 / 空间频率