基于注意力机制的对抗样本生成算法

摘要

近年来对抗性攻击和对抗性防御的研究受到了广泛的关注，并有了大量的应用.由于对样本的细小扰动可以改变识别效果，神经网络因而缺少鲁棒性.基于注意力机制的投影梯度算法，研究对抗样本的攻击方法.采用基于梯度加权类激活映射图寻找特殊区域，并添加噪声扰动，实现对抗性攻击.使用MNIST、CIFAR-10和ImageNet数据集，以VGG19、VGG16、Resnet50和Resnet18、inception＿v3和Densenet作为目标模型.针对mini ImageNet数据集的攻击成功率达到96.3%,比FGSM攻击算法提高了23.4%的成功率，并减少干扰区域，不容易被肉眼察觉，具有更好的攻击效果.

关键词

对抗样本 / 注意力机制 / 深度神经网络 / 对抗攻击