针对视频分类模型的共轭梯度攻击

摘要

基于深度神经网络的视频分类模型目前应用广泛，然而最近的研究表明，深度神经网络极易受到对抗样本的欺骗.这类对抗样本含有对人类来说难以察觉的噪声，而其存在对深度神经网络的安全性构成严重威胁.尽管目前已经针对图像的对抗样本产生了相当多的研究，针对视频的对抗攻击仍存在复杂性.通常的对抗攻击采用快速梯度符号方法 (FGSM)，然而该方法生成的对抗样本攻击成功率低，以及易被察觉，隐蔽性不足.为解决这两个问题，本文受非线性共轭梯度下降法(FR–CG)启发，提出一种针对视频模型的非线性共轭梯度攻击方法.该方法通过松弛约束条件，令搜索步长满足强Wolfe条件，保证了每次迭代的搜索方向与目标函数损失值上升的方向一致.针对UCF-101的实验结果表明，在扰动上界设置为3/255时，本文攻击方法具有91%的攻击成功率.同时本文方法在各个扰动上界下的攻击成功率均比FGSM方法高，且具有更强的隐蔽性，在攻击成功率与运行时间之间实现了良好的平衡.

关键词

对抗样本 / 深度学习安全性 / 视频攻击 / 白盒攻击 / 共轭梯度算法

基金资助

国家自然科学基金资助项目（62276272）