基于生成对抗网络的对抗样本集成防御

摘要

针对现有对抗样本防御方法防御能力不足、时间消耗过高等问题，参考生成对抗网络与集成学习在对抗样本研究中的优势，本文提出一种基于生成对抗网络的对抗样本集成防御方法。该方法使用生成对抗网络训练多个能够消除对抗样本表面对抗扰动的生成器，使用集成学习方法将多个生成器进行集成作为最终的防御。该方法的生成对抗网络由生成器和判别器组成。生成器以对抗样本作为输入，其目的是消除对抗样本表面的对抗扰动；判别器以良性样本与消除对抗扰动后的样本作为输入，其目的是区分输入的样本；生成器与判别器交替训练，当判别器无法对输入的样本做出区分时，生成器达到最佳状态。集成防御使用平均法作为集成策略，通过平均多个生成器的防御结果，取长补短，提升单个防御的能力；通过预训练生成器来降低防御的时间消耗，通过集成多个生成器来提升单个生成器的防御能力。分别在MNIST数据集与CIFAR10数据集上，用本文的集成防御方法与其他防御方法对常见的对抗样本进行防御，以分类准确率作为评价防御能力的指标，并记录防御的时间消耗。实验结果表明，本文方法能以较低的时间消耗防御多种对抗样本，并且防御能力比已有的防御方法更好。

关键词

对抗样本 / 对抗样本防御 / 推理模型 / 生成对抗网络

基金资助

中国博士后科学基金项目（2020T130098ZX）; 江苏省博士后科研计划项目（1701061B）; 国家自然科学基金项目（61972400）