特征感知变换自编码器防御模型偏斜式投毒攻击

摘要

流量分类模型更新易受数据投毒攻击，现有模型偏斜式投毒攻击防御方法聚焦特征固定的图像分类任务，面对特征复杂的流量分类问题适用性有限.针对上述问题，设计少特征攻击的投影梯度下降法，生成对抗样本进行偏斜式投毒攻击；提出特征感知变换自编码器的模型偏斜式投毒防御方法，在自编码器训练阶段引入特征感知噪声扰动，以限制扰动范围并增强自编码器对抗样本噪声过滤能力.通过构建流量数据变换自编码器重构并消除对抗样本的对抗性，利用变换后的样本数据与原始数据进行预测差异性判定，实现对抗样本判别过滤.实验结果表明，该方法能够有效识别新增训练样本中的对抗样本，降低偏斜式数据投毒攻击对流量分类模型的负面影响.

关键词

数据投毒攻击 / 流量分类模型 / 对抗样本 / 自编码器