面向图神经网络的后门攻击防御方法

摘要

图神经网络（Graph Neural Networks, GNNs）已被广泛应用于各类图结构数据建模任务，但研究表明其易受到后门攻击的威胁.攻击者可以通过在训练图中嵌入特定触发器干扰目标模型的训练过程，从而在目标模型中植入后门，使其在遇到触发条件时输出攻击者预期的结果 .由于图结构数据中节点之间存在复杂的连接关系，传统针对独立样本设计的通用神经网络后门防御方法难以直接适用.因此，如何从图中识别出中毒节点，仍是当前研究中的一项挑战.此外，面对攻击者通过降低中毒节点与其邻居节点之间特征差异性来增强隐蔽性的新型图后门攻击策略，亟需探索更为精细的异常检测指标.为应对上述挑战，论文提出一种基于L2范数的图神经网络后门攻击防御方法（L2-Norm Based Defense, LNBD）.该方法以连接边两端节点间的L2范数作为异常检测指标，结合全局均值与标准差两个统计量，有效识别出异常连接边.随后，LNBD将与异常边相连的两个节点视为潜在的中毒节点，并将其从训练图中剔除.论文在3个基准数据集和3种主流图神经网络模型上进行了大量实证研究.实验结果表明，LNBD在显著缓解后门攻击影响的同时，能够较好地保持模型的正常性能，具有良好的实用性与鲁棒性.论文工作为应对图神经网络面临的后门威胁提供了新的思路，并为增强图神经网络的安全性提供了一种解决方案.

关键词

图神经网络 / 后门攻击 / 后门攻击防御

基金资助

军委科技委预先研究项目(CA131B0502T-065); 国家自然科学基金联合基金(U24B20147)