面向物联网的联邦学习防御投毒攻击方法

摘要

在物联网（Internet of Things, IoT）环境中，联邦学习由于其无需集中存储数据即可实现模型训练的特点被广泛应用于隐私保护和分布式计算.然而，物联网设备的分布式特性和多样化的安全需求使得联邦学习系统容易受到数据中毒攻击，攻击者可能通过上传恶意梯度来干扰全局模型的训练过程，从而威胁系统的安全性.尽管已有多种防御策略针对数据中毒攻击，但如何在保护隐私的同时确保系统对这些攻击的鲁棒性仍然是一个挑战.本文提出了一种新的名为DPI的防御方案，旨在解决这一问题. DPI通过设计一种无损聚合方案，有效地检测并隔离恶意梯度，避免了参与者实际梯度泄露.具体而言，DPI首先为每个参与者的梯度应用提供可移动的掩码，然后通过奇异值分解对掩码后的数据进行聚合与降维.接着，采用聚类算法从低维数据中检测并剔除中毒梯度.大量实验结果表明，DPI在检测有毒梯度方面表现优异，相较于现有最先进的方法，能够在隐私保护和数据安全方面实现更好的平衡，提升了联邦学习系统在物联网环境中的鲁棒性. DPI不仅能够有效应对中毒攻击，还能确保参与者的梯度隐私不被泄露，满足物联网场景下的安全需求.

关键词

联邦学习 / 中毒攻击防御 / 奇异值分解

基金资助

国家电网公司科技项目(5700-202336282A-1-1-ZN); 四川省科技计划项目(2024YFHZ0089)