恶意被动方场景下的纵向联邦学习安全加权聚合

摘要

针对纵向联邦学习中的不可信参与方发动数据投毒攻击阻碍模型训练，以及半诚实参与方发动隐私推理攻击窃取其他参与方私有数据的问题，提出了一种恶意被动方场景下的纵向联邦学习安全加权聚合方案。首先，设计效用评估算法抵御数据投毒攻击，通过计算最大容忍距离过滤有毒样本所对应的嵌入向量。然后，提出自适应权重计算算法，确保在长尾数据场景下依然能够有效抵御数据投毒攻击并保持模型的高收敛率和准确率。最后，利用掩蔽机制和对称同态加密算法保护嵌入向量隐私，抵御隐私推理攻击。理论分析和仿真结果表明本方案具有较好的计算效率和模型性能，能有效抵御隐私推理攻击和数据投毒攻击，与最新相关工作相比模型准确率提高约5%～10%。

关键词

纵向联邦学习 / 数据投毒攻击 / 隐私推理攻击 / 长尾数据