非独立同分布与长尾分布下的联邦学习优化方法

摘要

针对联邦学习中非独立同分布和长尾分布问题，结合对比学习和两阶段学习策略，提出了一种新型联邦学习方法．利用对比学习对齐客户端模型与全局模型之间的特征，减少各客户端之间的特征差异，同时汇总并上传客户端的模型梯度，通过服务器端的虚拟特征重新训练分类器，提升全局模型对少数类数据的学习能力．结果表明：所提方法在Fashion-MNIST数据集上准确率最高提升0.36%，在CIFAR-10数据集上准确率最高提升1.64%.

关键词

联邦学习 / 非独立同分布 / 长尾分布 / 对比学习 / 两阶段学习