异构编码联邦学习

摘要

异构联邦学习系统中的个人电脑、嵌入式设备等多种边缘设备,存在资源受限的掉队者设备降低联邦学习系统训练效率的问题.针对此问题,本文提出了异构编码联邦学习(heterogeneous coded-based federated learning, HCFL)系统框架,以实现:(1)提高系统训练效率,加快多掉队者场景下的异构联邦学习(federated learning, FL)训练速度;(2)提供一定级别的数据隐私保护. HCFL方案分别从客户端和服务器角度出发设计了调度策略,以满足通用环境下多掉队者模型计算加速;同时设计了线性编码计算方案(linear coded computing, LCC)为任务分发提供数据保护.实验结果表明,当异构FL中设备之间性能差异较大时,HCFL能够将训练时间缩短89.85%.

关键词

联邦学习 / 线性编码 / 异构系统 / 调度算法