面向动态算力任务流的增量元蒸馏联邦持续学习方法

摘要

联邦学习凭借隐私保护特性成为算力网络关键技术，但实际应用中面临灾难性遗忘与系统动态适应性差的双重挑战.现有方法聚焦历史知识蒸馏效率，却忽视节点间知识共享程度与动态环境下模型性能.本文提出一种增量元蒸馏联邦持续学习方法，内循环通过历史知识蒸馏与客户端知识共享实现本地知识固化，引入多视图对比蒸馏策略，利用特征增强与注意力加权机制实现细粒度知识筛选.外循环设计动态元更新规则，采用梯度差异补偿实现新旧节点渐进知识整合.实验基于CIFAR100和FMNIST扩展的4个数据集验证，本文方法较基线平均准确率提升4.7%～9.7%,遗忘率降低3.1%～13.6%,新增节点时系统收敛速度提升约30%,证明其在算力网络系统中的有效性与鲁棒性.

关键词

联邦学习 / 算力网络 / 知识蒸馏 / 持续学习 / 元学习

基金资助

国家自然科学基金项目(62162003)资助; 中央引导地方科技发展资金项目(桂科ZY24212059)资助