面向数据异构的聚类抽样个性化联邦学习

Personalized Federated Learning with Clustered Sampling for Non-IID Dataset

摘要

在数据异构应用场景中，现有联邦学习存在客户端本地训练速度低、聚合后模型稳定性差等问题，基于此，提出一种面向数据异构的聚类抽样个性化联邦学习算法（Personalized Federated Learning with Clustered Sampling for non-IID dataset， pFedCS）加快其训练速度，提高模型准确度。该算法通过在本地训练过程中引入正则化损失函数，防止本地模型与全局模型参数产生较大偏差；并提出一种基于相似度的聚类方法将客户端进行聚类，根据每一类客户端样本数量，确定其抽样权重，然后，从该类中选出具有代表性的客户端参与模型聚合，当某一类样本数量较少时，对其进行抽样，增强样本的多样性，以便更好地捕捉全局数据分布的特征。实验结果表明，在MNIST和Synthetic两类数据集上，pFedCS相较于FedAvg、Per-FedAvg、FedProx和FedTC具有更高的准确率和更快的收敛速度。

Abstract

In the context of data heterogeneity, existing federated learning methods face challenges such as low local training speed and poor model stability after aggregation. To address these issues, this paper proposes a Personalized Federated Learning with Clustered Sampling for non-IID datasets (pFedCS) to accelerate training and improve model accuracy. The algorithm introduces a regularization loss function during local training to prevent significant deviations between the local model and global model parameters. Additionally, a similarity-based clustering method is proposed to cluster clients, determining sampling weights based on the number of samples in each cluster, and selecting representative clients from each cluster to participate in model aggregation. When a cluster has fewer samples, sampling is still performed to enhance sample diversity, allowing better capture of the global data distribution’s characteristics. Experimental results demonstrate that, on the MNIST and Synthetic datasets, pFedCS achieves higher accuracy and faster convergence compared to FedAvg, Per-FedAvg, FedProx, and FedTC.

Graphical abstract

关键词

个性化联邦学习 / 数据异构 / 聚类抽样

Key words

personalized federated learning / data heterogeneity / cluster sampling

0　 引 言

联邦学习是一种分布式机器学习范式，其主要目标是通过分布式网络中各个本地节点的局部模型训练，最终构建全局模型。在传统的联邦学习过程中，每轮训练会选取部分节点（也称客户端）参与训练^[1]，并更新其本地模型参数。中央服务器通过聚合这些本地模型参数，迭代优化直至全局模型收敛。联邦学习的优势在于能在保护本地数据隐私的同时，确保全局模型在所有参与节点上都能展现出稳定且优秀的性能。

然而，数据异构问题^[2-5]成为制约联邦学习发展的一项重要挑战。不同客户端之间的数据呈现出非独立同分布的特征，统一的全局模型难以兼顾每个客户端的特定需求，可能导致全局模型的泛化能力下降及收敛速度减慢。例如，在金融领域，不同地区可能面临不同的金融市场特征和交易习惯，导致难以创建一个适用于所有地区的统一金融模型。为应对数据异构问题，学者们提出了一些改进策略，如：文献[6]采用了基于多项分布（Multinomial Distribution, MD）的客户端抽样策略，虽然MD抽样具有无偏性，但在客户端选择过程中可能导致较大的方差，无法确保具有唯一分布的客户端被采样，从而造成局部模型偏移；文献[7]通过在本地模型参数更新时引入一个修正项校正客户端偏移现象，确保每次本地模型参数的更新都朝向理想的方向，但该方法增加了计算和通信负担，在计算资源有限的场景下可能影响效率；文献[8]通过在服务器端引入知识蒸馏机制，对聚合后的全局模型进行微调，以缓解数据异构下的性能退化问题，但其目标仍是优化统一的全局模型，难以充分捕捉各客户端间的数据分布差异。这些方法虽然在一定程度上缓解了数据异构的影响，但根本思路依然围绕构建一个能够普适于所有客户端的全局模型。在面对数据分布差异极大的情况下，难以充分发挥每个客户端数据的潜力。因此，个性化联邦学习策略被提出。这种方法允许每个客户端训练一个定制的模型，以更好地反映本地数据的特点。每个客户端可以根据自身的数据分布和特点调整模型，从而提高全局模型的性能和适应性。如：文献[9]的L2GD算法，将本地模型和全局模型的优化进行了融合，寻求全局模型和局部模型之间的权衡，每个设备可以从自己的私有数据中学习而无需通信，虽然提供了一定的个性化能力，但这种个性化程度不足以应对极端的数据异构情况；文献[10]通过引入正则项，将个性化模型优化与全局模型学习解耦，以提高联邦学习的性能，但该方法在客户端选择过程中受到采样偏差的影响，可能导致部分客户端的数据对全局模型贡献不足；文献[11]提出了一种专为个性化推荐系统而设计的低延迟个性化联邦学习算法，旨在提高数据异构环境下的模型性能，但是该方法的适用性受限，难以推广至广泛的联邦学习场景；文献[12]将元学习与联邦学习融合，提出的Per-FedAvg算法在模型聚合过程中未能充分考虑数据分布的多样性和代表性，会忽略一些具有重要特征的客户端，影响全局模型的稳定性；文献[13]提出了双分类器的个性化联邦学习策略，能够有效保留客户端的个性化信息，提高非独立同分布（Non Independent and Identically Distributed，Non-IID）数据场景下的模型性能，但该策略需要同时更新两个分类器，对资源有限的设备带来一定的计算和存储压力。

虽然这些个性化方法在联邦学习领域取得了一些进展，但仍存在个性化程度受限以及模型聚合对数据分布适应性不足等问题。为此，本文提出了一种面向数据异构的聚类抽样个性化联邦学习方法（Personalized Federated Learning with Clustered Sampling for non-IID dataset, pFedCS）。该方法在损失函数中引入一个近端项，约束本地模型和全局模型之间产生的差异。同时，采用一种基于相似度的聚类抽样方法选择参与全局模型聚合的客户端，并根据聚类类别中样本数量确定其抽样权重，有效降低了客户端抽样的方差，使得全局模型能够更好地适应每个客户端的本地数据分布，进而提高了模型在训练和测试中的收敛性。在整个过程中，通过仅选择部分客户端参与模型聚合，加强了对本地数据的隐私保护。

本文主要贡献有：

1） 采用Moreau信封^[14]作为客户端的正则化损失函数，约束本地模型和全局模型之间产生的差异，在联邦学习中实现全局模型和个性化模型之间的平衡。

2） 引入聚类抽样策略，通过使用基于相似度的聚类方法，把客户端分成不同的类，根据权重从每个类中抽样客户端，对被选择的客户端进行模型聚合。这一策略给予少数类更多的关注，更好地捕捉全局数据分布的特征，从而提高全局模型的泛化能力。

1　 联邦学习

在联邦学习中，存在一个由多个客户端组成的集合C，每个客户端i拥有一个包含n_i个样本的数据集O_i。这些客户端通过分布式训练的方式协作，联邦学习的目标是基于这些分布式数据优化全局模型的损失函数，从而在全局范围内构建出一个性能优异的模型，表示为：

\begin{array}{c}\underset{w\in \mathbb{R}}{\mathrm{m}\mathrm{i}\mathrm{n}}\left\{F\left(w\right)={\displaystyle \sum _{i=\mathrm{1}}^C}{p}_i{F}_i\left(w\right)\right\}\end{array}(1)

式中，w为全局模型，是在外层通过多个客户端的数据聚合找到的；F\left(w\right)为全局损失函数；F_i\left(w\right)为客户端i的本地损失函数；p_i为第i个客户端参与全局聚合时的权重，且{\displaystyle \sum _{i=\mathrm{1}}^C}{p}_i=\mathrm{1}，尽管可以选择任意一组权重\{p_i\}，但常见的选择是定义每个客户端的权重为其样本数与总样本数之比，即p_i=\frac{n_i}{M}，其中M为所有数据集中的总样本数。客户端采样是联邦学习的核心操作，通过联邦平均算法^[15]（Federated Averaging, FedAvg）在每次迭代时，随机采样一部分客户端\left\{K\right\}参与训练，而未被选中的客户端直接使用当前全局模型进行更新，即：

\begin{array}{c}\begin{array}{c}{w}^{t+\mathrm{1}}=\sum _{i\in K}\frac{n_i}{M}{w}_i^{t+\mathrm{1}}+\sum _{i\notin K}\frac{n_i}{M}{w}^t\end{array}\end{array}(2)

式中，t表示当前联邦学习的通信轮次；w^t 表示第t轮的全局模型参数；w_i^{t+\mathrm{1}}表示客户端i在第t+1轮的本地模型参数。

由于存在非参与训练的客户端，全局模型不能充分利用所有可用的本地更新，从而影响模型的收敛速度。而且在联邦学习中，由于客户端的数据来自不同的环境、背景或应用场景，数据分布的差异较大，导致各客户端的局部优化目标和全局优化目标存在偏差，也会影响模型收敛速度和最终性能。

2　 本文方法

2.1　问题模型

在异构环境下，每个客户端i的数据分布不同，其本地损失函数F_i\left(w\right)的最优解也不同。由于这些最优解之间存在差异，各客户端在本地进行模型更新时，会倾向于向其各自的最优解移动，而不是向统一的全局最优解收敛，从而影响全局模型的一致性和整体性能。因此，pFedCS算法首先对客户端的本地损失函数进行正则化处理，使得客户端的局部优化目标更加平滑，这种平滑化处理能够减少局部极小值对优化过程的干扰，使梯度下降算法更容易找到全局最优解，并有效限制个性化模型与全局模型之间的偏离，从而提升各客户端更新一致性和全局收敛性。结合(1)式和著名的Moreau信封^[16-17]F_i\left(w\right)，得到pFedCS的优化目标为：

\underset{w\in \mathbb{R}}{\mathrm{m}\mathrm{i}\mathrm{n}}\left(F\left(w\right)={\displaystyle \sum _{i=\mathrm{1}}^C}{p}_i{F}_i\left(w\right)\right),

F_i\left(w\right)=\underset{{\theta }_i\in \mathbb{R}}{\mathrm{m}\mathrm{i}\mathrm{n}}\left(f_i\left({\theta }_i\right)+\frac{\lambda }{\mathrm{2}}{‖{\theta }_i-w‖}^{\mathrm{2}}\right)(3)

其中，{\theta }_i表示客户端i的个性化模型，对客户端i的数据分布进行优化，并在内部维持与w之间的有界距离；\lambda \left(\lambda \in \left(\mathrm{0,1}\right)\right)是一个正则化参数，用于控制w与个性化模型的关联程度。通过调整正则化参数\lambda，可以控制个性化模型与全局模型之间的平衡。当\lambda较大时，强调对全局模型的拟合，有助于保持全局一致性；而当\lambda较小时，更注重个性化模型，允许个性化模型更灵活地适应本地数据。

在客户端选择阶段，pFedCS采用基于相似性的聚类采样方法选择最具代表性的客户端参与模型更新。首先计算每个客户端i的代表性梯度G_i，如(4)式：

G_i=\nabla F_i\left(w\right)-\nabla F\left(w\right)(4)

式中，\nabla F_i\left(w\right)表示客户端i的本地损失函数的梯度，\nabla F\left(w\right)表示全局损失函数的梯度。

然后使用余弦相似性作为度量指标，定义每个客户端的相似性权重S_i，其计算方式为S_i=\frac{\mathrm{1}}{\left|C\right|}\sum _{j\in C}{s}_{i,j}，其中s_{i,j}=\frac{\nabla F_i\left(w\right)·\nabla F_j\left(w\right)}{‖\nabla F_i\left(w\right)‖‖\nabla F_j\left(w\right)‖}，表示客户端i和j的梯度相似性。通过计算客户端的代表性梯度并结合层次聚类采样，pFedCS能够优先选择具有代表性的数据分布参与模型聚合。层次聚类方法将客户端划分为不同的类簇，优先选择代表性更强的客户端，减少了客户端本地梯度与全局梯度之间的偏移，即：

\begin{array}{c}\mathrm{V}\mathrm{a}\mathrm{r}\left(w^t\right)=\frac{\mathrm{1}}{\left|K_t\right|}\sum _{i\in K_t}{‖\nabla F_i\left(w\right)-\nabla F\left(w\right)‖}^{\mathrm{2}}\end{array}(5)

式中，K_t表示第t轮被选择进行模型聚合的客户端，\left|K_t\right|表示第t轮中被选中的客户端数量；\mathrm{V}\mathrm{a}\mathrm{r}\left(w^t\right)表示梯度方差。这一策略保证了参与模型聚合的客户端有更具代表性的数据分布，减少了由于客户端差异导致的偏移，使得全局模型能够在更少的通信轮次内更快地收敛到全局最优解，实现了通信效率和模型性能的双重优化。

2.2　算法设计

pFedCS算法的详细过程如算法1所示。在每一轮通信t中，服务器向所有客户端发送最新的全局模型w^t,然后在所有客户端执行R次本地更新后，服务器将从抽样的客户端子集K_t中接收最新的本地模型，以进行模型聚合。

首先，在客户端进行本地训练时，得到最优的个性化模型，如(6)式：

\begin{array}{c}{\widehat{\theta }}_i\left(w_{i,r}^t\right)=\underset{{\theta }_i\in \mathbb{R}}{\mathrm{a}\mathrm{r}\mathrm{g}\mathrm{m}\mathrm{i}\mathrm{n}}\left\{f_i\left({\theta }_i\right)+\frac{\lambda }{\mathrm{2}}{‖{\theta }_i-w_{i,r}^t‖}^{\mathrm{2}}\right\}\end{array}(6)

再基于{\widehat{\theta }}_i\left(w_{i,r}^t\right)进行本地模型更新。

其次，抽取客户端参与模型聚合。先计算每个客户的代表性梯度{\rho }_{i,j}，根据代表性梯度计算客户端的相似度矩阵\mathit{\rho }，通过层次聚类将客户聚成\alpha个类，且\alpha \ge m，m是独立抽样分布的个数，聚类结果为\{B_k{\}}_{k=\mathrm{1}}^{\alpha }。按每个类的样本数量q_k对聚类结果进行降序排序。基于排序结果，将前m个类分别置于m个分布，将剩余聚类中的客户端放入集合CS。接下来依次遍历每个采样分布H_k，从集合CS中选取客户端，将样本补充到当前分布，直到集合CS为空，所有客户端都被分配完毕。根据客户在每个分布中的样本数量定义在该分布中被抽样的概率。用r_{k,i}^t表示客户端i在独立分布H_k\left(t\right)中被采样的概率，根据构造方式，有：

\begin{array}{c}\forall k\in \left\{\mathrm{1},\dots ,m\right\},{\displaystyle \sum _{i=\mathrm{1}}^n}{r}_{k,i}^t=\mathrm{1},r_{k,i}^t\ge \mathrm{0}\end{array}(7)

最后，在全局模型更新阶段，服务器使用w^{t+\mathrm{1}}=(\mathrm{1}-\beta )w^{\mathrm{t}}+\beta \sum _{i\in K_t}\frac{w_{i,R}^t}{m}更新全局模型,w_{\mathrm{i},\mathrm{R}}^{\mathrm{t}}表示客户端在第R轮全局模型更新和本地更新时的本地模型。

2.3　聚类抽样的无偏性

在联邦学习中，全局模型是通过聚合来自客户端的本地模型而得到的。由于各客户端的本地数据具有异质性，因此单纯的随机抽样方法难以充分反映全局数据的多样性与代表性，容易引发系统偏差。为此，本文提出了一种基于聚类的无偏采样方法，旨在确保所选客户端子集的期望更新与全体客户端参与聚合时在统计上等价，即保证所选样本在期望上是无偏的。以下是聚类抽样无偏性的证明过程^[18]。

假设全体客户端集合为C，在第t轮训练中，目标是利用抽样的客户端子集K_t的模型参数更新近似全局聚合。记w_i^t为第i个客户端在第t轮的模型参数，定义客户端i的抽样采样权重为p_i，则若采样是无偏的，期望聚合应满足：

\begin{array}{c}{E}_{K_t}\left[w^t\right]=E_{K_t}\left[\sum _{j\in K_t}{\Omega }_j\left(K_t\right)w_j^t\right]={\displaystyle \sum _{i=\mathrm{1}}^n}{p}_i{w}_i^t\end{array}(8)

其中，{\Omega }_j\left(K_t\right)是子集K_t中客户端j的聚合权重，为了确保这种无偏性，首先将全体客户端划分为\alpha个聚类，每个聚类包含特征相似或数据分布相近的客户端，从中选取前m个聚类构建m个采样分布，记作H_k\left(t\right)\left(k=\mathrm{1},\dots ,m\right)。

采样权重p_i在所有采样分布内满足以下条件：

\begin{array}{c}\forall i\in \left\{\mathrm{1},\dots ,n\right\},{\displaystyle \sum _{k=\mathrm{1}}^m}{r}_{k,i}^t=m{p}_i\end{array}(9)

该条件确保每个客户端i在所有分布中被采样的权重总和等于其整体采样权重m{p}_i。满足这一条件意味着在每个分布中抽取一个客户端的期望更新能够无偏地近似所有客户端参与的全局聚合，从而保证采样的无偏性。

接下来证明聚类采样满足无偏性。对任意分布H_k\left(t\right)，在内部进行加权求和的期望可表示为：

\begin{array}{c}{E}_{H_k\left(t\right)}\left[\sum _{i\in H_k\left(t\right)}{\Omega }_i\left(H_k\left(t\right)\right)w_i^t\right]={\displaystyle \sum _{i=\mathrm{1}}^n}{r}_{k,i}^t{w}_i^t\end{array}(10)

式中，{\Omega }_i\left(H_k\left(t\right)\right)表示客户端i在分布H_k\left(t\right)内的权重。由于各采样分布聚合结果的期望可线性相加，因此全局模型的期望聚合可表示为各分布的期望加权平均值，即：

\begin{array}{c}{E}_{K_t}\left[w^t\right]={\displaystyle \sum _{k=\mathrm{1}}^m}\frac{\mathrm{1}}{m}{\displaystyle \sum _{i=\mathrm{1}}^n}{r}_{k,i}^t{w}_i^t={\displaystyle \sum _{i=\mathrm{1}}^n}{p}_i{w}_i^t\end{array}(11)

通过代入无偏性条件{\displaystyle \sum _{k=\mathrm{1}}^m}{r}_{k,i}^t=m{p}_i，(11)式可化简为：

\begin{array}{c}{E}_{K_t}\left[w^t\right]={\displaystyle \sum _{i=\mathrm{1}}^n}{p}_i{w}_i^t\end{array}(12)

从而得到与所有客户端同时参与的聚合结果在统计期望上是相等的，证明了聚类抽样无偏性成立。通过满足此无偏性条件，聚类抽样确保了聚合结果不会因采样引入偏差，同时有效降低了样本方差，使全局模型在多样化数据分布下更具代表性和收敛性。

3　 实验结果与分析

在本节中将针对数据异构的情况，对pFedCS的性能进行验证。首先，本文深入探讨超参数R、\left|D\right|、\lambda和\beta对pFedCS收敛性的影响。然后，本文通过两种不同的神经网络设置，将pFedCS与FedAvg、Per-FedAvg、FedProx、FedTC进行了比较。

3.1　实验设置

本文利用MNIST数据集和Synthetic数据集进行实验分析。MNIST ^[19]数据集是一个手写数字识别的数据集，包含了60 000个训练样本和10 000个测试样本，涵盖了0到9的数字，每张图像都是28×28像素大小。本文将数据集部署到100个异构的客户端上，每个客户端被分配不同大小的本地数据，每个数据集仅包含10个标签里的两个标签，来模拟其异构性。对于Synthetic数据集，本文采用了文献[6]中使用的数据生成和分布，其中参数\overline{\alpha }和\overline{\beta }用于控制每个客户端的本地模型和数据集的差异。该数据集的每个样本都有60个实数值的特征，根据这些特征将样本分为10个不同的类别。本文生成了一个\overline{\alpha }=\mathrm{0.4}和\overline{\beta }=\mathrm{0.6}的合成数据集，将数据分布到100个客户端上。在神经网络模型方面，本文设置了两种模型进行比较。一种是具有softmax激活函数和交叉熵损失函数的L2正则化多项式逻辑回归模型（Mixed Logistic Regression，MLR）；另一种是使用ReLU激活函数实现了一个多层深度神经网络（Multi-Layer Deep Neural Network，简称DNN）。

3.2　超参数的影响

为了了解不同的超参数R、\left|D\right|、\lambda和\beta如何影响pFedCS在MLR和DNN设置下的收敛性，本节在MNIST数据集上进行了相关的实验，其中，\eta =\mathrm{0.005},S=\mathrm{5}。

本地训练总轮次R的影响：本地训练总轮次的多少会影响全局模型的性能。如图1所示，随着R的增加，个性化模型和全局模型的收敛速度都在加快，更多的本地训练轮数使测试的准确率提高，训练的损失值降低。在R=40时，个性化模型的收敛速度非常快，在第10轮联邦学习中就达到了最高准确率，但是R的值越大，在本地用户上的计算量越大，增加计算成本。因此，在进行训练时要平衡好计算成本和通信轮数。

小批量数据\left|D\right|的影响：如图2所示，在MLR的条件下，\left|D\right|增加时，模型的收敛速度有所减慢；在DNN的条件下，\left|D\right|增加时，全局模型的准确率有所降低，个性化模型的准确率差别不大，\left|D\right|=\mathrm{30}时，全局模型的收敛速度最慢。因此，在选择样本大小时，需要根据具体的任务和数据分布进行权衡。

正则化参数\lambda的影响：正则化参数\lambda是用于控制全局模型与个性化模型之间关系的调整因子。它在正则化损失函数中扮演重要的角色，有助于平衡全局模型和个性化模型的训练过程。如图3所示，显示了不同\lambda值下pFedCS的性能，在MLR和DNN两种条件下，随着\lambda值的变大，pFedCS的个性化模型和全局模型的收敛速度都加快了，准确率提高了，损失值降低了。但若\lambda设置过大，会导致算法发散，降低整体性能。因此，要选择合适的\lambda控制全局模型和个性化模型之间的关系。

额外参数\beta的影响：如图4所示，较大的\beta使pFedCS更快地收敛。然而，过大的\beta会使个性化模型和全局模型不稳定，当\beta变大时，为了稳定全局模型和个性化模型，需要考虑较小的\eta值。因此，可以通过反比例调整\beta和\eta来达到pFedCS的稳定性。

3.3　性能比较

本节评估pFedCS在非独立同分布数据环境下的性能，比较了pFedCS与FedAvg、Per-FedAvg、FedProx和FedTC在MNIST和Synthetic数据集上全局模型和个性化模型的准确率和收敛速度。

如图5和图6所示，在相同的全局通信轮次下，pFedCS算法相较于FedAvg、Per-FedAvg、FedProx和FedTC，表现出了较快的收敛速度和较高的准确率。FedAvg算法的表现最差，原因在于其直接聚合所有客户端发送的本地模型，而一些客户端的数据分布与全局数据分布不一致，导致这些客户端训练出的本地模型无法有效适应全局数据，从而影响全局模型的收敛效果。pFedCS通过引入正则化方法，有效减小了个性化模型与全局模型之间的偏差，使全局模型能够更好地捕捉整体数据的特性，同时保持个性化模型对各客户端局部数据分布的适应性，从而减少了客户端与服务器之间的通信轮次。此外，pFedCS采用的聚类采样策略将客户端划分为10个聚类，并从每个聚类中选取一个代表性客户端参与全局模型更新。这种基于相似性的采样方法减少了每轮更新中的采样方差，促进了全局模型训练的稳定性，提升了其在不同数据分布下的泛化能力，并加速了收敛过程。如图5所示，从个性化模型（PM）的角度来看，在图5（b）和图5（d）中，FedTC(PM)和pFedCS(PM)均表现出明显快于其他方法的收敛速度。其中FedTC(PM)的训练损失下降略快于pFedCS(PM)，但在图5（a）和图5（c）测试准确率方面，pFedCS(PM)优于FedTC(PM)。从全局模型（GM）的角度来看，FedTC(GM)在整个训练过程中表现出了最快的收敛速度，训练损失下降明显快于其他方法，包括pFedCS(GM)。但从测试准确率来看，尽管FedTC(GM)收敛更快，由于其主要依赖双分类器机制实现个性化，未能充分捕捉客户端之间数据分布的多样性，因此其最终测试准确率低于pFedCS(GM)。

实验结果进一步验证了pFedCS的优势，尤其是在处理非IID数据时，pFedCS能够显著提升全局模型和个性化模型的准确率。在MNIST数据集上，如图5（a）所示，pFedCS在多层回归（MLR）条件下，相较于FedAvg、Per-FedAvg、FedProx和FedTC，全局模型准确率分别提升了0.50%、0.80%、0.70%、0.30%；pFedCS相较于Per-FedAvg和FedTC，个性化模型的准确率则分别提升了0.52%、0.12%。如图5（c）所示，pFedCS在深度神经网络（DNN）条件下，相较于FedAvg、Per-FedAvg、FedProx和FedTC，全局模型的准确率分别提升了2.41%、0.23%、2.07%、0.11%；pFedCS相较于Per-FedAvg和FedTC，个性化的模型准确率分别提升了0.60%、0.10%。

在具有更强异构性的Synthetic数据集上，pFedCS同样表现优异。如图6（a）所示，在MLR条件下，pFedCS相较于FedAvg、Per-FedAvg、FedProx和FedTC，全局模型准确率分别提升了2.06%、1.00%、2.05%、0.45%；pFedCS相较于Per-FedAvg和FedTC，个性化模型准确率则分别提升了3.70%、1.85%。如图6（c），pFedCS在DNN条件下，相较于FedAvg、Per-FedAvg、FedProx和FedTC，全局模型准确率分别提升了5.31%、3.03%、5.73%、0.79%；pFedCS相较于Per-FedAvg和FedTC，个性化模型准确率分别提升了1.20%、0.94%。

表1总结了不同算法在MNIST和Synthetic数据集上的准确率。实验结果表明，pFedCS在处理非IID数据时，能够有效提高全局模型和个性化模型的准确率，尤其在异构性较强的数据集Synthetic上，性能提升更加显著。

4　 结 语

本文提出的pFedCS作为一种个性化的联邦学习算法，旨在应对数据异构导致的全局模型在训练过程中性能下降和收敛速度减慢问题。该算法引入了一个正则化损失函数，使个性化模型的优化过程和全局模型的学习过程更加独立，全局模型能更好地适应每个客户端的本地数据分布。在服务器聚合阶段，采用聚类抽样的方法选取参与聚合的客户端，并且证明了这种抽样方法是无偏的，能够提高全局模型的泛化性。实验结果表明，在MLR和DNN两种条件下使用MNIST数据集和Synthetic数据集时，pFedCS均优于FedAvg、Per-FedAvg、FedProx、FedTC算法。未来将进一步探索pFedCS在实际应用场景中的性能表现，并研究如何在保持个性化优势的同时进一步提升训练效率。

参考文献

[1] FU L， ZHANG H L， GAO G， et al. Client selection in federated learning： Principles， challenges， and opportunities［J］. IEEE Internet of Things Journal， 2023， 10（24）： 21811-21819. DOI：10.1109/JIOT.2023.3299573 .

[2] ZHAO Y， LI M， LAI L Z， et al. Federated learning with non-IID data［EB/OL］. ［2018-06-02］.

[3] DIAO E M， DING J， TAROKH V. SemiFL： Semi-supervised federated learning for unlabeled clients with alternate training［EB/OL］. ［2021-06-02］. DOI: 10.1109/icmew59549.2023.00087 .

[4] VAHIDIAN S， MORAFAH M， CHEN C， et al. Rethinking data heterogeneity in federated learning： Introducing a new notion and standard benchmarks［J］. IEEE Transactions on Artificial Intelligence， 2024， 5（3）： 1386-1397. DOI：10.1109/TAI.2023.3293068 .

[5] YANG X Y， HUANG W K， YE M. FedAS： Bridging inconsistency in personalized federated learning［C］//2024 IEEE/CVF Conference on Computer Vision and Pattern Recognition （CVPR）. New York： IEEE Press， 2024： 11986-11995. DOI：10.1109/CVPR52733.2024.01139 .

[6] LI T， SAHU A K， ZAHEER M， et al. Federated optimization in heterogeneous networks［EB/OL］. ［2020-04-21］. DOI: 10.1109/ieeeconf44664.2019.9049023 .

[7] KARIMIREDDY S P， KALE S， MOHRI M， et al. SCAFFOLD： Stochastic controlled averaging for federated learning［EB/OL］. ［2019-10-14］.

[8] ZHANG L， SHEN L， DING L， et al. Fine-tuning global model via data-free knowledge distillation for non-IID federated learning［C］//2022 IEEE/CVF Conference on Computer Vision and Pattern Recognition （CVPR）. New York： IEEE Press， 2022： 10164-10173. DOI：10.1109/CVPR52688.2022.00993 .

[9] HANZELY F， RICHTÁRIK P. Federated learning of a mixture of global and local models［EB/OL］. ［2021-01-12］. DOI: 10.1007/s10589-021-00284-5 .

[10] DINH C T， TRAN N H， NGUYEN T D， et al. Personalized federated learning with moreau envelopes［EB/OL］. ［2020-06-30］. DOI: 10.1145/3404397.3404457 .

[11] QU Z G， DING J， JHAVERI R H， et al. FedSarah： A novel low-latency federated learning algorithm for consumer-centric personalized recommendation systems［J］. IEEE Transactions on Consumer Electronics， 2024， 70（1）： 2675-2686. DOI：10.1109/TCE.2023.3342100 .

[12] FALLAH A， MOKHTARI A， OZDAGLAR A， et al. Personalized federated learning with theoretical guarantees： A model-agnostic meta-learning approach［EB/OL］. ［2020-12-30］.

[13] LIU Y， WANG J B， LIU Q B， et al. FedTC： A personalized federated learning method with two classifiers［J］. Computers， Materials & Continua， 2023， 76（3）： 3013-3027. DOI：10.32604/cmc.2023.039452 .

[14] MOREAU J J. Propriétés des applications “prox”［J］. Comptes rendus hebdomadaires des séances de l'Académie des sciences， 1963， 256： 1069-1071.

[15] MCMAHAN H B， MOORE E， RAMAGE D， et al. Communication-efficient learning of deep networks from decentralized data［EB/OL］. ［2016-02-17］.

[16] LIN H Z， MAIRAL J， HARCHAOUI Z. Catalyst acceleration for first-order convex optimization： From theory to practice［EB/OL］. ［2018-04-18］.DOI: 10.1137/17m1125157 .

[17] ZHOU P， YUAN X， XU H， et al. Efficient meta learning via minibatch proximal update［EB/OL］. ［2019-12-30］.

[18] FRABONI Y， VIDAL R， KAMENI L， et al. Clustered sampling： Low-variance and improved representativity for clients selection in federated learning［EB/OL］. ［2021-05-12］. DOI: 10.48550/arXiv.2105.05883 .

[19] LECUN Y， BOTTOU L， BENGIO Y， et al. Gradient-based learning applied to document recognition［J］. Proceedings of the IEEE， 1998， 86（11）： 2278-2324. DOI：10.1109/5.726791 .

基金资助

国家自然科学基金(62102292)

湖北省教育厅科学研究计划指导性项目(B2023043)

智能机器人湖北省重点实验室（武汉工程大学）科研资助项目(HBIRL 202204)

武汉工程大学青年教师基金资助项目(K202035)

武汉市知识创新专项曙光项目(2023010201020440)

武汉工程大学研究生教育创新基金项目(CX2023300)