基于DC规划的L₁范数稀疏线性判别分析

摘要

针对传统线性判别分析抗噪性能不足，以及在高维小样本数据集上(即样本特征数量远远大于样本个数)泛化性能不佳等问题，现有文献提出了鲁棒线性判别分析(robust linear discriminant analysis, RLDA)和鲁棒稀疏线性判别分析(robust sparse linear discriminant analysis, RSLDA)模型，并提出基于交替方向乘子法的优化算法求解RLDA和RSLDA模型。但上述算法不具备收敛性，在有些数据集上算法不收敛。因此，根据RLDA、RSLDA的模型结构特点，提出一种基于DC函数规划的优化算法DC＿SLDA,该算法通过将原问题的目标函数进行DC分解，转换为DC规划问题，进而利用DC算法进行迭代求解。所提出的算法不仅具有收敛性保证而且子问题具有解析解，使得模型的训练效率得到明显提升。

关键词

线性判别分析 / 稀疏 / DC规划