结合随机抽样和改进Relief-F的高效特征选择算法

摘要

特征选择是一种常用的数据预处理技术.为更深入分析复杂数据中隐藏的有用信息，本文提出了一种结合随机抽样和改进Relief-F的高效特征选择算法(SSFS).本文中，首先基于Relief-F算法拓展了一种新的计算特征权重的算法MDWA;并将该算法引入到基于耦合学习的特征选择中，设计了一种有效的特征选择算法nFSCL;在此基础上结合随机抽样，并使用随机森林中基于Gini指数的特征重要性评分对所选择到的特征进一步作重要性评价，从而获取到最终的有效特征子集.为验证本文提出新算法的有效性，实验分析中使用了12组UCI数据集作了测试和比较，分别验证了本文拓展的特征权重求解算法MDWA以及高效特征选择算法SSFS的有效性和可行性，进一步表明本文提出的特征选择算法在不同数据集上均能找到有效的特征子集.

关键词

特征选择 / 随机抽样 / Relief-F / 随机森林