基于互信息和遗传算法的特征选择算法

摘要

本文提出了一种新的基于互信息和遗传算法的监督、封装型特征选择算法。该算法设计了基于互信息的特征之间以及特征与类之间的相关性度量指标，并结合遗传算法具有的较强的全局寻优能力，在候选特征空间中寻找特征间相关性低，特征与类相关性高且分类精度高的全局最优特征子集。本文在10个标准数据集上，与8个基于相关性的特征选择算法进行了对比实验。在3个分类器下，本文算法对应的平均分类精度分别为88.98%,87.5%和86.95%，优于所有对比算法。结果表明，本文算法可以有效降低原始特征集的维数并提升分类器的精度。

关键词

特征选择 / 相关性 / 熵 / 互信息 / 遗传算法

基金资助

国家自然科学基金（62072291;62272284）; 安徽省自然科学基金（2008085MF202）