基于自信息和模糊邻域条件熵的特征选择方法

摘要

针对模糊邻域粗糙集的特征选择方法通常仅考虑下近似中的分类信息，而忽略上近似和边界域中的分类信息这一问题，本文提出了一种基于自信息和模糊邻域条件熵的特征选择算法。首先，结合下近似、上近似和边界域提出了三种自信息不确定性测度，并将三种自信息相结合提出了相似自信息。其次，在信息论视角下，给出了模糊邻域条件熵的不确定性度量，并将其与相似自信息相结合，提出了更为全面的特征评价函数，用于衡量特征子集分类信息的不确定性，并基于此利用最大相关最小冗余技术设计特征选择算法。最后，通过在数据集上进行对比实验，实验结果表明所提算法能有效处理上近似和边界域中的分类信息；且所提算法在两个分类器下其平均分类精度，在低维数据集中分别提高了2.55%和4.15%，在高维数据集中分别提高了0.83%和2.54%。

关键词

模糊邻域粗糙集 / 自信息 / 不确定性度量 / 模糊邻域熵 / 模糊邻域条件熵