用于调节参数区间选择的交叉验证方法

摘要

现有的交叉验证方法在选择模型的调节参数时，一般在给定的参数值中选出一个最优的调节参数，而为了应对数值的复杂性和提高选择便利性，现实应用中往往更希望选出一个参数区间，也利于观察算法的稳定性.针对这个问题，本文改进了块正则化m×2交叉验证方法，提出了一个新的模型调节参数区间选择方法，基本思想是给出多个调节参数区间，采用增量的方式，不断地增加m,进而不断地减少调节参数区间个数，最终选出一个最优的调节参数区间，在这个最优区间中任意选取调节参数，都可以作为模型的调节参数.通过大量实验，与基于交叉验证的模型调节参数选择方法(m×2交叉验证方法、2折、5折、10折交叉验证)做了对比，模型在选出的区间上的平均准确度与最优单个参数的准确度相差不大，而且在该区间上最高准确度和最低准确度的差值非常小，说明在该区间上选择参数作为调节参数性能相对稳定.

关键词

交叉验证 / 模型选择 / 调节参数选择 / 区间最优 / 支持向量机