基于THGS算法优化ResNet-18模型的图像识别

Image recognition research on optimizing ResNet-18 model based on THGS algorithm

摘要

为快速、准确识别水稻褐斑病图像，提出一种改进的THGS-ResNet-18识别模型。首先，应用Tent混沌映射改进饥饿游戏搜索（Hunger game search， HGS）算法，解决HGS算法种群初始化随机性过大的问题；其次，应用改进后的HGS算法优化ResNet-18模型的超参数；最后，应用改进模型THGS-ResNet-18针对5064张水稻叶片图像进行识别，且与经过其他4个群体智能算法优化的ResNet-18模型的7个评价指标进行了比较。实验表明，相较于其他4种算法，本文所提算法优化模型的准确率提升了5.22~6.09百分点，敏感性提升了3.53~5.31百分点，特异性提升了7.38百分点，精度提升了6.95~7.13百分点，召回率提升了3.53~5.31百分点，F-measure提升了5.22~6.20百分点，G-mean提升了5.24~6.13百分点。

Abstract

This article proposes an improved THGS ResNet-18 recognition model for fast and accurate recognition of rice brown spot images. Firstly， apply Tent chaotic mapping to improve the hunger game search （HGS） algorithm， solving the problem of excessive randomness in the population initialization of the HGS algorithm. Secondly， the improved HGS algorithm hyperparameter is applied to optimize ResNet-18 model. Finally， the improved model THGS ResNet-18 was used to recognize 5 064 rice leaf images， and compared with other four ResNet-18 models improved by swarm intelligence algorithm for seven evaluation indicators. Experiments showed that the accuracy rate of the model proposed in this paper increased by 5.22~6.09 percentage points， sensitivity by 3.53~5.31 percentage points， specificity by 7.38 percentage points， precision by 6.95~7.13 percentage points， recall rate by 3.53~5.31 percentage points， f-measure by 5.22~6.20 percentage points， and g-mean by 5.24~6.13 percentage points.

Graphical abstract

关键词

深度学习 / 饥饿游戏搜索算法 / 混沌映射 / 超参数优化 / 水稻病害

Key words

deep learning / hunger game search algorithm / chaotic mapping / hyperparameter optimization / rice diseases

0 引　言

随着深度学习模型的快速发展，其被广泛应用于各领域。Chen等^［1］提出了两种基于深度学习集成的分类方法，并将该方法应用到了高光谱图像分类中；Lee等^［2］对近几年深度学习在磁共振（Magnetic resonance， MR）图像中的应用进行了综述；Kwon等^［3］对深度学习在网络异常检测中的应用进行了综述。由此可见，深度学习模型在多个领域均展现出了卓越的性能，具有巨大的研究空间。

Hsieh等^［4］研发了不同版本的卷积神经网络，并将其应用于农田的高光谱图像分类；Hua等^［5］在R-CNN的基础上集成疾病判别算法，并将其应用于作物表面病害检测，实验表明，该算法可以有效区分作物病害；Sathya等^［6］对卷积神经网络进行了优化，构建了重建疾病感知卷积神经网络（RDA-CNN）；该模型可以将低分辨率的图像转换为超分辨率图像，从而提升模型识别精度；实验表明，与基础CNN相比，RDA-CNN的性能提高了4~6百分点；Wang等^［7］在神经网络中引入MobileNet结构和增强注意力机制，构建了ADSNN-BO模型，且应用贝叶斯优化方法对模型参数进行了优化，最后应用优化后的网络对水稻叶片病害进行识别，实验表明，优化后模型的识别性能要优于原始模型。

由上述研究可知，将卷积神经网络模型应用于农业领域可以有效解决农业问题，且对卷积神经网络的参数^［8-10］进行优化可以提升模型的性能和识别准确率。基于此，为提升水稻产量，本文应用改进后的HGS算法对卷积神经网络模型中的ResNet-18模型进行超参数优化，并将优化后的模型应用于水稻褐斑病的识别中。

1 数据集

本实验数据来自开源平台Kaggle数据集（https：∥www.kaggle.com/datasets/minhhuy 2810/rice-diseases-image-dataset），共收集5 064张水稻叶片图像，其中2 074张褐斑病图片和2 990张健康叶片图片。水稻褐斑病和健康叶片表型特征见图1，第一组为褐斑病，第二组为健康叶片。

2 实验环境和方法

2.1　实验环境

本次实验依托于MATLAB实现。首先，为验证改进算法的有效性，将原始HGS算法与改进HGS算法在23个基准测试函数上进行了比较。其次，为进一步验证本文算法的寻优性能和识别模型的有效性，设置了对比实验，选取4个其他常用群体算法分别对ResNet-18进行了超参数优化，分别是遗传算法（Genetic algorithm，GA）、粒子群优化（Particle swarm optimization，PSO）算法、灰狼优化（Grey wolf optimizer，GWO）算法和鲸鱼优化（Whale optimization algorithm，WOA）算法。选取7个较为经典的评价指标^［11］作为本次实验的评价标准，分别是准确率（ACC）、特异性（Specificity）、敏感性（Sensitivity）、精度（Precision）、召回率（Recall）、F-measure和G-mean。为保证实验的严谨性，实验重复10次，取平均值作为最终实验结果。

2.2　实验方法

2.2.1　HGS算法

HGS算法是由Yang等^［12］在2021年提出来的，其核心理念主要基于自然界中饥饿驱使活动的原理。在自然界中，动物会根据自己的饥饿程度选择捕食的方法，即不同的饥饿程度会驱使动物做出不同的决策。HGS算法数学建模如下：

\mathit{X}\left(t+\mathrm{1}\right)=

（1）

式中：{\mathit{X}}_{\mathrm{b}}为在当前迭代中最优个体的位置；\mathit{X}\left(t\right)为当前个体位置；l为常数，在本次实验中，l取值依照文献［12］；t为整体算法的当前迭代次数；\mathrm{r}\mathrm{a}\mathrm{n}\mathrm{d}\mathrm{n}\left(\mathrm{1}\right)为满足标准正态分布的随机数；r_{\mathrm{1}}、r_{\mathrm{2}}均为［0，1］的随机数。

式（1）中设有参数 R，该参数用于保证算法在实际应用中的搜索范围在规定的范围内。如果超出搜索界限，该参数将搜索范围重新约束至规定范围。其计算公式如下：

\mathit{R}=\left(\mathrm{2}·\mathrm{r}\mathrm{a}\mathrm{n}\mathrm{d}-\mathrm{1}\right)·A（2）

A计算公式如下：

A=\mathrm{2}·\left(\mathrm{1}-\frac{t}{\mathrm{M}\mathrm{a}{\mathrm{x}}_{\mathrm{i}\mathrm{t}\mathrm{e}\mathrm{r}}}\right)（3）

在判断条件中设有参数E，其计算公式如下：

E=sech\left(\left|F\left(i\right)-BF\right|\right)（4）

式中：i\in \left(\mathrm{1,2},\cdots ,k\right)；F\left(i\right)为每个个体的适应度；BF为所有迭代中最佳的适应度。

算法在每次迭代过程中都会计算每个个体的适应度F\left(i\right)，同时产生一个最佳适应度，在每次迭代完成以后，算法都会将每次迭代的最佳适应度进行比较，得到目前为止的最佳适应度BF。

参数E中涉及双曲线函数sech，具体计算公式如下：

sech \left(x\right)=\frac{\mathrm{2}}{{\mathrm{e}}^x+{\mathrm{e}}^{-x}}（5）

HGS算法是依据饥饿驱动行为活动的原理构建的算法，因此，在数学公式中构建出两个参数来代表饥饿，分别是{\mathit{W}}_{\mathrm{1}}和{\mathit{W}}_{\mathrm{2}}，具体代表饥饿权重，{\mathit{W}}_{\mathrm{1}}的计算公式如下：

（6）

{\mathit{W}}_{\mathrm{2}}的计算公式如下：

{\mathit{W}}_{\mathrm{2}}\left(l\right)=\left(\mathrm{1}-\mathrm{e}\mathrm{x}\mathrm{p}\left(-\left|\mathrm{h}\mathrm{u}\mathrm{n}\mathrm{g}\mathrm{r}\mathrm{y}\left(i\right)-\mathrm{S}\mathrm{H}\mathrm{u}\mathrm{n}\mathrm{g}\mathrm{r}\mathrm{y}\right|\right)\right)·r_{\mathrm{5}}·\mathrm{2}（7）

式中：N为种群个数；\mathrm{h}\mathrm{u}\mathrm{n}\mathrm{g}\mathrm{r}\mathrm{y}为每个个体的饥饿程度，\mathrm{S}\mathrm{H}\mathrm{u}\mathrm{n}\mathrm{g}\mathrm{r}\mathrm{y}为所有个体饥饿程度的总和；r_{\mathrm{3}}\mathrm{、}{r}_{\mathrm{4}}\mathrm{、}{r}_{\mathrm{5}}均为［0，1］的随机数。

\mathrm{h}\mathrm{u}\mathrm{n}\mathrm{g}\mathrm{r}\mathrm{y}\left(i\right)的计算公式如下：

\mathrm{h}\mathrm{u}\mathrm{n}\mathrm{g}\mathrm{r}\mathrm{y}\left(i\right)=\left(\begin{array}{l}\mathrm{0},\mathrm{A}\mathrm{l}\mathrm{l}\mathrm{F}\mathrm{i}\mathrm{t}\mathrm{n}\mathrm{e}\mathrm{s}\mathrm{s}\left(i\right)=BF\\ \mathrm{h}\mathrm{u}\mathrm{n}\mathrm{g}\mathrm{r}\mathrm{y}\left(i\right)+H,\mathrm{其他}\end{array}\right.（8）

式中：\mathrm{A}\mathrm{l}\mathrm{l}\mathrm{F}\mathrm{i}\mathrm{t}\mathrm{n}\mathrm{e}\mathrm{s}\mathrm{s}\left(i\right)为保存所有F\left(i\right)的值。H的计算公式如下：

（9）

参数TH的计算公式如下：

TH=\frac{F\left(i\right)-BF}{WF-BF}·r_{\mathrm{6}}·\mathrm{2}·\left(UB-LB\right)（10）

式中：r_{\mathrm{6}}为［0，1］的随机数；WF为当前最差适应度；UB和LB分别为搜索的上限和下限；LH为H的下界，在文献［12］中是经过实验确定的固定参数。

HGS算法一经提出就被广泛应用于各领域，并展现出了卓越的寻优性能。但是，在实际使用的过程中发现，与其他群体智能算法一样，该算法也存在初始种群随机性过大，种群多样性不够丰富的问题。为此，大量研究者开始将混沌映射^{［13，14］}集成到群体智能算法的种群初始化中。基于此，为解决该问题，并提升HGS算法寻优的能力，应用Tent混沌映射对其进行了改进。

2.2.2　Tent混沌映射

HGS算法在位置寻优之前会先进行种群初始化，该阶段采用的是随机产生策略。因为这种策略具有很强的随机性，所以很难保证初始解的质量，进而会对整体的寻优工作造成一定的影响。本文为了有效规避上述问题，在HGS算法种群初始化阶段引入了Tent混沌映射^{［15，16］}。

混沌映射的优势在于其具有随机性、遍历性以及初值敏感性，这些特性能够提升算法的收敛速度。Tent混沌映射函数图像如图2所示。

数学建模公式如下：

x_{n+\mathrm{1}}=f_n=\left\{\begin{array}{l}{x}_n/\beta ,x_n\in \left.\left[\mathrm{0},\beta \right.\right)\\ \left(\mathrm{1}-x_n\right)/\left(\mathrm{1}-\beta \right),x_n\in \left[\beta ,\mathrm{1}\right]\end{array}\right.（11）

为应用Tent混沌映射改进HGS算法，在所有\mathrm{r}\mathrm{a}\mathrm{n}\mathrm{d}随机数中引入Tent混沌映射。

在种群初始化阶段引入Tent混沌映射后，原始产生的随机序列就可以被混沌序列代替，既增强了初始种群的多样性，又避免了初始种群随机性过大的问题，从而达到提升HGS算法收敛速度的目的，改进后的算法以THGS命名。

2.2.3　ResNet-18

卷积神经网络^［8，11］是一种特殊的神经网络结构^［17］， ResNet-18模型^{［18，19］}作为典型的深度卷积神经网络，是ResNet系列网络中的一种较小的变体。ResNet-18在2015年提出，并在ImageNet图像识别挑战赛上取得了很好的成绩。ResNet引入残差学习的概念，通过残差块（residual block）^［20］来解决深度神经网络中的梯度消失和表征瓶颈问题。残差块通过跨层连接（shortcut connection）实现信息的直接传递，使网络能更轻松地学习到恒等映射（identity mapping）。

ResNet-18的整体结构相对简单，由多个残差块和池化层组成。它包含18个权重层，其中包括16个卷积层和2个全连接层。网络输入为\mathrm{224}\times \mathrm{224}大小的图像。每个残差块采用了2个卷积层，每个卷积层后均接有批标准化（batch normalization）和ReLU激活函数。残差块中的跨层连接通过跨越2个卷积层的shortcut connection实现，将输入直接添加到残差块输出上。为了降低特征图尺寸，ResNet-18使用了步长为2的卷积层进行下采样。这样可以在网络中逐渐减小特征图的空间分辨率，同时增加通道数。ResNet-18的2个全连接层用于图像分类任务，将特征图展平为一维向量，并通过softmax激活函数输出类别概率分布。ResNet-18的主要贡献在于引入残差学习思想，使构建更深的神经网络成为可能，并且在深层网络中取得了更好的性能。ResNet-18已经被广泛应用于图像识别、目标检测和图像分割等计算机视觉任务中，并成为深度学习中的重要基准模型之一。但是，在实际使用过程中仍存在一定的局限性，如准确率较低。为解决这些问题，大量研究将群体智能算法集成到深度学习中^{［21，22］}，并取得了良好的效果。基于此，本文使用THGS算法超对ResNet-18进行参数优化。

2.2.4　本文提出的模型

THGS算法根据适应度函数自适应寻找最优值，并将寻到的最优值赋值给ResNet-18的超参数，以此构建的新模型以THGS-ResNet-18命名。模型流程图见图3。

THGS-ResNet-18模型伪代码如下：

THGS-ResNet-18伪代码

1.初始化参数N,T,l,D,\mathrm{S}\mathrm{H}\mathrm{u}\mathrm{n}\mathrm{g}\mathrm{r}\mathrm{y}

2.应用Tent混沌映射初始化个体位置及参数值X_i\left(i=\mathrm{1,2},\cdots ,N\right),r_{\mathrm{1}},r_{\mathrm{2}},\cdots ,r_{\mathrm{6}}

3.While(t\le T)

4.计算所有个体适应度

5.更新参数BF,WF,{\mathit{X}}_b,BI

6.根据式（8）计算\mathrm{H}\mathrm{u}\mathrm{n}\mathrm{g}\mathrm{r}\mathrm{y}

7.根据式（6）计算{\mathit{W}}_{\mathrm{1}}

8.根据式（7）计算{\mathit{W}}_{\mathrm{2}}

9.For（种群个数）

10.根据式（4）计算E

11.根据式（2）更新\mathit{R}

12.根据式（1）更新位置

13.End for

14.t=t+\mathrm{1}

15.End While

16.将最优值赋给THGS-ResNet-18

3 实验结果

3.1　THGS实验结果

将THGS算法与HGS算法在23个测试函数上进行了比较。结果表明，THGS算法在15个测试函数中取得了更好的寻优效果。23个测试函数包括3个类型，分别是单峰测试函数、多峰测试函数和复合测试函数，每种类型测试函数选取2个改进效果明显的结果图进行展示，其中单峰测试函数选取F3、F5，多峰测试函数选取F9、F12，复合测试函数选取F15、F22。函数图像如图4所示。

3.2　THGS-ResNet-18实验结果

混淆矩阵图见图5，受试者操作特性（Receiver operating characteristic， ROC）曲线图见图6，其他指标结果见表1。由图5可以看出，数据集中样本被正确分类的概率要远远大于未被正确分类的概率。

当ROC曲线下面积（AUC）为1时，代表模型具备最佳识别性能；反之，AUC越小，则模型识别性能越差。由图6可以看出，本文模型AUC几乎可以达到完全覆盖，说明本文模型的识别性能良好。

由表1可以看出，THGS-ResNet-18的准确率可以达到96.05%，特异性和精度更是高达97.44%、97.22%，其他指标均在94%以上。综合来看，本研究所提模型的识别性能较为理想。

3.3　对比模型实验结果

为验证本文算法的寻优性能和本文模型的有效性，本次对比实验选取其他4个常用群体智能优化算法分别对ResNet-18进行了超参数优化，实验结果如下。其中对比模型其他指标结果见表2，混淆矩阵如图7所示，ROC曲线如图8所示。

图7为应用其他4种常见的群体智能算法分别对ResNet-18进行超参数优化，然后对本实验数据集进行识别得到的混淆矩阵图。由图7可以看出，数据集中样本被正确分类的概率同样高于未被正确分类的概率，但是与本文所提模型相比，依然是本文所提模型具备最高的将数据集中样本正确分类的概率。

图8为分别应用4种不同群体智能算法超参数优化，然后对本实验数据集进行识别得到的ROC曲线图。由图8可以看出，4种模型虽然在ROC曲线下都具备超过50%的覆盖率，但是明显可以看到未被覆盖的区域。基于此，本文所提模型的AUC最大。

由实验结果可以看出，经过PSO算法和GWO算法优化后的模型达到了相同的性能，经过WOA算法优化后的模型准确率最高，达到90.83%，但本实验提出的识别模型的准确率仍较其高出5.22百分点。针对其他评价指标来说，本文模型同样具备最好的性能，与其他模型相比均有提高。综上所述，本文提出的THGS-ResNet-18识别模型综合性能最好，可用于辅助识别水稻褐斑病。

4 结束语

首先，本次实验从公开数据集平台收集了5 064张水稻叶片图像；其次，应用Tent混沌映射优化了HGS算法，构建了新算法THGS，并在23个标准测试函数上对THGS和HGS进行了对比；再次，应用THGS算法对神经网络模型ResNet-18进行了超参数优化，构建了新模型THGS-ResNet-18；最后，设置了对比实验，选取其他4个群体智能算法分别对神经网络模型ResNet-18进行超参数优化，并针对7个评价指标进行了对比。经过整体实验证明，本文提出的THGS算法的寻优性能要优于HGS算法，且与其他群体智能算法相比，在优化神经网络模型时，本文算法同样具备最好的寻优性能。同时，实验也证明了本文提出的识别模型综合性能最优，准确率高达96.05%，远远高于经过其他群体智能算法优化的模型。综上所述，本文提出的新算法可用于解决优化问题，且本文所提识别模型可用于辅助识别水稻褐斑病。但是，本次研究仍存在一定的局限性，首先，数据集来源于一个平台，数据来源不够丰富；其次，病害种类不够丰富，没有纳入更多的水稻病害。在未来工作中，将尝试使用更多的优化机制改进饥饿游戏搜索算法，同时收集不同平台的数据集和不同病害种类的数据集以丰富数据集来源和病害种类。

参考文献

[1] Chen Y S, Wang Y, Gu Y F, et al. Deep learning ensemble for hyperspectral image classification [J]. IEEE Journal of Selected Topics in Applied Earth Observations and Remote Sensing, 2019, 12(6): 1882-1897.

[2] Lee D, Lee J, Ko J, et al. Deep learning in MR image processing [J]. Investigative Magnetic Resonance Imaging, 2019, 23(2): 81-99.

[3] Kwon D, Kim H, Kim J, et al. A survey of deep learning-based network anomaly detection [J]. Cluster Computing-the Journal of Networks Software Tools and Applications, 2019, 22: 949-961.

[4] Hsieh T H, Kiang J F. Comparison of CNN algorithms on hyperspectral image classification in agricultural lands [J]. Sensors, 2020, 20(6): s20061734.

[5] Hua S, Xu M J, Xu Z F, et al. Multi-feature decision fusion algorithm for disease detection on crop surface based on machine vision [J]. Neural Computing & Applications, 2022, 34(12): 9471-9484.

[6] Sathya K, Rajalakshmi M. RDA- CNN: enhanced super resolution method for rice plant disease classification [J]. Computer Systems Science and Engineering, 2022, 42(1): 33-47.

[7] Wang Y B, Wang H F, Peng Z H. Rice diseases detection and classification using attention based neural network and bayesian optimization [J]. Expert Systems with Applications, 2021, 178: 114770.

[8] Chen J Y, Lin X, Gao S T D, et al. A fast evolutionary learning to optimize CNNinspec keywordsother keywordskey words [J]. Chinese Journal of Electronics, 2020, 29(6): 1061-1073.

[9] Chen K C, Huang Y W, Liu G M, et al. A hierarchical k-means-assisted scenario-aware reconfigurable convolutional neural network [J]. IEEE Transactions on Very Large Scale Integration Systems, 2021, 29(1): 176-188.

[10] Song Y, He B, Liu P. Real-time object detection for auvs using self-cascaded convolutional neural networks [J]. IEEE Journal of Oceanic Engineering, 2021, 46(1): 56-67.

[11] 刘培勇,董洁,谢罗峰, 基于多支路卷积神经网络的磁瓦表面缺陷检测算法[J].吉林大学学报: 工学版, 2023, 53(5): 1449-1457.

[12] Liu Pei-yong, Dong Jie, Xie Luo-feng, et al. Magnetic tile surface defect detection algorithm based on multi-branch convolutional neural network[J]. Journal of Jilin University (Engineering and Technology Edition), 2023, 53(5): 1449-1457.

[13] Yang Y T, Chen H L, Heidari A A, et al. Hunger games search: visions, conception, implementation, deep analysis, perspectives, and towards performance shifts [J]. Expert Systems with Applications, 2021, 177: 114864.

[14] Zhang Y D, Mo Y B. Chaotic adaptive sailfish optimizer with genetic characteristics for global optimization [J]. Journal of Supercomputing, 2022, 78(8): 10950-10996.

[15] Ma J, Hao Z Y, Sun W J. Enhancing sparrow search algorithm via multi-strategies for continuous optimization problems [J]. Information Processing & Management, 2022, 59(2): 102854.

[16] Tsuneda A. Orthogonal chaotic binary sequences based on tent map and walsh functions [J]. Ieice Transactions on Fundamentals of Electronics Communications and Computer Sciences, 2021, 104(9): 1349-1352.

[17] Valle J, Machicao J, Bruno O M. Chaotical PRNG based on composition of logistic and tent maps using deep-zoom [J]. Chaos Solitons & Fractals, 2022, 161: 112296.

[18] Liu H, Li J, Du J, et al. Identification of smoke from straw burning in remote sensing images with the improved yolov5s algorithm [J]. Atmosphere, 2022, 13(6): 13060925.

[19] Huang Y, Yu K, Wu N, et al. Slope shape and edge intelligent recognition technology based on deep neural sensing network [J]. 2022, 01: 5901803.

[20] Zhang Y Q, Peng L X, Ma G L, et al. Dynamic gesture recognition model based on millimeter-wave radar with ResNet-18 and LSTM [J]. Frontiers in Neurorobotics, 2022, 16: 909137.

[21] 杨怀江,王二帅,隋永新, 简化型残差结构和快速深度残差网络[J].吉林大学学报: 工学版, 2022, 52(6): 1413-1421.

[22] Yang Huai-jiang, Wang Er-shuai, Sui Yong-xin, et al. Simplified residual structure and fast deep residual network [J]. Journal of Jilin University (Engineering and Technology Edition), 2022, 52(6): 1413-1421.

[23] Chen X. Vehicle feature recognition via a convolutional neural network with an improved bird swarm algorithm [J]. Journal of Internet Technology, 2023, 24(2): 421-432.

[24] He X X, Shan W F, Zhang R L, et al. Improved colony predation algorithm optimized convolutional neural networks for electrocardiogram signal classification [J]. Biomimetics, 2023, 8(3): 8030268.

基金资助

吉林省农业农村厅项目(2024PG1204)

吉林省科技发展计划项目(20230508026RC)