汽车发动机积碳图像细粒度分类方法研究

Research on Fine⁃Grained Classification Method of Carbon Deposit Images in Automobile Engines

摘要

由于汽车发动机积碳图像在传统模型中的识别效果不佳， 结合实际应用需求， 提出了一种针对积碳图像细粒度特征的分类方法。对于喷油嘴积碳图像分类任务中难以聚焦形态差异大的喷油嘴区域的问题， 提出基于CA注意力机制的积碳图像识别方法。通过添加CA注意力机制， 实现不同通道和空间位置权重的调整， 提升模型对关键特征的聚焦效果。针对活塞顶积碳图像分类任务中积碳分布较分散而难以全面捕捉到关键空间特征的问题， 提出基于SG-former的自适应积碳图像识别方法。通过自动分配全局注意力权重， 有效提取重点区域的细粒度特征， 同时通过BlurPool池化最大化积碳特征在下采样过程的平移不变性。最终， 喷油嘴部位和活塞顶部位的积碳程度识别准确率分别达到88.52%和88.20%。

Abstract

Because of the poor recognition effect of carbon deposit images of automobile engines in the traditional model and the practical application requirements， a classification method for the fine-grained features of carbon deposit images is proposed. For the problem that it is difficult to focus on the nozzle region with large morphological differences in the nozzle carbon image classification task， a carbon image recognition method based on the CA mechanism is proposed. The weights of different channels and spatial locations are adjusted to improve the focusing effect of the model on key features by adding the CA attention mechanism. To address the problem that it is difficult to fully capture the key spatial features in the task of carbon image classification of the piston top， an adaptive carbon image recognition method based on SG-former is proposed， which effectively extracts the fine-grained features in the key areas by automatically assigning the global attention weights and maximizes the translational invariance of the carbon features in the downsampling process through BlurPool pooling. Eventually， the accuracy of carbon degree recognition in the injector nozzle area and piston top area reaches 88.52% and 88.20%， respectively.

Graphical abstract

关键词

积碳检测 / 图像分类 / RepVGG / 注意力机制 / SG-former

Key words

carbon deposit detection / image classification / RepVGG / attention mechanism / SG-former

0 引　言

积碳是汽车发动机内汽油或柴油与润滑油不完全燃烧的产物， 主要集中在进气道、 进气阀、 喷油嘴、 缸壁和活塞顶等部位。它不仅会导致汽车冷启动困难、 怠速不稳、 发动机过热、 油耗增加、 动力下降、 机件早期损耗等多种故障， 还会对发动机整体性能产生严重的负面影响。因此， 定期进行汽车的积碳检测并清理不仅有助于维持车辆的正常运行， 还能减少对环境的不利影响。

目前， 汽车发动机积碳检测的研究重点是基于传感器和内窥镜的视觉积碳检测。Roe等^［1］通过测量发动机油道温度以确定积碳堆积程度。Wang等^［2］通过收集发动机运行条件下的离子和气缸压力信号， 利用循环神经网络对发动机积碳进行检测。钱飞等^［3］提出了一种基于内燃机爆震声音的积碳分布测定装置， 通过采集与放大音频信号， 分析发动机缸内的积碳分布情况并进行可视化。可以看出， 基于传感器的积碳检测需要发动机在某些特定条件并且通过其他信息间接判断积碳堆积情况， 检测较为繁琐， 局限性较大。相比之下， 基于内窥镜的检测方法更加直观， 更易广泛推广。卢曼斯等^［4］通过采集活塞表面积碳图像来推测积碳分布； 尚忱等^［5］提出一种车辆积碳监测系统， 对存在异常气味的发动机内积碳进行视觉图像检测。然而， 以上检测通常依赖专业人员， 其判别过程具有较强的主观性。因此， 肖剑平等^［6］采用机器学习技术对各部位积碳图像与预设图像进行比较， 以实现积碳程度的自动识别， 提高了检测效率并降低了人工成本， 但识别率仍较低。

近年来， 深度学习在图像识别中表现卓越^［7‐11］， 尤其是卷积神经网络， 通过自动学习层次化特征， 显著提升了分类和可视化效果， 在工业应用中展现了良好的部署性、 稳定性和可优化性^{［12‐14］}。基于此， 本文提出了一种基于特征优化的缸壁积碳程度判别模型， 达到了86.9%的准确率， 比传统模型提升了2.8%^［15］， 进一步验证了深度学习在积碳检测领域的可行性和有效性。

但汽车发动机结构复杂， 且积碳产生和聚集受多种因素影响， 单一部位的模型难以全面表征发动机整体积碳分布。因此， 还需要融合其他部位的积碳程度以准确判别整体情况， 从而选择合适的清理液。进气道和进气阀部位的采集图像角度基本固定， 特征区域相对衡定统一， 极少有重度噪声干扰的图像， 处理相对简单； 相比之下， 喷油嘴部位图像由于采集远近距离交替， 导致喷油嘴形态及周围污染程度不同； 活塞顶部位积碳分布较为分散， 外界条件干扰严重导致采集图像质量参差不齐。这些因素导致传统的深度卷积神经网络（Dynamic Convolution Neural Network， DCNN）模型在处理这些部位时， 容易将注意力分散到许多无关特征上， 而忽视了感兴趣区域中的积碳特征， 从而影响识别精度。

注意力机制能够有效弥补DCNN模型的不足， 通过对图像中不同区域加权， 实现对重要区域的动态聚焦， 从而提高目标检测和图像分类的精度与效率^［16］。基于这一思想， 国内外研究者提出了多种变种机制， 如通道注意力机制（SENet^［17］、 SKNet^［18］、 ECANet^［19］）、 空间注意力机制（GENet^［20］、 RANet^［21］）、 以及混合注意力机制（CBAM^［22］、 DANet^［23］、 CA^［24］）等， 增强了网络对图像重要特征的关注能力。其中， CA注意力机制通过调整通道特征的权重， 使得模型能更有效地聚焦于图像中的关键区域， 提升目标检测和图像分类的精度。同时， SG-Former^［25］引入自适应注意力机制， 能够精准捕捉图像细粒度特征。

因此， 本文针对喷油嘴部位积碳图像， 提出了基于CA注意力机制的积碳识别模型来提升对喷油嘴部位积碳的聚焦关注性； 针对活塞顶部位积碳图像， 提出基于SG-Former的自适应积碳图像细粒度识别模型， 旨在最大化下采样过程的平移不变性和对全局重要特征的细粒度信息的提取。

1 主要算法描述

1.1 基于CA注意力机制的喷油嘴部位积碳图像识别方法

1.1.1 RepVGG

图 1 为RepVGG^［26］的主要模型结构， 在训练阶段中， 最开始采用的是简单的一分支残差结构， 这种结构适合于初期网络设计， 能够快速学习积碳图像的基本特征， 如纹理特征。然而， 随着网络层数的增加， 特征图像的分辨率逐渐降低， 空间结构损失严重， 并且一部分特征在传递过程中逐渐消隐， 失去了具有判别性的特征。为了解决这一问题， RepVGG在网络深度增加时引入了更复杂的多分支并行残差结构。这种结构通过并行学习不同类型的特征， 能更好地适应特征提取的变化， 增强网络的特征提取能力， 从而提高模型的整体性能和鲁棒性。

而在推理阶段， 我们将1*1卷积和恒等映射转换为3*3卷积， 并将其与另一个3*3卷积融合， 从而实现RepVGG结构的重参数化。这一过程简化了推理的网络模型， 加快模型部署。其过程如下：

卷积运算表示为y=kx+b， 其中， k为卷积权重参数， b为偏置。BN层包括均值\mu、 方差\sigma、 尺度因子\gamma和偏置\beta， BN层的运算公式为

bn(x,\mu ,\sigma ,\gamma ,\beta )=\frac{(x-\mu )\gamma }{\sigma }+\beta \mathrm{。}（1）

因此， Conv-BN的结果为

y^{\mathrm{\text{'}}}=\frac{((kx+b)-\mu )\gamma }{\sqrt[]{{\sigma }^{\mathrm{2}}+\epsilon }}+\beta \mathrm{。}（2）

所以， 式（2）等效的卷积权重参数(k^{\mathrm{\text{'}}})和偏置参数（b\mathrm{\text{'}}）为

\left\{\begin{array}{l}{k}^{\mathrm{\text{'}}}=\frac{\gamma k}{\sigma },\\ b\mathrm{\text{'}}=-\frac{\mu \gamma }{\sigma }+\beta \mathrm{。}\end{array}\right.（3）

因此， 结构重参数的最终结果为

y″=bn(x{k}^{(\mathrm{3})},{\mu }^{(\mathrm{3})},{\sigma }^{(\mathrm{3})},{\gamma }^{(\mathrm{3})},{\beta }^{(\mathrm{3})})+bn(x{k}^{(\mathrm{1})},

{\mu }^{(\mathrm{1})},{\sigma }^{(\mathrm{1})},{\gamma }^{(\mathrm{1})},{\beta }^{(\mathrm{1})})+bn(x,{\mu }^{(\mathrm{0})},{\sigma }^{(\mathrm{0})},{\gamma }^{(\mathrm{0})},{\beta }^{(\mathrm{0})})=

k^{(\mathrm{3})\mathrm{\text{'}}}x+b^{(\mathrm{3})\mathrm{\text{'}}}+k^{(\mathrm{1})\mathrm{\text{'}}}x+b^{(\mathrm{1})\mathrm{\text{'}}}+x+b^{(\mathrm{0})\mathrm{\text{'}}}\mathrm{。}（4）

1.1.2 CA注意力机制

CA注意力机制的优势在于其可对输入特征沿一个方向捕获通道之间的长期依赖关系， 并沿另一个方向捕获对象的位置信息。目标位置信息被保存到生成的注意力图中， 然后通过乘法运算添加到输入特征图中， 以进行下一次卷积运算， 这有助于模型更好地定位喷油嘴区域。

CA注意力机制结构如图 2 所示， 具体操作如下： 对输入的特征图（\mathit{Y}\in {\mathbb{R}}^{C\mathrm{*}H\mathrm{*}W}）在水平和垂直方向上执行两个独立的一维全局池化操作， 将 Y 分别聚合为两个具有特定方向和位置信息的特征映射（式（5）， 式（6））。

（5）

（6）

拼接得到的两个方向特征图， 并采用1*1卷积降低维度为原来的C/r得到\mathrm{1}\mathrm{*}\left(W\mathrm{*}H\right)\mathrm{*}C/r的特征图 Z， 接着将特征图 Z 按照原来的高度和宽度进行卷积核为 1*1的卷积分别得到通道数与原来一样的特征图， 通过sigmoid激活函数得到{\mathit{g}}^h和{\mathit{g}}^w（式（7）， 式（8））。

{\mathit{g}}^h=\sigma (F_h({\mathit{Z}}^h)),（7）

{\mathit{g}}^w=\sigma (F_w({\mathit{Z}}^w))\mathrm{。}（8）

最终， 将得到的权重和原始输入图像加权相乘， 得到加权的注意力特征图。

1.1.3 模型结构

喷油嘴部位模型的详细结构如表 1 所示， 以RepVGG为主体架构， 强化特征信息的提取， 增加模型推理速度， 并在第一个stage和最后一个stage添加CA注意力机制， 提高对喷油嘴部位积碳的关注。

1.2 基于SG⁃former的自适应活塞顶积碳图像识别方法

1.2.1 下采样模块

卷积在步进大于2进行下采样操作时， 可能会忽略采样定理， 导致信号发生混叠， 即输入发生微妙变化可能会引起输出的剧烈变化^{［27‐29］}。在信号处理中， 通常在下采样前加入低通滤波来抗混叠， 但直接加入低通滤波会影响整个网络的性能。

在积碳识别过程中， 传统的卷积操作会导致某些积碳特征的丢失， 从而造成分类准确度下降。因此， 在下采样模块中利用BlurPool池化^［29］最大化下采样过程中的平移不变性， 最大程度保证积碳特征的提取。具体应用在卷积下采样层（以原步长为2的卷积为例）， 主要为以下3个步骤， 如图 3 所示。

1） 将卷积步长设置为1， 可以有效地保留输入信号的平移等变性。

2） 应用低通滤波器（模糊核）对相邻像素进行加权平均。这种处理方式有助于在特征图中更好地保留信息， 从而使得即便输入图像发生轻微的平移， 输出特征图也不会出现明显的变化。此外， 这种模糊处理能保留更多的上下文信息， 使得特征图对局部噪声和不精确性具有更强的鲁棒性， 避免了因局部特征的微小变化而引发的显著差异。经过模糊处理后， 再进行下采样， 这一过程最大限度地消除了混叠现象。

3） 最后， 对步骤2）的输出进行下采样， 输出结果。

1.2.2 自适应全局显著区域关注模块

如图 4 所示， 活塞顶部积碳的分布较为分散。传统的卷积神经网络在局部特征提取上表现优异， 但难以全面捕捉到一些重要的积碳空间特征。自注意力机制可在提取图像特征的同时关注整个图像的全局信息。然而， 这种机制的计算成本较高。为降低成本， 通常会在全局自注意力中缩短序列， 但这可能导致精细特征提取变得粗粒度。于是， 本文采用了自适应全局显著区域关注模块（SG-former）。该模块利用显著性图， 在训练中动态调整token分配。具体而言， 显著区域获得更多token， 实现细粒度关注， 而次要区域则分配较少token， 从而提高效率的同时保持全局感受野。自适应全局显注模块融合策略如图 5 所示。

自适应全局显著模块融合策略具体过程如下：

将输入特征 X 映射到 Q， K， V 中， 然后将N个头分为n组， 对第j组的第i个头， 按尺度s_j（j=1，2，3，…，n）将（ K， V ）中的每个s_j\mathrm{*}{s}_j的token合并成一个后， 将（ Q， K， V ）窗口分割成多个， 将每个（ K， V ）窗口设置为 M， 对应的 Q 设置s_j\mathit{M}\mathrm{*}{s}_j\mathit{M}。

{\mathit{Q}}_i=\mathit{X}{\mathit{W}}_i^Q,（9）

{\mathit{K}}_i=Merge(\mathit{X},s_j){\mathit{W}}_i^K,（10）

{\mathit{V}}_i=Merge(\mathit{X},s_j){\mathit{W}}_i^V,（11）

式中： Merge(\mathit{X},s_j)表示将 X 中每个s_j\mathrm{*}{s}_j的token通过步长为s_j的卷积合并成一个， s_j=1时， （ Q， K， V ）具有相同大小。

Atte{n}_i=Softmax\left(\frac{\mathit{P}({\mathit{Q}}_i,s_j\mathit{M})\mathit{P}({\mathit{K}}_i^{\mathrm{T}},\mathit{M})}{\sqrt[]{d_h}}\right),（12）

n_i=Atte{n}_i\mathit{P}({\mathit{V}}_i,\mathit{M}),（13）

式中： \mathit{P}({\mathit{Q}}_i,s_j\mathit{M})表示对查询窗口进行s_j\mathit{M}\mathrm{*}{s}_j\mathit{M}分区， s_j\mathit{M}\mathrm{*}{s}_j\mathit{M}=h\mathrm{*}w时， 所有的（ K， V ）用来匹配 Q， 确保全局注意力的提取。

{\mathit{S}}_i=\frac{\mathrm{1}}{hw}{\displaystyle \sum _{m=\mathrm{1}}^{hw}}Atte{n}_i^{m,n},（14）

\mathit{S}={\displaystyle \sum _{i=\mathrm{1}}^n}{\mathit{S}}_i,（15）

式中： S 为最后输出的注意力去权重引导， 包含局部细粒度和全局信息。

将上述输出的 S 按重要程度均匀分为n个子区域s^{\mathrm{1}},\cdots ,s^n（n越小越重要）， 对应的输入\mathit{X}也划分为{\mathit{X}}^{\mathrm{1}},\cdots ,{\mathit{X}}^n。

\mathit{Q}=\mathit{X}{\mathit{W}}^Q,（16）

\mathit{K}=IAM(\mathit{X},\mathit{S},r){\mathit{W}}^K,（17）

\mathit{V}=IAM(\mathit{X},\mathit{S},r){\mathit{W}}^V,（18）

式中： r为对子区域的聚合力， 子区域越重要， r越小。IAM根据r聚合力重新分配输入{\mathit{X}}^{\mathrm{1}},\cdots ,{\mathit{X}}^n的token。

最后通过聚合函数对划分的{\mathit{X}}^{\mathrm{1}},\cdots ,{\mathit{X}}^n进行重新聚合后重新拼接得到最终的提取特征。

\widehat{\mathit{X}}=Cat(F({\mathit{X}}^{\mathrm{1}},r_{\mathrm{1}}),\cdots ,F({\mathit{X}}^n,r_n))\mathrm{。}（19）

2 实验结果与分析

2.1 实验数据集

汽车发动机图像由汽车公司提供， 主要包括5个部位： 进气道、 进气阀、 缸壁、 喷油嘴、 活塞顶； 每个部位分为3种程度： 轻度、 中度、 严重， 如图 4 所示。汽车各部位积碳不同程度数据分布如表 2 所示。

将每个部位积碳数据集按6∶2∶2划分训练集、 验证集、 测试集， 并在训练时对所有图像做标准化处理， 加快模型收敛。

2.2 环境设置

本实验采用Intel（R） Xeon（R） CPU E5-2690 V3@ 2.6 GHz处理器， GPU型号为Geforce RTX 2080 Ti， 操作系统为Ubuntu 18.04.5 LTS， 软件采用Pytorch深度学习框架， 编程语言为Python。实验超参数设置如表 3 所示。

2.3 评价指标

本文使用的性能评估标准如下。其中在计算这些指标时所用到的参量包括： TP为模型将正类正确分类为正类的样本数； FP为模型将负类错误地分类为正类的样本数； FN为模型将正类错误地分类为负类的样本数； TN为模型将负类正确分类为负类的样本数。

1） 准确率（Accuracy）

Accuracy=\frac{{\displaystyle \sum _{i=\mathrm{0}}^{N-\mathrm{1}}}(f(x_i)=y_i)}{N}\mathrm{。}（20）

2） 精准率（Precision）

Precision=\frac{TP}{TP+FP}\mathrm{。}（21）

3） 召回率（Recall）

Recall=\frac{TP}{TP+FN}\mathrm{。}（22）

4） 特异度（Specificity）

Specificity=\frac{TN}{TN+FP}\mathrm{。}（23）

5） F1分数（F1-score）

\mathrm{F}\mathrm{1}\mathrm{⁃}\mathrm{s}\mathrm{c}\mathrm{o}\mathrm{r}\mathrm{e}=\frac{\mathrm{2}\mathrm{*}Precision\mathrm{*}Recall}{Precision}\mathrm{。}（24）

2.4 模型性能分析

2.4.1 基于RepVGG的部位识别性能分析

部位识别采用RepVGG-A0， 多尺度提取各部位结构特征信息。RepVGG-A0对部位的识别率非常优越， 准确率高达99.88%， 表 4 还列出了RepVGG-A0对不同部位的识别精准率、 召回率、 特异度、 F1-score， 其中缸壁和活塞顶部位的识别精确度达100%， F1-score均高于99%， 证实了其稳健的分类特性。

2.4.2 基于CA注意力机制的喷油嘴部位积碳图像识别性能分析

通过参考与积碳程度识别类似的图像识别任务， 选取了性能最优的模型作为本文的主干框架。结果如表 5 所示， RepVGG-A0的效果最好， 识别率达到了87.58%。

之后本文对比了在RepVGG-A0不同位置添加CA注意力机制对喷油嘴积碳程度识别模型性能的影响（如表 6 所示）。结果显示， 基于CA注意力机制的模型有效改善了多通道与空间之间的联系， 减少了冗余信息的干扰。在不同位置添加CA注意力机制后， Precision、 Recall、 Specificity、 F1-score、 Accuracy指标基本都有所提高， 尤其在第1和第5个stage添加CA 注意力机制， Precision、 Recall、 Specificity、 F1-score、 Accuracy相对原始模型分别提升了0.67、 1.50、 0.80、 1.08、 0.94百分点， 均获得了最高分数。

2.4.3 基于SG-Former的自适应活塞顶积碳图像识别性能分析

同喷油嘴部位一样， 本文对主干网络进行了对比实验， 如表 7 所示， 综合实验结果表明Resnet50的效果最佳。为了验证所提方法的有效性， 还对活塞顶数据集进行了消融实验。

在消融实验中， 分别引入了Blur池化和SG-former模块， 如表 8 所示， 可以看出Precision、 Recall、 Specificity、 F1-score、 Accuracy均有所上升， 当将两个模块一起融入到模型中， 模型的效果得到了最好的体现。

2.4.4 对比传统模型的进气阀、 进气道积碳图像识别性能分析

由于进气阀和和进气道积碳特征相对稳定， 因此本文利用传统卷积神经网络对其进行训练， 测试结果如表 9 所示。

通过对比， 可以看出对于进气阀部位的积碳程度识别， Resnet50模型在各个方面都占有绝对优势， 分类准确率高达98.43%， F1-score也达到了98.47%； 对于进气道部位的积碳程度识别， Resnet34则表现更好， 虽然精确度相较Resnet18降低0.4百分比， 但其余评价指标都相对较高， 分类准确率也达到了95.50%， F1-score也达到94.51%。

3 结　论

本文提出了一种针对积碳图像细粒度特征的分类方法， 旨在实现对汽车发动机总体积碳程度的判别。针对背景信息干扰严重且形态差异大的喷油嘴部位积碳， 提出了一种基于CA注意力机制的RepVGG网络提升对喷油嘴部位积碳的聚焦性， 并分析了不同位置的CA注意力机制对模型的影响； 针对积碳分布较散的活塞顶部位积碳提出了一种基于SG-Former的自适应细粒度分类网络， 同时采用Blurpool池化来最大化下采样过程的平移不变性。此外， 还利用传统模型对积碳特征相对稳定的进气道和进气阀部位进行了最优模型选择。最终对多输入图像的部位识别率达到了99.88%， 其中喷油嘴部位、 活塞顶、 进气道、 进气阀的积碳程度识别也分别达到了88.52%、 88.20%、 95.50%、 98.43%。另外在本课题组之前的工作中， 针对缸壁部位提出的积碳程度识别方法的准确率已达到86.9%^［15］。基于以上方法， 有望在实际应用中实现对汽车发动机总体积碳程度判别。

参考文献

[1] ROE A P， THOMPSON S A， PETROU A T， et al. System for determining piston damage based on carbon deposit growth： US20180030890［P］. 2018-02-01.

[2] WANG J Q， DING W Q， DENG J， et al. Method for detecting and distinguishing early combustion and carbon deposits of engine based on ion current： NL2029619［P］. 2023-06-02.

[3] 钱飞， 王婷， 钱宸浩， 等. 基于内燃机的爆震声音判定气缸内积碳分布的测定装置： CN116698272A［P］. 2023-09-05.

[4] 卢曼斯， 司徒白雪， 赵炎. 燃料发动机内部积碳厚度检测装置： CN207881628U［P］. 2018-09-18.

[5] 尚忱. 应用物联网传感器监测车辆积炭的装置： CN108240840A［P］. 2018-07-03.

[6] 肖剑平， 季明， 兰龙， 等. 发动机检测方法、 系统、 计算机设备和存储介质： CN113284131A［P］. 2021-08-20.

[7] ZHANG Q， SHU J， CHEN C， et al. Optimization of pneumonia CT classification model using RepVGG and spatial attention features［J］. Frontiers in Medicine， 2023， 10： 1233724.

[8] 李昊璇， 苏艳琼. 基于改进YOLOv8的道路缺陷检测［J］. 测试技术学报， 2024， 38（5）： 506-512.

[9] LI Haoxuan， SU Yanqiong. Road defect detection based on improved YOLOv8 ［J］. Journal of Test and Measurement Technology， 2024， 38（5）： 506-512. （in Chinese）

[10] HUANG H， YOU Z， CAI H， et al. Fast detection method for prostate cancer cells based on an integrated ResNet50 and YOLOv5 framework［J］. Computer Methods and Programs in Biomedicine， 2022， 226： 107184.

[11] ATILA Ü， UÇAR M， AKYOL K， et al. Plant leaf disease classification using EfficientNet deep learning model［J］. Ecological Informatics， 2021， 61： 101182.

[12] 左昊轩， 黄祺成， 杨佳昊， 等. 基于改进YOLOv5s的作物黄化曲叶病检测方法［J］. 农业机械学报， 2023， 54（S1）： 230-238.

[13] ZUO Haoxuan， HUANG Qicheng， YANG Jiahao， et al. Improved YOLOv5s-based detection method for crop yellow leaf curl virus disease［J］. Transactions of the Chinese Society for Agricultural Machinery， 2023， 54（S1）： 230-238. （in Chinese）

[14] CHEN L， LIN S， LU X， et al. Deep neural network based vehicle and pedestrian detection for autonomous driving： a survey［J］. IEEE Transactions on Intelligent Transportation Systems， 2021， 22（6）： 3234-3246.

[15] LIU Y， ZHANG Z， LIU X， et al. Deep learning-based image classification for online multi-coal and multi-class sorting［J］. Computers & Geosciences， 2021， 157： 104922.

[16] LI E， ZENG L， ZHOU Z， et al. Edge AI： on-demand accelerating deep neural network inference via edge computing［J］. IEEE Transactions on Wireless Communications， 2019， 19（1）： 447-457.

[17] HUANG Q， CHEN Y， WANG Z， et al. Research on discrimination method of carbon deposit degree of automobile engine based on deep learning［J］. Computing and Informatics， 2024， 43（1）： 126-148.

[18] ZHU X， CHENG D， ZHANG Z， et al. An empirical study of spatial attention mechanisms in deep networks［C］//2019 IEEE/CVF International Conference on Computer Vision （ICCV）， 2019： 6687-6696.

[19] HU J， SHEN L， SUN G. Squeeze-and-excitation networks［C］//2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition， 2018： 7132-7141.

[20] LI X， WANG W， HU X， et al. Selective kernel networks［C］//2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition （CVPR）， 2019： 510-519.

[21] MISHRA S K， RAI G， SAHA S， et al. Efficient channel attention based encoder-decoder approach for image captioning in Hindi［J］. ACM Transactions on Asian and Low-Resource Language Information Processing， 2021， 21（3）： 49.

[22] CAO Y， XU J， LIN S， et al. GCNet： non-local networks meet squeeze-excitation networks and beyond［C］//2019 IEEE/CVF International Conference on Computer Vision Workshop （ICCVW）， 2019： 1971-1980.

[23] WANG Z， XU J， LIU L， et al. RANet： ranking attention network for fast video object segmentation［C］//2019 IEEE/CVF International Conference on Computer Vision （ICCV）， 2019： 3977-3986.

[24] WOO S， PARK J， LEE J Y， et al. CBAM： convolutional block attention module［M］//Computer Vision- ECCV 2018. Cham： Springer International Publishing， 2018： 3-19.

[25] ZEGARRA F C， VARGAS-MACHUCA J， CORONADO A M. Comparison of CNN and CNN-LSTM architectures for tool wear estimation［C］//2021 IEEE Engineering International Research Conference （EIRCON）， 2021： 1-4.

[26] HOU Q， ZHOU D， FENG J. Coordinate attention for efficient mobile network design［C］//2021 IEEE/CVF Conference on Computer Vision and Pattern Recognition （CVPR）， 2021： 13708-13717.

[27] REN S， YANG X， LIU S， et al. SG-former： self-guided transformer with evolving token reallocation［C］//2023 IEEE/CVF International Conference on Computer Vision （ICCV）， 2023： 5980-5991.

[28] DING X， ZHANG X， MA N， et al. RepVGG： making VGG-style ConvNets great again［C］//2021 IEEE/CVF Conference on Computer Vision and Pattern Recognition （CVPR）， 2021： 13728-13737.

[29] ENGSTROM L， TRAN B， TSIPRAS D， et al. A rotation and a translation suffice： fooling CNNs with simple transformations［C］//Proceedings of the International Conference on Learning Representations （ICLR）， 2019： 1-21.

[30] AZULAY A， WEISS Y. Why do deep convolutional networks generalize so poorly to small image transformations［J］. Journal of Machine Learning Research， 2019， 20（184）： 1-25.

[31] ZHANG R. Making convolutional networks shift-invariant again［C］//International Conference on Machine Learning， PMLR， 2019： 7324-7334.

基金资助

山西省回国留学人员科研资助项目(2022-145)

山西省重点研发计划资助项目(202302020101008)

山西省研究生科研创新资助项目(2024KY607)