基于非刚性特征的发动机积碳程度判别模型

The Discriminative Model of Carbon Deposit Degree of Engine Based on Non⁃Rigid Features

摘要

汽车发动机积碳的长期累积会引起发动机动力下降、 油耗上升、 排放性能降低等问题， 对发动机及时的检测和清理可以有效缓解积碳造成的影响。本文提出了一种新的基于非刚性特征的模型， 用于积碳程度的判别。首先， 在模型中使用可变形卷积调整卷积核的偏移位置和偏移幅度， 提高网络的有效感受野， 提取非刚性特征信息； 其次， 根据核区域中像素的相关性， 使用自适应指数度量池化核对神经元进行加权， 以此捕获更好的细节特征信息； 最后， 添加基于自注意机制的特征增强模块， 获取特征图的上下文信息。经过实验测试， 本文方法的测试准确率为87.1%， 各项指标相较原始模型平均提高2.5%， 证明本文方法可以提取有效的积碳程度判别特征。

Abstract

Long-term accumulation of carbon deposit in car engines can result in decreased engine power， increased fuel consumption， and diminished emission performance， highlighting the critical importance of timely engine detection and cleaning for effectively mitigating the impact of carbon deposit. A novel model based on non-rigid features has been proposed to discriminate the degree of carbon deposit. Firstly， deformable convolution is employed in the model to adjust the offset position and amplitude of the convolution kernel， enhancing the effective receptive field of the network and extracting non-rigid feature information. Subsequently， neurons are weighted based on the correlation of pixels within the kernel region using an adaptive exponential metric pooling kernel to capture more precise feature information. Finally， a feature improvement module based on a self-attention mechanism is incorporated to extract comprehensive contextual information from feature maps. The model’s test accuracy after experimental testing is 87.1%， and the indexes have increased by 2.5% on average compared to the original model. Demonstrating the capability of our proposed method to extract effective features for carbon deposit degree discrimination. The approach has the potential to theoretically justify the widespread promotion of the degree model discrimination for carbon deposit.

Graphical abstract

关键词

积碳程度识别 / 非刚性特征 / 可变形卷积 / 下采样 / 自注意机制

Key words

discriminate the degree of carbon deposit / non-rigid features / deformable convolution / downsample / self-attention mechanism

0 引　言

汽车发动机积碳是燃料、 润滑油在高温高压作用下不完全燃烧所产生的氧化物， 积碳脱落会影响机油润滑活塞环和缸壁的摩擦， 导致发动机拉缸和燃烧汽油， 若不及时检测清理则会导致发动机报废。因此， 研究一种针对汽车发动机积碳程度检测的方法十分重要。

针对汽车发动机积碳程度检测的方法可以分为基于物理量的检测和基于视觉的检测。前者首先利用传感器设备获取发动机的状态信息量， 再结合阈值判断是否存在积碳^［1‐3］。该方法需要综合多种信息且检测结果不够直观， 在实际应用中存在很大的局限性； 后者主要通过内窥镜成像进行判断， 如图 1 所示为发动机燃烧室内部图像。该方法相较基于物理量的检测方法更直观、 易推广^［4］。但在图像程度分类时却存在如下问题： ① 由于判别的主要依据划痕的形态和大小不固定， 所以不存在刚性的纹理特征和显著的轮廓特征； ② 由于图像采集时成像的色调并不一致， 因此并不具备颜色特征； ③ 划痕不具备固定的角点， 所以不存在明显的结构特征。因此基于传统的手工设计分类器无法提取有效的程度判别特征^［5］。

基于深度学习的方法， 通过更深层的网络结构可以学到隐藏在图像深层的特征， 增加分类特点， 提高图像分类准度。但标准卷积采样位置受限于传统的矩形形状， 无法适应非刚性的积碳程度判别特征。因此， 引入可变形卷积（Deformable Convolution， DConv）， 推广了尺度、 各向异性的纵横比和旋转等各种变换， 通过调制采样点的偏移量达到适应物体特征的效果^［6］。池化可以帮助模型捕获卷积所缺少的全局信息， 从而应对积碳图像中特征分布分散的问题。但最大池化、 平均池化等常规的池化方式在应对纹理性较强的图像时会产生纹理断层， 导致特征信息的丢失。因此， 在进行池化操作时应考虑当前核区域内所有的像素贡献。自适应指数池化核融合单个核向量与其均值的通道相似性及softmax加权， 通过捕捉最重要的信息和保留结构， 最大限度减少信息的损失^［7］。通过注意力机制对输入特征进行加权以强化特征图中的上下文信息， 但基于挤压激励的注意力机制都只关注同一空间不同通道的信息， 或者只关注了不同空间同一通道的信息， 缺乏特征之间的内在联系^［8‐10］。双端注意力机制则通过使用自注意力关注相邻像素和相邻通道间的相似度， 从两个维度增强特征间的依赖关系， 从而增强特征表达^［11］。

本文针对发动机图像中积碳程度判别特征难以获取的问题提出了一种新的深度神经网络架构， 通过提高有效感受野的区域大小、 精准加权图像的细节特征和加强特征像素邻域间的依赖关系等方法， 有效改善积碳程度分类准确率低下的现状， 为汽车发动机积碳程度的自动检测提供技术支持。

1 模型方法

1.1 可变形卷积

关于有效感受野^［12］和显著区域^{［13‐15］}的研究表明， 理论感受野中只有一小部分像素对最终的网络预测有显著影响， 有效感受野由网络权值和采样位置共同控制。为了提高卷积模块的区域适应性， 增强模型泛化能力， 引入DConv提取积碳程度判别特征。\mathfrak{R}=\{(-\mathrm{1},-\mathrm{1}),(-\mathrm{1,0}),\dots，(\mathrm{0,1})，(\mathrm{1,1})\}为一个标准的3×3卷积， \mathfrak{R}中的元素是相对于中心位置的偏移量。对于标准卷积采样位置的输出可以表示为

y(p_{\mathrm{0}})=\sum _{p_n\in \mathfrak{R}}w(p_n)\cdot x(p_{\mathrm{0}}+p_n),（1）

式中： p_{\mathrm{0}}是输出特征图y上的位置映射； p_n为\mathfrak{R}中的元素位置； w为权值。可变形卷积相较普通卷积增加了一个方向参数\{\mathrm{\Delta }{p}_n|n=\mathrm{1},\dots ,N\}和幅度调制参数\{\mathrm{\Delta }{m}_n|n=\mathrm{1},\dots ,N\}， N=|\mathfrak{R}|， 则采样位置的输出可以表示为

y(p_{\mathrm{0}})=\sum _{p_n\in \mathfrak{R}}w(p_n)\cdot x(p_{\mathrm{0}}+p_n+\mathrm{\Delta }{p}_n)\cdot \mathrm{\Delta }{m}_n\mathrm{。}（2）

如图 2 所示， 偏移域\mathrm{\Delta }{p}_n和调制标量\mathrm{\Delta }{m}_n通过平行的卷积操作获取， 输出偏移的尺寸与输入特征图的大小一致， 维度为3N， 前2N个通道表示x和y两个方向上的偏移量， 剩下的N个通道通过sigmoid层形成调制标量。融合后的偏移量不仅可以在感知输入特征时调整偏移方向， 还可以调制来自不同空间位置的输入特征幅度， 从而更好捕获非刚性特征， 同时避免局部曝光过度导致梯度过大对预测造成影响。

1.2 指数自适应池化

为了更好地保留原始图像的细节信息， 采用更加全面的自适应指数加权池化， 包含两种池化核。

第1种是使用核区域P中单个核向量{\mathit{a}}_i与其均值\overline{\mathit{a}}的指数相似性来确定核向量权值， 称为eDSCPool， 计算公式为式（3）。相似度的计算没有使用余弦相似度量或基于距离的相似度量方法， 而是根据Dice-Sørensen系数（DSC）计算， 如式（4）。

\underset{eDSC}{\tilde{\mathit{a}}}=\sum _{i\in {\rm P}}\frac{{\mathrm{e}}^{DSC(\overline{\mathit{a}},{\mathit{a}}_i)}}{\sum _{j\in \mathrm{{\rm P}}}{\mathrm{e}}^{DSC(\overline{\mathit{a}},{\mathit{a}}_j)}}\cdot {\mathit{a}}_i,（3）

DSC(\overline{\mathit{a}},{\mathit{a}}_i)=\frac{\mathrm{2}\cdot ||\overline{\mathit{a}}\cdot {\mathit{a}}_i||}{||\overline{\mathit{a}}|{|}^{\mathrm{2}}+||{\mathit{a}}_i|{|}^{\mathrm{2}}}\mathrm{。}（4）

这种考虑矢量长度的方法有效克服了距离异常产生的像素伪影， 同时指数\mathrm{e}避免了距离为0的情况， 使池化在反向传播阶段可微， 降低了梯度消失的风险。

第2种是基于soft\mathrm{m}\mathrm{a}\mathrm{x}加权来放大更大强度的特征激活^［16］， 称为eMPool， 计算公式为

\underset{eM}{\tilde{\mathit{a}}}=\sum _{i\in {\rm P}}\frac{{\mathrm{e}}^{{\mathit{a}}_i}}{\sum _{j\in {\rm P}}{\mathrm{e}}^{{\mathit{a}}_j}}\cdot {\mathit{a}}_i\mathrm{。}（5）

\mathrm{s}\mathrm{o}\mathrm{f}\mathrm{t}\mathrm{m}\mathrm{a}\mathrm{x}加权通过概率加权使较大的激活对最终输出产生更大的影响， 同时也确保将最小的权重值分配给最低的激活。与Lee等^［17］引入的平均和最大池化融合策略一致， 将式（3）和式（5）通过可训练的权重掩模\beta来创建光滑近似平均和光滑近似最大值的组合， 称为eAPool， 如下式：

\underset{eA}{\tilde{\mathit{a}}}=\underset{eDSC}{\tilde{\mathit{a}}}\cdot \beta +\underset{eM}{\tilde{\mathit{a}}}\cdot (\mathrm{1}-\beta )\mathrm{。}（6）

1.3 双端注意力机制

为了增强积碳程度判别特征间的长期依赖关系， 有效利用特征图的上下文关系， 利用自注意力从空间和通道两个维度建立相邻空间和相邻通道之间的依赖关系， 从而自适应地整合局部特征及其全局依赖关系。如图 3 所示， 分别获取图像的位置注意图和通道注意图增强特征表达。输入特征图O\in {\mathit{ℝ}}^{C\times H\times W}， 通过3个卷积层生成特征映射并进行形状重塑为特征图\left\{\mathit{A},\mathit{B},\mathit{C}\right\}\in {\mathit{ℝ}}^{C\times N}，其中N=H\times W为像素数， 对特征映射\mathit{A}的转置与特征映射\mathit{B}做矩阵乘法， 通过\mathrm{s}\mathrm{o}\mathrm{f}\mathrm{t}\mathrm{m}\mathrm{a}\mathrm{x}层来计算位置注意图P\in {\mathit{ℝ}}^{N\times N}。其中P_{ji}测量第i个位置对第j个位置的影响， 当两个位置的特征表示越相似， 它们之间的相关性就越大。

P_{ji}=\frac{{\mathrm{e}}^{({\mathit{A}}_i\cdot {\mathit{B}}_j)}}{{\displaystyle \sum _{i=\mathrm{1}}^N}{\mathrm{e}}^{({\mathit{A}}_i\cdot {\mathit{B}}_j)}}\mathrm{。}（7）

之后， 将注意图与特征映射\mathit{C}做矩阵乘法， 将输出结果重塑为特征图X\in {\mathit{ℝ}}^{C\times H\times W}，X_i的计算执行像素级运算， 其结果表达式为

X_i={\displaystyle \sum _{i=\mathrm{1}}^N}(P_{ji}{\mathit{C}}_i)+O_i\mathrm{。}（8）

通道注意图的获取直接对原始特征图进行重塑， 以保持不同通道间的依赖关系不变。为了方便表达， 将重塑后的特征映射记为\left\{\mathit{D},\mathit{E},\mathit{F}\right\}\in {\mathit{ℝ}}^{C\times N}， 对特征映射\mathit{E}和\mathit{D}的转置做矩阵乘法， 通过\mathrm{s}\mathrm{o}\mathrm{f}\mathrm{t}\mathrm{m}\mathrm{a}\mathrm{x}层获取最大相关的通道注意图Q\in {\mathit{ℝ}}^{C\times C}，Q_{ji}表示第i个通道对第j个通道的影响。

通过通道注意力获得的特征图Y\in {\mathit{ℝ}}^{C\times H\times W}表示为

Q_{ji}=\frac{{\mathrm{e}}^{({\mathit{E}}_i\cdot {\mathit{D}}_j)}}{{\displaystyle \sum _{i=\mathrm{1}}^N}{\mathrm{e}}^{({\mathit{E}}_i\cdot {\mathit{D}}_j)}},（9）

Y_i={\displaystyle \sum _{i=\mathrm{1}}^N}(Q_{ji}{\mathit{F}}_i)+O_i\mathrm{。}（10）

每个通道的最终特征是所有通道的特征与原始特征的加权和， 它模拟了特征映射之间的长程语义依赖关系， 有助于提高特征的可辨别性。

1.4 模型结构

积碳程度判别模型的详细网络结构如表 1 所示。

骨干网络采用ResNet-18^［18］， 本文针对积碳程度判别特征对骨干网络进行改进， 采用自适应指数池化捕获全局特征， 将Block4中的卷积替换为可变形卷积， 更好地适应非刚性特征。增加注意力机制模块获取更有价值的特征信息。添加dropout层， 保证网络在学习到有效特征元素的同时避免了过拟合的产生。结构一栏中给出了网络设计的详细参数， 包括卷积核的大小， 步径长度和通道数。

2 实　验

2.1 数据集介绍及预处理

表 2 中给出了数据分布情况， 原数据集存在类别分布不均及数据量偏少的问题， 因此针对原始数据集做两步处理， 首先， 对数据量做均衡化处理， 避免网络偏向学习。以重度数据量为基准抽取定量数据， 抽取原则上避免相似度较高且类别模糊的图像。对抽样数据按8∶2的比例划分训练集和测试集； 其次， 对训练集数据进行扩充， 以此提高模型泛化性能和鲁棒性。

本文采用翻转、 裁剪、 仿射、 模糊、 锐化、 加噪、 dropout、 色彩抖动等多种数据增强方式， 对每张图片同时进行多次变化， 以达到提高差异性的目的， 图 4 为单张样本扩充示例， 首张为原图像， 其余为扩充图像。将剩余数据补充为测试集， 模拟实际应用测试。

2.2 实验参数设置

本文实验在PyCharm集成编译环境下进行， GPU为NVIDIA GeForce GTX 1080 Ti*3， 实验采用并行训练的方式， 批处理大小为64， 训练轮次为100， 优化器采用SGD优化器， 初始学习率为0.001， 学习率调整采用余弦衰减策略衰减至0.000 1， 损失函数采用交叉熵损失函数。为了避免过拟合的发生， 在训练时对图像添加Cutmix^［19］， 即对任意两张图片进行裁剪混合， x\in {\mathit{ℝ}}^{W\times H\times C}代表输入图片， y为图片标签， 将任意两张输入图片(x_A,y_A)， (x_B,y_B)混合生成新的训练样本(\tilde{x},\tilde{y})， 混合操作定义为

\tilde{x}=M\odot x_A+(\mathrm{1}-M)\odot x_B,（11）

\tilde{y}=\lambda y_A\oplus (\mathrm{1}-\lambda )y_B,（12）

式中： M\in {\left\{\mathrm{0,1}\right\}}^{W\times H}为二进制掩码， 用来抽取和填充图像， \oplus是两个标签的融合， \lambda符合beta分布\lambda \sim Beta(\alpha ,\alpha )， 在实验中将\alpha设为1， 即\lambda服从(\mathrm{0,1})的均匀分布， 将每个处理批次的混合概率设为0.1。

2.3 评价指标

实验使用Accuracy， Precision， Recall， F1-score作为评价指标。其中F1-score利用精确率和召回率综合评价模型的分类性能。评价指标的计算表达式为

Accuracy=\frac{TP+TN}{TP+FP+FN+TN},（13）

Precision=\frac{TP}{TP+FP},（14）

Recall=\frac{TP}{TP+FN},（15）

F\mathrm{1}\mathrm{⁃}\mathrm{s}\mathrm{c}\mathrm{o}\mathrm{r}\mathrm{e}=\frac{\mathrm{2}\cdot Precision\cdot Recall}{Precision+Recall}\mathrm{。}（16）

由于测试集数量不均衡， 因此在计算F1-score时对每个类别添加加权系数， 加权系数由数据量分配占比决定， 则每个指标的得分计算如下式

S=\frac{N_{c_{\mathrm{0}}}}{N_{\mathrm{t}\mathrm{o}\mathrm{t}\mathrm{a}\mathrm{l}}}{S}_{\mathrm{0}}+\frac{N_{c_{\mathrm{1}}}}{N_{\mathrm{t}\mathrm{o}\mathrm{t}\mathrm{a}\mathrm{l}}}{S}_{\mathrm{1}}+\frac{N_{c_{\mathrm{2}}}}{N_{\mathrm{t}\mathrm{o}\mathrm{t}\mathrm{a}\mathrm{l}}}{S}_{\mathrm{2}},（17）

式中： N_{{\mathrm{c}}_i}(i=\mathrm{0,1},\mathrm{2})为类别数； N_{\mathrm{t}\mathrm{o}\mathrm{t}\mathrm{a}\mathrm{l}}为测试集总量， S_i(i=\mathrm{0,1},\mathrm{2})为对应类别F1-score分值。

2.4 实验结果分析

2.4.1 模型对比实验

在骨干网络的选取中对比了几种与积碳程度判别较为相似的任务中应用较为广泛的几种骨干网络模型^［20］。包括VGGNet16， DenseNet169和EfficientNet-B4。从表 3 的实验结果可以看到， VGGNet16和ResNet18简单的堆叠结构在积碳程度判别任务中有着较好的性能表现， 其中ResNet18因为捷径连接操作在各项指标中的表现最佳。但DenseNet169的密集连接网络并没有得到更好的结果， 相反， 由于图像噪声因素的干扰， 造成网络过拟合， 识别效果反而不佳。EfficientNet-B4虽然有着较为高效的模型架构， 但由于移动翻转瓶颈卷积块中采用1×1的点卷积， 降低了局部特征间的关联性， 导致模型识别准确率略显不足。

2.4.2 可变形卷积模块的性能表现

在网络结构中探索了可变形卷积模块的版本以及添加的位置对分类准确率的影响， 可变形卷积模块的版本包括只调整卷积方向偏移的DCNv1^［21］， 同时调整方向偏移和调制幅度的DCNv2， 包含权值共享机制的DCNv3^［22］。位置对比添加在不同的Block中， 表 4 和表 5 给出了可变形卷积模块和位置的对比结果。

表 4 中的可变形卷积均添加在Block1中， 结果表示， DCNv1和DCNv2模块对积碳程度分类模型的性能均有不同程度的提升， 其中DCNv2考虑了卷积核的调制幅度筛选到更有价值的信息， DCNv3的权重共享机制模糊了图像的细节特征导致准确率降低。根据表 4 的实验结果， 分析了DCNv2在不同特征层次中的性能表现， 实验结果表明， 可变形卷积在更深层次的特征提取中能发挥更大效能， 原因在于底层的像素分布较为密集， 可变行卷积核的大小限制导致特征提取差异不够明显， 而高层特征的稀疏分布使特征差异更加显著。

2.4.3 eAPool中池化核的性能表现

在本节中讨论了eAPool中光滑近似平均池化eDSCPool和光滑近似最大池化eMPool两种池化核各自的性能表现， 实验结果表明， 单独使用eDSCPool比单独使用eMPool分类效果更好， 证明基于DSC系数的指数相似度量在应对细粒度特征时能较好地保留细节特征， 从而提高类别的可分离性。融合eDSCPool和eMPool两种池化核的eAPool获取了更加丰富的下采样信息， 可以进一步提高实验结果。

2.4.4 消融实验

针对本文使用的多种特征增强方法， 做了消融实验来分析各个模块对网络性能的影响， 表 7 对比了原始骨干网络ResNet18和模型改进后的实验结果， 针对各个模块的性能效用， 分别设计不同的模型结构进行对比， 结构A中未使用可变形卷积的方法， 仅对图像的细节特征和邻域特征的依赖关系进行强化。结构B中未使用eAPool池化核， 图像细节有部分损失， 但网络的有效感受野得到有效提高。结构C中未添加基于自注意的特征增强模块， 损失了特征间的上下文信息。从实验结果来看， 以上 3 种结构在模型中发挥着不同的效用， 经过改进后的总体网络分类准确率有了明显的提升， 但缺少任何一种结构都会降低模型的分类性能。证明有效感受野、 细节特征和长程依赖关系在积碳程度判别特征的获取中均发挥着重要作用。

3 结　论

本文针对积碳程度分类任务中无法提取有效判别特征的问题展开研究， 提出了一种新的基于非刚性特征的模型用于积碳程度判别。模型针对特征覆盖范围较广， 缺乏明确边界条件的问题采用可变形卷积增大特征捕获有效感受野， 避免局部梯度较大形成判别干扰。针对下采样过程中细节特征损失较为严重的现象， 采用自适应的指数相似度量池化核， 仔细考核每一个像素对分类性能的贡献， 从而提升区分精度。针对图像类间分离性差的特点， 添加基于自注意机制的特征增强模块， 增强特征间的长程依赖关系。从本文的实验结果可以看出， 提出的模型在积碳程度分类任务中有着较好的性能表现， 可以为汽车发动机积碳程度的自动识别系统搭建提供技术支持。

参考文献

[1] 穆大芸， 吕宪勇， 宋国梁， 等. 一种喷气阀积碳的检测方法、 装置及电子设备： CN110005524B［P］. 2019-09-20.

[2] 杨万里， 刘岩， 洪安新， 等. 一种发动机气缸盖、 发动机、 车辆及沉积物处理方法： CN113818970B［P］. 2022-12-23.

[3] PRABHAKAR B， CONTI R. Non-contact process for engine deposit layer measurement： US11650043［P］. 2021-03-25.

[4] 晏娟， 邵传刚， 王利锋， 等. 一种燃料发动机内积碳厚度检测装置： CN209131594U［P］. 2019-07-19.

[5] 肖剑平， 季明， 兰龙， 等. 发动机检测方法、 系统、 计算机设备和存储介质： CN113284131A［P］. 2021-08-20.

[6] ZHU X， HU H， LIN S， et al. Deformable ConvNets v2： more deformable， better results［C］//Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition， 2019： 930-938.

[7] STERGIOU A， POPPE R. AdaPool： exponential adaptive pooling for information-retaining downsampling［J］. IEEE Transactions on Image Processing， 2022， 32： 251-266.

[8] HU J， SHEN L， SUN G. Squeeze-and-excitation networks［C］//Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition， 2018： 7132-7141.

[9] WOO S， PARK J， LEE J Y， et al. CBAM： convolutional block attention module［C］// Proceedings of the European Conference on Computer Vision （ECCV）， 2018： 3-19.

[10] LEE H J， KIM H E， NAM H. SRM： a style-based recalibration module for convolutional neural networks［C］//Proceedings of the IEEE/CVF International Conference on Computer Vision， 2019： 1854-1862.

[11] FU J， LIU J， TIAN H， et al. Dual attention network for scene segmentation［C］//Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition， 2019： 3146-3154.

[12] LUO W， LI Y， URTASUN R， et al. Understanding the effective receptive field in deep convolutional neural networks［C］//Proceedings of the 30th International Conference on Neural Information Processing Systems， 2016： 4905-4913.

[13] ZINTGRAF L M， COHEN T S， ADEL T， et al. Visualizing deep neural network decisions： prediction difference analysis［J］. arXiv preprint arXiv：2017.

[14] ZHOU B， KHOSLA A， LAPEDRIZA A， et al. Learning deep features for discriminative localization［C］//Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition， 2016： 2921-2929.

[15] DABKOWSKI P， GAL Y. Real time image saliency for black box classifiers［C］//Proceeding of the 31st International Conference on Neural Information Processing Systems， 2017： 6970-6979.

[16] STERGIOU A， POPPE R， KALLIATAKIS G. Refining activation downsampling with SoftPool［C］//Proceedings of the IEEE/CVF International Conference on Computer Vision， 2021： 10337-10346.

[17] LEE C Y， GALLAGHER P W， TU Z. Generalizing pooling functions in convolutional neural networks： mixed， gated， and tree［EB/OL］.

[18] HE K， ZHANG X， REN S， et al. Deep residual learning for image recognition［C］//Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition， 2016： 770-778.

[19] YUN S， HAN D， CHUN S， et al. Cutmix： regularization strategy to train strong classifiers with localizable features［C］//Proceedings of the IEEE/CVF International Conference on Computer Vision， ， 2019： 6023-6032.

[20] 梁美彦， 张倩楠， 任竹云， 等. 基于注意力机制的结肠癌病理学图像识别研究 ［J］. 测试技术学报， 2022， 36（2）： 93-100.

[21] LIANG Meiyan， ZHANG Qiannan， REN Zhuyun， et al. Research on identification of colon pathology image based on attention mechanism［J］. Journal of Test and Measurement Technology， 2022， 36（2）： 93-100. （in Chinese）

[22] DAI J， QI H， XIONG Y， et al. Deformable convolutional networks［C］//Proceedings of the IEEE International Conference on Computer Vision， 2017： 764-773.

[23] WANG W， DAI J， CHEN Z， et al. Internimage： exploring large-scale vision foundation models with deformable convolutions［C］//Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition， 2023： 14408-14419.

基金资助

山西省回国留学人员科研资助项目(2022-145)

中北大学研究生科技立项资助课题(2022180506)