基于高阶双注意力机制的乳腺癌病理图像分类

Classification of Breast Cancer Pathology Images Based on Higher⁃Order Dual Attention Mechanisms

摘要

卷积神经网络（Convolutional Neural Networks， CNN）作为组织病理学图像的分类方法已经引起了人们的广泛关注。然而， 单一CNN模型的卷积仅依赖于一阶统计， 不能描述全局信息， 而且平均池化层的局部特征表达能力较弱， 忽略了捕捉非线性深层特征（二阶统计）的微妙复杂性。因此， 基于Dense模型提出了联合高阶双支注意力（Higher-order Dual Attention Mechanism， HDAM）与协方差池化层（Covariance Pooling， CP）的乳腺癌病理图像分类模型： HDCP-Dense。其中， HDAM模块实现了通道和空间注意力的交互， 并捕获了图像的全局互补特征； CP采用矩阵平方根归一化， 不仅解决了平均池化层的缺陷， 更进一步增强了特征的高阶信息。在BreaKHis数据集上的对比实验和消融试验说明该模型的分类准确率最高可达98.67%， 有效地实现了乳腺癌病理图像的分类。

Abstract

Convolutional neural networks （CNN） have attracted much attention as a classification method for histopathological images. However， the convolution of a single CNN model relies only on first-order statistics， which cannot describe the global information， and the average pooling layer has a weak ability to express local features， ignoring the subtle complexity of capturing nonlinear deep features （second-order statistics）. Therefore， this paper proposes a breast cancer pathology image classification model based on the Dense model with joint higher-order dual attention mechanism（HDAM）and covariance pooling（CP） layer： HDCP-Dense， in which the HDAM module implements the interaction between channel and spatial attention and captures the global complementary features of the image； the covariance pooling（CP）layer adopts matrix square root normalisation， which not only solves the defects of the average pooling layer， but also further enhances the higher-order information of the features.Comparison experiments on the BreaKHis dataset and ablation experiments illustrate that the classification accuracy of this paper’s model， HDCP-Dense， can reach up to 98.67%， effectively achieves the classification of breast cancer pathology images.

Graphical abstract

关键词

乳腺癌病理图像分类 / 协方差池化 / 高阶双支注意力机制 / Dense模块

Key words

classification of breast cancer pathology images / covariance pooling（CP） / higher-order dual attention mechanism（HDAM） / Dense net

0 引　言

乳腺癌是一种普遍存在的恶性肿瘤， 会对个体造成严重的生理和心理伤害^［1-3］。乳腺癌早期诊断和更有效的辅助治疗对癌症治疗至关重要^［4］。乳腺的组织病理学能全面了解乳腺细胞结构和相互作用， 对提高乳腺癌的诊断和治疗能力有重要意义。

基于深度学习的计算机辅助诊断利用各种模型来处理和分析图像数据^［5］。卷积神经网络（Convolutional Neural Networks， CNNs）是深度学习的一个重要且有影响力的子领域， 其利用卷积计算进行特征提取^［6］。在传统CNN方法中， 病理学图像分类取得了良好效果。例如： Oyelade等^［7］通过部署双分支深度学习框架， 解决了将分类任务与图像定位和检测合并的挑战； Xia等^［8］引入了一种CNN框架BA-Net， 结合了基于亮度先验的引导注意机制， 该方法可用于息肉的自动分割； Feng等^［9］利用CNN方法引入了MultiStage全卷积神经网络， 这是一种二维分割网络， 旨在捕获更详细的空间数据以进行精确的前列腺分割； Allam等^［10］引入了基于CNN的框架1D-DCNN， 该框架将可变形卷积和池化层集成到标准卷积过程中， 简化了特征的自动提取； Xu等^［11］提出了一种反向域自适应策略， 在源域中生成类目标结果， 使分类模型对不准确的分割结果具有更强的鲁棒性； Hou等^［12］将双侧采样策略应用于不平衡乳腺癌组织病理图像分类， 在乳腺癌分类中获得了不错的效果； Xu等^［13］提出了一种基于CNN的多维特征融合网络MDFF-Net， 在BreakHis数据集上的准确率为98.86%； Lu等^［14］利用预训练好的CNN进行特征提取， 引入了动态算法BCDNet， 用于在超声图像中选择最合适的CNN模型来检测乳腺癌。

尽管基于CNN模型的分类已取得了很大进展， 但也存在一定的局限性。这些模型通过多层卷积来获取低阶局部特征， 缺失了上下文信息和特征之间的相互联系， 尤其在乳腺癌病理图像分类中， 仅靠单一特征进行病灶部分识别非常困难， 需要特征之间的相互联系来判断。在网络的最后倾向于通过全局平均和最大池化操作来强调一阶统计， 导致这些局部特征表达能力较弱， 忽略了捕捉非线性深层特征（二阶统计）的微妙复杂性， 从而限制了模型的分类潜力。

基于此， 为了充分挖掘图像的高阶信息， 本文提出了乳腺癌病理图像高阶双分支分类模型。首先， 设计了一个双支网络用于提取病理图像在局部和全局的特征， 提高了特征的表达性能； 其次， 提出了高阶双支注意力机制（Higher-order Dual Attention Mechanism， HDAM）， 深入挖掘图像的二阶特征， 改善了乳腺癌病理图像传统一阶特征的缺陷， 可获取图像上下文交互关系； 最后， 对Dense模块^［15］进行改进， 将平均池化层更换为协方差池化层（Covariance Pooling， CP）， 进一步增强了网络的高阶信息， 改善了传统平均池化局限问题。

1 基本模型

1.1 协方差阵（COV）

给出一组图像\mathit{X}\in {\mathrm{R}}^{C\times W\times H}， 将X转化为特征矩阵\mathit{A}\in {\mathrm{R}}^{C\times M}， 其中包含一系列M的特征， 被视为每个通道位置空间处的M维局部特征。再通过卷积特征的潜在相互作用得到协方差矩阵。协方差矩阵为

\mathit{\Sigma }=\mathit{A}\overline{\mathit{I}}{\mathit{A}}^{\mathrm{T}},（1）

式中：\mathit{I}为M\times M的单位矩阵，\overline{\mathit{I}}=\frac{\mathrm{1}}{M}\left(I-\frac{\mathrm{1}}{M}\mathit{N}{\mathit{N}}^{\mathrm{T}}\right)为一个所有元素都是1的d维向量。

1.2 多尺度特征提取模块

2015年提出的GoogleNet网络^［16］共有22层， 非常复杂。它引入了一个多尺度特征提取模块Inception， 如图 1 所示， 该模块同时用不同大小的滤器并行卷积输入图像。

然后， 将卷积的输出在通道维度上连接起来， 形成多尺度特征图。为了增强网络的表示能力， Inception在应用更大尺寸的滤波器之前使用\mathrm{1}\times \mathrm{1}卷积来降低维数。同时， 池分支用于空间下采样。最后， 合并所有分支的输出。多尺度特征提取模块可以有效地捕获局部细节特征和高级特征。

1.3 矩阵平方根归一化模块

给定协方差阵\mathit{\Sigma }， 采用基于迭代矩阵平方根归一化的全局CP方法来代替普通的平均池化， 任何对称正定（Symmetric Positive Definite， SPD）矩阵都有一个唯一的平方根， 可以通过求特征值分解（Eigendecomposition， EIG）或奇异值分解（Singular Value Decomposition， SVD）精确计算。假设\mathit{A}为一个SPD矩阵， 有EIG(\mathit{A})=\mathit{U}\mathit{d}\mathit{i}\mathit{a}\mathit{g}({\lambda }_i){\mathit{U}}^{\mathrm{T}}， 其中\mathit{U}为正交矩阵， \mathit{d}\mathit{i}\mathit{a}\mathit{g}({\lambda }_i)为以\mathit{A}的特征值{\lambda }_i为对角线的对角矩阵， 那么\mathit{A}有一个平方根\mathit{Y}，

\mathit{Y}=\mathit{U}\mathit{d}\mathit{i}\mathit{a}\mathit{g}({\lambda }_i^{\mathrm{1}/\mathrm{2}}){\mathit{U}}^{\mathrm{T}}\mathrm{。}（2）

故{\mathit{Y}}^{\mathrm{2}}=\mathit{A}， 但是EIG和SVD在图形处理器上都不支持。Higham等^［17］研究了一类迭代计算矩阵平方根的方法， 随后Li等^［18］基于此提出通过牛顿-舒尔茨迭代实现CP的迭代矩阵平方根归一化。这个过程包括3个不同的阶段： 预归一化阶段、 牛顿-舒尔茨迭代、 后补偿。

首先， 该迭代方法在局部边界内收敛^［19］。预归一化通过计算\mathit{\Sigma }的轨迹来实现， 定义为

\mathit{A}=\frac{\mathrm{1}}{\mathrm{t}\mathrm{r}(\mathit{\Sigma })}\mathit{\Sigma }\mathrm{。}（3）

随后进行牛顿-舒尔茨迭代， 该阶段重复k次并输出近似的矩阵平方根{\mathit{Y}}_k， 根据给定的相关初始矩阵{\mathit{Y}}_{\mathrm{0}}=\mathit{A}， {\mathit{Z}}_{\mathrm{0}}=\mathit{I}，k=\mathrm{1},\dots ,N， \mathit{A}的平方根\mathit{Y}的计算结构为

{\mathit{Y}}_k=\frac{\mathrm{1}}{\mathrm{2}}{\mathit{Y}}_{k-\mathrm{1}}(\mathrm{3}\mathit{I}-{\mathit{Z}}_{k-\mathrm{1}}{\mathit{Y}}_{k-\mathrm{1}}),

{\mathit{Z}}_k=\frac{\mathrm{1}}{\mathrm{2}}(\mathrm{3}\mathit{I}-{\mathit{Z}}_{k-\mathrm{1}}{\mathit{Y}}_{k-\mathrm{1}}){\mathit{Z}}_{k-\mathrm{1}}\mathrm{。}（4）

预归一化阶段， \mathit{\Sigma }的数据量发生变化， 导致网络无法收敛， 进行后补偿可以克服这种影响。后补偿{\mathit{Y}}_k定义为

\mathit{C}=\sqrt[]{\mathrm{t}\mathrm{r}(\mathit{\Sigma })}{\mathit{Y}}_k\mathrm{。}（5）

最终所得平方根\mathit{C}即为CP的最终结果， 将\mathit{C}输入到全连接层中进行下游任务。

1.4 高阶通道注意力（HCAM）

给定图像\mathit{F}\in {\mathrm{R}}^{C\times H\times W}， 为了优化计算协方差矩阵的效率， 首先进行卷积， 降低通道数， 将\mathit{F}简化为{\mathit{F}}^{\mathrm{\text{'}}}\in {\mathrm{R}}^{C^{\mathrm{\text{'}}}\times H\times W}， 其中， 特征映射F\text{'}可以看作是每个通道位置空间的一个M维局部特征， 特征F^{\mathrm{\text{'}}}可以重塑为\mathit{G}\in {\mathrm{R}}^{C\mathrm{\text{'}}\times M}， 其中M=H\times W， 通过\mathit{G}与其转置的{\mathit{G}}^{\mathrm{T}}相乘得到局部特征之间的相互作用。作用后得到大小为C\mathrm{\text{'}}\times C\mathrm{\text{'}}的通道协方差矩阵， 由{\mathit{\Sigma }}_{CH}=\mathit{G}\overline{\mathit{I}}{\mathit{G}}^{\mathrm{T}}表示， 其中\overline{\mathit{I}}=\frac{\mathrm{1}}{c^{\text{'}}}\left(\mathit{I}-\frac{\mathrm{1}}{c^{\text{'}}}\mathit{N}\right)， \mathit{N}为一个全为1的矩阵。{\mathit{\Sigma }}_{CH}的第i行表示通道i与所有通道的依赖关系。为了保持结构信息， 将每一行视为群卷积中的一组， 对协方差矩阵进行逐行卷积^［20］， 如图 2 所示， 假设选择4个卷积核对矩阵进行逐行卷积， 得到\mathrm{4}C\mathrm{\text{'}}\times \mathrm{1}\times \mathrm{1}的张量， 然后执行第二次卷积， 将信道维度缩放到C， 使用sigmoid函数作为非线性激活， 输出C\times \mathrm{1}权重向量。最后， 将输入张量的每个通道乘以权向量中相应的元素。

1.5 高阶空间注意力（HSAM）

与HCAM相似， 给定图像\mathit{F}\in {\mathrm{R}}^{C\times H\times W}， 为了优化计算协方差矩阵的效率， 将H和W简化为h\mathrm{\text{'}}和w\mathrm{\text{'}}， 特征{\mathit{F}}^{\mathrm{\text{'}}}\in {\mathrm{R}}^{C\times h\text{'}\times w\text{'}}被解释为在每个空间位置具有c维的局部特征， 具有维度为h\mathrm{\text{'}}\times w\mathrm{\text{'}}的二维空间。\mathit{F}\mathrm{\text{'}}被重塑为矩阵\mathit{A}\in {\mathrm{R}}^{\mathrm{M}\times \mathrm{C}}， 其中M=h\mathrm{\text{'}}\times w\mathrm{\text{'}}， 二阶池化后大小为M\times M的空间协方差矩阵为

{\mathit{\Sigma }}_{SP}=\mathit{A}\overline{\mathit{I}}{\mathit{A}}^{\mathrm{T}}\mathrm{。}（6）

{\mathit{\Sigma }}_{SP}的第i行， i\in (\mathrm{1,2}\dots ,N)表示空间特征i与{\mathit{\Sigma }}_{SP}中所有特征的统计依赖关系。然后， 通过逐行卷积和自适应池化操作将空间维度从h\mathrm{\text{'}}缩放到H， 从w\mathrm{\text{'}}缩放到W。具体操作如图3 所示： 对协方差阵进行逐行卷积， 输入通道数为M， 输出通道数为\mathrm{4}M后得到\mathrm{4}M\times \mathrm{1}\times \mathrm{1}的张量； 然后， 对该张量自适应缩小， 再次卷积， 通道数为M， 应用sigmoid激活函数后上采样至H\times W分辨率， 产生权张量\mathit{V}\in {\mathrm{R}}^{H\times W}； 最后， 通过将\mathit{F}中的每个高度和宽度与\mathit{V}中的相应元素相乘， 在输入特征\mathit{F}和\mathit{V}之间执行逐元素乘法。

2 本文提出的分类模型

2.1 高阶双支注意力机制（HDAM）

在乳腺癌分类任务中， 重点特征表示对于准确理解图像至关重要。注意力机制模拟人类视觉对重点区域的关注来判别图像特征， 通道注意力反映了特征在通道之间的联系， 改善了普通卷积在通道上的信息缺失， 但是缺乏了空间上的联系； 空间注意力捕捉了特征图内部像素点的相关性， 能够突出病理图像的重要区域， 但是不能与其他通道的特征进行融合。

为了获得更准确的判别图像特征表示， 本文提出了HDAM， 在提取高阶信息的同时关注特征在空间和通道的交互， 流程图如图 4 所示。HDAM基于COV模块， 将沿通道和空间维度建模的特征图连接起来， 以提供更多的通道和空间信息^［21］， 其由两个模块组成： HCAM模块和HSAM模块。HDAM模块以特征映射\mathit{F}\in {\mathrm{R}}^{C\times W\times H}作为输入， 其中H和W表示特征映射的空间维度， C表示通道。最后， 将两个模块结果相加得到最终的高阶注意力图。

2.2 模型设计

本文利用Dense模块、 多尺度特征提取、 HDAM、 Dense-ISQRT构建了一个提取高阶特征信息的乳腺癌分类模型HDCP-Dense， 流程图如图 5 所示。

本文模型HDCP-Dense执行阶段如下：

第一阶段： 通过一个简单的二维卷积和一个Dense模块来获得图像多层次的基础低阶特征。

第二阶段： 多尺度特征提取模块在获得多层次的基础特征后， 通过多尺度卷积捕获图像的局部细节和高级特征， 在不同放大倍数下捕捉癌症病理图像的细节和更丰富的视觉表征。

第三阶段： HDAM由两部分组成， 上半部分为HCAM， 获取特征通道维度之间的相关性， 刻画同一张特征图不同通道的上下文信息； 下半部分为HSAM， 描述图像内像素点之间的相关性， 获取图像中全局的上下文信息。

将多尺度特征输入HDAM， 分别获得两层高阶加权后的注意力特征图， 将他们在通道维度进行相加， 加强病理图像特征之间的交流， 为后续Dense模块输入做准备。

第四阶段： Dense-COV模块（见图 6）继续增强图像特征的表达能力， 将COV与ISQRT应用在Dense模块的最后池化层形成CP， 改善传统池化局限性。 CP包含两步： 首先， 将Dense模块平均池化前的特征输出为COV， 然后， 对COV进行的矩阵平方根归一化， 得到的特征平方根作为模型特征提取的最终输出， 所得特征具有高阶信息的特性。

3 实　验

本模型HDCP-Dense是基于Pytorch实现， 在RTX 3060服务器上完成。

3.1 数据源

本文采用的数据集BreaKHis是最早可公开访问的综合BCHI数据集之一， 是乳腺癌的显微活检图像集合， 其中包含良性和恶性肿瘤图像。每幅肿瘤图像大小为700×460。该数据集根据放大倍数40X、 100X、 200X和400X被分为4组， 来源于82名不同患者的7 909个样本， 其中良性肿瘤2 480例， 恶性肿瘤5 429例， 数据分布如表 1 所示。

3.2 参数设置

实验中， 每幅图像的大小标准化为224×224， 批量大小为8， 模型迭代次数为100。模型中， Adam优化器的学习率设置为0.000 3， HCAM中的信道维数降低到128， HSAM中的空间维数降低到64（h=w=8）， 并采用准确率、 精确率、 召回率、 F1分数作为模型的评判指标。本文模型HDCP-Dense是实现将乳腺癌图像分为良性图像和恶性图像的二分类任务。

根据表 2， HDCP-Dense采用的损失函数为焦点损失函数， 对分类考虑权重， 给少量样本的类别较大权值， 给大量样本的类别较小权值， 消除了不平衡数据的影响， 提高了分类准确率。

3.3 实验结果

本文模型HDCP-Dense在BreaKHis数据集上的分类结果如表 3 所示。

从表 3 中可以看出， 在BreaKHis数据集下， 4个倍数分类准确率在96.65%~98.67%之间， 在200X下达到98.67%的效果， 表现最好， 并且其召回率和F1分数分别为99.52%和99.05%。4个倍数结果的分类差异归因于不同倍数的缩放比， 导致其具有不同的颜色和纹理图案属性， 影响模型性能。图 7 分别为4个倍数下的分类混淆矩阵。为解决数据不平衡问题， 采用焦点损失函数， 对分类考虑权重， 给易分类样本的类别较大权重， 给不易分类样本的类别较小权重。在最终分类结果可以看出， 两类别分类错误的数值比较接近， 避免了分类考虑权值偏向于某一类的现象， 减小了分类不平衡误差， 提高了分类效果。

为了说明本文模型HDCP-Dense的有效性， 选取了8个主流深度学习模型： VisionTransformer（VIT）^［22］、 Resnet101^［23］、 MobileNetV3^［24］、 VGG16^［25］， 文献［26-29］方法， 与本文的模型HDCP-Dense进行对比分析。

对比结果如表 4 所示， 本文模型HDCP-Dense是基于高阶信息的模型， 在放大倍数40X， 100X， 200X， 400X下二分类准确率分别为96.65%， 97.92%， 98.67%， 97.89%， 在100X、 200X和400X倍数下准确率高于其余8种方法。与主流模型相比， HDCP-Dense模型效果远超VIT， 超过Resnet101模型1.49~6.24百分点。与文献［24⁃27］中模型相比， HDCP-Dense在100X、 200X、 400X的准确率比文献［26］方法高出2.65~5.84百分点， 这说明HDCP-Dense模型可以提升病理图像的分类效果。Resnet101、 文献［26］、 文献［28］、 文献［29］的准确率平均值分别为93.54%、 93.17%、 96.68%、 96.10%， HDCP-Dense模型的准确率平均值为97.81%， 达到最佳。

与目前应用最多的Resnet网络参数量对比， 如表 5 所示， 可以看出本模型参数量明显较少， 模型复杂度较小。因此， 所提HDCP-Dense模型具有更好的性能。

3.4 消融试验

为了验证高阶信息在分类中的表征能力， 对本文模型HDCP-Dense进行消融实验。表 6 为消融实验模型设置， 其中， Baseline模型表示只有Dense模块、 多尺度特征提取和普通Dense模型； ModelA表示包含Dense模块、 多尺度特征提取模块和Dense-COV的模型； ModelB表示包含Dense模块、 多尺度特征提取、 HDAM和普通Dense模型； ModelC为本文HDCP-Dense模型。表 6 中的模型都使用相同的训练设置实现和测试了基础和3个深度学习结构。表 7 给出了使用BreaKHis数据集的所有深度学习结构的消融实验结果， 可以看出本文模型HDCP-Dense获取了最佳的分类性能。

从表 7 中可以看出， Baseline模型在数据集上的性能最低， ModelC的性能最好。Baseline在数据集上的准确率仅为91.54%~93.91%。与Baseline相比， ModelA在400X下准确率比Baseline高出2.2百分点， 在40X和200X下均高出了1.35百分点和1.16百分点， 这表明CP得到的高阶特征深入挖掘了图像的高阶信息， 更具有判别性， 提高了分类性能， 相反， 应用平均池化后性能降低， 表明其特征表征能力较弱。ModelB与Baseline模型相比， 其准确率提高了1.85百分点以上， 这说明HDAM模块在分类中发挥了较好的作用， 局部与全局的加权信息交互， 捕获了特征之间的相互联系， 提升了分类准确率。4个倍数下ModelC的准确率均比MoudelB高， 说明在其余模块相同的情况下， 本文改进的CP对分类性能有较好的提升。而HDCP-Dense模型充分融合了ModelA与ModelB的优点， 实现了HDAM与CP的融合， 准确率远高于其余3个模型。图 8 为在200X下的ROC（Receiver Operating Characteristic）曲线图， 可以看出本文模型HDCP-Dense获取了最佳的分类性能。

3.5 可视化结果

为进一步研究HDAM模块在模型中的具体效能， 利用ModelA和ModelC绘制了200X和400X下的t-SNE（t-Distributed Stochastic Neighbor Embedding）图来观察两类图像的具体分布， 如图 9 所示， 表示为HDAM模块前后两类图像特征的分布情况。可以看出， 在HDAM模块存在时， 两类边界明显， 重叠部分较少， 说明提取的图像特征有明显的决策边界， 在去除HDAM模块后， 图像特征分布混乱， 重叠部分较多， 在分类时很容易产生较大误差， 降低模型的分类性能。在表 8 中， 以40X和400X为例， 绘制了良性和恶性图像的Grad-CAM图来观察HDCP-Dense对病理图像不同区域的重视程度， 红色区域表示模型重点关注区域， 从中提取特征并以此来进行分类。由此证明了在HDCP-Dense模型中提出的HDAM模块与Dense-COV模块综合积极影响了模型的性能， 提高了模型分类的准确率。

4 结　论

乳腺癌病理图像分类依赖于高阶信息， 本文提出的HDCP-Dense模型在传统一阶信息基础上提取二阶信息， 一阶信息提取图像的多尺度局部特征， HDAM模块利用高阶注意力捕获了高阶范围内的全局上下文特征， 局部特征与全局上下文特征互相补充， 充分提高了图像特征的表达能力， 有利于分类器性能的提升。此外， 将CP代替了传统平均池化层， 获得了更具判别性的病理特征。实验表明， HDCP-Dense在BreaKHis数据集上取得了良好的性能， 效果均优于现在的主流方法， 比如VIT和ResNet101。在今后的研究中， 计划更深入挖掘最具判别性特征的方法来提高乳腺癌病理图像分类性能。

参考文献

[1] LUKASIEWICZ S， CZECZELEWSKI M， FORMA A， et al. Breast cancer-epidemiology， risk factors， classification， prognostic markers， and current treatment strategies：an updated review［J］. Cancers， 2021， 13（17）： 4287.

[2] VY V P T， YAO M M， LE N Q K， et al. Machine learning algorithm for distinguishing ductal carcinoma in situ from invasive breast cancer［J］. Cancers， 2022， 14（10）： 2437.

[3] AVERY A， ALDEN J， KRAMISH C， et al. The pathologic diagnosis of carcinoma in various tissues［J］. Advances in Cancer Research， 2022， 154： 1-14.

[4] PHD H S.Breast cancer statistics， 2022［J］. CA： A Cancer Journal for Clinicians， 2022， 72（6）： 524-541.

[5] AGGARWAL K， MIJWIL M M， AL-MISTAREHI A H， et al. Has the future started？The current growth of artificial intelligence， machine learning， and deep learning［J］. Iraqi Journal for Computer Science and Mathematics， 2022， 3（1）： 115-123.

[6] HUANG Z Y. Research on single image super-resolution based on very deep super-resolution convolutional neural network［J］. Journal of Measurement Science and Instrumentation， 2022， 13（2）： 276-283.

[7] OYELADE O N， EZUGWU A E， VENTER H S， et al. Abnormality classification and localization using dual-branch whole-region-based CNN model with histopathological images［J］. Computers in Biology and Medicine， 2022， 149： 105943.

[8] XIA H， QIN Y， TAN Y， et al. BA-Net： Brightness prior guided attention network for colonic polyp segmentation［J］. Biocybernetics and Biomedical Engineering， 2023， 43（3）： 603-615.

[9] FENG Y， ATABANSI C C， NIE J， et al. Multi-stage fully convolutional network for precise prostate segmentation in ultrasound images［J］. Biocybernetics and Biomedical Engineering， 2023， 43（3）： 586-602.

[10] ALLAM J P， SAMANTRAY S， SAHOO S P， et al. A deformable CNN architecture for predicting clinical acceptability of ECG signal［J］. Biocybernetics and Biomedical Engineering， 2023， 43（1）： 335-351.

[11] XU Z， LIM S， LU Y， et al. Reversed domain adaptation for nuclei segmentation-based pathological image classification［J］. Computers in Biology and Medicine， 2024， 168： 107726.

[12] HOU Y， ZHANG W， CHENG R， et al. Meta-adaptive-weighting-based bilateral multi-dimensional refined space feature attention network for imbalanced breast cancer histopathological image classification［J］. Computers in Biology and Medicine， 2023， 164： 107300.

[13] XU C， YI K， JIANG N， et al. MDFF-Net： a multi-dimensional feature fusion network for breast histopathology image classification［J］. Computers in Biology and Medicine， 2023， 165： 107385.

[14] LU S Y， WANG S H， ZHANG Y D. BCDNet： an optimized deep network for ultrasound breast cancer detection［J］. IRBM， 2023， 44（4）： 100774.

[15] HUANG G， LIU Z， VAN DER MAATEN L， et al. Densely connected convolutional networks［C］//2017 IEEE Conference on Computer Vision and Pattern Recognition （CVPR）， 2017： 2261-2269.

[16] SZEGEDY C， LIU W， JIA Y， et al. Going deeper with convolutions［C］//2015 IEEE Conference on Computer Vision and Pattern Recognition （CVPR）， 2015： 1-9.

[17] HIGHAM N J. Functions of Matrices： theory and Computation［M］. Philadelphia： Society for Industrial and Applied Mathematics， 2008.

[18] LI P， XIE J， WANG Q， et al. Towards faster training of global covariance pooling networks by iterative matrix square root normalization［C］//2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition， 2018： 947-955.

[19] SANNASI CHAKRAVARTHY S R， BHARANIDHARAN N， RAJAGURU H. Deep learning-based metaheuristic weighted K-nearest neighbor algorithm for the severity classification of breast cancer［J］. IRBM， 2023， 44（3）： 100749.

[20] KRIZHEVSKY A， SUTSKEVER I， HINTON G E. ImageNet classification with deep convolutional neural networks［J］. Communications of the ACM， 2017， 60（6）： 84-90.

[21] WANG Z， JI S. Second-order pooling for graph neural networks［J］. IEEE Transactions on Pattern Analysis and Machine Intelligence， 2023， 45（6）： 6870-6880.

[22] LEXEY D A. An image is worth 16x16 words： transformers for image recognition at scale［EB/OL］. Computer Vision and Pattern Recognition， 2021.

[23] HE K， ZHANG X， REN S， et al. Deep residual learning for image recognition［C］//2016 IEEE Conference on Computer Vision and Pattern Recognition （CVPR）， 2016： 770-778.

[24] HOWARD A， SANDLER M， CHEN B， et al. Searching for MobileNetV3［C］//2019 IEEE/CVF International Conference on Computer Vision （ICCV）， 2019： 1314-1324.

[25] SIMONYAN K， ZISSERMAN A. Very deep convolutional networks for large-scale image recognition［EB/OL］. Computer Vision and Pattern Recognition， 2015.arXiv： 1409.1556v6.

[26] 张晋凯. 基于深度学习的乳腺癌组织病理学图像分类研究［D］. 太原： 中北大学， 2023.

[27] DJOUIMA H， ZITOUNI A， MEGHERBI A C， et al. Classification of breast cancer histopathological images using DensNet201［C］//2022 7th International Conference on Image and Signal Processing and their Applications （ISPA）， 2022： 1-6.

[28] 臧敏. 基于深度学习的乳腺癌组织病理图像分类研究［D］. 青岛： 青岛科技大学， 2023.

[29] CHATTOPADHYAY S， DEY A， SINGH P K， et al. DRDA-Net： Dense residual dual-shuffle attention network for breast cancer classification using histopathological images［J］. Computers in Biology and Medicine， 2022， 145： 105437.

基金资助

山西省基础研究计划资助项目(20210302123019)

山西省基础研究计划资助项目(202103021223189)

山西省基础研究计划资助项目(202103021224195)

山西省基础研究计划资助项目(202103021224212)

山西省回国留学人员科研项目(2021⁃108)