一种针对卷积神经网络的特征升维分析方法

A Feature Dimensionality Augmentation Analysis Method for CNN

摘要

针对卷积神经网络模型与输入数据紧密耦合的特性导致特征重要性难以区分的问题，提出一种从网络模型的输出结果中分析输入特征重要性的特征升维分析方法。首先，在高维欧氏空间中对输入网络模型的样本特征依次分配一个标准正交基，对输入样本特征进行升维表示；其次，在高维欧氏空间中对卷积神经网络进行计算扩展，并对升维表示的特征进行计算；最后，在计算结果中可由标准正交基与输入样本特征的对应关系，分析得出各个输入样本特征在输出结果中的影响权值。实验表明该方法分析得出的权重能够有效反映输入特征对卷积神经网络的影响力。

Abstract

To address the difficulty in distinguishing feature importance due to the close coupling between convolutional neural networks models and input data, a feature dimensionality augmentation method to analyze the importance of input features from the output results of the network model is proposed. Firstly, a standard orthogonal basis is sequentially assigned to the sample features of the input network model in a high-dimensional Euclidean space, and the input sample features are represented with dimensionality augmentation. Secondly, the convolutional neural networks is computationally extended in high-dimensional Euclidean space, and the features represented by the dimensionality augmentation are computed. Finally, in the calculation results, the corresponding relationship between the standard orthogonal basis and the input sample features can be analyzed to determine the influence weights of each input sample feature in the output results. Experiment shows that the weights analyzed in this method can effectively reflect the influence of input features on convolutional neural networks.

Graphical abstract

关键词

卷积神经网络 / 特征升维 / 权重分析 / 高维欧式空间

Key words

convolutional neural network / feature dimensionality augmentation / weight analysis / high-dimensional Euclidean space

卷积神经网络^[1-5]是深度学习领域的经典模型，广泛应用于计算机视觉^[1-2,4]、自然语言处理等领域^[6-8]。卷积神经网络与其他深度神经网络一致，具有“黑盒”特性^[9-10]，模型可解释性不足，使得研究者难以理解模型做出决策的原因、方法以及决策的结论。针对卷积神经网络模型输入特征重要性的分析是神经网络可解释性^[11]研究的重要方向之一，通过对模型输入特征的重要性分析，可得出该模型对输入数据中不同特征的关注度，增加对于模型运行和决策机制的理解，为改进设计、提升性能提供理论支撑。

近年来针对卷积神经网络输入特征的分析研究主要集中在图像处理领域，通过对卷积神经网络输入图像的重要特征进行量化分析，得到一组模型关注的重要特征，进而可视化显示卷积神经网络在做出决策时所关注的图像区域。文献[12]中提出的类激活图（Class Activation Map, CAM），通过追溯卷积核计算输出高维特征图中所包含的对应输入特征图中位置区域，并进一步使用全局平均池化（Global Average Pooling, GAP）为卷积层输出的高维特征图训练得出相应的权重，并由该权重数值与高维特征图所对应输入数据中的位置区域叠加生成类激活图，即为输入数据中的各个位置区域在模型计算结果中的影响力权值。文献[13]进一步提出基于梯度的类激活图（Grad-CAM），利用卷积神经网络计算各层均包含的梯度信息，通过梯度分析产生卷积层输出的高维特征图在模型计算结果中的权重以及对应在输入数据中的位置区域，从而叠加生成基于梯度的类激活图。由于从数据输入模型开始计算时，每个计算单元中均包含相应梯度信息，因此基于梯度的类激活图研究从理论上能够将模型所关注的输入样本的区域精确到输入样本的每个数值特征，然而梯度表示输入特征的变化率对模型计算结果的影响，并不能够准确描述输入特征在计算结果的所占比重，进而无法分析得出输入数据特征在模型计算结果中的影响力权值。文献[14]提出针对梯度的类激活图的改进方法，优化特征图中梯度的权重分析方法，增加梯度图的计算加权，得到更加收敛的重要特征区分布区域。文献[15]在卷积神经网络中，把由浅层特征与深层特征基于梯度的类激活图进行组合，分析得到更高细粒度的重要特征分布区域。现有相关研究所提出的针对卷积神经网络特征分析，能够分析得出模型在计算决策时所关注的重要特征分布区域，是把一组特征作为一个整体的分析结果，未详细区分数据样本中单个特征在模型计算结果中的重要性。

针对上述问题，提出一种针对卷积神经网络的特征升维分析方法。为了从卷积神经网络模型的计算结果中解耦输入样本特征的影响力权值，首先在与输入特征维度匹配的高维欧氏空间中为每个输入特征匹配一个标准正交向量进行升维表示；其次在高维空间中对卷积神经网络进行计算扩展，并对升维表示的输入特征进行计算；最后将卷积神经网络在高维空间中的计算结果，由输入特征与标准正交向量的对应关系，分析得出输入样本特征在模型输出结果中的影响力权值。实验验证所提方法得出的权重能够有效反映输入特征对卷积神经网络的影响力，并结合实验中设定的卷积神经网络模型分析所提方法计算复杂度。

1 系统模型

令图像样本尺寸为(N\times N)，当为灰度图像时，样本存储为\mathit{X}\in {\mathbb{R}}^{\mathrm{1}\times N\times N}的三维张量，当为彩色图像时，样本存储为\mathit{X}\in {\mathbb{R}}^{\mathrm{3}\times N\times N}的三维张量。对于张量中的数值x_{c,i,j}，其在卷积神经网络中参与的计算均为定义在实数域上的加法与数乘运算。如特征数值x_{\mathrm{1}}\mathrm{、}{x}_{\mathrm{2}}\in \mathbb{R}，其相关运算可表示为

a{x}_{\mathrm{1}}+b{x}_{\mathrm{2}}=c（1）

式中：a\mathrm{、}b\in \mathbb{R}；显然c\in \mathbb{R}。因此，当已知参数a\mathrm{、}b和计算结果c时，输入特征x_{\mathrm{1}}\mathrm{、}{x}_{\mathrm{2}}在计算结果c中的权重即为a\mathrm{、}b。

对于卷积神经网络中的线性运算，其计算结果总能够表示为输入特征的线性组合，因此在计算结果中各个特征x_{c,i,j}的系数即为该特征在结果中的影响力权值。

对于卷积神经网络模型，在常见典型模型中，非线性运算单元为ReLU激活函数与最大池化。然而，ReLU激活函数与最大池化虽然为非线性，但其计算输出的值仍然保留前序运算中线性组合的特点。以式（1）为例，当计算结果c>\mathrm{0}并且通过ReLU激活函数时，c仍然能够表示为（a{x}_{\mathrm{1}}+b{x}_{\mathrm{2}}）的形式，但在后续计算中却难以将c通过模型的计算结果以及模型参数还原表示为（a{x}_{\mathrm{1}}+b{x}_{\mathrm{2}}）的形式。最大池化与ReLU激活函数同理。

因此，考虑对样本特征进行升维表示，使得每个特征在输入卷积神经网络时携带与自身对应的“冗余”信息，在模型的计算结果中，可通过该冗余信息解耦出每个样本特征对计算结果的影响力权值。使用n维欧氏空间的标准正交基对样本特征进行升维表示，定义一个标准正交向量集合A=\left\{{\mathit{\alpha }}_{\mathrm{0}},{\mathit{\alpha }}_{\mathrm{1}},\cdots ,{\mathit{\alpha }}_n,\cdots \right\}，其中\mathit{\alpha }向量表示为：

\left\{\begin{array}{c}{\mathit{\alpha }}_{\mathrm{0}}=\left[\mathrm{1,0},\mathrm{0},\cdots ,\mathrm{0},\cdots \right];\\ {\mathit{\alpha }}_{\mathrm{1}}=\left[\mathrm{0,1},\mathrm{0},\cdots ,\mathrm{0},\cdots \right];\\ ⋮\\ {\mathit{\alpha }}_n=\left[\mathrm{0,0},\mathrm{0},\cdots ,\mathrm{1},\cdots \right].\end{array}\right.（2）

式中，\mathit{\alpha }的下标以计算机程序中的习惯从0起算。

对存储图像样本的张量\mathit{X}进行升维表示，为张量中的每个数值x_{c,i,j}\in \mathbb{R}分配一个标准正交向量{\mathit{\alpha }}_{c\times N^{\mathrm{2}}+i\times N+j}\in A，将张量\mathit{X}中的x_{c,i,j}\in \mathbb{R}使用x_{c,i,j}\cdot {\mathit{\alpha }}_{c\times N^{\mathrm{2}}+i\times N+j}表示，记为张量\mathit{F}，则\mathit{F}为四维张量。当对图像样本中的所有数值特征分配不同标准正交向量进行表示时，对于灰度图像共需要N^{\mathrm{2}}个标准正交向量，对于彩色图像则需要\mathrm{3}{N}^{\mathrm{2}}个标准正交向量，则张量\mathit{F}的第4个维度尺寸分别至少为N^{\mathrm{2}}和\mathrm{3}{N}^{\mathrm{2}}。

为规范讨论，定义向量集合E，满足\forall a\mathrm{、}b\in \mathbb{R}，{\mathit{e}}_{\mathrm{1}}\mathrm{、}{\mathit{e}}_{\mathrm{2}}\in E，a{\mathit{e}}_{\mathrm{1}}+b{\mathit{e}}_{\mathrm{2}}\in E，其具有完备性，可表示为

E=\left\{\sum _i{k}_i{\mathit{\alpha }}_i,k_i\in \mathbb{R},i\in \mathbb{N},{\mathit{\alpha }}_i\in A\right\}（3）

对于样本特征进行升维表示，在形式上由三维张量\mathit{X}升维表示成为四维张量\mathit{F}。由本文研究思路，也可理解为三维数值张量\mathit{X}升维表示成为三维“向量张量”\mathit{F}，可方便理解升维表示前后\mathit{X}中数值x_{c,i,j}与\mathit{F}中的向量{\mathit{f}}_{c,i,j}的对应关系，即为相同索引位置的数值与向量正好对应，且x_{c,i,j}=S({\mathit{f}}_{c,i,j})，其中S(\cdot )表示向量的元素和。当图像样本为\mathit{X}\in {\mathbb{R}}^{\mathrm{1}\times N\times N}时，升维后可表示为\mathit{F}\in E^{\mathrm{1}\times N\times N}；当图像样本为\mathit{X}\in {\mathbb{R}}^{\mathrm{3}\times N\times N}时，升维后可表示为\mathit{F}\in E^{\mathrm{3}\times N\times N}。此处的“向量张量”与数学中张量的通用定义有所区别，该向量张量中的组成元素为向量，与通用定义中组成元素为数值的“张量”对应，使用“向量张量”进行注记，便于理解本文研究思路。

由于集合E具有完备性，因此“向量张量”\mathit{F}能够直接代入卷积神经网络中的所有线性运算单元进行计算。对于卷积神经网络中的非线性运算单元ReLU激活函数与最大池化，使用S({\mathit{f}}_{c,i,j})作为判断条件进行针对向量{\mathit{f}}_{c,i,j}的进一步计算。

由此，采用“升维”的研究思路，对数值特征进行升维表示，将每个样本特征由“数值”表示为“向量”，使得每个特征在高维空间中相互正交，在计算中携带更多与输入特征相关信息，利用卷积神经网络所具有的线性属性，在高维空间中对计算结果中各个输入特征所占影响力权值进行分析。

2 特征升维分析方法

2.1 特征的升维表示

针对向量张量\mathit{F}，在数学逻辑上为三维“向量张量”，而在算法逻辑上为四维数值张量。令原始图像样本中的特征数值数量为L，当为灰度图像时L=N^{\mathrm{2}}，当为彩色图象时L=\mathrm{3}{N}^{\mathrm{2}}。对所有特征数值分配一个标准正交向量进行升维，共需要L个标准正交向量，因此每个标准正交向量的长度为L。为方便计算，多增加一个标准正交向量用于存储S({\mathit{f}}_{c,i,j})，因此共计使用（L+\mathrm{1}）个标准正交向量，则每个标准正交向量的长度为（L+\mathrm{1}）。在具体计算中将{\mathit{\alpha }}_{\mathrm{0}}\in A分配用于存储S({\mathit{f}}_{c,i,j})。

为方便描述向量张量的数据结构，转换为四维数值张量进行讨论，因此升维后的特征张量为\mathit{F}\in {\mathbb{R}}^{\mathrm{3}\times N\times N\times (L+\mathrm{1})}。其中：第1个维度为颜色通道索引；第2、3个维度为图像的行列索引；第4个维度即为升维表示后原始特征在向量中的索引。针对特征张量进行升维表示的计算流程如算法1所示，该算法把输入特征与标准正交向量的对应关系，转换为计算机程序中对四维数值张量中的索引访问方法，计算得出高维特征张量。

算法1 特征的升维表示算法

输入：特征张量\mathit{X}

输出：特征张量\mathit{F}

1. 初始化： F ←0

2. for f_c,i,j in F do

3. f_c,i,j,0 ←x_c,i,j

4. d_index←cN²+iN+j+1

5. f_{c,i,j,d_{\mathrm{i}\mathrm{n}\mathrm{d}\mathrm{e}\mathrm{x}}}←x_c,i,j

6. end

2.2 卷积神经网络在高维空间中的运算

由于得到的高维特征张量不满足卷积神经网络的现有运算定义，因此需在高维空间对卷积神经网络的运算进行扩展，分别使用卷积神经网络中的3个运算单元进行扩展运算方法的讨论。

2.2.1 卷积层

由于对特征进行升维表示时使用标准正交向量，且由集合E具有完备性，因此向量张量\mathit{F}可直接按照数值张量\mathit{X}的卷积计算规则进行计算，计算结果仍为向量张量，可以表示为：

\mathit{H}=\mathit{F}\cdot \mathit{G}（4）

{\mathit{H}}_{m,n}={\displaystyle \sum _{i=\mathrm{0}}^{k-\mathrm{1}}}{\displaystyle \sum _{j=\mathrm{0}}^{k-\mathrm{1}}}{\mathit{F}}_{m+i-\frac{k-\mathrm{1}}{\mathrm{2}},n+j-\frac{k-\mathrm{1}}{\mathrm{2}}}\cdot {\mathit{G}}_{i,j}（5）

式中：向量张量\mathit{H}为计算结果；矩阵\mathit{G}为（k\times k）的卷积核。

由此，可进一步理解本文使用“向量张量”对特征张量进行升维表示的优势，且在具体程序算法中，以现有深度学习框架PyTorch为例，可直接由索引访问向量张量\mathit{F}中的向量，同时支持向量与卷积核中数值的数乘运算。

对于卷积层输出时使用ReLU函数^[16]进行激活。在高维空间中的ReLU激活定义为：

\mathrm{R}\mathrm{e}\mathrm{L}\mathrm{U}\left(\mathit{e}\right)=\left\{\begin{array}{c}\mathit{e},S(\mathit{e})>\mathrm{0};\\ \mathrm{0},S(\mathit{e})\le \mathrm{0}.\end{array}\right.（6）

由于S(\mathit{e})=\mathrm{0}时包含\mathit{e}\ne \mathrm{0}的情形，因此等于条件包含在小于条件中。在特征进行升维表示时，为S({\mathit{f}}_{c,i,j})分配了标准正交向量{\mathit{\alpha }}_{\mathrm{0}}\in A，可直接调用向量的第1个元素f_{c,i,j,\mathrm{0}}作为ReLU函数的激活条件，计算流程如算法2所示。该算法描述计算机程序中通过索引访问张量元素，实现ReLU激活函数计算。

算法2 向量张量的ReLU激活函数算法

输入：向量张量 F

输出：向量张量 F

1. for f_c,i,j in F do

3. if f_c,i,j,0 <=0 do

4. f_c,i,j ←0

5. end

6. end

2.2.2 最大池化层

向量张量\mathit{F}通过最大池化层的计算与ReLU激活函数类似，即为在池化窗范围内，选取S({\mathit{f}}_{c,i,j})最大的向量{\mathit{f}}_{c,i,j}进入下一层即可。

2.2.3 全连接层

图像样本在经过卷积层与池化层的计算之后，展平为向量由全连接层进行计算，在对于特征进行升维表示之后，进入全连接层的向量中的元素由数值升维成了“向量”，仍然由特征进行升维表示时使用标准正交向量，且由集合E具有完备性，在全连接层中的算法逻辑与卷积层一致，可直接带入向量与矩阵的点积乘法，可以表示为：

\mathit{z}=\mathit{y}\cdot W（7）

{\mathit{z}}_j={\displaystyle \sum _{i=\mathrm{0}}^{P-\mathrm{1}}}{\mathit{y}}_i\cdot W_{i,j}（8）

式中：\mathit{z}\in E^Q；\mathit{y}\in E^P；W\in {\mathbb{R}}^{P\times Q}。

2.3 权重分析

由在高维空间中扩展定义的卷积神经网络计算得到各个分类结果，各个分类分别对应一个向量\mathit{e}\in E。由于该向量中的第1个元素与升维之前的卷积神经网络计算结果对应，因此从第2个到最后1个元素即为对应原始样本特征的在结果中的权重。因此，令向量\mathit{e}中的元素索引为d_{\mathrm{i}\mathrm{n}\mathrm{d}\mathrm{e}\mathrm{x}}，则该元素所对应的原始样本特征x_{c,i,j}的索引下标可以表示为：

c=(d_{\mathrm{i}\mathrm{n}\mathrm{d}\mathrm{e}\mathrm{x}}-\mathrm{1})|N^{\mathrm{2}}（9）

i=((d_{\mathrm{i}\mathrm{n}\mathrm{d}\mathrm{e}\mathrm{x}}-\mathrm{1})\cdot \mathrm{m}\mathrm{o}\mathrm{d}(N^{\mathrm{2}}))|N（10）

j=((d_{\mathrm{i}\mathrm{n}\mathrm{d}\mathrm{e}\mathrm{x}}-\mathrm{1})\cdot \mathrm{m}\mathrm{o}\mathrm{d}(N^{\mathrm{2}}))\cdot \mathrm{m}\mathrm{o}\mathrm{d}(N)（11）

式中：“|”表示整除；\mathrm{m}\mathrm{o}\mathrm{d}(\cdot )表示求余。在程序中，由升维时约定的特征与标准正交向量的对应规则，可直接将向量\mathit{e}删除第1个元素，并按元素顺序将向量重新排列为与样本特征张量\mathit{X}相同尺寸的张量即可。

2.4 特征升维分析方法示例

基于Fashion-MNIST数据集^[17]构造一个简单卷积神经网络，模型结构共7层，在Fashion-MNIST数据集上的测试准确率为80%。第1层为卷积层，卷积核尺寸为\mathrm{5}\times \mathrm{5}，步长为1，填充为0，使用ReLU函数激活。第2层为最大池化层，滑窗尺寸为\mathrm{2}\times \mathrm{2}，步长为2。第3层为卷积层，卷积核尺寸为\mathrm{5}\times \mathrm{5}，步长为1，填充为0，使用ReLU函数激活。第4层为最大池化层，滑窗尺寸为\mathrm{2}\times \mathrm{2}，步长为2。第5~7层为全连接层，各层神经元数量分别为120、60和10，第5、6层使用ReLU函数激活。

针对构造的简单卷积神经网络，使用本文分析方法对测试集中第1个样本Ankle Boot的10个模型计算结果进行分析。原始样本如图1所示，其样本特征进行升维表示后由卷积神经网络计算得出对应的10个分类权重分析结果如图2所示。图2中红色对应正数权重，蓝色对应负数权重，颜色越深，权重数值越大。由本文构造的简单卷积神经网络的计算结果为正确分类，如图2（j）所示。在图2（j）中，鞋跟与鞋尖位置的3个像素点对应的权值最大；鞋背位置的两个像素点对应的权值为数值最大的负数，即权值最小。图2（a）~图2（i）分别为9个错误分类对应的像素权重图像，可以观察到，在各个图像中对应权重最大与权重最小的像素点各不相同，且无明显的分布规律。一些像素点在不同的分类中，其权重数值有正有负。从总体上来看，图2中权重最大与权重最小的像素点数量规模较小，多数像素点的权重可近似为0。

3 实验验证

通过实验验证所提方法针对卷积神经网络模型分析得出的输入样本特征在计算结果中的权重有效性，即验证大权重特征与小权重特征对卷积神经网络模型的影响力。实验在两个典型图像数据集Fashion-MNIST和CIFAR10上^[18]进行。Fashion-MNIST数据集使用构造的简单卷积神经网络模型进行测试。CIFAR10使用VGG16卷积神经网络模型进行测试。

3.1 实验设计

在两种数据集上分别使用两种方法进行。方法1根据卷积神经网络模型计算得到的最大分类进行分析，将权重数值对应的样本特征由大到小进行删除，依次记录每次删除后的测试准确率、删除0.2以上的样本特征规模；方法2根据权重数值将对应的样本特征由小到大进行删除，依次记录每次删除后的测试准确率、删除0.2以上的样本特征规模。选择0.2以上的删除规模是由图2中的权重分布规律所确定，在本文方法分析得出的权值中，仅有少量像素点在结果中的权重数值较大，其余均可近似为0。

实验通过分别删除大权重数值与小权重数值对测试准确率的影响，验证本文分析方法所得权重对于分类结果的影响力，观察该权重能否契合数据样本在卷积神经网络模型上的内在规律。

3.2 实验数据

图3为两个数据集和相应的卷积神经网络模型依据方法1和方法2进行实验测试所记录的准确率数据。

图3（a）为Fashion-MNIST数据集在本文构造的简单卷积神经网络模型上的实验结果。可以看出，方法1测试得到的准确率明显低于方法2测试得到的准确率。方法1测试得到的准确率在测试区间中最低为60.04%，共计下降21.53个百分点；方法2测试得到的准确率在测试区间中最低为66.4%，共计下降14.33个百分点。

图3（b）为CIFAR10数据集在VGG16卷积神经网络模型上的实验结果。可以看出，方法1测试得到的准确率在测试区间初段下降幅度明显，最低为20.21%，降幅达到70.17个百分点；方法2测试得到的准确率在测试区间上下降幅度平稳，最低为46.35%，降幅为43.2个百分点。在方法1的曲线中，出现小幅度高频振动，准确率在小范围内上下波动，然而整体下降趋势和下降幅度明显。

3.3 讨论

通过实验数据可观察到，方法1对于准确率的影响明显大于方法2，这表明本文分析方法得到的大权重对应的特征对于模型准确率的影响大于小权重特征。CFIAR10数据集在VGG16模型上的效果明显强于Fashion-MNIST数据集在简单卷积神经网络模型上效果，这表明VGG16模型较简单卷积神经网络模型复杂，特征学习能力强，对于数据集的特征学习能力明显强于简单卷积神经网络，且本文分析方法基于VGG16模型得出的权重更能契合数据集的内在规律。然而，从图3中的数据也可观察到，方法2针对小权重特征进行删除时，对于模型的测试准确率仍然具有明显的影响。

4 计算复杂度

单个卷积层的时间复杂度为O(M^{\mathrm{2}}\cdot K^{\mathrm{2}}\cdot C_{\mathrm{i}\mathrm{n}}\cdot C_{\mathrm{o}\mathrm{u}\mathrm{t}})。其中：M为卷积核输出的特征图的尺寸；K为卷积核的尺寸；C_{\mathrm{i}\mathrm{n}}为输入通道数；C_{\mathrm{o}\mathrm{u}\mathrm{t}}为输出通道数。整个卷积神经网络的时间复杂度为O({\displaystyle \sum _{l=\mathrm{1}}^D}{M}_l^{\mathrm{2}}\cdot K_l^{\mathrm{2}}\cdot C_{l-\mathrm{1}}\cdot C_l)。其中：D为卷积神经网络的卷积层数；l为卷积层的顺序索引。

卷积神经网络的空间复杂度为O({\displaystyle \sum _{l=\mathrm{1}}^D}{K}_l^{\mathrm{2}}\cdot C_{l-\mathrm{1}}\cdot

C_l+{\displaystyle \sum _{l=\mathrm{1}}^D}{M}_l^{\mathrm{2}}\cdot C_l)。当把向量特征的长度记为V时，其时间复杂度为O(M^{\mathrm{2}}\cdot K^{\mathrm{2}}\cdot C_{\mathrm{i}\mathrm{n}}\cdot C_{\mathrm{o}\mathrm{u}\mathrm{t}}\cdot V)、空间复杂度为O({\displaystyle \sum _{l=\mathrm{1}}^D}{K}_l^{\mathrm{2}}\cdot C_{l-\mathrm{1}}\cdot C_l+{\displaystyle \sum _{l=\mathrm{1}}^D}{M}_l^{\mathrm{2}}\cdot C_l\cdot V)。相当于时间复杂度在原有的基础上乘了V倍，空间复杂度在原有的后半部分基础上乘了V倍。对于时间复杂度，（M^{\mathrm{2}}\cdot V）与图像样本尺寸N为4次方的关系；对于空间复杂度的讨论，前半部分可忽略，可以表示为O({\displaystyle \sum _{l=\mathrm{1}}^D}{M}_l^{\mathrm{2}}\cdot C_l\cdot V)。由于计算时通常不会在内存中一直保留已经计算得到的结果，因此更加关注单层卷积层的空间复杂度。

在当前GPU并行计算能力巨大进步的背景之下，对于时间复杂度的敏感程度在逐步降低，程序设计中对空间复杂度更加敏感，GPU卡提供的显存容量大小成为程序设计的主要关注点。结合Fashion-MNIST（\mathrm{28}\times \mathrm{28}）、CIFAR10（\mathrm{32}\times \mathrm{32}）数据集的样本参数与VGG16的模型参数，给出每个卷积层的空间复杂度，并将其换算为使用单精度浮点型时的实际存储空间需求，如表1所示。

本文方法针对Fashion-MNIST数据集在简单卷积神经网络模型的测试集与CIFAR10数据集在VGG16模型的测试集进行权重分析，该两个测试集中均包含10 000张图像样本，在RTX4090上的用时分别为8 s、4 h 50 min。

5 结束语

通过对于样本特征进行升维表示，提出一种针对卷积神经网络的样本特征升维方法，该方法可对于卷积神经网络的计算输出解耦原始样本输入特征的影响权值。通过实验验证该分析方法得到的权值能够契合卷积神经网络在图像分类应用中的内在规律，并进一步针对该方法进行计算复杂度讨论。对于方法分析出的权值，在讨论中仅考虑最大数值对应的像素点即为在结果中影响力最大的样本特征，最小数值对应的像素点即为在结果中影响力最小的样本特征。但还存在另一种情形，即权重数值的绝对值最大数值对应的像素点为影响力最大的特征。由实验数据可观察到，虽然删除大数值的负数权重对应的样本特征对于模型测试准确率的影响低于本文讨论的情形，但其影响仍然较为明显。针对该种情形的讨论，将在后续研究中结合卷积神经网络的对抗性攻击研究进行。

参考文献

[1] KRIZHEVSKY A， SUTSKEVER I， HINTON G E. ImageNet classification with deep convolutional neural networks ［C］∥Proceedings of the 25th International Conference on Neural Information Processing Systems. Red Hook， USA： Curran Associates Inc.， 2012：1097-1105.

[2] SIMONYAN K， ZISSERMAN A. Very deep convolutional networks for large-scale image recognition［DB/OL］. （2015-04-10）［2024-04-27］.

[3] SZEGEDY C， LIU W， JIA Y Q， et al. Going deeper with convolutions［C］∥Proceedings of the 2015 IEEE Conference on Computer Vision and Pattern Recognition. Boston， USA： IEEE， 2015. DOI： 10.1109/CVPR.2015.7298594 .

[4] HE K M， ZHANG X Y， REN S Q， et al. Deep residual learning for image recognition［C］∥Proceedings of the 2016 IEEE Conference on Computer Vision and Pattern Recognition. Las Vegas， USA： IEEE， 2016：770-778.

[5] HOWARD A G， ZHU M L， CHEN B， et al. MobileNets： efficient convolutional neural networks for mobile vision applications［DB/OL］. （2017-04-17）［2024-04-27］.

[6] KIM Y. Convolutional neural networks for sentence classification［C］∥Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing. Doha， Qatar： Association for Computational Linguistics， 2014：1746-1751.

[7] KALCHBRENNER N， GREFENSTETTE E， BLUNSOM， P. A convolutional neural network for modelling sentences［C］∥Proceedings of the 52nd Annual Meeting of the Association for Computational Linguistics. Baltimore， USA： Association for Computational Linguistics， 2014：655-665.

[8] 宋旭晖，于洪涛，李邵梅.基于图注意力网络字词融合的中文命名实体识别［J］.计算机工程，2022，48（10）：298-305.

[9] ADADI A， BERRADA M. Peeking inside the black-box： a survey on explainable artificial intelligence［J］. IEEE Access， 2018，6：52138-52160.

[10] RICCARDO G， ANNA M， SALVATORE R， et al. A survey of methods for explaining black box models［J］. ACM Computing Surveys， 2018，51（5）：93.

[11] 赵延玉，赵晓永，王磊，可解释人工智能研究综述［J］.计算机工程与应用，2023，59（14）：1-14.

[12] ZHOU B L， KHOSLA A， LAPEDRIZA A， et al. Learning deep features for discriminative localization［C］∥Proceedings of 2016 IEEE Conference on Computer Vision and Pattern Recognition. Las Vegas， USA： IEEE， 2016：27-30.

[13] SELVARAJU R R， COGSWELL M， DAS A， et al. Grad-CAM： visual explanations from deep networks via gradient-based localization［C］∥Proceedings of the IEEE International Conference on Computer Vision. Venice， Italy： IEEE， 2017：618-626.

[14] CHATTOPADHAY A， SARKAR A， HOWLADER P， et al. Grad-CAM++： generalized gradient-based visual explanations for deep convolutional networks［C］∥Proceedings of 2018 IEEE Winter Conference on Applications of Computer Vision. Lake Tahoe， USA： IEEE， 2018：839-847.

[15] JIANG P T， ZHANG C B， HOU Q， et al. LayerCAM： exploring hierarchical class activation maps for localization［J］. IEEE Transactions on Image Processing， 2021，30：5875-5888.

[16] NAIR V， HINTON G E. Rectified linear units improve restricted boltzmann machines［C］∥Proceedings of International Conference on Machine Learning. Haifa， Israel： Omnipress， 2010：21-24.

[17] XIAO H， RASUL K， VOLLGRAF R. Fashion-MNIST： a novel image dataset for benchmarking machine learning algorithms［DB/OL］. （2017-08-25）［2024-04-27］.

[18] KRIZHEVSKY A， HINTON G. Learning multiple layers of features from tiny images［EB/OL］. （2009-04-08）［2024-04-27］.

基金资助

嵩山实验室项目（纳入河南省重大科技专项管理体系）(221100210700-3)