基于深度学习单阶段算法的䗴类化石检测

Fusulinid Detection Based on Deep Learning Single-Stage Algorithm

摘要

䗴化石是石炭纪、二叠纪重要的标准化石，其详细的鉴定工作对确定地质时代和划分石炭系‒二叠系具有重要意义.鉴于目前䗴类化石检测方法的局限性，提出一种基于深度学习单阶段算法的䗴类化石检测.以䗴类化石为研究对象，对原始模型进行分析，之后联合优化权重损失函数和BN层尺度因子的L1正则化等方式进行通道剪枝，再使用知识蒸馏使剪枝后模型恢复检测性能.实验结果表明，该方法可实现薄片图像中䗴类所在区域的定位和分类，平均精度均值达到98.1%，满足实时检测模型的要求，并且剪枝后参数量压缩了74.1%，解决了真实场景中存在的算力缺乏等问题.该方法能够有效保证䗴类化石的检测效果，同时扩展了该模型在嵌入式设备的适用范围，为深度学习在古生物化石图像的智能识别方面提供更多可能性.

关键词

䗴类化石 / 深度学习 / 目标检测 / 石炭系‒二叠系 / 知识蒸馏 / 地层学

Key words

fusulinid / deep learning / object detection / Carboniferous-Permian / knowledge distillation / stratigraphy

0 引言

古生物化石是指地质时期形成并保存在岩层中的生物遗体、遗迹及其他残留物（杜远生和童金南，2009），对于划分地层和确定地质年代具有重要意义.䗴演化迅速，是石炭纪、二叠纪的重要标准化石之一.中国的䗴化石极其丰富，遍布全国，并被广泛用于石炭、二叠纪海相地层的划分和对比（彭向东等，1999；郭伟等，2003；卜建军等，2020）.在地质研究中，人们一般通过分析䗴类化石的组合特征、共生情况等建立生物组合带，进而推断出化石所属岩层的年代关系，并进行区域地层的划分对比.石炭纪‒二叠纪时，中国的华北和华南地区存在广泛的含䗴岩石地层（图1蓝色地层；张志存，1987；沈树忠等，2019）.因此古生物学家通过观察䗴类化石薄片和识别不同䗴类化石的属种，能够更好地分析含䗴类化石地区的地层关系，确定地质时代.

传统的䗴类化石检测需要专业人员花费大量时间通过显微镜观察样本的外部形态和不同切面结构，并结合自身经验识别薄片中的䗴类化石个体，这种方式费时费力，难以满足古生物学研究对于快速检测化石的需求，这表明古生物化石研究迫切需要新的技术手段来解决此类检测问题.

随着计算机技术的发展，深度学习作为人工智能不可或缺的部分在各个领域得到了广泛应用，如在地质学领域：南翼山富钾锂卤水储层识别（侯献华等，2022）、地质找矿信息挖掘与集成（左仁广等，2021）、危岩体识别（李培锋等，2022），而具体到古生物化石领域，国外的Weller et al. （2006）针对孢粉图像采取形态学方法，使用神经网络进行孢粉化石的分类.国内的黄铮等（2009）利用神经网络设计分类器，对牙形化石中的“模糊特征”进行分类鉴别，其分类正确率达到80%.刘曦阳（2018）对古生物化石显微图像中的特征点进行相应的联系与识别，并改进SIFT （Lowe， 2004）算法实现了化石识别.岳翔等（2019）利用VGG16（Simonyan and Zisserman， 2014）模型和Google Net （Szegedy et al.， 2015）模型对显微图像下的有孔虫化石进行了分类识别，其识别平均准确度为85%.余晓露等（2021）使用改进的ResNet（He et al.， 2016）卷积网络模型和进阶YOLO目标检测模型对碳酸盐岩生物化石显微图像进行智能识别，其识别平均准确度分别为85%和86%.如前所述，目前利用深度学习识别古生物化石的研究已取得部分效果，但相关研究中考虑化石类别特点而进行图像识别的研究比较少，其准确率在80%~86%，难以满足后续古生物研究工作的要求.同时，以上研究均未考虑真实研究场景中存在的算力缺乏、深度学习模型难部署等问题，特别是对于䗴类化石显微图像的鉴定存在局限性，其中䗴类化石个体在薄片中的检测是重要障碍.

近年来、深度学习算法不断发展，其中包括 R-CNN（Girshick et al.， 2014）、Fast R-CNN（Girshick， 2015）、Faster R-CNN（Ren et al.， 2015）等两阶段算法和YOLO （Redmon et al.， 2016）系列等单阶段算法.但是检测模型参数众多、计算量大等问题限制了其在资源受限的嵌入式平台上使用，因此本文提出模型压缩算法来解决此问题，如与树木修剪枝条，以提高产量同理的通道剪枝技术（Liu et al.， 2017），对网络结构和模型参数进行有效裁剪；采用“教师‒学生网络思想”的知识蒸馏（Hinton， et al.，2015）策略，将已经训练好的模型里包含的预训练知识，蒸馏提取到另一个模型中去学习；将模型的权重参数从浮点型转变为整型的量化技术.

针对上述问题，本文结合目前深度学习在检测任务上的优势，以䗴类化石为研究对象，提出一种基于深度学习单阶段算法的䗴类化石检测方法，以解决薄片中的䗴类化石批量检测问题.研究中采集5种具有代表性的䗴类化石显微图像组成数据集；其中，以各类䗴化石的轴切面为主要采集对象，少量中切面和弦切面图像作为补充.首先对䗴类化石图像进行预处理，以此增强化石图像特征和扩大数据集；之后使用YOLOv5模型进行预训练，对䗴类化石进行精确定位与分类；最后通过通道剪枝和知识蒸馏策略完成模型压缩，最终达成提升轻量化模型的同时保证检测精确度和检测效率.䗴类化石信息如表1所示.该方法可以基本实现䗴类化石个体的检测，并根据显微图像检测结果可实现化石数量的自动统计，以此判定䗴类生物的进化阶段，进而确定石炭纪‒二叠纪地层的不同时期.

1 基于深度学习单阶段算法的䗴类化石检测

本文结合当前深度学习单阶段检测算法，以YOLOv5为基础，运用L1正则化（网络结构权重参数的各项元素绝对值之和）在网络模型训练中的稀疏化作用，对模型卷积层和BN（batch normalization）层参数实施稀疏正则化训练，获取具有稀疏权重的神经网络模型，并按照1.2节剪枝策略对模型通道加以裁剪，将模型轻量化保证模型检测效率.此外，由于YOLOv5s与剪枝后的模型具有很高的相似性，将YOLOv5s模型作为教师网络，用教师网络辅助对象的真实值重新训练剪枝后的模型，并采用1.3节所列的损失函数（用来度量模型预测值与真实值差异程度的运算函数）进行知识蒸馏，使剪枝后的模型迅速恢复网络性能，实现模型压缩和推理加速，达到检测速度和精度的平衡，如图2所示.

1.1　YOLOv5模型

YOLOv5是目前既有科研意义又有工程应用价值的单阶段目标检测算法，通过使用不同的卷积核来检测图像中的特征，每个特征都有相应的权重，用于计算正确识别的概率，最终通过输出层找到最符合特定类别的特征.该模型在输出层能够准确回归目标框的位置和相应的类别，此外作为单阶段检测算法，其具有容易部署到嵌入式设备、运行准确率较高、检测速度快等特点.

YOLOv5的网络结构分为输入端、Backbone、Neck、Prediction，如图3所示.在Backbone中，Focus模块对原始图像采取切片处理，并利用卷积处理方法获得没有信息损失情况下的二倍下采样特征图，在有效实现下采样的同时减少运算量、提高检测速度.BottleneckCSP结构将梯度的变化完全地集成到特征图中，其目的是提高网络模型的特征提取能力和类别检测精确度.

Neck中采用FPN与PAN的结构，将采用上采样方式的FPN层与自底向上的特征金字塔（检测不同尺度对象的识别系统中的基本组件）加以联系，融合语义特征和位置特征，使模型获取更加丰富的特征信息，加强网络模型对不同尺度物体的检测.

1.2　通道剪枝

目标检测网络中存在大量多余参数，其存在对于网络的精度影响较小.Denil et al. （2013）发现仅仅用5%的网络参数就可以预测剩余的参数，这证实了神经网络的过度参数化.为了降低模型参数量，使模型有效完成显微镜等计算资源受限设备的化石目标实时检测，本文选取YOLOv5s网络模型为基准模型进行通道剪枝，落实模型压缩.首先利用BN层中引入的尺度因子γ对模型进行L1正则化训练，使得冗余通道的尺度因子γ在训练中趋向于0，根据γ从小到大的排序结果判断卷积层中通道的重要性程度，同时设置阈值移除对网络贡献小的通道，从而能够保证网络性能，有效降低模型复杂度，剪枝具体过程如图4所示.

该方法利用BN层尺度因子γ作为依据对神经网络进行通道剪枝，其优点在于可以避免引入其他参数，提升剪枝效率.BN层利用可学习的参数γ和β进行仿射变换，具体过程如式（1）所示：

\widehat{z} = \in \frac{z_{\mathrm{i}\mathrm{n}}-{\mu }_{\mathrm{B}}}{\sqrt[]{{{\sigma }_{\mathrm{B}}}^{\mathrm{2}}+\epsilon }} ; {\mathrm{z}}_{\mathrm{o}\mathrm{u}\mathrm{t}} = \gamma \widehat{z} + \beta，(1)

式（1）中：z _in和z _out表示BN层对应的输入和输出， B表示mini-batch，μ _B和σ _B表示均值和标准差，γ和β分别为对应激活通道的缩放系数和偏移系数.

本文通过在损失函数中添加关于γ的惩罚项，联合训练该网络模型的权重和尺度因子，对后者进行稀疏正则化.最后将稀疏网络尺度因子γ的大小作为衡量各层网络通道重要性的指标，其损失函数如式（2）所示：

L = \sum _{(x,y)} l(f(x,W),y) + \lambda \sum _{\gamma \in \Gamma } g(\gamma ),(2)

式（2）中：第1项表示网络正常训练的损失函数，（x，y）表示训练的输入和输出，W表示可训练的网络权重；该公式第2项表示L1正则项，λ表示两项的平衡因子，Γ表示所有剪枝通道的集合.

在YOLOv5s网络基础上进行稀疏训练，首先设定训练中的参数λ，根据先验知识，λ设定区间为10^-3~10^-5，再根据BN层λ值分布情况进行多次调整，最终确定λ为10^-4，此时对剪枝后的精度微调效果最合适.随着训练次数迭代，BN层的γ会逐渐变小，实现网络稀疏化.图5a为模型正常训练BN层γ值分布图形，此时γ值类似正态分布.图5b为模型稀疏训练后的γ值分布图形，整体分布趋于0，表明这些γ值对应的通道重要程度低，可以考虑被剪枝.

上述公式进行稀疏训练后，再设定适当的阈值，对所有尺度因子低于阈值的通道加以裁剪.在实验中，分别采用（0.1~0.9）等不同阈值，经过多次实验，对比模型参数量与模型精度，最终确定剪枝阈值为65%，保持了网络结构的完整性.

1.3　知识蒸馏

为了解决通道剪枝后的网络模型检测精确度略微降低的问题，本文探索了知识蒸馏方法来学习化石分类特征和位置信息，提高轻量化模型检测准确率.知识蒸馏是“老师‒学生”的理念，利用剪枝前复杂的“老师”模型从数据集中学习到的化石种类信息和标签知识作为辅助，训练剪枝后轻量化的“学生”模型（Mehta and Ozturk， 2018），从而增强学生网络的性能，训练过程如图6所示.

YOLOv5总体目标检测损失函数可以分解为3部分；置信度损失、分类损失和回归损失.原始YOLO算法的损失函数可表示为：

L_{\mathrm{Y}\mathrm{o}\mathrm{l}\mathrm{o}} = f_{\mathrm{o}\mathrm{b}\mathrm{j}} ( o_i^{\mathrm{g}\mathrm{t}} , {\widehat{o}}_i ) + f_{\mathrm{c}\mathrm{l}} ( p_i^{\mathrm{g}\mathrm{t}} , {\widehat{p}}_i ) + f_{\mathrm{b}\mathrm{b}} ( b_i^{\mathrm{g}\mathrm{t}} , {\widehat{b}}_i )，(3)

式（3）中： {\widehat{o}}_i , {\widehat{p}}_i , {\widehat{b}}_i是学生网络的置信度、分类概率和边界框坐标， o_i^{\mathrm{g}\mathrm{t}} , p_i^{\mathrm{g}\mathrm{t}} , b_i^{\mathrm{g}\mathrm{t}}是ground truth（目标真值）.置信度被定义为预测值和目标真值之间的IOU（交叉比），分类概率是给定对象类别的条件概率，边界框坐标是相对于图像大小的，损失函数是简单的L₁或者L₂函数.

本文使用知识蒸馏去训练轻量级网络时，将教师网络的最后一层输出取代为 o_i^{\mathrm{g}\mathrm{t}} , p_i^{\mathrm{g}\mathrm{t}} , b_i^{\mathrm{g}\mathrm{t}}，将教师网络的最后一个卷积层的输出作为知识传递给学生网络.针对教师网络需将大量背景区域传递给学生网络问题，利用YOLOv5网络输出的置信度对蒸馏损失做一定限定，即将蒸馏损失制定为对象缩放函数.该函数的置信度部分不要求对象缩放，因为有噪声的候选对象的置信度较低，因此置信度损失可定义为：

f_{\mathrm{o}\mathrm{b}\mathrm{j}}^{\mathrm{C}\mathrm{o}\mathrm{m}\mathrm{b}} ( o_i^{\mathrm{g}\mathrm{t}} , {\widehat{o}}_i , o_i^T ) = f_{\mathrm{o}\mathrm{b}\mathrm{j}} ( o_i^{\mathrm{g}\mathrm{t}} , {\widehat{o}}_i ) + {\lambda }_{\mathrm{D}} \cdot f_{\mathrm{o}\mathrm{b}\mathrm{j}} ( o_i^T , {\widehat{o}}_i )，(4)

式（4）中：第一项为原始YOLOv5的目标损失， {\lambda }_{\mathrm{D}}是平衡损失的系数，默认为1， {\widehat{o}}_i^T为教师网络的置信度输出.

学生网络的分类损失函数采用对象缩放给出如下：

f_{\mathrm{c}\mathrm{l}}^{\mathrm{C}\mathrm{o}\mathrm{m}\mathrm{b}} ( p_i^{\mathrm{g}\mathrm{t}} , {\widehat{p}}_i , p_i^T , {\widehat{o}}_i^T ) = f_{\mathrm{c}\mathrm{l}} ( p_i^{\mathrm{g}\mathrm{t}} , {\widehat{p}}_i ) + {\lambda }_D \cdot {\widehat{o}}_i^T \cdot f_{\mathrm{c}\mathrm{l}} ( p_i^T , {\widehat{p}}_i )，(5)

式（5）中：函数的第一部分对应原始YOLOv5目标检测函数，第二部分是对象缩放部分.

学生网络的回归损失给出如下：

f_{\mathrm{b}\mathrm{b}}^{\mathrm{C}\mathrm{o}\mathrm{m}\mathrm{b}} ( b_i^{\mathrm{g}\mathrm{t}} , {\widehat{b}}_i , b_i^T , {\widehat{o}}_i^T ) = f_{\mathrm{b}\mathrm{b}} ( b_i^{\mathrm{g}\mathrm{t}} , {\widehat{b}}_i ) + {\lambda }_{\mathrm{D}} \cdot {\widehat{o}}_i^T \cdot f_{\mathrm{c}\mathrm{l}} ( b_i^T , {\widehat{b}}_i )，(6)

基于置信度的缩放作为一阶段检测器中的蒸馏过滤器，对应的学生网络总损失函数定义为：

{\mathrm{L}}_{\mathrm{f}\mathrm{i}\mathrm{n}\mathrm{a}\mathrm{l}} = f_{\mathrm{o}\mathrm{b}\mathrm{j}}^{\mathrm{C}\mathrm{o}\mathrm{m}\mathrm{b}} ( o_i^{\mathrm{g}\mathrm{t}} , {\widehat{o}}_i , o_i^T ) + f_{\mathrm{c}\mathrm{l}}^{\mathrm{C}\mathrm{o}\mathrm{m}\mathrm{b}} ( p_i^{\mathrm{g}\mathrm{t}} , {\widehat{p}}_i , p_i^T , {\widehat{o}}_i^T ) + f_{\mathrm{b}\mathrm{b}}^{\mathrm{C}\mathrm{o}\mathrm{m}\mathrm{b}} ( b_i^{\mathrm{g}\mathrm{t}} , {\widehat{b}}_i , b_i^T , {\widehat{o}}_i^T ).(7)

综上所述，知识蒸馏策略使用上述公式构成蒸馏损失，将蒸馏损失与学生网络的输出与目标真值产生的真实损失构成总损失，从而进行反向传播，达到训练学生网络的目的.

2 实验设计与结果分析

本文实验环境如下：Ubuntu 20.04操作系统，CPU为Intel（R） Xeon（R） Silver 4214R CPU @ 2.40GHz中央处理器，NVIDIA Quadro RTX 8000图形处理器，采用：Pytorch 1.9.1深度学习框架.对比实验均在上述环境配置下进行.

2.1　数据集及参数设置

本文实验所用䗴类化石显微图像是在LeiCa显微镜下对䗴类化石切片采集拍摄得到，详见图7.通过对不同质量的切片进行筛选，并对化石完整性不高、化石区分种类不具有参考价值的图像进行剔除，最终得到每一类化石比较清晰、代表性比较强的图像共798张.由于采集到的图像数目分布不均匀且数量较少，本文对训练集随机采取增强图像噪音和翻转等数据增强方法进一步加以扩充，得到总计2 263张图像.五种䗴类化石显微图像混合组成数据集，并按照9∶1的比例随机分为训练集和测试集.䗴类化石显微图像数据集信息如图8所示.

YOLOv5架构根据复杂程度不同分为4种模型，本文选择以最为精简的YOLOv5s为基础进行改进，实验过程中主要的训练参数设置如表2所示：

2.2　模型评估指标

在识别准确度方面采用AP（average precision）和mAP（mean average precision）作为评价指标.精确率（precision） 用以检验预测准确度，召回率 （recall）用以评价模型预测的完整性，依据式（10）曲线积分得出AP，对所有类别的AP值求平均值即为平均准确度均值（mAP），用来衡量训练得到的模型在所有类别上的综合性能，并将交并比定为0.5作为判别是否检测成功的阈值，其公式分别为：

\mathrm{P} \mathrm{r} \mathrm{e} \mathrm{c} \mathrm{i} \mathrm{s} \mathrm{i} \mathrm{o} \mathrm{n} = \frac{\mathrm{T}\mathrm{P}}{\mathrm{T}\mathrm{P}+\mathrm{F}\mathrm{P}}，(8)

\mathrm{R} \mathrm{e} \mathrm{c} \mathrm{a} \mathrm{l} \mathrm{l} = \frac{\mathrm{T}\mathrm{P}}{\mathrm{T}\mathrm{P}+\mathrm{F}\mathrm{N}}，(9)

\mathrm{A} \mathrm{P} = {\int }_{\mathrm{0}}^{\mathrm{1}} p(r)dr，(10)

式（8）~（9）中：TP表示正确检测为正例的数量、FP表示被错误检测为正例的数量、FN表示被检测为负例的数量、TN表示被检测为负例的数量.

2.3　实验结果与分析

2.3.1　与主流算法对比

为验证最终该模型的检测效果，在相同实验平台和同一数据情况下，与SSD（Liu et al.， 2016）、Faster-RCNN、YOLOv3（Redmon and Farhadi， 2018）、YOLOv4（Bochkovskiy et al.， 2020）以及原YOLOv5s等算法进行性能对比，以mAP@0.5、计算量、模型大小、推理速度、参数量作为检测效果的评价指标，测试结果如表3所示.

从表3可以看出，本文算法在与其他主流目标检测算法性能的比较过程中，综合性能表现最佳，保证了较高的检测精度.与SSD算法相比，mAP值提升了18.3%，推理速度减少 5 ms，且模型大小和计算量大幅度减少；而与同系列单阶段检测算法YOLOv4算法相比，mAP值和推理速度均有提升；同时对照原始网络结构YOLOv5s，平均精度相比仅下降0.78%，但是计算量下降了44.8%，模型大小显著降低，仅有6.24 MB，缩减幅度达到77.1%，平均推理时间为29 ms，满足实时检测模型的要求.

参数量、计算量是衡量模型复杂度的重要指标，本文模型与其他主流目标检测模型参数量进行对比（图9），该模型检测精度表现优异，参数量最少，对设备要求最小.因此，综合考虑䗴类化石检测场景中对于检测精度与实时性的要求，本文算法更符合古生物研究的需求，为后期算法嵌入显微镜等设备提供了解决方案.

2.3.2　改进前后算法对比

为了验证本文所提方法的有效性，以原始YOLOv5s为基础模型，比较不同改进部分在mAP、参数量、模型大小、计算量等客观指标的表现，如表4所示.其中Baseline+PR：65%表示YOLOv5s模型剪枝率为65%；Baseline+PR：65%+KD表示使用知识蒸馏策略恢复剪枝率为65%的YOLOv5s模型，作为消融实验对比.

对比结果如表4所示，本文选用65%剪枝率后，模型精度虽有所下降，但是通道数由原始的9 832压缩至4 308，被压缩了55.3%，参数量降低了79.6%，模型大小降低到6.24 MB.经过YOLOv5s模型作为教师网络进行微调后，剪枝后的模型对于䗴类化石的检测精确度有大幅提升，同时模型的参数量保持不变，精度比剪枝后模型提升22.81%，可见所采用的知识蒸馏方法在实际应用中取得优异表现.

本文采用两种不同微调策略对通道剪枝后的YOLOv5模型进行微调，直接重新训练方式的平均精度值低于知识蒸馏，验证了知识蒸馏的有效性.其对比如图10所示，采用知识蒸馏微调策略的模型曲线在使用直接训练策略的模型曲线上方收敛.

为了验证该算法改进前后对化石显微图像的检测效果，实验抽取验证集中各类化石图像灰度图进行对比分析，如图11所示，第1行为数据集中选取的待检测原图，第2行为原始YOLOv5模型检测效果图，第3行为本文算法检测效果图.针对下列检测效果图对比可以看出，压缩前YOLOv5模型能够准确学习图片信息并检测出物体位置，但存在漏检情况，如图11a列中漏检1个Fusulina，图11d列中存在误检与漏检情况.经过通道剪枝、模型压缩和知识蒸馏之后，本文算法检测效果依旧不错，并且能够准确提供其位置信息和物体类别，有效改善误检、漏检的情况，验证了该算法能更好地学习显微镜下䗴类化石中各类化石特征，适用于显微镜下䗴类化石的准确检测.

2.3.3　䗴类化石计数结果分析

本文从该实验数据集之外的䗴类化石显微图像中随机选取100张进行验证实验，以显微镜中对每个薄片䗴类化石进行的人工计数为标准.根据该模型得到的检测结果，对䗴类化石进行自动统计，以此与人工计数进行对比，计数情况如表5所示.通过多次验证发现，该模型平均准确率约为93.8%，基本实现了䗴类化石自动计数，该数据能够更好地分析地层沉积物中䗴类化石的大致含量.

3 结论

本文提出了一种基于深度学习单阶段算法的䗴类化石检测方法，该算法首先通过数据集预处理部分增强化石结构特征，再通过目标检测模型和模型压缩技术进行化石分类、定位和检测结果计数，主要结论如下所示：

（1）该方法运用深度学习单阶段算法，提出改进的YOLOv5模型，对䗴类化石显微图像识别平均准确率约为98.11%，单幅图平均检测时间为 0.29 s；对比其他化石检测模型，其识别准确率和检测时间等方面表现更突出，满足快速检测化石需求.

（2）针对现有化石薄片图像检测模型推理速度慢、对硬件要求高、可移植性差等问题，本文实现在保证识别准确率的基础上大幅度缩减网络模型参数量及计算量，有效提高模型对移动设备的适应性.并且在䗴类化石数据集上进行一系列对比实验，验证了该算法的可行性，能够满足对䗴类化石鉴别场景的需要.

（3）计算机通过深度学习模型提取古生物化石结构特征，实现批量化处理图像，并对䗴类化石识别、位置定位和化石检测结果自动计数，为含䗴类化石地区的地层结构分析提供数据支撑，同时为传统人工检测技术提供很好的补充.

（4）本实验所用数据集数量有限，只有5种䗴类化石类型，在未来的研究工作中，可通过扩充样本库来提高模型识别准确率，扩大应用前景.

参考文献

[1] Bochkovskiy, A., Wang, C. Y., Liao, H. Y. M., 2020. YOLOv4: Optimal Speed and Accuracy of Object Detection. ArXiv, 2004.10934. https://arxiv.org/abs/2004.10934

[2] Bu, J. J., He, W. H., Zhang, K. X., et al., 2020. Evolution of the Paleo-Asian Ocean: Evidences from Paleontology and Stratigraphy. Earth Science, 45(3): 711-727 (in Chinese with English abstract).

[3] Denil, M., Shakibi, B., Dinh, L., et al., 2013. Predicting Parameters in Deep Learning. ArXiv, 1306.0543. https://doi.org/10.48550/arXiv.1306.0543

[4] Du, Y. S., Tong, J. N., 2009. Introduction to Palaeontology and Historical Geology. China University of Geosciences Press, Wuhan (in Chinese).

[5] Girshick, R., 2015. Fast R-CNN. 2015 IEEE International Conference on Computer Vision (ICCV). Santiago. https://doi.org/10.1109/ICCV.2015.169

[6] Girshick, R., Donahue, J., Darrell, T., et al., 2014. Rich Feature Hierarchies for Accurate Object Detection and Semantic Segmentation. 2014 IEEE Conference on Computer Vision and Pattern Recognition, Columbus. https://doi.org/10.1109/CVPR.2014.81

[7] Guo, W., Lin, Y. T., Liu, G. H., 2003. Early Permian Rugose Coral Assemblage and Its Geological Significances in Xiwuqi of Inner Mongolia. Journal of Jilin University (Earth Science Edition), 33(4): 399-405 (in Chinese with English abstract).

[8] He, K. M., Zhang, X. Y., Ren, S. Q., et al., 2016. Deep Residual Learning for Image Recognition. 2016 IEEE Conference on Computer Vision and Pattern Recognition (CVPR), Las Vegas. https://doi.org/10.1109/CVPR.2016.90

[9] Hinton, G., Vinyals, O., Dean, J., 2015. Distilling the Knowledge in a Neural Network. ArXiv, 1503.02531. https://doi.org/10.48550/arXiv.1503.02531

[10] Hou, X. H., Feng, L., Zheng, M. P., et al., 2022. Recognition Method of Potassium-Rich Lithium Brine Reservoir in Nanyishan. Earth Science, 47(1): 45-55 (in Chinese with English abstract).

[11] Huang, Z., Bai, Z. Q., Chai, H., 2009.Identification of the ‘Ambiguity Features’ of the Conodont by the Artificial Neural Network. Geological Science and Technology Information, 28(3): 94-98 (in Chinese with English abstract).

[12] Li, P. F., Wang, H., Wu, Y. C., et al., 2022. Recognition of Dangerous Rock Mass and Seismic Risk Analysis of Highway Based on UAV Images. China Earthquake Engineering Journal, 44(4): 777-785 (in Chinese with English abstract).

[13] Liu, W., Anguelov, D., Erhan, D., et al., 2016. Ssd: Single Shot MultiBox Detector. 2016 European Conference on Computer Vision, Amsterdam. https://doi.org/10.1007/978-3-319-46448-0_2

[14] Liu, X. Y., 2018. The Application of Image Recognition Technology in Paleontological Fossil Image (Dissertation). Jilin University, Changchun (in Chinese with English abstract).

[15] Liu, Z., Li, J. G., Shen, Z. Q., et al., 2017. Learning Efficient Convolutional Networks through Network Slimming. 2017 IEEE International Conference on Computer Vision (ICCV). Venice. https://doi.org/10.1109/ICCV.2017.298

[16] Lowe, D. G., 2004. Distinctive Image Features from Scale-Invariant Keypoints. International Journal of Computer Vision, 60(2): 91-110. https://doi.org/10.1023/B: VISI.0000029664.99615.94

[17] Mehta, R., Ozturk, C., 2018. Object Detection at 200 Frames Per Second. ArXiv, 1805.06361. https://doi.org/10.48550/arXiv.1805.06361

[18] Peng, X. D., Zhang, M. S., Li, X. M., 1999. The Evolution of Paleozoic Tectonic Paleogeography in Jilin and Heilongjiang Orogenic Belt. World Geology, 18(3): 24-28 (in Chinese).

[19] Redmon, J., Divvala, S., Girshick, R., et al., 2016. You only Look Once: Unified, Real-Time Object Detection. 2016 IEEE Conference on Computer Vision and Pattern Recognition (CVPR), Las Vegas. https://doi.org/10.1109/CVPR.2016.91

[20] Redmon, J., Farhadi, A., 2018. Yolov3: An Incremental Improvement. arXiv, 1804.02767. https://doi.org/10.48550/arXiv.1804.02767

[21] Ren, S. Q., He, K. M., Girshick, R., et al., 2015. Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks. arXiv, 1506.01497. https://doi.org/10.48550/arXiv.1506.01497

[22] Shen, S. Z., Zhang, H., Zhang, Y. C., et al., 2019. Permian Integrative Stratigraphy and Timescale of China. Science in China (Series D), 49(1): 160-193 (in Chinese).

[23] Simonyan, K., Zisserman, A., 2014. Very Deep Convolutional Networks for Large-Scale Visual Recognition. ArXiv, 1409.1556. https://doi.org/10.48550/arXiv.1409.1556

[24] Szegedy, C., Liu, W., Jia, Y. Q., et al., 2015. Going Deeper with Convolutions. 2015 IEEE Conference on Computer Vision and Pattern Recognition (CVPR)., Boston. https://doi.org/10.1109/CVPR.2015.7298594

[25] Weller, A. F., Harris, A. J., Ware, J. A., 2006. Artificial Neural Networks as Potential Classification Tools for Dinoflagellate Cyst Images: A Case Using the Self- Organizing Map Clustering Algorithm. Review of Palaeobotany and Palynology, 141(3-4): 287-302. https://doi.org/10.1016/j.revpalbo.2006.06.001

[26] Yu, X. L., Ye, K., Du, C. J., et al., 2021. Microscopic Recognition of Micro Fossils in Carbonate Rocks Based on Convolutional Neural Network. Petroleum Geology & Experiment, 43(5): 880-885, 895 (in Chinese with English abstract).

[27] Yue, X., Hu, H., Jia, J. Z., 2019. A Method for Identifying Foraminifera Fossils Based on Deep Learning. Computer Knowledge and Technology, 15(27): 173, 178 (in Chinese).

[28] Zhang, Z. C., 1987. Correlation of the Shanxi Stage in North China and Related Fusulinid-Bearing Strata in Certain Areas. Regional Geology of China, 6(4): 359-363 (in Chinese).

[29] Zuo, R. G., Peng, Y., Li, T., et al., 2021. Challenges of Geological Prospecting Big Data Mining and Integration Using Deep Learning Algorithms. Earth Science, 46(1): 350-358 (in Chinese with English abstract).

基金资助

国家自然科学基金项目(41871333;41773024)

河南理工大学博士基金资助项目(B2014-043)

河南省高等学校重点科研项目(21A520016)

河南省高校国家级大学生创新创业训练计划项目(202110460078)

河南省本科高校省级大学生创新创业训练计划项目(S202110460005)