基于自适应参数化非极大值抑制的二维人体姿态估计算法

李家宝 ,  王成军 ,  苏文杭

吉林大学学报(工学版) ›› 2025, Vol. 55 ›› Issue (07) : 2425 -2433.

PDF (7617KB)
吉林大学学报(工学版) ›› 2025, Vol. 55 ›› Issue (07) : 2425 -2433. DOI: 10.13229/j.cnki.jdxbgxb.20240744
通信与控制工程

基于自适应参数化非极大值抑制的二维人体姿态估计算法

作者信息 +

2D human pose estimation algorithm based on adaptive parameterized non-maximum suppression

Author information +
文章历史 +
PDF (7799K)

摘要

针对检测器的准确率低和检测结果导致的关键点冗余两个问题,提出了基于自适应参数化NMS的二维人体姿态估计算法。首先,采用CenterNet检测器取代原有检测器,提高了人体检测的性能,并为后续姿态估计打下基础。然后,提出了自适应参数化的PoseNMS算法,引入样本外观相似度实现样本自适应度量调节,使NMS中的过滤条件更加灵活。最后,提出了一种基于检测置信度的非均匀采样方法,在训练过程中保证了样本的有效性,实现了困难样本的发现与挖掘。在MSCOCO 2017数据集上采用本文检测器输出的检测结果作为后续目标框的条件取得了71.9%的mAP。另外,本文算法同样在MPII和MSCOCO 2015数据集上进行了大量实验,定量实验与可视化结果说明本文方法有效解决了上述两个问题,实现了更准确的姿态估计。

Abstract

To address the two problems of low detector accuracy and redundant keypoints in detection results, a two-dimensional human pose estimation algorithm was proposed based on adaptive parameterized NMS. Replacing the original detector with CenterNet detector improves the performance of human detection and lays the foundation for subsequent pose estimation. Propose an adaptive parameterized PoseNMS algorithm that introduces sample appearance similarity to achieve sample adaptive measurement adjustment, making the filtering conditions in NMS more flexible. A non-uniform sampling method based on detection confidence was proposed, which ensured the effectiveness of the samples during the training process and achieved the discovery and mining of difficult samples. Verified on three datasets, a 71.9% mAP was achieved on the MSCOCO 2017 dataset under the condition of using the detection results output by the detector in this paper as the subsequent target box. In addition, the algorithm proposed in this paper has also been extensively experimented on MPII and MSCOCO 2015, and the quantitative and visual results show that the proposed method effectively solves the above two problems and achieves more accurate attitude estimation.

Graphical abstract

关键词

CenterNet / 关键点检测 / 非极大值抑制 / 姿态估计 / 非均匀采样

Key words

CenterNet / key point detection / non-maximum suppression / pose estimation / non-uniform sampling

引用本文

引用格式 ▾
李家宝,王成军,苏文杭. 基于自适应参数化非极大值抑制的二维人体姿态估计算法[J]. 吉林大学学报(工学版), 2025, 55(07): 2425-2433 DOI:10.13229/j.cnki.jdxbgxb.20240744

登录浏览全文

4963

注册一个新账户 忘记密码

0 引 言

随着计算机视觉技术的不断发展和深度学习技术的广泛应用,二维人体姿态估计成为计算机视觉领域的一个重要研究方向[1]。该研究旨在从图像或视频中定位并识别出人体的关键点,通过将这些关键点按顺序相连构建出人体的躯干,从而实现对人体姿态的估计。这一技术不仅有助于动作识别、人机交互和姿态跟踪等,还在自动驾驶、安全监控、特殊场景下的动作监控等领域具有潜在的应用前景。然而,二维人体姿态估计仍面临诸多挑战,如拥挤场景下的目标分离、遮挡问题以及实时性要求等,这些问题的解决需要不断地研究和优化算法。

在深度学习等技术快速发展的背景下,二维人体姿态估计算法的研究现状呈现出快速发展的趋势。其中,马皖宜等[2]提出了基于多谱注意力高分辨率网络的人体姿态估计方法,融合多谱注意力与Lite-HRNet,利用频率分量提取丰富的特征信息,通过通道置换、分组卷积与深度可分离卷积,提升姿态估计速度。虽然多谱注意力机制和多分辨率特征融合有助于提取更丰富的特征信息,但在具体实现过程中,如何更有效地融合不同尺度的特征,以及如何处理特征融合过程中的信息丢失问题,仍是该方法需要进一步优化和改进的方向。吉斌等[3]提出一种时空信息感知网络STNet,STNet采用卷积模块提取视频帧人体关节点热力图,循环卷积模块编码时间信息,通过时空解耦学习提升姿态估计连贯性与准确性。由于STNet网络结构相对复杂,参数调优和训练过程可能较为困难,如果参数设置不合理,会造成估计结果不精准。Cao等[4]提出了实时多人2D姿势估计法,将非参数部分亲和场(PAFs)结合身体与足部检测器,实现快速准确的关键点定位。该方法依赖于身体部位位置的初步检测结果来构建部分亲和场(PAFs),如果初始检测结果存在误差,这种误差可能会传递到后续的关键点关联步骤中,从而影响整体的姿态估计结果。

针对现有研究存在的问题,本文提出了一个基于准确检测和自适应参数化NMS的两阶段二维姿态估计算法:①采用先进的CenterNet检测器,相比于原有检测器,CenterNet采用直接回归中心点与偏移量的方式进行检测,提高了目标检测精度,为后续姿态估计奠定基础;②由于传统PoseNMS对相似结构关键点与相近关键点采用预定义的度量方式,无法自适应判断当前关键点的外观与结构。因此,本文提出自适应参数化的Pose NMS方法,通过引入人体外观相似度作为度量条件,使NMS中的过滤条件更加灵活;③在训练中,为了保证样本的有效性,本文提出基于检测置信度的非均匀采样方法。算法基于先前检测器的置信度分数,计算样本采样概率,实现困难样本的挖掘。

本文算法在MSCOCO 2017测试集上进行实验对比,得到了71.9%的mAP(平均准确率)。比基准算法提升了0.9%。另外,本文算法还在MPII和MSCOCO 2015测试集上进行了可视化实验。其结果表明:本文算法能够有效应对小目标、光照受限、形变、目标遮挡、半身与多人等场景。

1 二维人体姿态估计算法设计

本文算法框架如图1所示。首先,引入高效的人体检测器CenterNet,提升目标检测精度,为后续人体姿态估计提供更准确的目标框。在测试过程中,将得到的人体候选框输入姿态估计器(Pose estimator)中,得到初始结果。为了得到更准确的人体姿态,提出了自适应参数化的PoseNMS(Adaptive PoseNMS)模块,同时考虑关键点距离与位姿相似度,并引入外观相似度解决两种度量不一致的问题,得到最终的二维人体姿态。在训练过程中,为了更好地根据检测框生成候选目标框,本文提出基于检测置信度的非均匀采样方法(Confidence-guided non-uniform sampling),为后续位姿估计器的训练生成候选框,挖掘复杂样本,实现有效训练。

1.1 AlphaPose

AlphaPose是一种区域多人姿态估计框架,采用的是自顶向下的方法,但目前这种方法存在下面两个问题,即边界框定位不准确和姿态冗余问题。基于上述问题,引入一种区域多人姿势估计(Regional multi-person pose estimation,RMPE)框架,该框架由3个模块组成,分别为人体检测器/姿态估计器和参数化姿态NMS[5⁃7]。

AlphaPose网络框架如图2所示。首先AlphaPose采用YOLO检测器提供目标检测结果,以进一步提高精度。AlphaPose将得到的人体检测框送入姿态估计器中,其中姿态估计器包括STN(Spatial transformer network)、SPPE(Single person pose estimation)和SDTN(Spatial de-transformer network)。SPPE表示单人姿态估计模块,其输入为单人人体检测框,输出一个人体姿态。为了消除SPPE对人体位置造成的检测影响,算法在SPPE前增加了STN模块对检测器得到的检测框进行空间变换,消除定位误差的影响[8,9]。之后,使用SDTN模块对人体位置进行反变换,将得到的姿态结果映射回原始图片坐标。为了帮助STN更好地提取人体区域,算法还并联了一个SPPE支路,并且共享STN的结果。针对姿态冗余问题,提出了参数化姿态非最大抑制(Parametric PoseNMS),其中包含两个抑制度量函数即置信度度量和距离度量,其方法如下:

将具有m个关节的位姿pi表示为ki1,ci1,…,kim,cim,其中,kij和cij分别为关节的第j个位置和置信度得分。其方案为选择最可信的位姿作为参考,一些接近它的位姿可以通过NMS去除冗余位姿。在剩余的姿势集上重复此过程,直到消除多余的位姿。因此,需要定义位姿相似性,以消除彼此接近和相似的位姿[10,11]。定义一个位姿距离度量dPi,Pj|Λ来测量位姿相似性,并定义一个阈值η作为判断标准,其中,Λ为函数d⋅的参数集。判断标准如下:

fPi,Pj|Λ,η=1d(Pi,Pj|Λ,λ)≤η

判断标准包括置信度度量和距离度量,其中,置信度度量是指消除置信度相似的关节点,选择置信度最高的姿态Pi作为参考姿态,判断姿态是否需要被消除,置信度度量如式(2)所示:

                       Ksim(Pi,Pj|σ1=∑ntanhcinσ1·tanhcjnσ1,if kjn within   Bkin0,otherwise

式(3)用来计算两个姿态关节点的空间距离总和,选取置信度较高的姿态Pi,如果Pj姿态与Pi距离比较近,这说明两者重叠度较高,那么Pj就会被消除:

Hsim(Pi,Pj|σ2=∑nexp-kin-kjn2σ2

由此可得到距离函数为:

dPi,Pj| Λ=Ksim(Pi,Pj|σ1+λHsim(Pi,Pj|σ2

式中:λ为平衡两个距离的权重,并且Λ=σ1,σ2,λ。

在训练过程中,算法通过数据增强来训练模块。一种方法是利用检测到的人体框进行训练,但目标检测通常只产生单个人体框,限制了STN和SPPE模块的充分训练。因此,引入姿态引导区域框生成器(Pose-guided proposals generator,PGPG)进行数据增强,通过模拟不同姿态的人体检测器输出分布,来生成大量训练样本。

由于两阶段位姿检测器首先需要对全图进行目标检测,因此,目标检测结果对后续操作起关键性作用。AlphaPose采用单阶段基于锚框的检测器YOLO系列提供目标检测结果,而基于锚框的检测器相比于不使用锚框的检测器而言,每个锚框都需计算两个框之间的交并比,导致运算复杂度增大,产生的参数较多。因此,首先对AlphaPose方法中的目标检测器进行改进,使用先进的CenterNet检测器替代原有检测器。

CenterNet构建模型时将目标作为一个点,将图像输入网络后,会生成关键点热图,热图上的高峰点即目标中心。检测到中心点后,根据每个高峰点的特征回归出目标框的其他属性,包括二维框的宽高、三维框的长宽高、深度、角度及人体姿态等。CenterNet框架如图3所示。最左边表示输入图片,输入图片需要裁剪到512×512大小,即长边缩放到512,短边补0。中间表示基准网络,采用了Hourglass、ResNet与DLA 3种网络架构。其优势在于:①锚点仅仅是放在目标中心,没有尺寸框;②使用更大分辨率的输出特征图,有助于改善小目标检测质量。

具体来说,首先对图像进行预处理以满足目标检测算法需求。第一步需要将图像进行归一化,接下来,通过CenterNet输出检测到的目标中心点热力图、当前检测目标的置信度以及目标框尺度回归值,并确定各目标的检测框。由于CenterNet只估计目标的中心点位置,因此,检测算法中不涉及NMS等后处理操作,最后根据目标框位置,对检测到目标区域进行裁剪,用于后续关键点估计算法。

1.2 自适应参数化位姿关键点非极大值抑制

基于AlphaPose中的参数化NMS方法存在度量不平衡的问题,即可能存在冗余区域与其中一个度量方法类似,而与另一种度量方法区别较大,导致抑制失败。发现上述两种度量方法是互补关系,不一定同时起作用。因此,本文提出一种自适应参数化的PoseNMS方法,使用特征提取网络提取目标框特征并计算逐像素特征相似度,用于抑制相似结构的检测框,使NMS中的过滤条件更加灵活。

其中网络以区域图像、区域关键点、候选位姿作为输入,经过VGG16网络提取特征,并使用全局特征池化进行特征压缩,最后使用全连接层及Sigmoid函数输出权重。将Pi和Pj所在图像块IPi、IPj作为输入之后,并将输出的外观特征相似度AsimIPi,IPj|φ,作为度量条件,得到一个新的自适应参数化距离函数:

dadaptive(Pi,Pj|Λ)=KsimPi,Pj|σ1+HsimPi,Pj|σ2AsimIPi,IPj|φ

具体实现如下:首先将检测器给出的目标区域作为输入,定义VGG 16特征提取网络φ提取其特征,并利用全局平均池化将特征聚合成1×1×c的向量,并将两个聚合向量进行逐元素相乘然后,将结果相加,得到两个框的相似度IsimPi,Pj|φ∈(0,1]并作为现有距离函数的系数,即相似度越高的框,其距离越短,越可能为冗余框;反之亦然。其网络框架如图4所示。其意义在于通过引入外观相似度自适应地调整NMS的距离,更好地去除冗余关键点和候选框,提升关键点检测精度。

1.3 基于检测置信度的非均匀采样方法

对于两阶段姿态估计,适当的数据增强有助于让STN+SPPE+SDTN适应人体区域定位结果,AlphaPose采用姿态引导区域框生成器(PGPG)进行数据增强,PGPG是类似高斯分布的采样方法,即在检测框周围根据距离目标框的位置进行采样,上述方法根据距离进行判断,在目标框检测出现偏差时,目标区域相对于背景区域可能出现相同权重,这种方法由于不包含图像信息,因此,可能会出现不包含人体位置的区域,显然这种情况在检测时是不合理的。

因此,提出了利用之前检测器的置信度,用检测器的结果预先筛选目标,其意义在于:可以利用检测器的检测置信度,对目标可能出现的区域进行初步筛选,提高候选区域采样的效率和准确性。与现有方法对比如图5所示。

具体流程如下:首先生成以目标为中心、以目标宽高为参数的二维高斯分布,并且考虑检测器的heatmap结果,从而生成采样概率Pij,其中采样概率如下:

Pij=pij+NormHij
NormH=H-min(H)max(H)-min(H)

式中:pij服从二维高斯分布;H为检测器的Heatmap图。

2 实验验证

为了验证本文方法的有效性,展开实验研究。实验中使用的硬件配置:CPU为Intel® Core™ 19-13900KS 3.20 GHz,GPU为NVIDIA GeForce RTX 4080(24 GB),编译器为Python 3.9。实验使用Anaconda 3深度学习模型开发工具和PyTorch 1.10.1构建网络模型。

2.1 评估数据集

2.1.1 MPII

MPII Human Pose 数据集是一个广泛使用的大规模多视图2D人体姿态估计数据集,该数据集涵盖4万个标注了16个关键点信息的人体目标,这些关键点的准确标注对人体姿态估计至关重要,如图6所示。在本文中,算法使用单帧多人姿态测试集作为实验数据集,选取14 679张图片用于训练,6 619张用于测试,2 729张用于验证。

2.1.2 COCO 2015

MSCOCO 2015数据集是一种用于计算机视觉研究的数据集,其中包含了100多万张图像和32万个与之相对应的注释,来源于250 000张电影截图和328 000张现实图像。COCO 2015中的关键点包括15个部位,分别是:鼻子、两眼、两耳、两肩、两肘、两手腕、两髋、两膝、两脚踝。由于其包含了丰富多样的图像和详细精准的注释信息,因此,对训练和评估深度学习模型具有很高的实用性。

2.1.3 COCO 2017

MSCOCO 2017数据集是COCO(Common objects in context)标注协议下的一个升级版本,它是目前计算机视觉领域中使用最广泛的一种数据集。该数据集包括超过330 k张图像、2.5 M个实例,其中包括在22 k个不同场景下拍摄的日常图像和专业拍摄的艺术图片。MSCOCO 2017在MSCOCO 2015数据集上进一步扩展,增加了5个关键点,包括脊椎、嘴唇、左眉毛、右眉毛、舌头。这样MSCOCO 2017中的关键点一共有20个,相比MSCOCO 2015更加细致。

2.2 评估指标

平均精度均值mAP通常用来评估目标检测算法的性能,它是不同阈值下精度与召回率的面积积分的平均值。AP值是对每一个类别通过Precision和Recall的取值来计算出来的,计算公式为:

mAP=1classes∑c∈classesTPcFPc+TPc

式中:TPc为准确检测;FPc为虚检。

2.3 mAP结果

将文献[2]方法、文献[3]方法和文献[4]方法作为比较算法,对比不同方法的mAP,结果如表1所示。

如表1所示,本文方法利用CenterNet作为检测器,取得了71.9%的mAP结果,对比其他方法具有显著的改进。与第二名的文献[4]方法相比,本文方法在mAP上提高了0.9%。同时,参数数量和推理时间是模型性能的两个关键指标。参数数量表示模型的复杂性,而推理时间反映了模型的操作速度。从表1可以看出,虽然本文方法的参数数量(30 M)超过了文献[2]方法和文献[3]方法。但文献[2]方法和文献[3]方法的推理时间分别为150 ms和7 5 ms,均多于本文方法。这是因为本文方法结合了CenterNet检测器、APPoseNMS,实现了令人满意的推理速度,推理时间为22 ms,在推理时间方面排名第一。由此可知,本文方法在2D人体姿态估计算法领域展现出了出色的检测准确性和推理速度,使其适用于各种实际场景。

2.4 可视化结果

2.4.1 本文方法在MPII测试集上的可视化结果

本文方法在MPII测试集上的可视化测试结果如图7所示。

本文方法能够有效处理以下问题:在多人场景中,出现目标被部分遮挡的情况时,本文方法可以较好地处理这些场景;在半身场景中,目标部分关键点缺失场景会导致姿态估计算法无法匹配全部关键点,因而造成关键点误匹配的问题,本文方法由于适应了高效检测器可以解决这些问题;对于目标形变场景,由于目标发生了非刚性形变,导致目标形状改变,加大了检测难度。另外,算法可能学习到关键点具有相对位置关系,导致检测形变物体时出现误差。本文方法提出了自适应参数化的PoseNMS,可以对冗余关键点进行自适应距离度量,因而可以在上述挑战场景中得到较好的结果。

2.4.2 在MSCOCO 2015测试集上

本文方法在MSCOCO 2015测试集上的可视化测试结果如图8所示。

对于目标遮挡场景,由于目标之间存在交叉遮挡的现象,很容易降低关键点匹配的准确性,本文方法能够有效解决此问题。

2.4.3 在MSCOCO 2017 测试集上

本文方法在MSCOCO 2017测试集上的可视化测试结果如图9所示。在小目标场景下,目标的特征点往往比较微小,很容易受到噪声的干扰,在训练中,采用基于检测置信度的非均匀采样方法进行数据增强,增强模型的泛化能力和适应性。在光照受限的场景中,由于光线的变化,目标的视觉特征往往会失真或丢失,导致算法无法正确地估计目标姿态,采用本文方法可有效解决。

3 结束语

首先,本文提出了一种基于自适应参数化NMS的二维人体姿态估计算法,采用CenterNet检测器来替代原始检测器,不仅提高了人体检测的性能,还为后续的姿态估计奠定了坚实的基础。其次,本文通过提出自适应参数化的PoseNMS方法,增强了原始的PoseNMS方法,可以根据候选样本外观的相似性自适应生成判断权重,从而更加灵活地调整NMS中的过滤条件。最后,为了确保训练样本的有效性,本文还提出了一种基于检测置信度的非均匀采样方法,可以在训练过程中发现和挖掘困难样本。本文在MSCOCO 2017数据集上进行的定量验证取得了71.9%的mAP。此外,本研究在MPII和MSCOCO 2015测试集上对该方法进行的视觉描述显示,在诸如光照有限和目标较小等各种具有挑战性的情况下,该方法能够取得显著的效果。在未来的工作中,计划利用本文所提出的二维人体姿态估计方法进一步开发更先进的三维人体姿态估计技术。此外,还计划创建更具针对性的数据集,其中包含更大量的数据,专门在步态分析和医疗康复领域等特定场景中应用,人体姿态估计方法将为医生提供宝贵的参考资源。

参考文献

[1]

张宇, 温光照, 米思娅, 等. 基于深度学习的二维人体姿态估计综述[J].软件学报, 2022, 33(11): 4173-4191.

[2]

Zhang Yu, Wen Guang-zhao, Mi Si-ya, et al. A review of two-dimensional human pose estimation based on deep learning[J]. Journal of Software, 2022,33(11): 4173-4191.

[3]

马皖宜, 张德平. 基于多谱注意力高分辨率网络的人体姿态估计[J]. 计算机辅助设计与图形学学报,2022, 34(8): 1283-1292.

[4]

Ma Wan-yi, Zhang De-ping. Human pose estimation based on multi-spectral attention high-resolution network[J]. Journal of Computer-Aided Design and Computer Graphics, 2022,34(8):1283-1292.

[5]

吉斌, 潘烨, 金小刚, 等. 用于视频流人体姿态估计的时空信息感知网络[J]. 计算机辅助设计与图形学学报, 2022, 34(2): 189-197.

[6]

Ji Bin, Pan Ye, Jin Xiao-gang, et al. Spatio-temporal information perception network for human pose estimation in video streams[J]. Journal of Computer-Aided Design and Computer Graphics, 2022, 34(2):189-197.

[7]

Cao Z, Hidalgo G, Simon T,et al. Openpose: realtime multi-person 2D pose estimation using part affinity fields[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2021 43(1):172-186.

[8]

程旭, 宋晨, 史金钢, 等.基于深度学习的通用目标检测研究综述[J].电子学报, 2021, 49(7): 1428-1438.

[9]

Cheng Xu, Song Chen, Shi Jin-gang, et al. A review of general object detection based on deep learning[J]. Acta Electronica Sinica, 2021, 49(7): 1428-1438.

[10]

邵延华, 张铎, 楚红雨, 等. 基于深度学习的YOLO目标检测综述[J]. 电子与信息学报, 2022, 44(10): 3697-3708.

[11]

Shao Yan-hua, Zhang Duo, Chu Hong-yu, et al. A review of YOLO object detection based on deep learning[J]. Journal of Electronics & Information Technology, 2022, 44(10): 3697-3708.

[12]

陈丽, 王世勇, 高思莉, 等. Sentinel-2卫星的多光谱轻量级船舶目标检测算法[J]. 光谱学与光谱分析, 2022, 42(9): 2862-2869.

[13]

Chen Li, Wang Shi-yong, Gao Si-li, et al. Multispectral lightweight ship detection algorithm for Sentinel-2 satellite[J]. Spectroscopy and Spectral Analysis, 2022, 42(9): 2862-2869.

[14]

陈科圻, 朱志亮, 邓小明, 等.多尺度目标检测的深度学习研究综述[J]. 软件学报, 2021, 32(4): 1201-1227.

[15]

Chen Ke-qi, Zhu Zhi-liang, Deng Xiao-ming, et al. A review of deep learning research on multi-scale object detection[J]. Journal of Software, 2021,32(4):1201-1227.

[16]

Law H, Deng J. CornerNet: detecting objects as paired keypoints[J]. International Journal of Computer Vision, 2020, 128(3): 642-656.

[17]

曲优, 李文辉. 基于锚框变换的单阶段旋转目标检测方法[J]. 吉林大学学报: 工学版, 2022, 52(1):162-173.

[18]

Qu You, Li Wen-hui. Single-stage rotated object detection method based on anchor box transformation[J]. Journal of Jilin University(Engineering and Technology Edition), 2022,52(1): 162-173.

[19]

朱毅琳, 肖秦琨, 杨梦薇. 基于语义图卷积神经网络的三维人体姿态估计[J]. 计算机仿真, 2023, 40(11): 207-211, 402.

[20]

Zhu Yi-lin, Xiao Qin-kun, Yang Meng-wei. 3D human pose estimation based on semantic graph convolutional neural network[J]. Computer Simulation, 2023, 40(11): 207-211, 402.

基金资助

安徽省高校协同创新项目(GXXT-2022-053)

国家创新方法工作专项项目(2018IM010500)

淮南市科技计划项目(2021A242)

AI Summary AI Mindmap
PDF (7617KB)

756

访问

0

被引

详细

导航
相关文章

AI思维导图

/

〈 〉