少样本下基于元学习的柱塞泵故障诊断方法

Fault Diagnosis Method of Piston Pump Based on Meta⁃Learning with Few Samples

摘要

针对柱塞泵故障样本少、 在噪声干扰下故障信号微弱及传统深度学习依赖大量训练样本的问题， 提出了一种基于模型不可知元学习（MAML）的少样本柱塞泵故障诊断方法。首先， 利用改进的带自适应噪声的完全集成经验模态分解（ICEEMDAN）方法来分解采集到的一维振动信号， 得到本征模态函数的IMF分量， 并筛选故障信息丰富的敏感分量以增强振动信号中的特征信息。其次， 建立了多通道一维卷积模型， 该模型构建了一个具有高效通道注意力机制的通道交互特征编码器， 旨在关注不同通道间的交互故障信息， 进而有效地提取多个诊断元任务的通用诊断知识。最后， 将一维卷积模型作为基模型， 并通过MAML方法训练获得了最优的模型初始化参数； 最优的初始化模型能够快速适应新工况下的少量柱塞泵故障样本， 从而实现了少样本下的柱塞泵故障诊断。利用柱塞泵实验数据验证了模型的性能， 结果表明， 所提方法在少样本条件下对于各种诊断任务的诊断准确率都达到90%以上。

Abstract

Addressing the issues of limited fault samples for piston pumps， weak fault signals under noise interference， and traditional deep learning's heavy reliance on vast amounts of training data， we proposed a novel few-shot fault diagnosis approach for piston pumps based on model-agnostic meta-learning （MAML） with few samples. Firstly， the collected one-dimensional vibration signal was decomposed using improved complete ensemble empirical mode decomposition with adaptive noise （ICEEMDAN）， resulting in intrinsic mode function （IMF） components. Subsequently， sensitive components rich in fault information were selected to enhance the feature information within the vibration signal. Secondly， a multi-channel one-dimensional convolutional model was established， incorporating a channel interaction feature encoder equipped with an efficient channel attention mechanism. This design aimed to focus on the mutual fault information among different channels， thereby effectively extracting general diagnostic knowledge applicable to multiple diagnostic meta-tasks. Finally， the one-dimensional convolutional model served as the base model， which was trained through the MAML method to obtain optimal initial model parameters. Following this， the optimally initialized model could quickly adapt to new operating conditions with limited piston pump fault samples， thereby realizing few-shot fault diagnosis for piston pumps. The performance of the proposed model was validated using experimental data from piston pump tests. Experimental results demonstrate that the proposed method achieves an accuracy rate of over 90% across various diagnostic tasks under few-sample conditions.

Graphical abstract

关键词

模型不可知元学习 / 少样本 / 注意力机制 / 柱塞泵

Key words

model agnostic meta-learning / few samples / attention mechanism / piston pump

0 引　言

柱塞泵作为液压系统的动力元件， 其故障会直接影响系统性能， 并可能造成重大安全问题。因此， 柱塞泵的监测和精确故障诊断至关重要^［1］。

随着深度学习等人工智能方法在计算机视觉、 自然语言处理、 语音识别等领域的发展， 深度学习方法被应用于故障诊断中^［2］。在实际工业环境中， 柱塞泵的运行环境复杂， 运行过程中容易出现故障， 但设备无法伴随故障长时间运行， 因此， 很难收集到足够的故障样本， 而且采集到的振动信号呈现非线性和非平稳性， 导致了深度神经网络学习的数据不足， 特征难以提取。因此， 利用少量的数据训练出诊断精度高的模型在故障诊断研究方面具有较大的工程应用价值^［3］。

模型不可知元学习（MAML）^［4］等元学习方法， 通过在包含多个不同类型任务的数据集上进行训练， 使模型在面对新的学习任务时， 仅利用少量样本进行学习就能快速适应并解决这些任务。该方法在计算机视觉^［5］、 语音识别^［6］和强化学习^［7］中具有良好的性能， 而且近年来也有一些研究探索了元学习在故障诊断中的应用。Zhao等^［8］推广了元学习的故障诊断方法， 在小样本条件下结合了模型不可知元学习， 并从数据依赖性、 可迁移性和任务可塑性方面分析了元学习故障诊断技术的可行性。Lin等^［9］提出了一种由异构信号驱动的新的元学习方法GMAML， 并将其应用于少样本下轴承的加速度和声学信号分析。Luo等^［10］提出了一种弹性原型网络的元学习故障诊断模型， 实现了速度不稳定情况下跨域小样本的轴承故障诊断。颜丙生等^［11］针对小样本情况下的变工况特别是跨机械部件的故障诊断问题， 提出了一种基于元学习的多通道一维卷积神经网络。Liu等^［12］以连续学习与元学习等先进技术理念作为研究基础， 在不访问历史数据库或访问少量历史缓存数据的情形下设计了具有自适应更新能力的类增量故障诊断模型， 并将其应用于铁路转辙机柱塞泵的健康检测。上述方法为元学习在少样本故障诊断方向提供了新的思路。

卢欣欣等^［13］结合CWT对非平稳信号的特征表达能力和MAML对小样本问题的学习能力， 提出了一种基于CWT和MAML的小样本行星齿轮箱故障诊断方法。Li等^［14］开发了一种元学习方法， 并证明该方法可以实现不同轴承数据集的故障迁移诊断。杨青等^［15］提出了一种基于元迁移学习与自注意力机制结合的诊断方法， 在所建立的模型中使用了一种通道注意力机制， 在小样本和噪音条件下， 该方法具有良好的轴承故障诊断性能。上述方法表明元学习具有较强的泛化能力， 但上述方法是先将一维信号转化成二维图像来进行特征提取， 在转换过程中会丢失一些有用的故障信息， 从而影响诊断结果。针对上述问题， 本文采用元学习方法， 提出了MAML-CNN-SENet故障诊断模型， 进行故障诊断时， 首先对数据进行预处理， 得到具有不同频率信息的多通道一维信号， 保留信号的真实信息并抑制无关信息， 接着搭建多通道一维卷积模型， 同时利用MAML框架优化模型的学习能力并引入SENet模块， 极大地提升了在少样本条件下对柱塞泵故障模式识别的能力。

1 理论基础

1.1 少样本学习与元学习

少样本学习是机器学习中的一类特殊任务， 其目标是在只有极少量训练样本的情况下， 让模型能够快速适应并泛化到训练过程中未见过的新样本上。通常， 模型需先在一个包含大量样本的训练集上进行训练， 得到一个预训练模型， 然后， 使用这个预训练模型来处理少量样本（每类数据样本量不超过20个）的新任务^［16］。

元学习方法通过观察和学习多个任务的经验， 提取通用的学习规则和策略， 使机器学习算法能够在面对新任务时快速适应和学习。在少样本故障诊断中， 元学习方法可以帮助模型从有限的样本中学习到更好的特征表示和分类器设计， 以实现准确的故障识别。

模型不可知元学习（MAML）是一种元学习算法， 通过使用随机梯度下降算法优化使模型能够快速适应新的任务。MAML包含内循环和外循环两个结构。其中， 内循环结构可以是任意的基本网络模型， 用于提取特定任务的特征； 外循环是元学习器， 它通过更新内循环模型的初始化参数， 学习跨任务之间的特征。在每个任务上， 内循环结构使用任务特定的数据进行训练， 并生成一个特定任务的模型参数， 这些模型参数被用于计算任务特定的损失函数， 并通过反向传播进行参数更新， 然后将损失函数梯度值反馈给元学习器。元学习器使用从各个任务中得到的损失函数梯度值来实时更新参数初始值， 将更新后的模型参数提供给内循环模型。通过处理大量任务后， 元学习器能够学习到一种更优的、 用于初始化的参数， 使得内循环模型能够快速适应新任务并进行有效学习。

MAML的优化问题表示为

{\theta }^{\text{'}}=argmi{n}_{\theta }\left[\sum _{T_i~P\left(\tau \right)}{L}_{T_i}\left(f_{{\theta }_i^{\text{'}}}\right)\right]=argmi{n}_{\theta }\left[\sum _{T_i~P\left(\tau \right)}{L}_{T_i}f\left(\theta -\alpha {\nabla }_{\theta }{L}_i\left(f_{\theta }\right)\right)\right]，（1）

式中： \theta -\alpha {\nabla }_{\theta }{L}_i(f_{\theta })为MAML内循环参数梯度更新过程； \alpha为内循环学习率； {\nabla }_{\theta }{L}_i(f_{\theta })为损失函数L_i(f_{\theta })对参数\theta的梯度； T_i为第i个任务； P\left(\tau \right)为任务集的分布。

在外循环中， 元参数更新过程为

\theta =\theta -\beta *{\nabla }_{\theta }\sum _{T_i~P\left(\tau \right)}{L}_{T_i}\left(f_{{\theta }_i^{\text{'}}}\right)，（2）

式中： \beta表示元学习器的学习率。

通过内外环参数\theta的不断更新， MAML算法可以学习到更好的基础模型参数{\theta }^{*}， 并通过多次微调解决少样本学习问题。

1.2 注意力机制

挤压和激励网络（SENet）代表了一种新的注意力机制下的学习方法^［17］。在SENet中， 模块通过对输入特征的全局平均池化（GAP）层获得所有通道的全局信息， 从而能够挖掘和处理关键故障信息。通过两个全连接（Fully Connected， FC）层去构建通道间的相关性并输出与输入特征相同数量的权重， 再通过Sigmoid激活函数学习每个通道的权重， 并通过一个Scale操作， 即乘法逐通道加权， 将归一化后的权重加权到每个通道的特征上^［18］， 以调整每个通道特征的大小。这个过程被认为是对每个特征通道应用不同级别的关注， 使模型进行更有效的特征选择， 从而提升模型的性能。SENet结构如图 1 所示。

2 基于MAML⁃CNN⁃SENet的故障诊断模型

柱塞泵长期工作在强背景噪声下， 导致其故障信号微弱， 若直接采用振动信号进行特征提取， 诊断效果会很差^［19］。对此， 采用ICEEMDAN方法对一维振动信号进行分解， 获得的多个IMF分量不仅在维度上具有丰富性， 而且能够在质量层面上反映柱塞泵在不同运行状态下的深层特性， 对得到的IMF分量分别计算其和原信号的皮尔逊相关系数， 当该系数的绝对值大于0.3时， 认为两个变量之间具有相关性^［20］。将筛选出的IMF分量构成多通道振动信号并作为网络模型的输入， 可以更加深入地挖掘振动信号中的故障特征， 从而提高故障诊断的准确性。

2.1 基于CNN⁃SENet的通道特征编码器

为了更好地利用IMF分量， 构建了基于一维卷积神经网络和SENet结合的多通道卷积神经网络模型。CNN是一种特殊的前馈神经网络， 能够自动地从原始数据中提取出局部空间特征， 无需手动设计特征提取器， 并且相对于其他传统前馈神经网络参数较少、 训练简单^［21］。通常， CNN架构由输入层、 隐藏层和输出层组成， 隐藏层还包括卷积层、 池化层、 全连接层。在特征提取阶段， 引入SENet模块， 在网络训练过程中， 动态地学习每个通道的权重。这些权重可以理解为通道的重要性， 即每个通道对最终输出结果的贡献程度。这种自适应地学习每个通道权重的方式， 增加了模型对不同通道重要性的区分能力， 从而提升了模型的性能。

基于CNN-SENet的特征编码器如图 2 所示， 其由4个相同的特征提取块依次组成， 每个特征提取块都包括CNN模块和SENet模块。

每个CNN模块包含卷积层、 批处理归一化（BN）层、 校正线性单元（ReLU）层和最大池化层。每个单独特征提取块的具体参数如表 1 所示。

2.2 MAML⁃CNN⁃SENet诊断模型

本文提出一种基于MAML-CNN-SENet的适用于多工况柱塞泵故障诊断的算法。首先， 采用CNN-SENet模型作为基模型来进行特征的提取。然后， 为了解决传统深度学习网络只能适用于单一工况， 改变工况时难以在新任务中取得有效结果的问题， 采用了MAML元学习框架来获取最优的初始化参数， 使基础的CNN-SENet模型能够快速适应新工况。最后， 基于新工况下收集的少量初始故障样本， 使模型适应于新的工况条件， 从而实现故障诊断。

多次训练模型并观察收敛情况， 选择模型表现最佳的参数设置， 其中， 训练阶段迭代次数为50， 内循环学习率\alpha设置为0.01， 元学习器学习率\beta设置为0. 001， adam优化器用于外循环。在50次迭代后， 选择损失函数最小的权重参数用于测试任务。

所提方法的总体架构如图 3 所示， 具体过程描述如下：

步骤 1： 将采集到的不同运行条件下的柱塞泵振动信号进行预处理， 得到多通道振动信号。

步骤 2： 将处理后的数据划分为训练集和测试集， 随机选择几个样本作为支持集和查询集， 构建多个诊断元任务。

步骤 3： 使用基于CNN-SENet的特征编码器构建基于MAML-CNN-SENet的诊断模型。

步骤 4： 对诊断模型进行训练， 并基于训练数据获得最佳模型参数， 最后将得到模型参数传递给新工况下的柱塞泵测试集进行快速适应， 得到诊断结果。

3 实验验证与分析

3.1 数据集构建

在本文方法验的证过程中， 使用实验室电液转辙机专用ZT型轴向柱塞泵故障诊断综合试验平台的监测数据， 并选取柱塞泵后端盖面测点的振动加速度信号进行分析。验证数据使用柱塞泵正转、 反转工况下的7种状态数据， 包括正常、 缸体剥落、 配流盘磨损、 柱塞壁点蚀、 三角孔堵塞、 柱塞球头磨损、 柱塞球头断裂。按照故障类型， 将采集的数据分为7种标签， 共计14组样本， 用于模型的训练和测试。图 4 为柱塞泵的6种故障状态及试验平台。

图 5 展示了柱塞泵7种状态下的振动信号时域波形。由图 5 可以看出， 故障发生时振动加速度值有所变化， 但各故障状态之间的差异不明显， 无法对柱塞泵故障模式进行精准识别。

图 6 为选取柱塞壁点蚀信号进行ICEEMDAN分解的结果， 可以看到， 得到的IMF分布在不同的频带， 分解得到的分量与原样本在振幅、 信号波动上均有了较大的差别， 这间接地增加了信号中蕴含的故障信息。

表 2 为构建的数据集， 每个数据集中每类故障选取20个样本。选取柱塞泵正转条件下的数据集（A）训练诊断模型， 并在反转条件下的数据集（B）中验证训练模型的性能。MAML网络使用的数据不再是单个信号， 而是使用分类任务作为输入数据， 以n-way和k-shot（n种故障类型和每种信号中的k个样本）为例， 从数据集A中的7类信号中随机选取n种故障类型， 从每个故障类型中选取k个信号， 生成一个n-way和k-shot 故障分类任务。重复上述操作以生成多个故障分类任务， 并形成网络的数据集。

3.2 实验验证

为了验证模型的诊断性能， 构造了3-way 1-shot、 3-way 5-shot、 3-way 10-shot、 3-way 15-shot实验组， 即每一个训练、 验证和测试的任务中都包含3种不同的故障类型， 每个任务中的支持集分别含有1个、 5个、 10个和15个故障样本， 与之对应的查询集中分别含有1个、 5个、 10个和15个故障样本。在训练、 测试过程中， 创建200个不同的故障分类任务。

图 7 以混淆矩阵的形式显示了所提模型对不同分类任务下测试集具体分类的结果， 可以看出， 即使是1-shot分类任务对所有种类故障识别精度也能达到67%以上， 而15-shot分类任务对所有故障的识别精度都能达到92%以上， 且平均精度达到96. 67%。

3.3 消融实验

为深入探究模型的性能及其各个组成部分的影响， 进行了一系列消融实验。消融实验详细信息如表 4 所示。

通过分析消融实验结果可以看出： 直接将原始数据输入到CNN+MAML网络中进行训练， 各分类任务的准确率最高仅达84. 64%； 第二组实验使用ICEEMDAN处理后的数据， 所得准确率都相应提高， 同时， 第二组实验同本文方法对比， 加入SENet模块后， 模型准确率显著提高； 第三组实验使用了CNN-SENet-MAML模型且利用原始数据进行训练， 模型准确率降低； 同时， 随着故障信号数量的增加， 各种模型的精度也得到提高， 其原因是更多的训练样本可以提供更多的信息， 使模型能够更充分地学习任务的特征， 并更好地进行泛化。消融实验表明， 本文所提方法在小样本的柱塞泵故障诊断具有较好的效果。

3. 4 对比实验

为了验证本文提出方法在故障诊断领域的性能， 将其与传统的1DCNN网络、 小样本学习算法MAML-CNN、 Reptile网络在不同样本数据集上进行了性能比较， 每类工况分别选取20， 50， 100个样本， 实验结果如表 5 所示。

由表 5 可以看出， 本文方法在不同样本数据集上都比其他方法具有较高的准确率， 且随着样本的增加而增加， 并在不同分类任务上的准确率都达到90%以上， 而其他方法在样本数最高的情况下， 分类效果仅高于本文模型在最少样本下的结果。综上所述， CNN-SENet-MAML模型更适用于小样本下的故障诊断。

4 结　论

针对实际工程中样本不足及样本特征不明显的问题， 本文提出了一种新的基于MAML-CNN-SENet的少样本故障诊断方法， 首先通过ICEEMDAN对收集到的柱塞泵数据中的特征进行增强， 然后利用基于元学习的框架对任务进行分类。实验结果表明， 该模型在柱塞泵少样本故障诊断中具有良好的性能。主要结论如下：

1） 通过应用ICEEMDAN算法从原始振动信号中提取了有效故障特征， 提供了更加丰富和直观的故障信息， 避免了噪声对诊断结果的干扰。

2） 将MAML框架与CNN-SENet相结合， 使训练的网络能够利用SENet的特征增强能力， 通过元学习的方式快速适应新任务， 从而提高了模型的准确性。

3） 通过对不同工作条件下柱塞泵的14类故障的诊断， 实验验证了所提方法的有效性， 实验结果表明所提方法在少样本条件下具有更高的诊断精度。

参考文献

[1] 高强， 向家伟， 汤何胜. 基于增强聚类分割与L-峭度的Teager能量算子解调诊断轴向柱塞泵故障［J］. 机械工程学报， 2018， 54（18）： 1-10.

[2] GAO Qiang， XIANG Jiawei， TANG Hesheng. Axial piston pump fault diagnosis with Teager energy operator demodulation using improved clustering-based segmentation and L-kurtosis［J］. Journal of Mechanical Engineering， 2018， 54（18）： 1-10. （in Chinese）

[3] 李春林， 熊建斌， 苏乃权， 等. 深度学习在故障诊断中的应用综述［J］. 机床与液压， 2020， 48（13）： 174-184.

[4] LI Chunlin， XIONG Jianbin， SU Naiquan， et al. Application review of deep learning in fault diagnosis［J］. Machine Tools and Hydraulics， 2020， 48（13）： 174-184. （in Chinese）

[5] ZHANG Tianci， CHEN Jinglong， LI Fudong， et al. Intelligent fault diagnosis of machines with small & imbalanced data： A state-of-the-art review and possible extensions， ISA Transactions［J］. 2022， 119： 152-171.

[6] FINN C， ABBEEL P， LEVINE S. Model-agnostic meta-learning for fast adaptation of deep networks［C］//International Conference on Machine Learning， PMLR， 2017： 1126-1135.

[7] HOU X， XU J， WU J， et al. Cross domain adaptation of crowd counting with model-agnostic meta-learning［J］. Applied Sciences， 2021， 11（24）： 12037.

[8] KANG J W， LIU R Q， LI L T， et al. Domain-invariant speaker vector projection by model-agnostic meta-learning［DB/OL］. （2020-05-25）［2024-01-01］.

[9] FALLAH A， MOKHTARI A， OZDAGLAR A. Provably convergent policy gradient methods for model-agnostic meta-reinforcement learning［DB/OL］.（2020-02-12）［2024-01-01］.

[10] ZHAO Z B， LI T F， WU J Y， et al. Deep learning algorithms for rotating machinery intelligent diagnosis： An open source benchmark study［J］. ISA Transactions， 2020， 107（10）： 224-255.

[11] LIN J， SHAO H， ZHOU X， et al. Generalized MAML for few-shot cross-domain fault diagnosis of bearing driven by heterogeneous signals［J］. Expert Systems with Applications， 2023， 230： 120696.

[12] LUO J， SHAO H， LIN J， et al. Meta-learning with elastic prototypical network for fault transfer diagnosis of bearings under unstable speeds［J］. Reliability Engineering & System Safety， 2024， 245： 110001.

[13] 颜丙生， 刘兆亮， 刘自然. 小样本下基于元学习的跨机械部件故障诊断［J］. 组合机床与自动化加工技术， 2022（10）： 136-140.

[14] YAN Bingsheng， LIU Zhaoliang， LIU Zirang. Research on fault diagnosis method of cross meachanical components based on meta learning under small sample［J］. Combined Machine Tools and Automated Processing Technology， 2022（10）： 136-140. （in Chinese）

[15] LIU S， HUANG J， MA J， et al. Class-incremental continual learning model for plunger pump faults based on weight space meta-representation［J］. Mechanical Systems and Signal Processing， 2023， 196： 110309.

[16] 卢欣欣， 马骏， 张英聪. 基于连续小波变换和无模型元学习的小样本汽车行星齿轮箱故障诊断［J］. 机械传动， 2022， 46（9）： 159-164.

[17] LU Xinxin， MA Jun， ZHANG Yingcong. Fault diagnosis of small sample automobile planetary gearboxes based on continuous wavelet transform and model agnostic meta learning［J］. Journal of Mechanical Transmission， 2022， 46（9）： 159-164. （in Chinese）

[18] LI C， LI S， WANG H， et al. Attention-based deep meta-transfer learning for few-shot fine-grained fault diagnosis［J］. Knowledge-Based Systems， 2023， 264： 110345.

[19] 杨青， 董岩松， 吴东升， 等. 基于MTLSAM模型的小样本变工况轴承故障诊断［J］. 组合机床与自动化加工技术， 2023 （2）： 78-81.

[20] YANG Qing， DONG Yansong， WU Dongsheng， et al. Bearing fault diagnosis under variable working conditions based on MTLSAM model under small sample conditions［J］. Combined Machine Tools and Automated Processing Technology， 2023（2）： 78-81. （in Chinese）

[21] 祝钧桃， 姚光乐， 张葛祥， 等. 深度神经网络的小样本学习综述［J］. 计算机工程与应用， 2021， 57（7）： 22-33.

[22] ZHU Juntao， YAO Guangle， ZHANG Gexiang， et al. Survey of few shot learning of deep neural network［J］. Computer Engineering and Applications， 2021， 57（7）： 22-33. （in Chinese）

[23] HU J， SHEN L， SUN G. Squeeze-and-excitation networks［C］//Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition， 2018： 7132-7141.

[24] ZHAO M， ZHONG S， FU X， et al. Deep residual shrinkage networks for fault diagnosis［J］. IEEE Transactions on Industrial Informatics， 2019， 16（7）： 4681-4690.

[25] 刘生政， 张琳， 曾祥辉， 等. 基于MED-EEMD和ELM的轴向柱塞泵松靴故障诊断研究［J］. 机电工程， 2020， 37（3）： 241-246.

[26] LIU Shengzheng， ZHANG Lin， ZENG Xianghui， et al. Loose sliper fault diagbosis of axial piston pump based on MED-EEMD and ELM.［J］. Journal of Mechanical & Electrical Engineering， 2020， 37（3）： 241-246. （in Chinese）

[27] 马宏伟， 张大伟， 曹现刚， 等. 基于EMD的振动信号去噪方法研究［J］. 振动与冲击， 2016， 35（22）： 38-40.

[28] MA Hongwei， ZHANG Dawei， CAO Xiangang， et al. Research on vibration signal denoising method based on EMD［J］. Journal of Vibration and Shock， 2016， 35（22）： 38-40. （in Chinese）

[29] 窦慧， 张凌茗， 韩峰， 等. 卷积神经网络的可解释性研究综述［J］. 软件学报， 2024， 35（1）： 159-184.

[30] DOU Hui， ZHANG Lingming， HAN Feng， et al. Survey on convolutional neural network interpretability［J］. Journal of Software， 2024，35（1）：159-184. （in Chinese）

基金资助

山西省回国留学人员科研教研资助项目(2022-141)

山西省基础研究计划资助项目(202203021211096)

山西省创新项目(2023KY600)