电机故障诊断正则增强图卷积方法研究

Study on Regularized Enhanced Graph Convolution Method for Motor Fault Diagnosis

摘要

振动信号是评估电机运行状态的重要指标， 常被用来分析和判断电机可能存在的潜在故障。当前， 基于深度学习的模型易于预测稳定状态而难于准确预测故障状态。针对上述问题， 对电机故障诊断任务进行了研究， 创新性地提出了一种基于正则增强图卷积的电机故障诊断模型， 在对电机状态进行关联编码的同时， 引入正则增强结构以改善模型对多种故障类型的预测能力。实验结果表明， 与传统深度学习方法相比， 该方法在电机故障诊断数据集上诊断性能最优， 验证了模型的有效性。图卷积神经网络可以在信号序列中挖掘长跨度信号间的内在关联， 结合正则增强结构， 在多种工业时序任务中具有广阔的应用前景。

Abstract

Vibration signals are important indicators for evaluating the current motor state and are often used to analyze and judge the potential faults of motors. However， due to the sparse distribution of fault signals， the current deep learning-based methods are more likely to predict stable states accurately rather than fault states. To address the above problem， a novel fault diagnosis model for motors based on regularized enhanced graph convolutional neural networks was proposed by researching the motor fault diagnosis task. With the assistance of the encoded motor state correlations and the introduced regularized enhanced structure， the model can improve its prediction ability for various fault types. The experimental results show that compared with traditional deep learning methods， the proposed method has good accuracy improvement on the motor fault diagnosis dataset， verifying the effectiveness of the proposed model. Graph convolutional neural networks can mine the intrinsic correlations between long-range signals in signal sequences. By combining with the regularized structure， they have broad application prospects in various industrial time-series tasks.

Graphical abstract

关键词

电机信号 / 故障诊断 / 图卷积网络 / 正则增强 / 诊断模型

Key words

motor signal / fault diagnosis / graph convolutional network / regularized enhancement / diagnostic model

0 引　言

电机故障诊断技术是实现工业稳定生产的重要技术之一^［1］。故障诊断技术发展至今， 主要的解决方案有两种： 基于人工特征选择的方法和基于自动构建特征的深度学习方法。对于基于人工特征选择的方法， 通常需要人工从电机存储的运行记录中提取有效的信号特征， 再利用一些传统的浅层机器学习方法进行训练和预测。尽管上述传统方法已经取得了较好的效果， 但是特征构建过程中的时间和人力成本较高^［2］。近年来， 随着深度学习技术的不断发展， 大量神经网络模块已经被应用到电机故障诊断任务建模中， 如卷积神经网络（Convolutional Neural Network， CNN）^［3］、 图卷积神经网络（Graph Neural Network， GCN）^［4］和递归神经网络（Recurrent Neural Network， RNN）^［5］等。这些模块可以根据其本身特性， 为电机故障诊断算法的研究提供一些新的思路^［6-7］。就其应用而言， 虽然当前基于深度学习的方法取得了较好效果， 但其忽略了远距离不同信号间的潜在关联。此外， 由于电机故障信号较少且分布较为稀疏和不平衡， 模型很难实现对多种故障类型的精确预测。针对上述问题， 本文提出了一种新的正则增强图卷积故障检测模型， 通过建立信号关联图和进行信号聚合实现细粒度编码， 引入正则增强策略提高模型预测的准确性。实验结果显示， 该检测模型能实现故障类型的高精度预测， 对电机故障预警具有较好的实用意义。

1 模型的基本结构

针对电机信号远距离关联问题和样本不平衡条件下多类型高精度预测问题， 本文提出了一种基于正则增强图卷积故障检测方法（Relational Graph Convolution Network with Regularized Dropout， RGCN-R-drop）。该模型的基本结构如图 1 所示， 主要包括5个模块： 1） 相似度计算模块， 用于建立历史节点间的序列图和邻接矩阵； 2） 编码器层， 用于对输入的电机信号基于堆叠Transformer架构进行深度编码并生成堆叠的注意力权重图； 3） 基于关系图卷积神经网络（Relational Graph Convolution Network， RGCN）^［8］层， 对获得的信号编码在由注意力权重图和序列图融合的多通道图基础上， 进行历史节点特征的聚合操作； 4） 分类器层， 用于根据聚合的特征对故障类型进行分类； 5） R-drop（Regularized Dropout）模块^［9］， 对编码后的特征向量的特征值进行随机丢弃， 获得相似但不同的增强样本特征。此外， 在优化过程中， 模型会针对原始分类器中的概率输出和R-drop随机丢弃增强后的分类器输出， 分别构建基于交叉熵损失和KL散度（Kullback-Leibler divergence）损失的联合损失， 在数据增强的基础上， 实现感应电机故障类型的精确估计。各模块结构以及损失函数构建的详细介绍如下。

1.1 相似度计算模块

电机信号本质上是一系列离散的特征信号。为了在模型输入中提供基础的映射信号， 模型首先采用差分处理的方法对某个时段进行信号采样。经过差分处理后， 在t时刻构建的输入信号是一个由前后时刻共同构成的特征向量{\mathit{S}}_t=[s_t-s_{t-\mathrm{1}},s_t,s_{t+\mathrm{1}}-s_t]\in {\mathbb{R}}^{\mathrm{3}}， 其中， \mathrm{1}\le t\le T-\mathrm{1}； T为输入模型的一段信号的时序长度； s_t-s_{t-\mathrm{1}}为当前时刻t与前一个时刻的差分。在此基础上， 可以通过计算不同时刻的相似度， 建立起不同时刻之间的潜在关联， 从而构建由相似度组成的邻接矩阵{\mathit{A}}_{\mathrm{s}\mathrm{i}\mathrm{m}}\in {\mathbb{R}}^{T\times T}。基于上述构建的输入向量和邻接矩阵， 后续可以继续进行输入特征的编码和特征的图聚合操作。

1.2 编码器层

对于T时间内的特征张量{\mathit{S}}_T\in {\mathbb{R}}^{T\times \mathrm{3}}， 首先， 应用堆叠的Transformer^［10］模块对特征张量进行基于上下文的深度语义编码， 从而获得更具表征能力的特征信号表示和由注意力权重组成的权重矩阵， 如式（1）所示。

{\mathit{x}}_T,{\mathit{A}}_{\mathrm{a}\mathrm{t}\mathrm{t}}=Transforme{r}_M\left(S_T\right),（1）

式中： {\mathit{x}}_T\in {\mathbb{R}}^{T\times d}和{\mathit{A}}_{\mathrm{a}\mathrm{t}\mathrm{t}}\in {\mathbb{R}}^{M\times d_t\times T\times T}分别为堆叠了M层Transformer模块的输出和对应的全连接注意力张量； d为数据维度； d_t为在Transformer中定义的多头注意力头数。为了建立多通道的注意力邻接矩阵， 首先， 对{\mathit{A}}_{\mathrm{a}\mathrm{t}\mathrm{t}}在多头维度应用最大池化实现对注意力张量进行降维， 从而获得多层注意力邻接矩阵， 其计算过程如式（2）所示。

{\overline{\mathit{A}}}_{\mathrm{a}\mathrm{t}\mathrm{t}}=maxpoolin{g}_{\mathrm{a}\mathrm{x}\mathrm{i}\mathrm{s}=\mathrm{1}}\left({\mathit{A}}_{\mathrm{a}\mathrm{t}\mathrm{t}}\right)\in {\mathbb{R}}^{M\times T\times T},（2）

式中： maxpoolin{g}_{\mathrm{a}\mathrm{x}\mathrm{i}\mathrm{s}=\mathrm{1}}\left(\cdot \right)为在张量{\mathit{A}}_{\mathrm{a}\mathrm{t}\mathrm{t}}的1轴上执行最大池化操作。针对获得的{\overline{\mathit{A}}}_{\mathrm{a}\mathrm{t}\mathrm{t}}和{\mathit{A}}_{\mathrm{s}\mathrm{i}\mathrm{m}}， 将相似度邻接矩阵{\mathit{A}}_{\mathrm{s}\mathrm{i}\mathrm{m}}\in {\mathbb{R}}^{T\times T}进行升维得到{\mathit{A}}_{\mathrm{s}\mathrm{i}\mathrm{m}}\in {\mathbb{R}}^{\mathrm{1}\times T\times T}， 并与{\overline{\mathit{A}}}_{\mathrm{a}\mathrm{t}\mathrm{t}}进行通道拼接可得多通道邻接矩阵{\mathit{A}}_{\mathrm{f}\mathrm{u}\mathrm{s}\mathrm{i}\mathrm{o}\mathrm{n}}\in {\mathbb{R}}^{\left(M+\mathrm{1}\right)\times T\times T}， 其融合过程如式（3）所示。

{\mathit{A}}_{\mathrm{f}\mathrm{u}\mathrm{s}\mathrm{i}\mathrm{o}\mathrm{n}}=conca{t}_{\mathrm{a}\mathrm{x}\mathrm{i}\mathrm{s}=\mathrm{0}}\left(\left[{\overline{\mathit{A}}}_{\mathrm{a}\mathrm{t}\mathrm{t}},{\overline{\mathit{A}}}_{\mathrm{s}\mathrm{i}\mathrm{m}}\right]\right),（3）

式中： conca{t}_{\mathrm{a}\mathrm{x}\mathrm{i}\mathrm{s}=\mathrm{0}}\left(\cdot \right)为在0轴上进行张量融合的拼接算子。综上所述， 根据编码的特征向量{\mathit{x}}_T和融合的多通道邻接矩阵{\mathit{A}}_{\mathrm{f}\mathrm{u}\mathrm{s}\mathrm{i}\mathrm{o}\mathrm{n}}， 在下一个模块中， 引入RGCN网络引导编码特征在多通道邻接矩阵上进行聚合操作， 实现更远距离特征信号的语义编码。

1.3 关系图卷积RGCN层

将获得的T时间内的序列特征视为图上的T个节点向量， 根据获得的多通道融合的邻接矩阵， 在第l层RGCN中的聚合过程如式（4）所示。

{\mathit{x}}_T^{(g,l)}={\displaystyle \sum _{j=\mathrm{1}}^{M+\mathrm{1}}}\sigma \left({\tilde{\mathit{D}}}_j^{\frac{\mathrm{1}}{\mathrm{2}}}{\tilde{\mathit{A}}}_j{\tilde{\mathit{D}}}_j^{\frac{\mathrm{1}}{\mathrm{2}}}{\overline{x}}_T^{(g,l-\mathrm{1})}{\mathit{W}}_{g,j}^{(l)}\right),（4）

式中： {\tilde{\mathit{A}}}_j={\mathit{A}}_{\mathrm{f}\mathrm{u}\mathrm{s}\mathrm{i}\mathrm{o}\mathrm{n},j}+\mathit{I}， {\mathit{A}}_{\mathrm{f}\mathrm{u}\mathrm{s}\mathrm{i}\mathrm{o}\mathrm{n},j}\in {\mathbb{R}}^{T\times T}， {\tilde{\mathit{D}}}_j为{\tilde{\mathit{A}}}_j的度矩阵； j为节点类型； g为关系类型； {\mathit{W}}_{g,j}^{(l)}\in {\mathbb{R}}^{d\times d}为映射向量； \sigma (\cdot )为sigmoid激活函数。最终， 通过L层RGCN后， 模型得到聚合后的T时间内的编码特征信号可以表示为{\mathit{x}}_T^{(g,L)}\in {\mathbb{R}}^{T\times d}。

1.4 分类器层

根据获得的T时间内的编码特征信号{\mathit{x}}_T^{(g,L)}\in {\mathbb{R}}^{T\times d}， 模型首先引入一个长短期记忆网络（Long Short-Term Memory， LSTM）进行上下文学习， 获得当前序列的总体表示， 其计算过程如式（5）所示。

{\mathit{x}}_f=LSTM\left({\mathit{x}}_{t-\mathrm{1}}^{(g,L)},{\mathit{x}}_t^{(g,L)}\right)\mathrm{。}（5）

最终， 将学习的时间序列T内的隐藏状态{\mathit{x}}_f输入到一个非线性层中进行分类， 分类公式如式（6）所示。

\widehat{y}=softmax\left({\mathit{W}}_f\cdot {\mathit{x}}_f+b_f\right)\in {\mathbb{R}}^{\mathrm{8}}\mathrm{。}（6）

式中： {\mathit{W}}_f为权重矩阵； b_f为偏置。

1.5 正则损失增强模块

为了增强模型的鲁棒性和训练精度， 参考文献［9］， 对式（1）中得到的{\mathit{x}}_T\in {\mathrm{R}}^{T\times d}进行dropout操作， 随机丢弃{\mathit{x}}_T中的某些特征值， 从而构建相似但不相同的编码向量{\tilde{\mathit{x}}}_T。随后， 数据经过和{\mathit{x}}_T共享的RGCN层和分类器层， 模型可以得到一个故障预测的分类概率\tilde{y}， 从而实现在数据增强的基础上获得多样化的故障预测。由于{\tilde{\mathit{x}}}_T来源于{\mathit{x}}_T， 所以在优化过程中\widehat{y}和\tilde{y}的概率分布应尽可能相同。因此， 在计算交叉熵损失的基础上， 还需引入KL散度损失， 利用\tilde{y}对输出的\widehat{y}进行分布约束。综上所述， 基于正则损失增强模块得到的损失函数如式（7）所示。

L_{\mathrm{t}\mathrm{o}\mathrm{t}\mathrm{a}\mathrm{l}}=L_{\mathrm{c}\mathrm{r}\mathrm{o}\mathrm{s}\mathrm{s}\mathrm{⁃}\mathrm{e}\mathrm{n}\mathrm{t}\mathrm{r}\mathrm{o}\mathrm{p}\mathrm{y}}\left(y,\widehat{y}\right)+L_{\mathrm{c}\mathrm{r}\mathrm{o}\mathrm{s}\mathrm{s}\mathrm{⁃}\mathrm{e}\mathrm{n}\mathrm{t}\mathrm{r}\mathrm{o}\mathrm{p}\mathrm{y}}\left(y,\tilde{y}\right)+L_{KL}\left(\widehat{y},\tilde{y}\right),（7）

式中： L_{\mathrm{c}\mathrm{r}\mathrm{o}\mathrm{s}\mathrm{s}\mathrm{⁃}\mathrm{e}\mathrm{n}\mathrm{t}\mathrm{r}\mathrm{o}\mathrm{p}\mathrm{y}}\left(\cdot \right)和L_{KL}\left(\cdot \right)分别为交叉熵损失和KL散度损失。

2 实验及讨论

在实验验证过程中， 本文使用了一份开源的感应电机故障诊断数据集^［11］。该数据集包含了正常工况在内的8种感应电机运转类型， 包括： 正常、 静偏心、 转子断条、 转子支撑轴承内圈损伤、 动偏心、 转子支撑轴滚珠损伤、 混合偏心和转子支撑轴承外圈损伤。此外， 在训练过程中， 模型通过网格搜素， 获得的最优实验超参数如表 1 所示。

与当前主流的神经网络方法LSTM、 CNN、 GCN和单头注意力机制（Attention））的组合模型的实验结果比较如表 2 所示。

由表 2 可得， 基于简单LSTM方法的模型几乎无法从构造的差分特征中学到有效信息， 这是因为输入的差分信号属于低维特征， LSTM很难直接从抽象的时序信号中学到有效特征。在模型中加入CNN后， 结合注意力机制的权重计算， 模型学会自适应地关注输入批数据中的部分关键信息， 从而利用注意力机制实现性能的显著提升。然而， 上述方法无法获取不同时间点时序特征间的关联性信息， 因此， 虽然在引入了GCN网络之后， 模型进一步实现了识别精度的提升， 但只依赖单独的相似性邻接矩阵实现聚合操作， 并不能得到更高精度的特征编码。而且， 在堆叠的Transformer模块应用过程中， 复杂网络训练面临的过拟合问题也给模型性能的提升带来困难。为此， 模型引入了融合的相似度邻接矩阵和注意力邻接矩阵， 并在此基础上引导特征向量在RGCN层上进行节点聚合， 在实现更高精度特征编码的基础上有效抑制了过拟合问题， 从而实现更好的预测精度。

此外， 如表2所示， RGCN-R-drop引入了基于正则化损失的R-drop机制。该方法通过对编码张量施加随机丢弃操作， 生成多个相似但不完全相同的特征张量， 并将其与原始编码一同输入相同的RGCN层与分类器， 促使模型输出相似的概率分布。在引入KL散度进行约束的情况下， 模型可以实现多种故障类型预测上的较强鲁棒性， 从而实现更好的故障类型预测精度。

此外， 本文还分别验证了堆叠Transformer层数和RGCN层数对模型性能的影响。通过2次实验分别设置不同的Transformer或RGCN层数， 评估其对模型精度的影响， 实验结果如图 2 所示。

由图 2 可得， 本文模型的性能并未随着Transformer和RGCN层数的增加而递增， 而是会在堆叠Transformer和RGCN的过程中， 由于过拟合和过平滑问题的影响， 模型性能呈现出先增加后减小的态势。因此， 在实验设置过程中， Transformer和RGCN的层数不宜过大， 否则会给模型带来性能恶化的风险。在当前模型架构中，RGCN层通过引入注意力机制对堆叠的Transformer层输出进行特征聚合与重构， 在一定程度上减少了深层模型中可能出现的过拟合问题。但是， 随着Transformer层数增加， 过拟合变得愈发严重， RGCN抑制过拟合的能力下降， 加之自身存在的过平滑问题反而使RGCN-R-drop方法出现性能恶化的问题。

3 结　论

本文对电机故障预测任务进行研究， 提出了一种新的正则增强图卷积电机故障检测模型。在对数据进行差分处理之后， 使用堆叠的Transformer模块对低维特征进行编码， 从而获得高维的信号特征。通过融合相似度邻接矩阵和注意力权重矩阵， 模型引入关系图卷积网络进行基于多通道邻接矩阵的节点聚合操作， 最终获得更好的时序特征编码以改善电机故障分类性能。今后的研究工作将基于上述思路， 重点探索图卷积网络中的过平滑问题， 旨在缓解随着网络层数增加而导致的退化现象， 从而提升深层图卷积网络的预测性能。

参考文献

[1] 王一凡， 阿克选， 刘凯伟， 等. 基于深度学习的转辙机故障诊断方法研究［J］. 测试技术学报， 2023， 37（2）： 106-111.

[2] WANG Yifan， Kexuan A， LIU Kaiwei， et al. Research on fault diagnosis method of switch machine based on deep learning［J］. Journal of Test and Measurement Technology， 2023， 37（2）： 106-111. （in Chinese）

[3] 陈剑， 徐庭亮， 黄志， 等. 基于声信号的滚动轴承故障诊断研究［J］. 振动与冲击， 2023， 42（21）： 237-244.

[4] CHEN Jian， XU Tingliang， HUANG Zhi， et al. Fault diagnosis of rolling bearings based on acoustic signals［J］. Journal of Vibration and Shock， 2023， 42（21）： 237-244. （in Chinese）

[5] 杨恒， 沈艳霞， 谭永强， 等. 基于MPCC的PMSM电流传感器故障诊断与容错控制［J］. 微特电机， 2024， 52（4）： 60-64.

[6] YANG Heng， SHEN Yanxia， TAN Yongqiang， et al. Fault diagnosis and fault-tolerant control of current sensors in PMSM based on MPCC［J］. Small & Special Electrical Machines， 2024， 52（4）： 60-64. （in Chinese）

[7] THANAPALASINGAM T， BERKEL L V， BLOEM P， et al. Relational graph convolutional networks： a closer look［J/OL］. Computer Science： Machine Learning， 2021. arXiv： 2107.10015.

[8] 孙浩， 孔令崧. 基于故障特征分析的笼型电机转子断条故障诊断方法综述［J］. 微特电机， 2023， 51（7）： 57-66.

[9] SUN Hao， KONG Lingsong. Review of fault diagnosis methods for cage motor rotor broken bars based on fault characteristic analysis［J］. Small & Special Electrical Machines， 2023， 51（7）： 57-66. （in Chinese）

[10] 毛经坤， 秦颖， 李德衡. 基于2DCNN-VAE-Transformer的异步交流电机故障诊断方法［J/OL］. 天津理工大学学报， 2024： 1-9.

[11] MAO Jingkun， QIN Ying， LI Deheng. Asynchronous alternating current motor fault diagnosis method based on 2DCNN-VAE-Transformer［J/OL］. Journal of Tianjin University of Technology， 2024： 1-9. in Chinese）

[12] HUSARI F， SESHADRINATH J. Sensitive inter-tum fault identifcation in induction motors using deep learning based methods［C］//2020 IEEE International Conference on Power Electronics， Smart Grid and Renewable Energy （PESGRE2020）， 2020： 1-6.

[13] ZHANG L， DENG J. A relational graph convolution network-based smart risk recognition model for financial transactions［J］. Journal of Circuits， Systems and Computers， 2024， 33（16）： 2450293.

[14] LIU C， SILAMU W， LI Y. A Chinese–Kazakh translation method that combines data augmentation and R-drop regularization［J］. Applied Sciences， 2023， 13（19）： 10589.

[15] 张滈辰， 屈红军， 牛雪莹， 等. 融合注意力机制的电力集控安全隐患实体识别模型研究［J］. 自动化仪表， 2023， 44（10）： 55-59.

[16] ZHANG Haochen， QU Hongjun， NIU Xueying， et al. Research on entity identification model of electric power centralized control security hidden danger by integrating attention mechanism［J］. Process Automation Instrumentation， 2023， 44（10）： 55-59. （in Chinese）

[17] 王跃龙. 笼型异步电动机多故障智能诊断及分离方法的研究［D］. 太原： 太原理工大学， 2017.

[18] WANG M， YU J， LENG H， et al. Bearing fault detection by using graph autoencoder and ensemble learning［J］. Scientific Reports， 2024， 14（1）： 5206.

基金资助

陕西国防学院科研计划资助项目(Gfy25⁃02)

陕西省教育厅科技处资助项目(21JK0508)