多尺度小波核驱动的混合注意力网络冷却水系统性能参数预测

Multi-Scale Wavelet Kernel Driven Hybrid Attention Network for Cooling Water System Performance Parameter Prediction

摘要

为了提升GRU （Gated Recurrent Unit）模型对时间序列的特征提取与预测能力，提出一种多尺度小波核驱动的混合注意力网络（mWKN-HAGRU）时序预测方法。该模型通过调整小波核函数的尺度参数，从多个粒度提取时间序列中隐藏的状态信息，为后续的预测模型提供丰富的特征输入；设计了一种混合注意力门控循环单元（HAGRU），其中，时间局部注意力可以定量刻画不同特征对预测性能的影响并学习序列间的长期依赖关系，空间全局注意力能够有效捕捉特征间的信息交互，有助于全面表征不同序列之间的空间相关性和演变规律。真实船舶柴油机数据集中的实验结果表明，所提方法显著提升了冷却水系统关键性能参数的预测性能。

Abstract

To improve the feature extraction and prediction ability of gate recurrent unit (GRU) for time series, we propose a performance parameter prediction method based on a multi-scale wavelet kernel network and a hybrid attention-gated recurrent network (mWKN-HAGRU). First, the scaling parameters of the wavelet kernel function ware adjusted to extract hidden state information from multiple dimensions, providing rich feature inputs for subsequent predictive models. Then, a hybrid attention gate recurrent unit (HAGRU) is designed, where temporal local attention can learn the long-term dependence between sequences and quantitatively characterize the influence of different features on the prediction performance.This can effectively capture the information interactions between features and comprehensively characterize the spatial correlation and evolution laws between different sequences. Finally, experimental results on a real marine diesel engine dataset showed that the proposed method significantly improved the predictive performance of the key performance parameters of the cooling water system.

Graphical abstract

关键词

多尺度小波核 / 混合注意力 / 门控循环单元 / 时序预测

Key words

multi-scale wavalet kernel / hybrid attention / gated recurrent unit / time series prediction

0　 引 言

柴油机作为现代大型船舶的主要动力装置，已广泛应用于航运领域。作为船舶柴油机中最重要的辅助系统之一，冷却水系统能够带走柴油机运行过程中的大量热量。因此，准确预测冷却水系统关键性能参数的变化趋势，对于提前感知系统的运行状态并避免故障发生具有重要意义^[1]。

文献[2]使用一维卷积神经网络（Convolutional Neural Networks，CNN）对传感器采集的船舶数据进行预测和分析,保证船舶设备的正常运行。文献[3]设计了一种用于船舶柴油机冷却水系统健康状态监测的随机卷积神经网络（Random Convolutional Neural Network，RCNN），该方法通过多个独立的卷积和池化运算自动提取振动信号的判别特征。文献[4]在不需要专家经验的前提下，设计一种深度卷积神经网络（Deep Convolutional Neural Networks，DCNN）并在航空推进系统中得到有效验证。文献[5]在端到端架构中将通道注意机制与CNN模型相结合,并利用Transformer框架对系统的剩余寿命进行预测。文献[6]设计一种新的CNN模型对不平衡的船舶辅助设备振动数据进行可靠性分析。然而，上述方法大多只使用单一卷积核提取信号特征，不能从多个粒度挖掘性能参数中隐藏的特征信息，不可避免会造成重要信息的丢失，不利于预测精度的提升。

长短期记忆网络（Long Short Term Memory，LSTM）被广泛用于处理具有时间依赖性的序列数据，Liu等^[7]将LSTM模型用于预测船舶柴油机冷却水系统的排气温度。Han等^[8]结合LSTM和前馈神经网络（Feedforward Neural Network,FNN）的特征提取^[9],准确预测了不同故障类型的剩余使用寿命。文献[10]选取多个敏感监测参数作为输入数据，并提出一种改进的堆叠门控循环单元循环神经网络（Gate Recurrent Unit Recurrent Neural Network，GRU-RNN）的新方法。尽管上述方法能够在一定程度上提升预测的精度，但无法全面刻画时序间在长时间尺度上的依赖关系以及空间尺度上的演变规律，难以满足对序列进行中长期准确预测的实际需求。

为此，本文提出一种多尺度小波核驱动的混合注意力网络（Multi-scale Wavelet Kernel Hybrid Attention Network,mWKN-HAGRU），有效提升冷却水系统关键性能参数预测效果。本文主要的贡献如下：

1) 新设计的多尺度连续小波卷积网络，可以更好地捕捉不同粒度的特征，最大程度获取更加细致和全面的特征表示，为后续的预测模型提供丰富的参数特征信息。

2) 本文设计的混合注意力机制，能够同时从时间和空间层面深入捕捉时间序列的演变规律，提高预测精度。具体地，所提的时间局部注意力模块可以定量刻画序列间的长期依赖关系，空间全局注意力模块能够有效捕捉所有通道特征间的信息交互，有助于全面表征序列间的空间相关性。

3) 本文提出的端到端mWKN-HAGRU框架，不但取得更好的预测性能而且具有较快的收敛速度。为其他具有类似特性的性能参数预测，提供了新的思路和方法借鉴。

1　 基础知识

1.1　CNN和连续小波卷积层（CWConv）模型

CNN有输入层、卷积层、池化层、激活层和全连接层。在卷积层中，对输入进行如下的卷积操作：

x_j^l=f\left(\sum _{i\in M_j}{x}_i^{l-\mathrm{1}}\mathrm{*}{k}_{ij}^l+b_j^l\right)（1）

其中，x_j^l表示被激活的特征映射，x_i^{l-\mathrm{1}}表示非线性激活前第l-\mathrm{1}层第i个特征映射的特征值，M_j表示特征的集合，k_{ij}^l表示卷积核的权值，b_j^l表示偏置值，f表示非线性神经元激活函数，*表示卷积操作。

将卷积后的局部特征通过池化策略进行映射，具体操作如下：

x_j^{l+\mathrm{1}}=f\left({\beta }_j^{l+\mathrm{1}}\mathrm{d}\mathrm{o}\mathrm{w}\mathrm{n}(x_j^l)+b_j^{l+\mathrm{1}}\right)（2）

其中，\mathrm{d}\mathrm{o}\mathrm{w}\mathrm{n}(\cdot )为池化函数，{\beta }_j^{l+\mathrm{1}}表示网络乘性偏置。

连续小波变换（CWT）是一种基于内积的信号处理方法，一般可利用小波基函数将时域信号变换为时频域信号。定义{\psi }_{u,s}(t)=\frac{\mathrm{1}}{\sqrt[]{s}}\psi \left(\frac{t-u}{s}\right)为小波基函数，则信号g=x(t)的CWT可记为：

\mathrm{C}\mathrm{W}{\mathrm{T}}_f(u,s)=〈g,{\psi }_{u,s}(t)〉=\frac{\mathrm{1}}{\sqrt[]{s}}\int x(t){\psi }^{\mathrm{*}}\left(\frac{t-u}{s}\right)\mathrm{d}t（3）

其中，{\psi }^{\mathrm{*}}(\cdot )表示母小波\psi (\cdot )的复共轭，t表示时间，s为与频率成反比的尺度参数，u为平移参数，缩放参数可以使信号膨胀或压缩。标准CNN的卷积运算无法准确提取信号中具有物理意义的故障影响分量，因此选择连续小波卷积层（CWConv）作为标准CNN的第一层卷积层^[11]：

h={\psi }_{u,s}(t)\mathrm{*}x（4）

1.2　GRU模型

经典GRU模型的结构仅由重置门{\mathit{r}}_t和更新门{\mathit{z}}_t组成，对于时间序列{\mathit{x}}_t，GRU的计算过程为

{\mathit{z}}_t=\sigma \left({\mathit{V}}_{xz}{\mathit{x}}_t+{\mathit{U}}_{hz}{\mathit{h}}_{t-\mathrm{1}}+{\mathit{b}}_z\right);

{\mathit{r}}_t=\sigma \left({\mathit{V}}_{xr}{\mathit{x}}_t+{\mathit{U}}_{hr}{\mathit{h}}_{t-\mathrm{1}}+{\mathit{b}}_r\right)

{\mathit{c}}_t=\phi \left({\mathit{V}}_{xc}{\mathit{x}}_t+{\mathit{U}}_{hc}\left({\mathit{r}}_t\odot {\mathit{h}}_{t-\mathrm{1}}\right)+{\mathit{b}}_c\right);

{\mathit{h}}_t=\left(\mathrm{1}-{\mathit{z}}_t\right)\odot {\mathit{h}}_{t-\mathrm{1}}+{\mathit{z}}_t\odot {\mathit{c}}_t（5）

其中，{\mathit{V}}_{xz}、{\mathit{V}}_{xr}、{\mathit{V}}_{xc}分别表示连接输入层和更新门、输入层和重置门以及输入层和候选层的权重矩阵；{\mathit{U}}_{hz}、{\mathit{U}}_{hr}、{\mathit{U}}_{hc}分别为它们当前时间t与前一时间t-\mathrm{1}的自连接权值；{\mathit{b}}_z，{\mathit{b}}_r，{\mathit{b}}_c分别为GRU单元更新门、重置门和候选层的偏置。

1.3　注意力机制

注意力函数可以描述为一个三元组( Q， K， V )，其中， Q 表示要查询的元素， K 是源序列中每个元素的位置代码，而 V 是源序列中每个元素的数值，整个计算过程表示为：

\mathrm{A}\mathrm{t}\mathrm{t}\mathrm{e}\mathrm{n}\mathrm{t}\mathrm{i}\mathrm{o}\mathrm{n}(x)=\mathrm{S}\mathrm{D}\mathrm{P}\left({\mathit{Q}}^x,{\mathit{K}}^x,{\mathit{V}}^x\right)=\mathrm{s}\mathrm{o}\mathrm{f}\mathrm{t}\mathrm{m}\mathrm{a}\mathrm{x}\left(\frac{\mathit{X}{\mathit{W}}^Q{\left(\mathit{X}{\mathit{W}}^K\right)}^{\mathrm{T}}}{\sqrt[]{d_k}}\right)\mathit{X}{\mathit{W}}^V（6）

式中，Attention(·)表示注意力机制的过程，SDP(·)为标度点积；\mathit{X}\in {\mathbb{R}}_{d_n\times d_e}为输入特征，d_n为输入元素个数，d_e为每个元素的嵌入表示维数；{\mathit{W}}^Q\in {\mathbb{R}}_{d_e\times d_k}，{\mathit{W}}^K\in {\mathbb{R}}_{d_e\times d_k}，{\mathit{W}}^V\in {\mathbb{R}}_{d_e\times d_v}为三元组的线性变换矩阵，d_k为{\mathit{Q}}^x和{\mathit{K}}^x的维数，d_v为{\mathit{V}}^x的维数。

2　 基于mWKN-HAGRU参数中长期预测模型

本文所提的mWKN-HAGRU的整体框架如图1所示。主要的模块介绍如下。

2.1　基于mWKN的多尺度特征提取

鉴于Laplace小波在不同尺度上具有较好平滑性，本文采用Laplace小波作为基函数，通过调整小波基函数的尺度参数，实现对信号在不同尺度下的频域特征提取。基于mWKN的特征提取过程如图2所示。Laplace小波基函数可表示为：

\psi (t)=A{\mathrm{e}}^{\frac{-\xi }{\sqrt[]{\mathrm{1}-{\xi }^{\mathrm{2}}}}\cdot \mathrm{2}\mathrm{\pi }f\left(t-\tau \right)}\times \mathrm{s}\mathrm{i}\mathrm{n}\left[\omega \left(t-\tau \right)\right]（7）

其中，A为振幅，\xi为阻尼系数，\tau表示信号在时间轴上的延迟，\omega决定了正弦波的振荡频率。根据小波基函数可得Laplacce小波字典为：

{\psi }_{u,s}(t)=\frac{A{\mathrm{e}}^{\frac{-\xi }{\sqrt[]{\mathrm{1}-{\xi }^{\mathrm{2}}}\cdot \mathrm{2}\mathrm{\pi }f\left(\frac{t-u}{s}-\tau \right)}}}{\sqrt[]{s}}\times \mathrm{s}\mathrm{i}\mathrm{n}\left[\omega \left(\frac{t-u}{s}-\tau \right)\right]（8）

通过选择不同尺度参数的Laplace小波基函数将信号转换到多个尺度空间中，根据(4)和(7)式，多尺度连续小波卷积(mCWConv)层可以定义为：

y_{s_i}(t)=x(t)\mathrm{*}{\psi }_{s_i}(t)（9）

其中，s_i 是i个尺度参数，y_{s_i}(t)是经过不同尺度Laplace小波核卷积后得到的特征。

然后将经过mCWConv得到的信号特征在多通道维度上拼接融合，如（10）式：

\mathit{Z}=\left[y_{s_{\mathrm{1}}},y_{s_{\mathrm{2}}},y_{s_{\mathrm{3}}}\right]（10）

其中 Z 表示多尺度融合特征。

为了缓解梯度消失或爆炸问题的影响，将特征向量 Z 输入到ResNet结构中进行特征再提取，以提高模型的泛化性能，并加速模型收敛过程：

y=\mathrm{ℱ}\left(\mathit{Z},\left\{{\mathit{W}}_i\right\}\right)+{\mathit{W}}_s\mathit{x}（11）

其中，\mathrm{ℱ}\left(\mathit{Z},\left\{{\mathit{W}}_i\right\}\right)表示提取到的特征，{\mathit{W}}_i表示残差块的权重参数，{\mathit{W}}_s用于调整输入向量\mathit{x}的影响。

2.2　时间局部注意力

为了克服传统GRU难以学习序列间长期依赖关系，本节设计一种具有全连接结构的GRU模型(FCGRU)，具体模型结构如图3所示。

与常规GRU的链式或者堆栈式结构不同，FCGRU模型将GRU作为全连接模型的隐藏层，使得输入层的每个神经元都与隐藏层的GRU单元相连接，从而形成输入层与隐藏层GRU之间的全连接结构，加快了模型的运算速度，而且可以利用GRU模型学习序列间长期的依赖关系。在训练过程中，为每个GRU单元赋予全连接神经网络的初始权值并自适应地进行更新，输入层与隐藏层之间的连接权值体现不同输入特征对参数预测的重要性，不仅可以提高模型的长时间尺度上的预测精度，而且有助于定量刻画不同的特征对预测性能的影响，而且，其整体计算过程如下：

{\mathit{y}}_t^{\mathrm{\text{'}}}={\mathit{W}}_{\mathrm{F}\mathrm{C}}{\mathit{y}}_t+{\mathit{b}}_{\mathrm{F}\mathrm{C}}

z_t^{\mathrm{\text{'}}}=\sigma \left({\mathit{V}}_{xz}{\mathit{y}}_t^{\mathrm{\text{'}}}+{\mathit{U}}_{hz}{\mathit{h}}_{t-\mathrm{1}}+{\mathit{b}}_{\mathrm{G}\mathrm{R}\mathrm{U},z}\right)

r_t^{\mathrm{\text{'}}}=\sigma \left({\mathit{V}}_{xr}{\mathit{y}}_t^{\mathrm{\text{'}}}+{\mathit{U}}_{hr}{\mathit{h}}_{t-\mathrm{1}}+{\mathit{b}}_{\mathrm{G}\mathrm{R}\mathrm{U},r}\right)

c_t^{\mathrm{\text{'}}}=\phi \left({\mathit{V}}_{xc}{\mathit{y}}_t^{\mathrm{\text{'}}}+{\mathit{U}}_{hc}\left(r_t^{\mathrm{\text{'}}}\odot {\mathit{h}}_{t-\mathrm{1}}\right)+{\mathit{b}}_{\mathrm{G}\mathrm{R}\mathrm{U},c}\right)

h_t^{\mathrm{\text{'}}}=\left(\mathrm{1}-z_t^{\mathrm{\text{'}}}\right)\odot {\mathit{h}}_{t-\mathrm{1}}+z_t^{\mathrm{\text{'}}}\odot c_t^{\mathrm{\text{'}}}（12）

其中，{\mathit{W}}_{\mathrm{F}\mathrm{C}}是全连接模型输入层与隐藏层GRU之间连接的权重矩阵，{\mathit{b}}_{\mathrm{F}\mathrm{C}}为全连接模型的偏置。

2.3　空间全局注意力

虽然2.2中的FCGRU模型对每个输入特征进行局部的自训练权重分配，但是没有考虑不同特征间的信息交互。为此，我们设计了如图4所示的空间全局注意力模型。

该空间全局注意力机制充分考虑来自FCGRU模型的所有特征通道的信息，能够有效解决特征间信息交互被忽视的问题，从而有效捕捉特征间的信息交互，有助于全面表征不同序列之间的空间相关性和演变规律。整个过程如下所示：

\mathrm{𝒟}=\mathrm{A}\mathrm{t}\mathrm{t}\mathrm{e}\mathrm{n}\mathrm{t}\mathrm{i}\mathrm{o}{\mathrm{n}}_{\mathrm{F}\mathrm{C}\mathrm{G}\mathrm{R}\mathrm{U}}(h_t^{\mathrm{\text{'}}})

\begin{array}{l}{M}_{sp}(h_t^{\mathrm{\text{'}}})=F(\mathrm{C}\mathrm{o}\mathrm{n}\mathrm{c}\mathrm{a}\mathrm{t}(\mathrm{G}\mathrm{A}\mathrm{P}(\mathrm{𝒟}+h_t^{\mathrm{\text{'}}});\\ \mathrm{G}\mathrm{M}\mathrm{P}(\mathrm{𝒟}+h_t^{\mathrm{\text{'}}})))\end{array}

M_H(h_t^{\mathrm{\text{'}}})=M_{sp}(h_t^{\mathrm{\text{'}}})\odot h_t^{\mathrm{\text{'}}}

{\mathrm{𝒟}}^{\text{'}}=M_H(h_t^{\mathrm{\text{'}}})+h_t^{\mathrm{\text{'}}}（13）

其中，\mathrm{𝒟}表示特征局部注意的输出，M_sp (·)为空间全局注意力，它通过两次池化操作聚合FCGRU隐藏层的通道信息。GAP和GMP表示平均和最大池化操作。激活函数和全连接层形成集合F即空间注意权值集合，{\mathrm{𝒟}}^{\text{'}}表示空间全局注意的输出。该模块可以学习不同特征在空间上的交互关系并将注意力权重分配给不同通道的特征，从而获得更好的序列空间相关性的描述结果。

3　 仿真实验

3.1　实验数据集介绍

本研究使用的船舶柴油机运行数据来源于MAN公司生产的6S35ME-B9（二冲程六缸低速）型柴油机真实的运行过程^[12-13]，其整机结构如图5所示，系统主要由冷却器、扫气箱、进气导管、排气导管等组成。表1列出了15种主要的传感器变量。

参数中长期预测的必要性和难点：由于排气温度和压力机流量在很大程度上分别表征排气口和涡轮增压器的健康状态^[14]，二者都是体现冷却水系统工作状态的关键参数，需要在更长时间尺度上对其变化趋势进行预测，才能更好预判不同工况下的系统性能演变趋势，因此本文选择两种关键性能参数对所提方法的有效性进行验证。此外，两种参数都具有很强的时间上的依赖性和空间上的相关性，给中长期序列预测带来较大的挑战。

冷却水系统故障发生过程数据的采样间隔是10 s，其中在柴油机处于负荷工况时，不失一般性，选取75%负荷平稳工作状态样本800个，向90%负荷工作状态转换的数据样本95个，90%负荷平稳工作状态样本800个，排气口堵塞故障发生过程数据样本1 035个，涡轮机机械效率下降故障发生过程数据样本1 035个，共同构成具有工作状态转换的冷却水系统运行数据集。

3.2　评价指标和模型参数设置

本实验将训练集和测试集设置为7∶3，实验进行5次取平均值作为模型的最终输出结果，该框架使用Pytorch实现，将均方根误差(RMSE)和平均绝对误差(MAE)作为模型的性能评价指标：

\begin{array}{l}\mathrm{R}\mathrm{M}\mathrm{S}\mathrm{E}=\sqrt[]{\frac{\mathrm{1}}{n}{\displaystyle \sum _{i=\mathrm{1}}^n}{\left(y_i-{\widehat{y}}_i\right)}^{\mathrm{2}}}\\ \mathrm{M}\mathrm{A}\mathrm{E}=\frac{\mathrm{1}}{n}{\displaystyle \sum _{i=\mathrm{1}}^n}\left|y_i-{\widehat{y}}_i\right|\end{array}

其中，n为样本个数；{\widehat{y}}_i是模型对第i个样本的预测值；y_i表示真实值。

由于模型参数和结构对预测性能有较大的影响，以排气温度关键参数为例，探索FCGRU隐藏层层数对模型预测性能的影响，将隐藏层层数分别设置为1~5，相应的RMSE和MAE结果如图6所示。从图6中可以看出隐藏层层数为2时模型性能最优，当隐藏层的个数超过3时不但增加模型复杂度和过拟合风险，而且模型的预测性能也呈现下降趋势，因此本文模型的隐藏层个数设置为2。

确定隐藏层个数后，本文采用网格搜索法对FCGRU隐藏层神经元个数进行了多次调整。通常为实现对样本数据的特征提取和压缩，第一隐藏层的神经元个数一般大于第二隐藏层。因此在[190， 260]区间中搜索第一隐藏层的神经元个数，在[80，150]区间中搜索第二隐藏层。不同隐藏层神经元个数与模型损失值之间的关系如图7所示，结果表明第一和第二隐藏层神经元个数分别为204和100时模型达到最优预测性能。

在确定FCGRU隐藏层神经元个数后，探究mCWConv中不同尺度参数个数对模型预测性能的影响，将多尺度参数个数分别设置为1~4，RMSE和MAE结果如表2所示。从表2中可以看出，mCWConv可以提高模型的预测性能；随着不同尺度参数个数的增加，模型的预测性能先上升再下降。当尺度参数个数为3时，模型达到最优预测性能，因此本文将mCWConv中的多尺度参数个数设置为3。本文所提的mWKN-HAGRU方法的详细结构及参数设置如表3所示。

3.3　对比试验结果

本文选取LSTM、GRU、CNN-LSTM和CGA（CNN-GRU-Attention）模型作对比。为了保障对比实验的公平性，GRU模型的参数设置和本文的mWKN-HAGRU中GRU模块保持一致，对比算法LSTM、CNN-LSTM和CGA的具体结构和参数设置见参考文献[7]、[14]和[15]。表4给出了各方法在测试数据集上的短期(275个样本)、中期(550个样本)和长期(819个样本)的预测性能对比结果。从表4中可知，LSTM和GRU效果最差，这是因为它们无法有效地提取数据中隐藏的状态信息。CNN-LSTM的预测结果也不尽如人意，是因为它没有考虑不同尺度和频率的特征信息以及不同特征对参数预测的重要性程度。CGA虽然采用注意力机制选择与参数预测相关的隐藏状态，提升了短期预测精度，但由于没有从多个粒度挖掘冷却水系统性能参数中隐藏的解释性特征，因此仍未达到最优预测精度。mWKN-HAGRU在mWKN的帮助下提取到不同尺度的特征信息，并通过HAGRU模块实现对性能参数中长期演变规律的刻画，因此在两种不同关键参数的中长尺度预测中均取得最佳精度。

传统GRU模型通常以链式或者堆叠的方式连接在一起，增加了模型的运行时间和计算成本，FCGRU充分利用全连接网络的并行计算能力，有助于降低计算复杂度。为了验证本文提出的FCGRU模块在运算时间上的优越性，选择与传统的GRU模型进行对比，并在预测模型之前增加mWKN特征提取，以评估模型整体运行时间，具体结果如表5所示，测试平台如下：CentOS Linux 7.5，CPU：Intel(R) Xeon(R) 6240R @ 2.40 GHz，GPU：NVIDIA A100-40 GB，内存：512 GB，Python 3.8.12，PyTorch 1.7.1。由表5的前两行可知，FCGRU模型的训练时间和测试时间都比GRU模型要低，并且平均时间降低了3.16 s。由于特征提取模块不可避免会增加运行时间，由表5的后两行可知，mWKN-HAGRU相较于mWKN-GRU在运行时间上仍然有较大优势，模型整体训练时间降低198.73 s，说明所提方法在实际应用中可以降低计算复杂度。

3.4　消融实验及其结果可视化

为了验证mWKN-HAGRU模型中各模块的有效性，以排气温度为例进行消融实分析。采用3种不同的消融模型与之对比：1) FCGRU：全连接的GRU； 2) WKN-FCGRU：从mWKN-HAGRU中去除多尺度核和空间全局注意力模块； 3) mWKN-FCGRU：从mWKN-HAGRU中去除空间全局注意力模块。

图8展示了4种模型的训练损失曲线变化情况。由图8可知，FCGRU方法的损失值虽然先增大后逐渐减小，但在稳定后仍保持较高的损失值。WKN-FCGRU模型在迭代过程中损失曲线振荡显著，呈现出不稳定的状态。mWKN-FCGRU虽然振荡幅度明显小于WKN-FCGRU，但是仍未收敛至最优。相比之下，本文方法经过一段时间的迭代后损失曲线逐渐趋于稳定，并且取得最低的损失值，说明所提方法具有较好的鲁棒性。

为了展示多尺度特征提取对提升模型预测性能的有效性，在不同时间步长下比较mWKN和WKN特征提取模型的回归预测结果，结果如图9的雷达图所示。从图9中结果可知，采用多尺度小波卷积层进行特征提取时，在各个时间步长上均比单尺度小波卷积层拥有更低的MAE值，说明mWKN模块能够捕捉到不同频率和尺度的特征信息，具有更好的特征提取效果。

为了可视化所提的mWKN-HAGRU对性能参数中长期预测的实用性，图10展示了4种不同方法对排气温度的预测结果。图10(a)中的FCGRU方法仅能粗略地刻画排气温度的振幅和未来趋势，预测值与真实值相差较大。作为一种改进模型，图10(b)中的WKN-FCGRU模型虽然增加了从多个维度提取数据中隐藏的状态信息，预测性能要优于FCGRU模型，但是预测精度仍然较低。相比之下，图10(c)中的mWKN-FCGRU模型虽然预测精度明显高于FCGRU和WKN-FCGRU模型，但是在600个样本后模型的预测精度出现明显的下降，说明该方法并不适用于性能参数的中长期预测。图10(d)中所提的mWKN-HAGRU模型利用多尺度融合特征和并行的混合注意力GRU结构，不但取得了较好的短期预测结果，而且在中长期尺度上(600个样本后)仍能较好地拟合真实的参数曲线，即能够在中长期尺度上对排气温度这一关键性能参数进行准确的预测。

为了定量展示不同方法的预测精度，图11展示了上述4种方法对冷却水系统排气温度预测的RMSE和MAE值。由于FCGRU未排除与故障无关的冗余信息，WKN-FCGRU模型没有充分利用多尺度的特征信息，因此两者的RMSE值分别为0.11和0.081，参数预测效果均不佳。由于mWKN-FCGRU模型没有考虑不同特征间的信息交互，因此RMSE值为0.056，仍未达到最佳预测效果。相比之下，mWKN-HAGRU模型的RMSE和MAE值均为最小，有效克服了上述方法的不足，实现在中长期尺度上对冷却水系统关键性能参数的预测。

4　 结 语

针对现有的GRU模型对时间序列特征提取和预测能力不足的问题，本文提出一种冷却水系统性能参数中长期预测方法。首先利用mWKN模型从多个粒度提取数据中隐藏的状态信息。然后，设计HAGRU模块并通过时间局部注意力学习序列间长期依赖关系，空间全局注意力可以有效表征序列间的空间相关性和演变规律。最后在真实的船舶柴油机数据集上进行实验，实验结果表明所提的mWKN-HAGRU方法在冷却水系统关键性能参数中长期预测方面的有效性和实用性。由于不同传感器之间存在互补和冗余的耦合关系，如何对船舶柴油机的多源信息进行分析和融合以实现全面及时地评估故障发生的趋势是未来的研究工作。

参考文献

[1] 程超， 霍乃西， 许水清， 等. 基于MLCCA的高速列车牵引系统故障诊断［J］. 控制工程， 2024， 31（7）： 1163-1168. DOI： 10.14107/j.cnki.kzgc.20220926 .

[2] CHENG C， HUO N X， XU S Q， et al. Fault diagnosis for high-speed train traction systems based on MLCCA［J］. Control Engineering of China， 2024， 31（7）： 1163-1168. DOI： 10.14107/j.cnki.kzgc.20220926 （Ch ）.

[3] NANDHINI S， PARTHASARATHY S， SARAVANAN S. An efficient optimal hybrid SVELM based monitoring and forecasting the engine operations for safety standards［J］. Expert Systems with Applications， 2024， 238： 121679. DOI： 10.1016/j.eswa.2023.121679 .

[4] WANG R H， CHEN H， GUAN C. Random convolutional neural network structure： An intelligent health monitoring scheme for diesel engines［J］. Measurement， 2021， 171： 108786. DOI： 10.1016/j.measurement.2020.108786 .

[5] ZHANG Z Z， SONG W， LI Q Q. Dual-aspect self-attention based on transformer for remaining useful life prediction［J］. IEEE Transactions on Instrumentation and Measurement， 2022， 71： 2505711. DOI： 10.1109/TIM.2022.3160561 .

[6] LIU L， SONG X， ZHOU Z T. Aircraft engine remaining useful life estimation via a double attention-based data-driven architecture［J］. Reliability Engineering & System Safety， 2022， 221： 108330. DOI： 10.1016/j.ress.2022.108330 .

[7] WANG R H， CHEN H， GUAN C. DPGCN model： A novel fault diagnosis method for marine diesel engines based on imbalanced datasets［J］. IEEE Transactions on Instrumentation and Measurement， 2022， 72： 3504011. DOI： 10.1109/TIM.2022.3228002 .

[8] LIU B， GAN H B， CHEN D， et al. Research on fault early warning of marine diesel engine based on CNN-BiGRU［J］. Journal of Marine Science and Engineering， 2023， 11（1）： 56. DOI： 10.3390/jmse11010056 .

[9] HAN P H， ELLEFSEN A L， LI G Y， et al. Fault prognostics using LSTM networks： Application to marine diesel engine［J］. IEEE Sensors Journal， 2021， 21（22）： 25986-25994. DOI： 10.1109/JSEN.2021.3119151 .

[10] 姚远， 佟佳蓉， 高军， 等. 基于分层分块DLPPCA-SVM的复杂工业过程监测与故障诊断方法［J］. 控制与决策， 2022， 37（5）： 1402-1408. DOI： 10.13195/j.kzyjc.2020.1614 .

[11] YAO Y， TONG J R， GAO J， et al. Monitoring and fault diagnosis method of complex industrial process based on DLPPCA-SVM［J］. Control and Decision， 2022， 37（5）： 1402-1408. DOI： 10.13195/j.kzyjc.2020.1614（Ch ）.

[12] XIA M， SHAO H D， MA X D， et al. A stacked GRU-RNN-based approach for predicting renewable energy and electricity load for smart grid operation［J］. IEEE Transactions on Industrial Informatics， 2021， 17（10）： 7050-7059. DOI： 10.1109/TII.2021.3056867 .

[13] LI T F， ZHAO Z B， SUN C， et al. WaveletKernelNet： An interpretable deep neural network for industrial intelligent diagnosis［J］. IEEE Transactions on Systems， Man， and Cybernetics： Systems， 2022， 52（4）： 2302-2312. DOI： 10.1109/TSMC.2020.3048950 .

[14] 韩敏， 李锦冰， 许美玲， 等. 具有工作状态转换的EIIKF船舶柴油机故障预测［J］. 自动化学报， 2019， 45（5）： 920-926. DOI： 10.16383/j.aas.2018.c170457 .

[15] HAN M， LI J B， XU M L， et al. Fault prognosis of marine diesel engine with working state transition based on EIIKF［J］. Acta Automatica Sinica， 2019， 45（5）： 920-926. DOI： 10.16383/j.aas.2018.c170457 （Ch ）.

[16] LÜ S G， YANG L， YANG Q. Research on the applications of infrared technique in the diagnosis and prediction of diesel engine exhaust fault［J］. Journal of Thermal Science， 2011， 20（2）： 189-194. DOI： 10.1007/s11630-011-0456-7 .

[17] ZHANG J X， LI S Y. Air quality index forecast in Beijing based on CNN-LSTM multi-model［J］. Chemosphere， 2022， 308： 136180. DOI： 10.1016/j.chemosphere.2022.136180 .

[18] MEI P， LI M， ZHANG Q， et al. Prediction model of drinking water source quality with potential industrial-agricultural pollution based on CNN-GRU-Attention［J］. Journal of Hydrology， 2022， 610： 127934. DOI： 10.1016/j.jhydrol.2022.127934 .

基金资助

国家自然科学基金(62303015)

国家自然科学基金(62273214)