基于改进Transformer的动车组牵引电机温度预测模型

摘要

针对牵引电机温度预测的长时序特性导致现有模型存在预测精度低、速度慢的问题，提出一种基于改进Transformer的预测框架。该模型将位置编码的固定经验底数重构为可学习的权重矩阵，使模型具备动态适应不同长度输入序列的能力。在模型结构优化中实施三阶段改进，首先采用高斯误差线性单元替代原始ReLU激活函数以增强非线性表达能力；其次在编码器输出端叠加全连接层实现跨层注意力权重共享，深度提取输入序列的温度记忆特征；最后打破传统自回归解码范式，采用多层感知机实现预测序列的一步式输出，显著提升模型推理速度。某型动车组实测时序数据的试验表明：相较于RNN、GRU、LSTM、Deep AR及标准Transformer模型，改进Transformer模型具有更高的检测精度和速度，可更好地预测牵引电机的温度变化趋势。

关键词

动车组 / 牵引电机 / 温度预测 / Transformer模型