智能电网中互感器在线误差预测方法研究

Online error prediction method of transformer in smart grid

摘要

互感器作为电能计量装置组成部分，其运行中的准确可靠直接关系电量交易的公平公正.为准确评估在运互感器计量性能状态，提出了一种注意力机制优化Seq2Seq网络来预测互感器的故障状态，将注意力机制、Seq2Seq网络和双向长短期记忆网络相结合，从在线采集的互感器动态数据中挖掘出顺序语义，建立精准的互感器在线计量状态分析模型.在实验室条件下对运行的电容式电压互感器施加干扰，采用本模型对干扰后互感器运行数据开展误差分析，结果表明：注意机制优化Seq2Seq网络模型可精准剥离外电场干扰对互感器误差的影响，同时证明该方法在计量异常预测方面有较好的识别率.

Abstract

As an part of the electric energy metering device， the accuracy and reliability of the transformer in operation are directly related to the fairness and justice of electricity trading. To accurately evaluate the measurement performance status of the transformer in operation， an attention mechanism is proposed to optimize the Seq2Seq network to predict the fault status of the transformer. By combining the attention mechanism， Seq2Seq network and two-way short-term memory network， sequential semantics are mined from the dynamic data of the transformer collected online， and an accurate analysis model for the online measurement status of the transformer is established. Apply external electric field interference to the capacitor voltage transformer in operation under laboratory conditions and use the model to conduct error analysis on the operation data of the transformer after the interference. The test results demonstrate that the proposed method has a good performance in the aspect of recognition rate in measuring anomaly prediction.

Graphical abstract

关键词

互感器误差预测 / 注意力机制 / 长短期记忆网络 / Seq2Seq网络

Key words

transformer error / prediction attention mechanism / long and short term memory network / Seq2Seq network

互感器作为使用量最多的一次电力设备，其功能是将高电压、大电流按照设计的比例转变为低电压、小电流，将变化后的信号提供给计量、测量、保护等多个专业使用^［1-2］.互感器普遍工作在复杂的运行工况中，长期运行后其实际输出的信号与设计值之间将出现差异，尤其对于计量绕组，其输出信号提供给电能表，作为电量贸易结算的依据，因此JJG 1021《电力互感器》检定规程要求，对运行的互感器开展定周期误差检测.

现阶段，国内外对运行互感器误差检测主要有三种手段：（1）停电离线检测.停掉互感器所在回路，将互感器从回路中拆除，在保障安全距离的前提下，采样独立电源，使用更高精度的标准互感器与其进行比对^［3-5］.这种方法工作量大，且需配合计划性停电开展，而且该方法对误差的检测是短期的，无法准确感知电网运行时互感器的误差变化；（2）在运行的回路上投切标准互感器，实现对运行中互感器长期误差的监测^［6-8］.该方法在美国、德国等发达国家已成为典型检测手段，然而我国在电网建设之初并未给标准器投切留下间隔，且标准互感器的投切是电网安全运行的风险点，因此我国未采用该方法.（3）基于数据驱动等人工智能算法的互感器在线监测技术.该方式需了解变电站内运行互感器的运行拓扑结构，建立多类设备的精准传变模型，然而变电站内部分设备参数难以获得，因此该方法在工程化方面存在一定的局限^［9-10］.

本文在评价互感器误差状态的基础上提出了一种注意机制优化序列（Seq2seq）网络来预测用于故障定位互感器的误差状态.首先引入注意力机制以解决模型长期依赖的局限性问题，从标签序列中捕获信息，从而帮助解码器选择正确的输出形式；然后将双向长短期记忆网络中前向和反向传播的激活值相互结合，在不保留冗余上下文信息的情况下得到每个时间步长的上下文变量；接着，将前一个时间步长的隐层状态和当前时间步长的上下文变量输入到解码器中用于预测故障定位互感器的误差状态，并对互感器进行预警；最后进行扩展实验，以说明所提出算法的有效性.

1 相关工作

1.1 长短期记忆网络

长短期记忆网络（LSTM）是一种循环神经网络，旨在解决时间序列模型中长期依赖的问题.在所有循环神经网络模型中，时序序列信息的处理依赖于神经网络重复模块对时序序列信息的链处理来完成计算.长短期记忆网络的本质是基于基本循环神经网络结构的改进，三个重要的门控制功能被重新引入到存储单元模块中，三个门控制功能^［11-14］分别命名为遗忘门、输入门和输出门.标准的长短期存储器网络在处理时间序列信息时提取时间步长的输入存储器，并且对于在输入序列上插入随机时间步长是鲁棒的.在长短期记忆网络的前向传播过程中，通过隐藏层存储单元的三个门结构来控制信息保存和交互.

1.2 Seq2Seq网络模型

Seq2Seq网络模型也是一种循环神经网络，可以用来处理序列预测问题.它经常被广泛应用于机器翻译、语音识别、文本摘要、问答系统等领域.机器翻译的Seq2Seq网络模型结构如图1所示.

图1中每个矩形块都包含一个类似LSTM的神经网络，模型输入到输出是一个完整的流，其中ABC是模型编码器部分的输入，同时输入中的符号EOS表示句子的结束.WXYZ是解码器部分中顺序模型的输入和输出，将编码部分最后一个隐层的输出状态压缩为指定大小的向量表达式，然后将向量的表达式作为解码部分第一个隐层的输入.其优点是编码部分和解码部分可以被视为一个线性工作流.

2 基于优化神经网络的预测模型构建

2.1 注意力机制

在分析时间序列数据时，需要计算序列中每个元素的特征.当我们对序列数据进行特征提取时，不能简单地将所有元素的特征进行求和计算或者求平均计算，这样很可能会丢失序列中元素的单独信息.因此，我们需要在模型中引入注意机制^［15-17］，从而达到针对整个序列进行特征提取的目的.

引入注意力机制不仅能够克服模型中的长期依赖限制，还能在计算过程中有效地应用内存.注意力机制作为模型编码阶段与解码阶段之间的过渡层，其主要目的是从与句子主题密切相关的标签序列中提取信息^［18］.

在一种基于注意机制的网络模型中，我们首先会计算一组特定的注意力权重，并将其与输出向量进行相互比较，从而得出一个更加完整的权重组合，它可以涵盖所有与输入序列相关的信息，从而使解码器能够更好地识别和处理最优的输出方式.通过分析编码器序列的各个组成部分，解码器能够建立起一个完整的上下文，从而实现对整个序列的准确、高效的解码.

相比于常规的编解码模型，此模型使用了统一的上下文向量，以更有效地理解解码器每个隐藏层的状态.而且，在解码的过程中，每一时间步都会生成一个C_t向量和一个y_t输出.计算公式如下：

C_t={\displaystyle \sum _{j=\mathrm{1}}^T}{a}_{tj}{h}_j，（1）

其中：h_j为输入向量x_j的隐藏层状态，a_{tj}为h_j预测y_t的权重.向量C_t即期望注意力向量，计算公式如下：

a_{ij}=\frac{\mathrm{e}\mathrm{x}\mathrm{p}(e_{ij})}{{\sum }_{k=\mathrm{1}}^T\mathrm{e}\mathrm{x}\mathrm{p}(e_{ij})}，（2）

e_{ij}=\mathrm{a}\mathrm{t}\mathrm{t}\mathrm{e}\mathrm{n}\mathrm{t}\mathrm{i}\mathrm{o}\mathrm{n}\mathrm{S}\mathrm{c}\mathrm{o}\mathrm{r}\mathrm{e}(S_{i-\mathrm{1}},h_j)，（3）

其中，注意力评分函数可以根据解码部分的隐藏状态S_i-1和编码部分的隐藏状态h_j 来计算一个分数，从而生成一个权重值.

2.2 Seq2Seq模型的构建

基于对注意机制的深入研究，我们可以将其应用于Seq2Seq网络模型，以发现序列数据之间的隐藏联系，进而提升模型的预测准确性.为此，我们采用了循环神经网络，如LSTM和Gate Recurrent Unit（GRU），以实现更加精确的编码.本研究采用了双向长短期记忆网络来实现编码和解码的过程.互感器的在线运行状态预测是基于时间序列的.当面对时间序列问题时，传统的循环神经网络往往会忽略未来的上下文信息，因此，为了提高网络流量预测的准确性，科学家们正在寻求一种新的方法来解决这一问题：通过在输入数据和预设目标之间插入一定的时间延迟，从而获取一些未来的上下文信息，并将其注入到网络训练过程中，以此来改善模型的预测精度，并且可以更好地捕捉未来的变化趋势，从而更好地预测未来的变化.通过增加时序数据的数量，我们可以更好地预测未来的时间帧，从而使得输出的预测结果与当前时间帧的输出保持一致.然而，如果M的值过大，则可能会导致网络模型无法准确地捕捉到大量的输入信息，从而影响不同输入向量的联合预测能力.因此，为了提高模型的准确性，我们需要通过手动调整M的数值来改善模型的性能.虽然使用M时间框架可以提供未来时间步的上下文信息，但是过多的人为干预可能会导致模型的训练和预测结果不够准确.在这篇文章的编码过程中，我们选择了双向长短时记忆网络（BLSTM）模型作为网络模型.该BLSTM与LSTM模型在网络结构上具有一定相似性，这主要是因为它们均建立在LSTM单元的基础上.然而，BLSTM网络有着其独特的特性，它能在不保留多余的上下文信息的情况下优化长期依赖性.与LSTM网络相反，BLSTM网络设置了双层网络，它采取向两个相反方向进行前向传播的方式，每一层的前向传播和反向传播方式与基本的神经网络传播方式有着相似性.同时，这两层网络承载了序列的前后所有信息.相应公式调整如下：

h_{ft}=H(W_{xhf}{x}_t+W_{hfhf}{h}_{ft-\mathrm{1}}+b_{hf})，（4）

h_{bt}=H(W_{xhb}{x}_t+W_{hbhb}{h}_{bt-\mathrm{1}}+b_{hb})，（5）

h_f\in R^d，h_b\in R^d分别表示正向神经网络层和反向神经网络层的输出向量，不同于长短期记忆神经网络，双向长短期记忆网络最终的输出结果是两部分的组合y_t=[h_{ft},h_{bt}]，y_t\in R^{\mathrm{2}d}.基于注意力机制的Seq2Seq网络模型结构如图2所示.

图2的底部部分代表了模型的编码阶段，其底层由长度为Tx的双向长短期记忆网络层叠构造而成.在本文中，每一个双向长短期记忆网络节点称作Pre_attention Bi_LSTM.它的输出用表示.即.通过将前向传播和反向传播的激活值结合起来，它将的输出和前一个时间步长的解码器一起放到注意力机制的计算中，得到每个时间步长的上下文变量.图2的上面部分是整个网络模型的解码部分，将前一个时间步长的隐层状态和当前时间步长的上下文变量输入到解码器的双向长短期记忆网络单元，得到该时间步的预测结果.

3 实验验证

3.1 实验环境和数据集

实验利用电容式电压互感器（CVT）在一定电场下的模拟监测数据下进行.CVT原理图如图3所示，C1、C2为电容分压器的高压电容和中压电容.磁化单元由中间互感器T1、补偿电抗器Z、阻尼装置D和过压保护装置G组成.CVT与高压系统连接后，电容分压器会把一次高压信号转换为相对较低的中间电压信号，这样就降低了对磁性元件的绝缘需求，然后，再把中间互感器转换为所需的二次小信号，应用于计量、测控、保护、通信等实际需求中.CVT的次级输出根据不同的需要有多个绕组，其中laln，2a2n，3a3n为主次级绕组端，dadn为剩余电压绕组端.

从这15个测试点中提取“振幅”：“主变体Ⅰ组A相位”、“主变体Ⅰ组B相位”、“主变体Ⅰ组C相位”、“主变体Ⅱ组A相位”、“主变体Ⅱ组B相位”，“主变体Ⅱ组C相位”，“主变体Ⅲ组A相位”，“主变体Ⅲ组B相位”，“主变体Ⅲ组C相位”，“5449线A相位”，“5449线B相位”、“5449线C相位”、“5450线A相位”、“5450线B相位”、“5450线C相位”.由于“频率”一致，一共有16个特征维度，根据15个标签数据，一共得到35718条记录.然后，将获得的数据按8∶2分成训练集和测试集.互感器监测数据示例如表1所示.

3.2 试验过程与分析

基于本文提出的优化神经网络的交通预测主要流程如下：

步骤1：把原数据集其中的80%指定为网络模型的训练数据，然后把剩下的20%的原数据集设定为网络模型的测试数据；

步骤2：初始化网络模型的超参数；

步骤3：计算Seq2Seq模型编码的相关参数，以及双向长、短期记忆网络单元中对应的注意变量值；

步骤4：根据上一步骤中的注意力变量值，计算每个时间步对应的上下文变量；

步骤5：在计算出的上下文变量和上一时间段的解码结果的基础上，计算当前时间步长的预测值；

步骤6：重复上述步骤，直到迭代完预设的次数后结束网络模型训练；

步骤7：对训练得到的模型进行验证，计算预测结果；

步骤8：对模型的预测结果进行反向归一化，将其与实际数据进行比较，并评估模型的预测性能.

交叉验证法经常被用于评估验证数据中的模型通过将训练数据划分为k组（k-Fold），我们可以构建一个用于验证的集合，而剩下的k-1组则用于训练.最后，我们可以通过计算k组的平均平方误差，来计算出交叉验证的误差.这里，为了反映网络模型优化前后预测指标的差异，选择Seq2Seq网络模型和基于注意力机制并经优化算法优化的Seq2Seq网络工作模型进行对比实验，实验中采用k组交叉验证法（本实验中k=1）.批量大小和epochs值分别为4096和50.基于注意力机制的Seq2Seq网络模型和Seq2Seq网络模型的比较实验数据如表2所示.

根据表2的实验数据，采用注意力机制的Seq2Seq网络模型，在MAPE指标方面，其误差显著减少了0.59%.对于MSE指标，MSE指标的数值越小，说明预测模型越准确.可以发现，基于注意力机制的Seq2Seq网络模型比Seq2Seq网络模型低791.53.对于MAE，基于注意力机制的Seq2Seq网络模型比Seq2Seq网络模型低0.71.对于RMSE指数，基于注意力机制的Seq2Seq网络模型比Seq2Seq网络模型低3.83.当R²指数趋于1时，这意味着模型的预测精度极高，而且拟合效果也显著提升.可以看出，基于注意力机制的Seq2Seq网络模型与Seq2Seq网络模型相比，在模型预测的准确性上有0.004的提高.经过详细的分析，我们发现，采用注意力机制的Seq2Seq网络模型在预测效果方面表现更好.

接下来，本文采用基于注意力机制的Seq2Seq网络模型，详细分析了15个标签数据的拟合误差.图4显示了15个标签数据的预估结果.

在图4中，红色圆圈代表15个实际比率，黑色星号代表预测值.可以看出，在这15个点中，大部分预测值与实际值一致，只有#10（“5449线A相位”）和#11（“5449线B相位”）这几个点有一定偏差，这可能是因为5449线距离变压器较近，运行误差受环境电磁场干扰导致稳定性稍差一些.平均绝对误差分别为0.0057%和0.0014%.各点的完整误差见表3.实验结果表明：预测的误差很小.

4 结语

本文提出了一个注意力机制优化的Seq2Seq网络.通过引入网络优化的注意力机制，解决了模型的长期依赖性和计算过程中内存的有效使用的限制.在Seq2Seq模型构建过程中，所提出的方法在不保留冗余上下文信息的情况下有效实现了长期依赖性.通过基于一定电场的互感器监测数据集的对比实验，结果表明：在保证预测精度的前提下，提出的方法大大提高了模型的训练效率，这使得提出的方法在解决电路式电压互感器误差预测问题上具有更强的实用性.

参考文献

[1] 滕予非， 吴杰， 张真源， 等. 基于离群点检测的高压并联电抗器本体电流互感器测量异常故障在线诊断［J］. 电工技术学报， 2019， 34（11）： 2405-2414.

[2] 王欢， 周峰， 冯凌， 等. 电场对电容式电压互感器误差影响机理分析及验证研究［J］. 电力电容器与无功补偿， 2021， 42（1）： 88-94.

[3] YAMADA T， KON S， HASHIMOTO N， et al. ECT evaluation by an error measurement system according to IEC 60044-8 and 61850-9-2［J］. IEEE Transactions on Power Delivery， 2012， 27（3）： 1377-1384.

[4] ARIAS VELÁSQUEZ R M， MEJÍA LARA J V. Current transformer failure caused by electric field associated to circuit breaker and pollution in 500 kV substations［J］. Engineering Failure Analysis， 2018， 92： 163-181.

[5] LEI T， FAIFER M， OTTOBONI R， et al. On-line fault detection technique for voltage transformers［J］. Measurement， 2017， 108： 193-200.

[6] ÇAYCı H. A complex current ratio device for the calibration of current transformer test sets［J］. Metrology and Measurement Systems， 2011， 18（1）： 159-164.

[7] 成林， 郭安祥， 齐卫东， 等. 复杂电磁环境下电子式电流互感器输出特性研究［J］. 智慧电力， 2017（8）： 64-69.

[8] 许晶航， 左万利， 梁世宁， 等. 基于图注意力网络的因果关系抽取［J］. 计算机研究与发展， 2020， 57（1）： 159-174.

[9] 白浩， 周长城， 袁智勇， 等. 基于数字孪生的数字电网展望和思考［J］. 南方电网技术， 2020， 14（8）： 18-24， 40.

[10] 赵国鹏， 阎超， 孙冲， 等. 关口电能计量装置在线监测技术研究现状分析［J］. 河北电力技术， 2020， 39（6）： 49-55.

[11] MEDEIROS R P， COSTA F B. A wavelet-based transformer differential protection with differential current transformer saturation and cross-country fault detection［J］. IEEE Transactions on Power Delivery， 2018， 33（2）： 789-799.

[12] RONANKI D， WILLIAMSON S S. Evolution of power converter topologies and technical considerations of power electronic transformer-based rolling stock architectures［J］. IEEE Transactions on Transportation Electrification， 2018， 4（1）： 211-219.

[13] 徐子立， 胡浩亮， 刘琦， 等. 罗氏线圈电流互感器电屏蔽结构缺陷误差机理研究［J］. 高压电器， 2019， 55（2）： 176-182.

[14] PRZYSTUPA K. Selected methods for improving power reliability［J］. PRZEGLĄD ELEKTROTECHNICZNY， 2018， 1（12）： 272-275.

[15] PRZYSTUPA K， KOZIEL J. Analysis of the quality of uninterruptible power supply using a UPS［C］//2018 Applications of Electromagnetics in Modern Techniques and Medicine （PTZE）. Racławice： IEEE， 2018： 191-194.

[16] TYLAVSKY D J， HE Q， MCCULLA G A， et al. Sources of error in substation distribution transformer dynamic thermal modeling［J］. IEEE Transactions on Power Delivery， 2000， 15（1）： 178-185.

[17] MAZUREK P. The intensity of electromagnetic fields in the range of GSM 900， GSM 1800 DECT， UMTS， WLAN in built-up areas［J］. PRZEGLĄD ELEKTROTECHNICZNY， 2018， 1（12）： 204-207.

[18] SUN S， PRZYSTUPA K， WEI M， et al. Fast bearing fault diagnosis of rolling element using Lévy Moth-Flame optimization algorithm and Naive Bayes［J］. Eksploatacja i Niezawodność-Maintenance and Reliability， 2020， 22（4）： 730-740.

基金资助

云南电网科技资助项目(YNKJXM20220176)

云南电网科技资助项目(YNKJXM20220163)