基于迁移学习与注意力机制混合神经网络的窃电检测

摘要

在目前窃电检测的实践中,采用一维用电数据建模的检测性能往往不足,而使用二维图像训练模型又面临计算成本过高的问题.为解决这一困境,提出了一种基于迁移学习与注意力混合神经网络的窃电检测模型.模型引入迁移学习策略,在减少ConvNeXt模型训练开销的同时大幅提升了性能.同时,模型混合双向长短期记忆网络模型,通过提取一维负荷时序数据的全局非线性特征补充纠正了ConvNeXt模型的训练.此外,模型分别引入了SimAM和多头自注意力机制以提升混合模型的特征表达能力.在国家电网公开数据集中,对所提模型进行了实验验证,结果表明,相比其他深度学习分类模型,所提出模型的A_UC、M_AP@100、 M_AP@200和F₁分数都取得了有效的提升,相比t-LeNet算法, F₁提升了9.1%.

关键词

迁移学习 / ConvNeXt / 双向长短期记忆网络 / 注意力机制 / 混合神经网络