GNSS拒止时基于并行CNN-BiLSTM回归和残差补偿的UAV导航误差校正方法

Method Based on Parallel CNN-BiLSTM Regression and Residual Compensation for Correcting UAV Navigation Error in GNSS Denied Environment

摘要

全球导航卫星系统（GNSS）拒止时，GNSS/惯性导航系统（INS）组合导航系统的性能严重下降，导致无人机集群导航误差快速发散.目前，利用神经网络预测位置与速度代替GNSS导航信息可校正无人机INS误差，但该方法仍存在定位误差较高且在轨迹突变时预测精度急剧下降的问题.因此，提出了一种基于卷积-双向长短时记忆网络联合残差补偿的位置与速度预测方法，用于提高位置与速度预测精度.首先，针对GNSS拒止后GNSS/INS组合导航系统定位误差较高的问题，提出卷积神经网络（CNN）与双向长短时记忆网络（BiLSTM）的融合模型，该模型可建立惯性测量单元（IMU）动力学测量数据与GNSS导航信息之间的关系，实现较准确的位置和速度预测.其次，针对轨迹突变时预测效果急剧下降的问题，提出并行CNN-BiLSTM回归架构，在预测位置与速度的同时，挖掘IMU动力学测量数据、预测值与预测残差之间的关系，预测并补偿预测残差，增强模型在轨迹突变时的预测精度.仿真结果表明，所提模型在预测准确性、有效性和稳定性方面都优于CNN-LSTM、LSTM网络模型.

Abstract

When the global navigation satellite system （GNSS） signal is unavailable， the performance of GNSS/inertial navigation system （INS） integrated navigation system significantly degrades， which leads to the rapid divergence of INS errors of UAV swarms. At present， the neural network model is used to predict the position and speed instead of GNSS navigation information to correct the positioning error of the INS. However， this method suffers from high positioning errors and a sharp decline in prediction accuracy when the trajectory changes suddenly. Therefore， a position and velocity prediction method based on convolution neural networks （CNN） -bidirectional long short-term memory network （BiLSTM） joint residual compensation model is proposed to compensate for inertial navigation errors and improve position and velocity positioning accuracy. Firstly， aiming at the problem of high positioning error of GNSS/INS integrated navigation system after GNSS denial， a time series prediction network is formed by fusing CNN and BiLSTM to train and establish the relationship between inertial measurement unit （IMU） dynamics measurement and GNSS information， so as to realize position and speed prediction. Secondly， aiming at the problem that the prediction effect drops sharply when the trajectory changes abruptly，CNN-BiLSTM is used again to mine the relationship between the IMU dynamics measurement， prediction value and prediction residual， and to predict and compensate the prediction residual. Simulation results show that the proposed model outperforms traditional CNN-LSTM and LSTM network models in terms of prediction accuracy， effectiveness， and stability.

Graphical abstract

关键词

全球导航卫星系统拒止 / 卷积神经网络 / 双向长短时记忆网络 / 残差补偿 / 自适应卡尔曼滤波

无人机集群技术基于生物集群行为，可通过无人机之间的相互感知、交互、信息传递和协作，完成多样的、复杂的任务^［1-2］.然而，这项技术依赖于高精度的绝对定位.目前，组合导航技术被广泛应用于绝对定位领域，无人机在执行任务时，通常搭载GNSS/INS组合导航系统，即：全球导航卫星系统（global navigation satellite system， GNSS）联合惯性导航系统（inertial navigation system， INS）^［3-4］.在该导航方法中，INS通过惯性测量单元（inertial measurement unit， IMU）提供的无人机动力学测量数据（陀螺仪、加速度计、磁力计）解算出无人机的速度与位置.INS可在短时间内提供精准定位，但IMU动力学测量误差随时间累计，且无人机的飞行轨迹自由度较高，INS解算出的位置与速度信息极易发散.GNSS可长期为无人机提供较准确的位置和速度信息，对INS定位误差进行补偿，但更新频率较慢.GNSS/INS组合导航系统结合两者优点实现较准确的绝对定位^［5-6］.

当无人机飞行时，由于未知区域的地形存在一定的复杂性，并且GNSS信号到达地面时极其微弱^［7-8］，极容易受到强干扰而失效.GNSS信号失效后，INS不能获取GNSS提供的准确位置和速度信息，它自身解算出的位置和速度误差也得不到校正，无人机的导航误差将随时间累计增加.

为了解决上述问题，近年来在组合导航领域提出了许多新方法.第一类方法是添加额外的传感器来补偿丢失的GNSS信息^［9］，例如激光扫描仪^［10］、相机^［11-12］、里程表^［13-14］等.这些传感器可以有效地增强导航精度，但会增加导航系统的成本和复杂性.第二类方法是对IMU进行误差模型学习.该类方法利用学习好的模型降低IMU测量噪声，减小INS解算出的位置和速度误差.例如：在文献［15］中，作者提出利用时域卷积网络构建IMU中陀螺仪的输出模型，从以往的陀螺仪数据中获取误差特征，并对误差补偿.该方法虽然在短时间内提高了定位精度，但并不能适应GNSS长时间拒止的情况.在文献［16］中，作者提出了一种改进的CNN-LSTM噪声自适应模型，该模型通过IMU采集的数据对系统的两个噪声进行自适应调整，用于估算车辆的位置和姿态等信息.在文献［17］中，作者提出了Calib-Net，它可以利用深度卷积神经网络动态输出陀螺仪测量的补偿分量，实现低成本IMU的精确校正.第三类方法是基于机器学习（machine learning， ML）的误差补偿算法^［18-19］.此类方法用于模拟INS的IMU动力学测量误差传播特性，并通过用GNSS信号训练机器学习模型来建立并更新无人机动力学测量和GNSS导航信息之间的关系.例如：近年来，文献［20］提出了一种基于递归神经网络（RNN）的GNSS/INS组合导航方法.该方法在GNSS拒止时，利用RNN的记忆功能来估计惯性导航系统的误差，从而获得连续的、可靠的导航信息.此外，文献［21］也提出了一种深度学习网络架构（GI-NN）来辅助INS.GI-NN结合了卷积神经网络（CNN）和门控递归单元（GRU）神经网络，从IMU动力学测量信息中提取空间特征并跟踪它们的时间特性，对IMU输出和GNSS位置增量之间的关系进行建模，当GNSS拒止时，为INS提供位置补偿信息.

上述第三类方法中提出的深度回归网络虽然在位置与速度预测上取得了一定的效果，但预测误差仍然较高，并且在位置和速度突变时存在预测性能急剧下降的问题.

本文主要的研究工作如下：

首先，针对GNSS拒止后GNSS/INS组合导航系统定位误差较高的问题，通过深入挖掘无人机IMU动力学测量与GNSS导航信息数据特点，提出卷积神经网络（CNN）与双向长短时记忆网络（BiLSTM）融合的神经网络模型（以下称为CNN-BiLSTM），同时为CNN-BiLSTM标注合适的GNSS导航信息标签，不断优化网络超参数，最终通过CNN-BiLSTM建立IMU动力学测量与GNSS导航信息之间的关系，实现较准确的位置和速度预测.

然后，针对轨迹突变时预测效果急剧下降的问题，提出并行CNN-BiLSTM回归和残差补偿（CNN-BiLSTM-Residual Compensation， CBL-RC）架构，对位置增量、速度和位置增量、速度预测残差分别进行预测，并通过残差补偿机制补偿位置增量、速度的预测残差，抑制轨迹突变时的预测误差发散，得到高精度的导航信息.

最后，进行仿真实验与分析总结.基于无人机集群巡航任务的应用背景，设计无人机在巡航任务飞行中存在60 s左右GNSS拒止阶段的实验.该实验分别从均方根误差（root mean square error， RMSE）、平均绝对误差（mean absolute error， MAE），轨迹突变时的位置与速度拟合度以及误差分布方面评估CBL-RC的性能，并与CNN-LSTM、LSTM进行对比.仿真结果表明：在GNSS拒止时，本文所提出的模型与CNN-LSTM和LSTM模型相比，可准确地预测无人机位置和速度，有效抑制轨迹突变时误差急剧发散且预测性能稳定.

1 GNSS拒止时基于CBL-RC的INS误差校正方法

1.1 CBL-RC模型预测位置与速度及INS误差校正的方法

如图1所示，GNSS拒止时基于CBL-RC模型的INS误差补偿方法主要由IMU动力学测量（模型输入）、CBL深度神经网络、残差补偿（RC）机制、INS位置与速度解算以及自适应卡尔曼滤波（adaptive kalman filter， AKF）数据融合（模型输出）组成，红色部分为本文所提出方法的核心部分.

CNN-BiLSTM A神经网络基于无人机IMU动力学测量对无人机位置增量与速度进行预测，此时的预测值带有一定的误差.将预测值与IMU动力学测量数据再次送入CNN-BiLSTM B中，预测无人机位置增量与速度预测残差.CBL-RC深度回归模型利用预测残差补偿无人机位置增量与速度的预测误差，位置增量预测值通过累加计算后得到高精度的位置预测值.位置与速度预测值通过AKF与INS解算的位置与速度融合，补偿INS解算出的位置与速度的误差，最终输出高精度无人机位置与速度.

1.2 IMU动力学测量输出模型误差分析

由文献［17］对IMU中陀螺仪和加速度计的输出误差模型的介绍可知，陀螺仪和加速度计的输出误差模型可以表示为：

{\tilde{w}}_t=(I+S_{\mathrm{g}}+\mathrm{\Delta }{C}_{\mathrm{g}})w_t+b_{\mathrm{g}}+\epsilon（1）

{\tilde{a}}_t=(I+S_{\mathrm{a}}+\mathrm{\Delta }{C}_{\mathrm{a}})a_t+b_{\mathrm{a}}+\xi（2）

式中：{\tilde{w}}_t和{\tilde{a}}_t分别是陀螺仪和加速度计的输出值；w_t和a_t分别是角速度和加速度的实值；S_{\mathrm{g}}和S_{\mathrm{a}}分别是陀螺仪和加速度计的比例因子误差矩阵；\mathrm{\Delta }{C}_{\mathrm{g}}和\mathrm{\Delta }{C}_{\mathrm{a}}分别是陀螺仪和加速度计的安装误差矩阵；b_{\mathrm{g}}和b_{\mathrm{a}}是偏置矢量，它们随时间变化，是陀螺仪和加速度计的重要误差部分；\epsilon和\xi是随机漂移，通常被视为零平均高斯白噪声.

此方案中，由于IMU动力学测量包括磁力计获取的磁场数据，所以本文还需要考虑磁力计的测量误差，以下是关于磁力计的测量输出误差模型^［22］：

{\tilde{m}}_t=C_{sf}{C}_n{C}_m(C_{si}B+B_h)+b_m+\vartheta（3）

式中：{\tilde{m}}_t是磁力计输出矢量；C_{sf}是比例误差矩阵；C_n和C_m分别表示未对准误差矩阵和非正交误差矩阵；C_{si}是软系数矩阵；B_h是硬磁误差矢量；B表示体坐标系中的局部地球磁场矢量；b_m表示偏置误差矢量；\vartheta表示系统噪声矢量.

\begin{array}{l}f({\theta }_t,{\varphi }_t,{\psi }_t)=\left(\mathrm{c}\mathrm{o}\mathrm{s}{\theta }_t\mathrm{c}\mathrm{o}\mathrm{s}{\varphi }_t\right.,\\ \mathrm{s}\mathrm{i}\mathrm{n}{\varphi }_t\mathrm{s}\mathrm{i}\mathrm{n}{\theta }_t\mathrm{c}\mathrm{o}\mathrm{s}{\psi }_t-\mathrm{c}\mathrm{o}\mathrm{s}{\varphi }_t\mathrm{s}\mathrm{i}\mathrm{n}{\psi }_t,\\ \mathrm{c}\mathrm{o}\mathrm{s}{\varphi }_t\mathrm{s}\mathrm{i}\mathrm{n}{\theta }_t\mathrm{c}\mathrm{o}\mathrm{s}{\psi }_t+\mathrm{s}\mathrm{i}\mathrm{n}{\varphi }_t\mathrm{s}\mathrm{i}\mathrm{n}{\psi }_t\mathrm{c}\mathrm{o}\mathrm{s}{\theta }_t\mathrm{s}\mathrm{i}\mathrm{n}{\psi }_t,\\ \mathrm{s}\mathrm{i}\mathrm{n}{\varphi }_t\mathrm{s}\mathrm{i}\mathrm{n}{\theta }_t\mathrm{s}\mathrm{i}\mathrm{n}{\psi }_t+\mathrm{c}\mathrm{o}\mathrm{s}{\varphi }_t\mathrm{c}\mathrm{o}\mathrm{s}{\psi }_t,\\ \mathrm{c}\mathrm{o}\mathrm{s}{\varphi }_t\mathrm{s}\mathrm{i}\mathrm{n}{\theta }_t\mathrm{s}\mathrm{i}\mathrm{n}{\psi }_t-\mathrm{s}\mathrm{i}\mathrm{n}{\varphi }_t\mathrm{c}\mathrm{o}\mathrm{s}{\psi }_t-\mathrm{s}\mathrm{i}\mathrm{n}{\theta }_t,\\ \left.\mathrm{s}\mathrm{i}\mathrm{n}{\varphi }_t\mathrm{c}\mathrm{o}\mathrm{s}{\theta }_t,\mathrm{c}\mathrm{o}\mathrm{s}{\varphi }_t\mathrm{c}\mathrm{o}\mathrm{s}{\theta }_t\right)\end{array}（4）

1.3 CNN-BiLSTM时序预测神经网络

由1.2分析可知：在无人机飞行过程中，随时间漂移的偏置是IMU动力学测量误差的重要部分.虽然目前长短时记忆网络可以处理时序数据，但对于长时序列数据的学习与预测效果并不好，需要增加额外的训练层提高预测效果^［23］.

BiLSTM可以在相同的时间内对长时间IMU历史动力学测量数据进行双向学习，提升训练效果且不增加额外训练时间.因此，本文将BiLSTM作为时序预测神经网络的主要部分.由于IMU动力学测量数据由3种不同的传感器提供，数据特征各有不同.在数据进入BiLSTM网络之前，通过卷积神经网络（CNN）高效地提取多传感器特征，减少模型整体训练时间，提高BiLSTM的性能.

1.4 惯性导航系统(INS)位置与速度解算过程

INS是一种不依赖外界信息、也不向外部辐射能量的自主式导航系统^［24-25］，相比于GNSS有隐蔽性较强、数据更新频率高等优势.INS通过无人机搭载的IMU动力学测量数据，计算自身的姿态、位置和速度信息.

IMU动力学测量数据具体包括：陀螺仪获取的角加速度，加速度计获取的加速度，以及磁力计获取的磁场信息.这些数据用于INS解算无人机姿态、速度和位置.飞行时t时刻的解算过程见公式（4）~（8）：

\left\{\begin{array}{l}{A}_t=A_{t-\mathrm{1}}+{\tilde{w}}_t^{\mathrm{b}}\mathrm{d}t\\ A_t=[\psi ,\varphi ,\theta ]\end{array}\right.（5）

R_{\mathrm{b}(t)}^{\mathrm{n}}=f({\theta }_t,{\varphi }_t,{\psi }_t)（6）

V_t=V_{t-\mathrm{1}}+[R_{\mathrm{b}(t)}^{\mathrm{n}}{\tilde{a}}_t^{\mathrm{b}}-g]\mathrm{d}t（7）

p_t=p_{t-\mathrm{1}}+v_{t-\mathrm{1}}\mathrm{d}t（8）

式中：IMU的输出{\tilde{w}}_t^{\mathrm{b}}和{\tilde{a}}_t^{\mathrm{b}}在机体坐标系下，在计算过程中将其转换成导航坐标系下的数值.坐标转移矩阵R_{\mathrm{b}(t)}^{\mathrm{n}}用于实现机体坐标系到导航坐标系的转换.无人机姿态A_t 通过式（5）计算可得，通过式（4）和 式（6）计算可得当前时刻在体坐标系b至导航坐标系n的转移矩阵R_{\mathrm{b}(t)}^{\mathrm{n}}.由式（7）~式（8）积分计算得速度V_t 和位置p_t 信息.

1.5 自适应卡尔曼滤波器(AKF)

自适应卡尔曼滤波器不同于经典卡尔曼滤波器，它不依赖于对测量和过程噪声矩阵的正确先验定义^［26］.自适应卡尔曼滤波利用残差序列在线调整滤波器的随机特性^［27-28］，以适应跟随时间变化的噪声环境和测量误差.

自适应卡尔曼滤波算法计算流程如图2所示.

本文所采用的自适应卡尔曼滤波算法分为三个部分：先验估计、信息更新以及测量校正.在先验估计中，通过状态转移矩阵A_k 与上一时刻状态x_k-1估计当前状态x_k^-，同时利用状态转移矩阵A_k 、上一时刻误差协方差P_k-1以及当前时刻噪声协方差Q_k 估计当前误差协方差P_k^- .

该卡尔曼滤波自适应特性主要体现在信息更新过程.通过设定遗忘因子\lambda值（0.95~0.99）来更新参量d_k，计算Z_k 与H_kx_k^- 差值得残差v_k，基于参量d_k 与残差v_k 更新测量噪声协方差.

最后阶段为测量校正过程，首先，计算参量S_k .其次，S_k 与误差协方差估计值P_k^- 、测量矩阵H_k 的转置相乘得更新后的卡尔曼增益K_k .最后，以卡尔曼增益、残差以及状态与误差协方差的先验估计为参量，先后分别校正误差协方差和状态，得最终校正值P_k，x_k .此时的P_k，x_k 又可作为下一时刻估计阶段的输入.

2 CNN-BiLSTM神经网络融合

2.1 CNN-BiLSTM时序预测神经网络架构

本文提出的CNN-BiLSTM整体架构如图3所示.CNN-BiLSTM网络架构主要包括输入（IMU动力学测量数据/IMU动力学测量数据、位置增量和速度预测值），数据预处理（数据集成、数据清洗），卷积神经网络（卷积层、池化层），双向长短时记忆网络（BiLSTM层、丢弃层、全连接层）和输出（位置增量与速度预测/位置增量与速度预测残差）.

在本文研究中，无人机基于固定航线进行巡航任务，在该任务场景下高度基本保持不变，即无人机除了起飞、降落阶段，其余时间没有上升或下降的任务.所以，无人机主要关注位置和速度控制，以保持在特定的航线上飞行，而不需要过多关注姿态.此外，由于无人机在飞行过程中高度几乎保持不变，其高度信息可通过气压传感器估计，不必依赖神经网络预测.

该神经网络先输入IMU动力学测量数据（输入）和GNSS导航信息（标签）.数据预处理对输入与标签数据进行数据集成，统一数据集；同时可视化该数据集，对集合中的数据进行数据清洗去除重复度高的数据，删除异常值.然后，将输入数据依次通过CNN、BiLSTM进行高维特征提取和时序预测处理，通过全连接层输出预测值，对比计算与同一时刻标签数据的误差并不断地调整神经网络缩小误差.最终，提取IMU动力学测量与GNSS导航信息的关系.同理，再次使用CNN-BiLSTM神经网络，输入IMU动力学测量、位置增量、速度预测（输入）和位置增量、速度预测残差（标签），提取IMU测量数据、位置增量和速度预测与位置增量、速度预测残差的关系.

2.2 CNN结构与计算过程

CNN是一种具有局部感知、权值共享等特点的深层前馈神经网络，目前被广泛应用在目标检测、图像分割等领域^［29-30］；同时，CNN也可以实现时间序列预测^［31-32］.CNN具有局部感知和权值共享的特点，可以大大减少参数的数量，高效地抽取特征.

CNN主要由卷积层、池化层、全连接层组成.IMU动力学测量包含三种测量传感器数据，为了构建多种测量数据之间的隐藏关系并提取IMU动力学测量数据的全局特征，堆叠具有多个卷积核，卷积核大小分别为20、10的2个卷积层.然而，每层多个卷积核卷积运算后将产生高维IMU动力学测量数据特征，因此利用池化层降低特征维数.理论上，数据最后通过全连接层输出，但CNN在本文所融合的CNN-BiLSTM中只用来提取高维数据特征，所以经过池化层后的数据送至BiLSTM网络中进行时序处理，BiLSTM网络处理后全连接层输出.

IMU动力学测量数据卷积计算，如式（9）所示：

y_t={\displaystyle \sum _{k=\mathrm{1}}^K}{w}_k{x}_{t-k+\mathrm{1}}（9）

式中：x=[w_x^b,w_y^b,w_z^b,a_x^b,a_y^b,a_z^b,m_x^b,m_y^b,m_z^b]；y_t是卷积后输出向量的第t个元素；w_k是卷积核的第k个元素；x_{t-k+\mathrm{1}}是输入向量的第t-k+\mathrm{1}个元素；K是卷积核长度.

激活函数如式（10）所示：

a_t=f(y_t)（10）

式中：a_t是激活层的第t个元素；y_t是卷积层输出的第t个元素；选择ReLU函数作为激活函数f.ReLU函数激活后，网络可更好地拟合输入与标签的非线性关系.

池化层计算如式（11）所示：

z_t=g(a_{t_{\mathrm{1}}},a_{t_{\mathrm{2}}},\cdots ,a_{t_n})（11）

式中：z_t是池化层的第t个元素；a_{t_{\mathrm{1}}},a_{t_{\mathrm{2}}},\cdots ,a_{t_n}是卷积层的连续元素；g选择最大池化函数.对卷积激活后的传感器数据进行降维，加速计算.

全连接层计算如式（12）所示：

z_i=f\left({\displaystyle \sum _{j=\mathrm{1}}^n}{w}_{ij}{a}_j+b_i\right)（12）

式中：z_i是全连接层中第i个神经元的输出；f是激活函数；w_{ij}是第i个神经细胞和第j个输入神经元之间的连接权重；a_j是第j个输出神经元的值；b_i是第i个神经元的偏置项.最终输出值为z=[\mathrm{d}{P}_{\mathrm{N}},\mathrm{d}{P}_{\mathrm{E}},V_{\mathrm{N}},V_{\mathrm{E}}]［公式（12）计算在BiLSTM时序处理后］.

2.3 BiLSTM结构与计算过程

BiLSTM由前向LSTM和后向LSTM组合而成^［33］.BiLSTM可以同时利用无人机飞行过程中前后IMU动力学测量数据和GNSS导航信息，更好地捕捉双向IMU动力学测量数据与GNSS导航信息的关系.图3融合了4个BiLSTM层，每层分别设置128、64、64、32个神经元，每层BiLSTM之间添加一个丢弃层，防止网络过拟合.最终，经过全连接层输出4组预测值.BiLSTM的结构如图4所示，其基本单元仍是LSTM记忆单元（虚线框内）.

LSTM存储单元包含遗忘门、输入门、输出门，分别用f_t，i_t，o_t表示.这三部分实现了长短时记忆功能.其中，\sigma是sigmoid激活函数，\mathrm{t}\mathrm{a}\mathrm{n}\mathrm{h}是双曲正切激活函数.C_{t-\mathrm{1}}是上一时刻的细胞状态，h_{t-\mathrm{1}}是上一时刻的输出状态，x_t是当前时刻的输入，C_t是当前时刻的细胞状态，h_t是当前时刻的输出状态.LSTM存储单元计算过程如下.

1）t-\mathrm{1}时刻的IMU动力学测量数据保留状态与t时刻的IMU动力学测量数据被输入遗忘门f_t，通过遗忘门函数\sigma计算，决定t-\mathrm{1}时刻的细胞状态有多少保留到t时刻.计算过程如公式（13）所示：

f_t=\sigma (W_f[h_{t-\mathrm{1}},x_t]+b_f)（13）

式中：f_t取值范围是[\mathrm{0,1}]；W_f是遗忘门的权重；b_f是遗忘门偏置.

2）t-\mathrm{1}时刻的IMU动力学测量数据保留状态与t时刻的IMU动力学测量数据被输入输入门i_t，通过输入门函数\sigma计算，决定t时刻网络的输入有多少保存到新的细胞状态中.计算过程如式（14）和式（15）所示：

i_t=\sigma (W_i[h_{t-\mathrm{1}},x_t]+b_i)（14）

{\tilde{C}}_t=\mathrm{t}\mathrm{a}\mathrm{n}\mathrm{h}(W_c[h_{t-\mathrm{1}},x_t]+b_c)（15）

式中：i_t取值范围为[\mathrm{0,1}]；W_i为输入门的权值；b_i为输入门的偏置；{\tilde{C}}_t是当前时刻的候选细胞状态；W_c为候选输入门的权值；b_c为候选输入门的偏置.

此时，更新当前LSTM存储单元的细胞状态，如公式（16）所示：

C_t=f_t{C}_{t-\mathrm{1}}+i_t{\tilde{C}}_t，（16）

式中：C_t的取值范围为[\mathrm{0.1}].

3）t-\mathrm{1}时刻的IMU动力学测量数据保留状态与t时刻的IMU动力学测量数据被输入输出门，通过输出门函数\sigma计算，决定当前时刻细胞状态的哪些信息传递到t+\mathrm{1}时刻.计算过程如公式（17）所示：

o_t=\sigma (W_o[h_{t-\mathrm{1}},x_t]+b_o)（17）

式中：o_t的取值范围为［0，1］；W_o为输出门的权值；b_o为输出门的偏置.

4）通过计算输出门的输出和t时刻细胞状态得到t时刻LSTM存储单元的输出，计算式如下：

h_t=o_t\mathrm{t}\mathrm{a}\mathrm{n}\mathrm{h}{C}_t（18）

3 基于CBL-RC模型实现位置、速度预测过程

3.1 CBL-RC模型训练过程

如图5所示的CBL-RC模型训练过程中，GNSS有效，以CNN-BiLSTM神经网络为核心.

第1步：在训练集中，IMU提供的无人机动力学测量数据w_x^{\mathrm{b}}\mathrm{、}{w}_y^{\mathrm{b}}\mathrm{、}{w}_z^{\mathrm{b}}，a_x^{\mathrm{b}}\mathrm{、}{a}_y^{\mathrm{b}}\mathrm{、}{a}_z^{\mathrm{b}}和m_x^{\mathrm{b}}\mathrm{、}{m}_y^{\mathrm{b}}\mathrm{、}{m}_z^{\mathrm{b}}，分别表示角速度、加速度和磁场分布作为回归模型输入.由GNSS提供的位置增量dP_GNSS和速度V_GNSS，作为回归模型训练标签.利用CNN-BiLSTM时序预测神经网络训练并寻找w_x^{\mathrm{b}}\mathrm{、}{w}_y^{\mathrm{b}}\mathrm{、}{w}_z^{\mathrm{b}}，a_x^{\mathrm{b}}\mathrm{、}{a}_y^{\mathrm{b}}\mathrm{、}{a}_z^{\mathrm{b}}和m_x^{\mathrm{b}}\mathrm{、}{m}_y^{\mathrm{b}}\mathrm{、}{m}_z^{\mathrm{b}}与dP_GNSS、V_GNSS之间的关系，用CNN-BiLSTM A来表示.

第2步：输入训练集中IMU动力学测量数据，利用训练好的回归模型CNN-BiLSTM A预测位置增量和速度.

第3步：计算位置增量和速度预测值与真实值之间的误差，即预测残差\mathrm{\delta }\mathrm{d}{P}_{\mathrm{G}\mathrm{N}\mathrm{S}\mathrm{S}}、\mathrm{\delta }{V}_{\mathrm{G}\mathrm{N}\mathrm{S}\mathrm{S}}.

第4步：将训练集中IMU动力学测量数据以及位置增量和速度预测值作为回归模型输入，位置增量和速度预测残差作为回归模型标签.

再次利用CNN-BiLSTM时序预测神经网络训练并寻找w_x^{\mathrm{b}}\mathrm{、}{w}_y^{\mathrm{b}}\mathrm{、}{w}_z^{\mathrm{b}}，a_x^{\mathrm{b}}\mathrm{、}{a}_y^{\mathrm{b}}\mathrm{、}{a}_z^{\mathrm{b}}、m_x^{\mathrm{b}}\mathrm{、}{m}_y^{\mathrm{b}}\mathrm{、}{m}_z^{\mathrm{b}}，以及dP_GNSS、V_GNSS与\mathrm{\delta }\mathrm{d}{P}_{\mathrm{G}\mathrm{N}\mathrm{S}\mathrm{S}}、\mathrm{\delta }{V}_{\mathrm{G}\mathrm{N}\mathrm{S}\mathrm{S}}之间的关系，用CNN-BiLSTM B来表示.

3.2 CBL-RC模型预测过程

如图6所示，CBL-RC模型的预测过程分为以下几个阶段.

首先，将测试集中的IMU动力学测量数据输入模型CNN-BiLSTM A中，经模型预测得到向北、向东的位置增量dP_N、dP_E以及向北、向东的速度V_N、V_E.

再将模型CNN-BiLSTM A的预测值与IMU动力学测量数据一起输入模型CNN-BiLSTM B中，预测位置增量与速度的预测残差\mathrm{\delta }\mathrm{d}{P}_{\mathrm{N}}\mathrm{、}\mathrm{\delta }\mathrm{d}{P}_{\mathrm{E}}\mathrm{、}\mathrm{\delta }{V}_{\mathrm{N}}\mathrm{、}\mathrm{\delta }{V}_{\mathrm{E}}.

然后，通过残差补偿器得到更准确的位置增量和速度预测值.

最后，将预测的位置增量通过逐级累加的方式解算得到预测位置，与补偿后的速度预测值共同作为GNSS拒止阶段的位置和速度预测，即P_N、P_E、V_N、V_E.

3.3 预测算法流程

预测算法流程如下.

4 仿真实验与分析总结

为了分析、评价本文提出的方法，将CBL-RC与CNN-LSTM、LSTM进行对比，进行了以下实验.首先，为了评价CBL-RC模型的预测准确性，对比CBL-RC模型与CNN-LSTM、LSTM模型的预测位置、速度与真实位置、速度之间的误差，即RMSE和MAE的大小.其次，为了评价CBL-RC模型在轨迹突变时能有效抑制INS误差急剧发散，对比了各模型在位置轨迹与速度大小上的预测拟合度.最后，为了评价CBL-RC模型的预测稳定性，对比各模型在预测误差上的统计学分布情况.（其中，P_N和P_E分别表示北、东方向的位置，V_N和V_E分别表示北、东方向的速度）.

4.1 实验条件

所有深度学习模型都利用Tensorflow框架和Keras接口实现.Keras是一个用Python编写的高级神经网络API，支持快速实验.

由于实验的输入数据为一维时间序列，因此将CNN的卷积核调整为一维.卷积核可以看作是一个以时间为轴在数轴上滑动的窗口.Conv1的卷积核大小为20，步长为1.Conv2的卷积核大小为10，步长为1.CNN的激活函数为ReLU.池化模式为Max-Pooling，Pooling1和Pooling2的面积大小分别为4和2.Dropout层的引入是为了减少过拟合现象的发生，遗忘率设为0.01.添加四层BiLSTM，每层分别调用128、64、64和32个神经元进行计算，利用全连接层进行回归输出.最后选用Adamax算法对模型进行优化，损失函数选用平滑平均绝对误差（Huber）.

4.2 预测误差评价指标

为了评价模型的预测值与真实值之间的误差，采用均方根误差（RMSE）和平均绝对误差（MAE）作为评价标准.

均方根误差表示预测值和观测值之间差异的样本标准差，其计算公式如下：

\mathrm{R}\mathrm{M}\mathrm{S}\mathrm{E}=\sqrt[]{\frac{\mathrm{1}}{n}{\displaystyle \sum _{i=\mathrm{1}}^n}({\widehat{y}}_i-y_i{)}^{\mathrm{2}}}（19）

式中：{\widehat{y}}_i为预测值；y_i为真实值.RMSE值越小，预测越准确.

平均绝对误差表示预测值和观测值之间绝对误差的平均值，其计算公式如下：

\mathrm{M}\mathrm{A}\mathrm{E}=\frac{\mathrm{1}}{n}{\left|{\widehat{y}}_i-y_i\right|}^{\mathrm{2}}（20）

式中：{\widehat{y}}_i为预测值；y_i为真实值.MAE值越小，预测越准确.

此外，模型拟合度用来衡量预测值对真实值的拟合好坏程度，是评估回归模型的指标.计算公式如下：

R^{\mathrm{2}}=\mathrm{1}-\frac{{\displaystyle \sum _{i=\mathrm{1}}^n}({\widehat{y}}_i-y_i{)}^{\mathrm{2}}}{{\displaystyle \sum _{i=\mathrm{1}}^n}(y_i-{\overline{y}}_i{)}^{\mathrm{2}}}（21）

式中：{\widehat{y}}_i为预测值；y_i为真实值；{\overline{y}}_i为平均值.R^{\mathrm{2}}值在0~1之间，越接近1越好.

4.3 实验场景

在此实验中，测试CBL-RC算法针对单个无人机位置与速度预测性能，无人机飞行轨迹为巡航路径，飞行速度约为18 m/s，转弯角度为180°，转弯时间持续25 s；无人机飞行轨迹与GNSS拒止阶段路径如图7所示，其中，红色虚线表示GNSS拒止时直线飞行阶段，蓝色虚线表示GNSS拒止时轨迹突变阶段，整体失效时间约为60 s.

无人机所处位置用“东北天”坐标系表示,飞行距离以米为单位.

4.4 CBL-RC模型预测结果展示与分析

4.4.1 CBL-RC模型预测准确性评估

图8与图9表现各模型对位置与速度预测的性能.图8中3种模型位置和速度部分预测误差，CBL-RC总体预测误差保持在较小的范围内，误差波动也较小.

图9与表1展现了CBL-RC模型相对于CNN-LSTM、LSTM模型在RMSE与MAE上的优势.其中，CBL-RC模型在P_N、P_E、V_N、V_E上的RMSE值分别为0.123、0.115、0.051、0.040，相比CNN-LSTM分别降低了94.47%、95.93%、66.88%、79.27%（平均：84.04%），相比LSTM分别降低了95.83%、95.93%、66.31%、79.27%（平均：84.59%）.CBL-RC模型在P_N、P_E、V_N、V_E上的MAE值分别为0.081、0.082、0.017、0.016，相比CNN-LSTM分别降低了94.26%、94.40%、81.32%、82.22%（平均：88.05%），相比LSTM分别降低了95.02%、94.40%、81.32%、82.02%（平均：88.19%）.CBL-RC模型相比CNN-LSTM、LSTM模型的RMSE和MAE值都降低了80%以上，因此，该方法可较准确地预测无人机位置和速度.

图9还统计了GNSS拒止前GNSS/INS组合导航系统的定位精度，与GNSS拒止后CBL-RC预测精度进行对比.图中表明，CBL-RC模型相对于GNSS/INS组合导航系统在P_N、P_E、V_N、V_E上的RMSE值分别增加了0.023 m、0.015 m、0.031 m/s、0.020 m/s，MAE值分别增加了0.001 m、0.002 m、0.001 m/s、0 m/s.由此可见，CBL-RC在GNSS拒止60 s后仍然保持相对较高的定位精度.

4.4.2 CBL-RC模型拟合度评估

针对GNSS拒止时飞行轨迹突变阶段INS误差发散快的问题，CBL-RC模型可在突变阶段实现准确预测，如图10（a）和图10（b）所示，分别展示了CBL-RC模型在位置和速度上的高拟合度.

其中，CBL-RC模型预测值更接近真实值，利用公式（21）分别计算CBL-RC、CNN-LSTM、LSTM模型的拟合度（R²值）.CBL-RC模型位置拟合度为99.984%，相比CNN-LSTM、LSTM分别提高了28.32%、67.73%；速度拟合度为99.986%，相比CNN-LSTM、LSTM分别提高了0.15%、0.03%.由于GNSS提供的速度精度较高（RMSE=0.02 m/s），各模型学习的效果都较好，在速度拟合方面的拟合优势较低.但在轨迹突变时的轨迹拟合度相对CNN-LSTM、LSTM较高.

4.4.3 CBL-RC模型预测稳定性评估

除此之外，本实验还对比了CBL-RC与CNN-LSTM、LSTM模型预测误差统计学分布情况，如图 11（a）~图11（d）所示.

以图11（c）为例，该图表现了CBL-RC、CNN-LSTM和LSTM模型在V_N（向北速度）上的预测误差分布.CBL-RC模型的预测误差有86.41%集中分布在0~0.01 m/s区间，CNN-LSTM模型的预测误差有83.33%集中分布在0.04~0.05 m/s区间，LSTM模型的预测误差有80.97%集中分布在0.08~0.09 m/s区间.本实验表明，CBL-RC模型的预测误差不仅小，而且分布较为集中，即该模型的预测性能稳定.

图11展示了CBL-RC模型在GNSS拒止60 s时间段内CBL-RC模型对无人机位置和速度的预测稳定性评估.但随着拒止时间的增加，各预测模型存在误差累积问题，这将导致位置与速度预测精度下降，且在位置预测上尤为突出.本实验统计了120 s拒止时间内CBL-RC模型的预测精度，并与CNN-LSTM、LSTM模型进行对比，对比数据如表2所示.从表2中可观察到：随着拒止时间的增加，CBL-RC模型在位置预测上的RMSE、MAE值都增加，相对于GNSS拒止60 s时分别平均增加了0.123 m、0.146 m.然而CNN-LSTM与LSTM增加了9~10 m，其位置预测精度急剧下降.因此，表2的数据对比也表明了CBL-RC模型在时间上的预测稳定性.

5 结 论

本文提出了一种GNSS拒止时基于并行CNN-BiLSTM回归和残差补偿的无人机导航误差校正方法.无人机在GNSS拒止飞行阶段，利用CBL-RC模型预测无人机的位置和速度，位置与速度预测值通过AKF校正INS随时间发散的定位误差.实验从预测准确性、有效性以及稳定性三个方面评估模型性能，分别对比了CNN-LSTM与LSTM模型.实验结果表明：首先，CBL-RC模型预测值的RMSE与MAE比CNN-LSTM、LSTM平均降低了80%~90%，所提出的模型能较准确地预测无人机位置与速度.其次，CBL-RC模型在位置轨迹与速度大小的拟合度上高于CNN-LSTM与LSTM，在无人机飞行轨迹突变时，所提出的模型能有效抑制INS误差急剧发散.最后，统计CBL-RC模型预测误差的分布情况，所提出的模型预测误差集中分布在零值左右，而CNN-LSTM、LSTM预测误差分布较分散，与CNN-LSTM、LSTM相比预测稳定性较好.但该深度学习预测模型使用两次神经网络先后进行训练，增加了训练时间和整体模型复杂度，未来的研究中，将改变传统深度回归模型训练方式，使得两个神经网络并行训练，降低时间复杂度.在实际应用中，若将该模型部署在无人机上，则在追求高精度位置预测的同时，应考虑到无人机有限的能量以及机载处理能力能否满足深度学习需要的计算资源和能耗，以及在实际部署中如何解决这一矛盾.这将成为未来实际应用的潜在挑战.

参考文献

[1] AHMED F， MOHANTA J C， KESHARI A，et al ．Recent advances in unmanned aerial vehicles：a review［J］．Arabian Journal for Science and Engineering，2022，47（7）：7963-7984．

[2] NAWAZ H， ALI H M， LAGHARI A ALI ．UAV communication networks issues：a review［J］．Archives of Computational Methods in Engineering，2021，28（3）：1349-1369．

[3] ZHANG G H， HSU L T ．Intelligent GNSS/INS integrated navigation system for a commercial UAV flight control system［J］．Aerospace Science and Technology，2018，80：368-380．

[4] ZHANG J J， ZHOU W X， WANG X Y ．UAV swarm navigation using dynamic adaptive Kalman filter and network navigation［J］．Sensors，2021，21（16）：5374．

[5] WANG G Q， HAN Y， CHEN J，et al ．A GNSS/INS integrated navigation algorithm based on Kalman filter［J］．IFAC-PapersOnLine，2018，51（17）：232-237．

[6] CHEN C， CHANG G B ．Low-cost GNSS/INS integration for enhanced land vehicle performance［J］．Measurement Science and Technology，2020，31（3）：035009．

[7] LI X X， GE M R， DAI X L，et al ．Accuracy and reliability of multi-GNSS real-time precise positioning：GPS，GLONASS，BeiDou，and Galileo［J］．Journal of Geodesy，2015，89（6）：607-635．

[8] 王莉，魏青，徐连明，等 ．面向通信-导航-感知一体化的应急无人机网络低能耗部署研究［J］．通信学报，2022，43（7）：1-20．

[9] WANG L， WEI Q， XU L M，et al ．Research on low-energy-consumption deployment of emergency UAV network for integrated communication-navigating-sensing［J］．Journal on Communications，2022，43（7）：1-20．（in Chinese）

[10] 杜小菁，阎天航，王康，等 ．GPS拒止区域的辅助INS导航方法综述［J］．战术导弹技术，2021（1）：84-92．

[11] DU X J， YAN T H， WANG K，et al ．Review of aided-INS navigation methods in GPS-denied environment［J］．Tactical Missile Technology，2021（1）：84-92．（in Chinese）

[12] 秦晓辉，刘硕，常灯祥，等 ．基于激光点云特征的LiDAR-GNSS/IMU联合自动标定方法［J］．湖南大学学报（自然科学版），2023，50（10）：175-184．

[13] QIN X H， LIU S， CHANG D X，et al ．LiDAR-GNSS/IMU automatic joint calibration method based on laser point cloud features［J］．Journal of Hunan University （Natural Sciences），2023，50（10）：175-184．（in Chinese）

[14] HUANG G Q ．Visual-inertial navigation：a concise review［C］//2019 International Conference on Robotics and Automation （ICRA）．Montreal，QC，Canada． IEEE，2019：9572-9582．

[15] LI T， ZHANG H P， GAO Z Z，et al ．Tight fusion of a monocular camera，MEMS-IMU，and single-frequency multi-GNSS RTK for precise navigation in GNSS-challenged environments［J］．Remote Sensing，2019，11（6）：610．

[16] AFTATAH M， LAHRECH A， ABOUNADA A ．Fusion of GPS/INS/Odometer measurements for land vehicle navigation with GPS outage［C］//2016 2nd International Conference on Cloud Computing Technologies and Applications （CloudTech）．Marrakech，Morocco． IEEE，2016：48-55．

[17] 李增科，王坚，高井祥，等 ．自适应联邦滤波器在GPS-INS-Odometer组合导航的应用［J］．测绘学报，2016，45（2）：157-163．

[18] LI Z K， WANG J， GAO J X，et al ．The application of adaptive federated filter in GPS-INS-Odometer integrated navigation［J］．Acta Geodaetica et Cartographica Sinica，2016，45（2）：157-163．（in Chinese）

[19] HUANG F R， WANG Z， XING L R，et al ．A MEMS IMU gyroscope calibration method based on deep learning［J］．IEEE Transactions on Instrumentation and Measurement，2022，71：1003009．

[20] 董伟 ．基于IMU的车辆定位算法研究［D］．徐州：中国矿业大学，2021．

[21] DONG W ．Research on vehicle positioning algorithm based on IMU［D］．Xuzhou：China University of Mining and Technology，2021．（in Chinese）

[22] LI R H， FU C L， YI W，et al ．Calib-Net：calibrating the low-cost IMU via deep convolutional neural network［J］．Frontiers in Robotics and AI，2022，8：772583．

[23] ADUSUMILLI S， BHATT D， WANG H，et al ．A novel hybrid approach utilizing principal component regression and random forest regression to bridge the period of GPS outages［J］．Neurocomputing，2015，166（C）：185-192．

[24] LIU Y H， LUO Q S， LIANG W，et al ．GPS/INS integrated navigation with LSTM neural network［C］//2021 4th International Conference on Intelligent Autonomous Systems （ICoIAS）．Wuhan，China． IEEE，2021：345-350．

[25] DAI H F， BIAN H W， WANG R Y，et al ．An INS/GNSS integrated navigation in GNSS denied environment using recurrent neural network［J］．Defence Technology，2020，16（2）：334-340．

[26] LIU Y H， LUO Q S， ZHOU Y M ．Deep learning-enabled fusion to bridge GPS outages for INS/GPS integrated navigation［J］．IEEE Sensors Journal， 2022， 22（9）： 8974-8985．

[27] CHEN X Y， ZHANG X T， ZHU M，et al ．A novel calibration method for tri-axial magnetometers based on an expanded error model and a two-step total least square algorithm［J］．Mobile Networks and Applications，2022，27（2）：794-805．

[28] SIAMI-NAMINI S， TAVAKOLI N， NAMIN A S. The performance of LSTM and BiLSTM in forecasting time series［C］//2019 IEEE International Conference on Big Data （Big Data）. Los Angeles，CA，USA． IEEE， 2019： 3285-3292．

[29] 徐开俊， 徐照宇， 赵津晨， 等 ．GNSS/INS组合导航系统发展综述［J］．现代计算机， 2022， 28（20）： 1-8．

[30] XU K J， XU Z Y， ZHAO J C，et al ．Overview of the development of GNSS/INS integrated navigation system［J］．Modern Computer，2022，28（20）：1-8．（in Chinese）

[31] SYED Z F， AGGARWAL P， GOODALL C，et al ．A new multi-position calibration method for MEMS inertial navigation systems［J］．Measurement Science and Technology，2007，18（7）：1897-1907．

[32] MOHAMED A H， SCHWARZ K P ．Adaptive Kalman filtering for INS/GPS［J］．Journal of Geodesy，1999，73（4）：193-203．

[33] HIDE C， MOORE T， SMITH M ．Adaptive Kalman filtering for low-cost INS/GPS［J］．Journal of Navigation，2003，56（1）：143-152．

[34] 周兵， 李涛， 吴晓建， 等 ．基于双自适应无迹卡尔曼滤波的半挂车状态估计［J］．湖南大学学报（自然科学版）， 2022， 49（2）：63-73．

[35] ZHOU B， LI T， WU X J，et al ．Semi-trailer state estimation based on double adaptive unscented Kalman filter［J］．Journal of Hunan University （Natural Sciences），2022，49（2）：63-73．（in Chinese）

[36] 许富景，陈长颖，杜少成 ．基于改进CNN的压缩感知自然图像重建方法［J］．中国测试，2022，48（9）：7-16．

[37] XU F J， CHEN C Y， DU S C ．Compressed sensing natural image reconstruction method based on improved CNN［J］．China Measurement & Test，2022，48（9）：7-16．（in Chinese）

[38] KATTENBORN T， LEITLOFF J， SCHIEFER F，et al ．Review on Convolutional Neural Networks （CNN） in vegetation remote sensing［J］．ISPRS Journal of Photogrammetry and Remote Sensing，2021，173：24-49．

[39] AOUAD M， HAJJ H， SHABAN K，et al ．A CNN-Sequence-to-Sequence network with attention for residential short-term load forecasting［J］．Electric Power Systems Research，2022，211：108152．

[40] 周云，赵瑜，郝官旺，等 ．基于应变信号时频分析与CNN网络的车辆荷载识别方法［J］．湖南大学学报（自然科学版），2022，49（1）：21-32．

[41] ZHOU Y， ZHAO Y， HAO G W，et al ．Vehicle load identification method based on time frequency analysis of strain signal and convolutional neural network［J］．Journal of Hunan University （Natural Sciences），2022，49（1）：21-32．（in Chinese）

[42] SCHUSTER M， PALIWAL K K ．Bidirectional recurrent neural networks［J］．IEEE Transactions on Signal Processing，1997， 45（11）：2673-2681．

基金资助

国家自然科学基金资助项目（61771410）; 四川省科技计划资助项目（2023NSFSC1373,2024NSFSC0476）; 西南科技大学博士基金项目（20zx7122,23zx7101）