基于Transformer与图注意力网络的车辆轨迹预测模型

Modeling trajectory prediction based on Transformer and graph attention network

摘要

为实现自动驾驶系统对周围车辆运动轨迹的精确预测，提出了一种基于Transformer与图注意力网络（GAT）的时空特征融合预测模型。该模型支持非欧式数据输入，具备动态适应周围车辆数量变化的特性。模型架构采用双通道特征提取机制：通过Transformer编码器捕获车辆历史轨迹的时间依赖性特征；利用GAT网络建模车辆间的空间交互关系，进而通过Transformer解码器实现时空特征的深度融合；最终由全连接层解码器输出未来轨迹预测结果。在NGSIM公开数据集上的实验结果表明：相较于LSTM-GAT基准模型，本文模型在1 s、2 s、3 s、4 s和5 s预测时域的轨迹均方根误差分别降低了13.0%、10.2%、14.3%、18.2%和21.6%；相比Transformer-CNN模型，本文模型在3 s、4 s和5 s长时域预测性能显著提升，对应误差降幅分别达27.2%、44.3%和49.4%。实验结果验证了本文模型在车辆轨迹预测任务中的有效性和优越性。

Abstract

To achieve precise prediction of surrounding vehicle trajectories for autonomous driving systems， a spatio-temporal feature fusion prediction model based on Transformer and Graph Attention Network （GAT） was proposed. Non-euclidean data input is supported by this model， and dynamic adaptation to variations in the number of surrounding vehicles is realized. A dual-branch feature extraction mechanism is adopted in the model architecture. Temporal dependency features of vehicles' historical trajectories are captured by the Transformer encoder， and spatial interaction relationships between vehicles are modeled by the GAT network. Subsequently， deep fusion of spatio-temporal features is implemented by the Transformer decoder， and prediction results of future trajectories are output by the fully-connected layer decoder. Experiments are conducted on the public NGSIM dataset. Compared with the LSTM-GAT baseline model， the trajectory root mean square errors （RMSE） of the proposed model are reduced by 13.0%， 10.2%， 14.3%， 18.2% and 21.6% at the prediction horizons of 1 s， 2 s， 3 s， 4 s and 5 s respectively. In comparison with the Transformer-CNN model， remarkable improvements in long-horizon prediction performance at 3 s， 4 s and 5 s are achieved， with corresponding error reductions of 27.2%， 44.3% and 49.4%. The effectiveness and superiority of the proposed model for vehicle trajectory prediction tasks are verified by the experimental results.

Graphical abstract

关键词

车辆工程 / 车辆轨迹预测 / 人工神经网络 / 时空特征融合 / 自动驾驶车辆

Key words

vehicle engineering / trajectory prediction / artificial neural network / spatio-temporal feature fusion / autonomous vehicles

0 引 言

车辆轨迹预测作为无人驾驶系统的关键技术，其核心方法主要可分为基于物理模型和基于数据驱动模型两类^［1］。前者通过运动学或动力学方程（如恒角速度恒加速度模型^［2］）建模车辆运动规律，具有强可解释性，但受限于模型简化假设和误差累积效应，通常仅适用于短时域预测场景。

数据驱动的轨迹预测模型依托编码器-解码器架构，有效弥补了物理方法在长时域轨迹预测中误差大的缺陷。早期基于循环神经网络（Recurrent neural network，RNN）的方法通过对车辆历史轨迹信息进行编码生成上下文向量，再经解码输出未来轨迹^［3-8］，但其序列建模中存在梯度消失/爆炸的缺陷，且长序列记忆能力有限。随着Transformer架构在自然语言处理领域取得突破性进展，其独有的自注意力机制可实现全局关联建模与多头特征子空间并行提取^［9］，为长序列依赖的精准捕捉提供了新范式。在空间交互建模方面，传统卷积神经网络（Convolutional neural network，CNN）仅具备局部感知能力，需通过堆叠多层网络结构挖掘深层关联特征，建模效率和全局适配性受限。而图神经网络（Graph neural network，GNN）可将交通场景中的车辆抽象为拓扑节点并构建交互关联拓扑图，依托全局信息传递机制有效提升车辆空间交互的建模效率。其中，引入注意力权重机制的图注意力网络（Graph attention network，GAT）^［10-12］，可动态分配相邻节点影响力权重，在车辆博弈、换道预测等复杂场景中可实现差异化交互特征聚合，成为车辆轨迹预测的主流技术路径。

在车辆轨迹预测任务中，传统神经网络（如RNN、CNN）受限于欧几里得空间数据建模能力^［12］，难以有效表征交通场景中车辆交互的非欧拓扑关系，导致两类典型局限：①通过假设固定数量的邻车存在^［3，4］或网格化编码固定区域车辆^［6，7］强制统一输入维度，前者扭曲真实场景引发误判，后者因密集交通场景计算复杂度激增而降低实用性；②基于卷积的局部交互建模需依赖深层网络堆叠以扩展感知野，仍难以覆盖全局动态交互。相比之下，图注意力网络（GAT）凭借非欧图结构建模能力，将车辆抽象为节点、交互关系映射为边，通过注意力权重分配邻域节点影响力，无需预设车辆数量或空间网格，既可保留真实场景的拓扑特性，又可通过高效的图结构计算降低模型复杂度。

针对上述问题，本文提出了一种时空特征融合的Transformer-GAT预测框架：模型采用编码器-解码器架构，输入车辆历史轨迹，通过三阶段实现时空特征联合建模。首先，引入Transformer编码器对车辆历史轨迹进行时间序列编码，捕捉长期依赖关系；其次，利用GAT对车辆间的交互关系进行建模，提取空间特征；最后，通过时空特征融合模块将时间和空间特征进行融合，并基于全连接层解码器预测未来轨迹。

1 问题描述

本文将车辆轨迹预测问题描述为基于目标车辆和周围车辆的历史轨迹信息H，建模预测未来一段时间内目标车辆的轨迹P问题。其中涉及的信息包括坐标、速度和加速度，这些信息可以通过车载摄像头、毫米波雷达、激光雷达、超声波雷达获取。

H=\left\{h_{\mathrm{0}},h_{\mathrm{1}},\dots ,h_{\mathrm{8}}\right\}（1）

h_{{}^i}=\left\{h_i^{th},h_i^{th-\mathrm{1}},\dots ,h_i^{\mathrm{0}}\right\}（2）

h_i^j=\left\{x,y,v,a\right\}（3）

式中：H为目标车辆和周围车辆的历史轨迹信息；h_i为车辆i的历史轨迹信息；h_i^j为车辆i在j时刻的轨迹信息；th为历史时域长度；x\mathrm{、}y\mathrm{、}v\mathrm{、}a分别为车辆的横坐标、纵坐标、速度和加速度。

考虑到模型的泛化性，本文选择较为复杂的九车场景进行研究。车辆编号如下：目标车辆编号为0；目标车辆正前方车辆编号为2；正后方车辆编号为7；左侧方车辆编号为4；右侧方车辆编号为5；左前方、左后方车辆编号为1和6；右前方、右后方车辆编号为3和8，车辆位置示意图如图1所示。

2 车辆轨迹预测模型构建

基于Transformer与GAT的车辆轨迹预测模型由时间序列编码模块、车辆交互编码模块、时空特征融合模块和全连接层解码器构成。模型结构如图2所示。

2.1　时间序列编码模块

利用Transformer编码器构建时间序列编码模块，此模块的输入是车辆的历史轨迹H。Transformer编码器通过多头自注意力机制，将历史轨迹映射为高维序列向量\mathit{R}。通过这一模块，模型能够捕捉车辆轨迹的时序依赖关系。具体计算过程如下所示。

自注意力机制是Transformer的核心，它通过对输入的序列乘以可学习的权重矩阵，将它映射到高维空间，分别得到查询向量\mathit{Q}、键向量\mathit{K}和值向量\mathit{V}，如式（4）所示；然后通过式（5）的点积和加权求和计算每头自注意力的输出。

\left\{\begin{array}{c}\mathit{Q}=\mathit{H}{\mathit{W}}_Q\\ \mathit{K}=H{W}_K\\ \mathit{V}=\mathit{H}{\mathit{W}}_V\end{array}\right.（4）

\mathrm{A}\mathrm{t}\mathrm{t}\mathrm{e}\mathrm{n}\mathrm{t}\mathrm{i}\mathrm{o}\mathrm{n}(\mathit{Q},\mathit{K},\mathit{V})=\mathrm{s}\mathrm{o}\mathrm{f}\mathrm{t}\mathrm{m}\mathrm{a}\mathrm{x}(\frac{\mathit{Q}{\mathit{K}}^{\mathrm{T}}}{\sqrt[]{d_k}})\mathit{V}（5）

式中：{\mathit{W}}_Q、{\mathit{W}}_K、{\mathit{W}}_V为可学习的矩阵；\mathrm{A}\mathrm{t}\mathrm{t}\mathrm{e}\mathrm{n}\mathrm{t}\mathrm{i}\mathrm{o}\mathrm{n}为自注意力机制的输出；\mathrm{s}\mathrm{o}\mathrm{f}\mathrm{t}\mathrm{m}\mathrm{a}\mathrm{x}为归一化指数函数；d_k为键向量维度。

多头注意力机制将输入序列投影到多个子空间，得到m组查询向量\mathit{Q}、键向量\mathit{K}和值向量\mathit{V}，每组向量分别计算自注意力输出，然后将这m个输出的向量拼接，经过全连接层得到多头注意力的输出，如式（6）所示。

\mathrm{M}\mathrm{u}\mathrm{l}\mathrm{t}\mathrm{i}\mathrm{H}\mathrm{e}\mathrm{a}\mathrm{d}(\mathit{Q},\mathit{K},\mathit{V})=\mathrm{C}\mathrm{o}\mathrm{n}\mathrm{c}\mathrm{a}\mathrm{t}(\mathrm{h}\mathrm{e}\mathrm{a}{\mathrm{d}}_{\mathrm{1}},\mathrm{h}\mathrm{e}\mathrm{a}{\mathrm{d}}_{\mathrm{2}},\dots ,\mathrm{h}\mathrm{e}\mathrm{a}{\mathrm{d}}_m){\mathit{W}}^O（6）

\mathrm{h}\mathrm{e}\mathrm{a}{\mathrm{d}}_i=\mathrm{A}\mathrm{t}\mathrm{t}\mathrm{e}\mathrm{n}\mathrm{t}\mathrm{i}\mathrm{o}\mathrm{n}(\mathit{Q}{W}_i^{\mathit{Q}},\mathit{K}{W}_i^{\mathit{K}},\mathit{V}{W}_i^{\mathit{V}})（7）

式中：\mathrm{M}\mathrm{u}\mathrm{l}\mathrm{t}\mathrm{i}\mathrm{H}\mathrm{e}\mathrm{a}\mathrm{d}为多头注意力机制的输出；\mathrm{C}\mathrm{o}\mathrm{n}\mathrm{c}\mathrm{a}\mathrm{t}为连接函数；\mathrm{h}\mathrm{e}\mathrm{a}{\mathrm{d}}_i为第i头自注意力输出；{\mathit{W}}^O为线性变换矩阵，用于将拼接后的多头注意力输出映射到最终输出空间；{\mathit{W}}_i^{\mathit{Q}}、{\mathit{W}}_i^{\mathit{K}}、{\mathit{W}}_i^{\mathit{V}}均为第i头自注意力中可学习的参数矩阵。

将多头注意力的输出与输入序列\mathit{H}进行残差连接，然后通过层归一化得到输出{\mathit{H}}^{\text{'}}，再通过一个线性层得到高维序列向量\mathit{R}。

\begin{array}{l}{\mathit{H}}^{\text{'}}=\mathrm{L}\mathrm{a}\mathrm{y}\mathrm{e}\mathrm{r}\mathrm{N}\mathrm{o}\mathrm{r}\mathrm{m}(\mathit{H}+\\ \mathrm{M}\mathrm{u}\mathrm{l}\mathrm{t}\mathrm{i}\mathrm{H}\mathrm{e}\mathrm{a}\mathrm{d}(\mathit{Q},\mathit{K},\mathit{V}))\end{array}（8）

\mathit{R}=\mathrm{L}\mathrm{i}\mathrm{n}\mathrm{e}\mathrm{a}\mathrm{r}({\mathit{H}}^{\text{'}})（9）

式中：\mathrm{L}\mathrm{a}\mathrm{y}\mathrm{e}\mathrm{r}\mathrm{N}\mathrm{o}\mathrm{r}\mathrm{m}为层归一化函数；\mathrm{L}\mathrm{i}\mathrm{n}\mathrm{e}\mathrm{r}为全连接线性层。

2.2　车辆交互编码模块

使用双向有向图G=(R,E)表示车辆之间的交互，其中R为时间序列编码模块输出的节点特征，E为节点之间的边（如图3和式（10）所示）。具体来说，目标车辆与周围车辆之间存在双向连接，而周围车辆之间不存在连接，以避免冗余连接。

E={\left\{e^{\mathrm{0},j}\right\}}_{\left(j=\mathrm{0,1},\dots ,m\right)}\bigcup {\left\{e^{j,\mathrm{0}}\right\}}_{\left(j=\mathrm{1,2},\dots ,m\right)}（10）

式中：E为有向图边的集合；e^{i,j}为节点i到节点j之间有一条有向边，即节点i会对节点j产生影响；\bigcup表示并集；m为周围车辆的数量。

车辆交互编码模块可以理解为车辆i的特征向量r_i通过有向边e^{i,j}对车辆j的特征向量r_j产生影响，从而使该模块输出向量I包含了交互特征。通过不同图注意力层，逐步抽象和提炼交互信息，从而得到更加准确和全面的车辆交互表示。具体计算过程如下：

首先，通过注意力机制计算节点之间的相关度，从而达到节点聚合的目的，计算公式为：

e_{ij}=\mathrm{L}\mathrm{e}\mathrm{a}\mathrm{k}\mathrm{y}\mathrm{R}\mathrm{e}\mathrm{L}\mathrm{U}({\mathit{a}}^{\mathrm{T}}\left[\mathit{W}{\mathit{r}}_i\left|\right|\mathit{W}{\mathit{r}}_j\right])（11）

式中：e_{ij}为节点i对节点j（j∈N_i）的影响力系数；N_i为节点i的邻域；{\mathit{a}}^{\mathrm{T}}为可学习参数权重向量；{\mathit{r}}_i为节点i的特征向量；\mathit{W}为可学习线性变换矩阵；\left|\right|表示拼接操作；\mathrm{L}\mathrm{e}\mathrm{a}\mathrm{k}\mathrm{y}\mathrm{R}\mathrm{e}\mathrm{L}\mathrm{U}为Leaky Rectified Linear Unit激活函数。

然后，利用式（12）对所有节点的注意力系数进行归一化处理，并通过式（13）计算节点i更新后的特征向量{\mathit{r}}_i^{\text{'}}。

{\alpha }_{ij}=\mathrm{s}\mathrm{o}\mathrm{f}\mathrm{t}\mathrm{m}\mathrm{a}\mathrm{x}\left(e_{ij}\right)=\frac{\mathrm{e}\mathrm{x}\mathrm{p}\left(e_{ij}\right)}{{\displaystyle \sum _{a\in N_i}^{}}\mathrm{e}\mathrm{x}\mathrm{p}\left(e_{ia}\right)}（12）

{\mathit{r}}_i^{\text{'}}=\mathrm{c}\mathrm{o}\mathrm{n}\mathrm{c}\mathrm{a}{\mathrm{t}}_{\mathrm{k}=\mathrm{1}}^{\mathrm{K}}\left(\sigma \left({\displaystyle \sum _{j\in N_i}^{}}{\alpha }_{ij}^k{\mathit{W}}^k{\mathit{r}}_j\right)\right)（13）

式中：\mathrm{c}\mathrm{o}\mathrm{n}\mathrm{c}\mathrm{a}{\mathrm{t}}_{\mathrm{k}=\mathrm{1}}^{\mathrm{K}}表示将K个注意力的输出沿特征维度拼接{\alpha }_{ij}为归一化的权重；N_i为节点i的邻域；{\mathit{r}}_i^{\text{'}}为使用多头注意力更新后节点i对应的向量；{\alpha }_{ij}^k为经过归一化的第k组注意力权重系数；{\mathit{W}}^k为第k组线性变换矩阵；σ为Sigmoid激活函数。

本文使用的GAT网络为了提高模型的表达能力，采用多头注意力，即使用K组注意力权重系数，每个节点会有K组向量{\mathit{h}}_i^k，通过求平均或者拼接的方式来更新节点（本文为拼接）。

最后，将第2层GAT网络中目标车辆的特征向量输入一个线性层，并通过激活函数进行处理，得到节点间的交互特征向量\mathit{I}，如下所示：

\mathit{I}=\mathrm{R}\mathrm{e}\mathrm{l}\mathrm{u}(\mathrm{L}\mathrm{i}\mathrm{n}\mathrm{e}\mathrm{a}\mathrm{r}({\mathit{r}}_{\mathrm{0}}^{″}))（14）

式中：\mathrm{R}\mathrm{e}\mathrm{l}\mathrm{u}为Rectified Linear Unit激活函数；{\mathit{r}}_{\mathrm{0}}^{″}为第2层GAT网络中目标车辆更新后的特征向量。

2.3　时空特征融合模块与全连接层解码器

利用Transformer将时间序列编码模块输出的目标车辆高维序列向量{\mathit{r}}_{\mathrm{0}}和车辆交互编码模块得到的车辆交互特征向量\mathit{I}进行时空特征融合编码。融合后的向量\mathit{C}包含了车辆的时空特征，反映了目标车辆的历史轨迹和动态变化及与其他车辆的交互关系。利用全连接层解码器，根据时空特征向量\mathit{C}预测车辆未来的轨迹P，计算公式为：

\mathit{C}=\mathrm{T}\mathrm{r}\mathrm{a}\mathrm{n}\mathrm{s}\mathrm{f}\mathrm{o}\mathrm{r}\mathrm{m}\mathrm{e}\mathrm{r}\mathrm{E}\mathrm{n}\mathrm{c}\mathrm{o}\mathrm{d}\mathrm{e}\mathrm{r}(\mathrm{C}\mathrm{o}\mathrm{n}\mathrm{c}\mathrm{a}\mathrm{t}({\mathit{r}}_{\mathrm{0}},\mathit{I}))（15）

\mathit{P}=\mathrm{F}\mathrm{C}(\mathit{C})（16）

式中：\mathit{C}为时空特征融合向量；\mathrm{C}\mathrm{o}\mathrm{n}\mathrm{c}\mathrm{a}\mathrm{t}为拼接函数；\mathrm{T}\mathrm{r}\mathrm{a}\mathrm{n}\mathrm{s}\mathrm{f}\mathrm{o}\mathrm{r}\mathrm{m}\mathrm{e}\mathrm{r}\mathrm{E}\mathrm{n}\mathrm{c}\mathrm{o}\mathrm{d}\mathrm{e}\mathrm{r}为Transformer编码器，计算过程见2.1节；\mathrm{F}\mathrm{C}为全连接层解码器。

3 模型验证

3.1　数据来源

选择NGSIM自然车辆轨迹数据集用于训练、验证和测试。该数据集由美国联邦公路管理局收集，采样频率为10 Hz，记录多维度车辆轨迹信息，如车辆坐标、速度、加速度、车辆类型和车道编号等。数据集包含4个检测路段，其中Peach和Lank为城市道路，US-101和I-80为高速公路。本文选择US-101和I-80路段车辆轨迹数据进行模型验证。

车辆轨迹可分为直行和换道两种，由于换道车辆在换道前后一般处于直行状态，所以直行数据会多于换道数据。NGSIM数据集也是如此，以车道保持数据为主，换道数据少。为了使数据集平衡，本文从NGSIM数据中筛选出的716辆变道车辆作为目标车辆，将这些车辆换道前后13 s的数据作为备选数据，由于高速公路车辆换道时间一般在5 s左右，因此备选数据的换道与直行比例将更加均衡。在备选数据中通过切片操作，将目标车辆和环境车辆的3 s轨迹作为历史轨迹H，将目标车辆5 s轨迹作为预测轨迹P，共产生了146 056个轨迹数据，将其中60%作为训练集，20%作为验证集，20%作为测试集。

3.2　参数设置

实验在NVIDIA GeForce RTX 4080SPUER GPU上进行、深度学习框架 PyTorch下实现。训练迭代周期（epochs）设定为100，批次（batch_size）为128，损失函数为均方误差（Root mean square error， RMSE），优化器为Adam，学习率（learning rate）为0.001；时间序列编码模块的Transformer层数设置为1，multi-head设置为8，d-model设置为16；车辆交互编码模块的图注意力网络设置为2层，特征维度设置为32，multi-head设置为3；时空特征融合模块的Transformer层数设置为1，multi-head设置为8，d-model设置为64。本文模型参数选择参考了类似研究中的常用配置，并结合实验验证进行优化，这样便于与其他模型进行对比。

3.3　模型性能分析

为检验Transformer-GAT模型精确性和有效性，将本文构建的Transformer-GAT与以下模型在轨迹预测时域为5 s内的预测均方根误差（见式（17））进行对比，结果如表1和图4所示。

\mathrm{R}\mathrm{M}\mathrm{S}\mathrm{E}(t)=\sqrt[]{\frac{\mathrm{1}}{n}{\displaystyle \sum _{i=\mathrm{1}}^n}\left({\left({\widehat{x}}_i^t-x_i^t\right)}^{\mathrm{2}}+{\left({\widehat{y}}_i^t-y_i^t\right)}^{\mathrm{2}}\right)}（17）

式中：\mathrm{R}\mathrm{M}\mathrm{S}\mathrm{E}为均方根误差；（x_i^t，y_i^t）为第i个样本t时刻真实的坐标；（{\widehat{x}}_i^t，{\widehat{y}}_i^t）为第i个样本t时刻预测的坐标；n为测试集大小。

（1）S-LSTM^［13］：使用社交池化层的LSTM编码器解码器模型。

（2）CS-LSTM^［6］：将S-LSTM中全连接社交池化层改为卷积社交池化层。

（3）Transformer-CNN^［7］：将CS-LSTM中LSTM改为Transformer。

（4）ADI-DCS-GRU^［14］：基于注意力机制的GRU编码解码模型。

（5）ST-LSTM^［15］：使用隐式形式估计邻车之间的交互作用并嵌入到LSTM。

（6）ST-DAN^［16］：提出一种用于车辆轨迹预测的时空动态注意力网络。

（7）LSTM-GAT：将本文模型中的Transformer改为LSTM。

由表1和图4可知：相比LSTM-GAT模型，本文Transformer-GAT模型的轨迹预测在1 s、2 s、3 s、4 s和5 s的均方根误差分别下降了13.0%、10.2%、14.3%、18.2%和21.6%。该结果表明，在本文提出的框架下，Transformer在处理长序列时，性能优于长短期记忆网络，并且随着序列变长，这种优势更加明显。相比Transformer-CNN，本文模型在3 s、4 s和5 s的均方根误差分别下降了27.2%、44.3%和49.4%；而在1 s和2 s的预测精度，本文模型略低于Transformer-CNN模型。这一现象与Transformer-CNN模型采用对称指数移动平均法滤波有关，这种方法通过平滑短期内的轨迹变化，提升了短期预测精度。然而，长期预测更依赖模型对关键动态信息的提取能力，Transformer-CNN模型在长期预测中受限于其性能，表现相对较差。相比之下，本文模型在长时域预测中表现更优，主要得益于GAT对车辆交互关系的有效建模，以及非欧数据在描述车辆交互中的优势。总的来说，本文模型在长时域预测中具有明显优势。

除了比较模型的预测精度，模型的鲁棒性也是非常重要的。NGSIM原始数据存在一定噪音，需要进行降噪处理^{［3，4，7］}提高模型性能。但现实中噪音无法避免，本文在验证Transformer-GAT模型时并未对NGSIM数据进行降噪处理，模型仍能够保持稳定的输出性能，表明模型具有较好的鲁棒性。

图5为模型在验证集上后20轮的均方根误差箱型图，可以看出，当模型收敛后，模型性能良好且稳定，5 s均方根误差大多在3.0 m以内。图6为在验证集中迭代次数与5 s均方根误差的关系，可以看出，本文模型随着迭代次数的增加，误差稳定下降，拟合效果良好，且整体优于LSTM-GAT模型。

3.4　消融实验

为验证模型搭建的合理性和各个模块对整体性能的贡献，开展消融实验：通过删除模型前3个模块中任意模块，观测轨迹均方根误差，实验结果如表2所示。从表2中可以看出：①删除车辆交互编码模块对模型性能影响最大，第5 s均方根误差为6.68 m；②删除时间序列编码模块对模型性能影响最小，第5 s均方根误差为2.66 m。这是因为，时空特征融合模块是基于Transformer搭建的，也可以进行时间序列建模，在一定程度上减轻了去掉时间序列编码模块对模型的影响；③Transformer与GAT融合建模性能最佳，Transformer不能完全替代GAT的作用；④3个模块都是模型的重要构成，去除任何一个模块模型性能都会下降。

3.5　模型时效性分析

时效性是车辆轨迹预测任务的关键指标之一。为评估模型的实时性，本文对比了两种模型的参数数量、训练时间和测试时间，结果如表3所示。其中，参数数量指模型隐藏层的参数数量，训练时间为模型训练一个周期的平均时间，测试时间为模型预测一个批次（128条轨迹数据）的平均时间。结果表明，与LSTM-GAT相比，Transformer-GAT模型的复杂度有所增加，主要原因是Transformer的结构比LSTM更复杂，参数数量更多。车辆轨迹预测任务的时效性主要由模型预测时间决定。本文模型的训练通常在后台进行，而一个批次的预测时间为0.012 8 s（12.8 ms），因此本文模型满足实时性需求。

3.6　预测结果分析

为直观描述本文模型的预测性能，基于实验数据对车辆实际轨迹和预测轨迹进行可视化展示。图7（a）为换道场景下车辆轨迹预测可视化图；图7（b）为直行场景下轨迹预测可视化图。由图7（a）（b）可知，本文Transformer-GAT模型对换道与直行场景中的目标车辆轨迹均进行了精确的预测。

为说明目标车辆决策受周围其他车辆的影响程度，本文利用注意力权重系数进行分析，实验结果如图8所示。从图8可以看出，7号车辆的权重占比最小，为2%，说明后车对目标车辆影响最小；除去7号车辆，其他车辆均对目标车辆产生了较大影响。根据驾驶人眼动数据^［17］可知，驾驶人的注视时间比率在主视区最高，左、右后视镜次之，内后视镜最低。内后视镜主要用于观察正后方情况，其注视时间比率最低，说明驾驶人注意力分配在后车最低，正后方交通情况对驾驶人影响最小，这与本文模型中后车注意力权重最低是符合的，证明了本文模型对车辆交互建模的有效性，在一定程度上增加了模型的可解释性。

4 结 论

（1）相比其他模型，本文模型的输入为非欧数据，将车辆视为节点，使用双向有向图表征车辆交互。实验结果表明：在本文模型框架中，使用GAT表征车辆空间交互，相较于CNN，3 s、4 s和5 s的均方根误差分别下降了27.2%、44.3%和49.4%，说明有向图更适合进行车辆交互建模。

（2）在本文提出的框架下，使用Transformer提取时间序列特征，相较于传统的循环神经网络，本文模型在1 s、2 s、3 s、4 s和5 s的均方根误差分别下降了13.0%、10.2%、14.3%、18.2%和21.6%，说明Transformer在本文任务中更适合处理长序列数据。

（3）通过GAT网络中的注意力机制，可以可视化车辆间的相互影响程度，从而增强模型的可解释性。这有助于理解模型如何做出预测，以及确定哪些因素在预测中起到关键作用。

参考文献

[1] Huang Y, Du J, Yang Z, et al. A survey on trajectory-prediction methods for autonomous driving[J]. IEEE Transactions on Intelligent Vehicles, 2022, 7(3): 652-674.

[2] Lytrivis P, Thomaidis G, Amditis A. Cooperative path prediction in vehicular environments[C]∥2008 11th International IEEE Conference on Intelligent Transportation Systems, Beijing, China, 2008: 803-808.

[3] 季学武, 费聪, 何祥坤, 等.基于LSTM网络的驾驶意图识别及车辆轨迹预测[J]. 中国公路学报, 2019, 32(6): 34-42.

[4] Ji Xue-wu, Fei Cong, He Xiang-kun, et al. Intention recognition and trajectory prediction for vehicles using LSTM network[J]. China Journal of Highway and Transport, 2019, 32(6): 34-42.

[5] 方华珍, 刘立, 肖小凤, 等. 混合示教长短时记忆网络的车辆轨迹预测研究[J]. 交通运输系统工程与信息, 2023, 23(4): 80-87.

[6] Fang Hua-zhen, Liu Li, Xiao xiao-feng, et al. Vehicle trajectory prediction based on mixed teaching force long short-term memory[J]. Journal of Transportation Systems Engineering and Information Technology, 2023, 23(4): 80-87.

[7] 高镇海, 鲍明喜, 高菲, 等.基于LSTM概率多模态预期轨迹预测方法[J].汽车工程, 2023, 45(7): 1145-1152, 1162.

[8] Gao Zhen-hai, Bao Ming-xi, Gao Fei, et al. The method of probabilistic multi-modal expected trajectory prediction based on LSTM[J]. Automotive Engineering, 2023, 45(7): 1145-1152, 1162.

[9] Deo N, Trivedi M M. Convolutional social pooling for vehicle trajectory prediction[C]∥IEEE/CVF Conference on Computer Vision and Pattern Recognition Workshops (CVPRW), Salt Lake City, UT, USA, 2018: 1468-1476.

[10] 吴翊恺, 胡启洲, 吴啸宇. 车联网背景下的机动车辆轨迹预测模型[J]. 东南大学学报: 自然科学版, 2022, 52(6): 1199-1208.

[11] Wu Yi-kai, Hu Qi-zhou, Wu Xiao-yu. Vehicle trajectory prediction model in the context of Internet of vehicles[J]. Journal of Southeast University(Natural Science Edition), 2022, 52(6): 1199-1208.

[12] Mo X, Xing Y, Lv C. Graph and recurrent neural network-based vehicle trajectory prediction for highway driving[C]∥International Intelligent Transportation Systems Conference (ITSC), Indianapolis, IN, USA, 2021: 1934-1939.

[13] Vaswani A, Shazeer N, Parmar N, et al. Attention is all you need[C]∥Advances in Neural Information Processing Systems, Long Beach California, USA, 2017: 5998-6008.

[14] Velickovic P, Cucurull G, Casanova A, et al. Graph attention networks[J]. Machine Learning, 2017, 1050(20): No.10903.

[15] Wu Z, Pan S, Chen F, et al. A comprehensive survey on graph neural networks[J]. IEEE Transactions on Neural Networks and Learning Systems, 2020, 32(1): 4-24.

[16] 马帅, 刘建伟, 左信. 图神经网络综述[J]. 计算机研究与发展, 2022, 59(1): 47-80.

[17] Ma Shuai, Liu Jian-wei, Zuo Xin. Survey on graph neural network[J]. Journal of Computer Research and Development, 2022, 59(1): 47-80.

[18] Alahi A, Goel K, Ramanathan V, et al. Social LSTM: human trajectory prediction in crowded spaces[C]∥IEEE Conference on Computer Vision And Pattern Recognition, Las Vegas, NV, USA, 2016: 961-971.

[19] 田彦涛, 黄兴, 卢辉遒, 等. 基于注意力与深度交互的周车多模态行为轨迹预测[J]. 吉林大学学报: 工学版, 2023, 53(5): 1474-1480.

[20] Tian Yan-tao, Huang Xin, Lu Hui-qiu,et al. Multi⁃mode behavior trajectory prediction of surrounding vehicle based on attention and depth interaction[J]. Journal of Jilin University(Engineering and Technology Edition), 2023, 53(5): 1474-1480.

[21] 黄晶, 刘祥臻, 邓潇阳, 等. 基于多模态轨迹预测的智能车轨迹规划研究[J].汽车工程, 2024, 46(6): 965-974, 1024.

[22] Huang Jing, Liu Xiang-zhen, Deng Xiao-yang, et al. Research on intelligent vehicle trajectory planning based on multimodal trajectory prediction[J]. Automotive Engineering,2024,46(6): 965-974, 1024.

[23] Chen X, Zhang H, Zhao F, et al. Intention-aware vehicle trajectory prediction based on spatial-temporal dynamic attention network for internet of vehicles[J]. IEEE Transactions on Intelligent Transportation Systems, 2022, 23(10): 19471-19483.

[24] 成英, 高利, 高鲜萍. 城市快速路驾驶人注意力分配特征变化[J]. 中国安全科学学报, 2014, 24(10): 71-76.

[25] Cheng Ying, Gao Li, Gao Xian-ping. Changes in attention allocation characteristics of drivers driving on expressway[J]. China Safety Science Journal, 2014,24(10): 71-76.

基金资助

国家重点研发计划项目(2021YFE0203600)

陕西省自然科学基金项目(2022JM-426)

陕西省交通运输厅科技项目(23-33K)

陕西省哲学社会科学研究专项项目(2025YB0425)

中央高校基本科研业务费专项资金项目(300102344203)