基于稀疏检索增强生成的城轨车辆监造智能决策方法

王超 ,  秦进 ,  郭建钦 ,  刘玉涛

中国铁道科学 ›› 2026, Vol. 47 ›› Issue (03) : 85 -96.

PDF (2148KB)
中国铁道科学 ›› 2026, Vol. 47 ›› Issue (03) : 85 -96. DOI: 10.3969/j.issn.1001-4632.2026.03.08

基于稀疏检索增强生成的城轨车辆监造智能决策方法

作者信息 +

Intelligent Decision-Making Method of Urban Rail Vehicle Manufacturing Supervision Based on Sparse Retrieval-Augmented Generation

Author information +
文章历史 +
PDF (2199K)

摘要

为提升城轨车辆监造过程中质量问题的识别效率与决策智能化水平,提出1种面向监造领域的稀疏检索增强生成(SRAG)方法。首先,对5 836条技术文献与规范进行筛选,构建包含412份权威文件的知识库及对应知识图谱;其次,采集2019—2026年共计12 248条监造记录,运用专业词典与分词技术揭示故障的时序规律、部件高频失效模式及位置与故障类型的耦合关系;最后,将监造语料与知识图谱嵌入大语言模型,搭建稀疏驱动的知识增强生成架构,实现复杂语境下的知识精准调用与语义一致决策。结果表明:传统反向传播网络(BPNN)、卷积神经网络(CNN)、循环神经网络(RNN)的语义相似度均低于0.50,T5模型可达0.73;引入知识增强后,各类主流大语言模型语义相似度均超过0.85,其中DeepSeek R1由0.92提升至0.96,ChatGPT-4o由0.88提升至0.97;相较于朴素RAG,SRAG在语义连贯性与结构一致性上均得到明显提升。该方法系统验证了稀疏检索策略在工业监造语境中的有效性与工程推广潜力,有助于推动城轨车辆监造向智能化、精准化和可持续化发展。

Abstract

To improve the identification efficiency of quality issues and the level of intelligent decision-making in the supervision process of urban rail vehicle manufacturing, a Sparse Retrieval-Augmented Generation (SRAG) method dedicated to the manufacturing supervision domain is proposed. Firstly, 5 836 technical documents and specifications were screened to construct a knowledge base consisting of 412 authoritative documents and a corresponding knowledge graph. Secondly, a total of 12 248 supervision records from 2019 to 2026 were collected, and professional lexicons combined with word segmentation techniques were employed to reveal the temporal patterns of faults, high-frequency failure modes of components, and the coupling relationships between locations and fault types. Finally, the manufacturing supervision corpus and knowledge graph were embedded into Large Language Models (LLMs) to build a sparse-driven knowledge-augmented generation architecture, enabling accurate knowledge invocation and semantically consistent decision-making in complex contexts. The results show that in terms of the semantic similarity metric, the traditional Back Propagation Neural Network (BPNN), Convolutional Neural Network (CNN), and Recurrent Neural Network (RNN) all achieve scores below 0.50, while the T5 model reaches 0.73. After introducing knowledge augmentation, all mainstream LLMs achieve semantic similarity scores exceeding 0.85. Specifically, DeepSeek R1 is improved from 0.92 to 0.96, and ChatGPT-4o is enhanced from 0.88 to 0.97. Compared with vanilla RAG, SRAG also achieves significant improvements in semantic coherence and structural consistency. This method systematically verifies the effectiveness and engineering promotion potential of the sparse retrieval strategy in the context of industrial manufacturing supervision. It helps promote the intelligent, precise and sustainable development of urban rail vehicle manufacturing supervision.

Graphical abstract

关键词

城轨车辆监造 / 智能决策方法 / 稀疏知识增强检索 / 大语言模型 / 语义相似度

Key words

Urban rail vehicle manufacturing supervision / Intelligent decision-making method / Sparse Retrieval-Augmented Generation (SRAG) / Large Language Models (LLMs) / Semantic similarity

引用本文

引用格式 ▾
王超,秦进,郭建钦,刘玉涛. 基于稀疏检索增强生成的城轨车辆监造智能决策方法[J]. 中国铁道科学, 2026, 47(03): 85-96 DOI:10.3969/j.issn.1001-4632.2026.03.08

登录浏览全文

4963

注册一个新账户 忘记密码

在国内城市轨道交通蓬勃发展的背景下,城市地铁是其核心载体1。车辆全生命周期管理的重要性日益凸显,此过程涵盖设计、部件试制、整车组装、列车调试、接口调试、预验收及售后质保等多个关键阶段2。车辆监造信息化推动了过程管控的数字化转型,通过现场规范化记录,每个项目形成超2 000条监造数据,涵盖质量情况、处理措施、问题关闭状态、检查类别、生产工序等核心字段。值得注意的是,数据中最关键的“质量情况”字段,多以口语化表述记录生产中的具体问题。例如,2019年10月10日南京地铁2号线西延线列车(编号099100)的厂外供应商首鉴记录中存在“风机接线盒翻边有毛刺”等典型表述。随着数据规模的持续增长,海量口语化记录下,人工查询历史质量问题并将经验迁移至后续项目的工作量激增,查询效率与准确性面临显著挑战。
近年来,大语言模型(Large Language Model,LLM)作为1种大数据时代的标志性技术已不断向各个领域发展3-7。LLM通常通过大规模无监督预训练、有监督微调以及基于人类价值对齐的强化学习等阶段构建而成,在信息抽取、机器翻译、智能问答等任务中展现出卓越的性能。然而,由于LLM的训练语料主要来源于互联网的公开数据集,对于诸如地铁车辆监造等企业内部的专有知识,其建模能力和泛化效果仍显不足,直接应用往往难以满足工业场景的精确性与可靠性要求8-10。基于此,Lewis等11提出检索增强生成(Retrieval-Augmented Generation,RAG)方法,通过集成外部知识检索机制,能够在生成过程中动态获取并更新所缺失或遗忘的信息,从而同时提升输出内容的准确性与时效性。与仅依赖内部参数存储知识的传统语言模型相比,RAG具备更强的可控性、解释性以及灵活轻量的部署特性,因此已成为增强语言模型知识能力与生成质量的关键研究方向之一12。然而,朴素RAG13以固定长度文本块进行向量化存储14,导致其难以保留监造数据中隐含的语义关联,例如“风机接线盒翻边有毛刺”等口语化质量记录往往与工序、部件编号及处理措施等信息紧密关联,但朴素RAG仅依靠相似度检索难以捕捉此类上下文关系,进而导致生成结果不准确、解释性不足。此外,随着监造数据量激增,固定分块机制还易造成检索延迟与信息丢失,限制了其在复杂工业知识场景下的应用效果15
本文针对城轨车辆监造场景中专业术语稀疏与表达异构的挑战,提出1种面向监造领域的稀疏检索增强生成(Sparse Retrieval-Augmented Generation,SRAG)方法。该方法融合领域知识图谱,通过集成BM25稀疏检索与语义密集检索,有效平衡关键术语的精确匹配与上下文语义的泛化理解;同时结合时序质量特征与历史专家样本,增强模型的情境感知与逻辑推理能力。

1 数据收集与处理

1.1 专家知识库概况

为保证数据样本获取的完整性与科学性,对城轨车辆监造领域的技术规范与标准文档进行检索。首先,以“城轨车辆”“轨道交通”“车辆监造”“质量控制”“安全评估”等关键词组合,通过“中国知网(CNKI)”“万方数据”“工程索引(EI)”等专业学术数据库进行检索;其次,访问中国国家标准化管理委员会(SAC)、铁路车辆标准化技术委员会(TC 155)以及相关行业协会的官方网站,检索最新的技术规范、行业标准、检测规程等文件;然后,调研走访南京、深圳等地的地铁运营公司,收集其发布的技术文件、质量管理体系文件及相关技术报告;最后,借助必应搜索引擎进行补充检索,以确保文献资源覆盖全面。

通过以上数据获取方法,共检索到约5 836条与城轨车辆监造相关的技术文档。为确保样本的针对性与有效性,对检索结果进行时间过滤、关键词匹配、相关性判定及人工校对等多轮筛选。最终,得到412份具有明确相关性、完整性和权威性的技术规范、标准文档、专著等资料,作为后续研究的知识基础。

1.2 数据集组成

数据采集时间为2019年10月4日—2026年4月15日,覆盖南京市城轨车辆7年间的质量监造问题文本。该数据集来源于城市轨道交通车辆监造过程的实际记录,蕴含大量真实且宝贵的工程实践知识与故障信息,共有原始记录数据12 248条,数据集中1条典型的有效监造记录示例见表1

由于大部分数据为技术人员口头记录,虽有统一标准规范,但不同人员、不同项目的记录特征和数量均存在明显差异,存在口语化、非结构化特点,属于典型的多源异构数据集,直接利用这些原始数据进行分析面临巨大挑战。因此,需着重开展探索性数据分析,挖掘潜在的质量风险模式、故障关联性以及时间趋势等特征。

1.3 数据预处理及探索性分析

对文本进行分词处理时,使用基于Python编程语言的第三方库Jieba包,并结合自定义的专业术语词典,对“故障情况”文本进行分词处理,以提高分词的准确性和召回率。部分分词结果见表2

完成“故障情况”文本的分词处理后,为识别城轨车辆监造中的关键问题实体及故障模式,对分词结果进行了高频词统计,结果如图1所示。对部件专业名词进行频率统计时,剔除词频仅为1次的低频项,以聚焦重复性问题。同时统计故障位置及类型,结果如图2所示。

地铁监造过程位置与故障之间的相关性分析矩阵如图3所示,直观呈现了不同位置与故障类型的关联度,反映特定位置容易出现特定类型故障的规律。

综合图1图3的统计与分析结果,城轨车辆监造数据呈现出显著的知识稀疏特征,具体表现在以下3个方面。

(1)语义层面稀疏性。图1故障类别中“门”(1 478次)、“油漆”(1 412次)、“二位端”(1 241次)等高频类别占据主导,而大量故障类别频次极低,形成长尾分布。同时,口语化表述与非结构化记录占比高,同类故障在不同项目、不同人员记录中存在大量异形词、同义表达及语义模糊问题(如不规范、不到位、不一致等),导致有效知识难以直接聚合。

(2)字段层面稀疏性。图2故障位置中“二位端”(1 234次)、“司机室”(946次)、“侧顶板”(559次)等少数位置频次集中,而“两侧压轮”(129次)、“逃生门”(163次)等位置样本稀少。除“故障情况”外,其余结构化字段(如“故障等级”“检查类别”“关闭情况”等)信息密度不均,部分样本存在缺失或记录冗余,形成高维低密度的数据矩阵。

(3)关系层面稀疏性。图3位置与故障类型间的耦合分布极不平衡。以靠板超限为例,对数关联度高达2.305(对应约202次),而多数位置-故障组合的数值接近于0或无。高频部件集中于低压箱、靠板、司机室等少数关键系统,而长尾部件关联样本极少,使得知识图谱中节点连接度分布呈现典型的幂律特征。

上述多层次知识稀疏问题不仅增加了模型对隐含规律的学习难度,也削弱了传统密集检索对局部知识的捕获能力。因此需借助所提稀疏知识增强检索机制,在低频、高分散的信息空间中更精准定位隐性知识,提升LLM在监造决策场景下的知识利用效率与语义解释性。

2 决策模型构建

2.1 模型原理

2.1.1 大语言模型

LLM是1种基于深度学习的自然语言处理模型,具有大规模参数、强泛化能力和多任务处理等特点16-18。其核心是通过Transformer架构和自注意力机制捕捉文本序列中的长距离依赖关系,从而适用于处理复杂的自然语言理解和生成任务19。由于文本决策任务存在语义复杂性和表述多样性特征,通过LLM将输入文本在不同语义层次上的信息提取出来,建立从输入到决策输出的端到端映射关系,揭示文本在不同抽象层次上的语义特征,从而为后续的决策生成、语义理解和文本评估提供基础。

2.1.2 稀疏检索增强生成

检索增强生成(RAG)是1种结合检索和生成模型的混合架构20,通过动态引入外部知识来增强LLM的生成能力1121。然而,在专业领域应用中,朴素RAG面临两大挑战:一是LLM在专业领域的回答往往不尽如人意,存在知识时效性、术语精确性和推理可靠性等问题;二是口语化的问题表达有效信息高度稀疏多态,导致传统检索方法难以在低频、高分散的信息空间中精确定位关键隐性知识22

在专业领域应用中,传统检索增强生成方法面临知识时效性、术语精确性和推理可靠性等挑战,且口语化的问题表达导致传统检索难以精确定位关键隐性知识针对上述问题。因此,提出1种稀疏检索增强生成(SRAG)方法,其在既有稀疏检索方法的理论框架之上结合BM25稀疏检索与语义密集检索策略,并针对城轨车辆监造这一专业领域的数据特征进行优化与验证。核心关注点为探讨该融合策略在口语化、非结构化且领域术语分散的监造语料中,实现高精度知识定位与高相关性召回的可行性与实际效果。

SRAG由检索器、生成器与交互器3个核心模块组成。其中,检索器负责在外部知识库中定位与查询最相关的文档子集,为LLM提供知识支撑。朴素RAG的检索器主要依赖密集检索,即将查询与文档映射为高维语义向量,通过Transformer编码器计算相似度得分,具体过程如下。

qemb=Eq(q)
di,emb=Ed(di)
s(q, di)=qembdi,emb

式中:q为用户输入的查询语句;di为外部知识库中的第i个文档;Eq(·)和Ed(·)分别为针对查询和文档的Transformer编码器函数;qemb为查询映射后的高维语义向量;di,emb为文档di映射后的高维语义向量;sq,di)为查询与文档之间的语义相似度得分。

RAG方法在语义层面表现优异,但在面对领域知识稀疏、表达不统一的专业文本时,容易出现高语义相似但低逻辑相关的匹配问题。

为克服上述局限,SRAG方法的检索器在传统密集检索的基础上进行了显著的“稀疏检索增强”改进。其核心在于融合并优化了多种检索策略,以精确定位稀疏语料中的关键专业信息。区别于纯粹的密集检索,SRAG检索器采用混合评分机制,不仅考虑查询与文档的语义相似度,更引入了基于词法或结构特征的稀疏检索指标BM25。对于查询q包含的词条q1,q2,,qm,文档集合D的BM25得分为

FBM25(q, dret)=i=1mfIDF(qi)(k1+1)f(qi, dret)f(qi, dret)+k11-b+bdretlavg

其中,

fIDF(qi)=lgN-n(qi)+0.5n(qi)+0.5+1

式中:m为查询q中包含的词条总数;dret为当前待检索的文档向量;k1为调节因子(饱和度参数);b为长度归一化因子;fqi,D)为查询词在文档中的词频;lavg为语料库中所有文档的平均长度;N为语料库中总文档数;nqi)为包含查询词qi的文档数,即文档频率;0.5为拉普拉斯平滑项取值,用于规避对数运算的数值奇点,同时优化罕见词的IDF权重。

在进行词条检索的同时计算密集得分和BM25得分,将其融合成1个最终排名得分。稀疏知识增强检索器的融合检索算法具体步骤为:首先,设定融合权重参数α[0,1],初始化BM25参数,设置调节因子k11.2,长度归一化因子b0.75;然后,遍历文档集合D中的每个文档d,依次计算密集检索得分和稀疏检索得分,并通过加权融合方式得到最终得分;最后,根据融合得分对所有文档进行降序排序,选取前k个得分最高的文档构成候选文档子集D*。密集检索得分sdenseq,d)、稀疏检索得分sBM25q,d)和最终得分sq,d)分别为

sdense(q, d)=ffEnc(q),  fEnc(d)
sBM25(q, d)=tqFBM25(t, d)
s(q, d)=αsdense(q, d)+(1-α)sBM25(q, d)

式中:α为融合权重参数,用于平衡密集检索与稀疏检索的贡献;fEnc(·)为语义编码函数;t为查询语句q中的分词词条。

此种检索器机制显著改善了其在知识稀疏场景中的信息定位性能。具体而言,SRAG在城轨车辆监造语料中表现出以下优势。

(1)BM25强化了对专业术语及长尾词条的权重分配,使低频但关键的部件名、工序名能够被优先召回。

(2)密集检索保持了语义理解的整体一致性,避免了仅依靠关键词匹配带来的语境断裂。

(3)在后续生成阶段,SRAG通过交互器筛选并动态调整检索文档权重,使生成器在整合外部知识时能够保持决策逻辑的上下文一致性,有效规避了朴素RAG中常见的“信息拼接”或“决策跳跃”现象。

RAG框架下生成器负责基于查询q和检索到的文档Dr,通过自回归生成机制输出符合人类表达习惯的答案。生成模块通常由LLM实现,遵循链式概率法则,逐词预测答案序列。

P(y)=i=1NP(wi | w1,w2,,wi-1)

其中,

y={w1,w2,,wN}

式中:N为序列长度;y为生成的答案序列。

每一步Pwi | w1,w2,,wi-1)由LLM的注意力机制动态计算,确保生成序列的语义连贯性。

SRAG方法下生成概率需同时依赖查询q、检索文档Dr及已生成内容y1i-1。与朴素RAG相比,SRAG的生成过程在每步输出中同时考虑“上下文语义连贯”与“外部知识精度”,可实现语义生成与知识调用的平衡。整体概率为

PRAG(y | Q)dDrpη(d | q)pθ(wi | q,d,y1i-1)

式中:Dr为检索到的文档集;Q为查询向量;pηd | q)为检索模块输出的文档概率分布,反映文档d与查询q的相关性,pη(d | q)exp(Qdret)pθyi | q,d,y1i-1)为LLM参数化的条件生成概率,控制当前词wi的生成。

交互器组织检索器提供相关文档,而生成器利用这些文档生成答案。通过研究检索文档集合对生成器和整个端到端系统的影响,最终得到检索器应提供给生成器的最佳文档集合Dr*,以最大化系统的有效性。

2.2 建模过程

建模过程以LLM为核心框架,结合数据集、知识库与稀疏知识增强检索展开。其主要思想为通过对比2种不同模型的建构路径,评估知识增强对智能决策系统的实际价值,模型架构如图4所示。

LLM作为模型的主体,承担了自然语言理解与决策生成的核心任务。依托于其深度学习与语义建模能力,LLM能够处理监造过程中的非结构化问题表述,并建立输入与输出的语义映射,从而为自动化的质量问题识别与处理建议提供支撑。

所有模型均基于同一数据集进行训练,以保证比较的公平性。在此基础上,差异体现在知识的调用方式上:一类模型直接基于LLM进行推理与输出;另一类模型则通过SRAG与知识库结合,引入外部知识增强环节。该知识库汇聚了规范文件、标准要求与专家经验,形成了结构化的领域语义网络。

2.3 模型性能评价

该模型的输出是自然语言指令,用于指导特定行动或决策。由于模型输出的表述可能与参考文本在字面上不同,但在语义上应当一致,因此,选择3个面向语义相似度的评估指标23:语义余弦相似度(CS24、基于BERT的F1分数(BF125-26以及基于最长公共子序列的F1分数(RF127

语义余弦相似度基于句子嵌入计算,可捕捉文本的整体语义相似度,对表述变化具有鲁棒性,用于评估模型输出与参考文本的决策意图一致性。该度量反映2个文本在语义空间中的距离,取值越接近1,表明语义一致性越高;其聚焦文本整体语义,对同义词替换、句式调整不敏感,可在不受表述细节限制的前提下,验证模型输出的决策意图是否符合预期。试验使用预训练的句子编码器Sentence-BERT将文本转换为高维向量,进而计算向量间的CS

具体地,基于语义相似度的模型性能评价流程为:首先,初始化选定的预训练句子编码器与BERTScore计算模型;其次,遍历模型输出文本集合Y与参考文本集合R中的每个样本,Y=y1,y2,,yn},R=r1,r2,,rn},依次计算每个样本i的余弦相似度CSi,并基于BERT编码器计算yiri的词级匹配分数,得到样本iBF1i,计算yiri的最长公共子序列长度,得到样本iRF1i;最后,取3个指标在全部样本上的平均值,返回指标集合{CS,BF1,RF1}。样本i的余弦相似度CSi

CSi=e(yi)e(ri)e(yi)e(ri)

式中:i为样本序号;eyi)和eri)分别为yiri的编码向量。

BF1基于预训练BERT模型的上下文词嵌入特征计算,可平衡模型输出关键词的覆盖度(如“整改”和“要求详情”是否出现)和冗余度,适合评估决策关键元素的完整性,可从词的细粒度层面评估语义匹配效果,对同义词和近义词的鲁棒性强;该指标更强调关键决策元素不缺失,但计算开销较大,其具体计算方法如下。

首先,初始化加载预训练BERT模型,并设定相似度度量。然后,遍历全部n个样本,对于每个样本i,对模型输出yi与参考文本ri分别进行分词,并利用BERT模型获取每个词的上下文嵌入向量hyi)和hri)。接着,计算词级相似度矩阵并基于该矩阵分别计算精确率和召回率。在此基础上计算该样本的BF1, i。遍历结束后,取所有样本分数BF1, i的平均值作为整体BF1指标。词级相似度矩阵Sjk和样本iBF1, i分数分别为

Sjk=cosh(yij),h(rik)
BF1,i=2PB,iRB,iPB,i+RB,i

其中,

PB,i=1yij=1yimax1kriSjk,i
RB,i=1rik=1rimax1jyiSjk,i

式中:hyij)为模型输出文本yi中第j个标记(token)的向量;Sjki 为第i个样本中模型输出文本第j个token与参考文本第k个token的词级语义相似度;yi为模型输出文本的分词长度,即token的数量;PB,iRB,i为第i个样本基于BERTScore的精确率和召回率。

RF1基于最长公共子序列(LCS)计算,能够在词级别上捕捉文本间的顺序匹配,特别适合评估模型输出中关键决策元素的覆盖度和准确性。其对词序变化具有一定鲁棒性,强调信息覆盖和结构一致性;计算高效,但忽略深层语义,仅基于词匹配,因此在同义表达不同的情况下效果有限。ROUGE-L与CS和BERTScore形成互补,能够更好地表征决策指令的结构正确性。具体地,基于ROUGE-L的RF1分数计算方法如下。

首先,遍历全部n个样本,对每个样本i计算模型输出yi与参考文本ri之间的最长公共子序列长度L(yi,ri)。然后,根据最长公共子序列长度分别计算精确率PR,i和召回率RR,i。在此基础上,计算该样本的RF1, i分数。遍历结束后,取所有样本RF1, i分数的平均值作为整体RF1, i指标。其计算式为

RF1,i=2PR,iRR,iPR,i+RR,i

其中,

PR,i=L(yi,ri)yi
RR,i=L(yi,ri)ri

式中:Lyi,ri)为模型输出yi与参考文本ri的最长公共子序列长度;yiri分别为两者的分词长度;PR,iRR,i分别为第i个样本基于ROUGE-L的精确率和召回率。

3 实例分析

为全面验证所提方法的有效性与适用性,设计了2组试验,分别针对不同研究目标展开。第1组试验聚焦于多类型模型在监造数据处理中的性能差异,涵盖从传统神经网络模型到先进的大语言模型,并在统一的RAG机制下进行对比。第2组试验则围绕SRAG机制展开,通过对比DeepSeek R1与GPT系列模型在“原始”“RAG增强”“SRAG增强”3种模式下的表现,系统评估SRAG在专业知识检索与智能决策生成中的改进效果。

3.1 数据来源

数据集来自1.3节经过预处理的城轨车辆监造实际记录,共12 248条有效文本样本。采用7∶3比例划分训练集与验证集。在传统深度学习模型配置方面,统一设置如下:学习率为0.001;批量大小为32个;训练轮次为500次;损失函数采用交叉熵损失函数;优化器采用Adam算法(其中β₁=0.9,β₂=0.999,ε=1e-8);网络权重采用Xavier初始化方法;梯度裁剪阈值为5.0,用于避免梯度爆炸;Dropout比例为0.5,以抑制过拟合。在统一训练框架下,不同模型仍具有各自独立的结构与参数配置。

试验环境基于Ubnutu 22.04操作系统,深度模型训练在配备NVIDIA A100 GPU的服务器上完成,主要实现框架为PyTorch,语言环境为Python 3.12。大语言模型部分通过官方API调用完成。

3.2 模型对比试验

3.2.1 试验设计

本试验用于开展不同模型的多层次性能对比分析。BP,CNN与RNN等传统深度学习方法用于提供基准性能;CNN+LSTM28可提升时序特征的建模能力;T529作为传统深度学习方法与新一代大模型对比参照;DeepSeek R130,ChatGPT-4o31和Gemini 2.532作为代表性大语言模型,能够进行更复杂的语义理解与推理。

为使传统判别式分类模型(如BPNN,CNN,RNN及其混合结构CNN+LSTM)能够与生成式模型进行公平对比,本研究提出了1种基于“标签-文本模板”映射体系的对比方法。传统分类模型将输入文本映射为离散标签,无法直接生成自然语言文本,难以与生成式模型在语义输出层面进行比较。通过构建标准化的文本模板,将分类标签转化为语义完整、结构规范的决策文本,模型输出的标签可以通过这一体系转化为实际应用中的决策语句。

该方法通过预定义的文本模板,确保了分类模型的输出可生成符合工程决策需求的自然语言文本。模板设计遵循语义对齐性、形式一致性、结构规范性和工程语域适配性等原则,确保生成文本在长度、风格、结构等方面与生成式模型具有可比性,同时保留了决策文本的必要语义成分,并符合工程领域的表达习惯。此方案为传统分类模型输出的文本提供了标准化接口,使得不同模型在语义一致性评估中可以进行公平比较。

应用该方法时,首先对输入的原始问题文本进行预处理,将其转换为适合分类模型处理的特征。具体参照1.3节所述流程完成文本分词,把原始文本切分为有效词汇与词组,提取关键信息,减少分类模型的处理难度,并提高对核心特征的识别能力。完成预处理的文本特征输入分类器后,即可完成预测并输出相应的分类标签。

3.2.2 试验结果

表3展示了各模型的性能指标得分情况。由表3可知,不同类型的模型在文本处理任务上表现出明显的性能差异,传统分类模型在各项评估指标上的表现相对有限,LLM的表现则达到了新的高度,DeepSeek R1,ChatGPT-4o和Gemini 2.5这3个模型的各项指标均超过传统模型,其中ChatGPT-4o在CS上达到0.93的最高分,展现出较好的语言理解和生成能力。

图5展示了各模型在不同评价指标下的表现情况。由图5可知:Gemini2.5的CSBF1指标分数较高,分别为0.90和0.81,但其RF1表现相对较弱,呈现出一定的不均衡性;ChatGPT-4o的BF1指标达0.94,展现出较强的语义匹配与生成能力;DeepSeek R1在3个指标上均保持领先水平,表现出较为均衡且突出的优势。这说明大语言模型在整体指标上显著优于其他对比模型。

3.3 SRAG增强试验

3.3.1 试验设计

本试验聚焦于DeepSeek R1和ChatGPT-4o这2类整体表现较优的代表性大语言模型。为系统评估SRAG的改进效果,分别设定3种运行模式:①不调用外部知识,仅依赖训练语料进行推理;②引入通用检索增强生成机制,从知识库中调用相关文档作为外部支持;③采用所提稀疏检索增强生成机制,在融合稀疏检索与语义检索的基础上,从412篇领域相关资料中精确提取高价值文档,提升知识定位与利用效率。

3.3.2 试验结果分析

2种模型在不同增强模式下的性能对比结果见表4。由表4可得出如下结论。

(1)引入外部知识库的增强生成方法在不同程度上改善了模型的事实准确性,但各方法对生成质量的影响呈现差异化特征。在事实准确性指标上,RAG与SRAG模式相较原始基线均显著提升,具体而言DeepSeek-R1经朴素RAG增强后,算法得分由0.92提升至0.95;ChatGPT-4o在SRAG模式下算法得分达0.97,为所有设置中的最优水平,验证了检索增强生成机制补充知识盲区、抑制事实性幻觉的有效性。

(2)增强方法对文本语义连贯性与流畅度的负面影响存在分化。RAG模式下DeepSeek-R1的BF1由0.83降至0.81,其RF1由0.87降至0.85;SRAG 模式下这2项指标又分别回升至0.88和0.89。ChatGPT-4o的这2项指标也呈现相同的规律。这一现象可能源于检索文档与问题语境的语义错配或信息整合过程中的冗余表述,而SRAG等高阶检索策略可有效缓解此类负面影响。

为深入理解不同模型变体在实际应用中的表现差异,进一步分析故障处理决策场景中的典型案例。不同ChatGPT-4o模型变体在故障处理决策场景下的对比如图6所示。由图6可知:ChatGPT-4o基础模型在处理复杂故障时显示出决策逻辑的不一致性,特别是在故障严重程度评估方面存在偏差;ChatGPT-4o+RAG模式虽然通过引入外部知识改善了信息获取能力,但在决策链条的逻辑连贯性方面仍存在挑战,可能导致过度依赖检索信息而忽略上下文的整体性,这与其在BERTScore/ROUGE-L上的下降表现一致;ChatGPT-4o+SRAG模式在故障定级准确性、处理决策合理性以及语义连贯性方面均表现出显著优势,能够更好地平衡外部知识与内在推理能力。

图7展示了基于DeepSeek R1模型变体的相应对比结果。由图7可知:DeepSeek R1基础模型在故障处理的系统性分析方面展现出相对优势,但在专业领域知识的准确性上存在不足;DeepSeek R1+RAG模式扩展了知识覆盖范围,但可能引入噪声信息,影响决策效率并降低语义连贯性;DeepSeek R1+SRAG模式通过精确的知识筛选与整合机制,不仅恢复了生成流畅度,还实现了故障处理决策的更优决策。

4 结 语

地铁车辆在建设与运营中的全生命周期监造逐渐成为保障质量与安全的关键环节。然而,监造数据量大、异构性强,传统人工检索与分析难以满足需求,亟须智能化方法提升效率与准确性。针对这一需求,本文提出了1种融合稀疏匹配与密集检索的增强生成方法(SRAG)。该方法在准确性指标上实现0.04~0.07的平均提升,同时有效缓解了在语义连贯性上的退化。

未来研究可从以下2个方面展开:一是扩展知识库规模,结合传感器监测数据、维保记录等多源异构数据,提升模型对全生命周期的覆盖能力;二是探索跨模态知识增强,将图像、视频等非结构化信息纳入检索与决策体系。通过这些方向的拓展,可望推动城轨车辆监造向智能化、精准化和可持续化发展。

参考文献

[1]

张贵忠,杜彦良,高阳,.多层次轨道交通服务城市(群)发展研究[J].中国工程科学202527(4):199-209.

[2]

ZHANG GuizhongDU YanliangGAO Yanget al. Development of Urban Service Function of Multi-Level Rail Transit in Cities (Clusters) [J]. Strategic Study of CAE202527 (4): 199-209. in Chinese

[3]

全国城市客运标准化技术委员会. GB/T 38707—2020 城市轨道交通运营技术规范 [S].北京:中国标准出版社,2020.

[4]

Urban Passenger Transport. GB/T 38707—2020 Regulation for Operation Technology of Urban Rail Transit [S]. Beijing: Standards Press of China, 2020. in Chinese )

[5]

WANG Y TPAN Y HYAN Met al. A Survey on ChatGPT: AI-Generated Contents, Challenges, and Solutions [J]. IEEE Open Journal of the Computer Society20234: 280-302.

[6]

林文广,沈凡,肖人彬.面向产品创新设计的多模态专利数据驱动的专业大模型构建[J/OL].机械工程学报2026(2025-11-26)[2026-04-20].

[7]

LIN WenguangSHEN FanXIAO Renbin. Research on the Construction Method of a Multi-Modal Patent Data-Driven Professional Large Language Model for Product Innovation Design [J/OL]. Journal of Mechanical Engineering2026 (2025-11-26) [2026-04-20]. in Chinese

[8]

王晓,张翔宇,周锐,.基于平行测试的认知自动驾驶智能架构研究[J].自动化学报202450(2):356-371.

[9]

WANG XiaoZHANG XiangyuZHOU Ruiet al. An Intelligent Architecture for Cognitive Autonomous Driving Based on Parallel Testing [J]. Acta Automatica Sinica202450 (2): 356-371. in Chinese

[10]

FAN L LGUO CTIAN Y Let al. Sora for Foundation Robots with Parallel Intelligence: Three World Models, Three Robotic Systems [J]. Frontiers of Information Technology & Electronic Engineering202425 (7): 917-923.

[11]

JIN HLEE SSHIN Het al. Teach AI How to Code: Using Large Language Models as Teachable Agents for Programming Education [C]// Proceedings of the 2024 CHI Conference on Human Factors in Computing Systems. USA: Association for Computing Machinery, 2024: 1-28.

[12]

KANDPAL NDENG HROBERTS Aet al. Large Language Models Struggle to Learn Long-Tail Knowledge [C]// Proceedings of the 40th International Conference on Machine Learning. USA: Association for Computing Machinery, 2023: 15696-15707.

[13]

车万翔,窦志成,冯岩松,.大模型时代的自然语言处理:挑战、机遇与发展[J].中国科学:信息科学202353(9):1645-1687.

[14]

CHE WanxiangDOU ZhichengFENG Yansonget al. Towards a Comprehensive Understanding of the Impact of Large Language Models on Natural Language Processing: Challenges, Opportunities and Future Directions [J]. Scientia Sinica Informationis202353 (9): 1645-1687. in Chinese

[15]

田永林,王雨桐,王兴霞,.从RAG到SAGE:现状与展望[J].自动化学报202551(6): 1145-1169.

[16]

TIAN YonglinWANG YutongWANG Xingxiaet al. From Retrieval-Augmented Generation to SAGE: the State of the Art and Prospects [J]. Acta Automatica Sinica202551 (6): 1145-1169. in Chinese

[17]

LEWIS PPEREZ EPIKTUS Aet al. Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks [C]// Proceedings of the 34th International Conference on Neural Information Processing Systems. USA: Association for Computing Machinery, 2020: 9459-9474.

[18]

袁乐,刘绍华,王禹,.大语言模型检索增强生成优化技术研究综述[J].计算机学报202649(2):383-422.

[19]

YUAN LeLIU ShaohuaWANG Yuet al. A Comprehensive Review of Optimization Techniques in Retrieval-Augmented Generation for Large Language Models [J]. Chinese Journal of Computers202649 (2): 383-422. in Chinese

[20]

GAO YXIONG YGAO Xet al. Retrieval-Augmented Generation for Large Language Models: a Survey [J]. arXiv preprint arXiv:2023.

[21]

宋宇昕,柳林,王海龙,.面向检索粒度的检索增强生成技术研究综述[J].数据分析与知识发现202610(2):23-40.

[22]

SONG YuxinLIU LinWANG Hailonget al. A Survey of Retrieval Granularity in Retrieval-Augmented Generation [J]. Data Analysis and Knowledge Discovery202610 (2): 23-40. in Chinese

[23]

吴璇,付涛.检索增强生成技术研究综述[J].计算机工程与应用202561(20):19-35.

[24]

WU XuanFU Tao. Comprehensive Review of Retrieval-Augmented Generation [J]. Computer Engineering and Applications202561 (20): 19-35. in Chinese

[25]

YANG L YCHEN H YLI Zet al. Give Us the Facts: Enhancing Large Language Models with Knowledge Graphs for Fact-Aware Language Modeling [J]. IEEE Transactions on Knowledge and Data Engineering202436 (7): 3091-3110.

[26]

WEI J, TAY Y, BOMMASANI Ret al. Emergent Abilities of Large Language Models [J]. arXiv preprint arXiv:2022.

[27]

XIA Y JCHEN Y HZHAO Y Xet al. FCLLM-DT: Enpowering Federated Continual Learning with Large Language Models for Digital-Twin-Based Industrial IoT [J]. IEEE Internet of Things Journal202512 (6): 6070-6081.

[28]

DEVLIN JCHANG M WLEE Ket al. Bert: Pre-Training of Deep Bidirectional Transformers for Language Understanding [C]// Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies. Minnesota: Association for Computational Linguistics, 20191: 4171-4186.

[29]

WELLAWATTE G PGUO H XLEDERBAUER Met al. ChemLit-QA: a Human Evaluated Dataset for Chemistry RAG Tasks [J]. Machine Learning (Science and Technology)20256 (2): 020601.

[30]

CUCONASU FTRAPPOLINI GSICILIANO Fet al. The Power of Noise: Redefining Retrieval for RAG Systems [C]// Proceedings of the 47th International ACM SIGIR Conference on Research and Development in Information Retrieval. USA: Association for Computing Machinery, 2024: 719-729.

[31]

PICHAPPAN P. Adaptive and Enhanced Retrieval Augmented Generation (RAG) Systems: a Summarised Survey [J]. Journal of Digital Information Management202523 (3): 190-195.

[32]

DAVOODIJAM EALAMBARDAR MEYBODI M. Evaluation Metrics on Text Summarization: Comprehensive Survey [J]. Knowledge and Information Systems202466 (12): 7717-7738.

[33]

DADA I DAKINWALE A TTUNDE-ADELEKE T. A Structured Dataset for Automated Grading: from Raw Data to Processed Dataset [J]. Data202510 (6): 87.

[34]

ZHANG TKISHORE VWU Fet al. Bertscore: Evaluating Text Generation with BERT [C]// ICLR 2020 Confernce and Blind Submission. USA: OpenReview, 2025.

[35]

LIU Y. Fine-Tune BERT for Extractive Summarization [J]. arXiv preprint arXiv: 2019.

[36]

LIN C Y. ROUGE: a Package for Automatic Evaluation of Summaries [C]// Text Summarization Branches out. USA: Association for Computational Linguistics, 2004: 74-81.

[37]

LUAN Y DLIN S F. Research on Text Classification Based on CNN and LSTM [C]// 2019 IEEE International Conference on Artificial Intelligence and Computer Applications (ICAICA). New York: IEEE Press, 2019: 352-355.

[38]

RAFFEL CSHAZEER NROBERTS Aet al. Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer [J]. Jornal of Machine Learning Research202021 (140): 1-67.

[39]

GUO DYANG DZHANG Het al. DeepSeek-R1: Incentivizing Reasoning Capability in LLMS via Reinforcement Learning [J]. arXiv preprint arXiv: 2025.

[40]

ISLAM RMOUSHI O M. GPT-4o: the Cutting-Edge Advancement in Multimodal LLM [C]// Intelligent Computing-Proceedings of the Computing Conference. Cham: Springer, 2025: 47-60.

[41]

COMANICI GBIEBER ESCHAEKERMANN Met al. Gemini 2.5: Pushing the Frontier with Advanced Reasoning, Multimodality, Long Context, and Next Generation Agentic Capabilities [J]. arXiv preprint arXiv:2025.

基金资助

中国城市轨道交通协会2022年度科研重点专项课题(CAMET-KY-2022105)

AI Summary AI Mindmap
PDF (2148KB)

4

访问

0

被引

详细

导航
相关文章

AI思维导图

/