近年来,ChatGPT,Claude和DeepSeek等大模型掀起技术变革浪潮,其强大的自然语言处理和数据解析能力,已广泛应用于医疗
[1]、电力
[2]等领域。然而,传统的通用大模型在复杂工程领域应用时仍存在局限性,通用模型在专业内容生成过程中准确性不足,常出现“幻觉”现象
[3]。因此,探索适用于复杂工程领域的大模型优化方法具有重要意义。
知识图谱是1种结构化知识表达范式
[4],它以三元组作为逻辑载体,能够有效化解复杂工程领域知识复杂与碎片化问题。目前已有研究将知识图谱用于处理复杂工程知识,包括铁路隧道钻爆法施工安全质量进度智能管理
[5]、隧道洞门
[6]和支护设计
[7]、地基加固方案智能决策
[8]等方面。检索增强生成技术(RAG)是1种将结构化知识库与大语言模型深度融合的技术方法
[9]。一些学者通过检索增强生成技术优化通用大模型,并在复杂工程中展开应用。王祥昊等
[10]聚焦铁路应急处置领域,融合语义理解与生成模型构建专业知识库,有效提升了应急处置策略的生成效率和适用性;李子林等
[11]提出了基于知识过滤的检索增强生成架构(KFRAG),通过减少噪声干扰使铁路领域问答任务的性能提升近10%,在多项评估指标上优于传统基线模型。检索增强生成技术能够为知识图谱以及大模型检索搭建技术桥梁,实现对专业领域知识的结构化组织与精准检索,增强大模型的专业性能。
路基压实作为铁路工程的核心环节,其智能化、数字化转型对提升工程质量
[12]、施工效率以及保障安全运营意义重大
[13]。本研究以铁路路基压实施工为研究对象,提出1种融合人工智能与大语言模型的知识图谱构建与检索增强方法,通过建立面向铁路路基压实施工领域的专业化语料库,并利用Bert-BiLSTM-CRF模型、层次聚类与DeepSeek-Prompt技术进行知识抽取,构建铁路路基压实领域知识图谱。在此基础上,以该知识图谱作为DeepSeek-R1大语言模型的外来知识库,通过RAG技术,实现模型对铁路路基压实领域知识的检索增强。
1 铁路路基压实知识维度
铁路路基压实领域的知识体系兼具专业性与复杂性,其知识广泛分布于规范标准、专业书籍等多种载体,单一知识源难以全面涵盖。将该领域的知识维度划分为3个层级:“规范与标准”“理论与观点”以及“方案与反馈”。其中,“规范与标准”是路基施工中的核心框架,任何工程都必须严格遵循这一限制框架。“理论与观点”是对众多前沿学术观点以及路基工程典型案例的提炼和总结,涵盖了多维度的知识。“方案与反馈”主要针对单个工程项目,将知识体系映射到具体的实际项目中,是对知识实践维度的有效补充。该知识维度体系见
表1。
2 融合人工智能与大语言模型的知识图谱构建方法
针对铁路路基压实知识体系及知识维度特点,提出1种融合人工智能与大语言模型的知识抽取方法,该方法分为语料基础、知识抽取、知识处理及知识储存4个环节,其技术路线如
图1所示。在语料基础环节,选取相关规范标准、专业书籍、学术论文及工程资料形成专业语料库。在知识抽取环节,对实体与关系进行分类定义与人工标注,并使用Bert-BiLSTM-CRF模型进行预训练,在语料库中进行分类实体抽取,将抽取得到的实体进行层次聚类分析及关系推理,使用提示词模板DeepSeek-Prompt对关系抽取进行补充。在知识处理环节,对抽取到的实体和关系进行深度知识融合,整合碎片化知识,形成具有逻辑性和系统性的知识体系。在知识储存环节,使用Cypher语言将融合处理后的知识导入Neo4j数据库,实现知识存储与索引应用。
2.1 基于Bert-BiLSTM-CRF模型的实体抽取
采用融合深度学习与概率图模型的Bert-BiLSTM-CRF实体抽取模型,通过多层次语义建模有效提升了实体识别的准确度与人工标注的一致性。该模型包含5个层级:输入层、Bert编码层、BiLSTM特征提取层、CRF序列标注层和输出层。
模型训练依赖于适量的人工标注,因此需要先对铁路路基压实实体进行分类及定义,再通过实体定义与实体示例对类别边界进行设定,详情见
表2。
以输入“压实系数”为例,Bert-BiLSTM-CRF模型框架如
图2所示。在模型计算过程中,输入文本首先被转换为插入特殊标记“CLS”和“SEP”的字符序列。Bert编码层通过多头自注意力机制对输入序列进行编码,生成包含全局上下文语义的词向量
,
,…,
[14]。BiLSTM特征提取层将Bert层输出的特征向量作为输入,通过协同的前向和后向LSTM网络进一步提取序列上下文依赖关系
[15]。CRF序列标注层则基于BiLSTM层提取的特征序列生成标签预测
[16],采用BIO标注方案,为每个字符分配适当的实体类型标签,输出层中“O”表示该字符不属于
表2中定义的实体类型,“B-压实质量”表示“压实系数”中字符“压”属于
表2中定义的“压实质量”这一实体类型,且处在起始位置(B,Begin),“I-压实质量”表示字符“实”“系”“数”属于“压实质量”这一实体类型,但处在该实体的内部(I,Inside)。
2.2 关系抽取
关系抽取首先要对关系进行定义,将铁路路基压实施工中的关系分为分类关系与非分类关系,对每种关系的定义见
表3。
2.2.1 基于层次聚类的关系推理
在铁路路基压实施工领域,实体间的关系往往表现为多样化的语义关联模式。采用层次聚类方法,通过分析实体在文本语料中的共现特征和语义分布,迭代合并最相似的实体,聚类发现实体间潜在的关系类型
[17],其示意图如
图3所示。图中,A—F表示铁路路基压实实体。初始阶段每个实体都是1个类,通过计算类与类之间的语义距离,将距离最近的类合并为1个类,不停重复合并,最终合成1个大类,形成层次结构。例如,“摊铺”“洒水”“压实”等实体可能因其在压实工序中的顺序关联而被聚为1类;“压实度”“承载力”“压实均匀性”等实体由于其描述压实效果的相关性而归为同组。这种基于语义关联的聚类结果,能够很好地反映铁路路基压实施工过程中实体间的内在联系。
2.2.2 基于DeepSeek-Prompt的关系抽取
层次聚类方法在处理分类关系推理时表现出色,但在非分类关系推理上效果不佳。为提升非分类关系的抽取准确性,并弥补层次聚类方法的应用局限,采用基于DeepSeek-Prompt的关系抽取方法作为补充,该方法通过结构化的“角色构建”方式,促进跨文本实体关系的拓展
[18]。在关系抽取过程中,构建用于铁路路基压实关系抽取的Prompt模板,模板结构如
图4所示。该模板主要由3个核心要素构成:角色定义、技能描述与约束条件。在角色定义中,将模型定位为知识图谱与铁路路基压实领域的交叉专家,擅长从专业语料中提取关键实体和关系。在技能描述中,模型根据用户提供的信息提取三元组信息,自动过滤无关数字和符号,聚焦语义关系抽取,结构化输出便于后续数据处理。约束条件明确限定抽取关系类型,仅涵盖层级、等同、时间等10种特定关系,使抽取工作更规范精准,契合知识图谱构建需求
[19-20]。
该方法的应用示例如
图5所示,将较长的文本内容输入模型,并给出诸如“根据已知文本内容,请推理并列举实体之间存在的关系”这样的开放式指令,以进行初始的关系识别。模型会以三元组形式进行输出,便于后续的归一化处理。为确保提取的可靠性,实施人工辅助审核机制,以便专家对模型生成的关系进行评估和筛选。若某些三元组未能依照铁路路基压实领域特定语义进行准确识别,则需通过人工审核进行手动筛选和修改。
2.3 铁路路基压实知识图谱
采用上述方法,构建涵盖12部规范和标准、5本专著、296篇论文及多份工程资料的专业语料库。通过Bert-BiLSTM-CRF模型进行实体抽取,并融合层次聚类与DeepSeek-Prompt技术完成关系抽取与推理,经过知识处理与融合后共得到1 315个实体与1 003组关系,选取Neo4j作为知识图谱可视化的平台,使用Cypher语言将已经生成的三元组导入Neo4j的终端中。由于Neo4j的运行需求限制,随机选取300个实体及239组对应关系进行展示,形成的Neo4j可视化知识图谱如
图6所示。
3 基于知识图谱的检索增强生成技术框架
为充分发挥垂直领域知识图谱在智能化决策方面的效能,采用检索增强生成(RAG)技术将知识图谱嵌入DeepSeek-R1模型。该技术的核心在于通过动态联结外部知识库和生成模型,使模型输出结果更稳定可靠
[21]。检索增强生成技术框架如
图7所示,将构建好的知识图谱和相关文本资料通过向量嵌入模型转化为向量,储存至向量数据库。用户问题同样被向量嵌入模型转化为嵌入式向量,系统会在向量数据库中搜索与该问题向量语义上相似的实体以及与相似实体对应的知识文本,通过关系的链接将实体对应的知识文本整合并构建出1个提示模版,以大语言模型为载体输出回答。
4 指标与结果分析
4.1 Bert-BiLSTM-CRF模型训练评价指标
Bert-BiLSTM-CRF模型训练使用准确率P、召回率R和综合评价指标F1这3个指标评估模型性能。准确率为识别正确的实体占所有被识别出的实体的比例,召回率即为识别正确的实体数量占所有实体的比例,二者的计算式分别为
式中:TP为识别正确的实体数量;FP为识别出的非正确实体数量;FN为模型未正确识别的实体数量。
由于准确率与召回率往往存在一定的权衡关系,因此引入综合评价指标F1对模型进行综合评价,其计算式为
使用人工标注的数据集对Bert-BiLSTM-CRF模型进行监督训练,得到3项评价指标
P、
R和
F1分数,其性能评估曲线如
图8所示。由
图8可知:各项评价指标整体随着迭代次数的增加而上升,但在迭代20~30轮次间,准确率出现异常下降,其原因主要由2方面引起:一方面由于模型可能过度拟合训练数据中的特征,导致对负例的错误判断增加;另一方面由于人工标注存在一定主观性和误差。若标注的样本特征存在错误或不规范情况,模型在学习过程中会受到干扰。在迭代到特定阶段时,这些标注误差带来的影响导致准确率暂时下降。最终模型在测试集上的准确率为0.86,召回率为0.81,
F1分数为0.83,整体性能表现良好,足以满足铁路路基领域自动标注的需求
[22]。
4.2 增强检索性能对比
为确保评估的科学性和可靠性,设计量化指标的对比试验对系统的问答能力进行评估。该试验聚焦铁路路基压实施工构建编写了4类(基础概念类、施工工艺类、质量控制类、综合分析类)共48道典型问题。基础概念类聚焦路基压实的基础理论与核心定义,如“简述铁路路基压实度的含义及其对工程质量的影响”,旨在考察模型对专业术语与基础原理的掌握;施工工艺类围绕具体施工流程与技术要点,如“说明不同类型压路机在铁路路基压实施工中的适用场景与操作规范”,检验模型对施工实践知识的理解;质量控制类侧重质量问题的检测、评估与处理,如“当路基压实度检测结果不达标时,应如何排查原因并制定整改方案”,评估模型解决实际工程问题的能力;综合分析类则通过复杂工程情境,如“结合地质条件与工期要求,设计一套铁路路基压实施工的优化方案”,考查模型整合多维度知识、进行深度分析的水平。同时,为保证评估准确性,邀请专家依据行业标准与工程经验,针对每道问题撰写详细参考答案,构建测试评估体系,从而有效验证模型在铁路路基压实专业领域的问答能力。
选取传统DeepSeek-R1、基于传统检索增强的DeepSeek-R1、Claude3.5以及ChatGPT-4.0这4种模型与基于知识图谱检索增强的DeepSeek-R1模型进行对比。在评价指标选取方面,主要涵盖2个维度:一方面,将问答输出结果中涉及的领域实体数量作为衡量领域专业性的指标,统计每4 000个词元中所包含的领域实体数量,并取其平均值,记为
;另一方面,采用被广泛认可的基于召回率的摘要评估指标ROUGE以及BERT语义匹配指标BERTScore这2类指标体系
[23]。其中,ROUGE-1基于单个词语的召回率进行计算,用于衡量生成文本与参考文本中单个词的重合程度,ROUGE-L基于最长公共子序列计算文本间的相似度,用于评估词汇表达准确性和文本连贯性;BERTScore利用预训练的BERT模型,从语义层面评估生成文本与参考文本的相似性,通过计算词嵌入的余弦相似度,得出准确率、召回率和
F1分数。不同模型量化评估对比见
表4。
由
表4可知:基于知识图谱检索增强的DeepSeek-R1模型在所有评估指标上均优于其他对比模型,在文本表达层面,该模型的ROUGE-1和ROUGE-L值分别达0.321 2和0.383 4,显著高于Claude 3.5模型的0.234 6和0.245 2、ChatGPT-4.0模型的0.246 8和0.305 5以及传统DeepSeek-R1模型的0.258 6和0.309 4,相较于传统检索增强的DeepSeek-R1模型(0.299 6和0.344 2)也有明显的提升,表明基于知识图谱的检索增强机制有效提高了模型在词汇表达准确性和文本连贯性方面的能力;在语义理解层面,该模型的BERTScore准确率达0.822 9,较传统通用模型提升约8个百分点,较传统检索增强的DeepSeek-R1模型提升约4个百分点,表明知识图谱的结构化信息有助于模型更准确地把握专业领域的语义内涵;在领域专业性评估方面,基于知识图谱检索增强的DeepSeek-R1模型的
值达到24,较其他模型平均提升约30%,体现了其在专业术语识别和应用方面的显著优势。
4.3 增强检索应用结果
模型性能指标表明,经过检索增强生成优化的模型性能明显优于传统通用模型。为研究知识图谱的检索增强机理,并直观展示模型的应用效果,对基于传统检索增强的DeepSeek-R1模型与基于知识图谱检索增强的DeepSeek-R1模型实际应用效果进行对比。
面向实际问题的模型应用效果如
图9所示,向2种模型提出同一问题:“从路基压实施工角度,完成1个路堤的注意事项有哪些?”。结果显示,虽然二者均涵盖了“设备”“操作”“质量”和“环境”等关键事项,但在回答的准确性、完整性和效率上存在明显差异:①基于传统检索增强的模型提及了“地基处理”等内容,虽属于路基工程范畴,但偏离了“路基压实”这一核心主题,表现出一定程度的AI幻觉,而基于知识图谱检索增强的模型则始终聚焦于路基压实施工相关内容,输出结果准确性更高;②基于知识图谱检索增强的模型不仅覆盖了基本事项,还额外纳入了“材料”“作业参数控制”及“水文地质”等关联因素,形成了更全面的知识体系;③基于传统检索增强模型响应时间为9~13 s,而基于知识图谱检索增强的模型响应时间为4~6 s,其生成效率提升约50%。
由
图9可知,传统的检索增强存在冗余信息过长,忽略知识库全局的上下文信息等问题,而基于知识图谱的检索增强能利用结构化知识图谱减少无关的冗余信息,降低AI幻觉,并提高大语言模型对外部知识的全局上下文理解能力。
5 结 语
本研究提出1种基于知识图谱的工程领域检索增强方法,以铁路路基压实为应用案例,对铁路路基压实领域知识进行“规范与标准”“理论与观点”以及“方案与反馈”三大维度的系统划分。基于此构建了包含12部规范、5本专业书籍、296篇学术论文与若干工程资料的专业语料库,最终形成包含1 315个实体与1 003组关系的铁路路基压实知识图谱。
在技术实现方面开发了融合人工智能与大语言模型的知识图谱构建技术路线,基于Bert-BiLSTM-CRF的实体抽取模型的精确率、召回率和F1值分别达到0.86,0.81和0.78,可满足铁路路基压实领域自动标注的精度需求;通过融合层次聚类与DeepSeek-Prompt,实现了对文本中复杂关系的高效抽取以及跨文本关系的精准链接,有效解决了专业领域知识碎片化的问题。
将构建的知识图谱通过检索增强生成技术嵌入DeepSeek-R1模型,实现了模型在铁路路基压实领域的检索增强。模型性能评估表明,基于知识图谱检索增强模型的ROUGE-1,ROUGE-L,准确率和值分别达到0.321 1,0.382 3,0.822 5和23,相较于传统模型与基于传统检索增强的DeepSeek-R1模型均获得显著提升,同时响应速度提高了近50%。
当前研究在铁路路基施工知识图谱构建及模型应用中,对施工工艺及流程图、设计图纸以及现场监理记录等多模态非结构化信息的处理仍不够细化,模型在专业术语的词汇表达准确性和文本连贯性方面也有待提高。未来研究拟引入跨模态模型深化多模态知识抽取,通过领域自适应训练与提示工程优化模型生成能力,并开发基于时间序列的关系推理模块以实现施工过程异常的动态知识建模。
国家重点研发计划项目(2023YFB2603902)
国家自然科学基金青年项目(42307246)