0 引言
低碳设计被认为是降低机械产品全生命周期碳足迹的源头性手段
[1],而低碳设计知识往往是分散异构的。如果缺乏对多源低碳知识的系统化整合,则难以应对复杂的低碳约束与跨阶段设计需求。低碳设计知识的建模、管理与复用已成为制约绿色制造效率与质量的关键瓶颈
[2]。
知识建模是提高设计效率与知识复用率的核心环节。王耿等
[3]构建了基于产品设计特征的表达模型,并分析了生命周期碳足迹与设计特征的映射关系。孙伯骜
[4]提出了基于“操作-产品-性能”的多层次低碳设计知识模型。SILVA等
[5]引入一个多层次的语义建模框架,支持语义上下文建模。然而,现有方法对结构、低碳要素以及性能约束的表达力不足,不同领域、不同阶段的复杂设计信息仍缺乏有效关联。
知识图谱将实体、属性与关系以图结构形式进行组织,能够显式表达设计领域中各要素间的复杂关联。郭恒等
[6]对高速列车维修性设计知识进行系统性建模,构建了多域融合的维修性知识图谱。GUO等
[7]针对产品缺陷分析知识分散存储导致的低效率问题,提出了基于知识图谱的标准化建模方法。JING等
[8]利用知识图谱将多领域的设计知识进行建模,实现了结构化知识驱动类比设计。知识图谱能够有效增强知识的结构化表达与语义关联,其构建过程包含数据标注与知识抽取。
现有的数据标注可归纳为人工标注和自动化标注。人工标注通常需要依据既定的标注规则和领域知识,其优点是精度高、歧义少,但成本高、效率低,适用于小规模数据集且专业性要求极高的场景。自动化标注主要通过规则、知识库以及机器学习等方法来自动生成标注样本,是当前的研究热点。如AMUSAT等
[9]利用已存在的科研出版物作为知识库,通过提案与出版物的显式关联来迁移标签。规则驱动的标注方法依赖于领域专家设计标注规则,且容易被语义漂移影响
[10],而基于知识库或机器学习的方法依赖于对高质量的标注数据进行提示与训练,在标注数据较少的情况下,模型效果甚至可能差于基于规则的标注方法。随着大语言模型(LLM)的发展,模型在语义理解和上下文生成方面表现出显著优势,为复杂领域的自动化数据构建提供了新思路。GENG等
[11]利用大语言模型完成语义表的标注。部分研究开始尝试利用大语言模型进行实体识别或语义关系标注,但目前仍缺乏面向全生命周期语义的系统化标注方法。
现有知识抽取方法主要包括流水线式与联合式两类
[12]。流水线式抽取方法通常将实体识别和关系抽取拆分为两个阶段,结构清晰但容易出现误差传递,尤其在低碳语料中,实体边界模糊与关系重叠会进一步加大误差累积。联合式抽取方法则可同时识别实体与关系,在一定程度上缓解了误差扩散问题。马长林等
[13]利用BERT编码器构建基于混合关联度的抽取方法;SUI等
[14]提出了集合预测网络(SPNs),将三元组视为无序集合进行整体预测,避免了传统序列生成方法对输出顺序的依赖。这些方法均基于BERT编码器,在高语义密度或专业领域文本中可能出现语义塌陷现象,从而削弱了模型对语义差异的判别能力。
针对以上问题,本文提出了大语言模型驱动的产品低碳设计知识建模方法。首先,构建了覆盖产品结构、低碳元素与性能影响的低碳设计领域本体,为低碳知识的语义表达、逻辑约束与层级关联提供了统一的建模框架。其次,提出基于大语言模型的低碳设计数据标注范式,通过双路径协同机制分别将非结构化文本构建为对比学习和知识抽取数据集,实现语义一致性高的自动化标注。最后,设计了基于对比学习的知识抽取模型,通过对比学习增强低碳设计领域的语义表征,从而优化SPNs的编码器性能,使其能更精准地捕捉领域概念间的语义差异与关联。在本体约束与标注数据支撑下,完成低碳设计实体与关系的联合抽取,从而形成结构化的低碳设计知识建模。
1 低碳设计领域本体构建
知识建模首先要对领域概念、实体及其关系进行形式化描述与定义,即本体设计
[15]。低碳设计的本体需要将结构形态、低碳属性、环境影响等因素纳入体系化建模之中,以此支撑知识复用、设计决策与智能化应用。
图1所示为本文所设计的低碳设计领域的本体,涵盖了从产品整体到零部件,再到材料、工艺、回收处理等多层次低碳知识要素,各要素之间的关系描述如
表1所示。本文将低碳设计本体形式化表示为一个四元组:
其中,
C为概念类集合,包括产品名称、功能、组件、零件等核心类;
R为关系集合,对应
表1中的6类核心关系{r1,r2,…,r6};
A为属性集合,用于刻画各类实体的定量或定性特征,如能源碳排因子、材料碳排因子及回收率等;
为约束与语义规则,用于限定不同实体及其关系在生命周期和设计逻辑上的一致性。
该本体通过对产品结构、低碳要素与性能约束的分层建模,实现了从产品功能、组件到零部件的结构表达,并进一步拓展至材料、工艺、能源及回收方式等低碳设计要素,形成了“结构设计—低碳优化—性能验证”层次化的知识体系。其中,低碳要素是指在低碳设计本体中用于表征产品全生命周期过程中碳排放水平及其影响机制的关键设计实体集合。
在结构层上,本体以“产品名称”为根节点,逐层展开至功能、应用场景以及相关的组件与零件,形成“功能—组件—零件”的层级逻辑,使设计知识逐步细化并可追溯。
在低碳层上,引入了材料、工艺、回收方式等低碳要素,并将其与能源消耗、碳排放因子、回收率等属性关联,构建覆盖产品全生命周期主要阶段的低碳知识体系。在原材料获取阶段,材料类型与材料碳排放因子对应;在制造阶段,工艺类型、能源类型及能源碳排放因子关联;机械性能与运行性能则体现产品使用阶段的低碳表现,被归纳为性能层;回收处理阶段包含回收方式、回收率及能源类型。运输阶段未被纳入,因为其影响因素往往受运输距离、运输方式、区域能源结构等外部条件制约,具有高度的不确定性。
性能层聚焦产品在使用阶段的运行表现,分为机械性能与运行性能。机械性能包括强度、刚度等,运行性能则涵盖效率、精度与运行时间等,这些性能指标直接影响能源利用效率和碳排放水平。性能层的引入使低碳设计在满足基本功能需求的同时,通过性能评价实现低碳目标与工程可靠性之间的平衡。本体通过形式化关系(r1~r6)将各类概念紧密联系,构建了完整的知识网络。
2 基于大语言模型的低碳设计数据标注
本文提出的基于大语言模型的低碳设计数据标注范式如
图2所示。通过引入大语言模型在语义识别、句式生成与标签标注中的能力,形成两条协同的标注路径。路径1标注对比学习所需正负样本对,路径2标注知识抽取所需的三元组信息,实现低碳语义表示与知识抽取的数据支撑。本文选用DeepSeek R1作为统一的语义理解与生成模型。该模型在长文本语义理解、复杂指令跟随以及结构化信息生成方面表现稳定,能够满足低碳设计文本在语义识别、句子增强、一致性评估及本体约束三元组抽取等方面的任务需求。
对原始低碳设计文本进行分块处理,将长文本划分为若干语义完整的文本片段。利用大语言模型对每个文本块进行语义识别与分类,判断其中是否包含全生命周期阶段相关的语义信息,若文本块未涉及低碳设计的生命周期阶段,则视为与低碳主题无关并予以过滤;若包含相关语义,则保留并拆解其中的相关句子,作为低碳设计的原始句子样本。
路径1为对比学习数据标注。基于原始句子设计了4种面向低碳语义的句子增强策略,包括语义替换、插入扰动、元素删除和单元置换。通过构造语义相似与语义差异的样本对,提高模型对低碳语义特征的敏感性与判别能力。其中,一部分变换策略生成语义接近的句子,用作正样本;另一部分策略引入语义偏移或冲突,用作负样本。每个原始句子将随机选择一种增强策略,由大语言模型生成对应的变换句,形成句子对样本。在句子对生成后,进一步由大语言模型自动评估原始句与变换句之间的语义一致性,并生成相似度标签。标签取值分为两类:若两句语义一致,标记为1;若语义存在明显差异,标记为0。经筛选与标注后得到的样本以“原始句子-增强句子-相似度标签”的形式组成数据集,该数据集涵盖了低碳设计全生命周期语义的多样化表达。
路径2用于生成知识抽取数据集。利用低碳本体,引导大语言模型抽取原始句子中符合本体约束的三元组集合,为每个句子标注出头实体、尾实体以及关系,通过该路径获得格式化的标注数据,用于后续知识抽取模型的训练与验证。
3 低碳设计实体关系联合抽取
为避免原始BERT因语义塌陷影响实体与关系的识别精度,本文提出了融合对比学习与SPNs集合预测网络的联合抽取方法,通过基于对比学习的自监督语义表示框架对BERT进行微调,解决低碳设计不同阶段内句子语义的表征模糊问题,生成区分度更高的领域语义表示;随后将优化后的句子表示输入SPNs的非自回归解码器,将其建模为集合预测问题,利用二分匹配损失直接生成三元组集合。所提模型命名为ConSPNs,其结构如
图3所示,FFN为前馈神经网络,Emb为嵌入向量。
3.1 基于对比学习的低碳语义表示增强
在低碳设计文本语义表示阶段遵循ConSERT的对比学习机制
[16],通过句子增强与特征对齐的方式重塑低碳领域的语义表示。
在句子增强过程中,文本中的增强操作较为复杂,若直接在文本层面替换词语或打乱词序,往往会引起语义偏移或语法破坏。为了保持原始输入和语义标签一致,选择在嵌入层进行增强。
采用token截断与特征截断两种策略构造不同扰动模式的语义样本。在嵌入矩阵中,token截断通过随机删除部分词汇,使模型学习上下文缺失情况下的稳健语义结构。通过将部分token的对应嵌入向量置零来模拟语义缺失场景,从而促使模型在处理不完整句子时仍能保持对语义主干的理解。token截断改变的是序列中有效信息的分布,而非嵌入维度。
特征截断则是在嵌入空间中对句子向量的部分特征维度进行随机屏蔽。具体为:在得到词或句子嵌入后,随机选择若干维度进行置零,使模型在部分语义特征缺失的情况下仍能捕捉句子的整体含义。特征截断也不会改变嵌入向量的维度,而是通过屏蔽部分特征来引入语义不完整性,以增强模型对特征缺失的识别力。
假设原始输入文本为,经过两种增强操作后可生成嵌入表示,,且,其中L表示序列长度,d表示特征维度。将两者分别输入共享的BERT编码器,通过多层Transformer块进行上下文编码,并最终经平均池化操作得到语义向量与。为了使与在语义空间中尽可能接近,而与其他样本保持区分,采用NT-Xent Loss作为对比损失,其表达式如下:
其中,为余弦相似度;为温度参数;N为训练批次中的样本数;为指示函数。该损失函数使来自同一语义样本的不同增强视图在嵌入空间中聚合,而语义不相关的样本相互远离。
3.2 基于ConSPNs的低碳领域实体关系联合抽取
在完成低碳语义表示的优化后,基于SPNs的集合预测思想对低碳设计文本进行实体与关系的联合抽取,构建了ConSPNs模型。该模型以集合预测为核心,将低碳设计语义中的“实体-关系-实体”三元组视为无序集合进行整体建模,从而避免传统序列化抽取方法存在的顺序依赖与错误传播问题。
在模型结构上,ConSPNs由语义编码层、集合预测层和匹配优化层三部分组成。首先,语义编码层采用经过对比学习微调的BERT编码器,对输入的低碳设计文本进行语义特征提取,经优化后的嵌入向量能在嵌入空间中形成更加清晰的语义边界。然后,集合预测层将每个潜在三元组视为一个独立的预测单元,每个查询向量在Transformer结构中与文本特征交互,预测对应的头实体、关系和尾实体,与传统的序列到序列模型不同,该方法不再依赖预设的输出顺序,而是通过集合解码实现并行预测。最后,匹配优化层利用二分匹配损失实现预测三元组与真实标注间的一一对应。设真实三元组集合为,预测集合为,通常。通过最小化匹配代价函数,模型在不依赖输出顺序的条件下完成信息抽取。
4 应用案例
4.1 数据来源与预处理
实验数据以传动机构为研究对象,数据来源包括涉及结构优化、制造工艺改进及材料选型等内容的专利、学术论文、设计文档与专著。其中,专利文献通过IPC分类号F16H进行检索;学术论文主要是围绕谐波减速器设计的相关研究;设计文档选取自齿轮减速器的工程设计资料;专著来源于《机械制造工艺》和《机械工程材料》。对获得的数据进行格式清洗与规范化处理,主要包括去除页眉页脚、修正文字符号、统一单位与格式表达,并重组段落结构。最终形成可用于对比学习与实体关系抽取模型训练的低碳设计语料库。其中,引导大语言模型根据给定增强策略生成变换句与标签的提示词模板如
图4所示。
4.2 实验设置
硬件环境为Intel(R) Xeon(R) W5-3435X CPU和NVIDIA RTX 6000 Ada GPU。在对比学习数据构建阶段,采用DeepSeek R1作为驱动模型,生成对比学习样本。该模型对低碳设计语料进行句子筛选、变换与语义标注,构建了涵盖全生命周期阶段的5000条低碳语义句对样本。
在模型训练阶段,对比学习框架基于Python 3.8与PyTorch 2.1.0平台实现,训练过程中将批量大小设置为64,训练轮数为20,对比损失函数的温度系数为0.1。ConSPNs模型在Python3.7与 PyTorch 1.5.1环境下运行,训练轮数为80,批量大小为8,Dropout值为0.2。为了验证所提模型的有效性,选取BERT-LSTM-CRF、TPLinker以及原始SPNs三种模型作为比较对象。
4.3 结果对比与分析
4种抽取模型在低碳设计语料上的知识抽取效果如
表2所示。ConSPNs模型整体表现最佳,精确率、召回率和F1值分别达到84.2%、82.7%和83.4%,较原始SPNs在召回率上提高了3.1个百分点,主要得益于对比学习增强了BERT编码器对领域词汇与语义差异的辨识能力。
BERT-LSTM-CRF表现最差,F1值仅为76.7%,原因在于其依赖序列标注结构,难以处理低碳设计文本中存在的多关系、重叠实体等复杂语义。TPLinker的F1值为78.4%,虽然具备较强的关系耦合建模能力,但缺乏领域知识与语义对比约束,导致对低碳语义间细微差异的捕捉能力不足。总之,ConSPNs在低碳设计知识抽取中表现出更强的语义适应性。基于该模型的知识抽取结果,共识别出2321个传动机构节点,并将其存储于Neo4j中,其可视化结果如
图5所示。
为验证图谱的语义逻辑一致性与检索可用性,本文以“谐波减速器”作为典型对象构建了低碳设计任务验证集,共包含53条问题与对应Cypher查询语句。验证集覆盖了柔轮、刚轮、波发生器三个关键部件的原材料选择、加工工艺及回收处理等生命周期阶段内容。验证集以结构化方式呈现,如
表3所示,第一列为问题描述,第二列为基于标签匹配的Cypher查询,第三列为面向语义推理的多跳Cypher查询,通过不同的查询策略进一步分析图谱逻辑。
以问题“谐波减速器柔轮使用了哪种材料?”为例,对两种不同检索方式的结果进行了语义逻辑验证。图谱检索结果如
图6所示,实体导向的标签检索仅沿单层节点连接进行查询,能够快速定位与“柔轮”节点直接相连的材料实体,实现了实体级匹配;多跳检索兼顾实体和关系,在保留节点语义约束的同时能进一步发现与“柔轮齿圈”等从属部件相关的间接材料信息,如图中的40CrNiMoA与30CrMnSiA,从而揭示更深层次的语义关联。针对
表3中的问题“在设计谐波减速器时,刚轮采用什么工艺?”,执行多跳Cypher后,图谱返回的刚轮加工工艺为车削、插齿、热处理与磨削等,并可在结果路径中追溯到“刚轮-工艺”及其对应生命周期阶段的关联关系,说明图谱已覆盖关键部件的工艺要素且具备可检索性。随后,对验证集内53条问题对应的Cypher语句逐条执行,并以人工核验的期望答案为参照统计检索结果的正确性。结果显示,53条查询均能返回与问题语义一致的目标实体或关系路径。所构建的低碳设计知识图谱具备符合逻辑的语义关联。
5 结论
针对产品低碳设计知识多源异构、语义复杂及复用困难的问题,本文提出了大语言模型驱动的低碳设计知识建模方法。通过建立覆盖产品结构、低碳要素及性能约束的领域本体,实现了低碳设计知识多层次语义的统一组织与逻辑关联。构建的大语言模型数据标注范式通过双路径自动标注机制有效扩展了标注语料的多样性。在知识抽取任务中,利用对比学习增强SPNs中BERT的低碳语义表示,使模型在低碳设计文本中实现了更高的语义识别精度和稳定性。该方法在精确率、召回率和F1值方面分别达到84.2%、82.7%和83.4%,证明在低碳领域知识建模中的可行性。
未来工作将进一步拓展模型的跨领域迁移与动态更新能力,探索面向多模态数据的低碳知识融合与推理机制,推动低碳设计知识从语义建模向知识决策的深化应用。
国家重点研发计划(2023YFB4704304)
国家自然科学基金(52075312)