基于相向信息增强学习的法条检索

Statute Retrieval Based on Bidirectional Information Enhancement Learning

摘要

针对法条检索中用户查询表达模糊与法律专业性之间存在的表述差异问题，本文提出一种相向法律信息增强学习方法，通过降低二者信息差，从而降低模型学习难度、提升检索性能。在查询方面，利用大语言模型生成解释性答案，补充法律概念与推理逻辑，以增强查询的法律关联性。在法律法规方面，构建包含法律名称、层级结构和条文内容的递增式表达，增加法条层级结构信息。进一步，结合两者增强信息，该文设计了基于法条层次信息的混合对比学习框架，实现用户查询与法条的精准语义关联映射。实验结果表明，该方法相比当前效果最佳方法，Recall@5从52.90%提升至69.74%，MRR@3从47.12%提升至63.80%，验证该方法能够显著提升检索性能，为法律从业者与大模型问答提供高质量法条检索服务。

Abstract

To address the expression discrepancy between users' vague queries and the professionalism of statutes in statute retrieval, this paper proposes a bidirectional legal information enhancement learning method. By reducing the information gap between queries and statutes, this approach eases the model's learning difficulty and improves retrieval performance. On the query side, large language models are utilized to generate explanatory answers, supplementing missing legal concepts and reasoning logic. On the statute side, an incremental representation is built that incorporates law names, structures, and contents, enhancing the semantic richness of legal texts. Furthermore, by integrating both enhanced query and statute information, the paper designs a hierarchical legal information-aware contrastive learning framework, enabling precise semantic mapping between user queries and statutes. Experimental results demonstrate that the proposed method significantly improves retrieval performance, increasing Recall@5 from 52.90% to 69.74% and MRR@3 from 47.12% to 63.80%, offering high-quality statute retrieval services for both legal practitioners and large language models.

Graphical abstract

关键词

法条检索 / 查询增强 / 大语言模型 / 对比学习

Key words

statute retrieval / query augmentation / large language model / contrastive learning

0 引言

法律人工智能技术是提高法律服务质量与效率的重要手段，其中，法条检索^［1］作为智能司法的基础任务，旨在从大量法律法规库中精准定位与具体法律问题高度相关的条文。我国法律体系深受大陆法系影响，以成文法为基础架构，明确的法律条文在司法实践中具有直接的指导作用。因此，高质量法条检索技术不仅具备重要的理论研究价值，更具有显著的现实意义：一方面，对于法律从业者而言，精准高效的法条检索可有效支持案件分析、合规审查、合同起草等法律业务流程，显著提高工作效率；另一方面，对于大型语言模型（Large Language Models，简称大模型）驱动的检索增强生成（Retrieval Augmented Generation）系统^［2］而言，精准的法条检索提供结构化法律知识支持，有效降低大模型生成内容的幻觉风险，增强智能法律服务的专业性与可信度。因此，研究如何进一步提高法条检索的精准性和相关性，是推动智能法律服务发展亟须解决的重要问题。

目前，法律条文检索的方法主要基于通用领域信息检索（Information Retrieval）技术^［3］，通过计算查询内容和法条的匹配程度，按照相似值排序给出检索结果。主流匹配方法可以分为两类：一类是基于关键词匹配的传统稀疏检索模型^［4］，如词频-逆文档频率（Term Frequency-Inverse Document Frequency， TF-IDF）、最佳匹配25（Best Matching 25， BM25）等，通过统计查询词与法条的词频、逆文档频率等特征计算相关性，但难以捕捉深层语义信息；另一类是基于预训练语言模型（Pre-trained Language Model）^［5］的稠密检索方法，将文本编码为稠密向量，通过向量相似度的计算捕捉语义层面的关联，显著提升复杂文本的语义理解能力。相对于稀疏检索，稠密检索可以更有效地建立语义关联关系，在法条检索领域展现出更优的性能。例如，Su等^［6］构建了面向公众法律咨询方向的法条检索数据集（Statute Retrieval Dataset，STARD），并采用通用预训练模型（如基于Transformer的双向编码器表征（Bidirectional Encoder Representations from Transformers，BERT）^［7］等）与法律预训练模型（如Lawformer^［8］等）在此数据集上开展进一步模型微调，达到超过通用信息检索模型的性能。然而，法条检索任务仍然面临法律专业领域特有的挑战：（1）查询表述的多样化且缺乏专业性。由于用户法律知识水平参差不齐，查询常常存在模糊、口语化甚至不准确的问题，影响模型对其意图的正确理解；（2）法律法规与通用语料差异较大。法律语料具有高度专业化特征，与通用语料在词汇体系和语义结构上存在显著差异，导致通用语言模型在语义表征上存在“异化”问题。这两项挑战进一步加剧用户查询与法条之间关联建模的难度，使得直接应用通用或法律预训练模型难以达到理想的检索效果。图1展示了用户查询的模糊表达与检索示例，相较于常用稀疏与稠密检索方法，例如BM25和北京智源人工智能研究院多语言、多功能、多粒度通用嵌入模型（Beijing Academy of Artificial Intelligence General Embeddings-Multi-linguality，Multi-functionality，Multi-granularity，BGE-M3）^［9］，本文方法可以准确检索相应法条。

如何拉近用户查询与法条的距离，降低模型对二者关联学习难度是解决上述挑战的核心。为此，本文提出基于相向法律信息增强的学习方法。具体而言，在查询层面，针对用户表述中的非专业性与歧义问题，本文利用大模型强大的语言理解与生成能力，设计基于解释性法律回答策略查询增强方法，挖掘查询中隐含的法律概念与推理路径，从而提升模型对查询意图的准确解析，逆向增强用户查询的法律关联性。在法律法规层面，本文引入表达法条所属范畴的编、章、节信息，构建涵盖“法律名称、层级结构、条文内容”的多层级法条表示，强调法条的范畴信息与语义边界，辅助模型更好定位法条的适用范围，进而增强模型的可解释性和可信性。最后，基于上述双向增强表示，本文进一步提出二者关联学习方法。针对法条层级化结构特点，设计一种融合法条结构信息的混合对比学习方法，实现从法律框架到具体条文内容的逐层语义对齐，有效提升检索模型对用户查询与法条之间语义关系的建模能力与检索准确性。

综上所述，本文的主要贡献如下。

（1）提出一种基于相向法律信息增强的法条检索策略，缓解法律专业性与用户查询多样化表述语义鸿沟问题。

（2）设计基于大模型回答策略的查询信息增强与法条层级化表达方法，进而建立递增混合对比学习路径，助力模型学习二者关联关系。

（3）在STARD数据集上测评结果显示，与基线相比，本文方法可以显著提高法条检索性能。其中，Recall@5指标由52.9%提升到69.74%，MRR@3指标由47.12%提升到63.8%。为法条检索模型在多类实际场景应用提供了有力支持。

本文组织结构如下：第1节介绍当前有关法条检索和大模型查询增强方法的相关研究；第2节介绍本文提出的基于相向法律信息增强学习的法条检索方法；第3节介绍本文的实验细节，并对实验结果展开分析；第4节是本文的总结及对未来的展望。

1 相关研究

1.1　法条检索

信息检索是法条检索的基础。信息检索旨在从大型语料库中定位与查询相关的文档，主流方法包括基于词汇匹配的稀疏检索和基于语义向量匹配的稠密检索。常用稀疏检索方法中，基于词袋模型^［10］的BM25^［4］通过计算词频和逆文档频率评估查询词和文档的相关性；查询似然（Query Likelihood，QL）模型^［11］通过计算查询词在文档中出现的概率来选取最有可能生成查询语句的文档，视作相关文档。尽管此类词汇匹配方法高效，但忽略了深层语义信息。随着深度学习技术发展，稠密检索技术逐渐成为语义检索主流方法。其将查询文本与检索目标映射至统一语义空间，通常以向量余弦值作为二者语义相似度的度量，根据数值大小完成匹配。此类方法更擅长处理具有复杂语义信息的任务。预训练模型^［5］是稠密检索方法的典型技术。BERT^［7］是代表性模型之一，其首次将掩码语言建模与Transformer架构结合，奠定了语义编码的基础。随后，Karpukhin等^［12］提出基于双编码器架构的稠密段落检索（Dense Passage Retriever，DPR）方法，通过对比学习独立优化查询与文档的嵌入表示，建立密集检索的标准范式。鲁棒优化的BERT方法（Robustly Optimized BERT Approach，RoBERTa）模型^［13］在BERT的基础上进行了改进，采用更大规模数据与动态生成掩码模式进行训练，显著增强模型泛化能力；基于BERT的上下文交互（Contextualized Late Interaction over BERT，ColBERT）模型^［14］通过词级相似度矩阵计算，提升开放域问答的准确性。针对中文任务，中文RoBERTa全词掩码（Chinese-RoBERTa-Whole Word Masking，Chinese-RoBERTa-wwm）模型^［15］在RoBERTa基础上引入全词掩码策略，进一步增强中文语义理解能力。此外，BGE-M3等系列模型是目前大模型检索增强生成系统常用检索器，其支持稠密向量、稀疏向量以及多向量混合检索，并采用基于自知识蒸馏的方法来提升模型性能。

法条检索在信息检索技术基础上，一方面需要构建特定语料库，另一方面需适配法条检索的模型。法条检索查询语料整体上可以分为以案件判决书为代表的法律专业查询^［16］与面向公众法律咨询^［17］的非专业查询，前者具备领域一致性特点，使得模型较容易实现语义对齐，且一般局限在有限数据量法条，如刑事案件仅需关注刑法；后者从现实场景中公众法律咨询问题构建查询语料，通常存在表达模糊、术语使用不当等问题，且目标法条数量较多。例如，Lotfi等^［18］根据比利时公民咨询邮件构建问题集比利时法条检索数据集（Belgian Statutory Article Retrieval Dataset，BSARD），包含1 108条查询与22 633项法条。中文情境下，Su等^［6］构建包括我国55 348项法条、1 543条真实咨询问题的语料集STARD。本文关注难度更大的非专业法条检索问题。方法上，除了直接采用信息检索中常用稀疏检索与稠密检索方法外，还可采用法律领域预训练模型，例如，法律案例检索的结构感知预训练语言模型（Structure-aware Pre-traIned Language Model for Legal Case Retrieval，SAILER）^［19］是一个专门为法律文档设计的结构感知预训练语言模型，利用法律文档不同部分间的逻辑连接来提高文档表示的质量；Lawformer^［8］采用Longformer^［20］作为基础架构，设计针对解决法律文档长度溢出问题的法律预训练模型。与法条检索相似的任务包括法条预测^［21］与法条推荐^［22-23］，二者一般作为判决结果预测^［24］子任务，根据案情预测或推荐有限范围（如刑法）的相关法条。本文主要探讨中文情境下，复杂公众法律咨询中的法条检索问题。

1.2　查询增强

查询增强是一种基于重构原始查询提升信息检索系统性能的方法，通过补充额外概念和完善原始查询用户意图，提升其与目标语料信息的匹配度。早期查询扩展的方法主要包括使用外部知识源^［25］、伪相关反馈（Pseudo Relevance Feedback，PRF）方法^［26］。前者通过词汇知识库来同义替换或拓展查询，但受限于领域知识库的构建成本与覆盖范围。后者则用初始检索结果中的高相关文档扩展原始查询，再做二次检索，其性能高度依赖初次检索结果的质量。

大模型强大的世界知识和生成能力为查询增强带来新的启发，基于大模型的生成式相关反馈（Generative Relevance Feedback，GRF）成为新兴范式，通过大模型生成相关内容，将初始查询和生成内容结合形成改写后的新查询。查询-文档（Query2Doc，Q2D）^［27］方法通过生成基于少样本提示的伪文档，验证大模型作为查询扩展模型的有效性。Mackie等^［28］提出GRF概念，通过大模型根据初始查询生成十种类型的文本，包括关键词、摘要、文章等，并实验说明多样化生成文本的结合比单一形式更有效，但面临大模型推理量较大导致的效率低下问题。假设性文档嵌入（Hypothetical Document Embeddings，HyDE）^［29］通过将大模型生成的假设性文档编码为嵌入向量，通过该向量识别语料库嵌入向量邻域空间，在其中检索出目标文档。Jagerman等^［30］针对GRF的提示词工程进行系统研究，分析在零/少样本提示以及有/无PRF作上下文提示的情况下，查询-例子（Query2Example，Q2E）、Q2D等方法的实际能力，表明零样本思维链^［31］（Chain-of-Thought，CoT）提示方法在既定场景下效果最佳。此外，还有研究提出将PRF与GRF相结合的混合策略，通过按比例拼接初始检索结果PRF和利用大模型生成的GRF作为新查询^［32］，或者交替迭代使用GRF和PRF来优化查询^［33］。基于大模型的查询增强方法具备提升有效查询信息量的作用，但不同场景与任务效果上存在效果不可控问题。本文进一步探索和总结大模型查询增强方法在法条检索任务下的潜在规律。

2 相向法律信息增强学习

法条检索任务面临查询多样化和法条专业性双重挑战。具体来说，由于个体间法律知识背景及理解能力的差异，用户查询形式多样，较难准确反映其实际法律需求。此外，法律法规文本与通用语料之间存在显著区别，法律术语具有特定的专业含义，增加了检索系统理解和匹配相关法条的难度。为了实现查询与法条的语义对齐，本文提出相向法律信息增强学习框架，旨在降低模型关联二者语义时的训练难度。在查询侧，本方法增强法律专业性，通过大模型生成可解释答案，挖掘潜在的法律概念、推理逻辑等信息。对于法条侧，本方法增强法条结构信息，引入法律的多层级结构（法律名称、编、章、节）信息，将法条解构为“法律名称-法律层级结构-法条内容”三级表达，强调法条的领域范围相关信息。将大模型增强后的查询与引入结构信息的法条数据进行混合对比学习，可以充分利用两侧的增强信息，共同拉近查询与法条的语义距离，促进模型学习二者语义关联。

2.1　基于大模型回答的查询增强

常规大模型查询增强方法关注查询与检索文档两个方面，目的是通过大模型尽可能补充与目标文档相似的信息。图2左侧部分展示了目前大模型查询增强方法的一系列增强方向。然而，法条检索具有其独有特点，受大模型法律领域知识不准确导致的幻觉问题影响，法条作为检索目标难以被准确生成，直接以法条为目标的信息增强存在较严重的领域知识匮乏与逻辑链断裂问题。实际上，在常规查询方法中，一般潜在认为查询回答与检索目标文档存在信息一致性的特点，但法条检索中，回答是结合法条内容的专业推理，与法条本身存在显著差异。因此，法律回答能够体现用户查询的关键信息，又带有专业法律内容，具备同时增强二者信息的效果。基于此，本文引入“回答”概念，表示针对查询问题的法律专业回答，逆向增强用户查询的法律关联性。此外，“回答”作为语义桥梁，将增强任务转化为更符合大模型能力的问答模式，利用大模型在问答任务的对齐训练，相较于“背诵”法条更不容易产生幻觉问题。此过程可见图2右侧。

具体来讲，本方法令原始查询q和大模型{\rm M}生成的回答a组合构成增强的新查询q\text{'}，

a=\mathit{M}(p\oplus q),（1）

q\text{'}=\mathrm{c}\mathrm{o}\mathrm{n}\mathrm{c}\mathrm{a}\mathrm{t}(q,[\mathrm{S}\mathrm{E}\mathrm{P}],a),（2）

其中\oplus表示文本连接，p表示提示词“你是一名法律专家，根据用户问题生成专业的法律意见回答问题，以段落形式输出。”\mathrm{c}\mathrm{o}\mathrm{n}\mathrm{c}\mathrm{a}\mathrm{t}表示连接函数，q和a中间用分隔符[\mathrm{S}\mathrm{E}\mathrm{P}]隔开。由此，大模型在答案推理过程中，既可以提供更为具体的用户意图分析，又能在法律建议阐述中提供专业的法律意见。

2. 2　基于法条信息增强的对比学习

法律表述形式上具备内部规范性结构，即“编、章、节、条、款、项、目”构成的区分形式。法条检索定位在“条”级别检索，编、章、节标题则带有法条范畴信息，如民法典“第二编物权，第二章物权的设立、变更、转让和消灭，第一节不动产登记”明确本节下法条内容。因此，为利用此层级结构，本方法按照其结构逐步递增法条信息：

\begin{array}{l}{s}_{\mathrm{1}}=\mathrm{法律}\mathrm{名称},\\ s_{\mathrm{2}}=\mathrm{法律}\mathrm{名称}+\mathrm{法律}\mathrm{结构}(\mathrm{编、}\mathrm{章、}\mathrm{节}),\\ s_{\mathrm{3}}=\mathrm{法律}\mathrm{名称}+\mathrm{法律}\mathrm{结构}+\mathrm{法条}\mathrm{内容},\end{array}

考虑到编章节的目录信息并非每项法律都存在，因此这里将其合并为法律结构信息。

基于BGE-M3^［9］模型，本方法使用特殊标记[\mathrm{C}\mathrm{L}\mathrm{S}]的归一化隐藏状态来表示查询和以上三种结构类型的法条信息的密集嵌入，如式（3）所示：

{\mathit{e}}_{s_k}=h_{s_k}^{[\mathrm{C}\mathrm{L}\mathrm{S}]}(k=\mathrm{1,2},\mathrm{3}),（3）

结合上一节查询增强，得到新查询q\text{'}的嵌入向量，

{\mathit{e}}_{q\text{'}}=h_{q\text{'}}^{[\mathrm{C}\mathrm{L}\mathrm{S}]},（4）

新查询和法条信息之间的相关性得分为两者嵌入的内积，

（5）

训练时，本方法首先构建正负样本数据对，正负样本均按照法条三层结构对应组成。之后，分别通过对比学习区分三种级别正、负样本开展模型训练。训练目标函数为：

L(q\text{'},s_k^{+},S)={\displaystyle \sum _{k=\mathrm{1}}^{\mathrm{3}}}{\lambda }_k\left(-\mathrm{l}\mathrm{o}\mathrm{g}\frac{\mathrm{e}\mathrm{x}\mathrm{p}(s(q\text{'},s_k^{+}))}{\mathrm{e}\mathrm{x}\mathrm{p}(s(q\text{'},s_k^{+}))+\sum _{s_k^{-}\in S}\mathrm{e}\mathrm{x}\mathrm{p}(s(q\text{'},s_k^{-}))}\right),（6）

其中s_k^{+}表示检索目标法条，S是从法条库中随机抽取不相关法条负样本集合，{\lambda }_k表示层次权重，本文设置为{\lambda }_{\mathrm{1}}:{\lambda }_{\mathrm{2}}:{\lambda }_{\mathrm{3}}=\mathrm{1}:\mathrm{1}:\mathrm{1}。值得注意的是，训练中仅采用BGE-M3稠密检索表示，即[\mathrm{C}\mathrm{L}\mathrm{S}]词元作为文本嵌入表示，有助于模型聚焦语义对齐能力。

法条层级结构信息增强法条的表达，通过三层损失函数（见公式（6））促使增强查询从法律名称、结构到内容的渐进对齐，缓解法条专业性高带来的表征不准确问题，从而提升查询与相关法条之间映射关系的学习准确性。图3展示了本方法完整的训练与推理过程，推理时本方法使用包含结构在内的完整法条信息作为待检索目标。

3 实验

针对法条检索任务，本文首先评估了不同类型的检索模型，包括基于词汇匹配和语义向量相似度计算的模型。随后，选用BGE-M3^［9］模型作为检索模型，Qwen2.5系列模型^［34］作为查询增强大模型，将本方法与其他查询增强方法进行了比较。最后，设计了消融实验，针对查询侧的增强方法和法条侧的结构信息增强，深入探讨它们对本方法检索性能的影响。

3.1　实验设置

3.1.1　数据集

STARD数据集^［6］是当前规模最大、面向公众法律咨询的开源中文法条检索语料库，包含我国55 348项法条、1 543条真实咨询问题，查询种类覆盖民事、经济、行政等多领域，具有领域覆盖广、查询真实性高、语义鸿沟挑战大的特点，能够有效模拟并评估模型在复杂公众咨询场景下的法条检索能力。本文实验中沿用其训练集、测试集的划分，包括1 235条训练数据和308条测试数据。另外，在STARD数据集基础上，本文为法条库中原有的“法律名称-法条内容”模式的法条补充法律层级结构（编、章、节）。例如，原法条数据为“《中华人民共和国民法典》第六百八十五条 保证合同可以是单独订立的书面合同，也可以是主债权债务合同中的保证条款”，本文将其补充为“《中华人民共和国民法典》第三编合同 第二分编典型合同 第十三章保证合同 第一节一般规定 第六百八十五条 保证合同可以是单独订立的书面合同，也可以是主债权债务合同中的保证条款”。

3.1.2　评估指标

为了确保实验的公平性和有效性，实验沿用STARD数据集两个指标用于评估检索模型性能：召回率（Recall，R）和平均倒数排名（Mean Reciprocal Rank， M）。召回率衡量模型检索法条中目标法条的比例，N个查询的平均召回率计算如下：

R@k=\frac{\mathrm{1}}{N}{\displaystyle \sum _{i=\mathrm{1}}^N}\frac{n_{\mathrm{m}\mathrm{a}\mathrm{t}\mathrm{c}{\mathrm{h}}_i}}{n_{\mathrm{t}\mathrm{o}\mathrm{t}\mathrm{a}{\mathrm{l}}_i}},（7）

其中n_{\mathrm{t}\mathrm{o}\mathrm{t}\mathrm{a}{\mathrm{l}}_i}表示第i个查询中所有相关法条的数量，n_{\mathrm{m}\mathrm{a}\mathrm{t}\mathrm{c}{\mathrm{h}}_i}表示前k个检索结果中属于相关法条的数量。平均倒数排名计算检索结果的倒序排名的均值，可写为：

M@k=\frac{\mathrm{1}}{N}{\displaystyle \sum _{i=\mathrm{1}}^N}\frac{\mathrm{1}}{r_i},（8）

其中r_i是第i个查询中首个相关法条的排名，且r_i\le k。

3.1.3　检索模型

本文复现了STARD工作选取的四类基线模型进行比较检索性能，分别是：

（1）稀疏检索方法，包括基于词汇匹配的QL^［11］和BM25^［4］模型；

（2）法律领域的预训练模型，包括Lawformer^［8］和SAILER^［19］模型；

（3）通用领域的预训练模型，包括BGE-M3^［9］模型和Chinese-RoBERTa-wwm^［15］模型；

（4）经过微调的密集检索模型，Dense-STARD模型以Chinese-RoBERTa-wwm为基座模型进行微调，Dense-BGE模型则以BGE-M3为基座模型，两者均采用对比学习方法训练。

本文实验使用以上模型的默认超参数设置，BGE-M3模型仅采用稠密检索模式。应用本文方法训练时，负样本采样数量为30个，并随机从法条库中抽取，学习率设置为\mathrm{5}\times {\mathrm{10}}^{-\mathrm{5}}，采用线性预热优化策略，前10%的训练步数用于学习率线性预热，启用混合精度训练和梯度检查点技术，训练了20个epoch，在NVIDIA A10040G双卡上训练，每卡批量大小为16。

3.1.4　查询增强方法

为了评估相向信息增强学习中查询增强方法对提升对比学习效果的有效性，本文将“查询-回答”（Query2Answer，Q2A）的增强方法与以下五种方法进行比较。

（1）PRF^［26］：用初始检索结果中的前m个相关法条扩展原始查询，作为新查询；

（2）CoT^［31］：提示大模型在回答问题前先给出法律依据，引导大模型生成推理路径和答案；

（3）Q2S^［27］（Query2Statute）：将通用领域的Q2D方法应用在法条检索任务中，即提示大模型生成m个相关法条增强原始查询，Q2S/ZS表示零样本提示，Q2S/FS表示少样本提示；

（4）Q2S/PRF^［30］：在Q2S/ZS基础上提供额外上下文信息，即初始检索结果中前m个PRF法条；

（5）交互式检索（Interactive Retrieval，InteR）^［33］：检索模型和大模型协同迭代增强原始查询，具体来说，Q2S/ZS得到的首次增强查询去做检索，检索结果的前m个法条作为PRF提示大模型生成二次增强查询，本文实验时沿用了原文设置的两轮迭代。

本文使用Qwen2.5-7B-Instruct和Qwen2.5-14B-Instruct 模型开展查询增强方法对比的实验，初始检索法条与大模型生成法条数量均设置为m=\mathrm{3}。

3. 2　检索模型的比较

不同检索模型在法条检索任务中的性能如表1所示，对比实验结果可以得到以下结论。

表1　不同检索模型在两种法条数据检索任务上的表现

Table 1　Performance of different retrieval models on two statute retrieval tasks

续表1　不同检索模型在两种法条数据检索任务上的表现

（1）词汇匹配检索方法表现强于法律预训练模型和Chinese-RoBERTa-wwm模型，表明关键词匹配方法仍是检索任务中的强大基线。（2）法律预训练模型在本任务表现不佳，源于Lawformer模型针对理解中文法律长文档进行了优化，SAILER模型则专注于查询案例进行类案检索任务，二者均未针对“多样化短查询-法条”的语义对齐进行优化，导致其难以适应本任务需求。（3）基于语义向量嵌入的密集检索模型在微调后检索性能会大幅提升，并远超词汇匹配模型的表现，这是因为通过对比学习，模型关注到了日常问题和法律条文之间的相关性，能够初步理解日常问题所蕴含的法律事件。在所有未微调的模型中，BGE-M3模型表现最佳，本文后续实验在BGE-M3基础上开展。

本文还研究了增加法条结构信息对检索模型的影响。（1）对于词汇匹配模型来说，增加法条信息相当于提供更多相关的关键词，因此检索性能会有所提升。（2）对于通用预训练模型和法律预训练模型，增加的法律结构可能与预训练阶段法律文本组成不同，增加了检索噪声，导致表现变差。（3）对于微调模型，训练时将法律结构信息纳入考虑范围的效果比没有结构信息时略好，说明增强法律信息在法条检索任务中的有效性。在BGE-M3模型上使用本文方法时，检索时是否增加法条结构信息对结果影响不大，这表明本文方法能够识别不同格式法条的核心语义，具有一定自适应性。结果表明，采用本文方法，BGE-M3模型在各项指标提升10%到20%。

表2展示了基于BGE-M3模型未利用/利用本文方法检索到的法条。从检索结果来看，直接用BGE-M3模型进行法条检索未理解争议焦点，仅给出了与“集中供暖”“费用”内容相关的法条。实际用户意图为是否可以在特定条件下免缴供暖费，增强后查询点明该问题应依据供暖合同来确定，应用本文方法检索到了更相关的法条。

3. 3　查询增强方法的比较

本节评估了不同查询增强方法和不同大小的大模型对法条检索性能的影响，探讨查询增强方法与检索模型训练的有效适配问题。所有实验均在相同条件下开展，即法条方面均进行了结构信息增强，并通过对比学习区分三种模式的正负样本。基线方法指的是在上述场景下未使用任何查询增强方法所获得的模型。

表3展示了本文方法和其他六种查询增强方法的对比，得出以下结论。

（1）PRF无需大模型生成反馈，二次检索依赖初始检索的法条，因此结果变化不大；本文另对比了使用基线检索模型作为初始检索得到PRF，表明粗糙的改变查询文本模式会导致性能下降。（2）CoT方法的Recall@100等指标表现不错，说明推理过程确实提供了一定的相关信息，但少量检索范围表现较差。（3）Q2S/FS优于Q2S/ZS方法，说明上下文示例能在一定程度上提升大模型生成法条的相关性和准确性。（4）迭代两轮的InteR方法比单轮方法的结果表现差，说明多轮交互可能引入了更多噪声，增加了法条检索任务的挑战，过度引入信息对这类任务的负面影响大于提升效果。本文方法在各个指标上都表现良好，尤其体现在少量检索范围优势突出。在大模型有限上下文窗口长度限制下，对大模型RAG系统可提供更好的检索支撑。

此外，从表3可以看出，大模型体量也是影响查询增强质量的关键，相较于Qwen2.5-7B，Qwen2.5-14B在不同查询增强方法中各项指标均更具优势，说明其查询增强效果更佳。甚至，Qwen2.5-7B在Q2S和InteR方法上的结果表现不如基线方法，说明它更容易受幻觉影响，较难完成生成法条的任务。同时，过度复杂的增强方法会提高模型遵循指令的难度，导致小体量模型难以完成查询增强任务。本文方法通过引导模型对原始查询生成法律回答而非法律条文，降低查询增强任务难度，在小体量模型上同样实现性能提升。

3. 4　相向信息增强学习的分析

为了深入探究法条信息增强、查询增强以及二者相向信息增强对法条检索结果的影响，本文设计消融实验进行分析，以下分别展开。

3.4.1　法条信息增强分析

为了验证不同法条信息量及三层法条结构设计对检索模型训练性能的影响，本节对BGE-M3基础模型在不同信息量与信息组合下开展训练与评估。模型01-05表示用如下数据进行微调，注意这些模型均未使用查询增强方法。

01：｛法律名称-法条内容｝；

02：｛法律名称-法律层级结构-法条内容｝；

03：｛法律名称｝，｛法律名称-法律层级结构-法条内容｝；

04：｛法律名称-法律层级结构｝，｛法律名称-法律层级结构-法条内容｝；

05：｛法律名称｝，｛法律名称-法律层级结构｝，｛法律名称-法律层级结构-法条内容｝。

实验结果如表4所示，其中基线模型为未微调的BGE-M3模型。结果表明，（1）模型02与01相比有所提升，验证层级结构可强化语义关联建模。（2）模型03、04相比模型02来讲，强调法律名称和结构的信息对检索有一定的提升效果。（3）模型05，即采用本文对比学习的方法，通过三类信息混合训练效果最佳，表明混合对比学习能够显著提升模型检索性能。

3.4.2　查询增强分析

在查询增强方面，本文验证基于大模型的查询增强的必要性，以及查询增强前、后引入对比学习对检索性能的影响。表5每个方法第一行为先训练检索模型，后引入查询增强方法；第二行为先引入查询增强方法，后采用检索模型微调。基线方法表示未使用大模型查询增强，其他增强方法均采用Qwen2.5-14B-Instruct模型。

实验结果如表5所示，可以得到以下结论。（1）顺序调换后，各方法均出现性能明显下降的趋势，缘于训练与检索阶段的查询分布不同，导致模型无法泛化到增强后文本模式。（2）本文查询增强方法比基线方法各项指标提升4%到7%，表明可以有效提升法条检索任务性能。

3.4.3　相向信息增强分析

表6为法条侧、查询侧及二者相向信息增强对法条检索性能提升程度。其中方法1表示采用法条信息增强方法，未采用查询增强；方法2表示采用查询增强，未采用法条信息增强及其对比学习训练方法。基线为基础BGE-M3模型。

结果显示（1）基于法条信息增强的混合对比学习方法提升效果显著；（2）仅采用查询信息增强方法对性能提升相对较小；（3）相向信息增强方法对法条检索效能带来巨大性能提升，超过法条与查询增强各自提升之和，起到“1+1>2”的效果，这表明相向信息增强策略能够有效促进法条与查询之间的语义对齐，增强模型对法律语义匹配的敏感度。

4 总结与展望

本文提出一种基于相向信息增强学习的法条检索方法，旨在面向公众法律咨询复杂场景提供准确检索法条能力。为应对法条术语高度专业化、用户查询模糊等挑战，本文从检索任务的两个核心对象——查询与法条出发，提出一种双向增强策略，通过引入相向信息增强机制，拉近两者之间的语义距离。在查询侧，本文采用基于大模型问答的查询增强方法，利用大模型生成解释性答案，并将原始查询转化为包含明确法律概念与推理逻辑的文本，显式补充查询中隐含的用户意图，缓解模糊与非专业表述问题。在法条侧，本文充分利用法条文本的层次结构特征，构建了递增式的法条信息表达方式，逐步增强法条语义表示的丰富性与准确性。在此基础上，构建相向信息增强对比学习框架，促使模型更有效地理解查询与相关法条之间的语义联系。本文开展各类对比实验，结果表明本文方法比BGE-M3基线模型效果提升10%~20%，Recall@5达到69.74%，显著提高模型法条检索性能，可为法律从业者提供快速、准确查询相关法条服务，同时，为法律大模型RAG系统构建提供坚实基础。

未来，本文将在多语言、跨法系数据集上验证相向法律信息增强学习方法的有效性，进一步探索该方法在跨领域任务中的泛化能力。其次，针对评估维度，我们计划将本方法检索到的法条注入LawBench、LexEval等更复杂的法律推理评估数据集中，通过衡量其在下游任务（如法律知识问答、法律咨询等）中的表现，从应用层面更细致地评估检索结果的实际效用与正确性。此外，本文相向法律信息增强思路是一种通用的法律检索解决路径，可以扩展到其他两边信息差异较大的检索问题中。本文提出的相向信息增强思路作为一种通用的领域检索解决路径，在医学、金融等同样存在专业语义鸿沟的领域具有潜在的应用价值，值得进一步探索。

参考文献

[1] PHAM T N A, DO D T, LE NGUYEN M. A Framework for Enhancing Statute Law Retrieval Using Large Language Models[M]//New Frontiers in Artificial Intelligence. Singapore: Springer Nature Singapore, 2024: 247-259. DOI: 10.1007/978-981-97-3076-6_17 .

[2] LEWIS P, PEREZ E, PIKTUS A, et al. Retrieval-augmented Generation for Knowledge-intensive NLP Tasks[C]//Advances in Neural Information Processing Systems. San Diego: Curran Associates, Inc.,2020, 33: 9459-9474.

[3] HUANG P-S, HE X D, GAO J F, et al. Learning Deep Structured Semantic Models for Web Search Using Clickthrough Data[C]//Proceedings of the 22nd ACM International Conference on Information & Knowledge Management. New York: ACM, 2013: 2333-2338. DOI: 10.1145/2505515.2505665 .

[4] ROBERTSON S, ZARAGOZA H. The Probabilistic Relevance Framework: BM25 and beyond[J]. FNT Information Retrieval, 2009, 3(4): 333-389. DOI: 10.1561/1500000019 .

[5] WANG H F, LI J W, WU H, et al. Pre-trained Language Models and Their Applications[J]. Engineering, 2023, 25: 51-65. DOI: 10.1016/j.eng.2022.04.024 .

[6] SU W H, HU Y R, XIE A Z, et al. STARD: A Chinese Statute Retrieval Dataset with Real Queries Issued by Non-professionals[C]//Findings of the Association for Computational Linguistics: EMNLP. Stroudsburg: ACL, 2024: 10658-10671. DOI:10.18653/v1/2024.findings-emnlp.625 .

[7] DEVLIN J, CHANG M W, LEE K, et al. BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding[C]//North American Chapter of the Association for Computational Linguistics. Stroudsburg: Association for Computational Linguistics, 2019, 1: 4171-4186.

[8] XIAO C J, HU X Y, LIU Z Y, et al. Lawformer: A Pre-trained Language Model for Chinese Legal Long Documents[J]. AI Open, 2021, 2: 79-84. DOI: 10.1016/j.aiopen.2021.06.003 .

[9] CHEN J L, XIAO S T, ZHANG P T, et al. M3-Embedding: Multi-Linguality, Multi-Functionality, Multi-granularity Text Embeddings Through Self-knowledge Distillation[C]//Findings of the Association for Computational Linguistics ACL 2024. Stroudsburg, PA, USA: ACL, 2024: 2318-2335. DOI: 10.18653/v1/2024.findings-acl.137 .

[10] RAMOS J. Using TF-IDF to Determine Word Relevance in Document Queries[C]//Proceedings of the First Instructional Conference on Machine Learning. Citeseer, 2003: 29-48.

[11] PONTE J M, CROFT W B. A Language Modeling Approach to Information Retrieval[J]. SIGIR Forum, 2017, 51(2): 202-208. DOI: 10.1145/3130348.3130368 .

[12] KARPUKHIN V, OGUZ B, MIN S, et al. Dense Passage Retrieval for Open-domain Question Answering[C]//Proceedings of the 2020 Conference on Empirical Methods in Natural Language Processing (EMNLP). Stroudsburg: ACL, 2020: 6769-6781. DOI: 10.18653/v1/2020.emnlp-main.550 .

[13] LIU Y H, OTT M, GOYAL N, et al. RoBERTa: A Robustly Optimized BERT Pretraining Approach[EB/OL]. (2019-07-26) [2025-11-21].

[14] KHATTAB O, ZAHARIA M. ColBERT: Efficient and Effective Passage Search via Contextualized Late Interaction over BERT[C]//Proceedings of the 43rd International ACM SIGIR Conference on Research and Development in Information Retrieval. New York: ACM, 2020: 39-48. DOI: 10.1145/3397271.3401075 .

[15] CUI Y M, CHE W X, LIU T, et al. Pre-training with Whole Word Masking for Chinese BERT[J]. IEEE/ACM Trans Audio Speech Lang Process, 2021, 29: 3504-3514. DOI: 10.1109/TASLP.2021.3124365 .

[16] BHATTACHARYA P, GHOSH K, GHOSH S, et al. FIRE 2019 AILA Track: Artificial Intelligence for Legal Assistance[C]//Proceedings of the 11th Forum for Information Retrieval Evaluation. New York: ACM, 2019: 4-6. DOI: 10.1145/3368567.3368587 .

[17] WANG Y H, SU F D, YEH T Y, et al. A Cross-lingual Statutory Article Retrieval Dataset for Taiwan Legal Studies[EB/OL]. (2024-10-15) [2025-11-21].

[18] LOTFI E, BANAR N, YUZBASHYAN N, et al. Bilingual BSARD: Extending Statutory Article Retrieval to Dutch[C]//Proceedings of the 1st Regulatory NLP Workshop. Stroudsburg: ACL, 2025: 10-21.

[19] LI H T, AI Q Y, CHEN J, et al. SAILER: Structure-aware Pre-trained Language Model for Legal Case Retrieval[C]//Proceedings of the 46th International ACM SIGIR Conference on Research and Development in Information Retrieval. New York: ACM, 2023: 1035-1044. DOI: 10.1145/3539618.3591761 .

[20] BELTAGY I, PETERS M E, COHAN A. Longformer: The Long-document Transformer[EB/OL]. (2020-04-10) [2025-11-21].

[21] CHEN Y S, CHIANG S W, WU M L. A Few-shot Transfer Learning Approach Using Text-label Embedding with Legal Attributes for Law Article Prediction[J]. Appl Intell, 2022, 52(3): 2884-2902. DOI: 10.1007/s10489-021-02516-x .

[22] 李琳, 段围, 周栋, 等. 基于深度语义匹配的法律条文推荐方法[J]. 软件学报, 2022, 33(7): 2618-2632. DOI: 10.13328/j.cnki.jos.006287 .

[23] LI L, DUAN W, ZHOU D, et al. Law Article Recommendation Approach Based on Deep Semantic Matching[J]. J Softw, 2022, 33(7): 2618-2632. DOI: 10.13328/j.cnki.jos.006287 .

[24] 丁娜, 刘鹏, 邵惠鹏, 等. 双向注意力文本关键词匹配法条推荐[J]. 北京大学学报(自然科学版), 2024, 60(1): 79-88. DOI: 10.13209/j.0479-8023.2023.077 .

[25] DING N, LIU P, SHAO H P, et al. Bi-attention Text-keyword Matching for Law Recommendation[J]. Acta Sci Nat Univ Pekin, 2024, 60(1): 79-88. DOI: 10.13209/j.0479-8023.2023.077 .

[26] XU N, WANG P H, CHEN L, et al. Distinguish Confusing Law Articles for Legal Judgment Prediction[C]//Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics. Stroudsburg, PA, USA: ACL, 2020: 3086-3095. DOI: 10.18653/v1/2020.acl-main.280 .

[27] BHOGAL J, MACFARLANE A, SMITH P. A Review of Ontology Based Query Expansion[J]. Inf Process Manag, 2007, 43(4): 866-886. DOI: 10.1016/j.ipm.2006.09.003 .

[28] YU H, XIONG C Y, CALLAN J. Improving Query Representations for Dense Retrieval with Pseudo Relevance Feedback[C]//Proceedings of the 30th ACM International Conference on Information & Knowledge Management. New York: ACM, 2021: 3592-3596. DOI: 10.1145/3459637.3482124 .

[29] WANG L, YANG N, WEI F R. Query2doc: Query Expansion with Large Language Models[C]//Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing. Stroudsburg: ACL, 2023: 9414-9423. DOI: 10.18653/v1/2023.emnlp-main.585 .

[30] MACKIE I, CHATTERJEE S, DALTON J. Generative Relevance Feedback with Large Language Models[C]//Proceedings of the 46th International ACM SIGIR Conference on Research and Development in Information Retrieval. New York: ACM, 2023: 2026-2031. DOI: 10.1145/3539618.3591992 .

[31] GAO L Y, MA X G, LIN J, et al. Precise Zero-shot Dense Retrieval without Relevance Labels[C]//Proceedings of the 61st Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers). Stroudsburg: ACL, 2023: 1762-1777. DOI: 10.18653/v1/2023.acl-long.99 .

[32] JAGERMAN R, ZHUANG H, QIN Z, et al. Query Expansion by Prompting Large Language Models[EB/OL]. (2023-03-15) [2025-11-21].

[33] WEI J, WANG X Z, SCHUURMANS D, et al. Chain-of-thought Prompting Elicits Reasoning in Large Language Models[C]//Advances in Neural Information Processing Systems. San Diego: Curran Associates, Inc.,2022, 35: 24824-24837. DOI: 10.1145/2505515.2505665 .

[34] MACKIE I, CHATTERJEE S, DALTON J. Generative and Pseudo-relevant Feedback for Sparse, Dense and Learned Sparse Retrieval[EB/OL]. (2023-04-05) [2025-11-21].

[35] FENG J Z, TAO C Y, GENG X B, et al. Synergistic Interplay between Search and Large Language Models for Information Retrieval[C]//Proceedings of the 62nd Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers). Stroudsburg: ACL, 2024: 9571-9583. DOI: 10.18653/v1/2024.acl-long.517 .

[36] BAI J, BAI S, CHU Y, et al. Qwen Technical Report[EB/OL]. (2023-08-15)[2025-11-21].

基金资助

国家自然科学基金(62502282)

山东省重点研发计划(SYS202201)

泉城省实验室科研项目(QCL20250105)