专栏评述：大模型在网络安全漏洞挖掘中的创新应用前沿进展

摘要

<正>随着人工智能技术的迅猛发展，以大语言模型（LLM）为代表的新一代人工智能技术正在深刻变革网络安全漏洞挖掘的传统范式。大模型凭借其强大的代码语义理解能力、上下文推理能力和多语言泛化能力，为漏洞挖掘注入了新的智能动力。通过深度学习历史漏洞数据、理解代码逻辑结构及生成高质量测试用例，大模型不仅能显著提升漏洞检测的覆盖率和准确率，还能从被动防御转向主动风险预测，重新定义网络安全漏洞挖掘的效率标准与技术路径。

随着人工智能技术的迅猛发展，以大语言模型（LLM）为代表的新一代人工智能技术正在深刻变革网络安全漏洞挖掘的传统范式。大模型凭借其强大的代码语义理解能力、上下文推理能力和多语言泛化能力，为漏洞挖掘注入了新的智能动力。通过深度学习历史漏洞数据、理解代码逻辑结构及生成高质量测试用例，大模型不仅能显著提升漏洞检测的覆盖率和准确率，还能从被动防御转向主动风险预测，重新定义网络安全漏洞挖掘的效率标准与技术路径。为了汇集大模型赋能网络安全的最新研究成果，促进学术交流并激发技术创新，我们策划组织了这方面研究的专题专栏。

2025年9月，四川大学学报（自然科学版）向相关专家组发起了“大模型在网络安全漏洞挖掘中的创新应用前沿进展”专栏征稿活动，聚焦大模型对漏洞挖掘关键环节的优化、检测能力的增强以及在真实场景中的落地应用。经过特邀专家邀请、投稿及严格评审，最终在四川大学学报（自然科学版）第2期“大模型赋能漏洞挖掘前沿进展”专栏发表3篇论文，其中综述论文1篇，研究论文2篇，作者分别来自四川大学、中国人民解放军陆军工程大学及广东工业大学等单位，内容涵盖CUDA库模糊测试、大模型越狱攻击综述及神经网络硬件加速器剪枝优化等，现分述如下。

1） 《面向优化的大语言模型黑盒越狱攻击研究综述》聚焦于大语言模型自身的安全性问题，针对越狱攻击这一核心挑战，系统性地梳理了基于优化的黑盒越狱攻击方法。该文将现有方法归纳为基于遗传算法、强化学习、模糊测试和LLM对抗生成等4类优化框架，并深入剖析了各类方法的核心机制与优劣势。该综述指出，基于优化的方法凭借自动生成对抗性提示的能力，在攻击成功率和隐蔽性上表现显著。该文还批判性地分析了现有防御手段在实时性和泛化性方面的不足，倡导构建动态化防御架构与标准化评估基准，为大模型在对抗环境下的安全研究提供了理论支持。

2） 《Cuda-Gen：一种基于API知识图覆盖驱动的CUDA模糊测试框架》针对NVIDIA CUDA库因闭源特性和独特编程范式导致安全性评估不足的问题，提出了一种名为Cuda-Gen的新型模糊测试工具。该研究利用大语言模型从文档和示例中提取语义关系构建API知识图谱，解决了传统模糊测试缺乏引导导致API覆盖范围有限的问题。同时，该文提出了一种基于API覆盖位图的引导机制和参数隔离变异策略，有效提升了测试驱动的生成质量和变异效率。在多个CUDA版本和广泛使用的库上的评估结果表明，该方法在API覆盖率和边覆盖率上均显著优于基线工具，并成功发现了经NVIDIA安全团队验证的未知漏洞。

3） 《一种基于权重重构的忆阻神经网络剪枝方法》关注于支撑大模型及深度神经网络运行的底层硬件效率与安全性，针对基于电阻式随机存取存储器（RRAM）的神经网络加速器，提出了一种基于权重重构的剪枝方法。该方法利用权重间的数值共性，设计了基于整数缩放的权重重构策略，仅映射关键信息至RRAM交叉阵列。同时，该文引入了渐进式重训练机制，将被舍弃的信息作为引导信号逐步衰减以恢复模型精度。实验结果表明，该方法在大幅提升模型压缩率、面积效率与能效的同时，几乎不损失模型精度，为部署大规模神经网络提供了高效的硬件优化方案。