一种利用大语言模型的安全关键系统失效模式识别方法

摘要

基于模型的安全分析(MBSA)是安全关键系统(SCS)安全评估的最新方法.失效模式是指系统、组件或设计可能无法达到预期性能标准的表现方式，是MBSA故障行为建模的重要组成部分.然而，随着系统复杂性的增加，手动提取失效模式非常耗时，不同安全工程师的提取结果缺乏一致性.为了应对这些挑战，本文提出了LLM4IFM方法，该方法利用大语言模型(LLM)从故障历史记录、安全标准等文本源中提取失效模式.为了确保数据安全，LLM4IFM采用本地大语言模型，而非云部署大语言模型.首先，该方法对从安全关键领域收集的数据进行预处理，用于知识增强，从而构建特定领域的LLM;实验结果表明，与微调方法相比，检索增强生成方法(RAG)在长上下文处理和知识整合方面具有更好的表现.其次，提出了一种基于命题逻辑的提示框架，与标准提示相比，它显著提高了不同粒度级别下失效模式提取的准确性.最后，该方法在工业界弹射座椅控制系统中取得了成功应用.

关键词

基于模型的安全分析 / 失效模式 / 大语言模型 / 检索增强生成 / 微调 / 提示工程 / 数据安全

基金资助

国家自然科学基金项目(62072233)资助; 国防基础科研项目(JCKY2020205C006)资助; 航空科学基金项目(201919052002)资助