基于注意力机制多特征融合与文本情感分析的日志异常检测方法

摘要

现有的基于深度学习和神经网络的日志异常检测方法通常存在语义信息提取不完整、依赖日志序列构建和依赖日志解析器等问题.基于注意力机制多特征融合和文本情感分析技术，提出了一种日志异常检测方法 .该方法首先采用词嵌入方法将日志文本向量化以获取日志消息的词向量表示，接着将词向量输入到由双向门控循环单元网络和卷积神经网络组成的特征提取层中分别提取日志消息的上下文依赖特征和局部依赖特征，使用注意力机制分别加强两种特征中的关键信息，增强模型识别关键信息的能力.使用基于注意力机制的特征融合层为两种特征赋予不同权重并加权求和后输入由全连接层构成的输出层中，实现日志消息的情感极性分类，达到日志异常检测的目的 .在BGL公开数据集上的实验结果表明，该模型的分类准确率和F1值分别达到了96.36%和98.06%，与同类日志异常检测模型相比有不同程度的提升，从而证明了日志中的语义情感信息有助于异常检测效果的提升，并且经过实验证明了使用注意力机制的模型可以进一步提高文本情感分类效果，进而提升日志异常检测的准确率.

关键词

多特征融合 / 注意力机制 / 文本情感分析 / 日志分析 / 系统异常检测

基金资助

国家自然科学基金(U19A2068,61872254)