基于BERT-MABL模型的客户评论情感分析研究

摘要

为准确分析平台客户评论的情感倾向，针对传统的情感分析模型无法联系上下文语义信息、无法解决一词多义、没有分配词汇情感权重等问题，提出了一种基于BERT-MABL模型的文本情感分析方法 .首先使用BERT来提取包含深层语义信息的词向量，同时为了使模型能够学习到文本的上下文语义，使用Bi-LSTM模型作为主体，再引入多头注意力机制构建出MABL模型，解决Bi-LSTM无法考虑词汇情感分配权重的问题，并使模型可以从多个角度关注文本信息.实验结果表明，当多头个数和Dropout率分别为8和0.3时，基于BERT-MABL模型的客户评论情感分析方法在3个数据集上的准确率分别达到了89.28%、90.20%和90.85%,F1值分别达到了87.16%、89.04%和88.24%，均优于传统模型.

关键词

情感分析 / BERT / 词向量 / Bi-LSTM / 多头注意力机制