基于BERT的多特征融合中文命名实体识别

摘要

针对中文命名实体识别往往需要引入外部知识获取深层语义信息，以及基于RNN结构的模型对空间特征提取效果不佳等问题，提出了基于BERT的多特征融合中文命名实体识别模型.通过BERT模型获取输入文本序列的深层次语义信息，利用MHSA模块和IDCNN模块增强特征提取能力.前者利用相对位置编码和多头自注意力机制来捕获输入序列的隐藏特征，使模型能够考虑到字符间的距离方向信息；后者则可以对空间特征建模，获得输入序列的全局信息.通过将两个模块的输出特征进行连接，增强模型性能.实验结果表明：模型在MSRA、Resume和Weibo三个公共数据集上的F1值分别达到了95.12%、95.45%和66.14%，优于其它最新模型，验证了模型在中文命名实体识别上的有效性.

关键词

自然语言处理 / 中文命名实体识别 / BERT模型 / 迭代膨胀卷积神经网络 / 自注意力