融合强化学习与注意力机制的联合关系抽取模型

摘要

关系抽取(RE)是信息抽取的核心任务.近年来，CasRel模型通过实体映射来解决具有重叠三元组的复杂场景，该模型在关系抽取中的良好表现引发了人们的对相关研究的兴趣.但是该模型具有以下缺点：对文本中句子连续性考虑不充分、输入样本不平衡以及数据噪声对模型影响较为明显.针对以上缺点，本文提出一种基于CasRel的改进模型BACJRE(BiLSTM-Attention-CRF Joint Relation Extraction).在数据方面，通过强化学习的手段训练出低噪声的数据样本；在模型方面，通过引入注意力机制使其充分接收句子信息.模型中的头实体联合解码器通过结合BiLSTM+CRF+Attention层，提高模型对于非结构化文本中句子的信息抓取能力；在模型尾端集成的Focal Loss函数优化了在样本分布不均的条件下的关系抽取性能.本文在WebNLG、NYT及NYT11-HRL数据集上对BACJRE模型以及相关主流模型进行比对，实验结果表明BACJRE模型优于基线模型.

关键词

关系抽取 / 强化学习 / CasRel / 注意力机制

基金资助

国家自然科学基金项目(51878536)资助; 陕西省住房城乡建设科技计划基金项目(2020-K09)资助; 陕西省教育厅协同创新中心基金项目(23JY038)资助