基于掩码注意力与多特征卷积网络的关系抽取方法

摘要

关系抽取旨在抽取2个命名实体之间的语义关系。近年来，提示学习通过拼接提示模板并进行掩码预测的方式，统一了预训练语言模型训练和微调过程的优化目标，在关系抽取领域取得优异的性能。然而，固定的提示模板与关系实例间的弱语义关联导致模型对复杂关系的语义感知能力差。针对这一问题，本文提出一种基于掩码注意力与多特征卷积网络的关系抽取方法。该方法采用三仿射注意力机制将提示模板中的掩码与关系实例的语义空间进行交互映射，形成二维掩码语义，并利用多特征卷积网络和多层感知机提取二维掩码语义中的关系信息。该方法通过建立掩码与关系实例间的显式语义依赖，增强提示模型对复杂关系的语义感知能力。该方法在数据集SemEval、SciERC和CLTC上的F₁值分别达到91.4%、 91.2%和82.6%,验证了该方法的有效性。

关键词

自然语言处理 / 关系抽取 / 提示学习 / 三仿射注意力机制 / 卷积神经网络