基于多头自注意力机制和对抗训练的实体关系联合抽取

摘要

实体关系联合抽取是构建知识图谱的重要阶段，旨在抽取文本中存在语义关系的实体对。针对已有的实体关系联合抽取方法在抽取过程中存在的冗余关系预测、实体关系重叠以及上下文潜在语义信息捕捉不足的问题，提出联合多头自注意力机制和对抗训练的方法进行实体关系的抽取。该方法利用多头自注意力机制捕获潜在语义特征，以提升模型对上下文语义信息的感知能力；将对抗训练引入模型的训练阶段，以增强模型的泛化能力和鲁棒性。实验结果表明：与现有主流模型对比，提出的模型在NYT和WebNLG两个公共数据集上都取得了更优的F1值，在处理实体关系重叠问题以及不定数量三元组抽取上都能保持稳定的性能表现，验证了模型的有效性。

关键词

实体关系联合抽取 / 对抗训练 / 多头自注意力 / 知识图谱

基金资助

国家自然科学基金(42050104); 自然资源部深时地理环境重建与应用重点实验室开放基金项目(DGERA20221102)