预训练多池注意力模型的事件论元抽取

周晓磊; 梁宇龙; 郭锐锋; 张炜

doi:10.20009/j.cnki.21-1106/TP.2024-0089

小型微型计算机系统 ›› 2025, Vol. 46 ›› Issue (05) : 1064 -1071. DOI: 10.20009/j.cnki.21-1106/TP.2024-0089

预训练多池注意力模型的事件论元抽取

周晓磊, 梁宇龙, 郭锐锋, 张炜

作者信息 +

Author information +

文章历史 +

摘要

事件论元抽取任务在专业领域中，缺乏标注数据资源且数据标注成本高，导致任务性能在处理同类实体的主客体表达时表现糟糕.本文提出了一种方法，将多池注意力机制与预训练模型相结合建模为以机器问答为框架的提取任务.通过采用预训练编码的多维池化表示，捕获了句子和局部上下文特征，解决了在参数提取过程中准确识别事件主体和对象的问题，又增强了模型在资源约束下的性能.通过与具有相似参数量级的预训练问答模型进行性能比较，本文方法显示出更高的评测性能.这证实了本文方法在资源受限的情况下的有效性.