基于提示学习的ERNIE-BiLSTM-PN通用信息抽取方法研究

摘要

随着大数据时代的到来，信息抽取已成为自然语言处理领域的重要研究方向。信息抽取涉及多项任务，包括命名实体识别、关系抽取和事件抽取等，每项任务通常需要依靠专用模型来应对其特定的挑战。该文提出一种基于提示学习的ERNIE-BiLSTM-PN通用信息抽取方法（EBP-UIE），结合预训练语言模型（ERNIE）、双向长短期记忆网络（BiLSTM）和指针网络（PN），旨在通过一个统一的框架解决信息抽取任务的复杂性，并实现跨任务知识的共享。ERNIE优化了对文本的深层理解和上下文分析，BiLSTM的应用加强了对序列特征的捕捉及长距离依赖关系的解析，PN则提高了对文本中信息元素起止位置的精确标定，提示学习机制灵活实现多个信息抽取任务的统一建模。实验结果显示：在命名实体识别任务，EBP-UIE在MSRA和PeopleDaily数据集上的F1分数比UIE模型分别高出7.12%和0.53%；在关系抽取任务，EBP-UIE在DuIE数据集上的F1分数超过UIE模型6.84%；对于事件抽取任务，EBP-UIE在DuEE数据集上的触发词和论元抽取F1分数分别比UIE模型高出4.49%和0.95%。

关键词

通用信息抽取 / 深度学习 / 指针网络 / 提示学习