一种提示微调驱动的模型知识校准关系抽取方法

摘要

近年来，提示微调在自然语言处理任务中展现出卓越的性能，其核心是设计与任务匹配的提示模板和答案空间.然而，在关系抽取任务中，构建合适的模板依赖专家知识，且难以有效利用关系标签语义.同时，模型预测易受实体与关系虚假关联的影响.为此，本文提出了一种基于提示微调的模型知识校准关系抽取方法.首先，将关系标签知识注入可微提示，通过注意力机制聚合模型多层表征.采用特征匹配策略和结构约束方法增强模型对关系语义和三元组结构知识的感知，协同优化提示模版.最后，通过因果分析消除实体知识带来的预测偏差.实验结果表明，在4个关系抽取基准数据集的全监督和小样本场景下，模型仍展现出具有竞争力或更优的性能.

关键词

关系抽取 / 提示微调 / 注意力机制 / 特征匹配 / 协同优化

基金资助

“尖兵领雁+X”研发攻关项目(2024C03274)资助; 国家自然科学基金项目(62176236)资助; 浙江省自然科学基金项目(LZ24F030011)资助