基于多维特征表示的文本语义匹配

摘要

文本语义匹配是很多自然语言处理任务的基础.在很多场景中都需要文本语义匹配技术,如搜索、问答系统等.在实际运用场景中,对文本语义匹配的效率有很高的要求.虽然表征学习型语义匹配模型相较于交互型模型的准确率有所下降,但效率极高.而表征学习型语义匹配模型提升性能的关键是抽取具有高层语义特征的句向量.针对该问题,本文在ERINE模型的基础上,设计了特征融合模块及特征抽取模块,以获取具有多维语义特征的句向量,并通过设计语义预测的损失函数,进一步提升模型获取语义信息的性能,从而提高文本语义匹配的准确率.最终在百度千言文本相似度数据集上的准确率达到85.1%,表现出较好的性能.

关键词

文本语义匹配 / 预训练模型 / 句向量 / 语义特征