面向生成式文本摘要模型的内在幻觉优化方法

摘要

生成新的表达，即使是最先进的摘要模型也可能产生与原始文本矛盾或无法验证准确性的内容，这种现象被称为“幻觉”。为解决这一问题，提出了一种内在幻觉优化方法，用于改进摘要生成过程。该方法分别从数据层面、模型训练层面和摘要生成策略层面提出了摘要模型幻觉优化方法。在2个数据集上的实验验证均取得最佳性能。实验结果表明，对比基线模型，在CNNDM数据集上R-1得分平均提升8.58%;在XSUM数据集上R-1得分平均提升7.26%。该方法不仅能够提升摘要生成效果，而且有效减少了生成摘要中的幻觉问题，为生成式文本摘要模型落地和应用提供了参考。

关键词

生成式文本摘要 / 内在幻觉 / 候选摘要 / 大语言模型

基金资助

国家自然科学基金重点项目(61936001); 重庆市教委重点合作项目(HZ2021008)