基于模型的新闻文本自动摘要研究

陈鑫影, 董文超, 刘月凡, 杨家琪

doi:10.13291/j.cnki.djdxac.2024.05.016

大连交通大学学报 ›› 2024, Vol. 45 ›› Issue (05) : 114 -120. DOI: 10.13291/j.cnki.djdxac.2024.05.016

基于模型的新闻文本自动摘要研究

陈鑫影, 董文超, 刘月凡, 杨家琪

作者信息 +

Author information +

文章历史 +

PDF (7316K)

摘要

针对传统文本摘要模型参数多、运算耗时长等问题，基于改进BERTSUM模型，探索了BERT模型的蒸馏变体DistilBERT、MobileBERT在CNN/DM数据集上所表现出的摘要性能，并由此提出一种轻量化抽取式摘要模型(DistilSum)。试验对比分析表明，该模型保留了原模型99%的性能，同时训练参数缩减了约36%,训练时间大幅减少。