基于深度学习的文本分类模型研究

摘要

在飞速发展的互联网时代，网络新闻成为人们获取资讯的重要途径。随着网络中新闻文本的数量不断增加，人们获取想了解的新闻信息变得愈加困难，基于此，快速对网络新闻进行分类显得尤为重要。本文提出一种融合基于Transformer框架的双向编码(bidirectional encoder representations from Transformers, BERT)和长短期记忆(long short-term memory, LSTM)网络的新闻标题文本分类模型，首先使用BERT生成的新闻标题文本向量，然后输送到LSTM网络中提取上下文关系特征，最后利用Softmax分类器判断分类结果。通过与其他模型进行对比，表明本文所提模型在新闻文本分类任务上表现更佳，验证了模型的有效性。

关键词

文本分类 / 新闻标题 / 长短期记忆(LSTM) / Transformer框架的双向编码(BERT)