基于生成对抗网络的类别文本生成

蔡丽坤; 吴运兵; 陈甘霖; 刘翀凌; 廖祥文

doi:10.16088/j.issn.1001-6600.2021093002

广西师范大学学报（自然科学版） ›› 2022, Vol. 40 ›› Issue (04) : 79 -90. DOI: 10.16088/j.issn.1001-6600.2021093002

基于生成对抗网络的类别文本生成

蔡丽坤, 吴运兵, 陈甘霖, 刘翀凌, 廖祥文

作者信息 +

Author information +

文章历史 +

PDF

摘要

类别文本生成旨在让机器生成人类可理解的文本，并且赋予生成文本特定的类别属性。现有工作主要采用基于生成对抗网络的文本生成框架，往往直接采用卷积神经网络进行文本特征提取，缺乏对文本全局语义的关注；此外，简单地在生成网络中引入注意力无法有效消除解码过程中的噪声。针对上述问题，本文提出一种将文本全局特征与局部特征联合建模的方法，通过将长短时记忆网络提取的全局语义信息与卷积神经网络提取的局部语义信息进行融合，增强生成过程中对文本全局语义信息的关注，并且引入双重注意力，进一步过滤掉序列生成中的无关信息。与基准模型相比，本文提出的方法分别在2个公开的真实数据集(Movie Review和Amazon Review)上取得了至少0.01和0.004的BLEU值的提升，表明了本文方法的有效性。