使用交叉注意力融合项目类别属性的序列推荐模型

摘要

用户交互序列中兴趣偏好的变化可以通过序列中项目属性的变化体现。为进一步提升推荐系统的准确度，可以通过合理的方法在序列推荐算法中融合项目属性，达到更精确的捕捉用户兴趣偏好的效果。以往的方法在注意力层之前使用多层感知机融合属性信息，项目属性间的异构性和项目信息与属性信息间的相关性都给注意力计算带来额外干扰。使用多层感知机额外带来的参数量，也增加了训练过程的负担。因此，选择体现兴趣偏好变化最直观的项目类别作为属性，通过解耦属性表示和项目表示将类别兴趣抽取和项目预测分开建模。使用自注意力稀疏化方法降低序列中噪声项目的影响，抽取更精确的类别兴趣。根据抽取的类别兴趣，应用多头交叉注意力方法聚合序列中的项目，可避免将不同兴趣中心的项目聚合在一起。在Beauty、Sports、Toys等真实数据集上进行对比和消融实验，实验结果表明，所提模型的性能比基线模型和同类模型均有较大提升。

关键词

推荐算法 / 序列推荐 / 属性信息 / 多头交叉注意力方法 / 稀疏自注意力方法

基金资助

广西科技重大专项（桂科AA19046004）