基于分离式表征的知识图谱推荐算法

Knowledge Graph Recommendation Algorithm Based on Disentangled Representation

摘要

基于知识图谱的推荐算法可以挖掘用户的潜在兴趣，有效解决推荐系统中的冷启动和数据稀疏性问题，然而现有基于知识图谱的推荐算法建模层面单一，很难挖掘到用户的深层兴趣。为此，提出一种基于分离式表征的知识图谱推荐算法。该算法首先利用分离式表征方法，将用户和物品的混合表征解耦成多个层面的分离式表征；然后采用图神经网络方法，利用用户-物品交互二分图和知识图谱中的邻域信息扩充用户和物品的分离式表征；同时，在分离式表征聚合邻域信息时，采用注意力机制和门控单元区分不同信息的重要性，自适应捕捉用户兴趣点。该算法细粒度刻画用户和物品表征，深度挖掘用户兴趣和物品特征，在三个公开数据集上与基准算法进行了对比实验，实验结果表明本文提出的算法在AUC、F1等指标上有明显提高。

Abstract

Knowledge graph-based algorithms can explore users’ potential interest, alleviating the cold start and data sparsity issues in recommender systems. However, existing relevant algorithms are difficult to capture users’ deep interest due to the coarse-grained modeling. In this study, we propose a knowledge graph recommendation algorithm based on disentangled representation. Firstly, the coupled representation of users and items is decoupled into several disentangled representations. Then, the graph neural network is introduced to augment the disentangled representation by aggregating neighborhood information in user-item bipartite graph and knowledge graph. During aggregation, the attention mechanism and the gate unit are adopted to discriminate the importance of different neighbors. We conduct comparative experiments with baselines on three public benchmark datasets. The improvement under several metrics like AUC and F1 demonstrates the superiority of our proposed algorithm in real scenarios.

Graphical abstract

关键词

知识图谱 / 推荐系统 / 分离式表征 / 图神经网络

Key words

knowledge graph / recommender system / disentangled representation / graph neural network

0　 引 言

随着互联网的飞速发展，其应用范围在逐渐扩大，随之产生的数据体量也呈现爆炸式增长。人们获取信息的方式变得越来越便利，但是从浩瀚的信息海洋中找到自己想要的信息越来越困难。近年来，推荐系统作为一种解决信息过载问题的有效手段，为用户提供个性化信息服务。传统的推荐算法，如协同过滤^［1］，方法简单有效，但存在数据稀疏和用户物品冷启动问题。为了解决上述问题，常见的方法是引入外部辅助信息，丰富推荐系统对用户和物品的建模。常见的辅助信息有：社交网络^［2］、用户行为序列^［3］和知识图谱^［4］等。由于知识图谱中包含了现实世界的丰富知识信息，同时具有结构化的特点，近年来逐渐受到研究者的关注。

知识图谱本质上是语义网络（semantic network）的知识库，最早由谷歌提出。为了方便计算机的处理和理解，知识图谱可以形式化地由三元组表示，如“莱昂纳多主演的《了不起的盖茨比》”便是真实世界中的知识。基于知识图谱的推荐系统能利用这些客观事实信息来提升推荐算法的性能，同时还可以有效缓解数据稀疏和冷启动问题。例如某位用户曾经观看过《了不起的盖茨比》和《华尔街之狼》，这两部电影在知识图谱中都链接到了莱昂纳多这个演员，由此推断，他可能是莱昂纳多的影迷，可以把最新影片《好莱坞往事》推荐给他。通过知识图谱提供的知识信息，推荐系统可以发掘用户潜在的兴趣点，从而提升推荐效果。Wang等^［5］提出端到端模型RippleNet，通过在知识图谱中传播偏好的方法，不断自动地发现用户潜在的兴趣。具体来说，RippleNet以用户感兴趣的物品为种子，并以种子集合为中心，在知识图谱中一圈一圈向外扩散到其他物品或知识图谱中的实体上，实现用户兴趣的传播。但对于扩散到的邻域物品或实体，RippleNet无法对它们的重要性加以区分，因此无法反应用户兴趣的优先级。Wang等^［6］提出了基于图卷积神经网络的端到端框架KGCN（knowledge graph convolutional network）。KGCN为了自动捕捉知识图谱的高阶结构信息和语义信息，对知识图谱每个实体的邻居采样作为感受域，并扩展到多跳邻居，以模拟高阶邻近信息，从而捕获用户潜在的远程兴趣。该算法将邻居信息嵌入到相同空间维度中，以向量形式表示，便于信息的数值建模。然而，用户拥有不同的购买意图，物品具有不同的属性，KGCN把信息建模耦合在一起，忽视了用户、物品信息的不同方面，因此得到的嵌入表示是次优的。

针对以上现有推荐算法的局限性，本文提出一种基于分离式表征的知识图谱推荐算法DKAN（disentangled knowledge-aware attentive network）。该算法利用分离式表征的方法，将用户、物品以及知识图谱中实体和关系的单一混合表征解耦成多个层面的分离式表征，进行细粒度建模，并在利用图神经网络聚合邻域信息方法的基础上，考虑了不同邻域信息的重要性差异，以及信息传播过程中的衰减，分别引入注意力机制和门控单元，增强算法的鲁棒性。

综上所述，本文的主要贡献如下：

1） 设计了一种将知识图谱作为辅助信息引入推荐系统的端到端算法框架DKAN；

2） DKAN算法利用分离式表征，细粒度刻画用户兴趣和物品属性，从多角度挖掘用户深层次兴趣，提高推荐的精度；

3） 引入注意力机制，对用户的不同兴趣点赋予不同权重，区分不同层次的兴趣，刻画用户兴趣的多样性；

4） 引入门控单元，对不同跳邻居信息传播过程中的衰减进行建模，自适应控制噪声信息。

1　 相关工作

1.1　融合知识图谱的推荐算法

现有融合知识图谱的推荐算法主要分为三类：基于嵌入的方法、基于路径的方法和基于邻域的方法^［7］。基于嵌入的方法利用知识图谱嵌入得到知识图谱实体和关系的嵌入表示，并用它们来扩充推荐系统中用户和物品的向量表示。Zhang等^［8］提出了一种基于协同过滤和知识图谱嵌入的模型CKE（collaborative knowledge base embedding）。其先通过协同过滤得到用户和物品向量表示，然后利用与物品相关的文本、图片信息丰富物品的初始向量表示；对于知识信息，CKE利用知识图谱嵌入模型TransR^［9］获取知识表示。基于嵌入的方法更加适合知识图谱相关任务，如链路预测和节点分类，在推荐任务中不能完全发挥出知识图谱语义丰富和结构化的特点。基于路径的方法利用知识图谱中的元路径，捕捉实体间的潜在共同特征。Yu等^［10］提出一种在异质信息网络中基于元路径的推荐方法PER（personalized entity recommendation）。PER通过预先手动设计用户-物品在知识图谱中的关联路径，然后利用基于元路径的相似度算法得到用户到物品之间的用户偏好特征值，形成用户偏好特征矩阵。基于元路径的方法有很好的推荐效果和可解释性，但是这类方法需要领域知识丰富的专家预先抽取元路径，并且元路径的选择决定了最终的推荐效果。基于邻域的方法将知识图谱以中心-邻域的方式建构，利用知识图谱的邻域结构信息扩展推荐系统中的用户和物品的向量表示。Wang等^［11］提出基于知识图谱的注意力机制推荐算法KGAT（knowledge graph attention network），它将知识图谱和用户-物品交互图融合到同一个图表示空间中，取名为协同知识图CKG（collaborative knowledge graph），此图融合了用户-物品的交互信息以及知识图谱实体-关系信息。在CKG中，KGAT采用图神经网络框架，通过多阶邻居信息聚合实现了高阶信息的建模。基于邻域的方法能够充分发挥知识图谱网状结构的优势，邻域信息的向量形式也便于对用户或物品进行数值建模。本文提出的基于分离式表征的知识图谱推荐算法属于基于邻域的方法，该算法在充分发挥基于邻域方法优势的同时，对其中信息的聚合细节做改进，采用注意力机制区分邻域信息的不同影响力，采用门控单元模拟聚合信息的衰减，改善基于邻域的方法的推荐性能。

1.2　基于分离式表征的推荐算法

分离式表征的最早概念是在2013年由Bengio等^［12］提出，它是表示学习中的一种方法。分离式表征的核心思想是将蕴含在变化数据中的特定不变且有信息量的因子分离出来。经过分离式表征后的向量表示中某些维度的取值只会随着与之对应的隐因子的变化而变化，而不会随着其他因子的变化而变化。在推荐系统中，传统的推荐算法假定所有用户和物品之间的交互关系是无差别的，这导致学习到的用户表征只蕴含着粗粒度的用户和物品交互意图，即意图是耦合的。Wang等^［13］提出基于分离式表征的图协同过滤方法DGCF（disentangled graph collaborative filtering），建模每对用户-物品交互关系上用户的隐意图分布，将用户意图解耦，并将该隐意图映射到表征上，从而形成分离式表征。本文将分离式表征方法与融入知识图谱的推荐算法结合，不仅在用户侧对用户意图进行分离，同时扩展到物品侧和知识图谱的实体和关系中，细粒度刻画用户兴趣的多样性和物品属性的丰富性。

2　 DKAN算法

2.1　问题描述

用户和物品是推荐系统中重要的对象，假定推荐系统中有M个用户，N个物品，那么用户集合表示为U=\{u_{\mathrm{1}},u_{\mathrm{2}},\dots ,u_M\}，物品集合表示为V=\{v_{\mathrm{1}},v_{\mathrm{2}},\dots ,v_N\}。用户和物品的交互行为可以用二分图表示为G_{\mathrm{1}}=\{(u,y_{uv},v)\left|u\in U,v\in V\right.\}，若用户u与物品v之间存在交互则y_{uv}=\mathrm{1}，否则为\mathrm{0}。这种交互行为不是如打分之类的显式反馈，而是如点击、观看之类的隐式反馈。

知识图谱是推荐系统重要的辅助信息来源。知识图谱由大量的实体-关系-实体三元组组成，可表示为G_{\mathrm{2}}=\{(h,r,t)\left|h,t\in E,r\in R\right.\}，其中(h,r,t)为三元组，h和t分别表示头实体和尾实体，它们共同组成实体集合E；r表示关系，所有关系组成关系集合R。推荐系统中的物品往往与知识图谱中的一个或多个实体具有映射关系，所有映射关系组成映射集合A=\{(v,e)|v\in V,e\in E\}。

用户-物品交互二分图中蕴含着整体的用户偏好，知识图谱中包含和物品相关的辅助知识信息。通过物品与实体的映射关系，可以融合用户-物品交互二分图和知识图谱，本文根据KGAT框架，将融合后的图取名为协同知识图，表示为G=\{(h,r,t)|h,t\in E\text{'},r\in R\text{'}\}，其中E^{\text{'}}=E\bigcup U，R^{\text{'}}=R\bigcup \{\mathrm{I}\mathrm{n}\mathrm{t}\mathrm{e}\mathrm{r}\mathrm{a}\mathrm{c}\mathrm{t}\}，\mathrm{I}\mathrm{n}\mathrm{t}\mathrm{e}\mathrm{r}\mathrm{a}\mathrm{c}\mathrm{t}表示用户和物品的交互行为。在已知协同知识图G的情况下，本文的任务目标为学习一个点击率预估算法f，预测给定用户u对特定候选物品v的交互概率{\widehat{y}}_{uv}。

2.2　DKAN算法框架

DKAN算法框架如图1所示，主要由分离式表征层、传播与聚合层和预测层组成。在分离式表征层，协同知识图中的实体（包含用户和物品）和关系从One-Hot编码嵌入到不同的空间中，分离式建模用户的不同兴趣意图与物品、实体和关系丰富的特征属性；在聚合细节方面，传播和聚合层专门设计了用于区分同一阶邻域信息重要性的注意力机制和建模信息传播损耗的门控单元，自动挖掘用户的潜在兴趣；预测层将用户和物品聚合后的分离式表征向量拼接，进行内积，最后输出用户与物品交互的概率。

2.3　分离式表征层

在粗粒度建模的算法中，用户和物品的嵌入表示通常都是由嵌入层将用户和物品的One-Hot编码分别投影到一个兴趣空间和一个特征空间。这样的建模方式，假定了用户和物品的交互行为只存在单一的关系，无法反映用户自身的多兴趣和交互的多意图，也无法反映物品的多属性和多用途，从而影响推荐的性能。本文借助于分离式表征方法，将用户和物品的One-Hot编码投影到多个向量空间中，得到多方面细粒度的嵌入向量。

具体地，首先定义映射后的向量空间个数k，对于协同知识图中的实体（包含用户、物品以及知识图谱中的实体）和关系，它们分别对应k个映射矩阵\{{\mathit{M}}_{x,\mathrm{0}},{\mathit{M}}_{x,\mathrm{1}},\dots ,{\mathit{M}}_{x,k-\mathrm{1}}\}，其中x\in \{e,r\}，e\in E^{\text{'}}，r\in R^{\text{'}}。这里对知识图谱中的实体和关系也进行分离式表征，一是为了细粒度建模知识图谱中的知识，二是为了便于后续传播与聚合层的向量计算。

对于实体和关系的One-Hot编码{\mathit{H}}_x，经过对应的映射矩阵投影后，得到对应空间下的嵌入表示

{\mathit{e}}_{x,i}^{\text{'}}={\mathit{H}}_x{\mathit{M}}_{x,i}（1）

这里不同的空间i代表建模不同的方面以及建模时考虑的不同的因素。

2.4　传播与聚合层

在协同知识图中，通过图中节点传播得到的邻居节点具有语义丰富和结构化的特点。对于图中的实体h，与它直接相连的邻居节点集合可以表示为N_h^{\mathrm{1}}=\{(h,r,t)|(h,r,t)\in G\}，那么h的一阶邻居N_h^{\mathrm{1}}聚合后在因素i下的嵌入向量可以表示为

{\mathit{e}}_{N_h^{\mathrm{1}},i}=\sum _{\left(h,r,t\right)\in N_h^{\mathrm{1}}}{\pi }_i\left(h,r,t\right){\mathit{e}}_{t,i}（2）

其中{\pi }_i\left(h,r,t\right)表示因素i下，尾实体t的分离式嵌入向量{\mathit{e}}_{t,i}在邻域信息中的重要性，其中重要性权重的计算采用注意力机制^［14］，表示为

{{\pi }_i}^{\mathrm{\text{'}}}\left(h,r,t\right)=\sigma \left({\mathit{W}}_{\mathrm{0}}\left({\mathit{e}}_{h,i}||{\mathit{e}}_{r,i}\right)+{\mathit{b}}_{\mathrm{0}}\right)（3）

{\pi }_i\left(h,r,t\right)=\frac{\mathrm{e}\mathrm{x}\mathrm{p}\left({\pi }_i\left(h,r,t\right)\right)}{\sum _{\left(h,r^{\text{'}},t^{\text{'}}\in N_h^{\mathrm{1}}\right)}\mathrm{e}\mathrm{x}\mathrm{p}\left({\pi }_i\left(h,r^{\text{'}},t^{\text{'}}\right)\right)}（4）

在高阶传播后，实体h的邻居集合会得到极大扩展，高阶邻居信息聚合的计算和一阶邻域的计算方式相同。对于实体h的l阶邻居N_h^l=\{(h^{\text{'}},r,t)|(h^{\text{'}},r,t)\in G,h^{\text{'}}\in t^{l-\mathrm{1}}\}，其中t^{l-\mathrm{1}}表示实体h的l-\mathrm{1}阶邻居N_h^{l-\mathrm{1}}的尾实体集合，在因素i下的嵌入向量可以表示为

{\mathit{e}}_{N_h^l,i}=\sum _{\left(h^{\text{'}},r,t\right)\in N_h^l}{\pi }_i\left(h^{\text{'}},r,t\right){\mathit{e}}_{t,i}（5）

不同阶的邻域信息在信息传播过程中必然带来损耗，传统的方法在聚合不同阶邻域信息时，通常采用最大池化、求和池化或拼接操作，这些方法没有考虑建模信息传播中的衰减现象，因此聚合后的嵌入表示是次优的。本文从LSTM^［15］、GRU^［16］等序列模型中的门控单元得到启发，在实体h聚合邻域信息时，引入门控单元，自适应控制噪声信息。因素i下的实体h聚合l阶邻居信息后的嵌入向量表示为

{\mathit{e}}_{h,i}={\mathit{e}}_{h,i}^{\text{'}}+{\displaystyle \sum _{j=\mathrm{1}}^l}{\alpha }_j{\mathit{e}}_{N_h^j,i}（6）

其中{\mathit{e}}_{h,i}^{\text{'}}是实体h在因素i下的初始嵌入表示，{\alpha }_j是门控单元的输出值，控制信息的通入量，表示为

{\alpha }_j=\sigma \left({\mathit{W}}_{\mathrm{1}}\left({\mathit{e}}_{h,i}^{\text{'}}‖{\mathit{e}}_{N_h^j,i}\right)+{\mathit{b}}_{\mathrm{1}}\right)（7）

2.5　预测层

经过分离式表示层和传播与聚合层后，可以得到不同建模因素下用户和物品的嵌入表示，综合考虑各个因素下的嵌入表示，将它们拼接起来，得到用户和物品的最终嵌入向量

{\mathit{e}}_u^{*}={\mathit{e}}_{u,\mathrm{0}}‖{\mathit{e}}_{u,\mathrm{1}}‖\dots ‖{\mathit{e}}_{u,k-\mathrm{1}},{\mathit{e}}_v^{*}={\mathit{e}}_{v,\mathrm{0}}‖{\mathit{e}}_{v,\mathrm{1}}‖\dots ‖{\mathit{e}}_{v,k-\mathrm{1}}（8）

对用户和物品最终的嵌入表示进行向量点积操作，得到用户对物品的点击概率

{\widehat{y}}_{uv}={{\mathit{e}}_u^{*}}^{\mathrm{T}}{\mathit{e}}_v^{*}（9）

由于推荐场景下的0/1的反馈标签以及交叉熵损失在二分类问题中的优异表现，算法采用交叉熵作为整个DKAN网络的损失函数，其计算公式如下

\begin{array}{l}L=\\ -\sum _{u\in U}\left(\sum _{v\in V}\left(y_{uv}\mathrm{l}\mathrm{o}\mathrm{g}{\widehat{y}}_{uv}+\left(\mathrm{1}-y_{uv}\right)\mathrm{l}\mathrm{o}\mathrm{g}\left(\mathrm{1}-{\widehat{y}}_{uv}\right)\right)\right)+\\ \lambda {‖\Theta ‖}_{\mathrm{2}}^{\mathrm{2}}\end{array}（10）

其中，{‖\Theta ‖}_{\mathrm{2}}^{\mathrm{2}}为整个DKAN网络中所有参数的\mathrm{L}\mathrm{2}正则项表示，用于防止网络发生过拟合，\lambda为正则化参数。

3　 实 验

3.1　数据集

为了评估DKAN算法的性能，实验选用了Last.FM、Book-Crossing和MovieLens-20M三个公开数据集^［5］作为基准数据集。Last.FM、Book-Crossing和MovieLens-20M数据集中的用户-物品交互都是评分式的显示交互。由于实验的目的是预测用户对某物品是否会产生交互，而不是对物品的评分预测，因此隐式交互更加适合此实验场景，故需要对Last.FM、Book-Crossing和MovieLens-20M数据集中的交互形式做转化。对于MovieLens-20M数据集，实验通过设置评分阈值的方式，将所有评分大于等于阈值的用户-物品对作为正样本，评分小于阈值的用户-物品对作为负样本；对于Last.FM和Book-Crossing数据集，实验时考虑到它们数据的稀疏性，并没有对歌曲的播放次数或图书评分设置阈值，而是将用户与其所有交互过的物品构成的用户-物品对记为正样本，并随机从每位用户未评分过的物品中以正负样本1∶1的比例抽取负样本。

除了用户-物品交互信息外，还需要从公开的知识图谱中抽取用于推荐的子图。本文使用的知识图谱为微软开源的Satori。为简化实验，若数据集中的物品无法链接到知识图谱中的任一实体，会在数据预处理阶段对该物品进行剔除。最终，数据集的统计信息如表1所示。

3.2　实验设置

实验中按照6∶2∶2的比例随机将数据集划分为训练集、验证集和测试集，每个实验重复5次，以平均结果作为最终结果。实验考虑了两种推荐场景，分别是点击率预估和top-K推荐，即推荐用户最有可能交互前K个的物品。在点击率预估场景中，选择了AUC和F1为衡量指标，在top-K推荐场景中，选择召回率Recall@K作为衡量指标。

为了验证DKAN算法的有效性，本文选取的基准算法如下：

BPRMF^［17］：基于矩阵分解的推荐模型，根据贝叶斯理论在先验知识下极大化后验概率，实现从一个用户-物品交互矩阵训练出多个矩阵，每一个矩阵表示一个用户的物品偏好情况。

CKE^［8］：基于协同过滤和知识图谱特征嵌入的模型，其先通过协同过滤得到用户和物品表征，然后利用与物品相关的知识信息丰富物品初始表征。

PER^［10］：通过预先手动设计用户-物品在知识图谱中的关联路径，利用异构信息图中基于元路径的top-K相似搜索算法，寻找用户最有可能感兴趣的物品。

RippleNet^［5］：通过在知识图谱中偏好传播的方法，不断自动地发现用户潜在的层级兴趣。

KGCN^［6］：捕捉知识图谱的高阶结构信息和语义信息，将知识图谱每个实体的邻居采样作为感受域。感受域可以扩展到多跳邻居，以模拟高阶邻近信息，并捕获用户潜在的远程兴趣。

KGAT^［11］：将知识图谱和用户-物品交互图融合到同一个图空间中，取名为协同知识图。在协同知识图中以信息传播、基于知识的注意力和信息聚合三层结构实现了高阶信息的建模。

为了公平考虑，所有基线算法均采用相同的参数，相关参数设置如表2所示。

3.3　算法性能分析

1）　对比实验

表3展示了DKAN算法与基准算法在点击率预估场景下的AUC和F1指标的实验结果。从实验结果来看，DKAN在Last.FM、Book-Crossing和MovieLens-20M三个不同场景的数据集上都取得了最好的结果。top-K推荐场景下的召回率指标对比如图2所示，可以看出DKAN在多个K取值下的召回效果均优于表现最好的基准算法。

从各个算法在三个数据集上的综合实验结果来看，大部分融合知识图谱的推荐算法的效果超过了经典的协同过滤算法，这说明了外部辅助信息对推荐效果的正向影响。基于路径的方法PER表现效果是所有基准算法最差的，可能的原因是没有预先定义完整的元路径，导致最终的推荐效果不佳。基于嵌入的CKE方法在大部分指标上比BPRMF略低，一方面说明了基于嵌入的知识图谱推荐算法在推荐效果中并不能完全发挥知识图谱嵌入的优势，另一方面说明只考虑知识图谱的结构信息，忽视了其邻域信息的影响，就无法有效挖掘用户潜在的兴趣。RippleNet、KGCN和KGAT都是基于邻域的方法，但是性能都被DKAN算法超过，这一方面验证了对信息细粒度建模的优势，另一方面说明DKAN在聚合细节上使用注意力机制和门控单元的有效性。

2）　模型消融实验

为了进一步验证DKAN算法中细粒度建模、引入注意力机制和门控单元的有效性，实验对比了DKAN三种变体算法，进行了消融实验。DKAN/D算法消融了分离式表征部分，将用户、物品和知识图谱中的实体、关系只用一个定长的嵌入向量表示；DKAN/A算法不考虑同一阶邻域信息的重要性因素，即去掉了DKAN算法的注意力机制部分，简单地对邻域信息进行求和池化；DKAN/G算法在不同阶邻居信息聚合时不使用门控单元对信息的过滤和衰减进行建模，而是直接求和池化。

表4展示了各个变体模型AUC指标的结果，从表4中结果可知，DKAN/D在三个数据集上的AUC指标都有明显的性能损失，这表明粗粒度建模下得到的用户和物品表征是次优的，推荐性能不能发挥到最佳，也表明了细粒度建模具有无可比拟的优势。DKAN/A和DKAN/G相比于DKAN在AUC指标性能略有下降，这反映了在图神经网络聚合邻域信息时区分邻域信息重要性和对信息传播衰减进行建模的重要性。

3）　相关参数验证

实验还进一步对DKAN算法中两个重要的参数：细粒度建模的因素个数和邻域信息传播深度进行验证，探究其对算法性能的影响。表5展示了不同细粒度建模下的AUC指标。从表5中结果可以看出，细粒度建模因素的个数选择很重要，在Last.FM、Book-Crossing和MovieLens-20M三个数据集下，最优参数各不相同，分别是2，3和2。这可能是由于不同数据集的数据稀疏程度不同，用户兴趣意图和物品特征属性也各不相同，导致最优因素个数和具体数据集有很大相关性。

DKAN中邻域信息的传播深度对AUC的影响如表6所示。从实验结果来看，当三个数据集的传播深度分别对应3，2和1时，AUC指标性能达到最佳。结果表明，在一定程度上增加邻域信息传播的深度，能够有效地扩充用户和物品的外部知识信息，提升其嵌入表征的能力，但是传播深度达到一定限度后，由于外部知识信息与用户或物品相隔较远，相关度降低，对嵌入表征的鲁棒性造成干扰。

4　 结 语

本文提出了一种基于分离式表征的知识图谱推荐算法DKAN，该算法细粒度建模用户兴趣和物品特征，能有效挖掘用户的深层兴趣。DKAN算法首先对用户多种兴趣和交互意图进行细粒度建模，将用户和物品的混合表征解耦成多个层面的分离式表征；然后融合用户-物品交互图和相关知识图谱为协同知识图，利用图神经网络，扩充用户和物品表征的邻域信息；在聚合邻域信息时，算法采用注意力机制和门控单元区分不同邻域信息的重要性，挖掘用户多种潜在兴趣，最后形成端到端的推荐框架。通过在三个不同场景下的公开数据集上进行实验，对比结果表明，DKAN算法在点击率预估场景和top-K推荐场景相比于基准算法取得了显著的性能提升，消融实验也进一步验证了本文引入分离式表征、注意力机制和门控单元的有效性。在未来，计划进一步引入更多辅助信息到算法中，例如社交网络，用户行为序列信息等。

参考文献

[1] ZHANG Y， SONG W. A collaborative filtering recommendation algorithm based on item genre and rating similarity［C］//2009 International Conference on Computational Intelligence and Natural Computing. New York： IEEE Press， 2009： 72-75. DOI：10.1109/CINC.2009.219 .

[2] JAMALI M， ESTER M. A matrix factorization technique with trust propagation for recommendation in social networks［C］//Proceedings of the 4th ACM Conference on Recommender Systems―RecSys’10. New York： ACM Press， 2010： 135-142. DOI：10.1145/1864708.1864736 .

[3] RENDLE S， FREUDENTHALER C， SCHMIDT-THIEME L. Factorizing personalized Markov chains for next-basket recommendation［C］//Proceedings of the 19th International Conference on World Wide Web― WWW’10. New York： ACM Press， 2010： 811-820. DOI：10.1145/1772690.1772773 .

[4] CAO Y X， WANG X， HE X N， et al. Unifying knowledge graph learning and recommendation： Towards a better understanding of user preferences［C］//The World Wide Web Conference. New York： ACM Press， 2019： 151-161. DOI：10.1145/3308558.3313705 .

[5] WANG H W， ZHANG F Z， WANG J L， et al. RippleNet： propagating user preferences on the knowledge graph for recommender systems［C］//Proceedings of the 27th ACM International Conference on Information and Knowledge Management. New York： ACM， 2018： 417-426. DOI：10.1145/3269206.3271739 .

[6] WANG H W， ZHANG F Z， ZHANG M D， et al. Knowledge-aware graph neural networks with label smoothness regularization for recommender systems ［C］//Proceedings of the 25th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining. New York： ACM Press， 2019： 968-977. DOI：10.1145/3292500.3330836 .

[7] 秦川， 祝恒书， 庄福振， 等. 基于知识图谱的推荐系统研究综述［J］. 中国科学（信息科学）， 2020， 50（7）： 937-956.DOI： 10.1360/SSI-2019-0274 .

[8] QIN C， ZHU H S， ZHUANG F Z， et al. A survey on knowledge graph-based recommender systems［J］. Science in China （Information Sciences）， 2020， 50（7）： 937-956.DOI： 10.1360/SSI-2019-0274（Ch ）.

[9] ZHANG F Z， YUAN N J， LIAN D F， et al. Collaborative knowledge base embedding for recommender systems［C］//Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York： ACM， 2016： 353-362. DOI：10.1145/2939672.2939673 .

[10] LIN Y K， LIU Z Y， SUN M S， et al. Learning entity and relation embeddings for knowledge graph completion［DB/OL］. ［2021-09-01］. http：//nlp.csai.tsinghua.edu.cn/~lyk/publications/aaai2015_transr.pdf. DOI: 10.1145/3132847.3133095 .

[11] YU X， REN X， SUN Y Z， et al. Personalized entity recommendation： A heterogeneous information network approach［C］//Proceedings of the 7th ACM International Conference on Web Search and Data Mining. New York ： ACM Press， 2014： 283-292. DOI：10.1145/2556195.2556259 .

[12] WANG X， HE X N， CAO Y X， et al. KGAT： Knowledge graph attention network for recommendation［C］//Proceedings of the 25th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining. New York： ACM Press， 2019： 950-958. DOI：10.1145/3292500.3330989 .

[13] BENGIO Y， COURVILLE A， VINCENT P. Representation learning： A review and new perspectives［J］. IEEE Transactions on Pattern Analysis and Machine Intelligence， 2013， 35（8）： 1798-1828. DOI：10.1109/TPAMI.2013.50 .

[14] WANG X， JIN H Y， ZHANG A， et al. Disentangled graph collaborative filtering［C］//Proceedings of the 43rd International ACM SIGIR Conference on Research and Development in Information Retrieval. New York： ACM 2020： 1001-1010. DOI: 10.1145/3397271.3401137 .

[15] VASWANI A， SHAZEER N， PARMAR N， et al. Attention Is All You Need［DB/OL］.［2021-07-03］. https：//arxiv.org/pdf/ 1706.03762v4.pdf.

[16] SHI X J， CHEN Z R， WANG H， et al. Convolutional LSTM Network： A Machine Learning Approach for Precipitation Nowcasting［DB/OL］.［2021-07-03］.

[17] CHO K， MERRIENBOER B VAN， GULCEHRE C， et al. Learning Phrase Representations Using RNN EncoderDecoder for Statistical Machine Translation［DB/OL］.［2021-07-03］. https：//arxiv.org/pdf/ 1406.1078v3.pdf. DOI：10.3115/v1/d14-1179 .

[18] RENDLE S， FTRUFRNYHSLER C， GANTNER Z， et al. BPR： Bayesian Personalized Ranking from Implicit Feedback ［DB/OL］. ［2021-07-03］. https：//dl.acm.org/doi/pdf/ 10.5555/1795114.1795167.

基金资助

国家重点研发计划(2018YFB1402600)