联合知识图谱和时间特性的数学知识自动推荐方法

Automatic Recommendation Method of Mathematical Knowledge Based on Combined Knowledge Graph and Temporal Feature

摘要

在教育领域的自动推荐方法大多通过历史内容的相似性进行推荐，未同时考虑用户交互序列和知识与知识之间的内在关联信息，难以精准地向学习者推荐其所需知识点。提出一种基于联合知识图谱和时间特性的数学知识自动推荐方法。该方法首先利用自注意力机制和前馈神经网络获取带有时间特性的学习者表示，然后根据知识图谱三元组中知识点与知识点的高阶连通特性和学习者特性深层次表征知识点，最后计算学习者与知识点交互的概率，并根据概率进行推荐。在自构建的初中数学知识推荐数据集上测试表明，本文方法比几类经典的基准系统在AUC值、精确率、召回率和F值上都有提升。该方法的提出能够更加准确地为学习者推荐知识点，帮助其构建知识体系，可望为学习者的自适应性和个性化学习提供了支持。

Abstract

The automatic recommendation methods in the education field mostly use the similarity of historical content to recommend, and do not consider the user interaction sequence and the internal correlation information between knowledge and knowledge at the same time, so it is difficult to accurately recommend the knowledge points they need to learners. Therefore, the paper proposes an automatic recommendation method for mathematical knowledge combining knowledge graph and time characteristics. The method first uses self-attention mechanism and feed-forward neural network to obtain learner representation with time characteristics, and the knowledge points are represented in depth according to the high-level connectivity between the knowledge points in the knowledge graph triples charateristics of learners. Finally, the probability of the interaction between the learner and the knowledge points is calculated, and recommendations are made based on the probability. Tests on the self-built junior high school mathematics knowledge recommendation data set show that the method proposed in the paper has improved at AUC,precision,recall and F-scores respectively, compared with several types of classic benchmark systems. The proposed method can more accurately recommend knowledge points to learners' and help to build a knowledge system, and provide certain support for learners’adaptive and personalized learning.

Graphical abstract

关键词

自动推荐 / 知识图谱 / 时间特性 / 初中数学 / 个性化学习

Key words

automatic recommendation / knowledge graph / temporal feature / junior high school mathematics / individualized learning

0　 引 言

中共中央、国务院印发的《中国教育现代化2035》中明确指出，加快推进教育现代化的同时需要注重因材施教，要采用人工智能等信息技术指导学生主动地、个性化地学习。大数据时代信息技术的快速发展，给学习者带来信息过载、知识爆炸、学习迷航等问题，且在大班教学中教师难以准确掌握每个学生的学习情况，无法为其制作出个性化的学习路径、推荐相关学习资源^［1］。如何采用人工智能技术精准地获取学习者的不足，并从海量学习数据中为其提供个性化学习服务是当前研究的重点和难点。

目前的推荐算法主要分为协同过滤推荐（collaborative filtering recommendations，CF）、基于内容的推荐（content-based recommendations，CB）和基于深度学习推荐三类。早期的协同过滤推荐主要是构建用户-物品评分矩阵，并根据与用户有历史相似行为的用户集合的偏好向用户进行推荐，但这样的方法存在矩阵稀疏的缺陷，会导致冷启动。而基于内容的推荐从用户特征和物品特征两方面考虑，根据物品特征推断用户偏好进而实现推荐。该类方法可以在一定程度上缓解冷启动问题，但是由于用户特征多为隐式特征，因此存在着用户标签少、用户特征难提取的问题。随着大规模数据集出现，基于深度学习的方法开始流行，并被广泛应用至推荐系统领域。基于深度学习的推荐算法通常是将各类用户和物品相关的数据作为输入，使用深度学习模型学习用户和物品的隐式表示，并利用这种隐式表示为用户推荐感兴趣的物品。常用的深度学习推荐算法根据网络本身和任务的特点主要分为四类：基于深度神经网络的推荐^［2~4］、基于卷积神经网络的推荐^［5］、基于循环神经网络的推荐^［6，7］和基于图卷积神经网络的推荐^［8，9］。深度神经网络（deep neural networks，DNN）通过多层神经网络深层次学习用户或物品特征，用于建立用户与物品间的关系、用户与交互的联系等，能够从表征能力提高推荐的准确率。基于卷积神经网络（convolutional neural network，CNN）的推荐系统通常将用户历史数据输入到CNN中，并结合注意力机制提取用户特征，通过减少权值优化网络，得到推荐结果。循环神经网络（recurrent neural network，RNN）能够根据上下文序列信息建模，充分利用用户行为信息，在具有时序关系的推荐中能够取得较好的结果。由于图谱中实体间丰富的语义知识可以在一定程度上缓解数据稀疏、冷启动的问题，且根据其实体间的关联也可以挖掘出不同实体间的潜在关联，因此有研究者尝试着使用图神经网络（graph neural network，GNN）根据节点信息和物品拓扑结构进行推荐。基于图神经网络的推荐通常利用网络KCNN（knowledge-aware convolutional neural network）结合语义信息和知识信息共同对物品进行表示，嵌入图知识丰富物品表示，引入attention机制，动态学习用户点击物品的权重，隐式获取用户爱好，最终进行点击率预测，实现物品的推荐^［10］。

上述基于深度学习的自动推荐方法，虽然可以更加准确地获取用户的需求，并能够对更复杂抽象的数据表示进行编码，但在教育领域中的推荐需要同时考虑知识点之间非线性关系和学习者特性的动态变化。因此，本文根据前期已构建的初中数学知识图谱^［11］提出联合知识点语义关联信息及时间特性的初中数学知识推荐方法SAKG（self-attention knowledge graph），通过位置嵌入和自注意力机制学习用户交互的历史知识点序列，获得隐式的学习者表示；知识点表示则利用知识图谱中与学习者交互的子知识图谱，将学习者对关系的关注融入知识点的邻居知识点中，再将知识点表示与邻居信息聚合，将学习者表示与知识表示联合学习，两个向量的内积作为学习者与知识点交互的概率，进而实现个性化推荐。该方法的提出有利于精准地发现学习者所掌握知识的不足，能够更加有针对性地辅助学习者完成对知识的构建，提高其自主学习的效率。

1　 本文的方法（SAKG）

本文的方法SAKG主要包括学习者表示、知识点表示及推荐预测三个部分。算法流程如图1所示。其中h为阶数，i为关系的数量，r_i为知识点与知识点的关系。算法中学习者U=\{u_{\mathrm{1}},u_{\mathrm{2}},\cdots ,u_n\}，知识点V=\{v_{\mathrm{1}},v_{\mathrm{2}},\cdots ,v_n\}，学习者u与知识点v之间的交互表示为Y=\{y_{uv}|u\in U,v\in V\}，具体表现为当学习者u编辑过知识点v时y_{uv}=\mathrm{1}，否则y_{uv}=\mathrm{0}，学习者u编辑过的m个实体集合表示为S^u=\{v_{\mathrm{1}}^u,v_{\mathrm{2}}^u,\cdots ,v_m^u\}。初中数学知识图谱G由实体-关系-实体\{(h,r,t)|h,t\in E,r\in R\}构成，其中E代表知识图谱中的所有实体集合，R代表实体之间的关系集合。给定学习者与知识点的交互矩阵\mathit{M}及知识图谱G，计算为预测学习者u与知识点v之间交互的概率{\widehat{y}}_{uv}=F(u,v|\Theta ,Y,G\}，其中\Theta代表所有参数。

1.1　学习者表示

学习者历史交互的知识点可以从侧面说明学习者对某方面知识点掌握不足，因此挖掘一段时间内学习者交互的知识点的特性作为学习者的隐式表示。本文主要采用自注意力机制对学习者的交互知识点序列进行学习，捕捉其长期兴趣，进而得到带有时间特性的学习者表示，通过以下三层进行处理：嵌入层、自注意力层和预测层。

1.1.1　嵌入层

由于不同学习者交互过的知识点数量不统一，因此对于每个学习者u，需要固定其知识点序列的长度，假设长度固定为m，则将知识点序列表示为S^u=\{v_{\mathrm{1}}^u,v_{\mathrm{2}}^u,\cdots ,v_m^u\}，若序列长度小于m时补足至m。自注意力机制能够很好地学习知识点与知识点之间的依赖关系，然而丢失了知识点所在序列的位置信息，因此在进行序列表示时需要加入知识点的动态位置信息，计算如下

\widehat{E}=\left[\begin{array}{l}{\mathit{M}}_{S_{\mathrm{1}}}+{\mathit{P}}_{\mathrm{1}}\\ {\mathit{M}}_{S_{\mathrm{2}}}+{\mathit{P}}_{\mathrm{2}}\\ ⋮\\ {\mathit{M}}_{S_m}+{\mathit{P}}_m\end{array}\right]（1）

其中{\mathit{M}}_{S_i}表示序列S_i的嵌入矩阵，{\mathit{P}}_i表示序列S_i的位置信息。

1.1.2　自注意力层

将加入位置信息的历史知识点序列的向量表示输入自注意力层，获得历史知识点序列中知识点的自适应权重，聚合历史知识点序列的信息，可以作为下一个相关知识点的表示。transformer中的特征向量计算如下

\mathrm{A}\mathrm{t}\mathrm{t}\mathrm{e}\mathrm{n}\mathrm{t}\mathrm{i}\mathrm{o}\mathrm{n}(\mathit{Q},\mathit{K},\mathit{V})=\mathrm{s}\mathrm{o}\mathrm{f}\mathrm{t}\mathrm{m}\mathrm{a}\mathrm{x}(\frac{\mathit{Q}{\mathit{K}}^{\mathrm{T}}}{\sqrt[]{d_k}})\mathit{V}（2）

其中，\mathit{Q}、\mathit{K}、\mathit{V}由输入向量与初始化的三个参数W^Q、W^K、W^V相乘得到，每个向量的\mathit{Q}与\mathit{K}相乘得到向量对应的分数，除以\sqrt[]{d_k}能够避免分数维度过高，最终采用softmax进行归一化处理后点乘\mathit{V}值，得到加权后每个向量的得分。自注意力层将嵌入层的输出\widehat{\mathit{E}}分别与W^{\mathit{Q}}、W^{\mathit{K}}、W^{\mathit{V}}相乘，通过线性投影后转为三个矩阵，并将其输入至注意力层，如下

S=SA(\widehat{\mathit{E}})=\mathrm{A}\mathrm{t}\mathrm{t}\mathrm{e}\mathrm{n}\mathrm{t}\mathrm{i}\mathrm{o}\mathrm{n}(\widehat{\mathit{E}}{W}^Q,\widehat{\mathit{E}}{W}^K,\widehat{\mathit{E}}{W}^V)（3）

由于传统的自注意力机制会学习序列的前后信息，而实际上本文根据前m-\mathrm{1}个知识点序列\{v_{\mathrm{1}}^u,v_{\mathrm{2}}^u,\cdots ,v_{m-\mathrm{1}}^u\}来预测第m个知识点v_m^u的表示，因此设置参数flag禁止{\mathit{Q}}_i与{\mathit{K}}_j(j>i)的交互，以防止知识点信息泄露。同时为增强模型的非线性表达能力及避免过拟合现象，增加FNN（feed-forward neural network），并使用relu作为激活函数，计算如下

{\mathit{F}}_i=\mathrm{F}\mathrm{N}\mathrm{N}({\mathit{S}}_i)=\mathrm{r}\mathrm{e}\mathrm{l}\mathrm{u}({\mathit{S}}_i{\mathit{W}}^{(\mathrm{1})}+{\mathit{b}}^{(\mathrm{1})}){\mathit{W}}^{(\mathrm{2})}+{\mathit{b}}^{(\mathrm{2})}（4）

其中，{\mathit{W}}^{(\mathrm{1})}、{\mathit{W}}^{(\mathrm{2})}、{\mathit{b}}^{(\mathrm{1})}和{\mathit{b}}^{(\mathrm{2})}都为可训练的参数。

1.1.3　预测层

经过前馈神经网络后，给定t个知识点，预测下一个知识点i的相关性为r_{i,t}，r_{i,t}作为学习者的隐式表示。其计算如下

r_{i,t}={\mathit{F}}_t^{(b)}{\mathit{N}}_i^{\mathrm{T}}（5）

其中，{\mathit{F}}_t^{(b)}由F_i经过b层自注意力模块的堆叠得到，{\mathit{N}}_i^{\mathrm{T}}为知识点i的嵌入矩阵。

1.2　知识点表示

知识点与其他知识点的关联在一定程度上可以作为知识点的补充信息。知识点的表示主要分为两个部分：邻居信息的表示、知识点与邻居信息的融合。

1.2.1　邻居信息的表示

知识图谱将知识点与知识点之间通过某种特定关系连接起来，与知识点v直接相连的知识点称为v的直接邻居知识点，用N(v)表示。与知识点v直接相连的所有其他知识点信息，称为知识点v的邻居信息。由于每个学习者对于关系的关注程度是不一样的，例如：在了解完“直角三角形”的定义后，一些学习者可能想要了解“三角形”的定义，而一些学习者则想要扩展自己的知识，了解“钝角三角形”的定义。计算不同学习者对于同一知识点的表示需要考虑对关系的重视程度，设r_{v,e}表示知识点v与知识点e之间的关系，则学习者u对于关系r_{v,e}的重视程度可以表示为{\pi }_{r_{v,e}}^u，最终知识点v的邻居信息表示如下

v_{N(v)}^u=\sum _{e\in N(v)}{\tilde{\pi }}_{r_{v,e}}^{u}e（6）

其中{\pi }_{r_{v,e}}^u=g(u,r)，g(\cdot )表示对学习者表示和知识点表示进行内积操作。在计算重视程度{\pi }_{r_{v,e}}^u后进行softmax归一化操作。归一化操作如（7）式所示

{\tilde{\pi }}_{r_{v,e}}^u=\frac{\mathrm{e}\mathrm{x}\mathrm{p}({\pi }_{r_{v,e}}^u)}{\sum _{e\in N(v)}\mathrm{e}\mathrm{x}\mathrm{p}({\pi }_{r_{v,e}}^u)}（7）

1.2.2　知识点与邻居信息的融合

在获得知识点v的邻居信息表示v_{N(v)}^u后，下一步是将知识点自身表示与邻居信息融合丰富自身表示，本文采用相加的方式融合知识点与其邻居信息，融合计算如下

\mathrm{a}\mathrm{g}\mathrm{g}(v,v_{K(v)}^u)=\sigma (W\cdot (v+v_{K(v)}^u)+b)（8）

其中，\sigma表示激活函数，W和b都为可训练的参数，采用梯度下降法对参数进行更新。

上述步骤皆为知识点的单阶融合，若要融合多阶邻居表示，则需从中间向外扩散，利用1阶信息获得2阶信息，并设置阈值重复迭代，最终多阶邻居信息融入至指定知识点。例如：知识点“二元二次方程”的直接邻居为知识点“二元二次方程组”和“代入法”，则其1阶信息为两个直接邻居知识点的信息总和；扩散至2阶，则为知识点“二元二次方程组”的直接邻居“代入消元法”和“代入法”的直接邻居“解”“联立方程”的信息之和，过程如图2所示。图2表示随机融合给定知识点的k个邻居信息，其中橙色为随机选择的邻居知识点，白色为给定知识点，图中k值为2。知识图谱的阶数用\mathrm{h}\mathrm{o}\mathrm{p}表示，以某一知识点v为中心，当\mathrm{h}\mathrm{o}\mathrm{p}=\mathrm{0}时表示自身，即最里面的圆圈，当\mathrm{h}\mathrm{o}\mathrm{p}=\mathrm{1}时表示与知识点v直接相连的所有知识点，即第二层圆圈，依次类推。

1.3　推荐预测

在对学习者和知识点进行表示后，对其进行拟合，推测学习者u点击知识点v的概率如（9）式所示

{\widehat{y}}_{uv}=F(u,v)（9）

其中F(\cdot )表示对学习者表示和知识点表示进行内积操作。算法采用负采样策略进行训练，模型的损失函数计算公式如（10）式

L=\sum _{u\in U}(\sum _{v:y_{uv}=\mathrm{1}}C(y_{uv},{\widehat{y}}_{uv})-{\displaystyle \sum _{i=\mathrm{1}}^{T^u}}{E}_{v_i~p(v_i)}C(y_{uv},{\widehat{y}}_{uv}))+\lambda ||F|{|}_{\mathrm{2}}^{\mathrm{2}}（10）

其中，C为交叉熵损失，p表示负采样分布，T^u表示学习者u负样本的数量。损失函数主要包括两部分，前部分为考虑负采样分布的交叉熵损失函数，后部分为L2正则项。

2　 实验结果与分析

2.1　实验设置

2.1.1　初中数学知识推荐数据集

目前推荐系统领域没有公开权威的教育类推荐数据集。维基百科（Wikipedia）作为百科全书，收纳了包含基础数学、历史等多个类别的数据。学习者在登录后可对里面的词条进行编辑，编辑记录作为学习者的隐性评分，因此本文采用维基百科作为数据来源。根据已构建好的初中数学知识图谱中的实体爬取其有关编辑历史信息，记录编辑者及编辑时间，控制时间为2011―2021年，最终构建初中数学知识推荐数据集（Junior High School Mathematics Knowledge Recommendation Data Sets）。

由于大量学习者仅仅只有一条或少量编辑记录，这对于模型的训练是无意义的，因此本文设置阈值为10，筛选出编辑知识点数大于10的学习者作为输入。编辑信息仅仅作为学习者已交互的正样本，随机获取与学习者历史交互数据等长的未交互的数据作为学习者的负样本。同时抽取初中数学知识图谱中包含的“实体-关系-实体”三元组。本文构建的初中数学知识推荐数据集的信息如表1所示。数据集的格式如表2所示，主要包含学习者、知识点和是否交互三列，其中：学习者用学习者id表示，知识点用知识点id表示，“是否交互”中“1”表示学习者与知识点已进行交互，“0”表示未进行交互。

2.1.2　评价指标

本文采用的评价指标为AUC值、精确率（P)、召回率（R）以及F值。AUC表示预测得到正样本大于负样本的概率，计算如（11）式

\mathrm{A}\mathrm{U}\mathrm{C}=\frac{\sum I(P_{+},P_{-})}{MN}（11）

其中，P_{+}表示为正样本的概率，P_{-}表示为负样本的概率，M表示正样本的数目，N表示负样本的数目。I(P_{+},P_{-})的计算如（12）式

（12）

精确率计算如下

P=\frac{\mathrm{T}\mathrm{P}}{\mathrm{T}\mathrm{P}+\mathrm{F}\mathrm{P}}（13）

召回率计算如下

R=\frac{\mathrm{T}\mathrm{P}}{\mathrm{T}\mathrm{P}+\mathrm{F}\mathrm{N}}（14）

F值综合考虑了精确率和召回率，是两者的调和值，计算如下式

F=\frac{\mathrm{2}PR}{P+R}（15）

其中，TP（真正例）表示预测为正样本实际也为正样本的数目，FP（假正例）表示预测为正样本而实际为负样本的数目，FN（假负例）表示预测为负样本而实际为正样本的数目。

2.1.3　基准算法

选取用知识图谱进行推荐的经典算法RippleNet^［12］、KGCN（knowledge graph convolutional networks）^［13］及KGAT（knowledge graph attention network）^［14］作为基准算法，与本文提出的算法在同一实验平台上进行实验。RippleNet计算三元组头实体h关系r下与物品v的相似度，与三元组中尾实体t相乘得到对应的相似度权值作为用户兴趣扩散后的第一轮结果。在H次后，获得用户表示，与物品表示相乘得到用户与物品交互的概率。KGCN算法利用知识图谱中关系r与用户u的乘积表示关系r对于用户的重要性，将每个连接到物品v的实体e乘以其对应关系的重要性从而获得物品v的邻居信息，在将物品信息与邻居信息聚合后，乘以用户表示，得到两者交互的概率。KGAT将用户-物品图与知识图谱统一，利用TransR方法初始化每个节点表示，以r关系下头实体h和尾实体t之间的距离作为注意力机制计算邻居实体e需要融入物品v的权重，将邻居信息和物品信息融合后，计算用户表示与物品表示的乘积，其得到的概率为推荐的概率。

2.2　结果与分析

为验证本文算法的准确性，在自构建的初中数学知识推荐数据集数据集上，主要采用两种方法评估模型性能：点击率（click-through rate，CTR）预测及top-K推荐。点击率预测代表了学习者与知识点交互的概率，点击率越高则表示学习者与知识点的交互概率越高，结果如表3所示。从表3可以看到，本文提出的算法在AUC值、精确率、召回率以及F值四个指标上都优于三种基准算法。

top-K推荐序列根据概率排序得到，本文分别测试了K在1、2、5、10、20、50、100下四种算法精确率与召回率的对比效果，实验结果如图3和图4所示。从图3和图4中可以看出，随着K值的增大，算法的精确率先上升再下降，召回率呈上升趋势，且本文提出的方法明显优于其余三种基准算法，当K等于10时，本文提出的算法与KGAT的召回率相近，但是当K大于10时，随着推荐知识点的增加，算法之间的差距逐渐增大，表明本文提出的算法在大规模知识点推荐中占有一定优势，这是由于其融合了知识图谱中的知识点多阶语义知识，丰富了知识点表示。

同时由表3可知，本文提出的算法对比三个基准算法在AUC值、F值等评测指标上皆有所提升。在AUC值上分别提升了2.0%、2.9%、0.5%，在F值上分别提升了1.6%、2.6%、0.9%。其中，KGCN算法在各方面的表现最差，AUC值与F值分别为84.2%和78.6%。这是由于KGCN算法并没有从学习者角度考虑，只是简单地根据学习者序号获取学习者表示，未能考虑学习者特性的动态变化，不能准确对学习者进行表示，挖掘学习者特性。虽然其在知识点表示方面融入了学习者表示，然而由于在学习者表示方面有所欠缺，仅仅只能用于区别各个学习者，在最终推荐结果中并不能显示出明显的个性化，融入学习者学习特性，因此效果较差。而RippleNet算法虽然通过知识图谱进行学习者偏好传播，形成学习者的表示，能够在一定程度上挖掘出学习者偏好的深层次原因，但是它忽略了知识点的表示，着重于通过知识点在知识图谱上的传播得到学习者表示，当学习者交互知识点的差距较大时可能难以挖掘出学习者潜在的兴趣，进而造成一定误差。因此RippleNet算法相较于KGCN算法在AUC值、F值上有所提高，但是其实际效果也不是很理想。KGAT算法的效果高于KGCN算法和RippleNet算法，是由于KGAT算法在邻居信息的权重方面使用注意力机制融入更多相似邻居知识点的信息，丰富了知识点的表示，同时算法中学习者-知识点二部图和知识图谱的融合能够有效利用高阶信息，进而提取学习者行为的协同信息。然而在学习过程中，由于学习者知识的增长，学习者的偏好可能会不断发生变化，KGAT算法仅仅考虑了学习者最终的学习状态，并没有考虑学习者状态变化的过程，不能准确获取学习者偏好，因此不适用于教育领域的自动推荐。基于此，本文通过融合知识图谱中知识点间的语义信息和学习者的时序偏好，提出的联合知识图谱和时间特性的数学知识自动推荐方法，符合个性化教育的规律，因此效果优于其他算法。

3　 结 语

本文提出一种联合知识图谱和时间特性的数学知识自动推荐方法，通过融合知识图谱中丰富的语义信息和学习者交互序列的时间特性，多方面考虑学习者的个性化需求，实现对学习者的精准推荐。在自构建的数据集上的实验表明，该算法在初中数学知识个性化推荐方面优于几类基准算法。该方法能够为学习者的个性化学习提供服务支持，帮助其规划合理的学习路径，形成属于自己的知识架构，也为教师对学生进行个性化教育提供基础。

参考文献

[1] 陈恩红，刘淇，王士进，等.面向智能教育的自适应学习关键技术与应用［J/OL］.智能系统学报：1-13［2021-09-14］. DOI：10.11992/tis.202105036 .

[2] CHEN E H， LIU Q， WANG S J， et al. Key techniques and applications for intelligent education oriented adaptive learning ［J/OL］. CAAI Transactions on Intelligent Systems：1-13［2021-09-14］.DOI：10.11992 /tis.202105036（Ch） .

[3] 王宏琳，杨丹，聂铁铮，寇月.基于自注意力机制的属性异构信息网络嵌入的商品推荐［J/OL］.计算机研究与发展：1-12［2021-09-14］.DOI: 10.7544/issn1000-1239.2022.20210016（Ch） .

[4] WANG H L， YANG D， NIE T Z， et al. Attributed heterogeneous information network embedding with self-attention mechanism for product recommendation［J/OL］. Journal of Computer Research and Development：1-12［2021-09-14］.DOI：10.7544/issn1000-1239.2022.20210016（Ch） .

[5] 薛峰，刘凯，王东，等.基于深度神经网络和加权隐反馈的个性化推荐［J］.模式识别与人工智能，2020，33（4）：295-302. DOI：10.16451/j.cnki.issn1003-6059.202004002 .

[6] XUE F， LIU K， WANG D， et al. Personalized recommendation algorithm based on deep neural network and weighted implicit feedback ［J］. Pattern Recognition and Artificial Intelligence，2020，33（4）：295-302. DOI：10.16451/j.cnki.issn1003-6059.202004002（Ch ）.

[7] XU X. Matrix factorization recommendation algorithm based on deep neural network［C］//2019 2nd International Conference on Information Systems and Computer Aided Education （ICISCAE）. New York： IEEE Press， 2019： 320-323. DOI：10.1109/ICISCAE48440.2019.221643 .

[8] 杨明极， 刘畅， 宋泽. 注意力机制与改进RNN的混合音乐推荐算法研究［J］. 小型微型计算机系统， 2020， 41（10）： 2235-2240. DOI：10.3969/j.issn.1000-1220.2020.10.036 .

[9] YANG M J， LIU C， SONG Z. Research on music recommendation algorithm based on attention mechanism and improved RNN［J］. Journal of Chinese Computer Systems， 2020， 41（10）： 2235-2240. DOI：10.3969/j.issn.1000-1220.2020.10.036（Ch ）.

[10] 王雅青， 郭彩丽， 楚云霏， 等. 面向会话型推荐系统的个性化分层循环模型［J］. 北京邮电大学学报， 2019， 42（6）： 142-148. DOI：10.13190/j.jbupt.2019-143 .

[11] WANG Y Q， GUO C L， CHU Y F， et al. Personalized hierarchical recurrent model for session-based recommendation systems ［J］. Journal of Beijing University of Posts and Telecommunications， 2019， 42（6）： 142-148. DOI：10.13190/j.jbupt.2019-143（Ch ）.

[12] 冯永， 张备， 强保华， 等. MN-HDRM： 长短兴趣多神经网络混合动态推荐模型［J］. 计算机学报， 2019， 42（1）： 16-28. DOI：10.11897/SP.J.1016.2019.00016 .

[13] FENG Y， ZHANG B， QIANG B H， et al. MN-HDRM： A novel hybrid dynamic recommendation model based on long-short-term interests multiple neural networks ［J］. Chinese Journal of Computers， 2019， 42（1）： 16-28. DOI：10.11897/SP.J.1016.2019.00016（Ch ）.

[14] WANG H W， ZHANG F Z， ZHAO M， et al. Multi-task feature learning for knowledge graph enhanced recommendation ［C］//The World Wide Web Conference on ⁃ WWW’19. New York： ACM Press， 2019： 2000-2010. DOI：10.1145/3308558.3313411 .

[15] CAO Y X， WANG X， HE X N， et al. Unifying knowledge graph learning and recommendation： Towards a better understanding of user preferences［C］//The World Wide Web Conference. New York： ACM， 2019： 151-161. DOI：10.1145/3308558.3313705 .

[16] WANG H W， ZHANG F Z， XIE X， et al. DKN： deep knowledge-aware network for news recommendation［C］//Proceedings of the 2018 World Wide Web Conference on World Wide Web⁃WWW’18. New York： ACM Press， 2018： 1835-1844. DOI：10.1145/3178876.3186175 .

[17] 周炫余， 唐祯， 唐丽蓉， 等. 基于多源异构数据融合的初中数学知识图谱构建［J］. 武汉大学学报（理学版）， 2021， 67（2）： 118-126. DOI：10.14188/j.1671-8836.2020.0273 .

[18] ZHOU X Y， TANG Z， TANG L R， et al. Construction of junior high school mathematics knowledge graph based on multi-source heterogeneous data fusion［J］. Journal of Wuhan University （Natural Science Edition）， 2021， 67（2）： 118-126. DOI：10.14188/j.1671-8836.2020.0273（Ch ）.

[19] WANG H W， ZHANG F Z， WANG J L， et al. RippleNet： propagating user preferences on the knowledge graph for recommender systems［C］//Proceedings of the 27th ACM International Conference on Information and Knowledge Management. New York： ACM， 2018： 417-426. DOI：10.1145/3269206.3271739 .

[20] WANG H W， ZHAO M， XIE X， et al. Knowledge graph convolutional networks for recommender systems［C］//The World Wide Web Conference on⁃WWW’19. New York： ACM Press， 2019： 3307-3313. DOI：10.1145/3308558.3313417 .

[21] WANG X， HE X N， CAO Y X， et al. KGAT： Knowledge graph attention network for recommendation［C］//Proceedings of the 25th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining. New York： ACM， 2019： 950-958. DOI：10.1145/3292500.3330989 .

基金资助

国家自然科学基金(62007007)

湖南省教育厅优秀青年项目(19B365)

湖南师范大学大学生创新创业训练计划项目(2020155)