融合文本语义与网络结构的冷启动缓解方法

Cold-Start Mitigation Method Integrating Text Semantics and Network Structure

摘要

针对推荐任务中的冷启动问题，提出一种融合文本语义与网络结构的冷启动缓解方法（CMMITSNS），同时学习冷启动物品的文本语义表示和异质信息网络（HIN）的结构表示。首先，通过一套多任务文档表示模型SPECTER2获取冷启动物品的文本语义的向量表示；其次，利用可扩展的网络特征学习方法（node2vec）捕获异质信息网络中节点的结构信息，并将学习到的表示结果作为图卷积网络（GCN）的初始化嵌入；最后，计算目标物品与候选物品之间的内积，推荐得分较高的物品。在AAN和ACM数据集上的实验结果表明，CMMITSNS能够有效缓解数据稀疏与冷启动问题，并且在召回率（Recall）和归一化折损累计增益（NDCG）指标上优于现有方法。消融实验中，CMMITSNS在两个数据集上的性能均优于单一的GCN和node2vec方法，其在AAN数据集上的NDCG@20分别比w/o node2vec和w/o GCN高出8.11%和10.26%，表明多维度信息互补的有效性。

Abstract

To address the cold-start problem in recommendation tasks, a cold-start mitigation method integrating text semantics and network structure (CMMITSNS) is proposed to simultaneously learn semantic representations for cold-start items and structural representations within the heterogeneous information network (HIN). Firstly, a multi-task document representation model SPECTER2 is used to obtain the text semantics vector representation of cold-start items. Secondly, the scalable feature learning for networks (node2vec) is used to capture the structural information of nodes in the HIN, and the learned representation results are used as the initial embedding of the graph convolutional network (GCN). Finally, the inner product between the target item and the candidate item is calculated, and the item with a higher score is recommended. Experimental results on AAN and ACM datasets show that CMMITSNS can effectively alleviate the data sparsity and cold-start problems, and outperform the existing methods in terms of the Recall and normalized discounted cumulative gain (NDCG). In ablation experiments, CMMITSNS performs better than single GCN and node2vec methods on the two datasets, and its NDCG@20 on the AAN dataset is 8.11% and 10.26% higher than those of w/o node2vec and w/o GCN, respectively, indicating the effectiveness of multi-dimensional information complementation.

Graphical abstract

关键词

文本语义 / 网络结构 / 异质信息网络 / 冷启动 / 推荐

Key words

text semantics / network structure / HIN / cold-start / recommendation

在大数据时代，推荐是缓解信息过载问题的有效手段之一。根据目标用户与候选物品之间的相关性，按照用户的需求，生成高质量的推荐结果。推荐方法可分为3类：基于内容的方法（Content-Based, CB）^[1]、协同过滤方法（Collaborative Filtering, CF）^[2]和基于图的方法（Graph-Based, GB）^[3]。

CB方法依赖文本、元数据以及用户特征生成推荐结果，在一定程度上可以缓解数据稀疏问题，但难以缓解冷启动问题，且很容易导致推荐结果过于倾向内容相似。CF方法通过挖掘用户与邻居的显式或隐式偏好进行推荐，但极易受到数据稀疏和冷启动问题的影响，导致推荐效果不佳。为缓解上述问题，研究者在推荐任务中引入带有异质信息的网络结构，利用网络中节点间的复杂关系推荐^[4]。传统的GB方法将推荐看作是链接预测任务，通常使用随机游走方法推荐，存在关系上的权重被过度加权的问题。例如，在学术文献数据集中，某些经典论文被广泛引用，导致传统的GB方法赋予这些经典论文过大的权重值，而那些被引次数少的文献很容易被忽视。这种处理方式对推荐的多样性和准确性有很大的限制。相比CB和CF方法，GB方法通过引入各种辅助信息可以缓解数据稀疏与冷启动问题。由于对辅助信息的处理方式和利用程度不同，不同推荐方法的推荐结果之间会存在较大的差异。

近年来，图卷积网络（Graph Convolutional Network, GCN）^[5]在提升推荐多样性与鲁棒性方面表现出优势，且在大规模Web推荐任务中得到验证。已有研究尝试针对推荐任务使用图表示学习方法以缓解同质嵌入的不足，但大多数方法难以解决冷启动问题，导致针对冷启动物品的推荐结果质量欠佳。

针对上述问题，本文提出一种融合文本语义与网络结构的冷启动缓解方法（Cold-Start Mitigation Method Integrating Text Semantics and Network Structure, CMMITSNS）。在文本语义的学习方面，使用SPECTER2^[6]获取文本的语义向量表示，通过文本语义的相似性增强冷启动物品与其他物品之间的联系。在网络结构的获取方面，利用可扩展的网络特征学习方法（Scalable Feature Learning for Networks, node2vec）^[7]捕获网络中节点的结构信息，并将学习到的表示结果输入给GCN作为初始化嵌入。最后计算目标物品与候选物品之间的内积，并选取得分较高的物品形成推荐列表。

1 相关工作

近年来，图与图表示学习方法^[8-9]取得很大进展，并且这类方法用低维稠密向量来表达图上任意两个节点间的语义或结构联系，有些学者已经在推荐任务中尝试使用该类方法以缓解数据稀疏和冷启动问题。在推荐系统中，数据稀疏性（Data Sparsity）表现为用户与项目间的交互数据量有限。如在电影推荐场景下，用户仅对数十部电影进行评分，而平台电影总数可达上万部，致使用户—项目交互矩阵中大部分元素为零。这种数据分布特征极易引发模型过拟合问题。冷启动问题（Cold-Start Problem）是指当推荐系统引入新实体（包括新用户或新项目）时，由于缺乏历史交互数据，传统基于历史行为的推荐算法无法为这些新实体生成有效推荐。文献[3]提出将SPECTER与记忆网络相结合的科学引文推荐模型（Scientifc Paper Recommendation Employing SPECTER with Memory Network, SPR-SMN）。文献[10]基于包含语义链接的加权异质信息网络（Weighted Heterogeneous Information Network Containing Semantic Linking Algorithm, WHIN-CSL），利用node2vec挖掘异质书目网络中异质书目的同类型及不同类型的节点之间的语义联系。文献[11]提出一种基于生成对抗网络的图嵌入方法（Global Citation Recommendation Employing Generative Adversarial Network, GCR-GAN），采用SPECTER学习语义表示，利用去噪自动编码器网络捕捉网络结构的邻近性。文献[12]通过合作关系、引用关系和研究领域的归属关系构建异质信息网络，使用随机游走方法和自然语言模型学习网络中节点的表示进行推荐。上述模型部分缓解了数据稀疏和冷启动问题，但仍存在不足：多数推荐模型将异质网络视为同质网络处理，难以显式地区分不同类型的节点和节点间的语义关系，导致高阶语义信息缺失，进而严重影响推荐性能。

近年来，GCN被应用于节点分类、链路预测、图聚类、知识图补全和引文预测等任务^[13]。针对多模态推荐中的噪声干扰问题，文献[14]提出一个具有双级融合的复合图卷积网络（Composite Graph Convolutional Network with Dual-Stage Fusion for Multimodal Recommendation, COHESION），引入一种双阶段融合策略以过滤无关信息，并构建一种复合图卷积架构，深度挖掘用户与物品内部潜在的同质与异质关联。文献[15]在顺序推荐任务中提出基于位置提示的解码器，将绝对物品位置信息看作外部提示，引入一个外部关注图卷积网络，通过两个外部存储单元线性测量节点之间的全局关联。上述研究为基于图的推荐任务提供了发展方向。

2 冷启动缓解方法

针对推荐任务中存在的冷启动问题，本文提出一种融合文本语义与网络结构的冷启动缓解方法（CMMITSNS），框架如图1所示。该方法主要包括3个模块：文本的语义表示、异质信息网络的构建和表示学习与推荐生成。以学术文献数据集为例描述该方法，并验证其有效性。在文本的语义表示模块，应用SPECTER2获取论文标题、摘要的向量表示，计算冷启动物品与其他物品之间的语义相似度，通过文本语义的相似性增强冷启动物品与其他物品之间的关联关系。在异质信息网络的构建模块，利用数据集中提取的辅助信息和语义相似信息构建一个异质信息网络，便于学习网络中节点的表示。在表示学习与推荐生成模块，node2vec用于捕获节点的高阶属性信息（如语义与作者关联），学习到的表示结果输入给GCN作为初始化嵌入，最后计算目标物品与候选物品之间的内积，选取得分最高的前k个物品推荐给用户。

2.1 文本的语义表示

标题和摘要组成了论文的文本信息，首先对文本进行删除停用词、词形还原等预处理操作。利用SPECTER2获取文本的向量表示，利用相似性函数（如余弦公式）计算冷启动物品与其他物品之间的语义相似度。定义冷启动物品p_i和非冷启动物品p_j之间的语义相似度为

W_{\mathrm{1}}^{p_i{p}_j}=\frac{\mathit{f}\left(p_i\right)\cdot \mathit{f}\left(p_j\right)}{{‖\mathit{f}\left(p_i\right)‖}_{\mathrm{2}}\cdot {‖\mathit{f}\left(p_j\right)‖}_{\mathrm{2}}}（1）

式中：\mathit{f}(·)是通过SPECTER2技术生成的物品特征表示；{‖\cdot ‖}_{\mathrm{2}}表示向量的L₂范数。

2.2 异质信息网络的构建

本文构建的加权异质网络由语义网络、引文网络和论文—作者网络组成。直接从数据集中提取数据构建引文网络和论文—作者网络，语义网络的构建则需要先表示论文内容再计算语义相似度两个步骤。语义相似关系是为了加强冷启动物品节点而提出的，因此异质网络中冷启动物品节点和非冷启动论文节点之间存在边，边的权重是两个节点之间的语义相似度，两个非冷启动物品节点之间没有语义相似关系。

记加权异质网络为G=\left(V,R,W\right)。其中：V=\left(P,A_{\mathrm{u}}\right)包括论文和作者这两种类型的顶点；R=\left(R_{\mathrm{s}\mathrm{i}\mathrm{m}}^P,R_{\mathrm{c}\mathrm{i}\mathrm{t}}^P,R^{P{A}_{\mathrm{u}}},R^{A_{\mathrm{u}\mathrm{1}}{A}_{\mathrm{u}\mathrm{2}}}\right)包括语义相似关系、引用关系、写作关系和合著关系4种关系；W=\left(W_{\mathrm{1}}^{p_i{p}_j},W_{\mathrm{2}}^{p_i{p}_j},W_{\mathrm{3}}^{P{A}_u},\right.

\left.W_{\mathrm{4}}^{A_{\mathrm{u}\mathrm{1}}{A}_{\mathrm{u}\mathrm{2}}}\right)是4种关系的权重。利用式（1）计算论文p_i和p_j之间的语义相似关系权重值W_{\mathrm{1}}^{p_i{p}_j}；定义论文p_i和p_j之间的引用关系权重值为W_{\mathrm{2}}^{p_i{p}_j}=\mathrm{1}；定义论文P和作者A_{\mathrm{u}}之间的写作关系权重值为W_{\mathrm{3}}^{P{A}_{\mathrm{u}}}=\mathrm{1}-\mathrm{1}/n_{\mathrm{a}\mathrm{u}\mathrm{t}\mathrm{h}\mathrm{o}\mathrm{r}\mathrm{s}}，其中n_{\mathrm{a}\mathrm{u}\mathrm{t}\mathrm{h}\mathrm{o}\mathrm{r}\mathrm{s}}是一篇论文的作者数量；定义作者A_{\mathrm{u}\mathrm{1}}和作者A_{\mathrm{u}\mathrm{2}}之间的合著关系权重值为W_{\mathrm{4}}^{A_{\mathrm{u}\mathrm{1}}{A}_{\mathrm{u}\mathrm{2}}}=\mathrm{1}。

2.3 表示学习与推荐生成

使用node2vec和GCN学习网络中的节点表示。node2vec旨在通过生成节点的低维向量表示来捕捉网络的结构信息。为了灵活采样，深度优先采样（Depth First Sampling, DFS）策略和广度优先采样（Breadth First Sampling, BFS）策略被设计生成K个节点的邻域集，并在随机游动过程中同时执行。优化目标是最大化节点v的邻域的对数概率。每个顶点v\in V将获得一个特征表示{\mathit{g}}_{\mathrm{N}}\left(v\right)。

GCN通过将顶点邻居的邻域信息逐层迭代聚集，以完成邻域信息的传播。网络中节点的向量表示{\mathit{g}}_{\mathrm{N}}\left(v\right)作为GCN的初始化嵌入，可以为GCN提供丰富的结构先验知识。每个节点均向所有邻居传播该节点的特征信息，并通过特征变换矩阵和非线性激活函数聚合（Aggregation）其邻域所有信息以更新向量表示。节点v在第l层的特征表示为{\mathit{h}}_v^l，该节点特征表示的更新规则如下：

{\mathit{h}}_{\mathrm{A}\mathrm{G}\mathrm{G}}^l=\mathrm{M}\mathrm{E}\mathrm{A}\mathrm{N}\left({\mathit{h}}_j^{l-\mathrm{1}},\forall j\in N\left(v\right)\right)（2）

{\mathit{h}}_v^l=\mathrm{t}\mathrm{a}\mathrm{n}\mathrm{h}\left({\mathit{W}}^l{\mathit{h}}_{\mathrm{A}\mathrm{G}\mathrm{G}}^l\right)（3）

式中：\mathrm{M}\mathrm{E}\mathrm{A}\mathrm{N}(·)表示均值聚合函数；{\mathit{h}}_{\mathrm{A}\mathrm{G}\mathrm{G}}^l表示节点v在第l层聚合后的邻居特征；{\mathit{h}}_j^{l-\mathrm{1}}表示节点v的某个邻居节点在第（l-1）层的特征向量；N\left(v\right)表示节点v的采样邻域集；{\mathit{W}}^l表示可训练的权重矩阵。在最后一个图卷积层得到每个顶点v\in V的特征表示{\mathit{h}}_{\mathrm{G}}\left(v\right)。

本文目标是从候选物品集C_P=\left(c_{p_{\mathrm{1}}},c_{p_{\mathrm{2}}},\cdots ,c_{p_j}\right)中为目标物品t_{p_i}推荐一组论文。使用内积来计算不同物品之间的相似度：

\varphi \left(t_{p_i},c_{p_j}\right)=\sigma \left({\mathit{h}}_{\mathrm{G}}\left(t_{p_i}\right),{\mathit{h}}_{\mathrm{G}}\left(c_{p_j}\right)\right)（4）

式中：\varphi (·)表示相似度函数；\sigma (·)表示内积函数；{\mathit{h}}_{\mathrm{G}}(·)表示图卷积层得到的物品的特征表示。最后，推荐排名前k的论文。

3 实验设计与结果分析

3.1 数据集

实验使用的国际计算语言学学会论文集网络（ACL Anthology Network, AAN）数据集中有13 375篇论文和3 936位作者；国际计算机学会（Association for Computing Machinery, ACM）数据集中有13 578篇论文和3 687位作者。将AAN和ACM数据集中2012年和2023年出版的文章作为目标论文。

3.2 评价指标

1）召回率（Recall）。在推荐任务中，召回率是指相关文档数和所有的相关文档数的比值。其计算公式为

M_{\mathrm{R}\mathrm{e}\mathrm{c}\mathrm{a}\mathrm{l}\mathrm{l}@k}=\frac{\mathrm{1}}{Q}{\displaystyle \sum _{j=\mathrm{1}}^Q}\left(\frac{R_p\bigcap T_p}{T_p}\right)（5）

式中：Q表示目标论文数量；k表示推荐文档的数量。给定测试集中的一个目标论文p,R_p为推荐文档集合，T_p表示论文p的引用文献集合。

2）归一化折损累计增益（Normalized Discounted Cumulative Gain, NDCG）。NDCG可以衡量推荐结果的质量。高度相关的文献在列表中的排名越高，推荐结果的质量就越高。其计算公式为

M_{\mathrm{N}\mathrm{D}\mathrm{C}\mathrm{G}@k}=\frac{\mathrm{1}}{Q}{\displaystyle \sum _{i=\mathrm{1}}^Q}\frac{{\mathrm{2}}^{r_i}-\mathrm{1}}{\mathrm{l}\mathrm{o}{\mathrm{g}}_{\mathrm{2}}\left(i+\mathrm{1}\right)}（6）

式中，r_i表示第i篇文档的得分。

3.3 对比方法

1）node2vec^[7]。该方法采用灵活的采样方式学习到网络中节点的低维表示，能有效学习到网络中同质等价性及结构等价性。

2）WHIN-CSL^[10]。该方法从加权异质信息网络中抽取节点语义关系与节点属性值对引文的相似度进行计算，并进行引文推荐。

3）GCR-GAN^[11]。该方法利用SPECTER和去噪自动编码器网络分别表示科学论文，在此网络结构邻近的基础上学习图表示。

4）SPR-SMN^[3]。该方法用SPECTER文档嵌入获得保持语义的文献表示形式；采用端到端记忆网络和个人化模块分别捕捉论文长依赖关系和个人用户偏好的引用行为模式。

5）知识图嵌入与IRGAN模型相结合的改进引文推荐方法（Improved Paper Recommendation Model Incorporating Knowledge Graph Embedding with IRGAN Model, KGE-GAN）^[16]。该方法采用MRotatE算法与SPECTER文档嵌入模型，分别将图结构特征与基于内容的文本语义映射为查询论文及候选论文的初始向量表示，再将此两个表示作为输入分别投入到生成器、鉴别器中进行对抗训练，以此来得到更好的推荐效果。

3.4 实验结果与分析

3.4.1 有效性实验

本实验给出了CMMITSNS与其他对比方法在引文推荐任务上的定量比较结果，具体如表1和表2所示。

从表1和表2可以看出，CMMITSNS在AAN数据集上的全部10项指标均取得最优性能，在ACM数据集上除Recall@80外的其余9项指标均取得最优性能，即CMMITSNS在召回能力和排序能力方面均优于对比方法。异常值的原因是CMMITSNS将Node2vec的结构嵌入作为GCN的初始化表示，这种“先结构后语义”的融合方式在ACM数据集的数据分布下可能会导致部分的语义信息被结构噪声干扰。相较于KGE-GAN、GCR-GAN和SPR-SMN，CMMITSNS的Recall@20在AAN数据集上分别提升1.06%、1.70%和4.24%，NDCG@20分别提升1.17%、0.75%和8.11%。在ACM数据集上，CMMITSNS的Recall@20分别比KGE-GAN、GCR-GAN和SPR-SMN提升0.97%、1.47%和2.06%，NDCG@20分别提升1.71%、2.44%和4.05%。在ACM数据集上，KGE-GAN在NDCG指标上表现略弱于GCR-GAN，而CMMITSNS的优势更为明显，说明CMMITSNS在捕捉用户偏好排序上优于GCR-GAN的生成对抗机制。SPR-SMN在处理ACM数据集的异构性或冷启动语义对齐上可能存在短板，而CMMITSNS的多源融合策略发挥了最大效用。随着基线模型性能的增强，CMMITSNS超越SPR-SMN、GCR-GAN与KGE-GAN的难度逐渐增大，性能提升的百分比逐渐减小。当推荐的物品数量超过80时，KGE-GAN与CMMITSNS在Recall指标上增长幅度较小，原因是ACM数据集中测试集的相关文献数量可能有限。在ACM数据集上，CMMITSNS的NDCG@100比NDCG@20下降0.71%，说明其推荐列表整体质量均衡，头部与长尾项均保持高相关性；KGE-GAN的NDCG@100比NDCG@20下降0.94%，说明其推荐列表整体质量比较均衡，新增物品仍保持较高的相关性。

WHIN-CSL在AAN和ACM数据集上表现均欠佳：在AAN数据集上Recall@100仅为0.516 0，不足CMMITSNS的53%；在ACM数据集上Recall@100仅为0.659 3，约为CMMITSNS的76%。导致其推荐效果不佳的原因可能为：1）doc2vec不容易挖掘出文章之间的引用关系，不利于语义表示的精确度；2）在建立网络的过程中没有把引文关系、语义相似关系区分开来处理，导致信息有丢失，比如在AAN数据集中，如果某篇文章被引数量超过数据集中规定的文章语义链接数（如10条）上限，则余下的超过预设数量的文章都不会出现。这就出现了诸如“硬截断”这样的处理方式，虽然在此处理操作下效率有所增加，但会造成有用的交互信息较多地丢失，从而造成网络结构欠完整、语义不够丰富的情况。

综上，CMMITSNS的核心优势在于同时优化召回广度与排序精度，其性能提升很可能源于对网络结构与文本语义的协同建模。

3.4.2 消融实验

为验证CMMITSNS中两种表示学习方法的有效性，本实验在AAN和ACM数据集上通过分别移除node2vec与GCN开展消融实验。消融实验结果如表3和表4所示，其中：w/o GCN表示移除GCN；w/o node2vec表示移除node2vec。

CMMITSNS在AAN和ACM数据集上的性能均显著优于w/o node2vec和w/o GCN，尤其在排序质量上优势显著。在AAN数据集上，CMMITSNS在NDCG@20指标上分别比w/o node2vec和w/o GCN高出8.11%和10.26%；在Recall@100指标上高达0.980 9。在ACM数据集上，CMMITSNS仍保持全面领先，在NDCG@20指标上分别比w/o node2vec和w/o GCN提升2.21%和3.59%。所有方法在Recall指标上前80~100项推荐结果中均呈现饱和态势，这主要受限于测试集中相关文献的总量上限。

在ACM数据集上，CMMITSNS与w/o node2vec、w/o GCN的Recall@100极其接近，w/o node2vec和w/o GCN的Recall@100在数值上高度一致，这表明在长尾推荐场景下各模块的独立贡献趋于同质化。CMMITSNS在NDCG指标上有明显优势，这表明语义信息虽对召回总数影响不大，却是优化推荐排序精度的关键变量。综上，网络结构与语义信息的协同建模有利于提升CMMITSNS的排序精度。

3.4.3 冷启动实验

为验证CMMITSNS能够有效缓解冷启动问题，选取冷启动目标论文“TERZI E,TSAPARAS P. Efficient algorithms for sequence segmentation”作为典型案例进行对比分析。CMMITSNS和GCN为冷启动目标论文推荐前10篇论文，如表5所示。测试集中目标论文对应的引文有8篇，采用（√）标记正确的推荐结果。

从表5可以看出，CMMITSNS和GCN均成功推荐了所有正确的论文。实验结果表明，在推荐结果的覆盖率方面，CMMITSNS和GCN相差不大。但是，CMMITSNS正确推荐的论文位于前10项中的前8项，GCN正确推荐的论文位于前7项和第9项。相比之下，CMMITSNS比GCN正确推荐的论文在推荐序列中位置更靠前，这表明在NDCG指标上CMMITSNS优于GCN。这一案例证明CMMITSNS在缓解冷启动问题方面优于GCN。

4 结束语

针对推荐任务中存在的冷启动问题，提出一种融合文本语义与网络结构的冷启动缓解方法（CMMITSNS）。CMMITSNS通过预训练语言模型SPECTER2获取冷启动物品的文本语义的向量表示，利用node2vec捕获异质信息网络中节点的结构信息，并将学习到的表示结果输入给GCN作为初始化嵌入。文本语义和网络结构的协同作用有助于模型挖掘隐含的信息，缓解冷启动问题，提升推荐方法的性能。CMMITSNS在具有复杂语义结构的异质信息网络场景以及中小规模图谱上能通过引入强先验知识显著提升冷启动推荐效果，但两阶段训练增加了该方法整体的时间成本和工程复杂度。未来工作中，将考虑使用可微分的随机游走（Differentiable Random Walks）或将node2vec的损失函数联合到GCN的总损失中，实现联合训练。

参考文献

[1] ABBAS M A， AJAYI S， BILAL M， et al. A deep learning approach for context-aware citation recommendation using rhetorical zone classification and similarity to overcome cold-start problem［J］. Journal of Ambient Intelligence and Humanized Computing， 2024，15（1）：419-433.

[2] WANG H， LI W J. Relational collaborative topic regression for recommender systems［J］. IEEE Transactions on Knowledge and Data Engineering， 2015，27（5）：1343-1355.

[3] ALI Z， QI G L， KEFALAS P， et al. SPR-SMN： scientific paper recommendation employing SPECTER with memory network［J］. Scientometrics， 2022，127（11）：6763-6785.

[4] CAI X Y， HAN J W， YANG L B. Generative adversarial network based heterogeneous bibliographic network representation for personalized citation recommendation［C］//Proceedings of the AAAI Conference on Artificial Intelligence. Palo Alto， USA： AAAI Press， 2018：5747-5754.

[5] 金柯君，于洪涛，李邵梅，等.基于注意力机制的图卷积网络防御方法［J］.信息工程大学学报，2023，24（6）：718-724.

[6] SINGH A， D’ARCY M， COHAN A， et al. SciRepEval： a multi-format benchmark for scientific document representations［C］//Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing. Singapore. Stroudsburg， USA： ACL， 2023：5548-5566.

[7] GROVER A， LESKOVEC J. node2vec： scalable feature learning for networks［C］//Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York， USA： ACM， 2016：855-864.

[8] SHI B S， WANG Y Q， GUO F D， et al. Domain adaptation for graph representation learning： challenges， progress， and prospects［J］. Journal of Computer Science and Technology， 2025，40（2）：283-300.

[9] SUN Y D， ZHU D J， WANG Y S， et al. GTC： GNN-Transformer co-contrastive learning for self-supervised heterogeneous graph representation［J］. Neural Networks， 2025，181：No.106645.

[10] CHEN J， LIU Y， ZHAO S， et al. Citation recommendation based on weighted heterogeneous information network containing semantic linking［C］//Proceedings of the 2019 IEEE International Conference on Multimedia and Expo. Piscataway， USA： IEEE， 2019：31-36.

[11] ALI Z， QI G L， MUHAMMAD K， et al. Global citation recommendation employing generative adversarial network［J］. Expert Systems with Applications， 2021，180：No.114888.

[12] DU N N， GUO J， WU C Q， et al. Recommendation of academic papers based on heterogeneous information networks［C］//Proceedings of the 2020 IEEE/ACS 17th International Conference on Computer Systems and Applications. Piscataway， USA： IEEE， 2020. DOI： 10.1109/AICCSA50499.2020.9316516 .

[13] SADASIVAN A， GANANATHAN K， NESAMONY ROSE MARY J D PAL， et al. A systematic survey of graph convolutional networks for artificial intelligence applications［J］. WIREs Data Mining and Knowledge Discovery， 2025，15（2）：e70012.

[14] XU J F， CHEN Z Y， WANG W， et al. COHESION： composite graph convolutional network with dual-stage fusion for multimodal recommendation［C］//Proceedings of the 48th International ACM SIGIR Conference on Research and Development in Information Retrieval. New York， USA： ACM， 2025：1830-1839.

[15] ZHANG J Y， LI C， ZHAO Z Y. Lightweight yet efficient： an external attentive graph convolutional network with positional prompts for sequential recommendation［J］. ACM Transactions on Information Systems， 2025，43（3）：No.79.

[16] THIERRY N， CHRIST CHATELAIN I B， ALI Z， et al. Improved paper recommendation model incorporating knowledge graph embedding with IRGAN model［J］. ACM Transactions on Recommender Systems， 2025，3（4）：No.50.

基金资助

河南省自然科学基金(222300420590)