基于自监督的预训练在推荐系统中的研究

摘要

近来涌现一批研究工作探讨如何将预训练技术应用在推荐场景下并构造预训练任务，以此提升最终的推荐性能。对现有的基于预训练的推荐模型研究进展进行重点综述；并对不同的预训练方法进行分类和比较，在3个推荐系统基准数据集上对一些代表性模型进行实验和分析，相关的数据集和代码已开源；最后对预训练的推荐模型的未来发展趋势进行总结和展望。

关键词

推荐系统 / 综述 / 预训练模型 / 自监督学习

基金资助

国家自然科学基金资助项目(61902219,61972234,62072279,62102234,62202271,62272274); 山东省自然科学基金资助项目(ZR2021QF129,ZR2022QF004); 国家重点研发项目(2020YFB1406704,2022YFC3303004); 山东省科技创新重点项目(2019JZZY010129); 腾讯犀牛鸟专项研究计划资助项目(JR-WXG2021411)