基于实时流处理的自适应冰雪爱好者旅客群体划分模型研究

梅巧玲 ,  郝晓培 ,  杨立鹏 ,  易超

铁道运输与经济 ›› 2024, Vol. 46 ›› Issue (4) : 27 -33.

PDF (1396KB)
铁道运输与经济 ›› 2024, Vol. 46 ›› Issue (4) : 27 -33. DOI: 10.16668/j.cnki.issn.1003-1421.2024.04.04
旅客运输

基于实时流处理的自适应冰雪爱好者旅客群体划分模型研究

作者信息 +

Research on an Adaptive Passenger Group Division Model for Ice and Snow Enthusiasts Based on Real-time Stream Processing

Author information +
文章历史 +
PDF (1428K)

摘要

准确高效识别旅客群体是铁路制定运营策略以及提高旅客服务质量的关键因素之一。以铁路旅客实名制购票数据以及出行数据为基础,构建旅客个体特征以及社交关系特征特性,并进行向量化表示,综合考虑现有准确度较优的深度学习模型存在的模型复杂、计算量大等问题,利用知识蒸馏以及边缘计算相结合的思路,基于知识蒸馏实现模型压缩降低内存成本和加速计算,同时对训练的模型进行分割,采用边缘计算就近实时计算的特性,将拆分后的部分模型部署在应用服务器节点,从而减低了模型的推理时延与能耗,以适应实时售票过程中对旅客群体的实时划分。最后以冰雪快运服务推荐为例,验证该模型的准确率以及预测效率,为铁路针对旅客群体的个性化客运产品设计以及营销策略优化提供决策建议。

Abstract

Accurate and efficient identification of passenger groups is one of the key factors in formulating operation strategies and improving passenger service quality. Based on the real-name ticket purchase data and travel data of railway passengers, the individual characteristics and social relationship characteristics of passengers were constructed and vectorized. Taking into overall consideration the complexity and heavy calculation workload of the existing deep learning model with better accuracy, this paper, combining knowledge distillation and edge calculation, achieved model compression based on knowledge distillation to reduce memory cost and accelerate calculation. At the same time, segmenting the training model and adopting the nearest real-time computing characteristics of edge computing, it deployed part of the split model in the application server node, thus reducing the reasoning delay and energy consumption of the model, so as to adapt to the real-time division of the passenger group in real-time ticketing. Finally, with ice and snow express service recommendation as an example, it verified the accuracy and prediction efficiency of the model, and provided decision-making suggestions on personalized passenger transport product design and optimized marketing strategy of the railway for passenger groups.

Graphical abstract

关键词

产品设计 / 个体特征 / 社交关系 / 群体划分 / 边缘计算 / 知识蒸馏

Key words

Product Design / Individual Characteristics / Social Relationship / Group Division / Edge Calculation / Knowledge Distillation

引用本文

引用格式 ▾
梅巧玲,郝晓培,杨立鹏,易超. 基于实时流处理的自适应冰雪爱好者旅客群体划分模型研究[J]. 铁道运输与经济, 2024, 46(4): 27-33 DOI:10.16668/j.cnki.issn.1003-1421.2024.04.04

登录浏览全文

4963

注册一个新账户 忘记密码

在2015年北京申冬奥过程中,我国正式向国际社会作出“带动三亿人参与冰雪运动”的承诺,截至2021年10月,冰雪运动的参与人数已达3.46亿人,我国正在从冰雪旅游体验阶段进入冰雪旅游刚性生活需求阶段。冰雪运动场是冰雪运动的重要依托,对地形、地势、环境等自然资源要求很高,优质的交通服务已经成为影响旅客冰雪之旅满意度的主要因素之一[1]。近几年我国铁路部门为冰雪爱好者提供了一系列服务措施,如:乌鲁木齐开往富蕴县的K9735次列车留出滑雪装备专属空间,推出了门到门、门到站、站到站的当日达、次日达多种“私人定制”雪具快运服务,打造“高铁+冰雪游”体验专列等。铁路作为连接旅客生活与冰雪运动的主要交通方式之一,有效识别冰雪爱好者,定制铁路客运产品,推送个性化服务已经成为吸引旅客,促进当地冰雪市场经济发展,提升冰雪爱好者体验的关键因素。当前的旅客群体识别方式主要基于旅客的上下车站、乘坐车次、常驻地等信息进行简单规则匹配,忽略旅客的其他特征,导致旅客群体识别准确率低,亟需设计一套更为完整的铁路旅客群体划分模型,为铁路客运精准营销提供决策支持。

1 特征分析

综合《2021中国滑雪度假消费发展报告》以及《2020中国滑雪产业白皮书》来看,我国滑雪度假游客主要集中在华北、东北及华东的经济发达省份,男女比例相对均衡,且女性呈现不断增长态势,以35岁以下青年为主,其占比超6成;大专及以上的高学历游客较多;在旅客社交关系方面已婚游客约占6成,多数家庭有12岁以下小孩,且二胎家庭、三胎家庭也有较高比例;在消费习惯方面,中、高端消费人群约占58%;参与冰雪旅游的消费者中有39%渴望和志同道合的朋友结伴出行,显著高于2021年和朋友结伴参与自驾游、周边游、红色旅游的比例。基于报告中旅客特征,分析旅客出行的个体特征以及社交关系,从旅客常驻城市、出行列车和区段等维度识别冰雪运动爱好者[2]

目前铁路出行特征主要来源于铁路12306互联网售票系统中的旅客出行数据,采用基于Flink,Kafka等流处理技术实现旅客在各应用场景下的实时交互的非结构化或者半结构化数据的采集,采用Etl等工具实现订单、存根和电子票等结构化历史数据的采集,通过特征过程构建特征体系,最终生成旅客的个体特征和社交关系等信息,并存入数据库中,旅客特征主要包括个体特征、社交关系和实时特征。

1.1 个体特征

铁路互联网售票系统中与旅客个体相关的特征数据分为2类:人口自然类属性数据和出行行为数据。人口自然类属性数据指旅客在系统中存在的既有属性,如性别、年龄、户籍地等人口自然属性,这类数据变化频率较低且数据结构固定,也称为静态特征。出行行为数据则是在旅客出行过程中产生的一系列行为记录,选择G/D/C各类车次的出行次数,结伴出行次数,称为动态特征。基于这两类数据以不同的数据维度对旅客进行刻画,抽象出易于理解的语义标签并形成旅客的数字化个体特征[3],得到旅客个体特征如表1所示,目前总共构建标签2 554个。

由于旅客被抽象为高维度特征向量,直接利用高维度数据会存在维度诅咒问题,同时也降低了分类模型的泛化能力,因此在模型构建之前需要对旅客进行特征选择实现降维,从而降低模型的训练时间和空间,采用基于核统计的独立性准则模型在核空间评估旅客特征之间的相关性[4],并进行旅客特征选择,选择旅客标签1 231个。

1.2 社交关系

冰雪爱好者往往选择结伴同行参与冰雪运动,旅客之间的社交关系影响旅客的出行,针对12306互联网售票系统的业务特征,可以从旅客的购票订单数据中提取出2类社交关系,分别为旅客之间的购票关系以及同行关系,铁路旅客可以构建的2类社交关系其表达式分别如下。

Gg=(PEgF'Wg)
Gc=(PEcF'Wc)

式中:Gg为购票关系;P为所有铁路旅客集合;Eg为购票关系集合;F'表示所有旅客的经过特征融合之后的个体特征集合;Wg为购票关系权重;Gc为同行关系;Ec为同行关系集合;Wc为同行关系权重,其值为购票次数以及同行次数。

基于旅客的同行关系与购票关系构建旅客社交关系网络,旅客社交关系网络结构如图1所示。

1.3 实时特征

实时特征主要包括旅客在购票过程中与12306互联网售票系统的实时交互数据,如余票查询、车次浏览、雪具快运查看、餐饮服务点击等信息,通过实时数据可以计算出旅客的实时需求。

2 模型构建

2.1 融入社交网络的群体划分模型

旅客群体划分模型如图2所示,融入社交网络的旅客群体划分模型(Deep Learning of Social Connections,DLSC)主要包括输入层、社交关系特征融合层、多维特征融合层、激活层、群体分类层,将旅客个体特征、社交关系、实时特征作为输入,基于旅客社交关系构建社交网络拓扑图,采用图神经网络算法在旅客特征中融入旅客社交关系[5],实现旅客个体特征与其存在社交关系的邻居节点的特征信息进行融合,并将其与实时特征作为多维特征融合层进行特征Embedding(即将高维度数据映射到低维度空间的机器学习方法)操作[6],将生成的信息作为激活层的输入,从旅客融合社交关系节点的旅客特征与实时特征中获取旅客群体划分的目标值。

(1)社交关系特征融合。旅客群体划分模型包含2类社交关系,以同行关系为例,将目标旅客及其相邻节点的特征向量集作为图注意力层的输入,其表达式为

f'={f0'f1'fN'}        fi'RP'

式中:f'为节点特征(旅客个体特征)向量集;fo'为目标节点特征向量;fi'为目标节点第i个邻居节点的特征向量;N为与目标节点相关的邻居节点个数;P'为经过特征融合之后旅客特征的个数;RP'为旅客特征的代表域。

通过构建图注意力系数以实现融合邻居节点特征的目标节点特征输出,具体计算方式如下。

eijg=ag(Wgfi'Wgfj')
αijg=softmax(eijg)=exp(LeakyReLU(agT[Wgfi'Wgfj']))kN+1exp(LeakyReLU(agT[Wgfi'Wgfk']))

式中:eijg为节点j的特征对节点i的重要性;Wg为同行关系网的共享参数,用于特征增强;αijg为节点i到节点j的注意力系数;ag()为目标节点与邻居节点在购票关系网络中的重要性;LeakyReLU为激活函数。

得到归一化注意力系数后,接下来将计算其对应特征的线性组合,作为每个节点的最终输出特征。对于K个独立注意力机制下的计算结果,采用K平均来替代连接,计算公式为

fig''=σ(1Kgk=1KgjLiαijgkWgkfi')

式中:fig''为目标旅客融合与其组成购票关系网络的邻居节点信息之后的特征向量;σ()为激活函数;Kg为独立注意力机制序号;αijgk为在购票关系网络中旅客i对旅客j的注意力系数;Wgk为相应的输入线性变换的权重矩阵。

(2)多维特征融合。多维特征融合层如图3所示,将对旅客的个体特征、各种社交关系特征、实时特征以及模型的其他参数进行训练,首先在第一层将所有的特征进行拼接,并通过多层全连接层,最后通过多层ReLU进行激活。

构建特征融合层对个体特征向量fi、购票关系融合特征fig''、同行关系融合特征fic''与旅客实时特征 fi''进行多角度特征融合,计算公式如下。

fPSCi=Wps(fig'',fic'',fi'',fi)

式中:fPSCi为融合多维关系的目标旅客特征;Wps为训练参数。

(3)激活函数构建。将特征融合层输出的特征向量输入激活层,从而获得不同的群体划分,计算公式如下。

q(c)=softmax(Wqfpsc+bq)

式中:q()为预测旅客群体;c为旅客群体类别标签;fpsc为多维特征融合层输出的特征向量;bq为偏置项。

2.2 模型优化

为了降低模型复杂度,提高模型准确率,主要从知识蒸馏[7]以及模型切割2个部分对模型进行优化,构建基于知识蒸馏的融入社交网络的旅客群体划分模型(Deep Learning of Social Connections on Knowledge Distillation,DLSCKD)。

(1)知识蒸馏。理论上模型复杂的理论搜索空间要大于较小网络的搜索空间,如果使用较小的网络可以实现与复杂模型相同(甚至相似)的收敛,则2个网络的解空间会实现重叠。知识蒸馏的核心思想:采用教师-学生模型(Teacher-Student)模式,基于全量的标签特征构建结构复杂且学习能力强的教师模型,并将其学到的知识迁移到结构简单且学习能力较弱的学生模型,从而增强学生模型的泛化能力,利用较少参数的紧凑模型以匹配复杂模型的准确性,实现模型的压缩,基于知识蒸馏,利用复杂的教师模型在训练中获得知识,来指导规模较小的学生模型训练,使学生模型模仿教师模型,以实现知识的传递以及模型的压缩[8]。对旅客个体特征以及融合设计关系网络的特征进行融合时主要经过了全连接层(2层,1 200维),512ReLu,256ReLU,128ReLU等4层网络,参数=(上层神经元的个数+1)×当前神经元的个数,则该模型的聚合层参数超过330万个,通过压缩可以缩减到55万个。

(2)模型切割。训练好的学生模型由多层神经网络相互叠加生成,主要包括输入层、隐藏层、聚合层以及输出层,其中输入层分为3部分,包括旅客个体特征、社交关系、实时特征;隐层分为2部分,不同网络层数的模型具有不同的性能以及计算复杂度,同时不同网络层的计算资源需求以及数据的数量都具有显著的差异性,模型分割如图4所示,将知识蒸馏生成的学生模型切分成2部分,其中计算量大的部分在数据中心服务器进行计算,计算量小的则保留在应用服务器进行计算,采用数据中心服务器与应用服务器协同计算,从而降低深度模型的计算时延,提高模型的并发度。分别在隐藏层对旅客历史特征数据进行Embedding操作,旅客实时特征的Embedding,之后通过聚合层的全连接实现特征的融合,对融合后的特征进行多层运算,并对运算结果做softmax计算后,得出预测值。

2.3 流处理流程

实时流处理的自适应群体划分模型基本处理流程如图5所示,首先通过构建离线模型对旅客历史数据进行分析以完成旅客群体划分,最后实现旅客个体历史特征Embedding以及社交关系Embedding,最后通过多角度特征融合层实现实时特征与旅客历史特征共同训练计算实现旅客群体预测,并对外提供数据服务。

(1)实时处理:由于铁路客运日最大售票量已超过1 500万,会产生大量的旅客购票、乘车、进出站等数据,故引入Kafka消息队列[9]作为出行数据缓存中间件以实现数据的统一传输,并构建多个消费端,进行旅客实时特征分析以及存入旅客历史数据仓库;采用Flink流处理框架[10]对实时数据进行数据清理以及实时特征构建,最后将生成的实时特征作为群体划分模型的输入以实现旅客群体类别预测,同时实时地对离线模型中多角度特征融合以及激活层等进行参数更新。

(2)离线处理:通过积累旅客的实时出行数据,构建旅客群体划分模型,离线部分有实时特征Embedding以及旅客历史数据仓库为数据源,该部分用虚线划分,在离线训练时以旅客的最后一次出行特征模拟实时特征,对模型进行训练。

(3)服务接口:实时对外提供预测服务。

3 实例分析

以2021年9—12月乘坐某个车次的旅客的历史出行行为、社交关系、实时交易数据集N作为模型输入,将与雪具快运有过交互行为的样本作为正样本,没有选择雪具快运业务的旅客作为负样本,按照2∶8的比例分离输入样本集N,随机生成训练集Ntrain和测试集Ntest,模型的输出为旅客对雪具快运的偏好程度,从而提取出冰雪爱好者特征,为了对比DLSC模型和DLSCKD模型的有效性,通过引入当前采用的基于规则的群体划分[11]、GBDT算法[12]、逻辑回归[13]、Wide&Deep模型[14]共6种模型对相同样本进行建模训练,分别从推荐效果以及模型性能2个方面进行分析。

3.1 效果分析

通过计算对比各个模型的召回率、准确率以及精确率和召回率的调和均值F1值等评估指标以验证DLSC和DLSCKD模型的有效性[15],得到各个模型测试结果对比如表2所示。

6个模型均在相同的样本集进行训练,故结果可信度相对较高,主要从召回率、准确率以及F1值3个维度对4类算法进行评价。

(1)召回率。由表2可得,DLSC模型的召回率最高,而逻辑回归的召回率最低,主要原因是该模型对正负样本比例较为敏感;而其他模型对正负样本的比例相对不敏感,故召回率相对较高,同时由于Wide&Deep模型、DLSC模型、DLSCKD模型等均是通过构建深度学习模型进行构建,在训练过程中有模型自动计算特征之间的相关关系,所以召回率较高,而且DLSC模型、DLSCKD模型除了考虑了旅客的个体特征还将社交关系网络融入到了模型中,针对维度高特征计算相对困难的样本具有一定的优势。

(2)准确率。GBDT算法、逻辑回归、Wide&Deep模型、DLSC模型、DLSCKD模型的准确率均在90%以上,且基于深度学习构建的Wide&Deep模型、DLSC模型、DLSCKD模型等准确率相对较高,而DLSC模型与DLSCKD模型由于融入旅客社交关系网络均略高于Wide&Deep模型,DLSCKD模型略低于DLSC模型。

(3)F1值。DLSC模型与DLSCKD模型的F1值相对未考虑旅客社交关系的模型F1较高,能够获得的推荐效果较优,但是由于DLSCKD模型进行了模型压缩,所以相对DLSC模型效果较差。

通过对实验结果进行分析,可以看出在2021年的数据集的场景下,融入旅客社交关系网络的群体划分模型具有一定的优化作用。

3.2 性能分析

Wide&Deep模型、DLSC模型、DLSCKD模型在召回率、准确率、F1等方面表现较优,对3个模型进行并发测试,分析模型效率,分别按照并发20,50,100,200,500等进行并发量测试,并发测试情况如图6所示,DLSC模型、DLSCKD模型在相同云端资源以及终端资源环境部署后,DLSCKD模型在相同并发量测试下其耗时低于其他模型,降低了模型部署成本。

综上所述,DLSCKD模型虽然在一定程度上牺牲了小部分的准确率,但是大大降低了模型部署成本,提高了实时计算的并发量以及计算效率。

4 结束语

基于旅客个体出行特征采用神经网络构建旅客群体划分模型,通过实验验证了其性能;针对单纯基于个体出行特征构建的模型存在的冷启动特征稀疏等问题,提出了融入旅客关系的旅客群体划分模型,鉴于铁路客运日均售票量已超过千万,引入知识蒸馏压缩旅客群体划分模型,借鉴边缘计算的思想对模型进行分割,以实现购票旅客的实时群体划分,在保证群体划分模型效率的同时降低了模型复杂度,最后以识别冰雪运动爱好者群体为例验证该模型的性能,为铁路针对旅客群体的个性化客运产品设计以及营销策略优化提供了决策建议。

参考文献

[1]

关晨涛. 2022年北京冬奥会背景下“三亿人参与冰雪运动”目标的实现[J]. 冰雪运动201739(3):5-8.

[2]

GUAN Chentao. Realization of “300 Million People Participate in Winter Sports” in the Context of 2022 Beijing Winter Olympics[J]. China Winter Sports201739(3):5-8.

[3]

王金伟,郭嘉欣,刘乙,. 中国滑雪场空间分布特征及其影响因素[J]. 地理研究202241(2):390-405.

[4]

WANG JinweiGUO JiaxinLIU Yiet al. Spatial Distribution Characteristics and Influencing Factors of Ski Resorts in China[J]. Geographical Research202241(2):390-405.

[5]

郝晓培. 基于大数据的铁路客运用户画像系统研究及应用[D]. 北京:中国铁道科学研究院,2018.

[6]

胡振威,汪廷华,周慧颖. 基于核统计独立性准则的特征选择研究综述[J]. 计算机工程与应用202258(22):54-64.

[7]

HU ZhenweiWANG TinghuaZHOU Huiying. Review of Feature Selection Methods Based on Kernel Statistical Independence Criteria[J]. Computer Engineering and Applications202258(22):54-64.

[8]

冯兴杰,生晓宇. 基于图神经网络与深度学习的商品推荐算法[J]. 计算机应用研究202138(12):3617-3622.

[9]

FENG XingjieSHENG Xiaoyu. Item Recommendation Algorithm Based on GNN and Deep Learning[J]. Application Research of Computers202138(12):3617-3622.

[10]

张琳钰,牛存良,姚政. 基于轻量图卷积增强嵌入学习的点击率预测模型[J]. 微电子学与计算机202239(4):9-16.

[11]

ZHANG LinyuNIU CunliangYAO Zheng. Enhanced Embedding Learning for CTR Prediction based on Light GCN[J]. Icroelectronics & Computer202239(4):9-16.

[12]

苑婧,周杨,胡校飞,. 融合多教师模型的知识蒸馏文本分类[J]. 电子技术应用202349(11):42-48.

[13]

Yuan JingZhou YangHu Xiaofeiet al. Integrated multi-teacher model for knowledge distillation text classification[J].

[14]

Application of Electronic Technique,202349(11):42-48.

[15]

黄震华,杨顺志,林威,. 知识蒸馏研究综述[J]. 计算机学报202245(3):624-653.

[16]

HUANG ZhenhuaYANG ShunzhiLIN Weiet al. Knowledge Distillation:A Survey[J]. Chinese Journal of Computers202245(3):624-653.

[17]

刘邦,余华平. Kafka分布式消息队列的高性能研究[J]. 电脑知识与技术201915(32):4-6.

[18]

郭文鹏,赵宇海,王国仁,. 面向Flink迭代计算的高效容错处理技术[J]. 计算机学报202043(11):2101-2118.

[19]

GUO WenpengZHAO YuhaiWANG Guorenet al. Efficient Fault-Tolerant Processing Technology for Flink Iterative Computing[J]. Chinese Journal of Computers202043(11):2101-2118.

[20]

张纬之,韩珣,谢志伟,. 面向简化规则的集成学习模型及规则约简策略[J/OL]. 计算机应用研究1-7[2024-02-20].

[21]

冯娟娟,辜丽川,饶海笛,. 基于客户画像和GBDT算法的客户价值预测方法[J]. 洛阳理工学院学报(自然科学版)201828(3):51-56.

[22]

FENG JuanjuanGU LichuanRAO Haidiet al. Customer Value Prediction Method Based on Customer Portrait and GBDT Algorithm[J]. Journal of Luoyang Institute of Science and Technology (Natural Science Edition)201828(3):51-56.

[23]

MUTIS MBEYAZTAS USIMSEK G Get al. A Robust Scalar-on-Function Logistic Regression for Classification[J]. Communications in Statistics-Theory and Methods202352(23):8538-8554.

[24]

钱付兰,李建红,赵姝 . 基于深度混合模型评分推荐[J]. 南京航空航天大学学报201951(5):592-598.

[25]

QIAN FulanLI JianhongZHAO Shuet al. Rating Recommendation Based on Deep Hybrid Model[J].Journal of Nanjing University of Aeronautics & Astronautics201951(5):592-598.

[26]

张小婉,邓秋军,柳先辉.结合图注意力机制的知识图谱推荐算法[J].计算机科学202350(S2):464-470.

[27]

ZHANG XiaowanDENG QiujunLIU Xianhui. Knowledge Graph Recommendation Algorithm Combined with Graph Attention Mechanism[J].Computer Science202350(S2):464-470.

基金资助

国家重点研发计划项目(2020YFF0304101)

AI Summary AI Mindmap
PDF (1396KB)

0

访问

0

被引

详细

导航
相关文章

AI思维导图

/