基于SMOTE-XGBoost算法的信用卡违约预测模型研究

摘要

针对信用卡违约现象，提出了一种基于SMOTE-XGBoost算法的预测模型。该模型采用合成少数类过采样技术（SMOTE）对数据集进行处理，选择极限梯度提升树（XGBoost）模型作为学习器，提升模型整体的预测效果。为验证SMOTE的有效性以及XGBoost算法的最优性，本文首先采用随机森林、神经网络、梯度提升决策树、逻辑回归、k近邻、XGBoost和LightGBM模型对原数据集进行数据建模分析和预测，之后使用Regular-SMOTE、Borderline-SMOTE和SVM-SMOTE采样方式对数据集做相对平衡处理，然后再使用7种模型分别对平衡处理后的数据集进行建模分析和预测，并引入准确率、精确率、F1指数、曲线下面积作为模型好坏的评价指标。不同采样方式和模型之间的对比分析结果表明，在经过SMOTE采样后，各模型的预测效果显著提升，其中使用XGBoost模型对经过SVM-SMOTE采样后的数据进行建模分析，该方法的预测效果最好，采用此模型可为金融行业制定放贷策略和降低企业风险提供决策支持。

关键词

SMOTE / XGBoost / 违约预测 / 不平衡数据

基金资助

国家自然科学基金（12101469）