大模型下游任务适配的参数高效微调策略综述

牟琪

doi:10.19292/j.cnki.jdxxp.2026.03.013

吉林大学学报(信息科学版) ›› 2026, Vol. 44 ›› Issue (03) : 632 -641. DOI: 10.19292/j.cnki.jdxxp.2026.03.013

大模型下游任务适配的参数高效微调策略综述

牟琪

作者信息 +

Author information +

文章历史 +

PDF

摘要

针对预训练语言模型(PLMs:Pretrained Language Models)在下游任务适配中全参数微调(Full FineTuning)计算开销大、存储需求高和部署效率低等问题，系统综述了参数高效微调(PEFT:Parameter-Efficient Fine-Tuning)技术的发展，构建了涵盖基于适配器、低秩参数化、提示学习、参数选择式和动态调参5类方法的分类框架，并从基本原理、代表性方法、适用场景及应用特点等方面进行了归纳比较。分析表明，各类PEFT方法在参数效率、任务泛化能力和部署灵活性方面各具优势，可为大模型轻量部署、多任务迁移与个性化适配提供参考。