基于双重决策自适应冻结实现快速准确的迁移学习

摘要

随着深度学习的快速发展,迁移学习作为一种关键的机器学习策略,通过复用已有模型知识,有效应对新问题或新领域,大幅降低了对大量标注数据的依赖,同时提升了学习效率.然而,在迁移学习过程中,现有的微调策略均面临训练速度与准确性的权衡问题,全部微调策略可能减小训练速度,而部分微调策略则可能影响训练准确性.因此,如何优化迁移学习过程,实现快速高效的迁移学习是目前迁移学习领域亟须解决的关键问题.为了解决这一问题,提出了一种双重决策自适应冻结方法:在迁移学习过程中,首先,使用组决策模块对神经网络各个层进行决策,选出可能需要冻结的层;然后,对这些层使用层决策模块进行决策,确定最终需要冻结的层;最后,对这些需要冻结的层进行冻结,以此最大限度地减少错误冻结的可能性,提高训练的准确性,同时增大迁移训练速度.实验结果表明,与微调整个网络的传统方法相比,所提出方法将训练速度提升了1.97倍,且精度损失却很小;与只微调最后一层相比,所提出方法将准确率提高了34.52%,且训练速度损失很小.

关键词

深度学习 / 迁移学习 / 图像分类 / 模型加速 / 自适应冻结