基于集成自监督的工业视觉大模型算法研究

摘要

针对工业视觉检测场景多样，模型迁移相较其他计算机视觉任务频繁更多，同时工业质检领域还存在小样本，缺乏异常数据的问题，本文将掩码自编码器(Masked Autoencoders, MAE)与对比自监督相结合，提出了一种适用于工业大模型训练的集成自监督算法(Integrated Autoencoders, IAE),在工业场景下开发原创的工业视觉大模型训练方法以帮助工业视觉大模型在工业图片上抽取更好的特征，提高下游任务图像分类准确率，以及算法训练效率和模型的泛化性.对比传统MAE算法，本文提出的IAE算法训练出来的大模型预训练权重在迁移到同一下游工业站点的小数据集分类任务上精度提高了2.42%;大数据集分类任务上精度提高了0.86%.

关键词

工业视觉 / IAE / 大模型 / 预训练

基金资助

国家重点研发计划项目(2021YFB3600603)资助; 福建省自然科学基金项目(2020J01468)资助; 国家自然科学基金青年科学基金项目(62101132)资助