面向模型量化的安全性研究综述

摘要

随着边缘智能设备的飞速发展，为了在资源受限的边缘端设备上部署参数和存储需求巨大的深度模型，模型压缩技术显得至关重要.现有的模型压缩主要包含剪枝、量化、知识蒸馏和低秩分解4类，量化凭借推理快、功耗低、存储少的优势，使它成为了边缘端部署的常用技术.然而，已有的量化方法主要关注的是模型量化后的模型精度损失和内存占用情况，而忽略模型量化可能面临的安全性威胁.因此，针对模型量化的安全性研究显得尤为重要.本文首次针对模型量化的安全性问题展开分析，首先定义了模型量化的攻防理论，其次按照模型量化前和模型量化过程中两个阶段对量化攻击方法和量化防御方法进行分析归纳，整理了针对不同攻击任务进行的通用基准数据集与主要评价指标，最后探讨了模型量化的安全性研究及其应用，以及未来潜在研究方向，进一步推动模型量化的安全性研究发展和应用.

关键词

模型量化 / 模型安全 / 对抗攻击 / 后门攻击 / 隐私窃取 / 公平性 / 模型防御

基金资助

浙江省自然科学基金项目(LDQ23F020001)资助; 国家自然科学基金项目(62072406)资助