面向分类任务的藏文对抗样本生成

doi:10.16249/j.cnki.2096-4617.2025.04.012

高原科学研究 ›› 2025, Vol. 9 ›› Issue (4) : 118 -128. DOI: 10.16249/j.cnki.2096-4617.2025.04.012

面向分类任务的藏文对抗样本生成

作者信息 +

Author information +

文章历史 +

摘要

为全面评估藏文语言模型的鲁棒性，文章提出一种藏文对抗样本生成方法DAAttacker。该方法基于字丁级与音节字级多粒度扰动策略，设计了插入、删除、替换等6种扰动方式以生成多样化的对抗样本。在白盒攻击场景下，DAAttacker能精准选择关键藏文音节字进行扰动，并借助生成扰动的评分机制择优生成最优扰动，同时通过相似度阈值约束样本的语义相似度，从而保障对抗样本在自然性与隐蔽性方面的平衡。实验结果显示，DAAttacker在多个藏文分类模型上获得了超过90%的攻击成功率，生成的对抗样本在语义流畅性和隐蔽性方面表现优异，为低资源语言的对抗样本生成和模型鲁棒性提升提供了新思路。