关注中国少数民族语言模型的鲁棒性！藏文音节级文本对抗性攻击

这篇论文主要探讨了藏文文本对抗攻击的领域，提出了一种名为TSAttacker的藏文音节级黑箱文本对抗攻击方法，并评估了其在首个包含藏文的中文少数民族多语言预训练语言模型（PLM）中的鲁棒性。以下是论文的主要内容和结构：

引言

论文首先介绍了文本对抗攻击的概念，即通过精心设计在原始文本中添加不可察觉的扰动，使得自然语言处理（NLP）模型产生错误判断。这种方法不仅用于攻击模型，还用于评估模型的鲁棒性。当前大多数研究集中在英语和中文，而针对中文少数民族语言的研究较少。论文指出，文本对抗攻击对中文少数民族语言的信息处理构成了新的挑战。

方法

论文提出了一种名为TSAttacker的攻击方法，专注于藏文的音节级别。该方法基于音节余弦距离和评分机制，用于选择替换音节并确定替换顺序。具体来说，TSAttacker通过计算音节之间的余弦距离来选择替换音节，并使用评分机制来决定音节替换的顺序，以生成对抗样本。

实验

论文在六个通过微调两个版本的CINO模型（cino-base-v2和cino-large-v2）生成的模型上进行了TSAttacker实验，涉及三个下游任务。实验结果表明，TSAttacker能够显著降低模型的准确性，并生成高质量的对抗样本。实验还发现，符合语言标准的训练集可以提高模型性能。

结果与讨论

实验结果显示，TSAttacker在攻击成功率和生成对抗样本的质量方面表现优异。具体来说，攻击成功率（ASR）和准确性下降值（ADV）较高，表明攻击的有效性和模型的鲁棒性仍有很大提升空间。此外，生成的对抗样本具有较低的平均Levenshtein距离，表明样本质量较高。

相关工作

论文回顾了当前关于英语和中文文本对抗攻击的研究现状。英语方面的研究较为成熟，涉及字符级、词级和句子级的攻击方法。中文方面的研究起步较晚，但也有一些相关研究，主要集中在词级和字符级的攻击方法。对于中文少数民族语言，研究相对较少，尤其是在文本对抗攻击领域。

贡献

论文的主要贡献包括：

1. 填补研究空白：提出了针对藏文脚本的文本对抗攻击方法，填补了该领域的研究空白。
2. 评估模型鲁棒性：通过TSAttacker评估了首个中文少数民族多语言PLM中藏文部分的鲁棒性。
3. 开源工作：为未来的研究提供了开源平台，呼吁更多研究者关注中文少数民族语言信息处理中的安全问题。

结论

论文总结了TSAttacker的有效性，并指出中文少数民族语言的信息处理技术起步较晚，文本对抗攻击和防御的研究仍需进一步探索。论文呼吁在攻击和防御两个方面加强研究，以提高中文少数民族PLM的整体性能和鲁棒性。

专业术语解释

• 文本对抗攻击：一种通过在文本中添加微小扰动来误导NLP模型的方法。
• 黑箱攻击：攻击者对模型内部结构和参数未知的情况下进行的攻击。
• 余弦距离：一种用于衡量两个向量之间相似度的度量方法。
• Levenshtein距离：衡量两个字符串之间差异的编辑距离，表示通过插入、删除或替换字符将一个字符串转换为另一个字符串所需的最小操作次数。

通过以上内容，读者可以全面理解论文的研究背景、方法、实验设计及其贡献。