人工智能生成的文本能否可靠检测？

AI理解论文

这篇论文主要涉及对人工智能生成文本的检测方法的可靠性进行全面分析。首先，作者介绍了四种不同类别的检测器的性能，包括基于水印、神经网络、零样本和检索的检测器，并揭示了它们的可靠性问题。特别是，作者开发的递归改写攻击是第一种可以在只有轻微文本质量下降的情况下破坏水印和基于检索的检测器的方法。其次，作者展示了现有检测器对于虚假文本的漏洞，即攻击者可以编写被误认为是AI生成的文本，而无需对检测方法进行白盒访问。最后，作者建立了最佳检测器的AUROC与人类和AI文本分布之间的总变差距之间的理论联系，用于研究可靠文本检测问题的难度。

在实验方面，作者使用了XSum、PubMedQA和Kafkai等多个数据集以及OPT-1.3B和GPT-2-Medium等多个目标语言模型进行分析。作者进行了递归改写攻击的实验，并展示了攻击对原始文本内容的影响。此外，作者还展示了可能的欺骗攻击，以及检测AI生成文本的困难性的理论结果。

总的来说，这篇论文对现有的AI生成文本检测方法进行了深入的分析，揭示了它们的脆弱性和局限性，并提出了一些理论结果来解释可靠文本检测问题的难度。