对抗攻防

AIGC检测的现实困境 随着AI生成内容质量逼近人类写作，区分AI和人类内容变得越来越难。检测技术与生成技术的军备竞赛正在加速——而检测方天然处于劣势。 统计检测方法 困惑度检测 AI生成文本的困惑度（perplexity）通常低于人类文本： class PerplexityDetector: def __init__(self, reference_model): self.model = reference_model def detect(self, text): # 计算困惑度 ppl = self._compute_perplexity(text) # 困惑度低 → 更可能是AI生成 # 困惑度高 → 更可能是人类写作 threshold = 30 # 需要根据具体场景校准 return { "ai_probability": max(0, 1 - ppl / threshold), "perplexity": ppl, "classification": "AI" if ppl < threshold else "Human" } def _compute_perplexity(self, text): tokens = self.model.tokenize(text) log_prob = self.model.compute_log_prob(tokens) return math.exp(-log_prob / len(tokens)) 局限：经过轻微改写（同义词替换、句式调整）就可以大幅提高困惑度，绕过检测。 Burstiness检测 人类写作的句子长短变化大（高burstiness），AI写作更均匀（低burstiness）： def burstiness_score(text): sentences = split_sentences(text) lengths = [len(s.split()) for s in sentences] mean_len = np.mean(lengths) std_len = np.std(lengths) # 变异系数 cv = std_len / mean_len # 人类通常CV > 0.5，AI通常 < 0.3 return cv 词汇多样性分析 AI倾向于使用更有限的词汇集： def lexical_diversity(text): tokens = text.lower().split() unique = set(tokens) # Type-Token Ratio ttr = len(unique) / len(tokens) # Yule's K（更鲁棒的多样性指标） k = compute_yules_k(tokens) return {"ttr": ttr, "yules_k": k} 水印技术 文本水印：绿色token法 在生成过程中对token选择施加统计偏移，留下不可见水印： ...