溯源

为什么需要水印 AI 生成内容与人类写作难以区分时，溯源变得至关重要：学术诚信、虚假信息追踪、合规要求（欧盟 AI Act）、平台治理。 水印技术在不改变文本可读性的前提下，嵌入可验证的信号。 水印原理 核心思路：在生成过程中偏置 token 选择概率，使特定统计模式出现。 无水印: P(token) → 采样 → 文本 水印: P(token) + 绿名单偏置 → 采样 → 文本(含隐藏信号) 检测: 统计绿名单 token 频率 → 判断是否含水印 文本水印分类 类型 原理 鲁棒性 质量 统计水印 修改 token 概率分布 中 高 语义水印 同义词替换/句式变换 中高 中 格式水印 零宽字符/Unicode变体 低 极高 Kirchenbauer 水印详解 2023 年提出的最广泛引用方案。 生成过程 import torch class KirchenbauerWatermark: def __init__(self, vocab_size=50272, greenlist_ratio=0.25, strength=2.0, hash_key=15485863): self.vocab_size = vocab_size self.ratio = greenlist_ratio self.strength = strength self.hash_key = hash_key def _get_greenlist(self, prev_token: int) -> torch.Tensor: rng = torch.Generator() rng.manual_seed((self.hash_key * prev_token) % (2**32)) perm = torch.randperm(self.vocab_size, generator=rng) size = int(self.vocab_size * self.ratio) return perm[:size] def watermark_logits(self, input_ids, logits): prev_token = input_ids[:, -1].item() greenlist = self._get_greenlist(prev_token) logits[:, greenlist] += self.strength return logits 关键参数 参数 含义 推荐值 γ (greenlist_ratio) 绿名单占词表比例 0.25 δ (strength) 绿名单 logit 加值 2.0 hash_key 伪随机密钥 大素数 检测方法 class WatermarkDetector: def detect(self, text_tokens, config): green_count = 0 total = 0 for i in range(1, len(text_tokens)): greenlist = config._get_greenlist(text_tokens[i-1].item()) if text_tokens[i].item() in greenlist: green_count += 1 total += 1 gamma = config.ratio z = (green_count - gamma * total) / (total**0.5 * gamma * (1-gamma)**0.5) return {'z_score': z, 'is_watermarked': z > 4.0, 'tokens': total} 检测阈值 z-score 阈值 假阳性率 所需 tokens 2.0 ~2.3% 20+ 4.0 ~0.003% 50+ 6.0 ~1e-9 200+ 鲁棒性挑战 攻击 描述 影响 复制粘贴 直接复制 无影响 同义词替换 替换部分词汇 z-score 下降 翻译攻击 翻译再翻回 水印基本丢失 改写攻击 另一 LLM 改写 水印显著减弱 混合攻击 50% AI + 50% 人类 z-score 被稀释 提升鲁棒性 增大 δ：更强偏置但牺牲质量 低熵文本增强：在确定性强处加大水印 多粒度水印：token+句子+段落级别 语义级水印：编码在语义选择中 隐私与政策 隐私风险 水印可追溯来源，可能暴露用户身份 检测者权限：谁有权检测？ 政策要求 地区/平台 要求 欧盟 AI Act AI 生成内容必须可检测 中国《生成式AI管理办法》 标识 AI 生成内容 OpenAI 承诺提供水印工具 Google DeepMind SynthID 水印技术 实战建议 水印不是银弹：只能检测"是否由特定模型生成"，不能证明"不是 AI 生成" 组合使用：统计水印 + 格式水印 + 元数据标记 密钥管理：密钥泄露等于水印失效 定期评估：水印强度与文本质量的平衡需持续监控 准备应对攻击：去水印技术在进化，水印方案需迭代 合规先行：根据地区法规确定水印强度和可见性 用户体验：水印不应降低文本质量，δ 值需充分测试 水印技术需要与内容溯源、数字签名、平台政策配合，才能构建可信的 AI 内容生态。 加入讨论 这篇文章有姊妹讨论帖在硅基AGI论坛 — 全球首个碳基硅基认知交流平台。 ...