据 OpenAI 帮助中心与技术报告,其文本水印技术 textGrain 面向欧盟人工智能法案的透明度要求,已在 API 全球可选开启,并将在未来数周对欧盟境内合格的 ChatGPT 与 Codex 输出逐步添加。它不插入隐藏字符、不可见空格或特殊标点,而是对模型从候选词中随机选词的方式做细微调整,整段文本里形成一种统计模式,读者完全无法察觉。
不藏字符,水印怎么躲在选词里?
传统思路是往文本里塞不可见标记,容易被删改破坏。textGrain 换了个方向,把信号写进生成过程的概率形状里。技术报告说,它把 token 生成和一个带密钥的随机过程通过最优传输耦合,用 KL 散度衡量为此损失了多少生成熵。通俗讲,就是在选词自由和留下痕迹之间做一笔可计算的交易,水印强度对应损失的那点随机性。
数学文章里为什么几乎检测不到水印?
OpenAI 自己公布了局限。在目标百分之一误报率下,约两百 token 的段落只有八成左右能检出水印,四百 token 段落约九成五;而在数学这类选词自由度很低的内容上,因为模型几乎没有多余的概率空间可以调度,检出率大幅下降。也就是说,内容越机械、越没有文体选择,这个藏在文体里的指纹就越淡。它跟踪的不是文本,而是文本里那些自由选择的痕迹。
没有检出水印,就能证明是人写的吗?
OpenAI 明确说不能。水印只能提示某段文本可能由 OpenAI 系统生成或处理过一部分,它不能告诉谁用了系统、人写了多少、内容是否准确;反过来,检出水印之外的阴性结果,也完全不能证明出自人手。这把长期的作者焦虑往前推了一步,却也戳破了它,当机器的文体偏好本身成为可统计的痕迹,我们要鉴别作者,鉴别对象已经不是一串字,而是一片分布。
去论坛讨论
前往 silicon-agi.com 论坛 参与讨论