谷歌AI引入水印技术：提升文本和图像生成的可追踪性

谷歌AI生成的文字和图片都带有水印，这一发现发表在了Nature期刊上。文章指出，谷歌通过调整选词概率，在不增加成本的情况下，在模型输出时引入了这种水印技术。使用大型语言模型（LLM）生成文本通常是自回归的，即模型将概率分配给词汇表中的元素，然后根据已生成的文本，按照这些概率采样，选择下一个标记。生成式水印通过修改下一个标记的采样程序，在生成的文本分布中注入微妙的、特定于上下文的修改，从而在生成的文本中引入统计签名。这种水印检测方法的主要优点是，检测过程不需要执行计算昂贵的操作，甚至不需要访问底层LLM（通常是专有的）。这一技术可能有助于识别和追踪由特定AI生成的文本和图片，从而提高内容的可信度和原创性。