DeepMind发布全球首个数字水印SynthID，提升AI图片生成安全

谷歌旗下的AI研究机构DeepMind发布了，全球首个数字水印SynthID，主要用于提升生成式AI产品生成的图片安全，帮助用户识别图片的来源。未来，该水印会用于文本、视频、音频等领域。

SynthID可直接嵌入到，谷歌的文本生成图片模型Imagen合成的图片中。人的肉眼无法觉察到水印，不受更改颜色、添加滤镜等破坏操作影响；SynthID也可以识别图片中的水印。SynthID相当于钱币中的防伪标识，同时又能充当“验钞机”的作用，识别图片的真假，极大提升了生成式AI产品的安全性。

SynthID由两种深度模型组成而成，一个用于添加水印，另外一个用于识别水印。这两个模型分别在不同的图像数据集上进行了大规模训练、优化，以提升水印的准确率。

SynthID工作原理介绍

1）添加水印：SynthID可直接将水印嵌入到图片中，人的肉眼无法察觉到，同时也不受滤镜、更改颜色、压缩体积、更改亮度等操作影响。

左面有水印，右面无水印

改变颜色，仍然可以识别水印

2）识别水印：SynthID可以识别图片中的水印，并告诉用户该图片是 Imagen模型生成的，还是人工设计。当图片遭遇严重破坏时，例如，更改亮度、删除部分内容等，SynthID可以基于图片的元数据，仍然可以检测到图片中的水印。

如何使用SynthID

SynthID主要用于谷歌的文本生成图片模型Imagen。该模型基于Transformer（ChatGPT也借鉴了该模型）的语言理解能力，以及结合了扩散模型的高保真图片生成能力。

目前，部分用户可以在谷歌云的AI开发平台Vertex AI上，使用Imagen和SynthID功能。

SynthID处于测试阶段，但谷歌表示，数字水印对于生成式AI的安全性非常重要。特别是随着技术的迭代、场景化落地，会有大量AI生成的文本、图片、视频、音频等内容在社会中流通，会产生潜在的安全威胁。未来，会将SynthID扩展至更多领域，全面提升生成式AI安全。