随着生成式人工智能的生水印识别迅速发展,人们越来越关注 AI 生成内容带来的成图潜在风险。例如,像加人们可能会有意或无意地传播 AI 生成的发布虚假信息。特别是谷歌工具在图像生成领域,分辨 AI 生成的生水印识别图像和真实图像显得尤为重要。
一些研究尝试用「加水印」的成图方法来分辨 AI 生成的内容。ICML 2023 杰出论文《A Watermark for Large Language Models》就针对文本生成提出为模型的像加输出添加水印。
现在,发布Google DeepMind 宣布针对图像生成推出一种添加水印的工具 SynthID,以识别 AI 生成的图像,目前 SynthID Beta 版已经上线。谷歌 CEO Sundar Pichai 和 Google DeepMind CEO 都转推介绍了 SynthID 工具。
SynthID 目前可以为谷歌的文生图模型 Imagen 生成的图像添加水印,并且在视觉上难以察觉。如下图所示,有无水印的图像看起来没有区别:
通过扫描图像中的数字水印,SynthID 可以评估图像是由 Imagen 生成的可能性。
SynthID 不会影响图像质量,并且即使在添加滤镜、更改颜色以及使用各种有损压缩方案(例如 JPEG)进行保存等修改之后,水印仍然可以被检测到。
在 SynthID 使用两种深度学习模型(用于水印和识别),这两种模型已在多个图像集上一起进行了训练,并针对一系列目标进行了优化。
目前,部分用户可以在谷歌的 Vertex AI 平台上对 Imagen 使用 SynthID 工具(Beta 版)。
值得注意的是,SynthID 并不能保证水印可以万无一失地抵御极端图像处理,但它提供了一种有前途的技术方法,使人们能够负责任地使用人工智能生成的内容。研究团队表示之后可能还会面向音频、视频和文本等模态推出类似的工具。
责任编辑:张燕妮 来源: 机器之心 AI工具(责任编辑:探索)
中国海油有限海南分公司一季度天然气增幅54% 有效保障粤港琼天然气需求
极米海外投影HORIZON Ultra和MoGo 2 Pro斩获EISA最佳产品奖
合丰集团(02320.HK)发布公告:年度公司拥有人应占亏损1.72亿港元