Gemini 或 ChatGPT 能看出一张图是不是 AI 吗?

问问你已经在用的聊天机器人很合理:Gemini 能看出一张图是不是 AI 吗?简短的答案是,Gemini 能在一张图里查找 SynthID,也就是谷歌给自家工具生成的媒体加的隐藏水印,查到时它会告诉你。棘手的是它查不到时会发生什么。

这篇文章讲清楚 SynthID 是什么、如何在 Gemini 里做这项核查、ChatGPT 能否做同样的事、水印核查会漏掉什么,以及如何处理来自任何其他生成器的图。贯穿全文的一点是:水印核查、概率检测器和拍摄时取证回答的是三个不同的问题,最好别把它们混为一谈。

SynthID 是什么,核查如何进行

SynthID 是谷歌嵌入其 AI 工具所生成的图像、音频、视频和文本里的一种水印。它被织进内容本身,而不是放在某个元数据字段里,因此能在裁剪、重新压缩等普通编辑后留存。当你问 Gemini 一张图是不是 AI 时,它会寻找那个水印,然后写一小段说明它查到了什么。

要理解的关键在于它的覆盖范围。据谷歌介绍,SynthID 识别的是用谷歌自家 AI 工具生成的内容。The Register在 Gemini 获得这项图像核查时报道,它无法判断某张图是否由竞争对手的生成器制作。所以 SynthID 的结果在水印存在时能确认谷歌来源,对其余一切则保持沉默。

如何用 Gemini 一步步核查一张图

打开 Gemini 应用或网站,新建一个对话,上传你想核查的图。直接问它是不是用谷歌 AI 制作的,或是否含有 SynthID 水印。Gemini 会检查文件,并回答图像的全部或部分是否看起来由谷歌的工具生成。

仔细读它的回答,因为措辞很关键。肯定的结果有意义:水印在那里,所以涉及谷歌 AI。而没有找到水印的结果并不是一张健康证明。它只说明 Gemini 没有检测到谷歌水印,而这正是你对一张真实照片、一张截图,或一张由非谷歌工具制作的图所会看到的结果。

ChatGPT 也能核查图像吗?

ChatGPT 不是通用图像检测器,但 OpenAI 已经把来源信息嵌进了自家图像。据 OpenAI 的帮助文档 所述,在 ChatGPT、Codex 和 OpenAI API 中生成的图像同时带有 C2PA 内容凭据和 SynthID 水印。PetaPixel 指出,该水印嵌在像素里,因此即便元数据被剥除也能留存。OpenAI 还在 openai.com/verify 提供一个公开核查工具,它会寻找 SynthID 水印或一份可信的、与 OpenAI 关联的 C2PA 清单,并报告一张图是否带有 OpenAI 的来源信息。

和 Gemini 一样的局限也在此适用。这些工具在信号存在时能确认自家来源,但否定的结果并不能证明一张图是真的。OpenAI 自己也说,缺少标记并不意味着一张图不是来自 ChatGPT,因为元数据可以被移除。让 ChatGPT 肉眼看一张随机照片、判断它是不是 AI,并不是一个可靠的测试。

水印核查会漏掉什么

水印核查很有力,但很窄。它会漏掉任何来自不给输出加水印的生成器的图,而很多生成器并不加。它可能漏掉一张水印被重度编辑、截图或重新编码剥除或削弱的图。而且它对一张真实场景的真实照片什么也说不了,因为没有任何 AI 碰过它,所以它没有水印。

元数据更容易丢失。一张 AI 图的 C2PA 标记存在文件的元数据里,你可以用一个免费的元数据查看器自己检查,但社交平台和即时通讯应用在上传时往往会例行剥除元数据。所以一张分享来的图,若既无水印又无元数据,单凭它自身几乎什么也说明不了。

如何核查来自任何生成器的图

当水印核查空手而归时,退回到一个不依赖生成器配合的工具。一个免费的 AI 图像检测器会观察像素中的模式,返回这张图由 AI 生成的概率,不论是哪种工具做的。它既不绑定谷歌也不绑定 OpenAI,因此覆盖了它们的核查够不到的图。

把两者一起用。水印核查是对谷歌或 OpenAI 来源的快速确认,概率检测器是你对其余一切的退路。两者都不是定论,所以把检测器的高分当作强烈的谨慎理由,把低分当作宽慰,而不是证据。

水印、检测器、拍摄时取证:三种不同的答案

这三种工具回答三个不同的问题。水印说的是某家特定公司的 AI 做了这个。检测器估计的是一个成品文件看起来有多像合成的。两者都无法证明一张真实照片是真的,而当你需要自己的图像经得起考验时,这才是要紧的问题。

这正是拍摄时取证登场的地方。它不是事后评判一个文件,而是在拍摄那一刻记录真实性:在拍下时把照片绑定到 SHA-256 指纹、服务器时间戳和一个来自手机的 GPS 位置,这样任何人日后都能核验它未被改动。水印和检测器是回头看一个已存在的文件。拍摄时取证从第一刻就开始记录,这是证明一张照片为真、而不是靠猜的唯一办法。

FAQ

没找到水印?还是核查一下。

Danaya 的免费检测器读的是像素,不是水印,所以对任何生成器的图都管用。上传一张,几秒内得到概率。

免费核查一张图片

继续阅读