它到底测量什么
检测器寻找生成器和编辑工具常留下的统计痕迹:像素排列中的伪影、光照或纹理的不一致、GAN 或扩散模型的典型模式,或拼接的迹象。它从这些信号得出一个概率,通常带有一个置信度。
Danaya 提供一个这类的免费检测器。你可以放入任何照片、视频或音频并得到结果,每天免费检测一次且无需账户。它是一个筛查工具:它告诉你一个文件看起来有多可疑,而不是一个板上钉钉的结论。
它在哪里力不从心
检测器分析的是一个已完成的文件,因此它总是落后于生成器。随着模型进步,它们留下的痕迹越来越少,检测也越来越不可靠。一个干净的伪造品可能蒙混过关,而一张真实但被大幅压缩或编辑的照片可能被误判。
更深的局限在于:概率不是证据。它能说一个文件看起来很可能是假的,却无法说一个文件是真实的,也无法说它是何时、何地拍摄的。