简短回答
是的。AI图片检测器既可能产生误报,也可能产生漏报,因此绝不能将单一分数视为最终证据。
分数出错的原因
检测器的输出是概率性的。压缩、截图、编辑历史、缺失的元数据以及异常但合法的图像特征,都可能影响置信度。
更优的审核工作流程是什么样的
- 检查是否存在可信的provenance记录
- 检查可用的EXIF或相关元数据
- 对比检测器信号,而非仅依赖单一层级
- 审核可见的不一致之处与上下文
- 将存疑案例提交给人工审核人员
团队的实际操作要求
如果检测器判定某张图像可疑,下一步不应是“宣布其为伪造”。更稳妥的下一步是询问其为何可疑,以及provenance、元数据和可见证据是否支持相同结论。
因此,团队应将检测器分数视为分流输入,而非真相判定工具。良好的工作流程可帮助审核人员决定是否发布、标记、搁置或提交该图像。
ImageVerity的定位
ImageVerity旨在将provenance、元数据、检测器信号与视觉推理整合到一个工作流程中,使审核人员能够理解证据链,而非仅看到单一数字。
若想了解其运作方式,请查看方法、查看示例报告,或进行免费审核。
常见问题
什么时候应该升级到人工复核?
当自动结果与人工观察冲突,或图像来源无法确认时,应升级到人工复核,并把结论标记为存疑而不是通过。
只看一个检测分数够不够?
不够。单个检测分数只是概率线索:压缩、截屏、编辑历史和元数据缺失都会改变它的输出,误报和漏报都真实存在,因此它只能用来决定先看哪一张,不能单独作为结论。
这类核查最容易忽略哪一步?
最常见的是跳过采集条件:同一张图在不同压缩、截屏、转发链路上会丢失不同证据,先确认文件是怎么来的,再判断画面本身。
四类证据分别能证明什么
| 证据类型 | 能回答什么 | 不能回答什么 |
|---|---|---|
| 来源与采集链路 | 文件从哪里来、经过哪些转手 | 画面本身是否真实 |
| C2PA 等来源凭证 | 是否由声明的主体生成或拍摄,以及之后是否被改过 | 没有凭证不等于伪造(大量正常图片根本没有签名) |
| EXIF 等元数据 | 拍摄设备、时间、是否经过编辑软件 | 元数据可被删除或伪造,缺失也无法定罪 |
| 检测模型分数 | 这张图与训练数据里的生成样本有多像,用来排优先级 | 不能单独作为结论,误报和漏报都真实存在 |