← 返回博客列表

博客

研究与学术领域的AI图像:为何预印本图表需要不同的核查方式

AI图像与科研诚信

简短回答

AI图像的科研诚信问题与新闻编辑室的核查问题截然不同。这里没有对抗性的公众受众,没有病毒式传播,也没有以小时为单位的紧迫性。取而代之的是文档中的一张图表,由作者在数月前生成,其动机是让结果看起来比实际更清晰,由时间有限且缺乏法医培训的人员进行审核。

Illustration: Short answer

为何现有工作流程无法适用

新闻编辑室会询问一张图片是否描绘了发生的事情。期刊则会询问一张图表是否准确呈现了收集到的数据。这些是不同的问题,具有不同的失败模式。伪造的新闻图片因过于完美而失败:错误的阴影、错误的人群、与记录矛盾的细节。被篡改的科学图表通常因过于一致而失败,因为本应显示自然变化的面板最终是同一基础图像的近乎重复渲染。

Illustration: Why the existing workflow does not transfer

实际核查的内容及核查主体

大多数期刊在接受前会对图表进行筛查。实际上,这一步通常意味着与已发表图表的相似度搜索,以及编辑的视觉阅读。两者都无法可靠地捕获从头生成的面板,因为生成的面板没有可匹配的先前副本。

  • 跨论文重复:最成熟的核查方式,也是最常自动化的方式。
  • 内部一致性:本应共享同一采集会话的面板之间,亮度、背景纹理和噪声是否一致。
  • 拼接检测:图表是否是取自不同来源的区域组合,表现为面板边界处的突然变化。
  • 元数据:图表到达审核阶段时几乎总是缺失,因为图表在稿件准备过程中被重新导出。
Illustration: What actually gets checked, and by whom

检测真正发挥作用的场景

detector可以标记出与相机采集不符的面板,这在期刊收到的图表数量超过其能仔细检查的数量时,有助于对队列进行优先级排序。它无法确定数据是否被伪造。高分并非不当行为的证据,低分也不能证明面板反映了真实测量值。当分数与重复核查结果冲突时,应将两个结果一并提交人工审核,而非由其中一个结果决定。

可经受上诉的工作流程

  1. 保留提交时的图表,在制作过程中进行任何重新导出之前。
  2. 记录哪项核查产生了哪项结果,包括结果为合格的核查。
  3. 区分发现与推断:“此面板与相机采集不符”是一项发现,“此作者伪造数据”是需要更多依据的推断。
  4. 将有争议的案件提交给包含成像专业人员的委员会,而非仅编辑人员。

此方法无法实现的内容

它无法确认数据是否按描述收集。如果作者不再持有原始仪器输出,它无法恢复该输出。它也无法替代机构流程,因为不当行为的调查结果所带来的后果需要自动化工具无法达到的证明标准。阅读方法学以了解各层如何结合,或查看示例报告以了解如何记录无定论的案件。如果您正在审核图表并需要在提出问题前将provenance、metadata和detector输出集中在一处,请启动免费核查并将这三者与发现一并记录。

常见问题

什么时候应该升级到人工复核?

当自动结果与人工观察冲突,或图像来源无法确认时,应升级到人工复核,并把结论标记为存疑而不是通过。

只看一个检测分数够不够?

不够。单个检测分数只是概率线索:压缩、截屏、编辑历史和元数据缺失都会改变它的输出,误报和漏报都真实存在,因此它只能用来决定先看哪一张,不能单独作为结论。

这类核查最容易忽略哪一步?

最常见的是跳过采集条件:同一张图在不同压缩、截屏、转发链路上会丢失不同证据,先确认文件是怎么来的,再判断画面本身。

四类证据分别能证明什么

证据类型能回答什么不能回答什么
来源与采集链路文件从哪里来、经过哪些转手画面本身是否真实
C2PA 等来源凭证是否由声明的主体生成或拍摄,以及之后是否被改过没有凭证不等于伪造(大量正常图片根本没有签名)
EXIF 等元数据拍摄设备、时间、是否经过编辑软件元数据可被删除或伪造,缺失也无法定罪
检测模型分数这张图与训练数据里的生成样本有多像,用来排优先级不能单独作为结论,误报和漏报都真实存在
ImageVerity 验证笔记

这篇文章围绕当前的图片真实性与 AI 媒体核查话题撰写,品牌露出刻意保持轻量,优先保证文章本身对新闻理解与核查方法有用。

用这套流程审核一张真实图片。

如果这篇内容有帮助,下一步就是拿一张真实文件跑一遍流程,把来源凭证、元数据和检测证据放在一起看。