OpenAI 官宣推出专用的 AI 检测工具,用于监测图片是否由其旗下 AI 图片生成工具 DALL-E 生成,准确率高达 98.8%。不过该公司表示,这个检测工具并非旨在检测 Midjourney 和 Stability 等其他流行生成器生成的图像。

OpenAI DALL-E

OpenAI 还宣布他们加入了内容来源和真实性联盟(C2PA)的指导委员会,C2PA 是一种广泛使用的数字内容认证标准,可用于证明内容来自特定来源。OpenAI 表示自今年早些时候,在 ChatGPT 和 OpenAI API 中创建和编辑的所有图像中,均添加了 C2PA 元数据。未来 Sora 也会集成 C2PA 数据。

检测器的功能和性能

OpenAI 的图像检测分类器能够区分非人工智能生成的图像和 DALL-E 3 生成的图像,能在约 98% 的时间内正确识别出 DALL-E 3 生成的图像。此外,该分类器还可以处理常见的修改,如压缩、裁剪和饱和度变化。然而,对于由其他 AI 模型生成的图像,分类器的标记效率相对较低,在内部数据集上只能标记约 5%-10% 的图像。

检测器的应用场景

OpenAI 的图像检测分类器主要用于帮助识别由其自己的工具创建的内容,同时也与其他公司一起采用、开发和推广一种开放标准,即 C2PA(内容真实性联盟),以帮助人们验证用于创建或编辑多种数字内容的工具。C2PA 是一个被广泛采用的数字内容认证标准,由软件公司、相机制造商和在线平台等众多参与者开发和使用,可用于证明内容来自特定来源。

检测器的研发背景

随着人工智能技术的发展,AI 生成的内容越来越多,如何保证这些内容的真实性成为一个重要问题。为了应对这个问题,OpenAI 开发了这款图像检测分类器,并加入了 C2PA 指导委员会,以推动开放标准的制定和实施。

检测器的局限性

尽管 OpenAI 的图像检测分类器在识别 DALL-E 3 生成的图像方面表现出色,但其在区分其他 AI 模型生成的内容方面的性能较低。此外,该分类器对于经过多轮编辑和处理的图像的分类能力尚未明确。这些问题表明,虽然 OpenAI 的检测器在一定程度上能够帮助识别 AI 生成的图片,但仍存在一定的局限性。

OpenAI 发布的 AI 生成图片检测器是一项有益的尝试,能够在一定程度上帮助识别 AI 生成的图片。然而,该检测器在处理其他 AI 模型生成的图片以及编辑过的图片时的表现较差,需要进一步改进和完善。随着技术的进步和标准的建立,我们可以期待 AI 生成图片检测器在未来发挥更大的作用。

0个人收藏 收藏

评论交流

泪雪默认头像 请「登录」后参与评论
  1. 加载中..