OpenAI推出图像检测新对象！可检测DALL·E 3生成图像准确率达98%

编译 | 长颈鹿编辑 | 李水青

智东西5月8日，5月7日，OpenAI宣告推出一个面向文生图模型DALL·E 3的图像检测分类器，该工具能帮助用户识别AI工具天生的内容。
据内部测试，该工具识别DALL·E 3天生图片的准确率达到了98%。

此外，OpenAI称为了应对图片内容是否真实的寻衅，公司希望与业界各方机构一起采取、开拓和推广开放标准。
据悉，OpenAI昨日开放了图像检测分类器的API，希望通过技能共享来提升数字内容的真实性和完全性。

5月7日，OpenAI宣告加入C2PA（内容来源和真实性同盟）辅导委员会。
C2PA是一个开放数据标准，其元数据（Metadata）可用以追踪数字内容的初始来源。
同日，OpenAI和微软宣告推出200万美元的“社会韧性基金（Societal Resilience Fund）”，用于推动人们对AI技能的认知。

OpenAI在5月7日加入了C2PA辅导委员会，由多家机构共同开拓的C2PA是一个被广泛利用的数字内容认证标准。
这个标准可以帮忙用户确认内容的来源，即鉴别一张图是直接由相机拍摄的照片，还是通过像DALL·E 3这样的文生图工具创作的作品。

▲添加了C2PA元数据的DALL·E 3

今年2月7日，OpenAI在ChatGPT和OpenAI API中为DALL·E 3创建的图像嵌入了C2PA元数据。
据悉，OpenAI即将推出的视频天生模型Sora也将集成C2PA元数据。

OpenAI称用户无法轻易假造或修正C2PA元数据。
无论内容被如何传播和利用，其元数据都将保持不变，C2PA等标准能够供应关于内容来源和真实性的可靠信息。

OpenAI和微软于5月7日共同设立了一个资金规模为200万美元的基金，这个基金的目的是加强人们对AI的理解，以及推动人们理解和接管数字来源标准。
这个基金支持的组织包括美国退休职员协会（AARP）、国际IDEA同盟，以及干系的AI互助伙伴。

OpenAI称实现内容真实性须要全行业的共同努力。
平台、内容创作者和处理者需协作保留元数据，以确保内容来源的清晰，从而建立更真实的数字生态系统。

为了增强数字内容的完全性，OpenAI在推广C2PA认证标准的同时还在自研一款图像检测分类器。
该工具有助于抵制删除或修改内容真实来源的行为。

图像检测分类器可以识别出压缩、裁剪、变动饱和度/颜色、去除水印等常规图片操作。
OpenAI称，图像检测器在内部测试中，能精确识别约98%由DALL·E 3天生的图像，有约0.5%的概率会将非AI天生的图像误判为AI天生。
但其在区分DALL·E 3天生图像和其他AI模型天生图像方面性能较低，约有5-10%的误判。

OpenAI的图像检测分类器现已向AI实验室和AI初创公司开放申请，公司希望通过业内集体协作共同完善图像检测技能。

OpenAI还在其语音模型Voice Engine中引入了音频水印技能，目前处于产品预览阶段。

OpenAI正积极参与构建一个标准化、可信赖的数字内容生态系统。
其不仅加入C2PA辅导委员会并集成C2PA元数据于DALL·E 3中，还正自研图像检测分类器。

OpenAI与微软共同推出的“社会韧性基金”进一步凸显了OpenAI对付遍及AI知识、提升公众对AI技能认知的承诺。

OpenAI的这些努力将使AI天生内容向更规范、透明的方向发展。
我们也希望有更多AI企业间技能共享、开放互助的行为来构建一个更加真实和可信的数字天下。

来源：OpenAI