OpenAI对ChatGPT、API生成的图片,嵌入C2PA元数据

添加书签

专注AIGC领域的专业社区,关注微软&OpenAI、百度文心一言、讯飞星火等大语言模型(LLM)的发展和应用落地,聚焦LLM的市场研究和AIGC开发者生态,欢迎关注!

2月7日凌晨,OpenAI在社交平台宣布,对ChatGPT和API生成的图片,现在已经嵌入了 C2PA的元数据,以防止图片被非法乱用。

C2PA是一种开放数据标准,允许出版商、企业、开发者等,通过元数据来跟踪和验证数字内容,例如,图片、视频、文档等,最初来源、真实性和完整性。

前不久,由AI生成的泰勒斯威夫特等名人的不雅图片在网上疯狂传播,造成了非常大的影响。OpenAI则希望通过这个方式降低滥用,并提升人们对AI生成图片的辨识度。

目前,只有图片嵌入了C2PA,通过ChatGPT或API生成的文本、音频不受影响。OpenAI也会向所有APP用户推出该功能。

OpenAI对ChatGPT、API生成的图片,嵌入C2PA元数据插图

除了嵌入C2PA元数据之外,OpenAI还公布了一个验证AI图像的真伪网站,用户只需要将JPG、Mp3、Mp4、PDF等格式内容拖入就能快速识别。

识别AI图片网站:https://contentcredentials.org/verify

OpenAI对ChatGPT、API生成的图片,嵌入C2PA元数据插图1

但是使用体验并不是很好,放上了一张明显由DALL·E 3生成的图片,居然无法识别匹配。大概是训练数据太少的缘故吧。

AI图像嵌入C2PA元数据示例

当我们用ChatGPT生成一个图像时,系统会详细展示该图片的元数据,包括生成图像的系统、发布时间、描述、签发人等。

OpenAI对ChatGPT、API生成的图片,嵌入C2PA元数据插图2

如果使用DALL-E 3的API生成图像,同样可以精准地展示出来。

OpenAI对ChatGPT、API生成的图片,嵌入C2PA元数据插图3

C2PA元数据对图像大小的影响

OpenAI表示,在嵌入C2PA元数据后,会对生成图像的大小产生影响。

  • 通过 API,PNG 3.1MB → 3.2MB(增加 3%)
  • 通过 API WebP 287k → 302k(增加 5%)
  • 通过 ChatGPT,WebP 为 287k → 381k(增加 32%)

虽然图像的大小发生了变化,但在质量、推理和交互延迟方面不会有太多影响。

什么是C2PA元数据

C2PA是由Adobe、微软、索尼、英特尔、ARM等行业领导者共同发起的,主要用于打击网络虚假信息和提高数字内容可信度的行业联盟。

C2PA通过制定标准的元数据(记录了内容从创建,到分发过程中的各种详细信息),帮助用户验证内容的真实性。

OpenAI对ChatGPT、API生成的图片,嵌入C2PA元数据插图4

C2PA的元数据主要包括:内容的来源证明,通过技术手段为内容创建一个可信的“出生证明”,说明内容是如何、何时以及由谁创建的;

编辑和处理历史的记录,记录内容在创建后的所有修改历史,包括编辑、转换或者其他处理过程,以确保可追溯性和透明度;

支持多种媒体类型,虽然最初可能主要关注图片和视频,但目标是支持尽可能多的数字内容类型,包括音频和文档;

保护隐私和安全,在设计标准时,考虑到对个人隐私和数据安全的保护,确保不会因实现内容可追溯而暴露敏感信息。

但OpenAI指出,即便AI生成的图像嵌入了C2PA元数据,也无法从根本上解决识别图像真实来源的难题。

因为,这些元数据很容易被删除,例如,目前大多数社交媒体平台都会从上传的图像中删除元数据,而截屏等操作也可以将其删除。不过,这可以提升用户的AI安全意识,起到一定的安全保护作用。

本文素材来源OpenAI、Adobe官网,如有侵权请联系删除

END

OpenAI对ChatGPT、API生成的图片,嵌入C2PA元数据插图5

OpenAI对ChatGPT、API生成的图片,嵌入C2PA元数据插图6

本篇文章来源于微信公众号: AIGC开放社区