OpenAI对ChatGPT、API生成的图片,嵌入C2PA元数据

来源:互联网· 2024-02-07 09:20:10

2月7日凌晨,OpenAI在社交平台宣布,对ChatGPT和API生成的图片,现在已经嵌入了 C2PA的元数据,以防止图片被非法乱用。

C2PA是一种开放数据标准,允许出版商、企业、开发者等,通过元数据来跟踪和验证数字内容,例如,图片、视频、文档等,最初来源、真实性和完整性。

前不久,由AI生成的泰勒斯威夫特等名人的不雅图片在网上疯狂传播,造成了非常大的影响。OpenAI则希望通过这个方式降低滥用,并提升人们对AI生成图片的辨识度。

目前,只有图片嵌入了C2PA,通过ChatGPT或API生成的文本、音频不受影响。OpenAI也会向所有APP用户推出该功能。

202311060852081809_0.jpg

除了嵌入C2PA元数据之外,OpenAI还公布了一个验证AI图像的真伪网站,用户只需要将JPG、Mp3、Mp4、PDF等格式内容拖入就能快速识别。

识别AI图片网站:https://contentcredentials.org/verify

202311060852081809_0.jpg

但是使用体验并不是很好,放上了一张明显由DALL·E3生成的图片,居然无法识别匹配。大概是训练数据太少的缘故吧。

AI图像嵌入C2PA元数据示例

当我们用ChatGPT生成一个图像时,系统会详细展示该图片的元数据,包括生成图像的系统、发布时间、描述、签发人等。如果使用DALL-E3的API生成图像,同样可以精准地展示出来。

C2PA元数据对图像大小的影响

OpenAI表示,在嵌入C2PA元数据后,会对生成图像的大小产生影响。

  • 通过 API,PNG3.1MB →3.2MB(增加3%)

  • 通过 API WebP287k →302k(增加5%)

  • 通过 ChatGPT,WebP 为287k →381k(增加32%)

虽然图像的大小发生了变化,但在质量、推理和交互延迟方面不会有太多影响。

什么是C2PA元数据

C2PA是由Adobe、微软、索尼、英特尔、ARM等行业领导者共同发起的,主要用于打击网络虚假信息和提高数字内容可信度的行业联盟。

C2PA通过制定标准的元数据(记录了内容从创建,到分发过程中的各种详细信息),帮助用户验证内容的真实性。

C2PA的元数据主要包括:内容的来源证明,通过技术手段为内容创建一个可信的“出生证明”,说明内容是如何、何时以及由谁创建的;

编辑和处理历史的记录,记录内容在创建后的所有修改历史,包括编辑、转换或者其他处理过程,以确保可追溯性和透明度;

支持多种媒体类型,虽然最初可能主要关注图片和视频,但目标是支持尽可能多的数字内容类型,包括音频和文档;

保护隐私和安全,在设计标准时,考虑到对个人隐私和数据安全的保护,确保不会因实现内容可追溯而暴露敏感信息。

但OpenAI指出,即便AI生成的图像嵌入了C2PA元数据,也无法从根本上解决识别图像真实来源的难题。

因为,这些元数据很容易被删除,例如,目前大多数社交媒体平台都会从上传的图像中删除元数据,而截屏等操作也可以将其删除。不过,这可以提升用户的AI安全意识,起到一定的安全保护作用。


文章来源: https://cy211.cn/aizixun/2115.html Chat gpt人工智能中文版在线使用

[免责声明]如需转载请注明原创来源;本站部分文章和图片来源网络编辑,如存在版权问题请发送邮件至398879136@qq.com,我们会在3个工作日内处理。非原创标注的文章,观点仅代表作者本人,不代表本站立场。

轻创AI创作系统

AI创业之家是一个专注于人工智能领域的的新型创业服务平台。它的出现,为人工智能行业的创业者提供了全面的支持和帮助,帮助他们在这个竞争激烈的市场中实现自己的梦想。