A OpenAI planeja adicionar rótulos aos conteúdos criados no DALL-E, seu gerador de imagens por inteligência artificial, bem como sua versão integrada no ChatGPT. Essas marcas permitirão que os conteúdos sejam verificados por uma ferramenta desenvolvida pela própria startup.
Segundo a empresa, a ferramenta de checagem acerta com 98% de precisão, mesmo que as imagens enviadas pelos usuários estejam cortadas ou editadas.
Esses rótulos são metadados criados pela Coalition for Content Provenance and Authenticity (C2PA), uma coalizão de empresas de tecnologia que pretende criar um método para checagem de conteúdo fabricado por IAs generativas. A OpenAI anunciou sua entrada no grupo em janeiro.
Os metadados ainda podem ser removidos pelo usuário, então sua implementação não é uma solução definitiva. O padrão criado pelo C2PA é uma norma técnica aberta, permitindo que editores, empresas e outros incorporem metadados em imagens para verificar sua origem e informações relacionadas — como o modelo usado para criação da foto.
A OpenAI disse que a inclusão desses metadados terá um impacto mínimo no tamanho do arquivo e na qualidade da geração de imagem.
Sofia Schurig
Via OpenAI Blog (ambos em inglês)
