A OpenAI, dona do ChatGPT, lançou uma ferramenta que promete distinguir textos gerados por inteligências artificiais gerativas daqueles criados por seres humanos.
COMO ASSIM? A ferramenta é gratuita e pode ser acessada nesta página. É preciso ter um cadastro na OpenAI, porém.
Ela funciona com textos gerados pelo ChatGPT e outras IAs e, por ora, só funciona no idioma inglês. Seu “treinamento” foi feito com textos artificiais e feitos por seres humanos.
A ferramenta é uma espécie de contra-ataque a usos questionáveis do ChatGPT, em especial na educação. No comunicado oficial, a OpenAI diz que:
Estamos conversando com educadores nos EUA para aprender o que eles estão vendo em suas salas de aula e para debater as capacidades e limitações do ChatGPT, e continuaremos a ampliar nosso alcance à medida que aprendermos.
OK, MAS… A própria OpenAI reconhece que a ferramenta que identifica texto artificial é limitada e afirma ser “impossível” alcançar um nível de confiança de 100%.
Em testes internos, a ferramenta identificou corretamente 26% dos textos gerados por IAs e errou em 9% dos casos ao dizer que um texto humano havia sido escrito por uma IA.
Ainda assim, esses resultados são “significativamente superiores” a outras ferramentas similares.
Existem alguns parâmetros e limitações que ajudam a tornar a ferramenta mais confiável, como o uso de textos longos (com pelo menos 1 mil caracteres) e subjetivos (respostas exatas, que não dão margem à criatividade, são mais difíceis de distinguir).
Via OpenAI (em inglês).
Post feito em parceria com o Manual do Usuário
ChatGPT • Manual do Usuário
Conversa aberta