Esse post não foi escrito por uma inteligência artificial

Um dos assuntos do momento nas redes sociais é o ChatGPT, inteligência artificial (IA) treinada para escrever sobre qualquer coisa, mas não só isso. A diversidade de assuntos, bem como a coerência da IA, vem surpreendendo os usuários.

O professor de machine learning em saúde na USP, Alexandre Chiavegatto Filho, também comentou algumas aplicações que podem potencializar o uso da ferramenta.

Ontem saiu uma matéria muito legal no Fantástico sobre IA e o ChatGPT, com uma participação minha. Reportagem do @alvaropereirajr. Matéria completa aqui: https://t.co/FfyWdwdd8A pic.twitter.com/1u0RGlPWYF

— Alexandre Chiavegatto Filho (@SaudenoBR) January 30, 2023

"Ela é uma ferramenta interessante, especialmente se você souber usar ela, se você souber verificar o que ela está dizendo. Nesse aspecto, é muito parecido com a busca no Google (...). Se você sabe certificar essa informação, essa ferramenta pode ser maravilhosa"

Nem tudo são flores e acertos

O nome GPT vem de Generative Pre-Training Transformer, mas não estamos falando de Autobots ou Decepticons, e sim de uma arquitetura de aprendizado profundo, ou arquitetura de rede neural.

E apesar de estarmos diante de textos claros e surpreendentes, o ChatGPT pode errar – com direito a desculpa por parte da IA quando um erro é apontado –, apontou o professor e divulgador científico Lucas, do Universo Discreto. Ou seja, não podemos confiar 100% nas suas respostas, nesse momento.

O ChatGPT também não é capaz de gerar conhecimentos novos, mas consegue criar textos inéditos, baseados em conhecimentos depositados nas bases de dados.

Um dos erros do ChatGPT foi apontado pelo professor da PUC-SP, Diogo Cortiz, que mostrou que a IA atribuiu a invenção do avião para os irmãos Wright, em 1903, desconsiderando completamente os feitos de Santos Dumond.

Essa desconsideração de aspectos culturais e até mesmo religiosos, dependendo do assunto, pode trazer impactos negativos sobre a diversidade cultural da humanidade.

Outro ponto comentado por Cortiz é a questão pertinente e atual sobre a ética quanto ao uso de IAs, defendendo que estes modelos precisam de uma validação mais extensa para evitar consequências negativas. Uma delas poderia ser o risco da geração de fake news.

Outra questão levantada é o impacto do ChatGPT dentro das salas de aula.

Essa discussão já está acontecendo em algumas escolas do Reino Unido, e também por revistas científicas. Como, por exemplo, o uso desses textos de forma enganosa, em que alunos dão à ferramenta a tarefa de escrever um texto que deveria ser de sua autoria.

Alguns especialistas e professores concordam que a plataforma pode ser benéfica, como o uso por usuários para criar textos e depois corrigi-los e modificá-los, mas a supervisão se faz necessária para esse uso. E isso não é capaz de ser feito a todo momento da vida escolar do aluno, como nos deveres de casa.

Uso transparente

Mesmo sendo uma novidade, o ChatGPT já acumula algumas vitórias e muitos questionamentos.

Revistas científicas, por exemplo, precisam documentar o uso do ChatGPT nos métodos descritos em artigos científicos, na própria introdução ou nos agradecimentos.

Essa é apenas uma das muitas dúvidas sobre o uso ético dessa ferramenta.

A verdade é que ela está aqui, e disponível gratuitamente, por enquanto, e pode trazer mudanças significativas em várias esferas da sociedade. No entanto, essas discussões devem pautar essas mudanças, para que seu uso sempre seja voltado para o benefício, não só individual, mas também coletivo.

Edição Samira Menezes