"— Como você avalia a confiabilidade das informações que encontra?

— Como um modelo de linguagem baseado em aprendizado de máquina, eu não possuo a capacidade de avaliar a confiabilidade de uma informação de forma independente. Em vez disso, minhas respostas são baseadas nas informações presentes nos dados com os quais fui treinado, sem a capacidade de julgar sua precisão ou confiabilidade. É importante lembrar que, em alguns casos, as informações presentes nos dados com os quais fui treinado podem ser desatualizadas ou incorretas. É sempre uma boa ideia verificar múltiplas fontes de informação e avaliar a confiabilidade antes de tomar qualquer decisão importante com base em uma resposta fornecida por mim ou por qualquer outro modelo de linguagem."

Em tempos de fake news, todo cuidado é pouco. E quem avisa, na transcrição literal apresentada acima, é o próprio ChatGPT — um robô de conversa treinado a partir de uma ampla base de dados para gerar textos originais sobre os mais diversos temas e em variados estilos. A fama conquistada nos últimos meses deve-se, entre outros fatores, à sofisticação da estrutura narrativa que apresenta ao ser provocado por qualquer um de nós (a ferramenta está disponível, até agora gratuitamente, no endereço https://chat.openai.com/chat).

Não há dúvida de que estamos diante de um importante avanço no campo da Inteligência Artificial (AI). E sempre que a tecnologia nos surpreende (encantando ou assustando), surgem discussões sobre como as máquinas podem vir a substituir o ser humano em mais e mais atividades. O ChatGPT também levantou preocupações de fraude e plágio na comunidade acadêmica (a ponto de algumas escolas e universidades proibirem seu uso ou anunciarem planos para que os estudantes façam mais trabalhos escritos a mão).

Polêmicas à parte, há um papel essencial que continua (e continuará) nas mãos dos seres humanos: o de analisar criticamente qualquer informação, refletindo sobre a origem e a intenção de cada mensagem que recebemos —seja ela produzida por IA ou por uma pessoa de carne e osso. Esse é um debate que precisa acompanhar toda inovação tecnológica e, quando pensamos na educação digital da população (algo tão falado recentemente), é importante não restringi-la ao aprendizado das ferramentas tecnológicas em si: precisamos englobar o arsenal de estratégias essenciais para lidar de forma reflexiva e responsável com o que podemos criar a partir dessas ferramentas.

Mais do que discutir se os estudantes deixarão para modelos como o ChatGPT tarefas como a de escrever uma redação, temos que nos preocupar com a capacidade que eles têm de analisar o que foi escrito, avaliando confiabilidade e pesando as consequências do que aquela mensagem pode acarretar.

Quando procuramos uma informação na internet (por meio de buscadores como o Google), temos ao menos acesso ao site ou página responsável pelo conteúdo encontrado. Mesmo assim, em muitos casos, é difícil filtrar as fontes confiáveis e de qualidade em meio a uma lista quase infindável de links. Agora imagine a complexidade de analisar as informações de diversas origens selecionadas, agrupadas e hierarquizadas por uma IA —não é tarefa simples, mas temos que desenvolver as habilidades para executá-la.

Além disso, é preciso considerar que os dados que alimentam o bot não são atualizados em tempo real. Ou seja, assuntos mais "quentes" e notícias que ainda estão se desenrolando não estão em seu radar (por enquanto, pelo menos).

A OpenAi (empresa criadora do ChatGPT) passou a informar, na página inicial de acesso ao sistema, que o formato de diálogo "permite que o ChatGPT responda perguntas subsequentes, admita erros, desafie premissas incorretas e rejeite pedidos inapropriados". Será importante acompanhar, na prática, como essas ações ocorrerão.

Por ora, podemos ficar com o conselho do próprio robô que, ao ser questionado sobre as fake news, escreveu: "É importante ter cuidado com as informações que se lê e compartilha e sempre verificar a fonte e a confiabilidade das informações antes de tomar decisões ou compartilhá-las com outros".