A retratação de um artigo científico contendo uma série de imagens geradas por inteligência artificial —incluindo a ilustração de um roedor com pênis e testículos maiores do que o corpo, além de estruturas celulares disformes e multicoloridas— acendeu o alerta da comunidade internacional para a chegada dessas tecnologias à produção acadêmica.
Publicado na revista especializada Frontiers in Cell and Developmental Biology, o trabalho incluía ainda palavras inexistentes, como as supostas células "Iollotte sserotgomar" e "testtomcels".
O artigo, assinado por dois pesquisadores da China, passou pelo crivo da revisão por pares da revista, mas não no das redes sociais. Horas após a divulgação do estudo, as ilustrações fantasiosas já eram piada entre cientistas no X, antigo Twitter.
Após o vexame público, a Frontiers decidiu retratar (despublicar) o material. "Pedimos sinceras desculpas à comunidade científica por este erro e agradecemos aos nossos leitores que rapidamente nos chamaram a atenção para isso", diz a nota de retratação.
Segundo a editora, "uma investigação revelou que um dos revisores levantou preocupações válidas sobre as figuras e solicitou revisões dos autores", que não teriam respondido à solicitação. "Estamos investigando como nossos processos falharam."
Para uma boa parte da comunidade acadêmica, dada a escala que as ferramentas de inteligência artificial generativa ganharam, era questão de tempo até que algo assim acontecesse.
Os modelos de IA generativa, cujo representante mais famoso é o ChatGPT, são treinados com uma grande quantidade de dados e podem, a partir daí, criar conteúdos, como textos, imagens e, mas recentemente, vídeos.
"O artigo é um triste exemplo de como revistas científicas, editores e revisores podem ser ingênuos —ou possivelmente até mesmo coniventes— em termos de aceitar e publicar lixo gerado por IA", escreveu a especialista em integridade científica Elisabeth Bik, no Science Integrity Digest.
A pesquisadora ressalta que, se erros tão grosseiros chegaram a uma revista acadêmica, problemas menos evidentes passariam ainda mais despercebidos.
"Essas imagens claramente não são cientificamente corretas, mas se tais ilustrações malfeitas podem passar tão facilmente na revisão por pares, é provável que números mais realistas gerados pela IA já tenham se infiltrado na literatura científica", considera.
"A IA generativa causará sérios danos à qualidade, confiabilidade e valor dos artigos científicos", prevê Bik.
Essa visão mais pessimista da inteligência artificial para a produção científica, contudo, não é unanimidade na comunidade acadêmica, que endossa também as potencialidades trazidas pelas ferramentas, como maior agilidade em diversos processos e a possibilidade de análise de grandes volumes de dados.
O ponto crucial, porém, seria reforçar o uso ético das ferramentas e reforçar as medidas de controle na academia.
"A comunidade científica chegou à conclusão que a inteligência artificial veio para ficar. Ela tem um lado positivo e um lado negativo. Cabe a nós nos adaptarmos e buscarmos a ética dentro desse sistema, o que, claro, não vai ser simples", diz Helena Nader, presidente da presidente da ABC (Academia Brasileira de Ciências).
No atual estágio de desenvolvimento das ferramentas de inteligência artificial generativa, não existe método eficaz para avaliar se elas foram ou não usadas na produção de artigos acadêmicos.
Nesse cenário, as principais revistas acadêmicas têm publicado diretrizes específicas sobre o uso de imagens geradas por essas tecnologias. A abordagem também tem sido distinta, da proibição até a permissão, desde que sinalizada, de conteúdo produzido por IA.
Os autores do artigo com o rato desproporcional creditaram a ferramenta Midjourney, uma das mais populares do mercado, pela criação das ilustrações. Essa plataforma, assim como sua concorrente DALL-E, elabora ilustrações a partir de uma descrição em texto feita pelos usuários.
A política da Frontiers permitia o uso de inteligência artificial generativa claramente identificada –o que os pesquisadores chineses de fato fizeram–, mas tinha outras exigências que não foram respeitadas, como a verificação de que o conteúdo produzido refletia com precisão os dados apresentados no manuscrito.
Outros periódicos, contudo, adotaram modelos mais restritivos. A Springer Nature decidiu banir o uso de imagens criadas por inteligência artificial generativa em todas as publicações que não sejam sobre o tema. A empresa diz que está "monitorando de perto os desenvolvimentos contínuos nesta área e revisará e atualizará essas políticas conforme apropriado".
A Science, outra gigante do setor, adotou postura semelhante. Os periódicos que integram o grupo não podem publicar ilustrações e outros conteúdos multimídia produzidos por IA, a não ser que tenham autorização explícita dos editores. "Exceções podem ser concedidas em determinadas situações, por exemplo, para imagens ou vídeos em manuscritos especificamente sobre IA ou aprendizado de máquina."
Já a PLoS (Public Library of Science) permite a incorporação, mas faz uma série de exigências, como a inclusão "do(s) nome(s) de quaisquer ferramentas utilizadas, uma descrição de como os autores usaram as ferramentas e avaliaram a validade de seus resultados". Também é obrigatório apresentar uma declaração clara de "quais aspectos do estudo, conteúdo do artigo, dados ou arquivos de apoio foram afetados ou gerados pelo uso de ferramentas de IA".
"Dizer que não vai ter uso de inteligência artificial é besteira. A questão é saber como se faz o uso ético e adequado", diz Helena Nader, presidente da ABC, que considera essencial que se discuta abertamente questões regulatórias e de garantia de integridade dos dados.
Comentários
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.