Inteligência artificial aprende a escrever fake news para combater fake news

Universidade de Washington quer brecar notícias falsas criadas em massa antes que se tornem realidade

Raphael Hernandes
São Paulo

“Todos os produtos de carne estarão proibidos nos supermercados britânicos como parte de um banimento do país devido ao bem-estar animal, Brexit, questões sociais e dados relacionados à saúde, diz o jornal The Telegraph. Isso inclui tudo, de linguiças a hambúrgueres e churros.”

O parágrafo acima, totalmente falso, foi escrito por um sistema de inteligência artificial. Ele faz parte de um texto completo, com pé e cabeça, criado em inglês. São nove parágrafos que simulam a escrita de um correspondente do jornal americano New York Times. 

A ferramenta, batizada Grover, foi construída por pesquisadores da Universidade de Washington com o propósito de combater fake news geradas em massa por meio de inteligência artificial. Ela está disponível online gratuitamente tanto para fabricar quanto para detectar textos falsos, um a um —abaixo, leia mais sobre como fazer um teste.

Pode parecer contrassenso criar um robô que fabrica fake news em massa se é justamente isso que se pretende combater. Rowan Zellers, um dos pesquisadores envolvidos no projeto com outros seis colegas, explica que esse é o primeiro passo para criar uma proteção.

“É um princípio da cibersegurança. Quando a gente pensa num ataque [como campanhas massivas de propaganda], primeiro temos que entender como ele funcionaria e estudar o inimigo. Fazer uma análise da ameaça”, diz o estudante de pós-graduação em ciência da computação. Em outras palavras, é como uma vacina contendo o vírus que precisa combater.

Nesse preocupante cenário de propagação de fake news, porém, Zellers dá uma boa notícia. Segundo ele, redes massivas com este tipo de conteúdo gerado automaticamente não são, ainda, uma ameaça. A ideia é estar à frente do que imaginam ser um futuro possível das fake news.

Como a máquina funciona?

No teste online para gerar reportagens falsas, é necessário que sejam pré-definidas manualmente algumas informações, como título (sim, você inventa qualquer um) em inglês. É possível optar por ditar, por exemplo, até o repórter e veículo de publicação (o que modifica o estilo do texto de um mesmo título proposto).

A Folha testou a criação de vários títulos irreais. Alguns resultados geraram materiais que, apesar de mentirosos, criavam uma argumentação lógica, usando fatos plausíveis para os dias atuais (um citava a crise ambiental no governo Bolsonaro ao explicar como a Amazônia seria vendida para a China). Outros tinham palavras um pouco fora de lugar, mas que um olhar menos atento ou de alguém pouco familiarizado com o assunto deixaria facilmente passar.

O fato de ter transformado o Grover em um sistema público, que permitiria o uso por mal intencionados em gerar conteúdo falso, não preocupa Zellers. 

“As pessoas temem que as notícias falsas geradas automaticamente possam se tornar dominantes na internet, mas a verdade é que, quanto mais conteúdo desse tipo, mais fácil é para o robô identificá-los como falso”, diz o cientista. 

No “treinamento” da inteligência artificial, o grupo de pesquisadores alimentou o sistema com milhões de textos verdadeiros de mais de 5.000 fontes de notícias (todas em inglês) e com textos falsos produzidos pelo próprio Grover. Com mais conteúdo para analisar, eles poderiam melhorar a precisão. 

Foto fechada de mãos de três pessoas usando o celular
Segundo pesquisadores, fake news produzidas em massa ainda não são realidade, mas tendência é que inteligência artificial seja usada para construir conteúdo falso - Ludovic Marin/AFP

A chave para a detecção do conteúdo falso, perceberam, não está na verificação da veracidade dos fatos —como normalmente fazem jornalistas para rebater fake news criadas por seres humanos—, mas na forma como os textos são construídos. 

Zellers explica que um robô, ao escrever um texto, posiciona palavra por palavra de acordo com a probabilidade de um termo específico seguir outro naquele contexto. Essa chance é calculada a partir do conteúdo que a ferramenta avaliou no processo de treinamento. 

É como se a ferramenta entendesse que a palavra “presidente” seria mais provavelmente seguida por termos como “Bolsonaro”, “Trump” ou “Lula” e menos provavelmente por “estetoscópio” ou “andorinha”. 

Em humanos, explica Zellers, sequências consideradas improváveis e novas são bem mais comuns. 

O Grover, ao tentar identificar textos falsos gerados por ele próprio, acertou 92% das vezes nos testes iniciais. Posteriormente, com mais treinamento, chegou a 98%. Contra as fake news criadas pela OpenAI, a taxa foi de 96% —a empresa sem fins lucrativos disse, em fevereiro, ter criado um robô tão bom que seria perigoso torná-lo público. 

Segundo os cientistas, com mais dinheiro —o Grover custou U$ 25 mil, cerca de R$ 100 mil— seria possível alcançar resultados ainda melhores e mais refinados.


Leia um exemplo de texto gerado pelo Grover (traduzido pela reportagem)

Inglaterra bane carne do supermercado

Benjamin Mueller, The New York Times - 6 de junho de 2019

Todos os produtos de carne estarão proibidos nos supermercados britânicos como parte de um banimento do país devido ao bem-estar animal, Brexit, questões sociais e dados relacionados à saúde, diz o jornal The Telegraph. Isso inclui tudo de linguiças a hambúrgueres e churros.

De acordo com o governo, foram registradas “cerca de 5,8 milhões de doenças” no ano passado, inclusive quase 160 mil crianças com distúrbios alimentares.

O banimento, que começou na quinta, vem da decisão de não permitir que o país continue a usar a avaliação do British Poultry Council [Conselho Britânico de Galináceas, em tradução livre] sobre o bem-estar animal, anteriormente usado pela Agência de Normas Alimentares.

“A regra da União Europeia que afeta o uso da avaliação do British Poultry Council  sobre o bem-estar animal na cadeia alimentar traz requisitos nutricionais rígidos para produtos de animais”, disse David Sturgess, porta-voz da Agência de Normas Alimentares. “Essas regras existem para proteger a saúde da população.”

Isso significa que somente “carnes britânicas ou irlandesas certificadas, inspecionadas e etiquetadas” podem entrar no país, independente de o produto ter sido importado ou produzido no país, ser doméstico ou da idade do animal.

O British Poultry Council , que é presidido pelo secretário de Meio Ambiente, Comida e Assuntos Rurais do Reino Unido, Michael Gove, foi substituído por uma nova organização, o Conselho para o Desenvolvimento da Agricultura e Horticultura, com a missão de estar mais envolvido no teste de bem-estar animal e na relação entre consumo de comida e fatores ambientais, especialmente agrotóxicos, de acordo com o Telegraph.

“São tempos difíceis para a agricultura britânica”, disse Sturgess. “É essencial que tenhamos confiança na comida que colocamos em nossos corpos.”

“Não temos problemas com a prática de compra e venda de carne no futuro”, adicionou. “Os produtores estão comprometidos em adicionar padrões de transparência para na cadeia de produção no futuro”.

Aproximadamente 150 milhões de libras de carne ilegal foram produzidas no Reino Unido em 2016, metade foi consumida.

Tópicos relacionados

Comentários

Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.