Confira o que é e dicas para detectar deepfake nas redes

"A gente compra um pote gigante achando que está cheio de doce. Quando você abre, o miolo está vazio, não tem paçoca", reclama o candidato a presidente Luiz Inácio Lula da Silva (PT) em um vídeo que viralizou no início do ano. Um observador mais atento logo vê que, embora pareça verdadeiro, o conteúdo é falso, já que o político, diferentemente da realidade, aparece com os dez dedos na mão esquerda. Mas um internauta que não se atenha tanto a detalhes poderia acreditar que Lula estivesse criticando o valor da paçoca.

Atento ou desavisado, era importante ler a legenda do post. O vídeo, criado pelo jornalista e roteirista Bruno Sartori, era um deepfake. No post, ele informava que o material poderia "passar como real" para muita gente. "Usei deepfake para inserir o rosto de Lula e transferir o timbre de voz dele para fala original: é um computador falando. Precisamos ficar alertas neste ano eleitoral, pois conteúdos com intuito de enganar podem aparecer".

Diferentemente de sua previsão, essa campanha eleitoral ainda não teve casos virais de deepfake, mas é preciso, sim, ficar alerta. "Os vídeos de deepfake são criados do zero, e todo o conteúdo é feito por meio de inteligência artificial", afirma Sartori, que ficou famoso por fazer paródias e vídeos humorísticos de políticos e celebridades. Por serem necessárias tecnologias avançadas, a técnica exige mais investimento, o que pode fazer com que não seja utilizada com tanta frequência —o shallowfake, que não exige softwares ou processos complexos, apenas edição simples, já apareceu ao menos duas vezes, como em vídeo que invertia ordem dos candidatos em pesquisa Ipec apresentada pelo Jornal Nacional.

Com inteligência artificial, é possível criar um vídeo de qualquer pessoa famosa falando o que você quiser. O rosto é inserido de maneira realística e o áudio é criado com os mesmos sotaque, timbre e velocidade da voz dela. "Todas as características da voz são copiadas e reproduzidas", diz Sartori. "O deepfake cria um contexto, uma nova história para ser contada."

Em junho, o candidato Ciro Gomes (PDT) fez um post no Twitter ironizando Bolsonaro, seu adversário, com um vídeo de deepfake. Na ocasião, o pedetista usou um trecho da série de filmes "Esqueceram de mim" em que o gorro do vilão pega fogo, referindo-se a uma afirmação do presidente sobre seu então ministro da Educação, Milton Ribeiro, preso naquele dia.

Para Sartori, os vídeos de deepfake têm potencial para enganar os menos desavisados e quem não usa tanto a internet porque, muitas vezes, vêm com viés de confirmação –o conteúdo se encaixa naquilo que determinado público quer ouvir.

Uma característica que pode alertar para a veracidade do material é a resolução pois, em baixa qualidade, fica difícil visualizar as falhas. Ficar atento a pontos como qualidade da imagem –se a nitidez do rosto é diferente da do resto da imagem, por exemplo–, cor e sombra pode dar pistas se o conteúdo é verdadeiro ou falso.

"Outro ponto de atenção seria o contexto em que vem o conteúdo. Se é uma história absurda, que possivelmente aquele personagem não estaria participando, fique atento. O absurdo vem junto da desinformação", diz.

Para Sartori, o áudio também pode indicar um deepfake. "Você sente a fala um pouco robótica. Mesmo com fluidez natural, parece que ela tem um efeito colocado em cima", complementa.

Mario Gazziro, perito forense em áudio e vídeo e professor de engenharia da informação da UFABC (Universidade Federal do ABC), também endossa que perceber os detalhes é importante para desconfiar de conteúdos nas redes sociais.

Ele explica que, na análise de áudios, é difícil afirmar que determinada voz pertence a alguém pois existem características do trato vocal que apontam similaridades entre uma voz e outra. "O que podemos utilizar é uma métrica: acima de 80% de compatibilidade, existem grandes chances de a voz pertencer a determinada pessoa. Abaixo disso, não dá para ser considerado", explica.

Nas análises vocais que produz, Gazziro examina a biometria da voz, como se fosse uma impressão digital do som gerada pela fala. Assim, é possível comparar a voz original com uma gravação.

Segundo o perito, um outro problema das notícias falsas, como as que envolvem conteúdos de deepfake, é a disseminação nas bolhas das redes sociais. "Se o vídeo atende aos pleitos daquele grupo, ele tende a ignorar se a notícia é falsa ou não", afirma.

"O problema da desinformação é que todo mundo a dissemina correndo. As pessoas pouco se importam se era verdade ou não, desde que contribua nessa luta do vale tudo, do nós contra eles."

Dicas para detectar deepfake:

• Fique atento à baixa qualidade do vídeo, já que ela pode ser proposital, para ocultar defeitos do material.

• Note diferenças de nitidez entre o rosto e o resto do vídeo, além de detalhes como sombra e iluminação.

• Verifique a fonte da informação. Se não for de um veículo tradicional, desconfie.

• Pesquise o histórico da pessoa que aparece no vídeo e cheque se o que ele fala ou faz no vídeo se encaixa no que seria esperado dela.

• Pesquise se o que a pessoa diz ou faz no conteúdo foi publicado em algum veículo de comunicação tradicional ou se agências de checagem verificaram o vídeo.