Um vídeo poderia mostrar um jornalista na rua perguntando ao presidente do Chile, Gabriel Boric, sobre os personagens políticos que mais o influenciaram e este, sem dúvida, responderia: "Mao e a revolução chinesa. Ponto".

Outro vídeo poderia mostrar o presidente do México, Andrés Manuel López Obrador, em sua conferência matinal diária, anunciando que, devido ao êxito da recuperação do controle governamental do petróleo e da luz, os bancos estrangeiros serão expropriados.

E outra poderia mostrar Joe Biden sentado à sua mesa na Sala Oval da Casa Branca anunciando a criminalização da migração latino-americana como parte de sua plataforma de campanha eleitoral.

Nenhum desses vídeos existe, mas, se existissem e tivessem sido reproduzidos nos reels e stories que viralizam nas redes sociais, não teríamos desconfiado de sua existência. Por que duvidaríamos deles? Porque se existissem, provavelmente seriam deepfakes, ou seja, vídeos criados a partir de diferentes ferramentas tecnológicas de inteligência artificial que podem fazer qualquer um dizer qualquer coisa.

Essas ferramentas tecnológicas, que nos permitem criar vídeos inovadores para educação ou publicidade, também podem criar instabilidade política e aumentar o clima de polarização em nossas sociedades atuais. A complexidade dos deepfakes é tal que os dois casos mais representativos são contraditórios.

Durante todo o 2018, o presidente do Gabão, Ali Bongo, não apareceu em público. Os rumores de que estava padecendo de uma doença grave, ou mesmo que tinha morrido, estavam aumentando. Para detê-los, no final do ano o presidente apareceu em um vídeo no qual desejou um "feliz ano novo" aos gaboneses. O vídeo era real, mas seus oponentes assumiram que era falso e tentaram um golpe de Estado.

Neste ano, a televisão estatal da Venezuela difundiu um vídeo no qual um condutor de uma suposta agência de notícias, House of News, relatou o bom estado de saúde da economia venezuelana. Mais tarde, mostrou-se que os vídeos eram deepfakes, ou seja, clipes criados pelo governo venezuelano e distribuídos com a intenção de viralizar a "boa notícia".

Apesar de suas diferenças, ambos os casos nos mostram que os deepfakes abrem um novo campo de problemas sociais, porque nos levam a questionar o critério de verdade da nossa sociedade atual: a imagem.

Enquanto uma notícia falsa pode ser reconhecida, por exemplo, por sua descuidada redação ou pela falta de referências confiáveis, uma deepfake se constrói com base em elementos visuais que lhe outorgam a verossimilhança necessária para nos fazer acreditar que o que estamos vendo é real. Aspectos tão familiares como o escritório presidencial ou uma conferência matinal são o veículo adequado para que uma deepfake imponha uma mentira, pois a imagem deixa dúvida quanto ao conteúdo da mensagem.

A partir da linguagem audiovisual, a deepfake busca posicionar na esfera midiática um tema que seja benéfico ou prejudicial para determinado indivíduo ou grupo. Ao esvaziar a própria imagem de sua veracidade, produz-se uma infinidade de impactos que podem gerar divisões e preconceitos sociais e aumentar a polarização.

Ao mesmo tempo, a manipulação digital permite que ditos e fatos reais sejam negados por seus autores ou por qualquer outra pessoa, seja porque o autor joga a carta da manipulação, alegando que o fato foi criado para prejudicá-lo, seja porque muda sua posição frente a um fato, inicialmente aceitando sua autoria e, um tempo depois, argumenta que era eepfake.

Portanto, as deepfakes envolvem a comunicação digital em uma dúvida midiática que situa o público no pior cenário: qualquer vídeo, imagem, áudio deve ser questionado. O regime de verdade legitimado pela imagem significaria o fim dos ditos e fatos para impor a dúvida midiática.

Até onde as deepfakes podem chegar? Teremos consciência dos limites éticos para impedir sua difusão? Poderemos limitar os efeitos perversos que eles podem implicar? Ou elas são a crônica de uma batalha perdida?

No século 17, o filósofo francês René Descartes, buscando um conhecimento absolutamente certo, imaginou que um gênio maligno o fazia duvidar de todas as suas experiências. No século 21, o gênio maligno são as deepfakes, e estão instaurando um regime de dúvida mediática que nos levará a deixar de nos preocupar com a verdade, porque tudo pode ser falso.