Para aqueles que temem um futuro no qual seja impossível distinguir vídeos de pessoas reais de falsificações criadas em computador, dois recentes desdobramentos que atraíram audiências de milhões de pessoas pareceram alarmantes.

No primeiro dos casos, um artista de efeitos visuais trabalhou com um imitador de Tom Cruise a fim de criar vídeos espantosamente precisos que imitam o ator. Os vídeos, criados com a ajuda de técnicas de aprendizado por máquina e conhecidos como “deepfakes”, conquistaram milhões de espectadores no TikTok, Twitter e outras redes sociais, no final de fevereiro.

Alguns dias mais tarde, o site de genealogia MyHeritage, conhecido por seu papel em determinar a identidade do assassino serial conhecido como Golden State Killer, passou a oferecer um recurso que permitia produzir animações digitais com base em fotos antigas de parentes e pessoas queridas, que geravam um loop de vídeo que permitia ver as pessoas retratadas nas fotos movendo a cabeça e até sorrindo. Mais de 26 milhões de imagens foram animadas usando o recurso, chamado Deep Nostalgia, anunciou a companhia.

Os vídeos redespertaram a atenção quanto ao potencial da mídia sintética, o que pode levar a melhoras significativas nos setores de entretenimento e publicidade. Mas a tecnologia também poderia ser usada –como de fato já foi– para despertar dúvidas sobre vídeos legítimos e para inserir imagens de pessoas reais em vídeos pornográficos.

Os criadores dos vídeos virais de Tom Cruise para o TikTok disseram que o conhecimento requerido para usar a tecnologia torna mais difícil abusar dela, e a empresa que criou o recurso de animação de fotos disse que tem sistemas de segurança em operação para impedir uso indevido. Os especialistas afirmam que os dois exemplos não são causa de extremo alarme – mas despertam questões sobre o futuro da tecnologia que é preciso levar em consideração, enquanto ela ainda está em estágio primitivo.

“Ainda que o Deep Nostalgia em si seja inócuo, é parte de um conjunto de ferramentas que pode ser muito alarmante”, disse Sam Gregory, diretor de programas da Witness, uma organização sem fins lucrativos cujo foco é o uso ético do vídeo, e especialista em inteligência artificial.

A imitação digital de Cruise não foi um trabalho fácil. Chris Ume, o artista de efeitos visuais belga que criou os vídeos, disse que eles exigiam muito conhecimento especializado e tempo considerável de trabalho.

A maior parte do que se vê nos vídeos é o corpo e a voz de Miles Fisher, imitador de Tom Cruise que já era fluente quanto aos maneirismos e sons do ator e que é muito parecido com ele mesmo sem as manipulações digitais. Apenas o rosto, da testa ao queixo, do Tom Cruise real é mostrado no vídeo.

Ume passou dois meses treinando seu modelo de computador a fim de criar as expressões faciais de Cruise, primeiro alimentando o sistema com imagens faciais de desconhecidos antes de concentrar as atenções do sistema em Cruise. Ume dedicou cerca de 24 horas de produção a cada vídeo de um minuto de duração, cuidando da sintonia fina de detalhes como o alinhamento dos olhos.

Mesmo que a tecnologia venha a melhorar, vídeos como esses requereriam extenso trabalho manual e um imitador competente, disse Ume.

“No nosso caso, somos como um pequeno estúdio de Hollywood”, ele disse. “Não é algo que possa ser feito em um computador caseiro, simplesmente apertando um botão”.

O Deep Nostalgia foi criado para o MyHeritage pela D-ID, uma companhia de desenvolvimento de inteligência artificial sediada em Tel Aviv, Israel. Gil Perry, o presidente-executivo da D-ID, disse que a companhia trabalha apenas com parceiros nos quais seja possível confiar, para evitar abusos da tecnologia, e que seu relacionamento com o MyHeritage já dura quatro anos.

​Vídeos criados usando o recurso têm selos de identificação na tela para identificar que não são reais, e não incluem som, uma decisão que segundo Perry torna mais difícil usá-los para fins ilícitos.

Ele disse que a tecnologia usada no Deep Nostalgia “é apenas a ponta do iceberg em termos do que somos capazes de fazer”.

“O potencial dessa tecnologia para fazer o bem é infinito”, ele disse.

Quando os otimistas falam sobre os possíveis pontos positivos da tecnologia, eles muitas vezes apontam para seu uso em defesa de causas meritórias, porque ela permite dar um rosto a questões abstratas e criar conexões emocionais mais profundas.

Uma ONG criou um vídeo de Javier Arturo Valdez Cárdenas, jornalista mexicano assassinado em 2017, no qual ele aparece pedindo que seus matadores sejam levados à Justiça. Os país de Joaquin Oliver, um adolescente de 17 anos assassinado no ataque a uma escola de segundo grau em Parkland, Flórida, em 2018, o ressuscitaram digitalmente para realizar um vídeo que apela por leis que regulamentem a posse de armas de fogo. A polícia do estado australiano de Victoria usou a imagem de um policial que se suicidou em 2012 para divulgar uma mensagem sobre o apoio à saúde mental dos policiais.

E “Bem-vindo à Tchetchênia”, um documentário lançado no ano passado sobre os expurgos do governo contra homossexuais na região, usou a tecnologia a fim de proteger a identidade de tchetchenos em risco.

Os efeitos também poderiam ser usados em filmes de Hollywood a fim de criar versões mais jovens ou mais velhas das imagens de atores, ou para melhorar a sincronização de falas dubladas em filmes e programas de TV falados em idiomas diferentes, alinhando os lábios dos personagens e o diálogo de cada cena de modo mais estreito. Executivos de empresas internacionais também poderiam ter seus vídeos alterados de modo a parecerem mais naturais quando falam a empregados cujos idiomas sejam diferentes.

Mas críticos temem que a tecnologia possa sofrer abuso ainda maior à medida que melhore, particularmente para colocar o rosto de uma pessoa no corpo de alguém mais.

Nina Schick, autora de “Deepfakes: The Coming Infocalypse”, um livro sobre o assunto, disse que os primeiros vídeos pornográficos produzidos com tecnologia “deepfake” exigiam horas de trabalho, e por isso celebridades eram o alvo típico. Mas com os avanços da tecnologia, será necessário menos conteúdo a fim de criar os vídeos, o que colocará em risco um número maior de mulheres e crianças.

Um recurso no app de mensagens Telegram que permite que usuários criem imagens nuas simuladas com base em uma foto subida para o sistema, já foi usado centenas de milhares de vezes, de acordo com o BuzzFeed News.

“Isso vai se tornar uma questão que afeta a todos, especialmente aqueles que não tiverem recursos para se proteger”, disse Schick.

A tecnologia também pode ter efeito desestabilizador sobre o relacionamento entre países, caso políticos afirmem que vídeos são falsos –mesmo que sejam verdadeiros– a fim de ganhar vantagens que os professores de Direito Robert Chesney e Danielle Citron já definiram como “o dividendo dos mentirosos”.

No Gabão, líderes oposicionistas afirmaram que um vídeo do presidente Ali Bongo Ondimba discursando, no Ano-Novo de 2019, era uma falsificação, realizada para encobrir os problemas de saúde que o presidente estava enfrentando. No ano passado, um candidato republicano a uma cadeira na Câmara federal dos Estados Unidos, na região de St. Louis, declarou em campanha que o vídeo que mostrava um policial matando George Floyd era uma falsificação digital.

À medida que a tecnologia avança, seu uso se expandirá, de acordo com Gregory, o especialista em inteligência artificial, mas os efeitos já são bastante pronunciados.

“As pessoas estão sempre tentando pensar sobre o ‘deepfake’ perfeito, quando perfeição não é necessária, seja para usos maléficos, seja para usos benéficos”, ele disse.

Ao introduzir o recurso Deep Nostalgia, o MyHeritage tratou da questão do consentimento, solicitando que os usuários “por favor usem o recurso para manipular fotos históricas de sua propriedade, e não para manipular fotos de pessoas vivas sem o consentimento destas”. Ume, que criou os vídeos “deepfake” de Cruise, disse que não fez contato com o ator ou seus representantes.

É claro que uma pessoa morta não pode consentir que sua imagem seja usada em um vídeo. E isso importa se pessoas mortas – especialmente celebridades – puderem ser ressuscitadas digitalmente, como aconteceu como artista Bob Ross, em um anúncio dos refrigerantes Mountain Dew, ou com Robert Kardashian, que no ano passado foi ressuscitado em um vídeo como presente de Kanye West à sua mulher, Kim Kardashian West.

Henry Ajder, que pesquisa sobre a tecnologia “deepfake”, imagina um futuro em que a voz das pessoas possa ser usada com ajuda de recursos como a assistente digital Alexa, da Amazon, o que permitiria que uma pessoa continuasse conectada àqueles que ama depois da morte. Ou, como propõe um episódio da série “Black Mirror”, aspectos inteiros da personalidade de alguém poderiam ser simulados depois de sua morte, tomando por base a voz da pessoa na mídia social.

Mas isso gera uma questão complicada, ele disse: “Em que casos necessitamos do consentimento de uma pessoa morta para ressuscitá-la?”

“São questões que causam desconforto, parecem perturbadoras ou inapropriadas, mas é difícil determinar se isso acontece simplesmente porque são novas ou por intuirmos algo mais profundo e problemático”, disse Ajder.

_{Traduzido originalmente do inglês por Paulo Migliacci}