A eleição da Índia em 2024 não é apenas a maior do mundo; é também a primeira em que a inteligência artificial está sendo usada de forma generalizada. Ao contrário do que se temia, porém, não foram as deepfakes enlameando candidatos que predominaram.
O grande salto foi a IA usada para fascinar o eleitorado. São vídeos em que "os candidatos" respondem diretamente aos eleitores, hologramas que participam de comícios, "políticos ressuscitados" para substituir seus filhos menos carismáticos e ligações personalizadas. Além disso, as campanhas se valeram dos grandes modelos de linguagem para analisar quantidades colossais de dados e criar mensagens cada vez mais customizadas para grupos de eleitores.
Bhairav Shankar, presidente da Avantari Technologies, foi um dos pioneiros em ferramentas digitais em eleições. Em 2012, no pleito estadual em Gujarat, a empresa desenvolveu hologramas do então governador Narendra Modi —que depois viria a se tornar o primeiro líder mundial a apostar no uso das redes sociais e dados dos eleitores em campanhas.
Agora, o carro-chefe de Shankar são vídeos em que os candidatos respondem a perguntas dos eleitores. Os vídeos aparecem no celular quando o eleitor aponta a câmera e escaneia o símbolo do partido pintado em muros, paredes e pôsteres. O eleitor pode fazer perguntas ao candidato de duas maneiras: digitando questões no celular sobre o programa do candidato ou escolhendo alguma das dez questões que aparecem na tela.
A IA generativa então gera a resposta e a envia para a tradução automática para o idioma local. Depois disso, um deepfake do candidato responde no vídeo, como um avatar. A tecnologia foi usada na eleição para o governo estadual em 2022, e, neste ano, em campanha de um partido em estado no sul da Índia.
Bhairav já fez campanhas na Austrália, na Malásia e na Lituânia. "Políticos sempre querem algo bem novo para despertar a curiosidade do eleitor", diz. "O foco é criar tamaasha [palavra em hindi que significa espetáculo, entretenimento] para envolver o eleitor médio." Os comícios com hologramas têm o mesmo efeito. "Levamos o candidato [virtual] e artistas para shows em pequenos vilarejos."
O holograma sai por US$ 1.500 (R$ 7.800) por comício. Os vídeos escaneáveis interativos são mais caros –incluindo os pôsteres e a IA para interatividade saem por US$ 700 mil (R$ 3,7 milhões).
Desde outubro do ano passado, Divyendra Singh Jadoun, 31, que trabalhava mais com deepfakes para o cinema, começou a receber muitos pedidos de projetos eleitorais. Seu principal produto são as mensagens de vídeo personalizadas. O candidato grava um vídeo com uma mensagem. Com IA generativa, Jadoun dubla o candidato em vários idiomas falados na Índia e faz com que ele chame o eleitor pelo nome.
As ligações também servem para empolgar a militância dos partidos. No sábado (1º), último dia de votação da eleição que aconteceu em sete fases, trabalhadores e voluntários do BJP, o partido de Modi, receberam uma mensagem personalizada de presidentes estaduais da legenda, chamando-os pelo nome, no idioma local, aumentando o moral e passando instruções de campanha.
Jadoun também oferece ligações em que o candidato pergunta nome, idade, número de filhos, estado civil e as principais preocupações do eleitor. Com essas informações, usando IA, a empresa transcreve as centenas de milhares de mensagens e cria um banco de dados –que, posteriormente, serve para ajustar o tom e os temas da campanha e a segmentar a mensagem para determinados grupos de eleitores.
As chamadas com vozes clonadas de candidatos levantam questões éticas. Ainda que não se trate de desinformação, o eleitor ou trabalhador pode achar que está realmente falando com o candidato ou político, já que não há um aviso dizendo se tratar de um "agente gerado por IA" ao final da chamada.
Nos Estados Unidos, autoridades eleitorais proibiram a prática. Na Índia, não há proibição específica nem regra que exija alertas sobre o uso de IA.
"Embora as mensagens tenham o consentimento do político, ainda há um potencial de má-fé, porque, para funcionar, o eleitor tem que acreditar que a mensagem é realmente personalizada", diz Prateek Waghre, diretor-executivo da Internet Freedom Foundation.
Para fazer o vídeo personalizado, Jadoun cobra o equivalente a R$ 25 mil. Depois disso, são 12 rúpias (R$ 0,75) por cada versão enviada por WhatsApp. Muitas vezem usam-se disparos em massa pela plataforma; isso não é permitido pela empresa, mas não é ilegal na Índia —no Brasil, uma resolução do Tribunal Superior Eleitoral vedou a prática. A regulação indiana exige que as plataformas removam, em até 24 horas após a reclamação, conteúdo deepfake.
Todos os marqueteiros digitais ouvidos pela Folha afirmam não aceitar pedidos de deepfakes para atacar candidatos. Ainda assim, há uma infinidade de vídeos e áudios desse tipo circulando na internet. Na maioria dos casos, são os chamados cheapfakes: produções toscas, alteradas com tecnologia simples e usadas mais em memes do que para enganar o eleitor.
Os cheapfakes de sátira, em que a baixíssima qualidade faz parte da graça, têm viralizado e foram abraçados pelos candidatos. O próprio Narendra Modi compartilhou no X um cheapfake em que ele aparece dançando.
Outro recurso popular é ressuscitar políticos digitalmente. Senthil Nayagam, diretor do Muonium Studios reviveu M. Karunanidhi, ex-governador de Tamil Nadu. Muito popular, o político que morreu em 2018 reapareceu com ajuda da IA para apoiar um deputado, TR Baalu, que estava lançando um livro em janeiro deste ano –e aproveitou para fazer campanha para seu filho, candidato ao governo.
Vários filhos de políticos famosos indianos usaram os falecidos pais em suas campanhas deste ano. "É muito útil quando o filho de um político carismático se candidata. Como ele raramente tem os mesmos dons de oratória, é melhor ressuscitar o pai em vídeos para a campanha", diz Nayagam.
Em 2019, os partidos gastaram cerca de 6 bilhões de rúpias indianas (R$ 420 milhões) na campanha digital, que inclui WhatsApp, SMS, sites e ligações. Essa é uma estimativa de Diggaj Mogra, diretor da Jarvis Technology, baseada em um levantamento com empresas do segmento, consultorias e campanhas. Um dos artífices da estrondosa vitória eleitoral de Modi em 2014, ele estima os gastos devem se manter na mesma faixa neste ano. Segundo ele, dessa vez 20% desse total irá para IA.
"É nos bastidores, na análise dos dados dos eleitores, que a IA realmente faz diferença", afirma Mogra, que ainda trabalha com o BJP. Ele diz que todos os partidos coletam dados sobre seus eleitores, usando aplicativos de pesquisa para seus funcionários irem de porta em porta. Eles ficam, então, com o microfone do celular ligado e depois usam IA para transcrever a informação, transformar em dados e analisá-los. As legendas no governo, por sua vez, obtêm informações sobre os beneficiários de programas sociais.
Além disso, o mercado paralelo de venda de dados é gigante na Índia. Só no ano passado, o país aprovou uma lei de privacidade de dados, que ainda não está implementada. Segundo Mogra, há um enorme mercado clandestino de dados extraídos de contas de celular (inclusive nível de renda), compras no varejo, registro eleitoral (pode-se inferir casta e religião) e até de botijões de gás distribuídos.
Para completar, há softwares que raspam dados de usuários de redes sociais e rastreiam os sites visitados, o que permite traçar perfis ainda mais detalhados dos eleitores. Tudo isso é usado para produzir mensagens adequadas a cada perfil de eleitor —e ajustar o tom da campanha, de acordo com os temas mais discutidos em certas regiões.
Mogra desenvolveu o Saral, aplicativo que integra parte dos 30 milhões de trabalhadores e militantes do partido de Modi, recolhendo dados deles e de eleitores. Ele estima que a IA será essencial para reduzir os custos das campanhas eleitorais. "No futuro, não vamos mais precisar de call centers, será tudo IA", diz.
Mas ainda não está claro se os instrumentos que usam a tecnologia são realmente eficientes.
"Ainda não há estudos suficientes para sabermos hoje, com o nível de polarização que vivemos, se a IA consegue ajudar a mudar o comportamento dos eleitores", diz Waghre, da Internet Freedom Foundation.
Comentários
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.