A afinidade de Taylor Swift pela fabricante de panelas Le Creuset é real: sua coleção de utensílios de cozinha foi apresentada em uma conta do Tumblr dedicada à decoração da casa da estrela pop, em uma análise detalhada de sua cozinha publicada pela revista Variety e em um documentário da Netflix que foi destacado na página do Facebook do Le Creuset.
O que não é real: o endosso de Taylor Swift aos produtos da empresa, que apareceram nas últimas semanas em anúncios no Facebook e em outros lugares, com sua imagem e voz.
Os anúncios estão entre os muitos golpes que usam supostos vídeos e áudios de celebridades e se tornam muito mais convincentes com a inteligência artificial. Em uma única semana de outubro, o ator Tom Hanks, a jornalista Gayle King e o youtuber MrBeast disseram que versões de IA deles mesmos foram usadas, sem permissão, para promoções enganosas de planos dentários, ofertas de sorteios de iPhones e outros anúncios.
No caso de Taylor Swift, especialistas disseram que a tecnologia de inteligência artificial ajudou a criar uma versão sintética da voz da cantora, que foi montada com imagens dela ao lado de trechos mostrando panelas holandesas Le Creuset.
Em vários anúncios, a voz clonada da estrela da música se dirigia aos "Swifties" —como são conhecidos os seus fãs— e dizia que estava "entusiasmada" em distribuir conjuntos de utensílios de cozinha gratuitos. Tudo o que as pessoas tinham que fazer era clicar em um botão e responder algumas perguntas antes do final do dia.
A Le Creuset afirmou que não estava envolvida com a cantora em nenhum sorteio para consumidores. A empresa pediu aos compradores que verifiquem suas contas oficiais online antes de clicar em anúncios suspeitos. Representantes de Taylor Swift, que foi eleita a personalidade do ano pela revista Time em 2023, não responderam aos pedidos de comentário.
Pessoas famosas têm emprestado sua imagem a anunciantes desde que a publicidade existe. Às vezes, isso acontece contra a vontade delas. Há mais de três décadas, Tom Waits processou a Frito-Lay —e ganhou quase US$ 2,5 milhões— depois que a empresa de salgadinhos imitou o cantor em um anúncio de rádio sem sua permissão.
A campanha de golpes que usou a Le Creuset também apresentou versões fabricadas das apresentadoras Martha Stewart e Oprah Winfrey, que em 2022 postou um vídeo criticando a quantidade de anúncios falsos nas redes sociais, emails e sites que afirmavam falsamente que ela endossava um produto que ajudaria a emagrecer.
No último ano, avanços significativos na inteligência artificial tornaram muito mais fácil produzir "deepfakes", uma réplica digital não autorizada de uma pessoa real. As paródias de áudio têm sido especialmente fáceis de produzir e difíceis de identificar, disse Siwei Lyu, professor de ciência da computação que dirige o Laboratório Forense de Mídia da Universidade de Buffalo, em Nova York.
O anúncio falso que envolveu a Le Creuset e Taylor Swift provavelmente foi criada usando um serviço de texto para fala, disse Lyu. Essas ferramentas geralmente traduzem um roteiro em uma voz gerada por IA, que pode então ser incorporada a imagens de vídeo existentes usando programas de sincronização labial.
"Essas ferramentas estão se tornando muito acessíveis hoje em dia", afirmou Lyu, que acrescentou que era possível fazer um "vídeo de qualidade decente" em menos de 45 minutos. "Está ficando muito fácil, e é por isso que estamos vendo mais."
Dezenas de anúncios separados, mas semelhantes, de golpes do Le Creuset com Swift —muitos deles postados neste mês— estavam visíveis até o final da semana passada na Biblioteca de Anúncios Públicos do Meta, a empresa que é proprietária do Facebook e do Instagram. A campanha também foi veiculada no TikTok.
Os anúncios direcionavam os espectadores para sites que imitavam veículos legítimos, como o canal de televisão Food Network, que exibiam cobertura de notícias falsas sobre a oferta do Le Creuset ao lado de depoimentos de clientes fabricados.
Os participantes eram solicitados a pagar uma "pequena taxa de envio de US$ 9,96" pelos utensílios de cozinha. Aqueles que cumpriram enfrentaram cobranças mensais ocultas sem nunca receber os utensílios prometidos.
Alguns dos anúncios falsos do Le Creuset, como um que imitava a designer de interiores Joanna Gaines, tinham uma aparência enganosa de legitimidade nas redes sociais, graças a etiquetas que os identificavam como postagens patrocinadas ou originárias de contas verificadas.
Em abril, o Better Business Bureau alertou os consumidores de que golpes falsos de celebridades feitos com IA eram "mais convincentes do que nunca". As vítimas muitas vezes ficavam com cobranças mais altas do que o esperado e qualquer resposta sobre o produto que haviam encomendado. Bancos também relataram tentativas de golpistas de usar "deepfakes" de voz, ou réplicas sintéticas das vozes de pessoas reais, para cometer fraudes financeiras.
No último ano, várias pessoas conhecidas se distanciaram publicamente de anúncios com sua imagem ou voz manipuladas por IA.
Neste verão, anúncios falsos se espalharam online, que supostamente mostravam o cantor country Luke Combs promovendo gomas de perda de peso recomendadas a ele pela também cantora country Lainey Wilson.
A cantora postou um vídeo no Instagram denunciando os anúncios, dizendo que "as pessoas farão qualquer coisa para ganhar dinheiro, mesmo que sejam mentiras". O empresário de Combs, Chris Kappy, também divulgou no Instagram que não havia envolvimento do cantor na campanha das gomas e acusando empresas estrangeiras de usar inteligência artificial para replicar a imagem de seu cliente.
"Para outros empresários por aí, a IA é uma coisa assustadora, e eles estão usando isso contra nós", afirmou o empresário.
Empresas dizem combater golpistas
Um porta-voz do TikTok disse que a política de anúncios do aplicativo exige que os anunciantes obtenham consentimento para "qualquer mídia sintética que contenha uma figura pública", acrescentando que os padrões da comunidade do TikTok exigem que os criadores divulguem "mídias sintéticas ou manipuladas que mostrem cenas realistas".
A Meta comunicou que tomou medidas contra os anúncios que violaram suas políticas e que proíbe conteúdos que usam figuras públicas de maneira enganosa para tentar enganar os usuários e obter dinheiro. A empresa disse que tomou medidas legais contra alguns dos golpistas, mas acrescentou que os anúncios maliciosos muitas vezes conseguem escapar dos sistemas de revisão da Meta ao ocultar seu conteúdo.
Sem leis federais para lidar com golpes de IA, os legisladores propuseram legislação que visa limitar seu impacto. Dois projetos de lei apresentados no Congresso dos Estados Unidos no ano passado. Eles exigiriam salvaguardas como rótulos de conteúdo ou permissão para usar a voz ou imagem de alguém.
Comentários
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.