O Facebook e o Twitter desativaram na sexta-feira (20) uma rede global de centenas de contas falsas que enviavam mensagens pró-Donald Trump e escondiam seus rastros usando fotos ilegítimas geradas com a ajuda da inteligência artificial.
O uso de inteligência artificial para enganar empresas de mídia social, ludibriar usuários desavisados e essencialmente criar pessoas que não existem é uma nova e preocupante ação, de acordo com pesquisadores sobre desinformação, que alertaram que essas táticas poderiam ter implicações para a eleição presidencial dos EUA em 2020.
A retirada dos gigantes da tecnologia teve como alvo a BL, uma empresa de mídia sediada nos EUA que o Facebook ligou ao Epoch Media Group.
A organização criticou o governo chinês e tem vínculos com o Falun Gong, um movimento espiritual do país asiático.
Ela também apoia com entusiasmo a reeleição do presidente Trump. Os pesquisadores com quem o Facebook compartilhou dados sobre a BL e o Epoch Media Group descreveram a operação em um relatório como "uma fábrica de amplificação artificial em larga escala".
O Facebook disse, especificamente, que a BL estava vinculada a centenas de contas falsas espalhadas por seus serviços, que publicaram mensagens políticas com alta frequência, muitas vezes na tentativa de direcionar o tráfego de volta para seus sites.
As empresas de mídia social sinalizaram que não agiram por causa do conteúdo dessas postagens, mas pelas táticas adotadas pelo envolvidos, como o uso de imagens geradas por inteligência artificial, violando regras que proíbem spam, adulteração e comportamento ilegítimo coordenado.
Especialistas em desinformação do Graphika e do Laboratório de Pesquisas Forenses Digitais do Conselho Atlântico —que tiveram acesso aos dados do Facebook antes da retirada anunciada na sexta-feira— disseram que essa foi a primeira vez que viram "imagens geradas por inteligência artificial implantadas em escala para gerar uma coleção em massa de fotos de perfil falsas aplicadas em uma campanha de mídia social".
"A BL agora foi banida do Facebook", disse Nathaniel Gleicher, chefe de política de segurança da empresa. "Continuamos a investigar todas as redes vinculadas e tomaremos as medidas necessárias se constatarmos que elas estão envolvidas em comportamento fraudulento."
No Facebook, a rede desativada abrangeu mais de 600 contas, com dezenas de páginas e grupos que compraram US$ 9 milhões em anúncios.
Aproximadamente 55 milhões de usuários no Facebook seguiram pelo menos uma das páginas vinculadas à operação, embora a empresa não tenha especificado quantas dessas pessoas estavam baseadas nos Estados Unidos.
O Twitter, por sua vez, confirmou que suspendeu 700 contas vinculadas à mesma rede por violar "regras sobre manipulação de plataformas —especificamente contas falsas e spam".
O Google não respondeu a uma solicitação de comentário. As remoções anunciadas na sexta-feira ilustram a tarefa cada vez mais complicada e em rápida evolução que os gigantes das mídias sociais enfrentam para combater mentiras virais, contas falsas e outros conteúdos problemáticos na internet.
Agora, agentes mais perversos buscam manipular conversas on-line usando técnicas novas e sofisticadas, apenas quatro anos depois que agentes russos atacaram o Facebook, Google e Twitter para minar a corrida presidencial de 2016.
Para esse fim, o Facebook e o Twitter anunciaram uma série de ações adicionais de fiscalização na sexta-feira, visando comportamentos ilegítimos e coordenados originários de países como Geórgia e Arábia Saudita.
"Estamos fazendo progressos para erradicar essa violação", disse Gleicher, do Facebook. "Mas, como dissemos antes, é um desafio contínuo."
Meios de comunicação e pesquisadores alertaram sobre a BL há meses, apontando para suas táticas suspeitas e a possibilidade de a empresa ter criado contas falsas para amplificar mensagens pró-Trump.
O site de verificação online Snopes, em especial, vinculou a organização ao Epoch Media Group, apoiador de Trump, embora autoridades tivessem negado à época.
O Facebook confirmou a conexão na sexta-feira. Páginas vinculadas à BL publicaram uma grande variedade de conteúdo, disseram especialistas, incluindo clickbait (também conhecido em português como caça-clique) sobre animais e posts politicamente agressivos sobre o governo chinês.
Mas as páginas em inglês associadas à organização "focaram fortemente a cobertura positiva" de Trump, enquanto atacaram seus críticos, bem como os pesquisadores do Graphika e do DFR Lab.
Contas falsas executaram muitas das páginas e iniciaram muitos engajamentos com as postagens, fotos e outros conteúdos.
Algumas dessas contas falsas contaram com ferramentas e tecnologia de inteligência artificial para criar fotos de pessoas que não existem —fotos falsas que, apesar de críveis, ainda continham peculiaridades que ajudaram o Facebook e seus pesquisadores a identificá-las.
Outras roubaram descaradamente fotos de usuários reais, disseram os pesquisadores. E as contas falsas podem ter contado com a tecnologia disponível publicamente para publicar suas postagens, tuítes e outros conteúdos em lotes, ampliando seu alcance.
Antes de impor a proibição na sexta-feira, o Facebook começou a tomar medidas contra a publicidade da rede: durante o verão, por exemplo, removeu um anúncio que incluía um vídeo de Trump censurando fake news e pedindo aos usuários que enviassem o acrônimo "MAGA" (em inglês Make America Great Again) para um número listado para receber "notícias reais GRATUITAS".
Mas limitar a publicidade do grupo não foi suficiente para impedir a circulação de seu conteúdo nas mídias sociais.
Na página "Sobre Nós", a BL —abreviação de "The Beauty of Life" (a beleza da vida, em inglês)— se apresentava aos usuários do Facebook e dizia que a missão do grupo era "mostrar ao mundo os aspectos mais bonitos da vida".
O site também se apresentava como um baluarte de confiança em um momento de suspeita sobre as informações e como elas são consumidas.
"Informações imprecisas e pervertidas podem ser facilmente canalizadas para pessoas suscetíveis ou desinformadas", dizia sua página agora desativada, "criando um ciclo vicioso de desinformação".
Comentários
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.