Uma rede de contas fraudulentas no Facebook, controlada pelas forças armadas de Mianmar, difunde retórica virulenta contra a minoria muçulmana rohingya. Campanhas virais de desinformação são propagadas no Brasil, via WhatsApp, onde empresas de marketing adquirem bancos de dados contendo números de telefone de usuários para espalhar mensagens de direita. Campanhas nascidas nos Estados Unidos espalham mentiras partidárias entre os usuários americanos.

O público sabe de cada um desses incidentes por conta das reportagens de organizações noticiosas. A desinformação espalhada pela mídia social está se tornando uma área de cobertura constante nas redações, e jornalistas cada vez mais se veem trabalhando como moderadores não remunerados quanto ao conteúdo dessas plataformas.

E não só repórteres. Pesquisadores acadêmicos e pessoas que assumiram por conta própria o papel de vigilantes vasculham as desinformações das plataformas de mídia social, e suas descobertas é que causam —ou às vezes não conseguem causar— a remoção da propaganda.

É a mais recente versão de uma modalidade de ação jornalística que começou pela simples comparação e contraste de decisões questionáveis dos moderadores de mídia social --talvez a censura a um artigo noticioso legítimo, ou um caso de propaganda terrorista que foi mantida online. Com o tempo, o que estava em jogo se tornou muito mais grave. No passado, a grande controvérsia quanto à censura do Facebook era a remoção de fotos que mostrassem mamilos femininos. Isso parece um passado idílico que jamais retornará.

Plataformas de internet sempre cometerão alguns erros, e nem seria justo esperar outra coisa. E a tarefa que o Facebook, YouTube, Twitter, Instagram e outros têm de realizar é certamente hercúlea. Ninguém é capaz de filtrar tudo, no jorro de informações produzidas por usuários. Mesmo que uma plataforma tome a decisão certa 99% das vezes, o 1% restante ainda abarcará milhões e milhões de posts. As plataformas certamente merecem perdão, em alguma medida, por causa disso.

No entanto, fica cada vez mais claro que, neste estágio da evolução da internet, a moderação de conteúdo não pode mais ser reduzida a posts individuais, vistos isoladamente e fora do contexto. O problema é sistêmico, e atualmente se manifesta em forma de campanhas coordenadas, vindas de dentro e de fora do país. Embora o Facebook e o Twitter tenham realizado avanços quanto a combater proativamente algumas campanhas de influência, um velho e fatigado padrão está ressurgindo: jornalistas e pesquisadores encontram um problema, a plataforma reage, e o problema todo recomeça. O carrossel continua a girar.

Semana passada, uma pergunta encaminhada pelo The New York Times levou o Facebook a remover uma rede de contas ligadas às forças armadas de Mianmar. Ainda que o Facebook já estivesse ciente do problema em linhas gerais, o pedido de comentário encaminhado pelo jornal identificava casos específicos de "páginas de entretenimento, beleza e informação aparentemente independentes" que estavam vinculadas a uma operação militar para semear sentimentos hostis aos rohingya na internet.

Uma semana antes, o The New York Times identificou diversas páginas suspeitas que difundiam desinformações sobre Christine Blasey Ford, a mulher que acusou Brett Kavanaugh de agressão. Depois que o jornal mostrou algumas das páginas ao Facebook, a empresa disse que já estava estudando o assunto. O Facebook removeu as páginas identificadas pelo jornal, mas páginas semelhantes que ainda não haviam sido apontadas para a empresa continuaram online.

Não é só o The New York Times, e não é só o Facebook. Vezes sem conta, o ato de reportar uma história se vê reduzido a uma forma de moderação de conteúdo terceirizada.

"Todos nós conhecemos aquela sensação", disse Charlie Wazel, repórter do BuzzFeed que já escreveu sobre desinformação viral no Twitter e exploração de conteúdo infantil no YouTube. "Você identifica uma violação flagrante das normas de uso da empresa, e pede que ela comente. E quando está lá atualizando a página, descobre que ela foi retirada —e só mais tarde recebe uma resposta padronizada via e-mail".

Warzel diz que sua caixa de entrada está repleta de mensagens de pessoas que pedem que ele interceda junto às plataformas em nome delas, às vezes por terem sido censuradas indevidamente, às vezes porque querem reportar conteúdo perturbador que acreditam deva ser removido.

O trabalho dos jornalistas não é resolver disputas para o Facebook e o Twitter. Mas os usuários insatisfeitos podem achar que têm mais chance de conseguir atenção de um repórter do que de alguém que é pago exatamente para resolver suas queixas.

É claro que seria muito pior se a empresa se recusasse a resolver os problemas apontados por jornalistas. Mas o jornalismo de denúncia não tem por objetivo consertar o sistema um caso por vez. Imagine se Nellie Fly tivesse de infiltrar o mesmo hospício repetidamente, e que cada uma de suas investigações resultasse em uma mudança gradual, como a demissão de uma enfermeira abusiva.

O que os jornalistas fazem é visto como não mais que sua obrigação, implícita e explicitamente. Em agosto, Jack Dorsey, presidente-executivo do Twitter, usou sua própria plataforma para defender a decisão de manter Alex Jones online.

"Contas como a de Jones muitas vezes sensacionalizam questões e divulgam boatos não substanciados, e por isso é essencial que jornalistas documentem, validem e refutem essa informação diretamente, para que as pessoas possam formar suas opiniões", ele afirmou. "Essa é a melhor maneira de atender ao interesse do público". Mas jornalistas e pesquisadores externos não têm acesso à riqueza de dados disponíveis internamente para empresas como o Twitter e o Facebook.

As empresas contam com todos os recursos de que necessitam, e têm a responsabilidade profunda de descobrir exatamente o que os jornalistas descobrem --mas de alguma forma não o fazem.

O papel que agentes externos desempenham, como defensores dos consumidores e verificadores de conteúdo, poderia facilmente ser desempenhado pelas empresas de mídia social. E ao contrário dos jornalistas, elas têm o poder de mudar os incentivos que continuam a resultar nesses fenômenos online perturbadores.

Que elas contem com o tempo dos jornalistas é especialmente paradoxal, se considerarmos os danos que as empresas de tecnologia estão causando ao setor de mídia. Pequenas mudanças na maneira pela qual o Facebook organiza o News Feed podem mudar radicalmente as condições econômicas para as organizações de mídia --ondas de contratações e demissões surgem pelo capricho de um algoritmo.

Enquanto as companhias de mídia social exploram os recursos do jornalismo para melhorar seus produtos, a hegemonia do Google e Facebook sobre a publicidade digital —há estimativas de que eles dominam 85% do mercado— está estrangulando o jornalismo.

Mas iluminar as campanhas coordenadas de desinformação que explodem ao nosso redor é uma questão muito maior que a morte da mídia impressa —​é uma tarefa essencial para a democracia, e pode mudar o curso de eleições e genocídios. As plataformas de mídia social não fazem favores à sociedade ao confiar nos jornalistas para extrair o veneno de seus sites. Porque nada disso é sustentável, e definitivamente não queremos descobrir o que acontece quando o carrossel parar de rodar.

Tradução de PAULO MIGLIACCI