Descrição de chapéu The Wall Street Journal

Facebook proíbe vídeos deepfakes, mas permite alguns tipos de conteúdo com informações falsas

O gigante das mídias sociais busca combater conteúdo falso modificado por ferramentas de inteligência artificial

The Wall Street Journal

O Facebook passou a proibir vídeos que foram manipulados usando ferramentas avançadas. Apesar disso, nem todo o conteúdo manipulado será removido, pois o gigante das mídias sociais tenta combater a desinformação sem reprimir a liberdade de expressão.

A política divulgada na segunda-feira (6) por Monika Bickert, vice-presidente de gerenciamento global de políticas do Facebook, é o passo mais concreto da empresa para combater a disseminação dos chamados deepfakes em sua plataforma.

Estande do Facebook em feira em Xangai, na China - Aly Song - 6.nov.2019/Reuters

Deepfakes são imagens ou vídeos que foram manipulados pelo uso de algoritmos sofisticados de aprendizado de máquina, tornando quase impossível diferenciar entre o que é real e o que não é.

"Embora esses vídeos ainda sejam raros na internet, eles representam um desafio significativo para nossa indústria e sociedade à medida que o uso aumenta", disse Bickert em uma publicação de blog.

O Facebook disse que removeria ou rotularia vídeos deturpados que foram editados ou manipulados de maneiras que não seriam aparentes para uma pessoa comum. Isso incluiria a remoção de vídeos nos quais as ferramentas de inteligência artificial são usadas para alterar as declarações feitas pelo sujeito do vídeo, ou substituir ou sobrepor o conteúdo.

As empresas de mídia social estão sob crescente pressão para eliminar conteúdo falso ou enganoso em seus sites antes das eleições presidenciais americanas deste ano.

No final do ano passado, o Google, da Alphabet, atualizou sua política de propaganda política e disse que proibiria o uso de deepfakes em anúncios políticos e outros. Em novembro, o Twitter disse que estava considerando identificar fotos, vídeos e áudio manipulados compartilhados em sua plataforma.

A ação do Facebook também pode expô-lo a novas controvérsias. Segundo a empresa, sua política de proibir deepfakes "não se estende a conteúdo que seja uma paródia ou sátira, ou vídeo que foi editado apenas para omitir ou alterar a ordem das palavras".

Isso poderia colocar a empresa na posição de ter que decidir quais vídeos são satíricos, quais não são e fazer a distinção sobre qual conteúdo falsificado será removido.

O Facebook já está tentando abordar outras questões de moderação de conteúdo antes das eleições presidenciais deste ano. A empresa, diferentemente de alguns rivais, afirmou que não bloquearia propagandas políticas, mesmo que elas contivessem informações imprecisas. Essa política foi alvo de críticas de alguns políticos, incluindo a senadora Elizabeth Warren, candidata democrata à Casa Branca. O Facebook disse depois que proibiria anúncios se eles incentivassem a violência.

A nova política também marca a mais recente frente da batalha do Facebook contra aqueles que usam inteligência artificial para espalhar mensagens em seu site. No mês passado, a empresa retirou centenas de contas falsas que usavam fotos geradas por IA para serem consideradas como reais.

Além da mais recente política do Facebook sobre deepfakes, que geralmente dependem de ferramentas de IA para mascarar que o conteúdo é falso, a empresa também continuará pesquisando outros conteúdos enganosos. Ela também analisará vídeos que foram alterados usando métodos menos sofisticados e limitará essas postagens.

A proibição do Facebook não se aplicaria a um vídeo alterado da presidente da Câmara, Nancy Pelosi. O vídeo de um discurso de Pelosi —amplamente compartilhado nas mídias sociais no ano passado— foi desacelerado e teve o tom alterado, fazendo com que suas palavras soassem arrastadas.

O Facebook disse que o vídeo não se qualificou como um deepfake porque usava edição normal, embora a empresa ainda tenha limitado sua distribuição por causa da manipulação.

“Se simplesmente removêssemos todos os vídeos manipulados sinalizados pelos verificadores de fatos como falsos, os vídeos ainda estariam disponíveis em outros lugares na Internet ou no ecossistema de mídia social. Ao deixá-los e rotulá-los como falsos, estamos fornecendo às pessoas informações e contextos importantes ", disse Bickert.

Tradução de AGFox

Comentários

Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.