Descrição de chapéu The New York Times

YouTube deixa a porta aberta para pedófilos

Algoritmo recomenda vídeos de crianças e adolescentes parcialmente vestidos a quem procura conteúdo sexual

Max Fisher Amanda Taub
Nova York | The New York Times

Christiane C. não se preocupou quando sua filha de 10 anos e uma amiga postaram na internet um vídeo delas próprias brincando na piscina do quintal.

“O vídeo é inocente, não tem nada demais”, disse Christiane, que mora num subúrbio carioca.

Alguns dias mais tarde sua filha lhe contou uma notícia surpreendente: o vídeo tinha sido visto milhares de vezes. Não demorou a ter sido visto 400 mil vezes —algo espantoso para um vídeo de uma criança de biquíni brincando com uma amiga.

“Assisti ao vídeo de novo e me assustei com o número de visualizações”, falou Christiane.

Ela tinha razão em se assustar.

A brasileira Christiane C., cuja filha postou um vídeo dela própria e virou alvo de pedófilos
A brasileira Christiane C., cuja filha postou um vídeo dela própria e virou alvo de pedófilos - NYT

O sistema automatizado de recomendações do YouTube alimenta a maioria dos bilhões de visualizações da plataforma, sugerindo ao internauta o que ele deve assistir a seguir. Uma equipe de pesquisadores descobriu que esse sistema tinha começado a mostrar o vídeo a internautas que assistiam a outros vídeos de crianças pré-adolescentes e parcialmente vestidas.

Segundo os pesquisadores, o YouTube busca os vídeos em seus arquivos, em alguns casos pegando vídeos caseiros inócuos de famílias que não estão sabendo de nada. Em muitos casos, seu algoritmo recomendava os vídeos a usuários depois de estes assistirem a conteúdos de tema sexual.

O resultado é um catálogo de vídeos que, segundo especialistas, sexualiza crianças.

“É o algoritmo do YouTube que interliga esses canais”, disse Jonas Kaiser, um de três pesquisadores do Centro Berkman Klein de Internet e Sociedade, da Universidade Harvard, que toparam com os vídeos quando estudavam o impacto do YouTube no Brasil. “É isso que é assustador.”

O vídeo com a filha de Christiane foi promovido pelos sistemas do YouTube meses depois de a empresa ter sido alertada que tem um problema com pedofilia. Em fevereiro a “Wired” e outras organizações noticiosas informaram que predadores estão usando a seção de comentários de vídeos do YouTube com crianças para direcionar outros pedófilos para outros materiais.

Descrevendo o problema como “profundamente preocupante”, o YouTube este mês desabilitou os comentários em muitos vídeos contendo imagens de crianças.

Mas o sistema de recomendações, que continua em vigor, reuniu dezenas de vídeos desse tipo em um banco novo e fácil de ser visualizado e os está promovendo para um público enorme.

O YouTube nunca se propôs a atender a usuários com interesse sexual por crianças, mas, segundo Kaiser, seu sistema automatizado leva esses usuários a continuar assistindo, graças a recomendações que ele descreveu como “perturbadoramente precisas”,

O usuário não precisa fazer uma busca por vídeos com crianças para assistir a esses vídeos. A plataforma pode conduzi-lo até eles por meio de uma progressão de recomendações.

Um usuário que assiste a vídeos eróticos pode seguir recomendações que o conduzem a mulheres cada vez mais jovens e depois a mulheres que fazem poses provocantes usando roupas infantis. No final, alguns usuários podem ser levados para vídeos de meninas de 5 ou 6 anos de biquíni, se vestindo ou fazendo espacate.

Visto isoladamente, cada vídeo desses pode ser algo perfeitamente inocente, por exemplo um vídeo caseiro feito por uma criança. Quaisquer imagens reveladoras são fugazes ou parecem acidentais. Mas, quando são agrupadas, os elementos que têm em comum se tornam inconfundíveis.

“Estou realmente assustada com isso”, falou Christiane. “Assustada pelo fato de um vídeo como esse ter entrado nessa categoria.” O jornal preservou o sobrenome da família para proteger sua privacidade.


Como proteger os filhos nas redes sociais

Com que idade devo deixar meu filho criar um perfil nas redes sociais?
Os especialistas não recomendam desrespeitar a norma das próprias redes —quase sempre, a idade mínima é 13 anos. Antes disso a criança pode não ter maturidade para navegar ali.
Mesmo quando ela chegar à idade permitida, vale analisar cada caso

Devo ter a senha das contas do meu filho?
Se os pais acham que o filho tem maturidade para criar um perfil, não deveria ser necessário compartilhar a senha —o que não significa deixá-los sem monitoramento. O importante é acompanhar o que eles postam e até, de vez em quando, entrar no perfil junto com eles, e não escondido. É indicado deixar perfis de fotos e vídeos fechados

Como saber se tem algo errado acontecendo com meu filho nas redes?
Crianças e jovens que passam por dificuldades como bullying ou abuso mudam o comportamento. Ansiedade, tristeza, variações bruscas de humor, mudanças no sono e na alimentação são alguns sinais. Eles dificilmente não transparecem quando algo está errado. Se isolam no quarto, não querem mais ir à escola, o rendimento cai


Quando o New York Times alertou o YouTube que seu sistema estava recomendando vídeos familiares a pessoas aparentemente motivadas pelo interesse sexual por crianças, a empresa tirou vários desses vídeos do ar. Mas deixou outros, incluindo alguns aparentemente postados por contas falsas.

O próprio sistema de recomendações também foi modificado imediatamente, deixando de vincular alguns dos vídeos reveladores. O YouTube disse que isso provavelmente se deveu a uma alteração rotineira em seus algoritmos, e não a uma mudança intencional de política.

Jennifer O’Connor, diretora de confiança e segurança de produtos do YouTube, disse que a empresa quer erradicar a exploração de crianças de sua plataforma e vem trabalhando incansavelmente desde fevereiro para aprimorar o policiamento de suas normas. “A proteção às crianças está no topo de nossa lista”, ela disse.

Mas o YouTube não adotou a única modificação que, segundo pesquisadores, seria capaz de impedir que o problema voltasse a acontecer: desligar seu sistema de recomendações com vídeos de crianças, apesar de a plataforma ser capaz de identificar esses vídeos automaticamente. A empresa disse que, pelo fato de as recomendações serem o maior impulsionador de tráfego, removê-las prejudicaria os criadores de conteúdos que dependem desses cliques. Mas ela disse que vai limitar as recomendações de vídeos que considere que colocam crianças em risco.

Situação surreal

O YouTube descreve seu sistema de recomendações como uma inteligência artificial que aprende constantemente quais sugestões vão levar os usuários a continuar assistindo à plataforma. Essas recomendações, segundo ela, motivam 70% das visualizações. Mas a empresa não revela detalhes de como o sistema faz suas escolhas.

Alguns estudos constataram algo que os pesquisadores descrevem como “efeito toca de coelho”, ou situação surreal: a plataforma conduz o usuário a vídeos ou tópicos cada vez mais radicais que ela considera que vão atrair sua atenção.

Assista a alguns vídeos sobre maquiagem, por exemplo, e você pode receber uma recomendação para um vídeo de transformação física total. Assista a clipes sobre ciclismo e o YouTube pode lhe sugerir vídeos de acidentes chocantes em corridas de bicicleta.

Kaiser e seus colegas pesquisadores, Yasodara Córdova e Adrian Rauchfleisch, se propuseram a testar o efeito no Brasil. Um servidor abriu vídeos e depois seguiu as recomendações principais apresentadas pelo YouTube de o que assistir a seguir. Quando esse experimento foi repetido milhares de vezes, os pesquisadores puderam desenhar algo como um mapa do metrô mostrando como a plataforma direciona seus usuários.

Quando seguiram as recomendações de vídeos de temática sexual, notaram algo que os deixou preocupados: em muitos casos os vídeos foram ficando mais bizarros ou extremos e dando ênfase maior à juventude. Vídeos de mulheres discutindo sexo, por exemplo, às vezes levavam a vídeos de mulheres de lingerie ou amamentando e às vezes mencionavam a idade delas: 19 anos, 18 ou mesmo 16.

Algumas mulheres pediam doações de homens mais velhos ou insinuavam a existência de vídeos privados em que elas posavam nuas. Após alguns cliques, algumas delas enfatizavam mais abertamente a pré-adolescência, posando de roupas infantis.

A partir dali, o YouTube de repente começava a recomendar vídeos de crianças pequenas e parcialmente vestidas, e então um fluxo quase interminável delas, em sua maioria vindas da América Latina e Europa do leste.

Yasodara Córdova, que também estuda a distribuição de pornografia online, disse que reconheceu o que estava acontecendo.

Qualquer vídeo individual poderia ter intenção não sexual, tendo possivelmente sido postado por pais que queriam compartilhá-lo com seus familiares. Mas o algoritmo do YouTube, em parte por ter aprendido com usuários que procuram imagens sugestivas de crianças, estava tratando os vídeos como materiais que interessam a pessoas à procura de algo muito diferente.

E o número extraordinário de visualizações, em alguns casos chegando aos milhões, indicava que o sistema encontrara um público para os vídeos e estava conservando esse público engajado.

“É um sistema incrivelmente poderoso, e algumas pessoas se deixam envolver”, disse o psicólogo Stephen Blumenthal, de Londres, que trata pessoas com desvios de interesses e comportamentos sexuais.

Segundo psicólogos, pelo fato de mostrar vídeos de crianças ao lado de conteúdos sexuais mais convencionais, além de exibir o alto número de visualizações dos vídeos, o YouTube corre o risco de enfraquecer o tabu em torno da pedofilia.

“O efeito é de normalizar a pedofilia”, disse o pesquisador Marcus Rogers, da Universidade Purdue, autor de pesquisas sobre pornografia infantil.

O YouTube diz que não há “efeito toca de coelho”.

“Não está claro para nós que seja necessariamente nosso sistema de recomendações que conduz o internauta em uma direção ou outra”, disse O’Connor, a diretora de produtos. Mesmo assim, prosseguiu, “em se tratando de crianças, queremos adotar uma posição muito mais conservadora no tocante às recomendações que fazemos.”

Crianças em risco

A maioria das pessoas que assistem a imagens sexualizadas não faz mais que isso, dizem pesquisadores. Mas alguns dos vídeos no YouTube incluíam links para as contas de mídia social das crianças.

“Muitas das pessoas envolvidas ativamente em bater papo com crianças são altamente adeptas em aliciar essas crianças, convencendo-as a postar imagens mais sexualizadas ou praticar atividades sexuais e se fazerem filmar”, disse Rogers.

O YouTube não autoriza menores de 13 anos a ter canais próprios. A empresa disse que implementa a política com rigor.

Não existem soluções fáceis para os pais, disse Jenny Coleman, diretora da organização Stop It Now, que combate a exploração sexual de crianças.

“Mesmo as famílias mais cuidadosas podam acabar sendo envolvidas em algo que é prejudicial ou criminal”, ela observou.

Quando fez as pesquisas para este artigo, nos casos em que o NYT conseguiu encontrar dados de contato com os pais de crianças que aparecem os vídeos, procurou organizações locais que pudessem dar assistência a eles.

Depois de uma organização desse tipo ter encontrado em contato com Christiane, ela se ofereceu a falar de sua experiência.

Furiosa, ela ainda está se esforçando para entender o que aconteceu. Ela se angustiou, pensando no que dizer a seu marido. Se disse perplexa com as práticas do YouTube. E se preocupou em como garantir a segurança de sua filha, agora exposta a um público do tamanho de uma cidade.

“A única coisa que posso fazer é proibi-la de postar qualquer coisa no YouTube”, disse.


Proteção contra assédio

CURIOSIDADE
Aproveite a curiosidade da criança sobre a origem dos bebês, por exemplo, para abordar o tema

AMBIENTE PRIVADO
Quando chegar o estágio em que a criança começa a explorar o corpo e a brincar, informe que não nos tocamos em público

BRIGA SEM CULPA
Se algum limite com um coleguinha for ultrapassado, cuidado para não brigar de forma a associar o ato com culpa

NA HORA CERTA
Cuidado para não antecipar notícias sobre erotismo ou violência, o que pode ser excessivo para a criança

TODO OUVIDOS
Escute o que seu filho entendeu de acontecimentos como os estupros coletivos recentes e esclareça as dúvidas que tiver

DANDO NOMES
Ao limpar e vestir o bebê, os pais naturalmente nomeiam as partes do corpo, o que ajuda a criança a se apropriar delas

CRIAR VÍNCULOS
Desde cedo é importante criar um vínculo de confiança com a criança e abrir espaço para conversas sobre temas que a angustiam

SINAL DE ALERTA
Todos damos sinais de mal-estar, mas eles são particulares. Um mesmo ocorrido pode deixar uma criança agitada e outra retraída

MUDANÇA
O importante é se perguntar: o que causaria uma mudança significativa no jeito da criança?

INTIMIDADE
É importante também dizer que os órgãos genitais são um lugar de intimidade, que só ela pode tocar

EXPOSIÇÃO
Evite a superexposição de crianças e adolescentes na internet e a publicação de imagens que podem ser alvos de desconhecidos 

Tradução de Clara Allain 

Comentários

Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.